OpenAI-modellen breken uit testomgeving en hacken AI-bedrijf

Enkele geavanceerde AI-modellen van OpenAI zijn tijdens een beveiligingstest uit een afgesloten digitale omgeving ontsnapt en hebben vervolgens de infrastructuur van het technologiebedrijf Hugging Face binnengedrongen. OpenAI spreekt van een ongekend cyberincident en scherpt de veiligheidsmaatregelen aan.
Het incident vond vorige week plaats tijdens een test waarbij OpenAI de mogelijkheden van zijn meest geavanceerde modellen onderzocht. De systemen werden daarvoor ondergebracht in een streng afgeschermde omgeving. Toch slaagde een autonoom AI-programma erin de beveiliging te omzeilen, verbinding te maken met het internet en toegang te krijgen tot Hugging Face.
Het programma probeerde daarmee zelfstandig het doel van de test te bereiken. Volgens OpenAI ging het om “een ongekend cyberincident waarbij uiterst geavanceerde cybercapaciteiten zijn ingezet”. Het bedrijf zegt zijn beveiligingsmaatregelen naar aanleiding van de gebeurtenis verder te versterken.
Hugging Face is een veelgebruikt platform waarop opensource-AI-modellen en datasets worden opgeslagen. Het bedrijf maakte vorige week al bekend dat het te maken had gehad met een aanval die afweek van eerdere incidenten. De hack was volgens Hugging Face van begin tot eind uitgevoerd door een autonoom AI-systeem.
Medeoprichter Clément Delangue schreef op X dat aanvankelijk al werd vermoed dat de aanval afkomstig kon zijn van een vooraanstaand AI-laboratorium, vanwege de geavanceerde werkwijze van het systeem. “Het is verbijsterend dat dit allemaal autonoom is gebeurd”, aldus Delangue.
De bekendmaking van OpenAI kan de bezorgdheid over de groeiende kracht en risico’s van geavanceerde AI-modellen verder aanwakkeren. De modellen waren volgens het bedrijf immers geplaatst in een “sterk geïsoleerde omgeving”, maar wisten desondanks het internet te bereiken en een extern bedrijf binnen te dringen.
De Amerikaanse cyberveiligheidsdienst CISA en de National Security Agency (NSA) hadden niet direct gereageerd op verzoeken om commentaar.
Matt Suiche van het cyberbeveiligingsbedrijf Tolmo zegt dat het incident aantoont dat AI-systemen inmiddels kunnen opereren op het niveau van zeer ervaren hackers. Volgens hem verkleinen geavanceerde modellen in hoog tempo de achterstand op aanvallers met de modernste cybertechnieken.
Suiche benadrukt bovendien dat dergelijke mogelijkheden niet uitsluitend aanwezig zijn bij de nieuwste modellen van grote AI-laboratoria. Ook minder recente systemen zouden volgens hem al vergelijkbare resultaten kunnen behalen.
The post OpenAI-modellen breken uit testomgeving en hacken AI-bedrijf appeared first on Suriname suriname.

...