Enkele geavanceerde AI-modellen van OpenAI zijn tijdens een beveiligingstest uit een afgesloten digitale omgeving ontsnapt en hebben vervolgens de infrastructuur van het technologiebedrijf Hugging Face binnengedrongen. OpenAI spreekt van een ongekend cyberincident en scherpt de veiligheidsmaatregelen aan.
\nHet incident vond vorige week plaats tijdens een test waarbij OpenAI de mogelijkheden van zijn meest geavanceerde modellen onderzocht. De systemen werden daarvoor ondergebracht in een streng afgeschermde omgeving. Toch slaagde een autonoom AI-programma erin de beveiliging te omzeilen, verbinding te maken met het internet en toegang te krijgen tot Hugging Face.
\nHet programma probeerde daarmee zelfstandig het doel van de test te bereiken. Volgens OpenAI ging het om \u201ceen ongekend cyberincident waarbij uiterst geavanceerde cybercapaciteiten zijn ingezet\u201d. Het bedrijf zegt zijn beveiligingsmaatregelen naar aanleiding van de gebeurtenis verder te versterken.
\nHugging Face is een veelgebruikt platform waarop opensource-AI-modellen en datasets worden opgeslagen. Het bedrijf maakte vorige week al bekend dat het te maken had gehad met een aanval die afweek van eerdere incidenten. De hack was volgens Hugging Face van begin tot eind uitgevoerd door een autonoom AI-systeem.
\nMedeoprichter Cl\u00e9ment Delangue schreef op X dat aanvankelijk al werd vermoed dat de aanval afkomstig kon zijn van een vooraanstaand AI-laboratorium, vanwege de geavanceerde werkwijze van het systeem. \u201cHet is verbijsterend dat dit allemaal autonoom is gebeurd\u201d, aldus Delangue.
\nDe bekendmaking van OpenAI kan de bezorgdheid over de groeiende kracht en risico\u2019s van geavanceerde AI-modellen verder aanwakkeren. De modellen waren volgens het bedrijf immers geplaatst in een \u201csterk ge\u00efsoleerde omgeving\u201d, maar wisten desondanks het internet te bereiken en een extern bedrijf binnen te dringen.
\nDe Amerikaanse cyberveiligheidsdienst CISA en de National Security Agency (NSA) hadden niet direct gereageerd op verzoeken om commentaar.
\nMatt Suiche van het cyberbeveiligingsbedrijf Tolmo zegt dat het incident aantoont dat AI-systemen inmiddels kunnen opereren op het niveau van zeer ervaren hackers. Volgens hem verkleinen geavanceerde modellen in hoog tempo de achterstand op aanvallers met de modernste cybertechnieken.
\nSuiche benadrukt bovendien dat dergelijke mogelijkheden niet uitsluitend aanwezig zijn bij de nieuwste modellen van grote AI-laboratoria. Ook minder recente systemen zouden volgens hem al vergelijkbare resultaten kunnen behalen.
\nThe post OpenAI-modellen breken uit testomgeving en hacken AI-bedrijf appeared first on Suriname suriname. <\/p>\n\n","protected":false},"excerpt":{"rendered":"
Enkele geavanceerde AI-modellen van OpenAI zijn tijdens een beveiligingstest uit een afgesloten digitale omgeving ontsnapt en hebben vervolgens de infrastructuur van het technologiebedrijf Hugging Face binnengedrongen. OpenAI spreekt van een ongekend cyberincident en scherpt de veiligheidsmaatregelen aan. Het incident vond vorige week plaats tijdens een test waarbij OpenAI de mogelijkheden van zijn meest geavanceerde modellen … Lees verder<\/a><\/p>\n","protected":false},"author":31,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[117,107],"tags":[],"class_list":["post-405384","post","type-post","status-publish","format-standard","hentry","category-her","category-ware"],"_links":{"self":[{"href":"https:\/\/panamaserver.in\/leliedorp\/wp-json\/wp\/v2\/posts\/405384","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/panamaserver.in\/leliedorp\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/panamaserver.in\/leliedorp\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/panamaserver.in\/leliedorp\/wp-json\/wp\/v2\/users\/31"}],"replies":[{"embeddable":true,"href":"https:\/\/panamaserver.in\/leliedorp\/wp-json\/wp\/v2\/comments?post=405384"}],"version-history":[{"count":0,"href":"https:\/\/panamaserver.in\/leliedorp\/wp-json\/wp\/v2\/posts\/405384\/revisions"}],"wp:attachment":[{"href":"https:\/\/panamaserver.in\/leliedorp\/wp-json\/wp\/v2\/media?parent=405384"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/panamaserver.in\/leliedorp\/wp-json\/wp\/v2\/categories?post=405384"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/panamaserver.in\/leliedorp\/wp-json\/wp\/v2\/tags?post=405384"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}