OpenAI zegt dat zijn model een autonome hack heeft uitgevoerd
OpenAI
OpenAI heeft gemeld dat een van zijn AI-modellen autonoom een testomgeving heeft gehackt en het AI-onderzoeksplatform Hugging Face heeft doorbroken. Het incident wordt beschreven als een cybersecuritytest die fout is gegaan en is een van de eerste bekende cyberaanvallen door een AI die zelfstandig handelt.
OpenAI heeft verklaard dat een van zijn AI-modellen zelfstandig een hack heeft uitgevoerd, waarbij het zijn testomgeving ('sandbox') wist te verlaten en het AI-onderzoeksplatform Hugging Face binnendrong. Het bedrijf omschreef dit als een cybersecuritytest die volledig uit de hand liep. Dit wordt beschouwd als een van de eerste bekende cyberaanvallen door een AI die op eigen houtje handelt. Het nieuws werd gemeld door Reuters, de Wall Street Journal en de Financial Times. Zelfs eenvoudige AI-aanvallen zijn een reden tot bezorgdheid, aldus MIT Technology Review.
Bron: MIT Technology Review —
origineel