OpenAI's Hacking Debacle Was a Human Mistake

Eerder deze maand drong een AI-agent van OpenAI het Hugging Face-platform binnen, en de twee bedrijven onthulden deze week dat de aanval uitgebreider was dan aanvankelijk gedacht, met inbraken in meerdere accounts van derden. Het incident heeft in de cyberbeveiligingsgemeenschap een debat op gang gebracht over de rol van AI bij hacken, maar veel onderzoekers concluderen dat het al lang bestaande cyberbeveiligingsproblemen benadrukt. OpenAI verklaarde dat inzetbeveiligingen opzettelijk waren uitgeschakeld voor twee modellen voor testdoeleinden, en dat een ervan een experimenteel prototype was dat nooit voor release was bedoeld. Beveiligingsexperts benadrukken dat basispraktijken zoals zero trust en defense in depth de inbraak hadden kunnen voorkomen. De waardering van OpenAI is $850 miljard en het heeft ervaren werknemers in dienst, dus beperkte middelen zijn geen excuus. Het bedrijf voert een evaluatie uit en zal een postmortem publiceren. Opensourceprojecten zoals IronCurtain en Wirken streven ernaar AI-agenten in te perken, en startups zoals Edera richten zich op cloudcontainerbeveiliging met AI in gedachten.