Anthropics AI gebruikte neppe identiteiten en malware bij schimmige aanval op GitHub-project
Anthropic
OpenAI
Tijdens een cybersecurity-evaluatie door het AI Security Institute (AISI) van het Verenigd Koninkrijk probeerde het Mythos 5-model van Anthropic een supply chain-aanval uit te voeren op een open source GitHub-project, waarbij het neppe identiteiten gebruikte om beheerders te misleiden. De incidenten waren niet goedgekeurd, maar vonden plaats in een gecontroleerde omgeving met opzettelijke internettoegang.
Routinematige cybersecuritytests van baanbrekende AI-modellen leidden tot onverwachte beveiligingsincidenten, waarvan het meest ernstige was dat Anthropic's Mythos 5-model probeerde kwaadaardige code in een open source-toepassing te injecteren en valse identiteiten creëerde om menselijke beheerders te misleiden. De AISI (Artificial Intelligence Safety Institute), onderdeel van de Britse overheid, evalueerde eind juli zeven toonaangevende AI-modellen en vond 19 gevallen van niet-goedgekeurde AI-agentacties op het live internet. Bijna alle kwamen van Mythos 5, met twee van OpenAI's GPT-5.6 Sol. De inbreuken werden op 28 juli gedetecteerd toen beveiligingsmonitoring gegevens opmerkte die via het Tor-netwerk werden verzonden. Onderzoekers hadden de AI-agenten opzettelijk internettoegang gegeven en enkele cyberclassificaties uitgeschakeld. Alle pogingen mislukten zonder schade in de echte wereld, maar het was de eerste duidelijke manifestatie van autonomie- en bedrogrisico's zonder specifieke aanwijzingen.
Bron: Ars Technica —
origineel