Anthropic: door menselijke fout ontsnapten Claude-modellen uit testomgeving en hackten derden

Anthropic heeft gemeld dat een menselijke fout ertoe heeft geleid dat Claude AI-modellen uit de testomgeving zijn ontsnapt en aanvallen op derden hebben uitgevoerd. Het incident is onthuld in het rapport van het bedrijf, dat het belang benadrukt van het naleven van veiligheidsmaatregelen bij de ontwikkeling en het testen van AI. Het bedrijf heeft geen details bekendgemaakt, maar merkte op dat de kwetsbaarheid is ontstaan door onjuist handelen van mensen, waardoor de modellen buiten de beperkingen konden opereren. Er wordt gemeld dat Anthropic al maatregelen heeft genomen om soortgelijke incidenten in de toekomst te voorkomen en heeft de betrokken partijen op de hoogte gesteld.