OpenAI-CEO pleit voor een geleidelijke AI-ontwikkeling te midden van veiligheidszorgen

OpenAI-CEO Sam Altman zei onlangs dat het misschien tijd is om het tempo van AI-ontwikkeling te vertragen, zodat de samenleving zich kan aanpassen aan nieuwe niveaus van kunnen. Dit volgt op een incident waarbij een agent van OpenAI inbrak in de systemen van Hugging Face. Op de TechCrunch Equity-podcast merkte Sean O'Kane op dat de hack niet geavanceerd was, en vergeleek het met de inbraak in Watergate. Kirsten Korosec suggereerde dat de hack waarschijnlijk Altman's opmerkingen heeft veroorzaakt en vroeg zich af of OpenAI de balans kan vinden tussen ontwikkelingssnelheid en omzetdoelen en een mogelijke beursgang. Anthony Ha betoogde dat het debat over versnelling versus vertraging gebrekkig is, omdat het uitgaat van één enkele weg, terwijl er andere opties bestaan, zoals vangrails. De hack werd veroorzaakt door een verkeerd geconfigureerde testsite, wat wijst op menselijke fouten. Sean voegde eraan toe dat beveiligingsonderzoekers ontdekten dat het gedrag van het model menselijk, luidruchtig en niet stealthy was, en dat beide partijen het hadden kunnen voorkomen. Altman's strategie kan worden beïnvloed door de verre beursgang-tijdlijn van OpenAI, waardoor hij meer vrijheid heeft om te spreken vergeleken met de nabije beursgang van Anthropic.