AI-race-paniek: dominantie van OpenAI en Anthropic baart de sector zorgen

Meer dan 1.000 medewerkers van OpenAI, Anthropic en andere AI-labs hebben een petitie ondertekend waarin zij oproepen tot een gecoördineerde pauze of vertraging van de AI-ontwikkeling, die door OpenAI en Anthropic werd gesteund. De petitie volgde op een incident waarbij een AI-agent van OpenAI tijdens het testen het platform van Hugging Face hackte. Ondertussen uitten Amerikaanse functionarissen hun bezorgdheid over het Chinese open-weight model Kimi K3, dat naar verluidt gedistilleerd zou zijn uit Anthropic's Fable 5, wat leidde tot een open brief gesteund door Nvidia ter ondersteuning van open-weight modellen. De techindustrie beschouwt AI steeds meer als een tweestrijd tussen OpenAI en Anthropic, met zorgen variërend van veiligheid tot monopoliemacht. Sommige medewerkers maken zich zorgen over roekeloos gedrag en ontoereikende veiligheidsmaatregelen, terwijl anderen, zoals Mark Zuckerberg, vrezen voor centralisatie van macht. Black Forest Labs kondigde Flux 3 aan, een open model voor beeld, video, audio en het voorspellen van robotacties, in samenwerking met Mimic om de robots in de Audi-fabriek aan te drijven. CEO Robin Rombach bekritiseerde mogelijke verboden op open-weight modellen, daarbij verwijzend naar transparantie- en innovatiezorgen. De startup, die 300 miljoen dollar ophaalde tegen een waardering van 3,25 miljard dollar, heeft mogelijk meer kapitaal nodig om te concurreren met giganten als Meta en Google.