Fields-Medaille-Gewinner warnt vor "Omnicide-Ereignissen" durch KI und tritt OpenAI bei

Jacob Tsimerman, ein Zahlentheoretiker an der Universität Toronto und kürzlich mit der Fields-Medaille ausgezeichnet, gab bekannt, dass er zu OpenAI stößt, um an KI-Sicherheit zu arbeiten. In einem Interview beschrieb er KI als eine äußerst transformative Technologie und forderte deutlich mehr Investitionen in KI-Sicherheit. Er argumentierte, dass Mathematiker einen bedeutenden Beitrag leisten können, da KI derzeit empirisch arbeitet und es kaum Garantien dafür gibt, wie ihre Systeme funktionieren. Tsimerman verfasste außerdem ein Papier über sogenannte 'Omnicid-Ereignisse', Szenarien, in denen KI zur Auslöschung der Menschheit beitragen könnte, eine Position, die unter Experten umstritten ist. Er erklärte, dass Panik nicht die angemessene Reaktion sei, aber die Risiken müssten ehrlich betrachtet werden, und er ist überzeugt, dass KI bald den Menschen in der mathematischen Forschung übertreffen wird. Der ehemalige DeepMind-CEO Demis Hassabis kommentierte ebenfalls die jüngsten KI-Fortschritte in der Mathematik und betrachtete sie als Fortschritt, aber noch nicht als grundlegenden Durchbruch wie DeepMinds AlphaGo 'Move 37'. Er sagte, dass KI für einen solchen Durchbruch grundlegende Probleme wie die Millennium-Probleme lösen müsste, was OpenAIs neues Modell Astra bisher nicht geschafft hat. Hassabis fügte hinzu, dass er keinen Grund sehe, warum es nicht passieren sollte.