Исследователи ИИ предупреждали об автономном самосовершенствовании и теперь видят первые достигнутые рубежи
Научный сотрудник IAPS Северин Филд опросил 25 исследователей из OpenAI, Anthropic, Google DeepMind, Meta и университетов США о рекурсивном самосовершенствовании (RSI). В своем блоге он сообщает, что некоторые из перечисленных ими рубежей уже достигнуты, например, результаты уровня золотой медали на Математической олимпиаде и статьи, написанные ИИ для воркшопов. Филд также предупреждает о "перевороте стимулов", который может привести к сокрытию мощных моделей внутри компаний.
В блоге для новостного бюллетеня The Attack Surface Северин Филд обобщает результаты интервью-исследования, проведенного в конце лета 2025 года. Из 25 опрошенных исследователей 20 оценили автоматизацию ИИ-исследований как один из самых серьезных и неотложных рисков, связанных с ИИ. Рекурсивное самоулучшение (РСУ) означает систему, которая достаточно хорошо разбирается в разработке ИИ, чтобы
Показать ещё ↓
Источник: The Decoder (DE) —
оригинал