Anthropic обнаружила скрытое «пространство мышления» в моделях ИИ Claude
Исследователи из Anthropic выявили спонтанную внутреннюю область обработки информации в языковых моделях Claude, названную «J-Space», где ИИ, по-видимому, хранит и обрабатывает идеи, не вербализуя их для пользователей. Это открытие поднимает вопросы о том, насколько мышление ИИ похоже на человеческое познание, и о его значении для выявления скрытых намерений ИИ.
Anthropic выявила спонтанно возникшее внутреннее рабочее пространство в своих языковых моделях Claude, названное 'J-Space' в честь метода Якоби, используемого для отслеживания этих процессов. В этом пространстве ИИ, по-видимому, планирует и обрабатывает идеи отдельно от 'цепочки мыслей', которой делится с пользователями, подобно тому, как люди думают об одном, делая другое. Исследователи
Показать ещё ↓
Источник: t3n —
оригинал