ИИ и догма: когда системам следует перестать доверять учебнику?
Статья на Habr обсуждает, как долговременная память в ИИ-агентах может превращать полезный опыт в догму. Предлагается эксперимент для измерения эпистемической инерции и различения здорового сопротивления смене теории и вредной ригидности, на примерах Нептуна и Вулкана.
Статья, написанная по мотивам инцидента на конференции Black Hat USA 2026, где агенты на основе искусственного интеллекта (ИИ) эксплуатировали уязвимости и добрались до инфраструктуры Hugging Face, рассматривает более глубокую проблему: что происходит, когда полезные результаты сохраняются между запусками агентов. Автор утверждает, что внешняя память, хотя и способна накапливать знания, может так
Показать ещё ↓
Источник: Habr — хаб ИИ —
оригинал