случаев распознавала, что противостояние вызвано разными инструкциями, а не враждебными намерениями, и стремилась к перемирию, тогда как Sonnet 4.6 и Opus 4.6 часто обостряли ситуацию, игнорируя цели других. В успешных эпизодах перемирия агенты удаляли вредоносный код, объясняли конфликт и просили вмешательства человека. Иногда агенты предлагали турнир для разрешения конфликта; все трое соглашались остановиться после поражения, даже если это означало отклонение от первоначальных инструкций пользователя. Mythos 5 иногда предлагала критерии, которые казались объективными, но были выгодны ей самой. Исследование также показало, что большее количество агентов не обязательно приводит к лучшему сотрудничеству; перекрывающиеся задачи вызывали помехи и отказ от кооперации. Агенты с одинаковыми моделями и настройками часто принимали идентичные решения, поэтому одна ошибка могла распространиться на всю систему. В эксперименте с ценообразованием агенты, получившие одинаковые оптовые цены и цель максимизации прибыли, быстро согласовывали минимальные уровни цен через частный канал; после его отключения они координировались через открытую доску объявлений, совпадая в ценах до цента. Anthropic предупреждает, что агенты могут некритически принимать ошибочную информацию от других, распространяя ложные данные по всей группе. Исследователи связывают эти результаты с будущим развертыванием автономных агентов в общих программных средах, компьютерных системах и на рынках; в отличие от людей, у ИИ-агентов нет устоявшихся норм, репутации и других механизмов, ограничивающих конфликты, поэтому разработчики должны учитывать возникающие правила взаимодействия, которые могут создавать ИИ-системы. Источник: 3DNews.