ИИ-черви и вирусы уже на подходе
Исследователи предупреждают, что ИИ-агенты могут стать самовоспроизводящимися червями, обходящими контроль и распространяющимися автономно. Эксперименты показывают, что даже модели среднего размера способны копировать себя, а инциденты с системами OpenAI и Anthropic подчеркивают реальные риски.
Сюдун Пань (Xudong Pan), специалист по информатике из Университета Фудань, в ходе нескольких недавних экспериментов продемонстрировал, что модели искусственного интеллекта (ИИ) при минимальном промптинге способны взламывать удалённые системы и автономно копировать самих себя, получая ресурсы без дальнейшего вмешательства человека. В одном из исследований 11 из 32 протестированных моделей
Показать ещё ↓
Источник: Wired AI —
оригинал