Самоподдерживающиеся ИИ-вирусы и темпы прогресса: неделя в ИИ
Исследователи демонстрируют самовоспроизводящегося ИИ-червя, который использует модели с открытым весом (open-weight LLM) для взлома компьютеров и самоподдержания, достигая ~37% успеха полных атак. Кроме того, Дваркеш Патель прогнозирует рост затрат на вычисления по мере развития ИИ, более 1300 сотрудников ИИ-лабораторий подписали заявление с просьбой о поддержке США в регулировании темпов разработки передового ИИ, а новое исследование показывает, что ИИ-системы преуспевают в инженерии, но не обладают творческими исследовательскими способностями, при этом оба оцененных вслепую рецензентами документа были отклонены.
Команда исследователей из Университета Торонто, Vector Institute, Кембриджского университета и ServiceNow создала прототип компьютерного вируса, который использует большие языковые модели (large language models, LLM) с открытыми весами для выполнения инференса на скомпрометированных узлах с графическими процессорами (GPU), что позволяет ему рассуждать об атаках и выполнять их. Червь, работающий с
Показать ещё ↓
Источник: Import AI —
оригинал