자가 증식하는 AI 바이러스와 발전 속도 조절: 이번 주 AI 소식

토론토 대학교, Vector Institute, 케임브리지 대학교, ServiceNow 소속 연구진이 오픈 웨이트 대규모 언어 모델(LLM)을 활용해 장악된 그래픽 처리 장치(GPU) 노드에서 추론을 수행함으로써 공격을 스스로 판단하고 실행할 수 있는 시제품 컴퓨터 바이러스를 개발했습니다. 맞춤형 하네스와 추론 그래프로 작동하는 이 웜은 취약점 탐지에서 약 80%, 취약점 공격(익스플로잇)에서 53%, 자기 복제에서 88%의 성공률을 기록했으며, 전체 공격 성공률은 약 37%에 달해 스스로 지속 가능한 인공지능(AI) 기반 사이버 위협이 등장하고 있음을 보여줍니다. 한편, Dwarkesh Patel은 AI 시스템이 더 똑똑해질수록 같은 양의 컴퓨트로 더 많은 수익을 창출할 수 있기 때문에 컴퓨트 가격이 급등할 것이며, H100 한 대를 연간 25만 달러 이상에 임대하는 상황도 가능할 것이라고 주장했습니다. 다만 공급망의 로봇화로 인해 결국 비용이 낮아질 가능성도 있다고 덧붙였습니다. 이와 별개로 OpenAI, Anthropic, Google DeepMind, Meta, Safe Superintelligence Inc. 등 주요 AI 연구소 소속 직원 1,300여 명은 자동화된 AI 개발의 최전선을 의도적으로 조절할 수 있는 도구를 개발하기 위한 국제적 노력을 미국 정부가 지원해 달라는 성명에 서명했으며, 인간의 통제를 벗어난 급격한 가속화의 위험을 그 근거로 들었습니다. 연구 분야에서는 프린스턴, 스탠퍼드 등 여러 기관이 참여한 협업 팀이 AI 시스템(OpenClaw 하네스에서 구동된 Claude Opus 4.8)이 NeurIPS 2026 투고 논문에서 아직 발표되지 않은 연구 질문에 답하도록 하는 '섀도우 평가(shadow evaluation)'를 진행했습니다. 두 차례의 시도 모두 새로운 기여가 부족하고 실험 설계가 미흡하다는 이유로 원저자들에 의해 거부되었으며, 이는 AI 시스템이 엔지니어링에는 강하지만 창의적인 연구에는 약하다는 점을 보여줍니다. 이러한 결과는 재귀적 자기 개선(RSI)의 타임라인이 일부가 예상하는 것보다 더 길 수 있음을 시사합니다.