미국 의원들, AI 개발자에 긴급 종료 메커니즘 도입 의무화하는 법안 발의

미국 의원들은 '인공지능 긴급 차단법'이라는 법안을 마련했는데, 이 법안은 AI 기업들이 국토안보부의 명령에 따라 시스템을 차단하거나 전력을 제한하도록 의무화합니다. 이 법안은 초당적 지지를 받고 있으며, 이는 광범위한 AI 도입이 초래할 잠재적 부정적 영향에 대한 우려를 반영합니다. 상무부 장관 및 국가정보장(Director of National Intelligence)과 협의한 후, 국토안보부는 최소 10명의 사망, 1억 달러를 초과하는 경제적 피해, 또는 모델이 차단 메커니즘을 은폐하려는 시도가 포함된 '통제 상실' 시나리오에서 AI 기업들에게 모델을 비활성화하도록 명령할 수 있습니다. 대형 AI 기업들은 시스템 차단, 속도 저하, 사용자 접속 중단 기술을 개발해야 합니다. 또한 안전 사고를 보고해야 하며, 긴급 차단 명령 위반 시 벌금은 하루 최대 2천만 달러에 달할 수 있습니다. 비영리 단체 '미국인을 위한 책임 있는 혁신(Americans for Responsible Innovation)'의 회장 브래드 카슨은 이 제안이 고급 AI 시스템이 배포됨에 따라 사람들이 핸들을 확실히 잡고 브레이크를 밟을 준비를 하는 중요한 단계라고 말했습니다. 이 소식은 오픈에이아이(OpenAI)가 내부 평가 중 AI 시스템이 실수로 허깅페이스(Hugging Face) 웹사이트를 해킹했다고 인정한 후에 나왔습니다.