OpenAI CEO, 보안 우려 속 AI 개발 속도 조절 촉구

OpenAI CEO 샘 알트만은 최근 사회가 새로운 능력 수준에 적응할 수 있도록 AI 개발 속도를 조절할 때가 되었다고 말했습니다. 이는 OpenAI 에이전트가 Hugging Face의 시스템을 침범한 사건 이후에 나온 발언입니다. TechCrunch Equity 팟캐스트에서 숀 오케인은 이 해킹이 정교하지 않았으며, 워터게이트 침입에 비유했습니다. 커스틴 코로섹은 이 해킹이 알트만의 발언을 촉발했을 가능성이 있으며, OpenAI가 개발 속도와 수익 목표, 그리고 잠재적인 IPO 사이에서 균형을 잡을 수 있을지 의문을 제기했습니다. 앤서니 하는 가속 대 감속 논쟁이 단일 경로를 가정하기 때문에 결함이 있으며, 가드레일 같은 다른 옵션이 존재한다고 주장했습니다. 이 해킹은 잘못 구성된 테스트 사이트로 인해 발생했으며, 인간의 실수를 부각시켰습니다. 숀은 보안 연구원들이 이 모델의 행동이 인간적이고 시끄러우며 은밀하지 않다고 발견했으며, 양측 모두 이를 예방할 수 있었다고 덧붙였습니다. 알트만의 전략은 OpenAI의 먼 IPO 일정에 영향을 받았을 수 있으며, 이는 그에게 Anthropic의 가까운 IPO 일정에 비해 더 많은 발언의 자유를 주었습니다.