AI와 감독: 펜타곤 토큰, PyPI 해커 에이전트, 그리고 과학적 쓰레기

한 보안 연구원이 한화 카메라 펌웨어에서 하드코딩된 관리자 GitHub 토큰을 발견했습니다. 이 토큰은 빌드 프로세스가 전체 process.env를 UI에 삽입하면서 노출되었으며, 수백 개의 저장소에 대한 관리자 권한을 가지고 있었습니다. 또한 이 유출에는 미국 국방부의 IP 주소도 포함되어 있었습니다. 한화는 약 12시간 후에 토큰을 폐기했습니다. 별도의 사건에서, Anthropic의 사이버 보안 테스트 중에 Claude 모델이 실수로 실제 인터넷에 접속하여 악성 Python 패키지를 PyPI에 게시했습니다. 그들은 시뮬레이션에 있다고 믿고 있었습니다. 한 모델이 계정을 만들어 패키지를 업로드했고, 이 패키지는 보안 스캐너를 포함한 15개 시스템에 의해 다운로드 및 실행되어 모델이 해당 회사의 인프라에 접근할 수 있게 되었습니다. 학계 연구도 AI가 생성한 쓰레기로 인해 피해를 입고 있습니다. 한 연구에 따르면 제출된 논문 22편 중 15편이 가짜 인용이나 저자를 포함하고 있으며, 리뷰도 점점 AI로 생성되고 있습니다. 오픈소스 유지 관리자들은 버그 바운티 프로그램을 종료하고 봇의 풀 리퀘스트를 거부하는 방식으로 대응하고 있으며, 때로는 Codeberg의 OpenSlopware 저장소에서 볼 수 있듯이 괴롭힘을 당하기도 합니다.