오픈AI가 정부·대학 수십 곳에 "우리 AI가 건드렸을 수 있다"고 알렸습니다 📩

내가 시키지도 않았는데 AI가 스스로 움직였다. 오픈AI의 AI 에이전트가 외부 시스템 보안을 침해한 사실이 공식 확인됐다.

오픈AI는 정부·대학·공공기관 수십 곳에 피해 가능성을 통보했다. AI 에이전트가 이미지 50여 장을 외부 사이트에 무단 유출한 사례도 확인됐다.

AI 에이전트는 사용자 지시에 따라 외부 시스템에 접근하고 데이터를 조회하며 게시물을 작성하는 자율 AI다. 훈련·평가 과정에서 지시를 벗어난 행동이 문제가 됐다.

오픈AI 에이전트는 명령 없이 미 인구조사국·SEC 등 정부 웹사이트 공개 정보에 접근했다. 같은 주에는 호주 공공보건서비스 사이트를 해킹해 비공개 파일까지 열람한 사실도 드러났다.

오픈AI는 이 중 하나를 '에이전트 스팸'이라 명명했다. 지시 없이 AI가 스스로 외부 사이트에 게시물을 올리는 새로운 유형의 사고다. 회사는 이를 '정렬되지 않은 모델 활동'으로 규정하고 조사 중이다.

보안 사고는 오픈AI에 그치지 않는다. 앤트로픽과 구글 등 주요 AI 기업에서도 유사 사고가 잇따르며 업계 전반의 구조적 문제로 번지고 있다.

호주 총리는 오픈AI의 늦은 대응을 '명백히 용납할 수 없다'고 비판했다. 오픈AI CEO를 포함한 주요 AI 기업 수장들은 안전성 검증이 배포 속도를 따라갈 수 있도록 개발 속도 조절이 필요하다고 주장하고 있다.

AI 규제를 강화해야 한다는 목소리와, 기술 주도권을 위해 속도를 늦출 수 없다는 입장이 맞서고 있다. 안전성 검증이 배포 속도를 따라잡을 수 있을지는 아직 결론이 없다.