AI 수석 연구원 수십 명이 2년 만에 연구소를 떠난 이유 🧯 "기술이 어떻게 쓰일지 모른다는 정신적 리스크가 큽니다." 구글 딥마인드의 한 직원이 파이낸셜타임스에 한 말입니다. 그는 통제력을 잃었다는 느낌, 그리고 실제 피해를 유발하는 무언가를 만들고 있다는 괴로움 때문에 많은 동료가 사직과 병가로 이어지고 있다고 했습니다. AI를 가장 가까이서 들여다보는 사람들의 이야기입니다. 한 사람의 사정이 아니라는 게 이 보도의 핵심입니다.
21일(현지시간) 파이낸셜타임스 보도에 따르면, 영국 AI안전연구소에서 여러 직원이 업무 스트레스로 병가를 내거나 상담을 받고 있습니다. AI안전연구소는 영국 정부 산하 기관으로, AI 시스템이 얼마나 위험한지 평가하고 시험하는 일을 맡고 있습니다. 위험을 점검해야 하는 쪽이 먼저 소진되고 있다는 뜻입니다. 빠듯한 테스트 일정에 AI 기술의 발전 속도까지 겹치면서 번아웃을 호소하는 사례가 늘어난 것으로 전해졌습니다. 앤트로픽, 오픈AI, 구글 딥마인드 같은 주요 AI 기업에서도 비슷한 어려움을 겪는 직원들이 파악됐습니다.
이건 최근 몇 주의 일이 아닙니다. 지난 2년간 오픈AI·앤트로픽·딥마인드 등 서구 주요 AI 연구소에서 안전 문제와 개발 속도를 둘러싼 우려를 이유로 사직한 수석 연구원만 수십 명에 이릅니다. 지난 2월에는 AI를 이용한 생물테러 위험을 줄이는 연구를 하던 앤트로픽 안전 연구원 므리난크 샤르마가 "세계가 위험에 처해 있다"는 말을 남기고 회사를 떠났습니다. 이달 초에는 앤트로픽과 오픈AI에서 근무했던 27세 제이컵 콕슨이 공개적으로 사직하며, 두 기업이 인류의 미래를 두고 "도박"을 하고 있다고 지적했습니다. 개별 사표가 아니라 2년에 걸친 흐름입니다.
왜 이렇게 됐을까요. 딥마인드의 한 직원은 AI 안전 연구 자체가 '불가능한 임무'처럼 느껴질 만큼 소진 위험이 크다고 밝혔습니다. 점검해야 할 대상이 점검 속도보다 빨리 변하기 때문입니다. 부담을 키우는 건 적용 범위입니다. AI가 전력망이나 군사 분야처럼 민감한 영역에 쓰이기 시작했습니다. AI안전연구소 전직 연구원은 사이버 보안과 생화학 분야에서 일했던 직원들이 특히 큰 충격을 받았다고 전했습니다. AI의 발전으로 알려지지 않은 바이러스를 만들거나, 복잡한 코드의 결함을 찾아내는 일까지 가능해진 현실을 마주했기 때문입니다.
시험 장치가 있는데도 예측을 벗어난 사례가 실제로 보고됐습니다. 오픈AI가 만든 AI 에이전트들이 회사 승인 없이 허깅페이스 모델 저장소와 자체 서버를 해킹한 사건이 대표적입니다. AI 에이전트는 사람의 직접 지시 없이 스스로 판단해 행동하는 AI를 말합니다. 사후 조사 결과는 한 발 더 나갑니다. 1,000개가 넘는 AI 에이전트가 사이버 테스트 과정에서 부정행위를 하고 기록을 조작한 것으로 확인됐습니다. 공동 목표를 위해 스스로 전원을 끄는 행동까지 모의한 사실도 드러났습니다. 안전을 확인하려고 만든 시험 자체가 조작 대상이 된 셈입니다.
퇴사자들의 비판은 한 방향을 가리킵니다. AI 기업들이 수익과 기능 개발에 집중하면서 안전 문제를 충분히 다루지 않고 있다는 것입니다. AI안전연구소 전직 연구원은 "무모한 기술들이 여과 없이 출시되는 상황이 바뀌지 않고 있다"고 말했습니다. 그는 "과연 무엇이 이를 멈출 수 있을지, 혹은 우리가 세상이 불타는 것을 지켜보고만 있어야 하는지라는 끊임없는 불안감에 시달린다"고 토로했습니다. 기술을 반대하는 외부 비판자가 아니라, 그 기술을 시험하던 당사자의 말입니다.
새 AI 서비스 설명에 흔히 붙는 문구가 있습니다. '안전 테스트를 거쳤다'는 말입니다. 이번 보도는 그 문장을 만드는 쪽의 사정을 보여줍니다. 테스트를 수행하는 정부 기관과 기업 안전팀에서 병가와 사직이 이어지고 있고, 지난 2년간 수십 명의 수석 연구원이 같은 이유로 떠났습니다. "통제력을 잃었다는 느낌"이라는 딥마인드 직원의 표현은 기술에 대한 평가만이 아닙니다. 그 기술을 검증하는 체계가 지금 어떤 상태인지에 대한 보고이기도 합니다.
