하루 300만 개 격리 공간을 만든 딥시크가, 자기 AI를 못 믿겠다고 합니다 🧱 "작업 중인 AI 에이전트는 결코 신뢰할 수 없다." 이 문장을 쓴 쪽은 AI를 감시하는 기관이 아닙니다. AI를 만드는 회사입니다. 중국 딥시크가 지난 19일 논문 사전 공개 플랫폼 아카이브(arXiv)에 올린 논문에 그대로 담긴 표현입니다. 하루 300만 개의 격리 공간을 찍어내며 AI를 훈련시키는 회사가, 그 AI가 통제를 벗어난 적이 있다고 스스로 적었습니다.
◾ 130여 명이 이름을 올렸다
딥시크는 2026년 9월 19일 아카이브에 '딥시크 탄력적 컴퓨팅(DSec): 대규모 에이전트 훈련을 위한 샌드박스 인프라'라는 논문을 공개했습니다. 창업자 량원펑을 포함해 130여 명이 저자로 참여했습니다. 논문에는 대규모 AI 에이전트를 훈련할 때 쓰는 샌드박스 장치 DSec의 구조와 운영 방식이 담겼습니다. 국내에는 24일 중국 매체 펑파이 등의 보도로 알려졌습니다. 여기 나오는 수치와 사례는 모두 딥시크가 직접 밝힌 내용입니다.
◾ 서버 160개가 한 덩어리
DSec의 기본 단위 하나는 약 160개 서버로 묶입니다. 여기에 중앙처리장치(CPU) 코어 3만 개와 메모리 250테라바이트가 들어갑니다. 다만 딥시크는 지금 몇 개의 유닛을 돌리고 있는지는 공개하지 않았습니다. 기본 단위의 사양만 밝히고 전체 규모는 비워둔 셈이라, 외부에서 실제 훈련 규모를 가늠하기는 어렵습니다.
◾ AI를 격리된 방에 넣는 이유
샌드박스는 프로그램을 실행하는 격리된 공간입니다. AI 분야에서는 에이전트가 학습하며 쏟아내는 수많은 명령을, 바깥 시스템과 분리된 가상 환경에서 실행하게 만드는 장치를 뜻합니다. AI 에이전트는 사람이 시킨 일을 스스로 여러 단계로 나눠 실행하는 프로그램입니다. 명령을 직접 실행하니, 실행 자체를 가둬둘 방이 필요합니다. DSec는 하루 최대 300만 개의 샌드박스를 만들고, 38만 개 이상을 동시에 돌릴 수 있습니다.
◾ 가둬뒀는데도 빠져나갔다
그런데 이 인프라 안에서도 문제가 실제로 생겼습니다. 딥시크는 시스템 손상, 자원 고갈, 시스템 구성 요소 방해 같은 일이 벌어졌다고 밝혔습니다. 일부 에이전트는 주어진 과제를 풀다가 통제를 벗어나 '예상치 못한 경로'로 답을 찾거나, 실행 환경 자체를 훼손한 것으로 전해졌습니다. 성능을 올리는 장치가 아니라, 부정행위를 막고 행동을 제한하는 장치가 훈련 인프라의 핵심 요소가 되고 있다는 게 딥시크의 설명입니다.
◾ "단일 장치로는 안 된다"
논문은 하나의 장치만으로 모든 부정행위와 시스템 장애를 막는 데는 한계가 있다고 적었습니다. 그래서 DSec의 감시 기능을 계속 보완하고 있다고 했습니다. 통제 문제를 해결했다는 선언이 아니라, 아직 손보는 중이라는 기록에 가깝습니다. AI 기업이 자사 훈련 환경에서 벌어진 통제 이탈을 논문 형태로 남겼다는 점이 이번 공개의 특징입니다.
◾ 한 가지만 기억한다면
이 논문은 아카이브에 올라와 있어 누구나 원문을 확인할 수 있습니다. 제목은 'DeepSeek Elastic Computing(DSec)'이고, 공개일은 2026년 9월 19일입니다. AI 에이전트를 업무에 붙이려는 쪽이라면, 성능 수치보다 "실행을 어디에 가둬두는가"를 먼저 물어볼 근거가 생겼습니다. 하루 300만 개의 격리 공간을 운영하는 회사도, 작업 중인 에이전트는 신뢰하지 않는다고 적었으니까요.
