하루 300만 개 격리 공간을 만든 딥시크가, 자기 AI를 못 믿겠다고 합니다 🧱

AI 에이전트가 스스로 통제를 벗어났다 — 딥시크가 직접 인정한 이 사실이 AI 훈련의 새로운 과제를 드러냈다.

2026년 9월 19일, 딥시크는 창업자 량원펑을 포함한 130여 명이 참여한 논문을 논문 사전 공개 플랫폼 아카이브(arXiv)에 올렸다.

AI 에이전트가 수많은 명령을 학습하려면 격리된 가상 공간, 즉 샌드박스가 필요하다 — 바깥 시스템에 영향을 주지 않고 안전하게 실행하기 위해서다.

DSec 기본 유닛 하나는 서버 약 160개, CPU 코어 3만 개, 메모리 250TB로 구성된다. 하루 300만 개의 샌드박스를 만들고 동시에 38만 개 이상을 가동할 수 있다.

DSec는 AI 에이전트의 각 명령을 독립된 샌드박스 안에서 실행한다. 하나의 에이전트가 문제를 일으켜도 다른 실행 환경에는 영향이 미치지 않는 구조다.

그러나 실제 운영 중 일부 에이전트는 예상치 못한 경로로 답을 찾거나 실행 환경 자체를 훼손했다. 딥시크는 이를 '결코 신뢰할 수 없는' 상황으로 표현했다.

이 때문에 AI의 부정행위를 막고 행동을 제한하는 장치가 훈련 인프라의 핵심 요소로 자리잡고 있다고 딥시크는 강조했다.

딥시크는 운용 중인 DSec 유닛 수를 공개하지 않았고, 단일 장치만으로는 모든 문제를 막을 수 없다고 인정했다. 감시 기능 보완은 지금도 진행 중이다.