서버 대수는 소수점까지 아는데, AI 에이전트 수는 추측으로 답합니다 🗂️ "은행에 운영 중인 서버 대수를 물으면 소수점 단위까지 답할 수 있습니다. 그런데 AI 에이전트 수를 물으면 추측으로 답하거나, 정확히 파악하지 못하는 경우가 많습니다." 플로리앙 두에토 데이터이쿠 공동 창업자 겸 최고경영자(CEO)의 말입니다. 회사 안에서 돌아가는 AI가 몇 개인지 아무도 모르는 상태. 이게 지금 기업들이 놓인 자리입니다. 데이터이쿠는 이 문제를 겨냥한 도구를 다음 달 내놓습니다.
◾ 다음 달, 에이전트를 세는 도구가 나온다
데이터이쿠는 지난 29일 AI 에이전트 관리 도구 '에이전트 매니지먼트'를 10월 중에 출시한다고 밝혔습니다. 기업에서 운영되는 AI 에이전트를 한 목록에 모아 보여주는 도구입니다. 각 에이전트의 사업 성과와 기술 성능을 측정하고, 위험도가 높은 에이전트를 골라내 관리합니다. 에이전트가 몇 개인지 세는 것에서 시작해, 무엇을 하고 있고 얼마를 쓰는지까지 한 화면에서 보겠다는 구상입니다.
◾ 파악하고 있는 조직은 5곳 중 1곳도 안 된다
IBM의 'AI 인 모션' 연구에 따르면, 운영 중인 AI 시스템을 모두 파악하고 최신 상태로 관리하는 조직은 20% 미만입니다. 다섯 곳 중 네 곳 이상이 자기 회사 AI의 전체 그림을 못 보고 있다는 뜻입니다. 기업들은 빠르게 늘어나는 AI 에이전트의 담당자가 누구인지, 어떤 목적으로 쓰는지, 비용이 얼마인지를 제대로 관리하지 못하는 경우가 많습니다.
◾ 각 플랫폼이 자기가 만든 것만 보여준다
왜 이런 일이 벌어졌을까요. 대부분의 에이전트 플랫폼이 자사에서 만든 에이전트만 보여주기 때문입니다. 아마존웹서비스에서 만든 에이전트는 아마존 화면에, 마이크로소프트에서 만든 것은 마이크로소프트 화면에 있습니다. 관리자 입장에서는 창을 몇 개씩 띄워도 전체가 안 보입니다. 두에토 CEO는 "각 팀이 빠르게 에이전트를 구축하면서 기업이 전체 현황을 파악하기 어려워지고 있다"고 설명했습니다. 도입 속도가 관리 속도를 앞질렀다는 진단입니다.
◾ 만든 회사가 아니라, 운영하는 회사 편에 선다
에이전트 매니지먼트는 데이터이쿠 자사 제품만 보여주지 않습니다. 아마존웹서비스 베드록, 마이크로소프트 코파일럿, 세일즈포스 에이전트포스 등을 함께 지원합니다. 각 에이전트가 어떤 도구와 어떤 AI 모델을 쓰는지도 확인할 수 있어, 겉으로 드러난 기능이 아니라 실제 작동 방식까지 들여다볼 수 있습니다. 플랫폼을 파는 쪽이 아니라, 여러 플랫폼을 섞어 쓰는 쪽의 시야에 맞춘 구성입니다.
◾ 고객을 응대하는 에이전트는 기록이 남는다
위험도가 높은 에이전트는 따로 관리됩니다. 고객 응대, 민감한 데이터 처리, 실시간 거래처럼 잘못되면 파장이 큰 업무를 맡은 에이전트가 대상입니다. 인증 상태, 식별된 위험 요소, 정기 테스트 결과를 계속 기록합니다. 그리고 이 기록은 관리자나 감사 담당자, 규제기관이 요청하면 자료로 제출할 수 있습니다. 감사와 규제 대응을 염두에 둔 설계라는 점이, 성능 지표만 보여주는 도구들과 갈리는 지점입니다.
◾ 한 가지만 기억한다면
지금 우리 회사에서 돌아가는 AI 에이전트가 몇 개인지, 담당자가 누구인지 답할 수 있는지 먼저 확인해 보는 일입니다. IBM 연구가 말하는 20%에 들어가는지 아닌지가, 도구를 검토할 때의 출발점입니다. 두에토 CEO의 말처럼 서버 대수는 소수점까지 답하면서 에이전트 수는 추측으로 답하는 상태라면, 문제는 아직 도구가 아니라 목록입니다.
