서버 대수는 소수점까지 아는데, AI 에이전트 수는 추측으로 답합니다 🗂️

같은 뉴스, 네 가지 시선. AILENS입니다. 9월 29일에 나온 소식 하나를 가지고 오늘 이야기를 해보려고 합니다. 상상해봅시다. 어느 은행 회의실입니다. 임원 한 명이 묻습니다. 우리 회사 서버 몇 대 있습니까. 담당자가 바로 답합니다. 소수점 단위까지 정확하게요. 그런데 질문이 바뀝니다. 우리 회사에서 지금 돌아가고 있는 인공지능 에이전트는 몇 개입니까. 침묵이 흐릅니다. 이건 제가 만든 장면이 아니고요, 데이터이쿠라는 회사의 공동 창업자가 직접 한 이야기입니다. 서버는 소수점까지 세는데 에이전트 수는 추측으로 답한다고요. 그래서 이 회사가 다음 달에 에이전트 매니지먼트라는 도구를 내놓습니다. 저는 이 대비가 좀 재미있었어요. 왜 서버는 세고 에이전트는 못 셀까요. 담당자 잘못이 아니거든요. 서버는 눈에 보이잖아요. 사다가 어디 꽂아야 하고, 돈이 나가고, 누가 관리하는지 정해져 있습니다. 근데 에이전트는요. 마케팅팀이 하나 만들고, 고객센터가 하나 만들고, 개발팀이 또 하나 만듭니다. 각자 편한 플랫폼 쓰면서요. 게다가 대부분의 플랫폼은 자기가 만든 에이전트만 보여준다고 합니다. 그럼 회사 전체 그림은 아무도 볼 수 없는 거죠. 한 회사 이야기가 아닙니다. 아이비엠이 진행한 연구가 있어요. 지금 돌아가는 인공지능 시스템을 전부 파악하고 최신 상태로 관리하는 조직이요. 다섯 곳 중에 한 곳이 안 됩니다. 거꾸로 말하면 열 곳 중 여덟 곳은 자기 회사 안에서 뭐가 돌아가는지 정확히 모른다는 겁니다. 그런데 여기서 좀 의외인 지점이 있었어요. 저는 처음에 이게 비용 문제인가 했습니다. 쓸데없는 에이전트 정리해서 돈 아끼자, 이런 이야기인가 싶었죠. 근데 기사를 보니까 초점이 다른 데 있었어요. 고객 응대하는 에이전트, 민감한 데이터를 다루는 에이전트, 실시간으로 거래를 처리하는 에이전트. 이런 건 위험도가 높은 쪽으로 따로 분류해서 인증 상태며 확인된 위험 요소며 정기 테스트 결과를 계속 기록해둡니다. 나중에 감사 담당자나 규제기관이 달라고 하면 그대로 제출할 수 있게요. 돈 아끼는 도구가 아니고, 나중에 설명할 수 있게 만드는 도구였던 겁니다. 그러니까 문제는 에이전트가 많다는 게 아니었어요. 문제가 생겼을 때 누구도 답할 수 없다는 쪽이었죠. 제가 이 대목이 좀 걸렸습니다. 기술은 빠르게 만들 수 있는 방향으로 계속 발전해왔어요. 이제는 팀마다 각자 몇 개씩 만들 수 있게 됐죠. 그런데 만드는 속도가 빨라진 만큼 아는 속도도 같이 빨라졌느냐. 그건 아닌 것 같습니다. 만드는 건 쉬워졌고, 파악하는 건 그대로거나 오히려 어려워졌으니까요. 그리고 이건 회사 안에서만 일어나는 일이 아닐 수도 있습니다. 우리도 요즘 이런저런 인공지능 도구를 여기저기 쓰고 있잖아요. 어떤 서비스에 어떤 걸 연결해뒀는지, 지금 정확히 떠올릴 수 있는 분이 얼마나 될까요. 저도 솔직히 자신이 없습니다. 하나만 남겨두고 싶습니다. 새로운 걸 도입하는 속도만 관리 지표로 보면 놓치는 게 생깁니다. 지금 뭐가 돌아가고 있는지 답할 수 있느냐. 이게 같이 따라와야 하는 질문이라는 거죠. 답을 드리려는 건 아닙니다. 다만 저는 이 소식을 들으면서, 우리가 만드는 속도에 비해 아는 속도가 너무 느리진 않은가 하는 생각이 좀 오래 남았어요. 같은 뉴스, 네 가지 시선. AILENS였습니다.