구형인 H100 이용료가 한 달 만에 21.9% 올랐다고? 🔑

같은 뉴스, 네 가지 시선. AILENS입니다. 오늘은 9월 21일 기준 AI 업계 소식입니다. 국내 GPU 클라우드 시장에서 조용히, 그러나 꽤 빠르게 가격이 오르고 있어요. --- 입찰 서류를 다 썼는데 GPU를 못 구했다는 이유로 포기해야 하는 상황, 상상이 가시나요. 정부가 발주한 AI 전환 사업인데, 사업 능력이 아니라 GPU 확보 능력이 없어서 아예 입찰을 못 하는 거거든요. 이게 지금 국내 AI 업계에서 실제로 벌어지고 있는 일입니다. --- 베슬AI라는 회사가 있어요. 업스테이지 같은 국내 주요 AI 기업들을 고객으로 두고, GPU를 빌려주는 네오클라우드 기업이에요. 대형 클라우드처럼 모든 걸 다루는 게 아니라, GPU 연산에 특화된 서비스죠. 이 회사가 이달 초에 엔비디아 H100 이용료를 올렸어요. 시간당 2.39달러에서 2.98달러로요. 약 사분의 일 가까이 오른 겁니다. 회사 관계자 말이 인상적이었어요. "H100은 부르는 게 가격"이라고 했거든요. 필요한 물량을 구하는 게 애초에 쉽지 않은 상황이라는 거죠. 베슬AI는 지금 칠천 장 규모의 GPU를 운영 중인데, 대부분을 직접 사지 않고 임대로 조달하고 있어요. 조달 비용이 오르면 이용료도 따라 오를 수밖에 없는 구조입니다. --- 이게 한 회사만의 이야기가 아니에요. 국내의 앨리스 같은 다른 AI 클라우드 업체들도 최근 가격을 올리고 있고, 미국의 코어위브나 네비우스 같은 글로벌 네오클라우드도 마찬가지입니다. AI 연산 거래 플랫폼 온이라는 곳에서 집계한 데이터를 보면, H100 시간당 대여료가 한 달 사이 약 22% 뛰었어요. 추세가 지속된다면 대학 연구실이나 스타트업 입장에선 연산 비용이 예산의 핵심 변수가 됩니다. --- 여기서 제가 좀 걸렸던 지점이 있어요. 보통 신제품이 나오면 구형 모델 가격은 떨어지잖아요. 스마트폰도 그렇고, 반도체도 그렇게 흘러왔으니까요. 그런데 지금은 그렇지 않다고 해요. H100보다 상위 모델인 H200이 있는데도, H100 가격이 H200의 칠십 퍼센트 수준까지 올라왔어요. 신제품이 나왔는데 구형 가격이 내리기는커녕 오히려 오른 거예요. 수요가 공급 속도를 너무 빠르게 앞질러 가고 있다는 뜻이죠. 최신 GPU만으로는 수요를 못 따라가니까, 오래된 모델로까지 수요가 번지고 있는 겁니다. --- 그러면 뭐가 남느냐. 대학 연구팀들이 GPU를 못 구해서 연구 규모를 줄이고 있다는 대목이 마음에 걸려요. 좋은 기술을 갖고 있어도 연산 자원을 못 구하면 아무것도 할 수 없는 상황이 된 거잖아요. AI 기술 경쟁이라고 하면 보통 알고리즘이나 데이터를 떠올리는데, 지금은 GPU를 제때 얼마나 확보하느냐가 그것만큼, 어쩌면 그것보다 더 중요한 변수가 됐습니다. 이 구조가 계속 간다면, 자본력 있는 곳만 AI를 할 수 있는 환경이 되는 건 아닐까요. 그게 기술의 민주화라고 말하던 AI의 방향과 맞는지는, 잘 모르겠어요. --- 오늘 기억하실 것 하나만요. GPU는 이제 도구가 아니라 자원입니다. 기름이나 땅처럼, 누가 얼마나 갖고 있느냐가 경쟁력을 가르는 자원이 됐어요. 그 변화가 지금 현장에서 체감되고 있다는 거, 기억해두시면 좋겠습니다. --- 같은 뉴스, 네 가지 시선. AILENS였습니다.