미주 재경일보

2026.04.13 07:14 AM

By 전재희

인공지능(AI) 산업이 폭발적으로 성장하는 가운데, 핵심 자원인 컴퓨팅 파워 부족 현상이 심화되면서 업계 전반에 경고음이 커지고 있다고 월스트리트저널(WSJ)이 13일 보도했다.

WSJ에 따르면, 최근 AI 기업들이 직면한 가장 큰 문제는 모델 성능이 아니라 이를 구동할 연산 능력 부족이다.

AI 수요가 급증하면서 기업들은 서버와 GPU 확보 경쟁에 나서고 있지만, 인프라 구축 속도가 이를 따라가지 못하고 있다.

특히 자율적으로 작업을 수행하는 '에이전트형 AI' 확산으로 연산 사용량이 급증하며, 기존 챗봇 수준을 넘어선 대규모 컴퓨팅 자원이 요구되고 있다.

업계에서는 이를 두고 "AI 시대의 진짜 부족 자원은 석유가 아니라 토큰"이라는 평가까지 나온다.

연산 부족은 곧바로 비용 상승으로 이어지고 있다.

데이터센터에서 사용하는 GPU 임대 가격은 최근 수개월 사이 급등했으며, 엔비디아(Nvidia)의 최신 칩 기준 시간당 비용이 48% 상승한 것으로 나타났다.

클라우드 기업 코어위브(CoreWeave)는 가격을 20% 이상 인상하고, 고객들에게 장기 계약을 요구하는 등 공급 부족에 대응하고 있다.

이러한 상황에서 일부 기업들은 서비스 제공 자체를 제한하는 조치에 나섰다.

AI 기업 앤스로픽(Anthropic)은 최근 빈번한 서비스 장애를 겪으며 이용자 불만이 급증하고 있다.

해당 기업은 피크 시간대 사용자별 연산 사용량을 제한하는 '토큰 제한' 정책을 도입했지만, 이용자들은 짧은 시간 내 한도에 도달한다며 불만을 제기하고 있다.

실제로 일부 기업 고객들은 안정성을 이유로 다른 AI 모델로 전환하는 사례도 발생하고 있다.

전문가들은 현재 AI 서비스의 안정성이 기존 클라우드 서비스 수준에 크게 못 미친다고 지적한다.

일반적인 클라우드 서비스는 99.99% 이상의 가동률을 유지하지만, 일부 AI 서비스는 98%대 가동률에 머무르고 있는 것으로 나타났다.

이는 AI가 핵심 인프라로 자리 잡기에는 아직 기술적·운영적 한계가 존재함을 보여준다.

문제는 단순한 칩 부족을 넘어 전력 공급까지 포함된다는 점이다.

데이터센터 건설에는 긴 시간이 소요되며, 이미 2026년까지 사용 가능한 전력 대부분이 예약된 상태라는 분석도 나온다.

(메타가 건설중인 데이터 센터. 자료화면 )

이에 따라 AI 산업의 성장 속도가 물리적 인프라 한계에 부딪힐 가능성이 제기된다.

이 같은 상황 속에서 기업들은 제한된 자원을 효율적으로 활용하기 위해 전략 수정에 나서고 있다.

오픈AI(OpenAI)는 일부 영상 생성 프로젝트를 중단하고, 기업용 및 코딩 중심 서비스에 자원을 집중한 것으로 전해졌다.

또한 기업 내부에서도 "컴퓨팅 부족으로 포기하는 사업이 발생하고 있다"는 발언이 나오는 등 자원 배분이 핵심 경영 과제로 떠오르고 있다.

전문가들은 현재 상황을 과거 철도·인터넷 산업 초기와 유사한 '인프라 병목 단계'로 평가한다.

수요가 공급을 크게 앞지르는 상황에서, 가격 상승과 서비스 제한은 불가피한 흐름이라는 분석이다.

AI 산업이 지속적인 성장 궤도에 오르기 위해서는 대규모 데이터센터 투자와 전력 인프라 확충이 필수적이라는 지적이 나온다.