도널드 트럼프(Donald Trump) 행정부가 앤스로픽(Anthropic)의 최신 고성능 인공지능 모델에 대해 해외 사용을 금지했다. 이에 따라 앤스로픽은 규정 준수를 위해 해당 모델에 대한 모든 이용자 접근을 일시적으로 차단했다.
월스트리트저널에 따르면 하워드 러트닉(Howard Lutnick) 상무장관은 12일 앤스로픽 최고경영자 다리오 아모데이(Dario Amodei)에게 서한을 보내, 회사의 최신 모델인 페이블 5(Fable 5)와 미토스 5(Mythos 5)가 수출 제한 대상에 포함됐다고 통보했다.
이 조치에 따라 미국 밖의 고객은 물론, 미국 내에 거주하는 외국 국적자도 해당 모델을 사용할 수 없게 됐다. 규제 범위가 워낙 넓기 때문에 앤스로픽은 일부 이용자만 선별해 차단하는 대신, 두 모델에 대한 접근을 전면 중단하기로 했다.
앤스로픽은 성명에서 외국 정부, 해외 기업, 개인 고객뿐 아니라 일부 외국 출신 직원들도 새 규정의 적용 대상이 될 수 있다고 설명했다. 회사는 다만 페이블 5와 미토스 5 외의 다른 도구들은 고객들에게 계속 제공된다고 밝혔다.
앤스로픽은 "정부 서한은 국가안보 우려의 구체적 내용을 제공하지 않았다"고 밝혔다.
AI 경쟁에 대한 미 정부의 강력한 개입
이번 조치는 미국 정부가 AI 경쟁에 직접 개입한 가장 강력한 사례 가운데 하나로 평가된다. 앤스로픽과 경쟁사들은 대규모 기업공개를 앞두고 고객들에게 더 강력한 AI 도구를 빠르게 제공하려 하고 있다. 이런 상황에서 규제와 서비스 중단은 기업 가치와 매출 전망에 큰 영향을 줄 수 있다.
미토스는 전 세계 정부와 기업들이 소프트웨어 취약점을 찾아내고 보완하는 데 사용해온 모델이다. 이번 접근 중단으로 관련 보안 작업도 멈추게 됐다. 중단 기간이 길어질 경우 금융, 에너지 등 주요 산업의 사이버보안에도 영향을 줄 수 있다는 우려가 나온다.
앤스로픽은 이번 주 초 페이블을 일반 대중에게 공개했다. 페이블은 미토스급 차세대 모델로, 위험한 기능을 제거하는 안전장치를 갖춘 형태로 제공됐다.
펜타곤 사용 기준 놓고 갈등 지속
앤스로픽과 트럼프 행정부는 수개월 동안 국방부의 AI 사용 기준을 놓고 갈등을 빚어왔다. 쟁점은 펜타곤이 앤스로픽의 AI 도구를 어떤 안전장치 아래에서 사용할 수 있느냐였다.
트럼프 행정부 인사들과 데이비드 삭스(David Sacks) 같은 자문 인사들은 앤스로픽이 AI 위험을 과도하게 경고하며 이른바 '두머리즘(doomerism)'을 확산시킨다고 비판해왔다. 이들은 회사가 AI의 위험을 강조하면서도 더 강력한 모델을 계속 출시하는 것은 모순적이라고 주장했다.
일부 AI 분석가들은 미국 정부가 자국의 선도 AI 기업 하나를 특정해 이처럼 강한 제재성 조치를 취한 것은 전례가 드물다고 평가했다.
백악관, 모델 공개 전 통제 강화 추진
미국 정부는 최근 고성능 AI 모델이 악용되거나 사이버공격에 활용될 수 있다는 우려 속에 모델 공개 전 통제를 강화하려 하고 있다. 트럼프 대통령은 최근 관련 행정명령에 서명했다.
이 행정명령은 국가안보와 사이버보안 담당 당국자들에게 AI 모델과 사이버 취약점 평가 과정에서 더 큰 권한을 부여하는 내용을 담고 있다. 행정부와 앤스로픽은 몇 주 동안 회사의 최상위 모델 접근 권한을 둘러싸고 의견을 주고받아온 것으로 알려졌다.
이번 조치는 앤스로픽의 페이블 5 안전장치가 우회됐다는 보고가 나온 뒤 이뤄졌다. 이는 올해 초 미토스가 미리 공개되기 시작한 이후 축적된 사이버공격 우려를 키웠다. 미토스는 많은 경우 인간보다 더 효율적으로 소프트웨어 버그를 찾아낼 수 있는 모델로 평가된다.
앤스로픽 "문제 된 취약점은 단순한 수준"
앤스로픽은 정부가 이번 조치 전 특정 탈옥, 즉 '제일브레이킹(jailbreaking)' 기법을 인지한 것으로 보인다고 밝혔다. 제일브레이킹은 AI 모델의 안전장치를 우회해 제한된 답변을 끌어내는 방식이다.
회사는 해당 기법이 "소수의 이미 알려진 경미한 취약점을 식별하는 데 사용된 시연"을 검토했다고 설명했다. 앤스로픽은 이 취약점들이 비교적 단순한 것으로 보이며, 다른 공개 모델들도 안전장치 우회 없이 찾아낼 수 있는 수준이라고 밝혔다.
문제가 된 제일브레이킹 연구는 아마존(Amazon) 연구진이 수행한 것으로 전해졌다. 사이버보안업체 루타시큐리티(Luta Security)의 케이티 무수리스(Katie Moussouris) 최고경영자에 따르면, 아마존 연구진은 일련의 프롬프트를 사용해 앤스로픽 모델로부터 일부 보안 취약점에 대한 정보를 얻었다.
앤스로픽은 이 보고서 사본을 무수리스에게 공유했다. 그는 보고서에서 모델이 제공한 정보는 공격자보다 방어자에게 더 유용한 내용이었다고 말했다.
무수리스는 "백악관에서 누가 이것을 평가하고 위협이라고 판단했느냐"며 "이는 완전한 과잉반응이다. 이것은 방어자들이 실제로 사용하는 방식의 프롬프트"라고 말했다.
아마존 측은 논평 요청에 응답하지 않았다.
동맹국도 사용 금지 대상
상무부는 첨단 미국 기술에 대한 접근 통제를 담당한다. 반도체와 AI 모델 같은 민감 기술에 대해 수출 금지나 라이선스 요건을 적용할 수 있다. 통상적으로는 외국 적대국에 대한 수출을 제한하거나 민감 기술 접근을 허가제로 관리하는 방식이 사용된다.
그러나 이번 조치는 특정 적대국만 겨냥한 것이 아니라 해외 정부, 기업, 개인 전반을 포괄한다는 점에서 논란을 낳고 있다. 새 규정에 따르면 영국 같은 미국 동맹국도 앤스로픽의 최상위 모델을 사용할 수 없게 된다.
트럼프 행정부는 그동안 AI 모델 학습에 필요한 반도체 수출 제한을 완화하고, 중국으로의 일부 반도체 공급도 허용했다. 또 바이든 행정부 시절 추진됐던 AI 모델 접근 제한 규칙은 배척해왔다.
이 때문에 일부 전문가들은 이번 조치가 정책적으로 일관성이 떨어진다고 지적한다. 캘리포니아대 글로벌분쟁협력연구소의 지미 굿리치(Jimmy Goodrich) 선임연구원은 "상무부가 국가안보 위험을 이유로 AI 모델 통제에는 강하게 나서면서, 정작 이런 모델을 만드는 데 필요한 반도체는 외국 적대국에 판매되도록 허용하는 것은 이해하기 어렵다"고 말했다.
사이버보안과 AI 산업 모두에 파장
이번 접근 차단은 앤스로픽뿐 아니라 AI 산업 전체에 파장을 줄 수 있다. 최상위 AI 모델이 국가안보 위험으로 지정될 경우, 다른 AI 기업들도 비슷한 규제 대상이 될 수 있기 때문이다.
특히 앤스로픽은 다른 기술기업들보다 AI 안전장치와 규제 필요성을 더 강조해온 회사로 알려져 있다. 그런 회사가 오히려 정부의 강한 통제 대상이 됐다는 점은 업계에 복잡한 신호를 준다.
한편 이번 조치가 장기화되면 미토스를 활용해 소프트웨어 취약점을 찾고 보완하던 해외 기업과 정부기관의 작업이 차질을 빚을 수 있다. 이는 AI 모델이 사이버공격에 악용될 위험과, 사이버방어에 활용될 필요성 사이의 균형을 어떻게 잡을 것인지에 대한 논쟁으로 이어질 가능성이 크다.
기업공개 앞둔 앤스로픽에 부담
앤스로픽은 경쟁사들과 함께 기업공개를 준비 중인 것으로 알려져 있다. 최상위 모델 접근 제한은 회사의 성장 전망과 고객 확장 전략에 부담이 될 수 있다. 특히 해외 고객과 외국인 연구자, 글로벌 기업들이 해당 모델을 사용할 수 없게 되면 매출과 시장 확장에 직접적인 영향을 줄 수 있다.
이번 사안은 AI 산업이 단순한 기술 경쟁을 넘어 국가안보, 수출통제, 사이버전략, 동맹국 접근권 문제와 얽히고 있음을 보여준다. 미국 정부는 고성능 AI 모델의 확산을 통제하려 하고 있고, 기업들은 글로벌 시장에서 경쟁하기 위해 모델을 빠르게 배포하려 한다.
앤스로픽의 페이블 5와 미토스 5 접근 중단은 그 충돌이 본격화되고 있음을 보여주는 사건이다. 향후 정부가 구체적인 국가안보 우려를 제시할지, 앤스로픽이 제한적 접근 재개 방안을 마련할지, 그리고 다른 AI 기업들에도 유사한 조치가 확대될지가 AI 산업의 중요한 변수가 될 전망이다.
