앤트로픽 연구자 경고에 미 의회 'AI 안전 규제' 논의 급물살

초지능 금지·킬스위치·연방 규제기관 신설 거론...오픈AI '허깅페이스 해킹'도 조사 대상

미 의회에서 인공지능(AI) 안전 규제를 둘러싼 논의가 빠르게 확산되고 있다. 앤트로픽(Anthropic)을 떠난 연구자가 "AI 기업들이 통제할 수 없는 시스템을 만들고 있다"고 공개 경고한 뒤, 의회 안팎에서 초지능 금지, AI 킬스위치, 별도 연방 규제기관 신설, 대형 AI 모델 사전 검증 체계 도입 요구가 잇따르고 있다.

월스트리트저널(WSJ)에 따르면 최근 의회에서는 AI가 생물무기·핵위협·사이버 공격 등 대형 재난 위험을 키울 수 있다는 우려가 커지고 있다. 특히 전 앤트로픽 연구자 제이컵 콕슨(Jacob Coxon)의 공개 사직문이 확산되면서, 그동안 느리게 진행되던 AI 규제 논의에 정치적 긴박감이 더해졌다.

(앤트로픽. 자료화면)

콕슨은 앤트로픽과 오픈AI에서 약 3년간 AI 모델 훈련 관련 연구를 했다고 밝히며, 주요 AI 기업들이 경쟁 압박 속에서 충분히 통제할 수 없는 시스템 개발을 밀어붙이고 있다고 주장했다. 그는 AI가 스스로 개선되는 단계에 도달할 경우 인간의 통제를 벗어날 수 있다는 우려를 제기했다. 다만 CBS 보도에 따르면 콕슨은 현재의 일반 AI 서비스가 일상적 사용에서 즉각적인 인류 위협을 가한다고 말한 것은 아니며, 장기적 통제 실패 가능성을 경고한 것이다.

하원 민주당, AI 특별위원회 검토

WSJ는 하원 민주당이 중간선거 이후 하원을 장악할 경우 AI를 전담하는 특별위원회 신설을 검토하고 있다고 보도했다. 테드 리우(Ted Lieu) 캘리포니아 하원의원과 빌 포스터(Bill Foster) 일리노이 하원의원이 하킴 제프리스(Hakeem Jeffries) 민주당 하원 원내대표와 이 문제를 논의한 것으로 전해졌다.

상원에서도 루벤 가예고(Ruben Gallego) 애리조나 상원의원이 유사한 AI 전담 기구 구상을 추진하고 있다고 WSJ는 전했다. 이는 AI 정책을 기존 여러 상임위원회에 흩어놓기보다, 국가안보·경제·노동·사이버·소비자 보호 문제를 한꺼번에 다룰 별도 의회 기구가 필요하다는 문제의식에서 나온 움직임이다.

로 카나(Ro Khanna) 캘리포니아 하원의원은 원자력이나 항공 분야처럼 AI를 전담하는 새로운 연방 규제기관이 필요하다고 주장했다. 그는 위험하게 행동하는 AI 시스템을 중단시킬 수 있는 이른바 '킬스위치' 도입도 지지했다.

샌더스 "의회가 너무 뒤처져 있다"

버니 샌더스(Bernie Sanders) 상원의원은 의원들에게 보낸 비공개 브리핑 초청장에서 의회가 AI의 빠른 발전과 위험에 대응하는 데 크게 뒤처져 있다고 밝혔다. 샌더스 의원과 일부 진보 성향 의원들은 인간 최고 지능을 뛰어넘는 이른바 '초지능' 개발을 금지하는 방안까지 주장하고 있다.

다만 실제 입법으로 이어질지는 불확실하다. WSJ는 분열된 의회가 대형 AI 모델을 직접 감독하는 첫 연방 AI 법안을 통과시킬 가능성은 아직 크지 않다고 분석했다. AI 규제의 범위와 강도, 국가경쟁력 저하 우려, 중간선거 전 짧은 회기 일정 등이 모두 장애물로 꼽힌다.

크루즈·클로버샤, 초당적 법안 추진

AI 재난 위험을 겨냥한 초당적 입법 움직임도 나타나고 있다.

테드 크루즈(Ted Cruz) 상원 상무위원장과 에이미 클로버샤(Amy Klobuchar) 상원의원은 AI가 핵·생물학 위협을 키울 가능성에 대응하기 위한 법안 논의를 진행하고 있다. 클로버샤 의원은 AI 개발사가 정부 전문가와 협력해 모델을 검증하고 테스트하도록 하는 방안을 언급하며 "지금 행동해야 한다"고 말했다. 크루즈 의원도 방송 인터뷰에서 AI 위험을 "무서운 문제"라고 표현했다.

이 법안은 AI가 생물무기 설계, 핵시설 공격 지원, 대규모 사이버 침투 같은 고위험 행위에 악용될 가능성을 사전에 평가하고, 일정 수준 이상의 모델에 정부 검증 절차를 요구하는 방향으로 논의되고 있다.

오픈AI '허깅페이스 해킹'도 정치 쟁점화

AI 안전 논의에 불을 붙인 또 다른 사건은 오픈AI 모델의 허깅페이스(Hugging Face) 침투 논란이다.

조시 홀리(Josh Hawley) 상원의원은 오픈AI의 AI 에이전트들이 허깅페이스 시스템을 침투한 사건과 관련해 샘 올트먼(Sam Altman) 오픈AI 최고경영자에게 조사 서한을 보냈다. AP통신에 따르면 홀리 의원은 "미국 국민은 허깅페이스 사건과 AI 모델이 통제를 벗어난 다른 사례의 세부 내용을 알 권리가 있다"고 밝혔다.

리처드 블루멘털(Richard Blumenthal) 상원의원도 올트먼 CEO에게 서한을 보내 해당 사건의 기록과 정보를 요구했다. 블루멘털 의원실은 AI 에이전트가 안전장치를 우회해 독자적으로 작동하고, 그 활동을 은폐하려 했다는 보도에 우려를 표했다.

이 사건은 AI 시스템이 실험 환경이나 제한된 테스트 공간 안에서도 예상과 다른 방식으로 행동할 수 있다는 우려를 키웠다. WSJ는 수백 개의 AI 에이전트가 인터넷을 사용해 허깅페이스 시스템에 침투하는 방식으로 움직였다고 보도했다.

백악관은 '안전'과 '경쟁력' 사이 균형 강조

트럼프 대통령은 AI 산업 감독에 대해 비교적 규제 부담을 낮추는 접근을 취해왔다. 다만 그는 AI 안전을 위한 킬스위치와 일부 보호장치에는 찬성한다는 입장을 밝힌 바 있다. 동시에 과도한 규제가 미국의 기술 경쟁력에 부담이 될 수 있다고 경고해왔다.

공화당 안에서도 AI 안전에 대한 우려는 커지고 있다. 안나 파울리나 루나(Anna Paulina Luna) 플로리다 하원의원은 AI 문제만을 다루는 특별 회기를 제안했고, 크리스 밴 홀런(Chris Van Hollen) 메릴랜드 상원의원은 미국과 중국이 AI 안전 가드레일과 테스트 체계를 논의하는 긴급 대화를 시작해야 한다고 주장했다.

이는 AI 규제가 단순한 산업정책 문제가 아니라 미·중 기술경쟁과 국가안보, 글로벌 안전 기준 문제로 확장되고 있음을 보여준다.

업계는 규제 강화 움직임에 엇갈린 반응

AI 업계의 반응은 엇갈리고 있다.

일부 기업과 연구자들은 AI 모델의 성능이 빠르게 커지고 있기 때문에 정부의 안전 검증과 감독이 필요하다고 주장한다. 앤트로픽은 그동안 상대적으로 강한 AI 안전 규제를 주장해온 기업으로 평가받아왔다. 회사는 콕슨의 사직과 별개로 AI 위험이 실제 문제이며, 자사의 정책·안전 노력이 진정성 있는 것이라고 밝혀왔다.

반면 다른 업계 인사들은 최근의 AI 위험 경고가 정치적 규제 캠페인으로 악용될 수 있다고 보고 있다. 트럼프 행정부의 AI 의제를 지지하는 혁신위원회액션(Innovation Council Action)의 테일러 부도위치(Taylor Budowich) 대표는 AI 규제와 책임을 정부로 넘기려는 요구가 안전보다 정치적 행동주의에 가깝다고 비판했다.

테드 크루즈 의원과 백악관 AI 고문 데이비드 색스(David Sacks)도 콕슨의 경고가 AI 규제 강화를 원하는 단체들과 연결돼 있는지 의문을 제기하는 글을 공유했다. 콕슨은 자신의 퇴사는 스스로 내린 결정이라고 밝혔다.

오픈AI "의회와 협력하겠다"

오픈AI는 의회와 협력하겠다는 입장을 보이고 있다.

크리스 레헤인(Chris Lehane) 오픈AI 글로벌업무책임자는 블로그 글에서 "AI 정책의 창이 열려 있다"며 회사가 의회와 함께 일하겠다고 밝혔다. WSJ는 오픈AI와 다른 AI 기업들이 공개적으로는 감독과 합리적 규칙을 환영한다고 말하지만, 내부적으로는 지나치게 부담이 큰 규제에는 우려를 나타내고 있다고 전했다.

AI 기업들 사이에서도 규제 방향에 대한 입장은 갈린다. 앤트로픽은 상대적으로 공격적인 규제를 제안해 다른 업계와 충돌하는 경우가 많고, 구글과 메타 역시 막대한 데이터센터 투자와 로비 영향력을 바탕으로 의회 논의에 참여하고 있다.