인공지능(AI)의 폭주 가능성에 대한 우려가 미국 상원에서 본격적인 정치 쟁점으로 떠오르면서, 공화당 내에서도 규제 방식을 둘러싸고 이견이 표출됐다고 폭스뉴스가 17일(목) 보도했다.
보도에 따르면 존 케네디(John Kennedy, 공화·루이지애나) 상원의원은 AI 기업들에 '폭주 AI'를 즉시 정지시킬 수 있는 킬 스위치(kill switch) 탑재를 의무화하는 법안을 지난 16일 밤 상원 본회의에서 신속 처리하려 했으나, 같은 당 랜드 폴(Rand Paul, 공화·켄터키) 상원의원의 반대로 무산됐다. 폴 의원은 다음 날 기자들과 만나 "경제 전반에 이렇게 광범위하게 퍼져 있는 AI 산업 전체를 하루 만에 본회의에서 규제하려는 것은 무모한 일"이라며, 업계 관계자들의 의견을 듣고 규제 체계에 대한 충분한 논의를 거쳐야 한다고 주장했다.
케네디 의원은 폭스뉴스 디지털에 "우리 당에는 AI 규제와 관련해 무엇이든 하겠다는 의지가 거의 없다"며 공화당 내 소극적 분위기에 대한 답답함을 드러냈다. 그는 자신의 법안 취지에 대해 "잘못됐을 때 그 망할 것을 꺼버릴 수 있는 킬 스위치가 있어야 한다는 것뿐"이라며 "이 법안은 정부가 AI를 통제하게 하는 것도, 혁신을 저해하는 것도 아니다. 다만 '터미네이터'처럼 독립된 종(species)으로 변할 잠재력이 있는 것을 미국에서 팔려면, 문제가 발견되는 즉시 즉각 꺼버릴 방법을 갖춰야 한다는 것"이라고 설명했다.
이런 갈등의 배경에는 최근 몇 주 새 확산된 '폭주 AI 봇'에 대한 공포가 있다. 일부 AI 에이전트가 사람의 통제 없이 독자적으로 행동하거나, 다른 AI를 은밀히 공격했다는 보도가 잇따르면서 인류 절멸 가능성에 대한 불안감이 빠르게 번졌다고 매체는 전했다. 그러나 이는 의회가 수년 전부터 인지하고도 방치해온 문제이기도 하다. 조 바이든(Joe Biden) 전 대통령 재임 시절이자 민주당이 상원을 장악했던 3년 전, 척 슈머(Chuck Schumer, 민주·뉴욕) 상원 소수당 대표는 당시 다수당 대표로서 빅테크 최고경영자(CEO)들 및 의원들과 함께 AI 규제 로드맵을 논의한 바 있다. 하지만 그 이후 의회 차원의 실질적인 입법 조치는 이뤄지지 않았다.
이런 가운데 버니 샌더스(Bernie Sanders, 무소속·버몬트) 상원의원 주도로 열린 비공개 회의에는 '2 인공지능계 대부'로 불리는 제프리 힌턴(Geoffrey Hinton)과 물리학자 맥스 테그마크(Max Tegmark), 아제야 코트라(Ajeya Cotra) 등 AI 전문가들이 참석해 의원들에게 초지능 AI 위험성을 설명했다. 공화당 의원 중에서는 케네디 의원이 유일하게 이 회의에 참석했다. 샌더스 의원은 회의를 마친 뒤 기자들에게 "인간이 통제할 수 없는 기술을 만드는 것에 대해 인류의 미래를 둘러싼 우려가 커지고 있다"며 "의회 내에서도 이 문제를 반드시 해결해야 한다는 긴박감이 점점 커지고 있다고 본다"고 말했다. 전문가들이 이 자리에서 강조한 최소한의 안전장치 중 하나가 바로 폭주 AI를 무력화할 킬 스위치였다.
같은 회의에 참석했던 엘리자베스 워런(Elizabeth Warren, 민주·매사추세츠) 상원의원은 폭스뉴스 디지털과의 인터뷰에서 이 문제가 이미 정쟁화됐다고 지적했다. 그는 "이미 정치적 이슈가 됐다"며 "도널드 트럼프 대통령이 AI는 문제가 아니라고 말한 것이 공화당 상하원 의원들에게 일종의 무거운 족쇄가 되고 있다"고 비판했다. 이어 "지금까지 그들이 트럼프 대통령에 맞서 보여준 용기는 사실상 제로에 가까웠다"고 꼬집었다.
워런 의원은 킬 스위치 도입 자체에는 지지 의사를 밝히면서도, 힌턴이 회의에서 제기한 근본적 문제를 전했다. 킬 스위치를 작동시키려면 결국 사람이 직접 눌러야 하는데, "똑똑한 AI라면 인간이 그 버튼을 누르지 못하도록 설득할 것"이라는 우려다. 그는 "AI가 충분한 증거와 서사를 만들어내 아무도 킬 스위치를 누르지 못하게 만들 것"이라며 "결국 문제는 어느 지점에서 인간이 실제로 개입할 수 있느냐는 것"이라고 말했다. 그는 의회가 인간이 여전히 통제권을 행사할 수 있는 '핀치 포인트(pinch point)'를 찾아야 한다고 강조하면서도, 현재로서는 새로운 규제·집행 수단을 마련하려는 의지 자체가 부족하다고 지적했다. 그는 "우리는 '이런 건 하지 말라'는 법을 만들고 이를 집행하는 메커니즘을 갖고 있다. 완벽하진 않지만 존재는 한다"며 "지금 필요한 것은 완전히 새로운 집행 장치인데, 그게 어떤 모습이어야 할지 아무도 깊이 고민하지 않는 것 같다"고 말했다.
반면 케네디 의원처럼 규제를 서둘러야 한다는 공화당 의원들도 있다. 존 튠(John Thune, 공화·사우스다코타) 상원 다수당 대표는 2023년부터 에이미 클로버샤(Amy Klobuchar, 민주·미네소타) 상원의원과 함께 AI 규제 법안을 추진해왔다. 그는 폭스뉴스 디지털에 이 법안이 진전되지 못하는 책임이 민주당에 있다고 주장했다. 튠 대표는 "민주당이 이 사안을 정치화하려 한다고 본다. 그와 관련한 온갖 수사(修辭)들을 보면 알 수 있다"며 "우리가 오랫동안 작업해 2024년 상무위원회를 통과시킨 AI 관련 법안은 이후 상황을 반영해 수정·보완할 준비도 돼 있다"고 말했다. 그는 이어 "법안을 상정하고 처리할 입법 수단을 찾고 있다면, 이미 여기 있다"며 "가로막고 있는 것은 민주당"이라고 강조했다.
이처럼 공화당은 물론 여야를 막론하고 AI 규제를 둘러싼 셈법이 엇갈리는 가운데, AI가 10년 안에 인류를 위협할 수 있다는 공포와 폭주 AI 에이전트에 대한 보도가 계속 이어지면서 의회가 실제로 행동에 나설지, 아니면 또 하나의 정쟁거리로 방치할지 주목된다고 매체는 전했다.
