엔비디아(Nvidia) 창업자 겸 최고경영자(CEO) 젠슨 황(Jensen Huang)이 세일즈포스(Salesforce)의 드림포스(Dreamforce) 콘퍼런스에 참석해 AI에 대한 새로운 법적 규제가 필요 없다는 입장을 밝혔다고 IT전문매체인 테크크런치(TechCrunch)가 16일(수) 보도했다.
보도에 따르면 황 CEO는 AI를 일부 오픈AI(OpenAI) 안전 연구원들이 표현한 것처럼 새로운 형태의 '외계 지성(alien mind)'으로 보지 않는다고 말했다. 그는 AI가 결국 인간이 만든 하드웨어와 소프트웨어에 불과하며, 따라서 인간과 기존 법률로 충분히 통제할 수 있다고 주장했다.
황 CEO는 "안전은 법률의 문제가 아니라 엔지니어링의 문제"라며 "우리는 결국 소프트웨어를 개발하고 있고, 컴퓨팅 시스템을 개발하고 있다. 복잡한 컴퓨팅 시스템이긴 하지만 결국은 컴퓨팅 시스템"이라고 말했다.
그는 이런 이유로 AI를 규율할 새로운 법이나 규제가 필요하지 않다고 강조했다. 나아가 그는 AI뿐 아니라 새로운 법률 자체가 거의 필요하지 않다는 견해를 밝히면서, 자유 시장이 기업들로 하여금 안전하지 않은 제품을 내놓지 못하도록 압박하는 데 충분하다고 주장했다.
황 CEO는 "만약 우리가 제품의 안전성에 확신이 없다면, 여기 있는 모든 회사들과 마찬가지로, 제품이나 서비스의 기능성·성능·안전성에 확신이 없다면 그것을 출시하지 않으면 된다. 이는 아주 명백한 일"이라고 말했다. 그는 이어 "시장이 인정할 만한 것을 내놓을 자신이 생길 때까지 스스로 속도를 조절해야 한다. 시장의 힘은 이미 작동하고 있다. 우리에게는 새로운 법도, 새로운 규제도 필요 없다. 그저 기업들이 최대한 빠르게 달릴 시점을 스스로 결정하면 된다"고 덧붙였다.
그는 혁신·속도와 안전한 제품 사이의 선택이 "거짓된 이분법"이라며 "둘을 동시에 가질 수 있다. 그러니 할 수 있는 한 빠르게 달려라. 다만 어느 시점에서든 회사가 통제 불능 상태이거나 제품이 안전하지 않을 것 같다고 느껴진다면, 잠시 멈춰 서서 제대로 바로잡으면 된다"고 말했다.
테크크런치는 이 같은 발언이 어떤 면에서는 안심이 되는 이야기일 수 있다고 짚었다. 챗GPT(ChatGPT)가 등장하기 훨씬 전부터 AI의 '하드웨어 두뇌'를 만들어 온 인물이자, 현재는 오픈소스 모델과 에이전트, 하네스, 샌드박스까지 만드는 회사를 이끄는 황 CEO만큼 AI를 잘 아는 사람도 드물다는 것이다.
다만 테크크런치는 냉소적으로 보면 그의 이런 시각이 AI 붐의 최대 수혜자로서는 그리 놀랍지 않은 입장이라고 지적했다. 규제가 도입돼 엔비디아가 AI 시스템과 소프트웨어를 더 많이 판매하려는 행보에 걸림돌이 되는 상황을 그가 반길 리 없다는 것이다. 실제로 황 CEO는 같은 인터뷰에서 "나는 그 어느 때보다 야심 차다. 우리의 야심과 AI로 얻는 생산성 향상 덕분에 우리 회사에는 한계가 없다. 모든 산업, 모든 국가에도 한계가 없다"고 말했다.
테크크런치는 그러나 아무리 선의를 가진 기업이라도 결함이 있거나 의도치 않은 결과를 낳는 제품을 출시하는 경우가 있다고 지적했다. 2024년 수천 편의 항공편 결항 등 대혼란을 일으킨 크라우드스트라이크(CrowdStrike)의 '블루스크린 오브 데스' 사태가 대표적 사례로 거론됐다. 여기에 더해 처음부터 선하지 않은 의도로 행동했다는 의혹을 받는 기업들도 있다며, 메타(Meta)가 최근 아동에 대한 소셜미디어 유해성 소송을 합의하며 180억 달러를 지불한 사례를 언급했다.
AI 역시 의도나 안전성 테스트 여부와 무관하게 이미 피해를 낳았다고 매체는 전했다. 오픈AI 모델이 허깅페이스(Hugging Face)를 해킹한 사례, 그리고 오픈AI 챗봇과 장시간 대화를 나눈 청소년들의 자살과 관련해 오픈AI를 상대로 제기된 소송들이 그 예로 제시됐다.
테크크런치는 기업들이 스스로 판단해 제품을 출시하도록 그대로 내버려두는 '방임 전략'이 사회 전체의 AI 안전 문제에는 현명하지 못한 접근일 수 있다고 지적했다. 다만 기존 제조물 책임법이 AI에도 적용될 수 있다는 황 CEO의 주장 자체는 일리가 있다고 인정하면서도, 그 이론이 법정에서 충분히 검증될 만큼 사례가 쌓이기 전에 AI가 먼저 큰 재앙을 일으키지 않는다는 전제가 필요하다고 꼬집었다.
매체는 황 CEO가 언급하지 않은 또 다른 길, 즉 업계 자율 규제가 현실화 조짐을 보이고 있다고 전했다. 황 CEO는 그동안 규제보다는 오픈웨이트(open-weight) 모델과 기업들의 이를 통한 활용을 폐쇄형(proprietary) AI 기업들에 대한 경쟁적 대항마로 내세우는 데 힘을 실어왔다.
테크크런치는 지금이 업계가 자율 규제를 도입하고, 중국을 포함한 전 세계 AI 연구소들이 이에 동참하도록 설득할 수 있는 얼마 남지 않은 기회의 창이라고 짚었다. 앞서 마이크로소프트(Microsoft) CEO 사티아 나델라(Satya Nadella)는 지난 15일(현지시간) 올인 서밋(All-In Summit)에서 "미국이 안전 문제를 우려한다면 중국도 같은 안전 문제를 깊이 우려해야 하지 않겠느냐"며 "중국이라고 해킹 문제에서 자유로운 것도 아니고, 자국민이 AI로부터 혜택을 받기를 원하지 않는 것도 아니다. 우리가 우리 국민이 AI의 혜택을 받기를 바라는 것과 마찬가지"라고 말한 바 있다.
테크크런치는 현재로서는 황 CEO가 새로운 AI 규제에 부정적인 입장을 고수하고 있으며, 그가 자신의 뜻을 관철시킬 만큼 충분한 영향력을 지녔을 가능성도 있다고 전망했다. 실제로 그는 이번 주 도널드 트럼프(Donald Trump) 대통령과 직접 접촉하며 자신의 영향력을 다시 한번 과시했다고 매체는 덧붙였다.
