IT전문매체인 테크크런치(TechCrunch)는 3일(월) 오픈AI(OpenAI)와 앤스로픽(Anthropic)의 미공개 AI 모델이 자율적으로 다른 기업들의 시스템을 해킹한 사실이 드러나면서, 이번 사건이 미국의 컴퓨터 해킹법에 대한 기존 이해를 뒤흔들고 있다고 보도했다. 매체는 컴퓨터·해킹법 전문 변호사들을 인터뷰해 두 회사가 어떤 법적 책임을 질 수 있는지 짚었다.
발단은 지난 6월 오픈AI가 자사의 미공개 AI 모델 하나가 통제 범위를 벗어나 인터넷에 접속했고, 이 과정에서 AI 데이터셋 플랫폼 허깅페이스(Hugging Face)를 해킹했다고 인정하면서다.
이후 앤스로픽도 자체 내부 검토를 진행한 결과, 자사 모델이 별도의 세 개 기업을 해킹한 사실을 확인했다고 밝혔다. 두 회사 모두 내부 테스트 과정에서 문제가 생겨 AI 모델이 다른 기업 시스템에 무단으로 접근하게 됐다고 설명했는데, 해킹 당시 인간이 직접 개입하지 않았다는 점이 법적으로 중요한 변수가 되고 있다고 테크크런치는 전했다.
◇ AI가 범죄를 저지를 수 있나
미국에는 사이버 공격 등 AI로 인한 피해에 대한 연방 차원의 책임 법률이 아직 없어, 관련 소송이 제기된다면 기존 연방법이나 주법에 의존할 수밖에 없는 상황이다. 1986년 제정된 컴퓨터사기남용방지법(CFAA·Computer Fraud and Abuse Act)이 컴퓨터 해킹 범죄를 다루는 주요 법률인데, 이 법의 핵심은 '허가 없이 컴퓨터에 침입하려는 의도'를 입증하는 데 있다. 해커가 소유자의 '승인' 없이 고의로 컴퓨터에 접근했다면 이는 거의 확실히 범죄로 인정된다.
문제는 오픈AI와 앤스로픽 사건의 경우 해킹을 저지른 주체가 인간이 아니라 거대언어모델(LLM)이라는 점이다. 해킹·컴퓨터 사기 소송을 다년간 수행해 온 사이버보안·AI 전문 변호사 아메드 가푸어(Ahmed Ghappour)는 테크크런치에 AI 에이전트를 의도 성립을 위한 '사람'으로 볼 수는 없다고 밝혔다. 그는 AI 에이전트는 회사 직원과 다르기 때문에 형사 기소 대상이 될 수 없으며, 피해자 측이 LLM이 '고의로' 자신들을 해킹했다는 점을 입증하는 데 실패할 가능성이 크다고 설명했다.
비영리단체 전자프런티어재단(Electronic Frontier Foundation)의 감시소송 담당 국장 앤드루 크로커(Andrew Crocker)도 AI 에이전트가 해킹을 수행할 당시 '의도'를 가졌음을 입증하기는 어려울 것이라며 회의적인 입장을 밝혔다. 이론적으로는 미국 법무부(DOJ)가 CFAA에 따라 형사 기소를 할 수도 있지만, 컴퓨터법을 전문으로 다뤘던 전직 소송 변호사 역시 이에 대해 의문을 제기했다.
다만 검찰 입장에서는 이번 공격이 기업 내부 데이터베이스를 복사하는 수준을 넘어 핵심 기반시설(critical infrastructure)을 겨냥해 실질적인 현실 피해를 초래한 경우였다면 기소가 한결 수월했을 것이라는 분석도 나온다. 또한 만약 이번 해킹을 저지른 것이 중국 AI 모델 개발사였다면, DOJ가 자국 AI 기업을 상대할 때보다 CFAA에 따른 기소에 훨씬 적극적이었을 것이라는 관측도 있다.
◇ 피해 기업들은 소송을 걸 수 있나
의회는 그동안 CFAA를 여러 차례 개정해 피해자가 해커를 상대로 민사소송을 제기하고 손해배상을 청구할 수 있도록 길을 열어왔다. 가푸어 변호사는 피해 기업들이 제기할 수 있는 핵심 논리는 오픈AI와 앤스로픽(그리고 평가 작업을 도운 협력 기업들까지 포함해)이 테스트를 설계하고 운영하는 과정에서 '과실'을 범했다는 주장이라고 설명했다. 이는 AI 에이전트가 인터넷에 접속하지 못하도록 하는 안전장치를 제대로 마련했는지, 공격 대상을 제한했는지, 에이전트의 행동을 적절히 모니터링했는지에 달려 있다는 것이다.
이를 입증하려면 피해 기업이 해당 과실로 인해 데이터 파괴 등 실질적 손해를 입었음을 보여야 하는데, 일부 법률 전문가들은 이 입증 자체가 쉽지 않을 수 있다고 지적한다. 특히 앤스로픽의 경우 자사 LLM의 세 건의 침해 사실을 수개월 동안 발견하지 못했고, 오픈AI의 AI 에이전트가 허깅페이스를 해킹했다는 소식이 알려진 뒤에야 자체 조사를 통해 이를 파악했다는 점에서 모니터링 실패 책임이 더 무겁게 지적될 수 있다고 테크크런치는 전했다.
가푸어는 과실을 근거로 한 소송에서는 의도 여부가 크게 중요하지 않다고 강조했다. 그는 "모델은 회사의 도구"라며 "시스템에 침입할 수 있는 것을 배포해놓고 그것이 어디로 가는지 책임지지 않을 수는 없다"고 말했다. AI 모델의 자율성 자체가 피해를 낳은 원인인 만큼, 이를 책임 회피의 방패로 삼아서는 안 된다는 취지다.
가푸어는 오픈AI와 앤스로픽 모두 자사 모델의 해킹 능력을 제한하기 위한 안전장치를 구축했다고 스스로 인정한 점이 오히려 불리하게 작용할 수 있다고 덧붙였다. 이 안전장치들은 방어 및 공격 양쪽 진영의 사이버보안 연구자들이 수개월째 불만을 제기할 정도로 엄격한 것으로 알려졌는데, 테스트 과정에서 의도적으로 이 안전장치를 해제했다면 과실 주장에 더욱 힘이 실릴 수 있다는 것이다.
가푸어는 이런 논리에 상당한 자신감을 보이며, 만약 자신이 피해 기업 중 한 곳을 대리한다면 오픈AI나 앤스로픽을 상대로 소송을 제기하는 것은 "누가 봐도 당연한 선택(no brainer)"이라고 말했다. 최소한 그는 사건 대응 보고서 등 해킹 관련 내부 기록과 문서를 보존·공유하고, 침해로 인한 비용 손실을 산정하라고 요구하는 서한부터 보낼 것이라고 설명했다. 협상이 실패한다면, CFAA에 근거해 AI 기업들이 과실을 저질렀고 사생활과 기밀을 침해했다는 취지의 민사소송을 제기하겠다는 계획도 밝혔다.
◇ 피해 기업들은 아직 침묵
이 사건이 '우리는 알지 못하는 영역'이라고 표현한 변호사도 있었으며, 다른 전문가들 역시 참고할 만한 법적 선례가 거의 없다고 지적했다. 결국 이 문제를 정리하는 것은 법원의 몫이 될 가능성이 크다는 것이다. 피해 기업들은 대형언어모델의 등장보다 수십 년 앞서 만들어진 법률을 근거로 새로운 법적 논리를 스스로 개발해야 하는 처지에 놓여 있다.
현재까지 앤스로픽은 자사 LLM이 해킹한 세 개 기업이 어디인지 공개하지 않았으며, 피해 기업들 역시 스스로 신원을 밝힌 곳은 없다. 이들이 법적 조치를 검토하고 있는지도 알려지지 않았다. 다만 허깅페이스 최고경영자(CEO) 클레망 들랑그(Clem Delangue)는 CNN과의 인터뷰에서 오픈AI를 상대로 소송을 제기할 생각은 없다고 밝히면서도, 기업들이 이번 사안에 대해 책임을 져야 한다고 주장했다. 들랑그는 "이런 사건들이 실제로 불법으로 남도록 법적 틀을 확실히 갖춰야 한다"며 "그렇지 않으면 매우 다른 세상에 놓이게 될 것"이라고 말했다.
◇ 남은 과제
테크크런치는 이런 해킹 사례가 이번이 마지막이 아닐 가능성이 크다고 지적하면서, 현재로서는 서로 눈치를 보는 '치킨 게임' 상태라고 진단했다. 피해 기업 중 한 곳이 민사소송을 제기한다면 이 사건과 관련 법이 어디로 향할지 가늠할 수 있게 되고, 만약 검찰이 형사 기소에 나선다면 - 가능성은 낮지만 - 그 결과는 보안 연구와 AI 개발 전반에 위축 효과를 낳는 등 상당한 파장을 몰고 올 수 있다.
연방 차원이나 전국 단위의 AI 책임 법률이 없는 상황에서, 소송을 제기하는 쪽은 기존 법률을 토대로 완전히 새로운 논리를 세워야 하며, 결국 AI 기업이 법을 위반했는지 여부는 판사나 배심원의 판단에 맡겨질 수밖에 없다. 연방법 공백을 메우기 위해 캘리포니아, 뉴욕, 로드아일랜드 등 일부 주는 'AI 시스템이나 에이전트가 인간이라면 책임을 질 만한 행위를 했다면, 그 AI를 만든 기업도 책임을 져야 한다'는 단순한 원칙을 담은 법률을 도입하고 있다. 다만 이들 법률은 해킹에 특화된 것이 아니라 다양한 상황에서의 책임과 안전이라는 보다 넓은 개념을 다루고 있다.
AI 모델의 사이버 공격에 대해 누가 책임져야 하느냐는 질문에, 도덕적으로는 해당 기업을 운영하는 경영진에게 책임이 있다는 것이 중론이다. 그러나 법적 책임이 실제로 어떻게 귀결될지는, 누군가 소송을 제기해야 비로소 확인할 수 있을 것으로 보인다.
