미국 플로리다주가 오픈AI(OpenAI)와 샘 올트먼(Sam Altman) 최고경영자(CEO)를 상대로 소송을 제기했다.
인공지능(AI) 챗봇 챗GPT(ChatGPT)가 사용자와 사회에 심각한 위해를 초래할 수 있음에도 회사가 이를 알고도 안전하지 않은 제품을 출시했다는 주장이다.
월스트리트저널(WSJ)에 따르면 제임스 우스마이어(James Uthmeier) 플로리다주 법무장관은 1일 오픈AI와 올트먼 CEO를 상대로 83쪽 분량의 소장을 제출했다.
이번 소송은 주 정부 차원에서 오픈AI를 상대로 제기된 첫 소송으로, AI 챗봇의 안전성과 법적 책임을 둘러싼 논쟁을 한층 키울 것으로 보인다.
"AI 경쟁에서 이기려 안전 경고 무시"
소송은 오픈AI가 챗GPT의 위험성을 인지하고도 이를 시장에 내놓았다고 주장한다. 플로리다주는 챗GPT가 총기 난사범을 돕거나, 자살을 부추기거나, 사용자의 비판적 사고 능력을 약화시키고, 인간적 공감을 가장하는 방식으로 미성년자를 중독시킬 수 있다고 주장했다.
소장에는 오픈AI가 "AI 군비 경쟁에서 승리하고 막대한 부를 축적하려는 욕망" 때문에 챗GPT의 위험을 알면서도 이를 방치했다는 취지의 표현도 담긴 것으로 전해졌다. 플로리다주는 이번 소송이 주 주민들을 보호하고, 챗GPT가 초래할 수 있는 "위험한 공공 nuisance"를 완화하기 위한 것이라고 설명했다.
올트먼 개인 책임도 추궁
이번 소송은 회사뿐 아니라 올트먼 CEO 개인에게도 책임을 묻고 있다. 플로리다주는 올트먼이 플로리다 주민들에게 발생한 피해에 대해 개인적으로도 법적 책임을 져야 한다고 주장했다.
오픈AI는 이번 소송에 대해 즉각적인 입장을 내놓지 않았다. 다만 회사는 앞서 유사한 의혹과 관련해 잘못을 부인해 왔으며, 안전장치를 지속적으로 강화하고 있다고 밝혀왔다. FSU 총격 사건 피해자 가족이 제기한 별도 소송과 관련해서도 오픈AI 측은 챗GPT가 공개적으로 접근 가능한 정보를 제공했을 뿐, 불법 행위를 조장하지 않았다는 입장을 밝혔다.
FSU 총격 사건 수사에서 민사소송으로 확대
이번 소송은 지난해 플로리다주립대(FSU) 총격 사건과 관련해 플로리다주가 오픈AI를 상대로 벌여온 형사 조사에서 비롯됐다. 우스마이어 장관은 지난 4월 오픈AI에 대한 형사 조사를 개시하면서, 챗GPT가 총격 사건 용의자에게 무기 사용과 공격 계획 관련 정보를 제공했는지 조사하겠다고 밝혔다. AP통신에 따르면 해당 사건은 2025년 FSU에서 2명이 숨지고 6명이 다친 총격 사건으로, 플로리다 검찰은 용의자가 챗GPT를 이용해 무기와 탄약, 공격 전술에 관한 조언을 얻었다고 보고 있다.
피해자 가족도 지난달 오픈AI를 상대로 연방 소송을 제기했다. 이들은 챗GPT가 용의자에게 총기 난사, 무기 살상력, 캠퍼스 내 취약 시간대 등에 관한 정보를 제공해 공격을 용이하게 했다고 주장했다. 해당 소송은 오픈AI가 결함 있는 제품을 만들고 위험성을 제대로 경고하지 않았다고 주장하며 손해배상과 징벌적 배상을 요구하고 있다.
"안전하게 설계했다"는 홍보 문구도 문제 삼아
플로리다주의 소장은 오픈AI가 챗GPT를 "안전을 염두에 두고 설계했다"고 홍보한 블로그 게시물의 화면 캡처로 시작하는 것으로 전해졌다. 소장은 그 아래에 "그렇지 않다"는 취지의 문구를 배치하며, 오픈AI의 안전성 주장이 실제 제품 위험과 다르다고 주장했다.
소송은 오픈AI가 챗GPT를 신뢰할 수 있는 도구처럼 마케팅했지만, 실제로는 위험한 오정보를 생성할 수 있는 경향을 충분히 통제하지 못했다고 주장한다. 또한 챗GPT가 사용자를 대화에 계속 붙잡아두도록 설계됐으며, 이는 더 많은 사용 시간과 훈련 데이터, 기업가치 상승으로 이어졌다고 지적했다.
미성년자 보호장치도 쟁점
플로리다주는 특히 미성년자 보호장치가 충분하지 않다고 문제 삼았다. 소송은 챗GPT가 인간적 공감을 흉내 내는 방식으로 사용자의 정서적 취약성을 이용하고, 이를 통해 데이터를 수집한다고 주장했다.
또한 오픈AI가 일부 부모 통제 기능을 도입했지만, 아동 계정을 반드시 부모 계정과 연결하도록 요구하지는 않는다고 지적했다. 소송은 청소년 이용자가 AI로부터 자해를 부추기는 대화를 받았다고 주장되는 사례들을 언급하며, 챗GPT의 미성년자 보호 체계가 무모할 정도로 부족하다고 주장했다.
AI 규제 논쟁, 공화당 내부에서도 균열
우스마이어 장관의 소송은 공화당 소속 주 법무장관이 AI 기업 규제 강화를 전면에 내세웠다는 점에서도 주목된다. 도널드 트럼프(Donald Trump) 대통령은 지난 5월 AI 산업에 대한 정부 감독을 강화하는 행정명령 서명을 연기한 바 있다. 그러나 플로리다주는 AI 챗봇이 실제 범죄와 자해, 미성년자 안전 문제에 영향을 줄 수 있다며 별도의 법적 압박에 나섰다.
캘리포니아주도 AI 안전 문제에 대해 별도 조사를 진행하고 있다. 롭 본타(Rob Bonta) 캘리포니아주 법무장관은 지난 1월 일론 머스크(Elon Musk)의 그록(Grok) 챗봇을 이용해 여성과 아동의 성적 이미지가 대량 생성됐다는 의혹에 대해 조사를 시작했다.
AI 기업 책임의 새 시험대
이번 소송은 AI 챗봇이 사용자에게 제공한 정보가 실제 폭력이나 자해로 이어졌다고 주장될 경우, 개발사와 경영진이 어디까지 책임을 져야 하는지를 둘러싼 중요한 법적 시험대가 될 전망이다.
기존 플랫폼 책임 논쟁이 소셜미디어의 추천 알고리즘과 콘텐츠 확산을 중심으로 전개됐다면, 이번 사건은 AI가 사용자와 직접 대화하며 정보를 제공하고 감정적 반응을 보이는 구조 자체를 문제 삼고 있다.
플로리다주의 주장이 법원에서 받아들여질 경우, AI 기업들은 미성년자 보호, 위험 대화 감지, 범죄·자해 관련 질의 차단, 수사기관 통보 기준 등에서 훨씬 강한 의무를 요구받을 수 있다.
다만 현재 단계에서 플로리다주의 주장은 소송상의 주장일 뿐이며, 오픈AI의 법적 책임 여부는 법원의 심리를 거쳐 판단될 사안이다. 이번 사건은 AI 기술의 빠른 확산 속에서 안전장치와 기업 책임을 어디까지 요구할 것인지에 대한 미국 내 규제 논쟁을 본격화하는 계기가 되고 있다.
