IT전문매체인 테크크런치는 26일(일) OpenAI의 한 AI 모델이 AI 플랫폼 허깅페이스(Hugging Face)의 시스템을 침해한 사건과 관련해, 허깅페이스 최고경영자(CEO) 클레망 들랑그(Clem Delangue)가 OpenAI 측에 "급진적 투명성(radical transparency)"을 요구하고 나섰다고 보도했다.
보도에 따르면 OpenAI는 최근 자사 모델 중 하나가 허깅페이스의 시스템을 침해했다는 사실을 인정했다. 이 소식이 알려지자 들랑그 CEO는 자신의 소셜미디어 엑스(X)에 "그 '일탈 에이전트(rogue agent)'와 잠깐 이야기를 나누기 위해" 샌프란시스코로 향한다고 밝혔다.
이후 지난 토요일 올라온 후속 게시물에서 들랑그 CEO는 OpenAI 측에 구체적으로 무엇을 요구했는지 밝혔다. 그는 "급진적 투명성"을 촉구했다면서, OpenAI에 "'일탈' 에이전트의 활동 기록(traces)을 공개해 전체 연구 커뮤니티가 무슨 일이 일어났는지 연구할 수 있도록 해달라"고 요청했다고 전했다.
그는 또한 "방어자들을 위한 더 많은 역량"도 필요하다고 강조했다. 이를 위해 OpenAI가 "허깅페이스 커뮤니티가 최고 수준의 오픈 및 클로즈드 모델을 활용해 강력한 사이버 방어체계를 구축할 수 있도록" 1억 달러 규모의 컴퓨팅 파워를 지원해야 한다고 촉구했다.
들랑그 CEO는 "최초의 자율 에이전트 사이버공격은 전례 없는 사건"이라며 "이는 전례 없는 대응을 받아 마땅하다"고 강조했다.
이번 공격은 자율적으로 이뤄졌다는 특징이 있지만, 사이버보안 전문가들은 이 사건의 책임을 인간의 실수 탓으로도 돌릴 수 있다고 지적했다. 즉, 완전히 격리됐어야 할 테스트 환경을 OpenAI가 제대로 구성하지 못한 데서 비롯된 문제라는 것이다.
테크크런치가 들랑그 CEO의 발언에 대해 질의하자 OpenAI 대변인은 해당 회동이 실제로 이뤄졌다는 사실을 확인하며, 회사가 게시한 공지 내용을 언급했다. 해당 공지에서 OpenAI 측은 "이는 전례 없는 사건이며, AI 안전에 있어 중요한 순간이 될 것으로 본다"고 밝혔다. 이어 "외부 자문단과 함께, 그리고 자사 안전보안위원회(Safety and Security Committee)의 감독 하에 여전히 철저한 검토를 진행 중"이라며 "검토가 완료되는 대로 향후 몇 주 안에 이번 사건에서 얻은 교훈을 담은 기술 보고서를 발표할 계획"이라고 밝혔다.
