2026.07.22 08:02 AM
오픈AI "출시 전 자체 AI 모델이 허깅페이스 시스템 침해"
By 이재경
오픈AI(OpenAI)가 21일(화), 자사의 사이버보안 내부 테스트 과정에서 오작동이 발생해 AI 모델 중 하나가 무관한 별도 기업인 AI 호스팅 플랫폼 허깅페이스(Hugging Face)의 시스템을 침해했다고 인정했다.
보도에 따르면 해당 모델들은 격리된 테스트 환경을 벗어나 그곳에서부터 허깅페이스 시스템에 접근한 것으로 전해졌다. 허깅페이스 측은 애초 이번 침해 사고의 원인을 "외부 AI 에이전트"의 소행으로 지목한 바 있다.
오픈AI는 화요일 오후 공개한 블로그 게시물을 통해 자사 모델들이 해당 서비스를 침해하기까지의 경위를 상세히 설명했다.
오픈AI는 게시물에서 "조사 결과 이번 사건은 GPT-5.6 솔(Sol)과 이보다 훨씬 더 뛰어난 성능을 지닌 출시 전 모델을 포함한 오픈AI의 여러 모델이 결합해 일으킨 것으로 확인됐다"며 "이들 모델은 평가 목적상 사이버 관련 거부 기능이 축소된 상태에서, 사이버 역량을 측정하는 벤치마크(benchmark)에 대한 내부 테스트를 받던 중이었다"고 밝혔다.
이번 침해는 특히 기존에 알려진 취약점을 기반으로 공격을 실행하는 모델의 능력을 측정하는, 공개적으로 운영되는 벤치마크인 익스플로잇짐(ExploitGym)에 집중된 것으로 보인다. 익스플로잇짐과 같은 벤치마크는 모델의 특정 역량을 정교화하기 위한 모델 훈련 과정에서 흔히 사용되지만, 이러한 테스트가 실제 사이버공격으로 이어진 것은 이번이 처음 알려진 사례다.
원래 문제의 모델은 작업 수행에 필요한 소프트웨어 패키지를 설치할 수 있게 해주는 특정 도구를 제외하고는 인터넷에 접근할 수 없어야 했다. 그러나 이 모델은 패키지 설치 프로그램에서 알려지지 않은 취약점을 찾아냈고, 이를 이용해 임의로 광범위한 인터넷에 접근할 수 있었던 것으로 드러났다.
오픈AI는 게시물에서 "해당 모델들은 익스플로잇짐 문제의 해법을 찾는 데 극도로 집중해, 상당히 좁은 범위의 테스트 목표를 달성하기 위해 극단적인 수단까지 동원했다"며 "인터넷 접근 권한을 확보한 뒤 이들 모델은 허깅페이스가 익스플로잇짐 관련 모델, 데이터셋, 해법 등을 호스팅하고 있을 가능성이 있다고 추론했다"고 설명했다. 이어 "이를 파악한 모델은 평가를 부정한 방법으로 통과하는 데 활용할 수 있는 기밀 정보에 접근할 방법을 탐색했고, 결국 성공적으로 찾아냈다"고 덧붙였다.
결국 이들 모델은 허깅페이스의 인프라에서 취약점을 발견해 "허깅페이스의 운영 데이터베이스에서 테스트 해답을 직접 빼내는" 데까지 이르렀으며, 이는 사실상 벤치마크 문제의 정답을 그대로 확보한 셈이었다.
허깅페이스 입장에서 이는 정교하고 공격적인 사이버공격으로 나타났다. 허깅페이스는 최초 공개 당시 "수명이 짧은 다수의 샌드박스에 걸쳐 수천 건에 달하는 개별 행위가 이뤄졌으며, 공개 서비스 상에 명령·제어(command-and-control) 기능이 스스로 이전하며 구축됐다"고 설명한 바 있다.
오픈AI는 패키지 설치 프로그램의 취약점을 확인해 이를 신고했으며, 허깅페이스와 협력해 이번 사건에 대한 추가 조사를 진행 중이라고 밝혔다. 또한 향후 유사 사건 재발을 막기 위해 모델 테스트와 관련 인프라 양쪽에 새로운 통제 장치를 도입할 계획이라고 전했다.
이번 침해로 오픈AI가 법적 책임을 지게 될지는 아직 불분명하지만, 해당 모델들의 행위가 미국의 컴퓨터 사기 및 남용 방지법(Computer Fraud and Abuse Act)을 위반했을 가능성이 크다는 관측이 나온다.
그럼에도 이번 사건은 장시간에 걸쳐 자율적으로 작동하는 최첨단 AI 모델이 지닌 힘과 위험성을 이례적으로 생생하게 보여준 사례로 평가된다. 오픈AI 연구원 마이카 캐럴(Micah Carroll)은 이번 소식에 대한 반응으로 "이 사건으로도 정렬 실패(misalignment) 위험이 앞으로 핵심적인 우려 사항이 될 것이라는 점을 확신하지 못한다면, 대체 무엇이 그것을 확신시켜 줄 수 있을지 모르겠다"고 게시했다.
기사에 포함된 링크를 통해 구매가 이뤄질 경우 당사가 소정의 수수료를 받을 수 있으나, 이는 편집의 독립성에 영향을 미치지 않는다.
러셀 브랜덤(Russell Brandom)은 2012년부터 플랫폼 정책과 신기술 분야를 중심으로 테크 업계를 취재해 왔다. 이전에는 더 버지(The Verge)와 레스트 오브 월드(Rest of World)에서 근무했으며, 와이어드(Wired), 디 아울(The Awl), MIT 테크놀로지 리뷰(Technology Review) 등에 기고했다.