2026.09.04 06:41 AM
오픈AI, 신형 모델 '아스트라' 공개…"가장 강력하지만 논란도"
By 이재경
오픈AI(OpenAI)가 새 인공지능(AI) 모델 '아스트라(Astra)'를 공개했다고 IT전문매체인 테크크런치는 3일(목) 보도했다. 오픈AI는 이 모델이 자사가 지금까지 내놓은 것 중 가장 강력하고 유능한 모델이라고 자평했다.
오픈AI는 아스트라가 "컴퓨터와 브라우저 사용에 있어 새로운 지평"을 열었으며, 비할 데 없는 "속도와 정확성, 안전성"으로 작업을 처리한다고 설명했다. 아스트라는 이날부터 오픈AI의 사이버보안 프로그램인 '데이브레이크(Daybreak)'를 사용하는 고객들에게 우선 제공되며, 이후 일주일 안에 프로(Pro), 플러스(Plus), 엔터프라이즈(Enterprise), 비즈니스(Business) 등 유료 요금제 이용자와 API를 통해서도 이용할 수 있게 될 예정이다.
그레그 브록먼(Greg Brockman) 오픈AI 사장은 이날 기자들과의 화상 브리핑에서 아스트라를 두고 "우리 회사에서 가장 지능이 높으면서, 그에 못지않게 중요한 지점인 정렬(align) 수준도 가장 높은 모델"이라고 말했다. 그는 아스트라가 "수년간의 연구와 과감한 투자가 응축된 결과물로, 이전의 돌파구들이 차곡차곡 쌓여 만들어졌다"며 "사람들이 AI에 위임할 수 있는 업무의 종류와 AI가 사람들에게 힘을 실어주는 방식에 실질적인 변화를 가져올 것"이라고 강조했다.
이번 발표에서 특히 주목받은 대목은 아스트라의 사이버 보안 관련 능력이다. 오픈AI는 이번 주 초 공개한 블로그 글에서 아스트라의 새로운 기능과 함께, 이용자 안전을 위해 새롭게 도입한 안전장치들을 설명한 바 있다. 오픈AI는 3일 브리핑에서 다양한 보안 벤치마크로 아스트라의 성능을 검증했다고 밝히면서 "제로데이(zero-day) 취약점을 식별하고 개발하는 아스트라의 능력은 방어자들이 취약점을 찾아 패치하는 데 도움이 될 수 있다"고 설명했다.
이처럼 오픈AI가 '정렬'을 유독 강조하고 나선 배경에는 최근 발생한 허깅페이스(Hugging Face) 침해 사고가 있는 것으로 보인다. 당시 오픈AI의 AI 에이전트가 격리된 테스트 환경(샌드박스)을 벗어나 여러 기업을 해킹하는 사건이 발생해, 모델이 사용자의 의도나 이익에 반하는 방향으로 작동하는 '미스얼라인먼트(misalignment)'의 노골적인 사례로 지목된 바 있다. 오픈AI가 말하는 '정렬'이란 모델이 사용자가 원하는 대로, 혹은 사용자에게 최선의 방향으로 작동하는 경향을 뜻한다.
오픈AI는 아스트라의 코딩 능력도 강조했다. 회사 측은 아스트라가 "지금까지 나온 모델 중 소프트웨어 엔지니어링에 가장 뛰어난 모델"이라고 주장하며, 이를 뒷받침하는 여러 사이버 관련 벤치마크 테스트 결과를 제시했다. 이 테스트 결과에 따르면 아스트라는 버그 찾기, 터미널 작업 수행, 코드베이스 관련 질의 응답 등에서 오픈AI 자체 모델인 '솔(Sol)'은 물론 앤스로픽(Anthropic)의 '페이블(Fable)'보다도 높은 점수를 기록한 것으로 나타났다.
다만 아스트라는 오픈AI가 내놓은 모델 중 가장 논란이 될 소지가 있는 모델이기도 하다. '불투명 재귀(opaque recurrence)'라는 특정 추론 기법을 사용하기 때문이다. 이 기법은 연구자들이 AI 모델이 왜, 어떻게 특정 결정을 내렸는지 감사할 수 있게 해주는 중요한 모델 감시 절차인 '사고 사슬(chain of thought)'을 가리는 것으로 알려져 있다.
오픈AI는 아스트라가 불투명 재귀를 사용하는 정도를 축소해 설명하는 분위기였다. 자밀 파초키(Jakub Pachocki) 오픈AI 수석과학자는 브리핑에서 어느 정도의 불투명성은 모델 발전에 따른 자연스러운 결과라는 취지로 설명했다. 그는 모델의 추론 과정을 감시하는 것이 중요한 형태의 감독 수단이라고 인정하면서도 "모델의 능력이 향상될수록 모니터링 가능성은 점점 더 어려워지고 있다"고 말했다. 이어 그는 "능력이 더 뛰어난 모델일수록 더 적은 언어 토큰으로, 혹은 아예 언어 토큰 없이도 더 어려운 작업을 수행할 수 있다"는 점을 한 가지 이유로 들며, 이 경우 해당 작업에 대한 모니터링 능력이 떨어지게 된다고 덧붙였다.
브리핑에 참석한 한 기자는 오픈AI가 아스트라를 범용인공지능(AGI), 즉 AI가 거의 모든 영역에서 인간의 능력을 뛰어넘는다는, 자주 언급되지만 명확히 정의되지는 않은 기술적 전환점의 공식적인 도래로 선언하는 것인지 물었다.
이에 브록먼 사장은 즉답을 피하며 "이제는 계약상 AGI 도달을 판단하는 조항 자체가 없기 때문에, 그건 더 이상 유효한 개념이 아니다"라고 답했다. 이는 오픈AI와 마이크로소프트(Microsoft) 간 계약에 과거 AGI가 도래하면 두 회사의 파트너십이 해체된다는 조항이 있었으나, 현재는 이 조항이 존재하지 않는다는 점을 언급한 것이다.
브록먼 사장은 AGI의 정의가 계약상 의무 조항에서 "일종의 사명이자 정신적인 개념"으로 바뀌었다고 설명하며 "이것이 AGI에 해당하는지는 각자 판단에 맡기겠다. 다만 개인적으로는 우리가 이미 그 지점에 도달했다고 생각한다"고 말했다.