FSOC "금융 분야 사용은 신중한 감독 요구"

미국 금융 감독 당국이 인공지능(AI)이 금융 시스템에 위험을 초래할 수 있다고 14일(목) 처음으로 경고했다.

미국 CNN방송 등 외신에 따르면 미 금융안정감독위원회(FSOC)는 이날 연례 보고서에서 "AI가 혁신을 촉진하고 효율성을 높일 잠재력이 있지만 금융 분야에서의 사용은 잠재적 리스크를 관리하기 위한 신중한 시행과 감독을 요구한다"고 밝혔다.

FSOC는 AI를 '급부상하는 취약점'(emerging vulnerability)으로 공식 규정했다.

이미 많은 관련 분야 전문가가 AI 기술이 통제 불능 상태로 성장하면 재앙적인 결과를 초래할 수 있다고 경종을 울렸다.

FSOC는 챗GPT 같은 생성형 AI 모델에 대한 우려도 빼놓지 않았다.

금융기관들의 생성형 AI 도입에 따른 데이터 보안과 소비자 보호, 사생활 위험을 지적한 것이다.

생성형 AI가 환각 현상(할루시네이션)으로 불리는 결함 있는 결과를 내놓을 수 있다는 점도 거론됐다.

FSOC가 가진 또다른 걱정은 일부 AI 모델이 외부에서 내부 업무에 접근할 수 없는 '블랙박스'처럼 작동할 수 있다는 점이다.

FSOC는 "이런 설명 가능성(explainability)의 부족은 금융 시스템의 개념적 건전성을 평가하기 어렵게 하고 적합성과 신뢰성에 대한 불확실성을 증대시킨다"고 강조했다.

은행들이 베일에 싸인 AI 모델에 의존하게 되면 금융 시스템이 얼마나 견조한지 알기 어렵다는 것이다.

재닛 옐런 재무장관이 이끄는 FSOC는 2008년 금융 위기 이후 신설됐다.

FSOC에 참여하는 미국 증권거래위원회(SEC) 등 감독기관들도 기업들이 어떻게 AI를 활용하는지에 대한 조사에 나섰고 백악관은 AI 리스크 완화를 위한 행정명령을 발표했다고 로이터통신은 보도했다.

<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>