교황 레오 14세(Pope Leo XIV)는 인공지능(AI)의 급속한 발전이 허위정보 확산과 전쟁 위험을 키우고 있다며 각국 정부에 강력한 규제와 국제적 통제를 촉구했다. 특히 일부 자율무기 시스템은 이미 인간의 통제 범위를 사실상 벗어나고 있다고 경고했다.
교황은 25일 발표한 첫 회칙(encyclical) '마그니피카 후마니타스(Magnifica Humanitas·위대한 인간성)'를 통해 "AI 시스템은 갈등을 우선시하고 허위정보를 퍼뜨리며 세계를 끝없는 전쟁의 길로 몰아갈 위험이 있다"고 밝혔다.
약 4만3000단어 분량의 이번 회칙은 AI를 핵심 주제로 다룬 교황청 역사상 가장 포괄적인 문서 중 하나로 평가된다.
교황은 특히 AI 군사화에 강한 우려를 드러냈다.
그는 바티칸(Vatican)에서 열린 회칙 발표 행사에서 "일부 자율무기 시스템은 이미 사실상 인간이 통제할 수 없는 수준까지 발전했다"고 말했다.
또 "AI를 활용한 모든 군사 행위는 가장 엄격한 윤리적 제약 아래 있어야 한다"며 "살상 결정을 AI 시스템에 맡기는 것은 허용될 수 없다"고 강조했다.
이번 행사에는 AI 기업 Anthropic 공동창업자 크리스 올라(Chris Olah)도 참석했다. 올라 역시 "최첨단 AI 기업들은 강한 상업적 압력 속에서 운영되고 있으며 외부 감시가 필요하다"고 인정했다.
교황은 AI 산업 경쟁 과열도 문제 삼았다.
그는 "모든 것이 가속화되는 상황에서 이를 늦출 수 있는 보다 적극적인 정치적 개입이 필요하다"고 주장했다.
이어 "강력한 법적 프레임워크와 독립적 감독, 정보에 기반한 사용자, 그리고 책임을 포기하지 않는 정치 시스템이 필요하다"고 강조했다.
특히 AI 데이터 소유권이 소수 민간기업 손에만 집중되어서는 안 된다고 지적하며, 노동자 권리 보호와 아동 안전 문제도 언급했다.
교황은 AI 문제를 넘어 전쟁 자체에 대해서도 강경한 입장을 내놓았다.
그는 "지난 60년간 인류는 민간인에게 대규모 피해를 주는 잔혹한 전쟁들을 반복해왔다"며 "인류는 힘의 폭력 문화 속으로 미끄러져 들어가고 있다"고 우려했다.
또한 가톨릭교회가 수세기 동안 유지해온 '정당한 전쟁(Just War)' 이론에 대해서도 사실상 폐기 수준의 비판을 가했다.
교황은 "'정당한 전쟁' 이론은 너무 자주 모든 종류의 전쟁을 정당화하는 데 사용돼 왔으며 이제는 시대에 뒤떨어졌다"고 밝혔다.
이는 최근 JD Vance 부통령 등 미국 보수 진영이 이란 전쟁을 정당화하기 위해 해당 개념을 활용한 것과도 대비되는 발언으로 해석된다.
교황은 일부 지도자들이 국내 문제를 덮기 위해 전쟁을 이용할 가능성도 경고했다.
그는 "일부 지도자들이 국내 문제에서 관심을 돌리기 위한 효과적 수단으로 무력 충돌을 고려할 가능성을 배제할 수 없다"고 말했다.
한편 교황은 AI 산업 공급망에서 발생하는 노동 착취 문제도 지적했다.
그는 희토류 채굴 현장에서 위험한 환경에 노출된 아동 노동과 전자기기 생산 노동자들의 희생을 언급하며 이를 "새로운 형태의 노예제"라고 표현했다.
또 가톨릭교회가 과거 대서양 노예무역을 충분히 강하게 비판하지 못했던 역사에 대해서도 공식 사과했다.
교황은 "이는 기독교 기억 속의 상처"라며 "교회를 대표해 진심으로 용서를 구한다"고 밝혔다.
회칙 마지막 부분에서 교황은 성경 속 '바벨탑(Tower of Babel)' 이야기를 언급하며 인간의 오만과 기술 숭배를 경계했다.
그는 "하늘에 닿으려 했던 바벨탑처럼, 인간이 신의 축복 없이 기술만으로 모든 것을 해결하려 한다면 위험하다"며 "또 다른 바벨탑 건설을 멈추고 공동선을 위해 협력해야 한다"고 촉구했다.
