마크 저커버그(Mark Zuckerberg) 메타(Meta) CEO가 발표한 6500단어 분량의 '개인용 AI(Personal AI)' 관련 선언문이 오히려 대중의 AI 불신을 부추기고 있다고 테크크런치(TechCrunch)는 10일(월) 보도했다.
저커버그는 이날 자신이 구상하는 '개인용 초지능(personal superintelligence)' 시스템에 대해 장문의 글을 공개했다. 메타AI가 추진 중인 이 시스템의 가능성을 조명하는 내용이 대부분이었다. 다만 이 글에 담긴 아이디어 자체는 완전히 새로운 것은 아니다. 같은 취지의 에세이가 2주 전 월스트리트저널(WSJ)에 실린 바 있고, 저커버그는 메타 실적 발표 콜에서도 비슷한 내용을 언급해왔다. 다만 이번 글은 그가 공개한 것 중 가장 상세한 버전으로 평가된다.
테크크런치는 이 선언문이 일각에서 '반(反)둠어(anti-doomer)' 에세이로 묘사되고 있지만, 이는 정확한 표현이 아니라고 짚었다. 실제로는 AI가 사회를 어떻게 바꿀지에 대해 저커버그 개인이 느끼는 기대감을 풀어놓은 글에 가깝다는 것이다. 그런데 저커버그가 초지능이 가져올 풍요로운 미래를 그리려 애쓰는 동안에도, 정작 글 곳곳에서는 이 기술이 잘못될 수 있는 여러 지점들을 스스로 상기시키고 있다고 매체는 지적했다.
테크크런치는 AI 자체에 대해서는 흥미를 느끼고 계속 관련 기사를 써온 입장이라면서도, 다수 대중은 AI를 꺼림칙하고 불쾌한 것으로 받아들이고 있다고 전했다. 그러면서 저커버그의 이번 에세이 같은 글이 업계에 전혀 도움이 되지 않는 이유를 짚어볼 필요가 있다고 밝혔다.
◇ 소셜미디어 불신, AI로 고스란히 전이
테크크런치는 소셜미디어가 여전히 테크 업계의 민감한 주제라며, 페이스북(Facebook)에 대한 모든 비판의 타당성을 여기서 일일이 따지긴 어렵다고 전제했다. 다만 분명한 것은 제품으로서의 페이스북과 인물로서의 저커버그 모두 미국 대중 사이에서 인기가 없다는 점이라고 지적했다.
최근 한 설문조사에 따르면 미국인의 64%가 소셜미디어가 민주주의에 해롭다고 답했고, 비슷한 비율이 소셜미디어에 대한 규제를 강화해야 한다고 응답했다. 이 수치는 진보와 보수 진영 모두에서 고르게 나타났다고 매체는 전했다. 게다가 지난 주말에는 법원이 아동에게 해를 끼쳤다는 이유로 메타에 5억6700만 달러의 벌금을 부과하기도 했다. 테크크런치는 "분위기 자체가 좋지 않다"고 평가했다.
매체는 저커버그가 이런 이유로 은둔하며 자숙해야 한다는 취지는 아니라고 선을 그으면서도, 소셜미디어가 남긴 후폭풍이야말로 지금 AI의 사회적 영향에 대한 불안이 커진 핵심 배경 중 하나라고 짚었다. 공정하든 아니든, 대중은 테크 기업 경영진들이 새로운 기술을 사회에 긍정적으로 활용할 것이라 신뢰하지 않는다는 것이다. 그런데 이번 에세이는 이런 현실을 인정하고 신뢰를 되찾으려 하기보다, 애초에 신뢰가 어떻게 무너졌는지를 거듭 보여주는 결과가 됐다고 테크크런치는 비판했다.
◇ 막연한 낙관론과 동떨어진 현실 인식
테크크런치는 에세이의 상당 부분이 지능에 대한 막연하고 추상적인 일반론에 할애돼 있다고 지적했다. 과거 저커버그와 잭 도시(Jack Dorsey)가 '표현의 자유'에 대해 내놓던 모호한 발언들과 흡사하다는 것이다. 저커버그는 글에서 "모든 사람이 더 강력한 도구를 갖게 되면서 각자는 미래를 만들어갈 능력을 더 갖게 될 것"이라며 "경쟁하는 이해관계를 가진 사람과 기관들은 자연스럽게 서로 견제와 균형을 이루며 긍정적인 결과로 이어진다. 모두에게 초지능을 제공하는 것이 긍정적인 AI 미래로 가는 가장 현실적인 길"이라고 썼다.
이에 대해 테크크런치는 상충하는 이해관계가 오히려 나쁜 결과로 이어진 사례도 얼마든지 떠올릴 수 있다고 반박했다. 더 이상한 점은 이런 주장이 메타가 시장에 내놓으려는 '개인용 지능(personal intelligence)'이라는 특정 제품에 대한 설명이 아니라, 마치 진지한 철학적 결론인 것처럼 제시되고 있다는 점이라고 매체는 꼬집었다. 이미 저커버그를 신뢰하지 않는 사람이라면, 이런 서술이 나쁜 일이 일어날 수 없다고 스스로를 설득하기 위한 글처럼 보일 수 있다는 것이다.
테크크런치는 저커버그가 제시한 구체적 사례들이 실제 AI 도구가 쓰이는 현실과 놀랄 만큼 동떨어져 있다며 이런 인상이 더 짙어졌다고 밝혔다. 예컨대 교육 분야에 대해 저커버그는 "모든 사람이 모든 과목에서 박사 학위를 가진, 무한한 인내심을 지닌 개인 튜터이자 코치를 갖게 될 것"이라며 "학생들은 부모가 비용을 지불할 수 있는 경우에만 받을 수 있었던 도움을 필요한 영역에서 추가로 받게 되고, 성인들은 새로운 직무 기술이나 언어, 취미 등 무엇이든 정확히 가르쳐줄 수 있는 초지능 학습 도우미를 갖게 될 것"이라고 썼다.
그러나 테크크런치는 저커버그가 설명한 이 제품은 이미 챗GPT(ChatGPT), 클로드(Claude), 제미나이(Gemini) 같은 소비자용 챗봇 형태로 존재한다고 지적했다. 이런 도구들이 특정 주제를 배우는 데 실제로 도움이 되는 것은 사실이지만, 교육 현장에서 이들이 주로 쓰이는 방식은 오히려 학습을 회피하는 데 있다는 것이다. 개인 튜터가 숙제를 대신 해주고 과제 에세이를 써줄 수 있는 데다, 견고한 워터마킹 시스템이 없어 교사들이 어떤 에세이가 AI로 작성됐는지 확인할 방법이 없다는 점도 문제로 지적됐다.
테크크런치는 이것이 상대적으로 위험도가 낮은 사례이긴 하지만 지금 실제로 벌어지고 있는 일이라고 강조했다. 좋은 목적으로 설계된 기술이 의도치 않은 부작용을 낳아 상황을 오히려 악화시키는 경우가 있으며, 세계에서 가장 영향력 있는 인물 중 한 명이 이런 현실을 인정하지 않는다는 사실 자체가 사람들을 불안하게 만들 수 있다고 매체는 밝혔다.
저커버그는 법률 시스템 관련해서도 낙관적인 예시를 들었다. 그는 "오직 한 사람만 초지능 변호사를 가진 상황을 가정해보자. 그는 실체적으로 틀렸더라도 법정에서 부당한 우위를 점하게 될 것이고, 이는 더 나쁜 사회로 이어질 것"이라며 "그러나 모두가 초지능 변호사를 갖게 된다면, 소송에서 기술과 자원의 불균형이 흔했던 오늘날보다 훨씬 공정하고 효율적으로 정의가 실현될 것"이라고 썼다.
이에 대해서도 테크크런치는 지나치게 편향된 예시라고 반박했다. 법률 AI에 대한 접근성이 더 정의로운 사회로 이어질 수도 있지만, 이미 존재하는 관료제적 복잡함을 가중시킬 수도 있고, 법률판 스팸이라 할 수 있는 악의적 소송 남발이라는 새로운 물결을 촉발할 수도 있다는 것이다. 매체는 이런 문제들에 대해 마음 편히 있기 어려운데, 정작 저커버그가 아무 걱정도 하지 않는다는 사실이 오히려 더 불안하게 만든다고 밝혔다.
◇ 프리미엄 모델 설명도 "이상하게 추상적"
테크크런치는 심지어 메타의 기존 사업 방식을 설명하는 대목조차 묘하게 추상적인 성격을 띤다고 지적했다. 저커버그는 메타의 프리미엄(freemium) 모델에 대해 "모든 사람이 이런 도구에 무료 또는 저렴하게 접근할 수 있을 것"이라며 "수십억 명이 이용할 수 있는 무료 버전을 제공할 것이고, 더 많은 컴퓨팅을 사용하고 싶은 이들을 위해서는 동적 경매 메커니즘을 통해 누구나 자신이 사용하는 지능과 컴퓨팅에 대해 최저 가격을 보장받도록 하는 동시에, 집단적으로 가장 가치 있다고 여겨지는 용도에 용량이 쓰이도록 할 것"이라고 밝혔다. 그는 "이를 통해 초지능의 혜택이 널리 분배될 것"이라고 덧붙였다.
테크크런치는 큰 틀에서는 이 주장에 동의한다고 밝혔다. 접근성이 문제라는 지적도 맞고, 프리미엄 모델이 모두가 컴퓨팅 비용을 선불로 지불해야 하는 방식보다 더 많은 접근을 가능케 한다는 점도 사실이라는 것이다. 스팟 컴퓨팅에 대한 동적 시장 역시 이미 존재하는 만큼, 저커버그가 완전히 규범을 벗어난 것을 상상하는 것도 아니라고 매체는 인정했다. 그러나 소비자용 AI 제품들이 하나같이 최종 사용자를 스팟 가격 변동으로부터 보호하는 데는 이유가 있다고 지적했다. 서지 프라이싱(surge pricing)은 특히 업무에 실질적으로 의존하는 도구에 적용될 경우 최악의 사용자 경험을 낳는다는 것이다.
테크크런치는 저커버그가 이런 사실을 모를 리 없고, 실제로 토큰 가격을 동적 경매로 정할 계획은 아닐 것이라고 짐작해왔지만, 이번 글을 읽고 나니 오히려 그 확신이 예전보다 줄었다고 밝혔다.
◇ "위험 인정하고 신뢰 쌓는 게 먼저"
테크크런치는 이런 내용을 전달하는 더 나은 방식이 있다고 강조했다. 여러 결함에도 불구하고 샘 올트먼(Sam Altman) 오픈AI(OpenAI) CEO와 다리오 아모데이(Dario Amodei) 앤스로픽(Anthropic) CEO는 대중과 직접 소통할 때 비교적 좋은 접근법을 보여준다는 것이다. 이들은 저커버그가 이번 글에서 하지 않은 것, 즉 AI의 위험성을 인정하고 자신들이 취하는 예방 조치를 강조하며 청중에게 스스로를 신뢰할 수 있다고 설득하는 작업을 해왔다고 매체는 설명했다.
다만 테크크런치는 이런 소통만으로 할 수 있는 일에는 한계가 있다고 덧붙였다. 특히 최근 들어 안전장치가 실패하고 이 사업 전반에 내재한 위험성이 그대로 드러나는 경우가 잦아지고 있다는 것이다. 그럼에도 어떤 형태로든 신뢰를 쌓는 과정 없이는, AI 업계가 이런 실패들을 항상 견뎌낼 수 있으리라 장담하기 어렵다고 매체는 결론지었다.
