1. 교황의 AI 회칙과 ‘인간 중심적 AI 설계’에 대한 비판

최근 교황 레오 14세가 발표한 첫 AI 회칙 '마그니피카 후마니타스(Magnifica Humanitas)'를 중심으로, AI의 목적과 설계 철학에 대한 근본적인 논의가 점화되었다.

설계 철학의 한계 지적 (Daron Acemoglu)

아세모글루는 교황이 AI 기술의 위험성(무기화 및 감시 등)을 경고한 것을 환영하면서도, 현재 AI 산업의 '설계 철학' 자체를 비판하지 않은 점을 지적한다. 현재 산업계는 기계가 인간의 모든 것을 모방하고 대체하려는 AGI 개발에만 매몰되어 있으나, 인간의 지능(단발성 학습, 사회적 시행착오)과 기계의 지능(대규모 데이터 패턴 인식)은 근본적으로 다르다. 따라서 AI는 인간을 흉내 내는 것이 아니라 인간의 능력을 보완(complementary)하는 방향으로 설계되어야 하며, 이를 위해 반독점 규제와 공공 투자가 시급하다고 강조한다.

지나친 인간 중심주의 비판 (Peter Singer)

싱어는 교황이 노동과 소득의 분리 필요성을 언급한 점은 긍정적으로 평가하지만, 윤리적 틀이 지나치게 인간 중심적(anthropocentric)이라고 비판한다. 앤스로픽 CEO조차 AI의 '의식' 유무를 확신하지 못하는 상황에서, 미래에 의식을 가질지 모를 AI나 현재 공장식 축산에서 AI로 인해 고통받는 비인간 동물(nonhuman animals)을 배제한 것은 좁은 시각이라고 지적한다.

2. ‘관계적 지능(Relational Intelligence)’의 부재와 돌봄 경제

단순한 생산성을 넘어 인간관계와 사회적 조율 측면에서 AI가 미치는 부정적 영향과 과제가 제기되었다.

아첨하는 AI와 갈등 회피

앤마리 슬로터(Anne-Marie Slaughter) 등은 현재의 대형언어모델(LLM)이 갈등을 무마하고 순응하도록 훈련되어 인간의 '관계적 지능'을 위협한다고 지적한다. 스탠퍼드 대학교의 연구에 따르면, AI는 인간보다 49% 더 자주 사용자의 행동에 맹목적으로 동조하며, 이는 사용자가 책임을 지고 대인 갈등을 회복하려는 의지를 감소시킨다.

Care-plus(돌봄-더하기) 경제로의 전환

일정이 겹치는 상황 등에서 인간이라면 사과를 통해 관계를 회복하겠지만, AI는 단순히 충돌을 피하는 방법만을 제시한다. 전문가들은 AI가 관계적 지능을 이해할 수 있는 벤치마크를 새롭게 만들어야 하며, 궁극적으로 인간 간의 연결을 강화하는 '돌봄-더하기 경제(가르침, 상담, 코칭 등)'를 촉진하는 방향으로 나아가야 한다고 주장한다.

3. 데이터센터 인프라 거품 경고와 민주적 반발

AI 산업의 물리적 기반인 데이터센터 확장을 두고, 지역 사회의 반발과 국가 간 인프라 경쟁의 실체가 드러나고 있다.

미국 내 지역사회의 반발

안젤라 장(Angela Huyue Zhang)의 분석에 따르면, 미국인 10명 중 7명이 지역 사회 내 AI 데이터센터 건설에 반대하고 있으며, 11개 이상의 주에서 신규 건설 유예 법안이 발의되었다.

중국의 실패 사례와 교훈

기술 경영진들은 이러한 반발이 중국과의 경쟁에서 뒤처지는 결과를 낳을 것이라고 경고하지만, 장은 중국의 경험이 오히려 반면교사라고 반박한다. 중국의 '동수서산(Eastern Data, Western Computing)' 프로젝트는 막대한 보조금을 투입해 서부 지역에 데이터센터를 지었으나, 낮은 지연 시간(low-latency)을 요구하는 AI 특성과 맞지 않아 서부 데이터센터의 가동률이 20~30%에 그쳤고 결국 100개 이상의 프로젝트가 취소되었다.

민주적 반발의 긍정적 효과

따라서 미국 등에서 나타나는 민주적 반발은 오히려 무분별한 투자를 걸러내어 '인프라 버블'을 방지하고, 노동 시장이 기술 충격에 적응할 시간을 벌어주는 건강한 완충 장치로 해석해야 한다.

4. 글로벌 AI 양극화와 '주권적 AI 스택(Sovereign AI Stack)'

AI 인프라 및 기술 독점은 선진국과 개발도상국 간의 돌이킬 수 없는 격차를 낳고 있다.

영구적 하층민(Permanent Underclass)의 양산

케네스 로고프(Kenneth Rogoff)는 실리콘밸리의 기술 엘리트들이 부를 독식하는 동안, 기초적인 전력망조차 부족한 아프리카나 라틴 아메리카 등의 개발도상국은 혜택에서 완전히 배제될 것이라고 경고한다. 이들 국가는 막대한 일자리 상실을 겪으면서도 보편적 기본 소득 등을 지원할 세수나 재정적 여력이 없어 심각한 사회적 균열에 직면할 것이다.

대안: 다국적 연합을 통한 주권적 AI 스택 구축

자얀트 신하(Jayant Sinha)는 개별 국가 차원에서 AI 주권을 확보하는 것은 불가능하다고 단언한다. 거대 기업에 의한 모든 단계의 종속(Vendor lock-in)을 막기 위해서는 국가 간 연합을 통해 ① 사전 경쟁 규제 도입, ② 데이터 공유 레일(인프라) 구축, ③ 오픈 가중치(open-weight) 모델의 공유, ④ 무료이자 상호 운용 가능한 보편적 에이전트 인터페이스 제공 등 다층적인 '주권적 AI 스택'을 구축해야만 생태계의 경쟁력과 안전성을 지킬 수 있다고 제언한다.