[SOH] 전 세계 웹에서 수집한 대규모 학습 데이터 시장이 중국 정부의 조직적인 정보 조작으로 오염되면서, 미국산 AI마저 중국식 왜곡 프레임을 그대로 재생산하는 현상이 나타나고 있다.
■ 싱크탱크 "美 AI, 中 검열·왜곡 프레임 재생산 중”
연구진이 이들 모델을 대상으로 실증 테스트를 진행한 결과, 특히 영어보다 중국어(간체)로 질문했을 때 편향성이 두드러졌다
천안문 사태, 신장 위구르 인권 탄압, 대만 문제, 코로나19 기원 등 중국 정부가 극도로 민감해하는 주제에 대해 질문할 경우, 해당 챗봇들은 사실을 왜곡하거나 생략한 채 "중국 당국은 평화와 대화를 지지한다"는 식의 중국 공식 입장을 대변하는 모습을 보였다.
특히 ASP는 조사 대상 모델 중 마이크로소프트의 코파일럿이 중국 공산당의 검열 지침과 왜곡된 주장을 마치 권위 있는 정론인 것처럼 답변할 확률이 가장 높았다고 명시했다.
■ HTML로 방치된 웹... 中 정보 조작의 장으로 전락
전문가들은 이러한 현상이 발생한 원인으로 ‘글로벌 데이터 시장의 구조적 취약성’을 꼽는다.
가장 큰 문제는 AI 연구소들의 데이터 수집 봇이 인터넷에 공개된 웹페이지를 무차별적으로 크롤링(자동 수집)하여 학습한다는 점이다. 중국 정부는 이 취약점을 노려 ‘우마오당’ 등 대규모 온라인 댓글 부대와 자동화된 봇 계정을 동원해 왔다. 이들은 친중 성향의 허위 사실과 선전 문구를 웹상에 조직적으로 살포하는 이른바 ‘스팸어플라주(Spamouflage)’ 전술을 수년간 전개해 왔다.
결과적으로 미국 내 공신력 있는 언론사의 고급 정보나 기사는 유료 방화벽(Paywall)에 막혀 AI가 학습하기 어려운 반면, 중국 정부가 무상으로 대량 유포한 선전 문구들은 여과 없이 AI 학습 파이프라인에 대거 유입되며 데이터 오염을 유발했다.
여기에 마이크로소프트 등 일부 글로벌 빅테크 기업이 중국 현지에서 데이터 센터를 운영하며 중국의 강력한 데이터 보안법과 사상 검열 시스템의 직간접적인 영향을 받은 점 역시 데이터 왜곡을 가속화한 주요 요인으로 지적된다.
■ 디지털 권위주의 확산... 美 정보 안보 적신호
중국 정부는 자국 내 AI 개발사들에게 '사회주의 핵심 가치 준수'를 의무화하며 사상 통제를 고도화하고 있다. 그러나 이번 조사로 중국 내부뿐만 아니라 미국을 비롯한 자유민주주의 진영의 오픈소스 AI 및 글로벌 AI 모델들까지 중국식 사상 검열에 오염되고 있음이 입증됐다.
미국안보프로젝트(ASP)는 "적대국의 가치관과 왜곡된 판단을 우선시하는 왜곡된 AI는 민주주의 제도와 미국의 국가 안보를 근본적으로 흔들 수 있다"고 경고했다. 글로벌 AI 패권 경쟁이 단순한 기술력을 넘어, 온라인상의 역사적 사실과 정보의 주도권을 쥐기 위한 '인지전(Cognitive Warfare)'으로 확산되는 양상이다.
국제부
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
