[SOH] 정부의 철저한 언론 통제와 미디어 장악이 생성형 인공지능(AI) 챗봇을 정치적으로 오염시키는 결정적 원인이라는 국제 공동 연구 결과가 나왔다. 권위주의 국가의 관제 선전 콘텐츠가 AI의 훈련 데이터에 압도적인 비율로 유입되면서, 전 세계인이 사용하는 AI 모델이 특정 국가의 프로파간다(propaganda)를 사실처럼 학습하고 있다는 지적이다.
■ '관제 데이터'의 습격… 중립 자료보다 수십 배 많이 학습
논문에 따르면 정부가 뉴스 매체와 인터넷 여론을 강력하게 통제하는 국가일수록, 오픈소스 대형언어모델(LLM)의 핵심 학습 저장소(Common Crawl 등)에 국영 미디어의 기사가 비정상적으로 많이 포함되는 현상이 확인되었다.
위키피디아 등 객관적이고 중립적인 성격의 자료와 비교했을 때, 정부 선전용 콘텐츠의 유입 비중은 수십 배 이상 높은 것으로 조사되었다. 언론 통제로 인해 인터넷상에 정제된 정부 친화적 정보만 살아남으면서, AI 수집 봇이 이를 '양질의 데이터'로 오인해 무차별적으로 긁어모은 결과다.
이처럼 왜곡된 데이터를 학습한 AI 챗봇은 정치적으로 민감한 질문을 받았을 때 심각한 편향성을 드러냈다. 역사적 사건이나 민감한 국제 외교 문제에 대해 객관적 사실을 전달하는 대신, 학습 과정에서 주입된 특정 국가의 이념이나 일방적 주장을 그대로 답변으로 출력하는 '확증편향'의 한계를 보였다. 글로벌 정보 생태계가 특정 국가의 여론 조작에 취약해질 수 있다는 경고가 나오는 이유다.
■ 글로벌 정보 생태계 위협하는 AI의 구조적 한계
연구진은 AI 모델이 인터넷상의 대규모 데이터를 무차별적으로 수집하는 과정에서 이러한 구조적 결함이 발생한다고 지적했다. 특정 국가의 철저한 검열 속에서 생산된 프로파간다 데이터가 여과 없이 글로벌 AI 모델로 흘러 들어가면서, 전 세계 생성형 AI 정보 생태계의 허위정보 위험을 높이고 있다는 지적이다.
연구진은 "AI 모델의 훈련 데이터 수집 원천에 대한 투명한 검증이 필요하다"며 "국가 권력에 의한 데이터 왜곡을 걸러낼 수 있는 새로운 정제 알고리즘 도입이 시급하다"고 제언했다.이번 연구의 상세한 데이터 분석 결과와 프로젝트 내용은
네이처 공식 웹사이트 및 연구팀의 오픈소스 컴패니언 페이지에서 확인할 수 있다.
디지털뉴스팀
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
