[SOH] 구글이 ‘인공지능(AI) 기술을 무기 및 감시 목적으로 사용하지 않겠다’는 기존 원칙을 삭제했다.
4일(현지시간) ‘워싱턴포스트(WP)’ 등에 따르면, 구글은 최근 회사의 AI 원칙에서 '추구하지 않을 AI 애플리케이션' 조항을 제거했다. 여기에는 ‘사람을 해칠 의도로 개발된 무기 또는 기타 기술’과 ‘국제 기준을 넘어서는 감시 기술을 개발하지 않겠다'라는 내용이 포함됐으나, 현재는 사라졌다.
구글 측은 자사 블로그에 '책임감 있는 AI: 2024 보고서 및 진행 중인 작업 (Responsible AI: Our 2024 report and ongoing work)'이라는 게시물을 올려 원칙 수정에 대해 설명했다.
구글 수석 부사장인 제임스 매니카와 딥마인드의 데미스 하사비스가 작성한 해당 게시물에 따르면, 구글이 AI 원칙을 삭제한 것이 군사적 활용을 공식적으로 허용한다는 의미는 아니며, 구글은 지난 2018년부터 매년 AI 원칙을 갱신해오고 있다고 강조했다.
구글은 또 점점 더 복잡해지는 지정학적 환경 속에서 AI 리더십을 차지하기 위한 글로벌 경쟁이 벌어지고 있으며, 민주주의 국가가 자유, 평등, 인권 존중과 같은 핵심 가치에 따라 AI 개발을 주도해야 한다고도 밝혔다.
이에 따라 이러한 가치를 공유하는 기업, 정부, 단체가 함께 협력하여 사람을 보호하고 글로벌 성장을 촉진하며 국가 안보를 지원하는 AI를 만들어야 한다고 주장했다.
■ 인권단체 “윤리적 논란 커질 것”
구글의 행보에 국제인권단체 휴먼라이츠워치(HRW)는 ‘AI에 대한 자체 원칙을 후퇴시켰다’고 비판했다. 구글이 2018년 발표한 '책임 있는 AI 원칙'에서 '무기 개발 목적의 AI 활용을 금지한다'는 조항을 삭제한 것이 AI의 군사적 사용을 공식적으로 허용하는 것으로 해석될 수 있다는 우려에서다.
HRW는 "구글의 행보는 AI 기술의 무기화가 가속화될 수 있다는 점을 시사하며, 기업의 자율적 윤리 지침이 규제나 법률의 대체물이 될 수 없다는 점을 보여준다"고 강조했다. 특히 AI가 전장에서 사용될 경우 데이터 오류나 알고리즘 편향으로 인해 민간인 피해가 발생할 가능성 등 윤리적 논란이 커질 것이라고 지적했다.
앞서 구글은 여러 차례 군사 관련 프로젝트에 참여하려다 직원들의 내부 반발로 무산된 바 있다. 지난 2018년에는 미 국방부 프로젝트 '메이븐(Maven)'에 참여하려다 AI를 치명적인 목적으로 사용하는 첫 번째 단계인 것 아니냐는 직원들의 내부 반발과 항의 청원이 벌어졌다. 지난해에는 구글 딥마인드 직원 200여 명이 구글이 이스라엘 정부와 체결한 ‘프로젝트 님버스’ 계약을 종료할 것을 촉구하기도 했다.
이런 행보는 구글이 처음은 아니다. 지난해 초에는 오픈 AI가 구글보다 한발 앞서 서비스 약관에서 "군사 및 전쟁 목적으로의 활용 금지" 조항을 삭제했다.
오픈 AI는 전 미국 국가안보국 국장을 이사회 구성원으로 영입했으며, 지난해 12월에는 미국 방위산업체 '안두릴(Anduril)'과 협력해 국가 안보 임무를 위한 고급 AI 솔루션을 개발 중이라고 밝히는 등 군사 분야 행보를 이어나가고 있다.
AI 스타트업 앤스로픽(Anthropic) 역시 지난해 11월부터 미국 AI 기반 빅데이터 분석업체 팔란티어(Palantir), 아마존 웹 서비스(AWS)와 제휴해 자사의 AI 모델 ‘클로드’를 미국 정보·국방 기관에 제공하고 있으며, 메타는 자사의 AI 모델 ‘라마’를 미국 국방 기관과 방산업체에 제공한다고 발표한 바 있다.
■ AI 군사화 경쟁 가속
구글의 이번 원칙 수정은 AI 군사화 경쟁을 더욱 가속화할 가능성이 크다는 분석이 나온다. 미국 국방 전문 매체 '디펜스 원(Defense One)'은 구글의 결정을 두고 "AI 방위 산업이 치열한 경쟁 국면에 접어들었으며, 이제 미 국방부가 AI의 군사적 활용에 대한 궁극적인 규제 역할을 맡게 될 것"이라고 평가했다.
또한, 구글이 2018년 국방부와의 협력을 중단한 이후 AI 방위 산업에서 뒤처졌으며, 이번 결정을 통해 다시 군사 AI 시장에 본격적으로 진입하려는 의도를 보인 것으로 해석했다.
중국은 이미 AI 기반 군사 기술을 적극적으로 도입하고 있다. 중국은 AI를 활용한 무기체계를 최소 300개 이상 개발하고 있으며, 서방과 달리 ‘인간 개입(인 더 루프, In the loop)’ 원칙을 엄격하게 적용하지 않는 것으로 알려졌다.
이코리아
디지털뉴스팀
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
