[SOH] 구글이 미국 국방부에 자사 인공지능(AI) 모델 사용을 허용하는 계약을 체결했다.
‘디지털투데이’ 등에 따르면 이번 계약은 국방부가 구글의 상용 AI 모델과 관련 인프라에 폭넓게 접근할 수 있도록 하는 내용이 핵심이다.
계약서에는 "양측은 AI 시스템이 적절한 인간의 감시와 통제 없이는 국내 대규모 감시나 자율살상 무기(목표물 선정 포함)를 위해 의도되지 않았으며 사용돼서도 안 된다는 점에 동의한다"는 문구가 담겼다.
그러나 계약서는 "정부의 합법적인 작전 결정에 대해 통제하거나 거부권을 행사할 수 있는 어떠한 권리도 부여하지 않는다"는 내용과 "구글은 정부의 요청에 따라 AI 안전 설정과 필터를 조정하는 데 협조해야 한다"는 내용도 포함된 것으로 알려졌다. 국방부의 활용 방식에 대해 기업이 사후적으로 제동을 걸 수 없다는 의미다.
이에 대해 △안전장치의 실효성, △기업의 통제 권한, △내부 구성원의 윤리 문제 등이 향후 핵심 쟁점으로 대두될 전망이다.
이런 우려에 대해 구글 측은 국가안보 지원이라는 점을 강조했다. 구글 대변인은 로이터에 상용 모델의 API 접근을 제공하는 방식이 국가안보를 지원하는 책임 있는 접근이라고 밝혔다. 그러면서 대규모 감시나 자율무기 활용에는 적절한 인간의 감독이 필요하다는 기존 입장을 재확인했다.
구글은 오픈AI, 일론 머스크 테슬라 최고경영자(CEO)의 AI 스타트업 xAI에 이어 미 국방부와 AI 계약을 맺은 3번째 기업이 됐다. 앞서 미 국방부는 지난해 구글, 오픈AI, 앤트로픽 등 주요 AI 기업들과 각각 최대 2억 달러(약 2950억원) 규모의 AI 사용 계약을 체결했다.
하지만 이후 앤트로픽은 미 국방부가 AI 모델을 '정부의 모든 합법적 목적'에 사용할 것을 요구한 것과 관련해, '대규모 국내 감시'와 '자율 살상 무기 개발' 목적의 사용에는 동의하지 않는다고 하면서 충돌을 빚어왔다. 이에 국방부는 클로드와 계약을 해지했고, 도널드 트럼프 행정부는 미국 정부 기관 내 클로드 사용을 금지시켰다.
디지털뉴스팀
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
