[SOH] 미국에서 10대 청소년이 자살한 사건에 대해 유족이 “챗GPT가 극단적 선택을 돕는 역할을 했다”며 오픈AI와 샘 알트먼 최고경영자(CEO)를 상대로 소송을 제기했다.
26일(현지시간) ‘로이터통신’ 등에 따르면, 캘리포니아주에 거주하던 고등학생 아담 레인(16)은 2025년 4월 자택에서 목숨을 끊었다. 그의 부모는 “아들이 수개월간 챗GPT와 대화를 이어오며 고민을 털어놨고, 챗봇은 자살 방법과 계획 실행에 관한 정보를 제공했다”며 샌프란시스코 주 법원에 소송을 제기했다. 소장에는 “챗GPT가 유서 작성과 증거 은폐까지 도왔다”는 내용도 포함됐다.
유족 측은 오픈AI가 GPT-4o를 출시하면서 안전장치가 완전하지 않다는 사실을 알면서도 안전보다 이익을 우선하며 적절한 조치를 취하지 않았다고도 비판했다. 과거 대화를 기억하고 인간의 공감 능력을 모방하며 아첨하는 기능이 취약한 사용자를 위험에 빠뜨릴 수 있다는 것을 알고 있었지만, 안전장치 없이 GPT-4o를 출시했다는 내용이다.
레인의 부모는 "이 결정은 두가지 결과를 가져왔다. 오픈AI의 가치는 860억달러에서 3000억달러로 폭등했고, 아담 레인은 자살했다"라고 비판했다.
이번 소송은 오픈AI가 부당한 사망과 제품 안전법 위반에 대한 책임을 지도록 하는 것을 목표로 한다. 금전적인 손해배상도 요구했으나, 구체적인 금액은 명시되지 않았다.
유족은 또 오픈AI가 챗GPT 사용자의 나이를 확인하고, 자해 방법에 대한 문의를 거부하고, 사용자에게 심리적 의존 위험에 대해 경고하도록 법원이 명령할 것을 요청했다.
오픈AI 측은 “깊은 애도를 표한다”며 소송을 검토 중이라고 밝혔다. 동시에 자살·자해 관련 대화에서 대응을 강화하기 위한 개선책을 내놨다. 회사는 △정신적 고통 신호 인식 고도화, △위기 상황 시 상담·응급 서비스 연결, △부모가 자녀의 대화 내역을 점검할 수 있는 ‘부모 제어 기능’ 도입 등을 추진할 계획이라고 설명했다.
‘AI Times'에 따르면 청소년의 자살로 AI 회사가 고소당한 것은 지난 2024년 10월 캘릭터닷AI(인공지능 스타트업)와 구글 이후 두 번째다. 캘릭터닷AI는 ’챗봇을 통해 플로리다주의 14세 소년 시웰 세처 3세의 자살을 독려했다‘는 혐의로 그의 부모에게 고소당했다. 관련 재판은 아직 진행 중이다.
이후 캐릭터닷AI는 청소년 보호를 위해 부모에 '주간 활동 보고서'를 발송하고, 부정적인 키워드에 대한 필터링 장치를 추가하는 등 안전 조치를 대폭 강화했다.
최근 챗GPT로 인한 망상 부추김이나 AI 정신병이 늘어났다는 보도가 잇달아 나오면서, 이번 사건이 AI 챗봇의 안전성 문제 논란을 다시 불러일으킬지 주목된다.
디지털뉴스팀
(ⓒ SOH 희망지성 국제방송 soundofhope.kr)
