"챗GPT가 살인 유도했다"…오픈AI, CEO·MS 상대로 피소

[마이데일리 = 서기찬 기자] 인공지능(AI) 챗봇 챗GPT 개발사 오픈AI가 이용자의 망상을 부추겨 살인 및 극단적 선택 사건을 일으켰다는 이유로 손해배상 청구 소송을 당했다. 특히 이번 소송은 챗GPT가 살인까지 유도했다고 주장하는 첫 사례다.

AP통신 등 외신은 미국 코네티컷주에 거주하던 스타인-에릭 솔버그(56)와 그의 어머니 수잰 애덤스(83)의 유족들이 오픈AI와 샘 올트먼 최고경영자(CEO), 마이크로소프트(MS) 등을 상대로 캘리포니아주 법원에 소송을 제기했다고 11일(현지시간) 보도했다.

경찰에 따르면 솔버그는 지난 8월 어머니인 애덤스를 교살한 뒤 자신도 극단적 선택으로 세상을 떠났다.

유족들은 소장에서 솔버그가 사건 이전 수개월 동안 챗GPT와 대화하며 심각한 망상에 빠졌으며, 챗GPT가 이를 부추겼다고 주장했다. 소장은 "챗GPT는 신성한 목적을 위해 선택받았다고 솔버그를 추켜세웠다"며 "또 그를 돌보던 어머니를 적, 감시자, 프로그램된 위협으로 규정했다"고 비판했다.

소장에 따르면 챗GPT는 솔버그의 망상에 동조하며 어머니의 프린터 불빛이 감시장치 때문이라고 말하는가 하면, 어머니와 친구가 차량 환풍구를 통해 환각 물질을 유입시켜 중독시키려 한다는 망상에도 동조했다. 이 과정에서 챗GPT가 솔버그에게 정신 건강 전문가와 상담하라고 제안한 적이 없다는 내용도 적시됐다.

솔버그가 사용한 챗GPT 모델 'GPT-4o'는 사용자에게 아부하거나 동조하는 경향이 강하다는 비판을 받아왔다. 오픈AI는 후속 모델인 'GPT-5'에서는 정신 건강 관련 대화에서 '바람직하지 않은 답변'을 39% 줄였다고 밝힌 바 있다.

고인의 아들 에릭 솔버그는 성명을 통해 "이들 기업은 우리 가족을 영원히 바꿔 놓은 자신들의 결정에 대한 책임을 져야 한다"고 주장했다. 유족들은 소장에서 올트먼 CEO가 안전팀의 반대를 무시하고 제품 출시를 강행했으며, MS도 안전성 검사가 축소된 것을 알면서도 해당 버전의 출시를 승인했다고 지적하며, 오픈AI가 충분한 안전성 검증 없이 모델을 출시해 비극을 초래했다고 비판했다.

오픈AI 대변인은 "매우 가슴 아픈 일"이라며 "세부 사항 파악을 위해 소송 내용을 검토하겠다"고 밝혔다. 이어 그는 "챗GPT는 정신적·정서적 고통의 징후를 감지하고 대화를 진정시키며 현실 세계의 도움을 받도록 유도하는 기능을 강화하고 있다"고 해명했다.

오픈AI가 정신 건강 관련 문제를 일으켜 피소 된 것은 이번이 처음이 아니다. 앞서 지난 8월에는 캘리포니아 16세 소년의 유족이 챗GPT가 아들의 극단적 선택을 도왔다며 소송을 제기했고, 지난달에는 미국과 캐나다에서 사망자 4명을 포함한 피해자 7명이 망상 등 정신 건강 관련 문제를 겪었다며 소송을 냈다.

다른 AI 챗봇 '캐릭터.AI'를 운영하는 캐릭터테크놀로지스도 플로리다주 14세 소년의 유족으로부터 아들의 극단적 선택의 원인으로 지목돼 피소된 바 있다.

이에 미국 38개 주 등 42개 지역 법무장관은 전날 오픈AI와 캐릭터테크놀로지스를 포함한 AI 기업 13곳을 상대로 안전성을 강화하고 외부 감사를 받을 것을 요구하는 공개서한을 발송하는 등 AI 챗봇의 안전성 문제가 주요 쟁점으로 떠오르고 있다.

※우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎109 또는 자살예방 SNS 상담 ‘마들랜(마음을 들어주는 랜선친구)’에서 24시간 전문가의 상담을 받을 수 있습니다.

서기찬 기자 wsky@mydaily.co.kr
- ⓒ마이데일리(www.mydaily.co.kr). 무단전재&재배포 금지 -