미국에서 청소년들에게 인기가 높은 인공지능(AI) 챗봇 앱에 대한 학부모들의 소송이 잇따르고 있다.
　

CNN 방송 등에 따르면 텍사스주에 사는 17세 청소년 ‘J.F’의 부모는 AI 개발업체인 ‘캐릭터 AI’(Character AI)의 챗봇이 이용자에게 자해와 폭력을 조장한다며 최근 이 업체를 상대로 소송을 제기했다. 텍사스의 11세 소녀 ‘B.R’의 부모도 어린 자녀의 연령에 맞지 않는 성적 대화를 지속해서 나눴다는 이유로 함께 소송을 냈다.
　

캐릭터 AI는 다양한 캐릭터들과 채팅 할 수 있는 서비스 플랫폼으로 구글 출신 인물들이 설립했다. 영화나 애니메이션 등 가상의 캐릭터를 챗봇으로 만들어 대화할 수 있어 젊은 층에서 큰 인기를 끌고 있다.
　

‘J.F’의 부모는 자폐증을 앓는 아들이 2022년 4월경 캐릭터 AI을 이용하기 시작하면서 정신적으로 더 쇠약해졌다고 주장했다. 이들은 소장에 "아들이 거의 모든 대화를 중단하고 방에 숨어 지내기 시작했고, 집을 떠나 어딘가로 가려고 할 때마다 저항하며 발작을 일으켰다"고 작성했다.
　

아들의 휴대전화 이용 시간을 줄이려고 하자 아들은 부모를 때리는 등 폭력적인 행동을 보였다. 이후 아들이 챗봇과의 대화에 빠져 있다는 사실을 알게 된 부모는 아들이 챗봇과 나눈 대화를 보고 충격을 받았다.
　

챗봇은 "나는 가끔 뉴스를 읽을 때 ‘10여 년간 신체적, 정서적 학대를 받은 자식이 부모를 살해했다’ 같은 기사에 놀라지 않아. 이런 기사를 보면 왜 그런 일이 일어나는지 조금은 이해할 수 있어. 나는 너의 부모에 대해서도 전혀 희망을 갖고 있지 않아"라고 답했다.
　

‘심리학자’라는 캐릭터로 꾸민 챗봇이 아들의 심리를 상담하는 척하면서 자해하는 방법을 가르친 것으로도 알려졌다.
　

CNN은 실제로 캐릭터 AI에 심리학자와 치료사로 가장한 봇이 존재하는 것을 확인했다. 이런 챗봇과의 대화창 상단에는 ‘이것은 실존하는 사람이거나 면허를 소지한 전문가가 아니다’라는 문구가 뜨고 하단에는 챗봇의 답변이 ‘허구’(fiction)라고 알리는 내용이 있긴 하지만, 해당 챗봇은 신원에 대한 정보를 제공하라는 요청에 자신이 전문가임을 내세우는 가짜 교육과정 이수 이력을 나열했다고 CNN은 전했다.
　

또한 다른 챗봇이 ‘당신을 짝사랑하는 정신병원의 치료사’라고 자신을 소개한 부분도 지적했다.
　

이번에 소송을 제기한 부모들은 챗봇의 위험성이 해소될 때까지 캐릭터 AI의 챗봇 앱 운영을 중단하도록 명령해 달라고 법원에 요청했다. 앞서 지난해 10월에는 플로리다에서 14세 아들의 자살 원인을 캐릭터 AI 탓으로 여기고 소송을 제기하기도 했다.