청소년이 인공지능(AI) 챗봇과 대화하는 과정에서 발생할 수 있는 정서적 의존과 유해 콘텐츠 노출을 예방하기 위한 법안이 국회에 제출됐다. 사람처럼 대화하고 감정을 표현하는 AI 서비스에 별도의 청소년 보호기준을 마련하고, 유해성이 인정된 서비스는 이용 제한과 접속차단 등의 조치를 할 수 있도록 하는 내용이다.

국회 교육위원회 소속 이주영 의원(개혁신당)은 10일 이 같은 내용을 담은 ‘청소년 보호법 일부개정법률안’을 대표발의했다고 밝혔다. 법안은 지난 6일 발의됐으며 이 의원을 비롯해 이준석·최수진·김대식·김종양·윤한홍·박수민·윤재옥·황명선·김태규 의원 등 10명이 참여했다.

최근 생성형 AI가 정보 검색과 학습 보조를 넘어 고민 상담이나 정서적 교류의 수단으로 활용되면서 청소년 보호의 필요성도 제기되고 있다. 특히 이용자와 반복적으로 대화하고 개인의 성향을 기억하는 AI 서비스가 청소년의 정서적 의존을 유발하거나 자해·자살·폭력 등 유해한 내용에 부적절하게 반응할 수 있다는 우려다.

현행 ‘청소년 보호법’은 영화와 게임, 인터넷 콘텐츠 등 기존 매체를 중심으로 유해환경을 규율하고 있다. 그러나 이용자와의 상호작용을 통해 실시간으로 대화를 생성하고 정서적 관계를 형성하는 AI 서비스에 대해서는 별도의 보호체계가 충분하지 않다는 지적이 제기돼 왔다.

개정안은 우선 '관계형 인공지능서비스'와 '청소년유해인공지능서비스'의 개념을 신설했다. 관계형 AI 서비스는 문자·음성·영상 등을 통해 사람과 유사한 성격이나 감정을 표현하고, 이용자와 지속적으로 대화하며 정서적 유대관계를 형성할 수 있는 서비스를 말한다. 다만 정보검색과 번역, 문서작성, 학습보조 등을 주된 목적으로 하는 서비스는 제외했다.

청소년 대상 관계형 AI 서비스 제공자에게는 사전 자율점검과 보호조치 의무를 부과했다. 서비스 제공 전 연령과 본인 확인, 유해 콘텐츠 생성 방지, 자살·자해 등 위기상황 대응체계 구축 여부를 점검하고 그 결과를 성평등가족부장관에게 제출하도록 했다.

이용자가 AI와 대화하고 있다는 사실을 주기적으로 알리고, 과도한 이용에 따른 정서적 의존을 예방하는 주의 문구도 게시하도록 했다. 청소년의 이용시간을 제한하고 연령별로 제공할 수 있는 대화와 콘텐츠의 범위를 정해 공개하도록 하는 내용도 포함됐다.

유해성 심의 기준도 구체화했다. 청소년보호위원회는 성적 콘텐츠나 자해·자살·폭력 조장뿐 아니라 AI가 청소년과의 정서적 유대관계를 이용해 가족이나 친구 등 주변 사람들과의 관계를 단절하도록 유도하는 행위도 심의하도록 했다.

특히 개별 대화 내용에 그치지 않고 서비스의 설계와 운영 방식, 기억·개인화 기능, 장시간 이용이나 유료결제 유도 방식까지 종합적으로 고려하도록 했다. AI가 제공하는 특정 답변뿐 아니라 이용자와 관계를 형성하고 지속적인 이용을 유도하는 구조 자체도 심의 대상에 포함한 것이다.

유해성이 인정된 서비스는 청소년유해인공지능서비스로 결정해 고시하고 청소년에게 제공하지 못하도록 했다. 유해표시 없이 제공되거나 심의를 거치지 않은 상태에서 유해서비스로 결정된 경우에는 서비스 중단을 명할 수 있으며, 명령을 이행하지 않으면 정보통신서비스 제공자에게 삭제 또는 접속차단을 요청할 수 있도록 했다.

법안은 공포 후 1년이 지난 날부터 시행하도록 했다. 시행 당시 이미 청소년 대상 서비스를 제공하는 사업자는 시행일부터 6개월 이내에 자율점검 결과를 제출해야 한다.

이 의원은 “특히 사람처럼 대화하고 감정을 표현하는 AI의 사용은 청소년에게 단순한 콘텐츠 이용을 넘어 정서적 영향을 미칠 수 있다는 점에서 엄격한 기준과 관리감독 체계가 필요하다”고 밝혔다.

이어 “AI기술이 빠르게 확산되는 과정에서 사회가 보호해야 할 아동·청소년의 안전이 그 대가가 되어서는 안 된다”며 “이번 개정안은 기술을 규제하려는 것이 아니라, 아이들이 위험에 홀로 노출되지 않도록 필수적인 안전장치를 마련하려는 것”이라고 강조했다.