생성형 인공지능(AI)가 아동·청소년의 학습 도구를 넘어 대화 상대와 상담 창구로 활용되는 가운데, 유해정보 노출을 막기 위한 법안이 국회에 제출됐다. AI 서비스 설계 단계부터 아동·청소년 보호 장치를 강화하고 국가 차원의 공적 보호체계를 마련하겠다는 취지다.

국회 과학기술정보방송통신위원회 소속 조인철 의원(더불어민주당)은 23일 아동·청소년이 안전한 환경에서 인공지능을 이용할 수 있도록 하는 ‘우리아이 AI 안심 패키지법’을 대표발의했다.

이번 패키지법은 ‘인공지능기본법’과 ‘정보통신망 이용촉진 및 정보보호 등에 관한 법률’ 개정안으로 구성됐다. 인공지능 환경에서 아동·청소년 보호를 국가 AI 정책에 반영하고, 생성형 AI 챗봇 등 대화형 AI 서비스 제공자의 보호 의무를 강화하는 것이 핵심이다.

최근 챗GPT, GROK AI 등 생성형 AI 챗봇은 단순한 검색·학습 도구를 넘어 아동·청소년의 고민 상담, 정서적 교류 대상으로 활용되고 있다. 초록우산 실태조사에 따르면 아동·청소년의 94.4%가 생성형 AI 챗봇을 이용하고 있으며, 응답자의 49.5%는 “AI로부터 자신을 이해받는다고 느낀다”고 답했다.

그러나 AI 이용이 빠르게 일상화되는 속도에 비해 아동·청소년을 위험한 대화와 유해정보로부터 보호할 제도적 장치는 충분하지 않다는 지적이 제기돼 왔다. 실제로 자살·자해 등 유해한 질문을 한 아동·청소년 상당수가 AI로부터 별도의 차단이나 제어 없이 위험한 답변을 제공받은 것으로 조사됐다. 약물 오남용, 성적 착취·학대 위험, 과의존 등 부작용에 대한 공적 보호체계가 필요하다는 것이다.

‘인공지능기본법’ 개정안은 아동·청소년을 ‘인공지능취약계층’에 포함하고, 국가 인공지능 기본계획에 인공지능취약계층의 피해 예방과 보호에 관한 사항을 반영하도록 했다. AI 시대 아동·청소년 보호를 국가 정책 차원에서 다루도록 근거를 마련한 것이다.

함께 발의된 ‘정보통신망법’ 개정안은 대화형·생성형 AI 서비스 제공자에게 아동·청소년 보호의무를 부과했다. 구체적으로 이용자 연령 및 본인 확인, 아동·청소년 이용 시 법정대리인 동의, 이용 방법·시간 제한, 대화 일시·내용 등 정보 제공, 위험 노출 신고 시스템 구축 및 위험 제거 조치 등을 의무화했다.

조 의원은 다음달 1일 국회에서 초록우산과 함께 ‘AI 시대 아동·청소년 권리 보장 정책토론회’도 개최할 예정이다. 토론회에서는 정부 부처와 전문가들이 함께 AI 이용 확산에 따른 아동·청소년 보호 방안과 실효성 있는 제도 개선 과제를 논의할 계획이다.

조 의원은 제안 이유에 대해 “이제 아이들은 사람뿐 아니라 AI와도 관계를 맺고, 고민을 털어놓고, 정보를 얻는 시대를 살고 있다”며 “AI가 아이들의 일상 속에 깊이 들어온 만큼 서비스 설계 단계부터 아이들의 발달 단계와 안전을 최우선으로 고려해야 한다”고 밝혔다.

이어 “이번 법안의 핵심은 AI 기술 발전을 저해하는 것이 아니라, 아이들이 더 안전하고 건강하게 AI의 혜택을 누릴 수 있는 생태계를 조성하는 것”이라며 “디지털 환경에서 아이들의 권리와 안전을 지키기 위한 입법 통과에 힘쓰겠다”고 강조했다.