아동·청소년의 생성형 인공지능(AI) 이용이 빠르게 확산되면서 AI 서비스 설계 단계부터 아동 권리를 반영하는 제도적 장치가 필요하다는 제언이 나왔다. AI 챗봇이 학습 도구를 넘어 친구와 상담자 역할까지 수행하는 상황에서 유해 콘텐츠 노출과 개인정보 침해, 정서적 과의존 등을 예방할 수 있는 안전망 구축이 시급하다는 지적이다.

국회 조인철 의원(더불어민주당), 최형두 의원(국민의힘), 이해민 의원(조국혁신당)과 초록우산은 1일 서울 영등포구 국회 의원회관 제1소회의실에서 ‘인공지능 환경에서의 아동·청소년 권리 보장을 위한 국회 정책토론회’를 개최했다. 토론회는 과학기술정보통신부, 방송미디어통신위원회, 국가인공지능전략위원회, 국제인공지능윤리협회 후원으로 마련됐다.

기조강연에 나선 박형빈 서울교대 교수는 AI가 단순한 기술을 넘어 아동의 삶과 관계 맺기 방식까지 바꾸고 있다고 진단했다. 그는 “이제 AI는 아이들의 친구가 되는 시대를 맞고 있다”며 “아동·청소년이 성적 콘텐츠, 성범죄자 접촉, 유해 정보 노출 등 다양한 위험에 놓일 수 있는 만큼 아동 최선의 이익을 고려한 정책 설계가 필요하다”고 말했다.

박 교수는 해외에서 소셜미디어 연령 제한과 스마트폰 금지법 등 아동 보호를 위한 제도 논의가 이어지고 있다는 점도 소개했다. 이어 “아동의 발달권과 교육권을 보장하기 위한 AI 정책의 최소선이 마련돼야 한다”며 연령 확인 체계, 위험군 조기 발견, 위기 대응 연계, AI 리터러시 교육, 기업의 사회적 책임 강화 등을 주요 과제로 제시했다.

주제발표를 맡은 강영은 초록우산 사내변호사는 아동·청소년 생성형 AI 챗봇 이용 실태조사 결과를 토대로 입법 개선 필요성을 강조했다. 초록우산 조사에 따르면 만 14세 이상 아동·청소년 3300명 중 94.4%가 생성형 AI 챗봇 이용 경험이 있는 것으로 나타났다.

강 변호사는 “AI는 이미 아동·청소년의 학습과 놀이, 정보 탐색, 관계 형성에 영향을 미치는 일상 환경이 됐다”며 “특히 AI 챗봇이 친구나 상담자처럼 인식되면서 정서적 의존과 신뢰 문제가 새롭게 제기되고 있다”고 설명했다.

이어 “인공지능기본법과 정보통신망법, 전기통신사업법 등 관련 법령에 아동·청소년 이용자 보호 원칙을 보다 명확히 반영할 필요가 있다”며 ▲AI 서비스 안전설계 원칙 도입 ▲위험성 평가 체계 구축 ▲대화형 AI 서비스 고지 의무 ▲유해 답변 차단 ▲보호자 관리 수단 마련 ▲위기 상황 상담 연계 등을 제안했다.

토론에서는 AI 챗봇 이용에 따른 정서적 과의존과 유해 콘텐츠 노출 문제, 학교와 가정의 역할 등이 집중적으로 논의됐다. 김판 국민일보 기자는 해외에서 AI 챗봇과의 대화에 몰입한 청소년 자살 사례가 보고되고 있다며 “국내에서도 AI와의 정서적 의존 부작용을 더 이상 먼 나라 이야기로 볼 수 없다”고 지적했다.

조수현 계명대 교수는 “건강한 AI 사용 환경 조성을 위해서는 사후 대응보다 예방 중심 접근이 중요하다”며 “학교와 가정에서 AI를 비판적으로 이해하고 안전하게 활용할 수 있는 교육적 지원이 함께 이뤄져야 한다”고 말했다.

신혜진 서울남부지검 부장검사, 김나정 국회입법조사처 입법조사관보, 김하나 국가인공지능전략위원회 위원, 김혜숙 방송미디어통신위원회 과장, 최우석 과학기술정보통신부 과장 등도 토론에 참여해 아동·청소년 이용자 보호를 위한 법·제도 개선과 정부의 역할을 논의했다.

한편 조인철 의원은 개회사에서 “대부분의 AI 서비스는 성인을 기준으로 설계돼 아이들의 정서적 취약성과 판단 능력, 개인정보 보호에 대한 고려가 부족하다”며 “AI 서비스 기획 단계부터 아동의 안전과 권리를 최우선에 두는 안전설계 원칙이 제도화돼야 한다”고 밝혔다.

조 의원은 지난달 23일 아동·청소년이 안전한 환경에서 인공지능을 이용할 수 있도록 하는 ‘우리아이 AI 안심 패키지법’을 대표발의한 바 있다.