청소년의 SNS와 인공지능(AI) 챗봇 과몰입에 대응하기 위해 이용시간이나 연령 제한을 넘어 플랫폼이 서비스 설계 단계부터 안전장치를 마련해야 한다는 제안이 나왔다. 무한 스크롤과 알고리즘 추천, AI와의 정서적 의존 등 새로운 위험에 맞춰 청소년 보호체계를 재정비해야 한다는 주장이다.

한국소비자연맹은 국회 문화체육관광위원회 소속 박정하 의원, 국회 보건복지위원회 소속 한지아 의원(이상 국민의힘), 한국정보통신법정책학회와 28일 서울 영등포구 국회의원회관에서 ‘청소년에게 안전한 디지털 환경은 누구의 책임인가?-SNS·AI 챗봇 중독과 플랫폼의 안전설계 책임’을 주제로 토론회를 개최했다.

발제에 나선 상윤모 연세대 교수는 청소년 SNS 규제를 연령에 따른 접근 제한과 서비스의 위험 요소를 줄이는 설계 기반 규제로 나눠 살폈다. 무한 스크롤과 자동재생, 야간 알림, 알고리즘 추천 등을 과몰입을 유발할 수 있는 기능으로 꼽았다.

상 교수는 “SNS 이용을 일률적으로 제한하면 뉴스·정보 접근이나 또래 소통 같은 순기능까지 제한될 수 있다”며 접근 제한과 함께 플랫폼의 위험평가·완화 의무를 적용할 필요가 있다고 밝혔다. 이어 “청소년 SNS 이용의 영향을 정확하게 파악하려면 장기간에 걸친 연구와 증거 축적이 필요하다”고 강조했다.

AI 챗봇은 서비스 기능과 위험도에 따라 보호 수준을 달리해야 한다는 제안이 나왔다. 김나정 국회입법조사처 조사관보는 기존 제도가 게시물 중심의 사후 규제에 치우쳐 실시간 대화와 반복적인 상호작용이라는 AI 특성을 충분히 반영하기 어렵다고 지적했다.

국내 청소년 3300명을 대상으로 한 조사에서는 94.4%가 생성형 AI 챗봇을 이용한 경험이 있는 것으로 나타났다. 김 조사관보는 “학습·번역 등을 위한 AI와 친구나 연인처럼 관계를 형성하는 동반자형 AI는 위험 수준이 다르다”며 “AI 전체를 하나로 묶기보다 기능과 위험도에 따라 보호조치를 달리할 필요가 있다”고 말했다.

대안으로는 서비스 출시·운영 과정에서 위험을 미리 평가하고 연령에 적합한 설계와 안전한 기본설정, 위기 대응체계를 갖추도록 하는 ‘안전설계(Safety by Design)’가 제시됐다. 이용자의 행동을 제한하는 데서 나아가 사업자에게 사전 예방 책임을 부여하자는 것이다.

토론에서도 플랫폼 책임 강화 요구가 이어졌다. 정지연 한국소비자연맹 사무총장은 “청소년의 SNS·AI 과몰입 문제를 이용제한이나 부모의 관리 책임만으로 해결하는 데는 한계가 있다”며 “청소년의 취약성은 이용금지의 근거가 아니라 더 높은 보호수준을 요구하는 근거가 돼야 한다”고 밝혔다. 윤영호 서울대 교수도 플랫폼의 안전설계 의무 법제화와 청소년 디지털 정신건강 실태조사, 전문 지원체계 구축 등을 제안했다.

반면 규제에 앞서 충분한 검증이 필요하다는 의견도 나왔다. 조영기 한국인터넷기업협회 사무총장은 “청소년 정신건강에는 학업 경쟁과 가족·또래 관계 등 다양한 요인이 작용한다”며 SNS·AI와 정신건강 사이의 인과관계를 충분히 살펴야 한다고 밝혔다. 과도한 연령 확인 의무가 개인정보 수집 확대와 기업 부담으로 이어질 가능성도 지적했다.

천혜선 디지털산업정책연구소 박사는 “법적·논리적으로 타당한 규제가 반드시 현장에서 제대로 작동하는 것은 아니다”며 실제 집행 가능성과 효과를 검토하고 지속적으로 제도를 보완하는 체계가 필요하다고 강조했다.

정부는 일률적인 이용 차단보다 위험 수준에 따른 안전장치에 무게를 뒀다. 함형철 방송미디어통신위원회 과장은 “서비스 기능과 이용자 특성, 예상되는 피해 등을 고려할 필요가 있다”며 위험도가 높은 기능에 강화된 안전장치를 적용하는 정책 방향을 제시했다.