교육에서 활용하는 생성형 인공지능(AI)에 할루시네이션(Hallucination, AI언어 모델에서 주어진 데이터 또는 맥락에 근거하지 않은 잘못된 정보나 허위 정보를 생성하는 것)을 최소화하여 서비스로 제공하는 방법과 수집되는 데이터의 비식별처리로 개인 정보보호를 지키는 것이 중요하다는 의견이 제시됐다.

대전교육청이 15일 주최한 ‘AI·디지털교육 : 리터러시와 윤리’ 포럼에 참가한 윤진욱 투비유니콘 대표는 ‘생성형 AI 선도기업의 AI윤리 실천사례’를 발표했다. 이 자리에서 윤 대표는 투비유니콘의 학생진로탐구 AI 솔루션과 AI학습플랫폼 개발과정에서 진행되고 있는 데이터 수집 및 가공, 보안 관리 프로세스를 단계별로 상세히 소개하면서 학생 데이터 관리와 개인정보 보호의 중요성을 언급했다.

특히 윤 대표는 “AI 에듀테크 기업이 할루시네이션에 대한 걱정을 없애고 표절문제를 방지하기 위해 교육 분야 전용 거대언어모델을 자체적으로 구축하고, 수집되는 데이터의 개인정보를 지키는 노력을 병행해야 한다”고 강조했다.

투비유니콘은 한국어로 된 진로데이터를 학습시켜 교육 전문 거대언어모델인 ‘TBU-LLM(Large language model)’을 구축, 생성형 AI로 학생들의 진로교육 학습플랫폼인 ‘노크(NOK)’를 개발한 에듀테크 전문 벤처기업이다.

한편 이번 포럼은 디지털 대전환의 시대에 AI·디지털 교육의 학교 교육에 빠른 적용뿐 아니라 학생들에게 리터러시 교육의 중요성을 강조하고 준비하기 위해 개최됐으며 교육관계자, 전문가, 기업 관계자 등 200여 명이 참여했다.