챗GPT 등 생성형 AI가 아이들의 친구이자 상담자가 되는 시대, 아동·청소년을 위험한 대화와 유해정보로부터 보호하기 위한 법적 안전망 구축이 추진된다.

더불어민주당 조인철 국회의원(광주 서갑)은 23일 “아동·청소년이 안전한 환경에서 인공지능을 이용할 수 있도록 국가의 책임과 AI 서비스 제공자의 안전설계·보호 의무를 강화하는 내용의 ‘우리아이 AI 안심 패키지법’을 대표발의했다”고 밝혔다.

패키지법은 인공지능 환경에서 아동·청소년 보호를 국가 AI 정책에 반영하는 ‘인공지능기본법’ 개정안과 생성형 AI 챗봇 등 대화형 AI 서비스 이용 과정에서 아동·청소년 보호조치를 강화하는 ‘정보통신망법’ 개정안으로 구성됐다.

패키지법은 2개 축으로 구성됐다. ‘인공지능기본법’ 개정안은 아동·청소년을 ‘인공지능취약계층’에 포함하도록 했고, 국가 인공지능 기본계획에 ‘인공지능취약계층’의 피해 예방·보호 사항을 반영하도록 해 AI 시대 아동·청소년 보호를 위한 국가 차원의 책임 기반을 마련했다.

함께 발의된 ‘정보통신망법’ 개정안은 대화형·생성형 AI 서비스 제공자에게 아동·청소년 보호의무를 부과하는 것이 핵심이다.

조인철 의원은 “아이들은 사람 뿐만 아니라 AI와도 관계를 맺고 고민을 털어놓고, 정보를 얻는 시대를 살고 있다”며 “AI가 아이들의 일상 속에 깊이 들어온 만큼 서비스 설계 단계부터 아이들의 발달 단계와 안전을 최우선 고려해야 한다”고 설명했다./김진수 기자

▶ 디지털 뉴스 콘텐츠 이용규칙보기