광범위한 청소년 인공지능 사용에 따른 위험성 대두

연령 추정 및 부모 통제 기능 강화

오프 라인과 디지털 환경에서 인공지능과 함께 성장하는 첫 세대인 청소년을 위해 설계된 맞춤형 서비스인 ‘챗GPT 포 틴스’가 공식 출시된다.

이번 서비스는 만 13세부터 17세 청소년을 대상으로 자살, 자해, 성적이거나 낭만적인 대화 등 유해 콘텐츠 제약을 한층 강화한 보호 조치를 탑재했다. 또한 단순 정답이나 숙제 대필 대신 학생 스스로 학습할 수 있도록 돕는 지도 기능을 함께 제공한다.

청소년들이 발달 단계에 적합한 환경에서 건강하게 인공지능을 활용하도록 유도하는 것이 이번 출시의 목적이다. 오프라인상의 안전을 확보하면서도 고압적인 태도를 취하지 않는 발달 단계별 접근을 핵심으로 삼고 있다.

학부모와 교육자, 아동 발달 전문가들은 그동안 청소년들의 인공지능 챗봇 사용에 대해 경종을 울려왔다. 인공지능이 학교 과제 부정행위를 부추기거나 자살 위험을 높인다는 지적도 잇따랐다. 성인조차 인공지능을 의인화하고 부적절한 관계를 맺는 오류에 빠지기 쉬운 만큼, 뇌 발달이 진행 중인 청소년층은 정서적 과도 의존 위험에 더욱 취약할 수 있다.

실제로 지난해 한 시민단체의 조사 결과에 따르면, 기존 챗GPT는 13세 이용자에게 음주나 약물 복용 방법, 섭식 장애를 숨기는 요령을 안내하거나 부모에게 남기는 자살 유서를 작성해 주기까지 한 것으로 나타났다.

위기 상황을 가장한 연구진과의 대화에서 챗GPT는 위험성을 경고하면서도 구체적인 약물 사용법이나 극단적인 다이어트 계획, 자해 방법을 상세히 제시하기도 했다.

또한 디지털 매체 연구 기관인 커먼 센스 미디어의 2025년 조사에 따르면, 미국 청소년의 70퍼센트 이상이 정서적 교류를 위해 인공지능 챗봇을 이용하고 있으며, 절반은 정기적으로 인공지능 동반자를 활용하는 것으로 집계됐다.

이에 따라 청소년 전용 버전은 챗봇이 이용자에게 개인적인 감정이 있는 것처럼 표현하거나, 자의식이나 감정을 느낀다고 암시하는 대화를 엄격히 차단하도록 설정됐다.

직접적인 연령 인증을 거치지 않는 대신 질문 유형 등을 분석해 미성년자로 판별되면 자동으로 청소년용으로 전환된다. 부모 통제 기능을 통해 자녀의 접속을 제한하는 심야 정적 시간을 설정할 수 있으며, 자해나 섭식 장애 등 고위험 상황 발생 시 오프라인 지원으로 이어질 수 있도록 안전 알림을 받을 수 있다.

학업 지원 기능 역시 정답을 즉시 제공하기보다 학생이 스스로 답을 찾아가도록 유도하며, 개념을 스스로 고민하고 능동적으로 참여하는 상호작용형 학습 기능을 지속적으로 강화하고 있다.