연방정부, 안전관리 체계 점검 착수

텀블러릿지에서 발생한 총기 난사 사건과 관련해 연방정부가 인공지능 플랫폼의 안전 관리 체계 전반을 점검하기로 했다.

에번 솔로몬 인공지능·디지털혁신 장관은 23일, 총격범이 사건 수개월 전 OpenAI의 대화형 인공지능 서비스 ‘챗GPT(ChatGPT)’ 사용이 금지된 사실이 확인됐다고 밝혔다. 다만, 회사 측이 해당 계정 폐쇄 사실을 사법당국에 통보하지 않았다는 점이 도마에 오르면서 논란이 확산되고 있다.

솔로몬 장관은 이에 따라 회사의 안전 및 정책 담당 고위 관계자들을 오타와로 불러 면담하고, 플랫폼의 위험 신호 감지 및 보고 절차에 대한 설명을 요구할 계획이라고 밝혔다. 그는 “AI 기술이 공공 안전에 미칠 수 있는 잠재적 영향을 면밀히 검토해야 한다”며 “기업의 자율 규제에만 의존할 수는 없다”고 강조했다.

한 방송 보도에 따르면, 오픈에이아이는 총격범 제시 밴 루첼라르의 계정을 지난해 6월 차단했다. 다만 당시 계정 활동이 “신뢰할 만하거나 임박한 범행 계획을 식별할 수준에는 이르지 않았다” 며 사법 당국에 통보하지는 않았다고 설명했다.

월스트릿 저널도 해당 계정이 총기 폭력 시나리오 등 우려스러운 게시물로 내부 경고를 받았으며, 이후 차단됐다고 보도했다.

오픈에이아이는 지난 2월 10일 사건 발생 이후 연방경찰에 연락했다고 밝혔다. 밴 루첼라르는 어머니와 이복형제를 살해한 뒤 지역 중등학교로 이동해 학생 5명과 교육보조원 1명을 추가로 살해하고 스스로 목숨을 끊었다.

솔로몬 장관은 “관련 보도에 깊은 충격을 받았다” 며 “지난 주말 동안 회사 측과 접촉해 추가 정보를 요청했고, 이번 주 고위 안전팀과 직접 만나 안전 프로토콜과 경찰 통보 기준에 대한 설명을 들을 예정” 이라고 말했다.

그는 연방정부가 챗 봇과 같은 인공지능 서비스를 규제할 계획이 있는지에 대해서는 구체적인 답변을 피했지만, “모든 선택지를 검토하고 있다”고 밝혔다.

오픈에이아이 대변인도 성명을 통해 “고위 관계자들이 오타와를 방문해 정부 관계자들과 안전 접근 방식, 현재 시행 중인 보호 장치, 그리고 이를 지속적으로 강화하는 방법에 대해 논의할 것” 이라고 확인했다.

한편 UBC대학교 컴퓨터과학과 명예교수인 앨런 맥워스는 아동에게 해를 끼칠 가능성이 의심되는 경우 교사나 의사 등 전문가에게는 ‘의무신고’ 책임이 법과 직업 윤리에 명시돼 있다고 지적했다. 그는 “유사한 의무가 소셜미디어 및 인공지능 기업에도 부과돼야 한다” 고 주장했다.