'캐나다 총격' 감지한 AI, 어디까지 개입했어야 하나

AI 요약

지난해 6월 오픈AI 내부 시스템이 한 챗GPT 계정을 위험군으로 분류했고 10여 명의 직원 중 일부는 사법당국 통보를 권고했으나 경영진은 계정을 정지하는 데 그쳤습니다. 해당 계정 주인인 만 18세 제시 밴 루첼라르는 8개월 뒤인 지난 2월 브리티시컬럼비아주 텀블러리지에서 총기를 난사해 모친과 11세 이복동생을 포함해 8명을 살해했고, 샘 올트먼 오픈AI CEO는 이달 24일 사법당국에 알리지 않은 것에 대해 공식 사과했으며 오픈AI는 신고 기준을 강화하고 해당 가해자의 활동이 신고 대상 조건을 충족했다고 밝혔습니다. AI가 범행에 활용된 사례가 이어지자 업계는 과도한 책임 부과에 대한 우려와 사생활 침해·과잉 수사 가능성을 제기했고, 스타트업 대표와 ETRI 김명주 소장은 각각 공개 정보만으로 의도를 판단하기 어렵다며 공론화를 통한 신고 기준 마련을 촉구했습니다.