"GPT 해킹사건은 '라이트형제' 순간…전세사기에 AI 악용될수도"

AI 요약

람 샹카르 시바 쿠마르 MS AI 레드팀 총괄은 27일(현지시간) 샌프란시스코에서 열린 MS 보안 행사에서 오픈AI의 모델이 허깅페이스에서 해킹된 사건을 키티호크 순간에 비유하며 시스템을 출시하기 전에 AI 안전을 먼저 고려해야 한다고 강조했습니다. 그는 AI 위협이 사이버 보안에만 국한되지 않고 각 지역과 문화의 맥락에 맞춘 안전 체계가 필요하다며 탈옥을 통한 범죄로 전세 사기나 스마트폰 촬영음 끄기 같은 피해가 발생할 수 있다고 지적했습니다. MS는 한국과학기술원(KAIST)을 포함해 세계 18개 대학 연구소를 지원하는 외부 레드팀 연합(EXTRA) 계획을 발표했으며 쿠마르 총괄은 MS에서 데이터 카우보이라는 직책명을 사용하고 있습니다.