“기밀은 잊어드릴게요”… 망각하는 AI 뜬다

AI 요약

25일(현지 시간) 브라질 리우데자네이루에서 열린 국제학습표현학회(ICLR)에서는 로빈 지아 미국 서던캘리포니아대(USC) 교수와 독일 막스플랑크 연구진 등이 공동 개발한 오픈소스 연구 도구 허블이 공개되었습니다. 허블은 AI가 특정 데이터를 언제 어떤 방식으로 학습해 더 강하게 기억하거나 반대로 기억이 사라지는지를 분석해 AI의 암기력을 높이거나 낮추는 방법을 알려주며, 이를 통해 민감한 기밀 정보를 선택적으로 제거하는 언러닝 기술 개발과 제거 여부 입증이 가능해졌습니다. 이 도구는 기업의 기밀 유출 리스크를 줄여 기업용 AI 상용화에 영향을 미칠 수 있고, 뉴욕타임스가 오픈AI의 챗GPT를 상대로 제기한 저작권 침해 소송처럼 AI의 데이터 활용 및 기억 과정을 기술적으로 입증하는 데도 활용될 수 있습니다.