생성형 AI의 치명적 약점 해결…MIT, 안전 규칙 지키는 AI 기술 ‘하드플로우’가 안전선 지킨다

AI 요약

미국 매사추세츠공과대학교(MIT) 연구진은 14일(현지시간) 생성형 AI가 안전 규칙이나 물리적 조건 같은 ‘하드 제약’을 최종 출력에서 반드시 충족하도록 하면서도 생성 과정의 자유를 유지해 더 나은 해법을 찾게 하는 새로운 알고리즘 ‘하드플로우(HardFlow)’를 개발했다고 밝혔습니다. 하드플로우는 샘플링 과정을 궤적 최적화 문제로 재정의해 최적 제어 기법으로 중간 단계를 과도하게 제한하지 않으면서 최종 결과에만 하드 제약을 적용하고, 스테이블 디퓨전 등 사전학습된 확산·플로우 매칭 모델에 재학습 없이 배포 단계에서 적용할 수 있으며 제양 리 연구원과 나비드 아지잔 교수 등이 이끄는 연구에서 로봇 조작·미로 탐색·텍스트 기반 이미지 편집 실험에서 모든 제약을 충족하면서 기존 방법보다 일관되게 높은 결과 품질과 비슷하거나 낮은 계산 시간을 보였다고 설명했습니다. 연구 결과는 IEEE 학술지 ‘Transactions on Pattern Analysis and Machine Intelligence’에 게재되었습니다.