성균관대 권민혜 교수팀, '저비용 고안전성 AI 기술' 개발

AI 요약

최근 널리 쓰이는 AI 비서는 단계마다 다른 고성능 AI에게 진행 수준을 확인받아야 해 비용과 응답 속도 문제가 있는데, 연구팀은 AI가 자신의 판단에 대한 '확신 정도'를 스스로 파악해 필요할 때만 도움을 받는 '선택적 검토' 기술을 개발해 외부 피드백 의존도를 낮췄습니다. 이 방법은 복잡한 가상 환경 테스트에서 컴퓨터 연산 자원 소모를 약 3분의 1 수준으로 줄였고 임무 성공률을 24.6%에서 78.3%로 끌어올렸습니다. 또한 연구팀은 우연히 성공한 위험 행동을 배제하고 일관되게 성공하는 안전한 행동만 골라 학습하도록 하는 '고신뢰성 강화학습'(VAN-Flow)을 고안해 40개 이상의 복잡한 로봇 제어 시뮬레이션 과제에서 대부분 기존 기술들을 앞섰으며, 두 연구 성과는 제40회 신경정보처리시스템학회에 나란히 정식 채택됐습니다.