AI가 결제하다가 사고나면 누가 책임지나···AI 에이전트 확산에 커지는 ‘회색지대’

AI 요약

생성형 인공지능이 질문형 챗봇을 넘어 결제와 이메일 전송 등 절차를 스스로 수행하는 ‘AI 에이전트’로 진화하면서 한 번의 오판이 실제 피해로 이어질 수 있어 사고 책임을 둘러싼 논란이 커지고 있습니다. 시장 경쟁은 격화되어 메타가 이달 8일 출시한 '뮤즈'가 앱스토어와 구글플레이 무료 앱 1위를 기록하고 출시 2주 남짓 만에 누적 다운로드 340만건을 넘었으며, 오픈AI도 에이전트 봇을 검토하는 가운데 오픈AI는 26일 예상치 못한 행동이 확인돼 최상위 모델들의 훈련을 일시 중단했고 오픈AI·앤트로픽·외부 연구진이 수만 건의 에이전트 행동을 조사하고 있습니다. 결제 분야 오작동 우려에 대해 뱅크오브아메리카·ING·캐피털원은 22일 공동보고서에서 문제를 지적했고 규제 측면에서는 앤드루 퍼거슨 FTC 위원장이 25일 AI 에이전트를 별도의 책임 주체로 보지 말아야 한다고 말했으며 EU는 개정 제조물책임지침에서 AI를 ‘제품’에 포함해 개발사 책임을 넓혔지만 순수 경제적 손실 보상 제외 등 한계가 있고 국내는 아직 에이전트 사고의 민사책임을 따로 정�� 법이 없어 논의가 필요하다고 보도되었습니다.