AI가 알려준 대로 했다가 망했다…회계업계의 충격 경고

AI 요약

기업들이 공용 AI 챗봇의 잘못된 금융 조언을 그대로 따르면서 실제 금전 손실 사례가 확산하고 있으며, 7일(이하 현지시간) IT 매체 테크레이더에 따르면 영국 회계사와 부기 담당자의 절반은 기업들이 AI 조언을 따른 뒤 손실을 본 사례를 경험했다고 보도했습니다. 범용 AI는 학습 데이터의 패턴을 기반으로 답변을 생성해 기업의 재무 이력·세무 의무·사업 환경을 종합적으로 반영하지 못해 세무 규정 오해, 비용 항목 분류 오류, 오래된 규정 근거 판단 등 다양한 오류가 발생했고 이는 세금 벌금, 자본 손실, 현금흐름 악화 등으로 이어질 수 있다고 전문가들은 지적했습니다. 로이즈은행 조사에서 약 2800만명이 공용 AI 도구를 재무 관리에 사용하고 있는 가운데 오픈AI가 지난 1월 의료 관련 응답에는 가드레일을 강화했지만 금융 영역에는 제한 장치가 충분하지 않다는 지적이 나오며 업계는 의료 수준의 가드레일과 전문인의 검증, 기업 내부의 AI 사용 원칙 강화를 요구하고 있습니다.