"AI 오류 책임은 결국 약사에게"…AI기본법 핵심은?

AI 요약

존재하지 않는 판례를 꾸며내거나 부정확한 약물 정보를 사실인 양 제시하는 AI 환각이 약사들 사이에서 신뢰 문제로 지적되며, AI가 생성한 잘못된 정보에 대한 최종 책임은 개발사가 아닌 면허를 가진 약사에게 귀속될 수 있다고 우종식 변호사 등이 경고했습니다. 올해 1월부터 시행된 인공지능기본법은 보건의료 제공·이용체계를 고영향 AI로 분류해 약국에도 적용되며, 약사에게 투명성 확보(AI 사용 고지·AI 생성 표시), 안전성 확보(검증 절차·오류 대응 매뉴얼)와 설명 가능성 등 의무를 부과합니다. 미국 맨해튼 연방법원은 AI가 생성한 가짜 판례를 검증하지 않고 제출한 변호사에게 벌금을 부과한 사례를 들며, 환자 개인정보를 외부 AI에 식별정보로 입력하는 것은 금지되며 위반 시 매출액 3% 과징금·5년 이하 징역 또는 5천만원 이하 벌금 등이 가능하고 AI 활용 내역과 결과물은 최소 3년간 보관해야 한다.