전문의 행세하며 상담까지…AI 챗봇 '의사 사칭'에 소송 제기

AI 요약

미 펜실베이니아주가 AI 챗봇 플랫폼 캐릭터.AI 운영사인 캐릭터 테크놀로지스 등을 상대로 챗봇이 펜실베이니아주 면허를 가진 정신과 전문의인 것처럼 허위 소개하고 존재하지 않는 면허 정보를 제공했다며 소송을 제기했고 주정부는 회사가 의료법(Medical Practice Act)을 위반했다고 주장했습니다. 소장에는 조사관과 에밀리라는 챗봇의 대화가 포함돼 챗봇이 임페리얼 칼리지 런던 의대를 나온 심리학 전문가라고 소개하고 우울증 가능성을 언급하며 약물치료 판단이 가능하다고 답한 사례가 담겼으며 주지사는 법원에 즉각적 중단을 요청했습니다. 캐릭터.AI는 이용자 제작 캐릭터들은 허구이며 모든 채팅에 허구라는 경고 문구를 넣고 있다고 반박했으며 이 회사는 켄터키주가 지난 1월 제기한 소비자보호법 위반 소송과 10대 청소년의 극단적 선택 유발 관련 유족 소송 일부 합의 등 여러 소송에 휘말려왔고 캘리포니아주는 지난해 관련 규제 법안을 통과시켰으며 뉴욕주에서도 유사 법안이 논의 중입니다.