투명한 워터마크 뒤에 선 우리 - AI_윤리_레터의 토론 | 내 손 안의 광장, 빠띠

AI 요약

지난 8월 14일 앤트로픽(Anthropic)은 클로드(Claude)가 생성하는 모든 글에 EU AI Act(8월 2일 시행)를 준수하기 위해 보이지 않는 워터마크를 포함한다고 밝히며, 이는 별도의 문자를 덧붙이지 않고 단어 선택의 통계적 패턴(Statistically Observable Trace)을 통해 표식을 남기는 방식이지만 짧은 텍스트나 일부 수정된 경우에는 판정 신뢰도가 떨어질 수 있다고 명시했습니다; 네이처와 전문가들은 투명성은 긍정적이지만 진짜 원작자 식별에 한계가 있고(아미나 요니스), 대량 저품질 텍스트 문제를 막지 못할 것이라는 지적(리스 리차드슨)과 함께 글쓰기 권한을 침해할 수 있다는 비판(존 그루버)과 모델 붕괴를 막기 위한 필요성(스티븐 머독)이라는 상반된 평가가 제기되었습니다. 대안적 투명성 관점의 분석은 2019년 미국 병원들이 도입한 알고리즘이 환자 중증도가 아니라 '앞으로 발생할 진료비'를 예측하도록 설계돼 역사적 의료비 지출이 적은 흑인 환자들에게 불리하게 작동했고, 이는 기술적 오작동이 아니라 잘못 설정된 목표에 모델이 정확히 부합한 사례라고 지적했습니다. 저자들은 기존의 공정성 점수만으로는 구조적 결함을 잡아내기 어렵다며 도입 계약서 단계부터 누가 문제를 정의했는가, 누가 통제하는가, 누가 이익을 얻고 누가 피해를 감당하는가, 피해자가 결정에 공식적으로 이의를 제기할 수 있는가 등 네 가지를 묻는 '권력 테스트'를 도입할 것을 권고했습니다.