“좋은 AI는 어떻게 만들어지는가”…앤트로픽, 종교·철학계와 ‘AI 윤리 대화’ 확대

AI 요약

앤트로픽은 차세대 AI의 윤리와 가치 형성을 위해 종교·철학·인문학계와의 협력을 확대한다고 19일 밝혔으며, 기술적 접근만으로는 충분하지 않다며 학자·성직자·철학자·윤리학자 등과 15개 이상의 종교·문화 그룹을 포함한 논의를 진행했고 향후 법률가·심리학자·작가·시민사회 기관으로 범위를 넓힐 계획이라고 설명했습니다. 이 논의는 자사 AI 모델 클로드(Claude)의 행동 원칙을 규정하는 클로드 헌법(Claude’s Constitution) 개선에 반영될 수 있고, 앤트로픽은 AI의 '도덕적 형성'을 연구 주제로 제시하며 AI가 중요한 결정을 내리기 전 윤리적 원칙을 스스로 확인하도록 하는 기능 등을 실험했다고 밝혔습니다. 해당 기능을 적용한 결과 일부 내부 정렬 평가에서 비정렬 행동 비율이 눈에 띄게 감소했고 AI가 이해 충돌을 언급하는 사례도 있었으나 앤트로픽은 효과 원인 규명을 위한 추가 연구가 필요하다고 밝혔으며 향후 노동·제도·권력 구조 변화 등 사회 전반 영향에 대한 논의도 확대할 계획이라고 했습니다.