굿파이어, AI 블랙박스 해결 나서다…LLM 디버깅 도구 '실리코' 출시로 해석 가능성 민주화

AI 요약

샌프란시스코 기반 스타트업 굿파이어가 LLM의 블랙박스 문제를 해결하기 위해 기계론적 해석 가능성 도구 실리코를 출시했으며, 실리코는 학습 중 개별 뉴런을 실시간으로 검사·조정하고 AI 에이전트를 활용해 이 작업을 자동화합니다. MIT Technology Review는 실리코가 사후 감사와 달리 데이터셋 큐레이션부터 학습 과정 전반에 개입할 수 있어 오류(예: 9.11과 9.9의 비교 오류)를 수정하고 환각을 줄이며 가치 정렬을 돕는 점에서 혁신적이라고 보도했습니다. 다만 기계론적 해석 가능성 연구가 초기 단계이고 뉴런 조정의 의도치 않은 부작용 가능성도 있어 모든 문제를 해결하는 만능 도구는 아니며, 굿파이어는 사례별 수수료 방식으로 중소기업도 합리적 비용으로 이용할 수 있도록 제공합니다.