굿파이어, AI 블랙박스 해결 나서다…LLM 디버깅 도구 '실리코' 출시로 해석 가능성 민주화

AI 요약

샌프란시스코 기반 스타트업 굿파이어가 LLM의 블랙박스 문제를 해결하기 위해 개별 뉴런을 실시간으로 검사·조정할 수 있는 기계론적 해석 가능성 도구 실리코를 출시했습니다. 실리코는 AI 에이전트를 활용해 데이터셋 큐레이션부터 학습 과정 전 단계에 개입할 수 있도록 자동화해 소규모 기업도 사례별 수수료로 접근할 수 있게 했으며, MIT Technology Review는 사후 감사가 아닌 학습 중 개입을 허용하는 점을 혁신으로 평가했습니다. 굿파이어는 실리코가 환각 감소·정확성 향상(예: 수학 오류를 유발하는 뉴런을 찾아 조정한 사례)·가치 정렬에 기여할 수 있음을 시연했으나, 이 분야가 여전히 초기 단계여서 뉴런 조정의 의도치 않은 부작용 가능성 등 한계가 있다고 설명했습니다.