AI 환각 사라질까…LLM 내부 분석해 고치는 새 도구 나왔다

AI 요약

샌프란시스코에 소재한 스타트업 굿파이어는 최근 실리코(Silico)라는 도구를 출시했습니다. 이 도구는 연구자와 엔지니어가 훈련 과정에서 AI 모델의 내부 구조를 들여다보고 매개변수를 조정해 데이터세트 구축부터 모델 훈련에 이르는 전 단계에서 디버깅할 수 있도록 설계되어 모델 제작자가 더 세밀하게 제어할 수 있게 합니다. 굿파이어는 이를 통해 AI 모델 구축을 연금술이 아닌 과학적 과정으로 만들려 하며, 챗GPT나 제미나이 같은 대형언어모델은 정확히 어떻게 또는 왜 그런 결과가 나오는지 알기 어려워 결함 수정이나 원치 않는 행동의 차단이 어렵다고 설명했습니다.