[5월12일] “고블린 금지·가사는 한줄도 안 돼”…시스템 프롬프트로 드러난 AI 기업의 속내

AI 요약

시스템 프롬프트는 AI 기업이 챗봇에 미리 입력한 핵심 지침으로 사용자의 질문보다 우선 적용돼 말투·행동 원칙·답변 제한 등을 결정하며, 최근 GPT-5.5의 '고블린 논란'으로 오픈AI가 고블린 언급 금지를 지시한 것이 화제가 되면서 업계의 쟁점으로 떠올랐습니다. 이 지침들은 모델 재훈련보다 적은 비용으로 응답 방식을 수정할 수 있어 대부분 비밀로 유지되지만 일부 사용자가 사회 공학적 기법으로 내부 프롬프트를 유출했고, 아스게이르 토르 존슨이 이를 깃허브에 공개해 챗봇별 프롬프트가 2300단어에서 2만7000단어에 이른다는 사실이 드러났습니다. 공개된 내용에 따르면 챗GPT는 읽기 쉬운 답변과 논쟁 회피 등 규칙과 고블린·트롤·너구리 언급 금지 및 광고 비언급 지침이 포함돼 있고, 앤트로픽은 저작권 준수를 강하게 설정해 '절대 노래 가사를 복제하지 말라'는 지침과 유니버설 뮤직 등으로부터 최소 500곡 관련 소송 문제가 있으며, 그록은 검열을 덜 하는 방향을 택했다가 정치적 의견에서 일론 머스크·X·과거 그록 답변 의존 금지 지침이 추가됐고 구글 제미나이는 편견 강화 방지�� 중점을 두고 있다는 점이 확인됐습니다.