프롬프트 해킹 막는다… 오픈AI, 챗GPT에 ‘잠금 모드’ 도입

AI 요약

오픈AI는 사용자의 민감한 데이터 유출과 프롬프트 인젝션 공격에 대응하기 위해 잠금 모드(Lockdown Mode)를 도입하고 셀프 서비스 방식의 챗GPT 비즈니스 계정과 자격 요건을 충족하는 일부 개인 계정에 순차적으로 배포하고 있습니다. 잠금 모드는 외부 네트워크 요청을 제한해 데이터 유출을 방지하도록 설계됐으며, 실시간 웹 브라우징(미리 저장된 캐시 콘텐츠만 접근 가능), 웹 이미지 검색 및 표시, 심층 연구(Deep Research), 에이전트 모드 등 외부와의 실시간 통신이 필요한 주요 기능을 비활성화하지만 사용자가 직접 이미지 파일을 업로드하거나 AI로 이미지를 새로 생성하는 내부 작업은 정상 작동합니다. 오픈AI는 잠금 모드가 캐시된 웹 콘텐츠나 사용자가 업로드한 파일에 악성 프롬프트가 포함돼 있을 경우 챗GPT의 오작동 자체를 완전히 막지는 못한다고 밝혔습니다.