오픈AI, 프롬프트 인젝션 방어 '락다운 모드' 공개...민감 데이터 보호 강화

AI 요약

오픈AI가 지난 6일(현지시간) 프롬프트 인젝션 공격으로부터 민감한 데이터를 보호하기 위한 신규 보안 기능 락다운 모드를 발표했습니다. 락다운 모드를 활성화하면 실시간 웹 브라우징이 비활성화되고 캐시된 콘텐츠만 접근이 허용되며 웹 기반 이미지 검색·표시와 심층 연구 기능 에이전트 모드가 비활성화되고 이미지 생성 기능은 계속 사용할 수 있습니다. 오픈AI는 이 모드가 프롬프트 인젝션에 완전히 면역되지는 않으며 목표는 민감한 데이터가 외부로 공유될 가능성을 줄이는 것이고 현재 셀프서비스 챗GPT 비즈니스 계정과 일부 개인 계정에 순차 출시 중이라고 밝혔습니다