OpenAI представила новую функцию под названием Lockdown Mode («Режим изоляции»), которая, по словам компании, обеспечит дополнительную защиту от атак с внедрением промптов. При таких атаках вредоносные инструкции для чат-бота скрываются на веб-страницах и в других источниках контента.
Режим Lockdown, в частности, отключает режим живого просмотра веб-страниц, оставляя доступ только к кешированному контенту. Также блокируется извлечение и отображение изображений из сети, хотя генерация изображений остаётся доступной. Кроме того, отключаются функции глубокого анализа и агентский режим.
Компания отмечает, что даже с включённым Lockdown Mode ChatGPT всё ещё может быть уязвим для атак с внедрением промптов. Например, вредоносный код может появиться в кешированном веб-контенте или в загружаемом файле, что по-прежнему способно повлиять на поведение модели или точность ответов.
Однако цель нововведения — снизить вероятность утечки конфиденциальных данных в процессе работы. «Режим Lockdown предназначен не для всех. Он создан для людей и организаций, которые работают с чувствительными данными и хотят получить более строгую защиту от рисков утечки данных, связанных с внедрением промптов», — поясняет OpenAI.
В настоящее время компания запускает поэтапное внедрение Lockdown Mode для самостоятельных бизнес-аккаунтов ChatGPT Business, а также для подходящих личных аккаунтов.
