Исследователи нашли уязвимость в ChatGPT, позволявшую красть данные пользователей

Компания Parameter Labs рассказала, как нашла уязвимость в ChatGPT. Проблема была связана с функцией, которая позволяет создавать интерактивные мини-приложения внутри чата — OpenAI называет её HTML previews (раньше она называлась Canvas). Такие приложения должны работать в изолированной среде и не иметь доступа к данным пользователя. Но исследователи обнаружили цепочку из нескольких технических недочётов, которая позволяла обойти эту изоляцию. В итоге можно было создать специальную ссылку на общий чат ChatGPT — если по ней переходил другой залогиненный пользователь, злоумышленник мог выгрузить его личные данные или совершить действия от его имени.

Что это значит для бизнеса. Если сотрудники компании пользуются ChatGPT и делятся ссылками на чаты друг с другом или с клиентами, стоит помнить, что подобные уязвимости возможны даже в крупных и популярных сервисах. OpenAI уже исправила эту конкретную проблему и выплатила исследователям вознаграждение за найденную ошибку в размере 5000 долларов. Автор источника считает эту сумму маленькой с учётом серьёзности уязвимости. Источник не говорит, пострадал ли кто-то из реальных пользователей до исправления.

Эта новость — повод не хранить в переписках с ChatGPT пароли, данные карт и другую чувствительную информацию, а также с осторожностью переходить по присланным кем-то ссылкам на чужие чаты.