Если в компании работает ИИ-агент, нужно уметь удалить данные клиента по первому требованию

Что произошло. По данным источника, крупные компании перед покупкой ИИ-сервисов стали требовать у поставщиков доказательств, что они могут удалить данные конкретного клиента не только из базы данных, но и из памяти ИИ-агента, из так называемых эмбеддингов (это сжатые математические «отпечатки» текста, которые система использует для поиска похожей информации) и из логов — журналов работы системы. Право на удаление данных закреплено в европейском законе о защите персональных данных (GDPR) ещё с 2018 года, но на практике многие компании физически не готовы его выполнить. Показательный пример — весной 2023 года итальянский регулятор временно заблокировал ChatGPT именно из-за неясных правил хранения и удаления данных; сервис восстановили, когда OpenAI добавила возможность отказаться от использования данных для обучения.

Что это значит для бизнеса. Если компания использует ИИ-агента, который запоминает переписку с клиентами, обрабатывает обращения в поддержку или хранит историю взаимодействий, данные одного человека могут храниться сразу в нескольких местах: в исходной базе, в памяти агента и в векторной базе для поиска. Удаление записи из одной базы не означает, что данные исчезли отовсюду. Для бизнеса это риск: крупный клиент или партнёр может потребовать подтверждения удаления в договоре, и если такого механизма нет, сделка может сорваться. Если же в системе когда-либо использовалось дообучение модели на клиентских данных, удалить их полностью бывает практически невозможно без переобучения модели — об этом нужно честно предупреждать в договоре.

Как попробовать. Источник советует самостоятельно провести проверку: взять одну реальную запись о пользователе и попробовать удалить её полностью — из базы данных, из памяти агента, из всех производных записей и логов, — и засечь, сколько времени это займёт и что пришлось делать вручную. Это помогает заранее найти пробелы, прежде чем их обнаружит клиент или регулятор.