Глава FTC США: бизнес не сможет списать ошибки ИИ-агентов на саму программу

Что произошло. Председатель Федеральной торговой комиссии США (FTC) Эндрю Фергюсон на мероприятии Reuters заявил, что компании не могут объяснять проблемы с ИИ-агентами тем, что программа якобы действовала самостоятельно и вышла из-под контроля. По его словам, при разборе случаев, которые сначала выглядели как самовольные действия ИИ, выяснялось, что система просто выполняла заданные ей инструкции. Это не новое правило FTC, а позиция, которая может повлиять на то, как ведомство будет рассматривать подобные дела в будущем.

Что это значит для бизнеса. Если компания использует ИИ-агента, который отвечает клиентам, оформляет возвраты, выбирает способ оплаты или запускает платежи, то отвечать за ошибки такого агента, скорее всего, будет сама компания, а не программа. Поэтому важно четко фиксировать, кто дал агенту право на такие действия, какие у него были ограничения по сумме и получателю платежа, мог ли он менять данные счета и что именно он сделал. Такие записи помогут разобраться в случае сбоя и показать, выполнял ли агент свои инструкции или вышел за рамки полномочий. Фергюсон также сообщил, что ведомство готовится запросить у компаний, работающих с клиентами напрямую — например, служб доставки, такси и авиакомпаний — информацию о персонализированном ценообразовании, то есть о том, назначают ли они разным покупателям разные цены на основе их личных данных. Ранее, в августе, FTC уже публиковала проект документа о недопустимости скрытого использования личных данных для назначения цен, но пока это остается только предложением, а не принятым запретом.