В Paymentology предупредили: ИИ-агентам нельзя сразу доверять платежи

Что произошло. Технический директор компании Paymentology Тим Джослин в интервью изданию PYMNTS рассказал, как бизнесу безопасно доверять платежи программам-помощникам на основе искусственного интеллекта — так называемым ИИ-агентам. По его словам, такие программы уже умеют принимать решения не хуже человека, но правила ответственности за их ошибки пока не определены. Непонятно, кто отвечает, если агент совершит платёж, который не должен был совершать: сам пользователь, разработчик программы или тот, кто её настроил.

Что это значит для бизнеса. Джослин советует не отключать человека от принятия решений сразу, а сначала проверять работу ИИ-агента в тестовом режиме: агент получает ту же информацию, что и сотрудник, и записывает, какое решение он бы принял, но реально его не выполняет. Если решения агента совпадают с решениями человека, ему постепенно разрешают больше — например, сначала проводить небольшие платежи для ограниченного круга получателей, а затем расширять лимиты. Чем выше риск ошибки и чем сложнее её исправить, тем дольше решение должно оставаться за человеком. Для малого бизнеса это значит, что автоматизировать стоит сначала повторяющиеся и легко отменяемые операции, а крупные и необратимые платежи пока лучше подтверждать самому.

По словам Джослина, эти вопросы об ответственности нужно решить в ближайшие шесть-двенадцать месяцев, потому что технология развивается быстрее, чем правила её использования. Конкретных цен, сроков появления таких сервисов или их доступности в России в материале не указано.