ИИ-помощники для программистов советуют несуществующие пакеты — хакеры этим пользуются

Что произошло. Исследовательская группа Cloud Security Alliance проверила 16 популярных ИИ-моделей, которые пишут программный код на языках Python и JavaScript. Из 2,23 миллиона сгенерированных примеров кода почти 20% содержали название программного пакета (готового блока кода, который разработчики подключают к своим проектам), которого на самом деле не существует. Всего нашли более 200 тысяч таких выдуманных названий. При повторных одинаковых запросах модели часто называли одни и те же несуществующие пакеты снова и снова — это значит, что их поведение предсказуемо.

Этим уже пользуются злоумышленники. Они заранее угадывают и регистрируют выдуманные ИИ названия пакетов в открытых каталогах npm и PyPI, куда разработчики их обычно скачивают. Внутри такого фальшивого пакета прячут вредоносный код, который ворует пароли и ключи доступа. В источнике описан случай, когда поддельный пакет имитировал известный реальный инструмент для JavaScript и собирал установки от разработчиков, которым его порекомендовал именно ИИ-ассистент. Похожая масштабная кампания с похожим приёмом описана под названием PhantomRaven — по данным исследователей, она затронула десятки тысяч загрузок.

Что это значит для бизнеса. Если в компании программисты пользуются ИИ-помощниками для написания кода, стоит знать: предложенные ИИ названия библиотек и пакетов нельзя считать проверенными. Установка непроверенного пакета может привести к краже паролей, доступов и других конфиденциальных данных компании. Источник не называет цены или сроки появления готовых защитных решений, но упоминает, что некоторые редакторы кода и менеджеры пакетов уже начали добавлять проверку названий при установке.