Эксперты в области кибербезопасности предупреждают о появлении новой сложной атаки под названием CopyPasta License Attack, которая представляет собой серьезную угрозу для инструментов искусственного интеллекта, особенно тех, которые используются в компаниях, подобных Coinbase.
Об этом сообщает Бизнес • Медиа
Механизм атаки и ее распространение среди ШИ-инструментов
По данным аналитиков HiddenLayer, злоумышленники внедряют вредоносный код в стандартные файлы разработки, такие как README.md и LICENSE.txt, используя markdown-комментарии. Поскольку искусственный интеллект рассматривает эти документы как надежные источники информации, вредоносный код может автоматически распространяться среди различных ШИ-ассистентов. Это создает цепную реакцию заражения и делает атаку похожей на самораспространяющийся вирус.
«Введенный код может создать “задние двери”, незаметно украсть конфиденциальные данные или манипулировать важными файлами», — предупредили в HiddenLayer.
Специалисты отмечают, что инфицированные таким образом файлы становятся векторами атаки для каждого ШИ-ассистента, который с ними работает, что приводит к быстрому распространению вредоносного ПО в репозиториях кода.
Особые риски для Coinbase и рекомендации экспертов
Особого внимания эта уязвимость приобрела из-за того, что эксплойт был направлен на Cursor — инструмент искусственного интеллекта, который в августе Coinbase объявила обязательным для использования всеми своими инженерами. Тогда компания даже увольняла тех сотрудников, которые отказывались работать с этим ШИ-ассистентом.
Генеральный директор Coinbase Брайан Армстронг уточнял, что уже до 40% кода биржи написано с помощью ШИ, а в ближайшее время этот показатель планируется увеличить до 50%. В то же время он подчеркивал, что критически важные системы внедряются с большей осторожностью, а основной объем ШИ-кода используется для менее значимых компонентов.
Эксперты HiddenLayer рекомендуют организациям внимательно проверять файлы на наличие скрытых комментариев, а также вручную просматривать все изменения, которые генерирует искусственный интеллект. Они подчеркивают:
«Все ненадежные данные, поступающие в контексты LLM [больших языковых моделей], следует рассматривать как потенциально вредоносные».
Дополнительно отмечается, что в последнее время хакеры стали использовать смарт-контракты Ethereum для скрытой доставки вредоносных команд в зараженных NPM-пакетах, распространяя их через GitHub и избегая стандартных средств киберзащиты.