Експерти з кібербезпеки попереджають про появу нової складної атаки під назвою CopyPasta License Attack, яка становить серйозну загрозу для інструментів штучного інтелекту, особливо тих, які використовуються в компаніях, подібних до Coinbase.
Про це розповідає Бізнес • Медіа
Механізм атаки та її поширення серед ШІ-інструментів
За даними аналітиків HiddenLayer, зловмисники впроваджують шкідливий код у стандартні файли розробки, такі як README.md та LICENSE.txt, використовуючи markdown-коментарі. Оскільки штучний інтелект розглядає ці документи як надійні джерела інформації, шкідливий код може автоматично поширюватися серед різних ШІ-асистентів. Це створює ланцюгову реакцію зараження та робить атаку подібною до саморозповсюджуваного вірусу.
«Введений код може створити “задні двері”, непомітно викрасти конфіденційні дані або маніпулювати важливими файлами», — попередили у HiddenLayer.
Фахівці зазначають, що інфіковані таким чином файли стають векторами атаки для кожного ШІ-асистента, який із ними працює, що призводить до швидкого поширення шкідливого ПЗ у репозиторіях коду.
Особливі ризики для Coinbase та рекомендації експертів
Особливої уваги ця вразливість набула через те, що експлойт був спрямований на Cursor — інструмент штучного інтелекту, який у серпні Coinbase оголосила обов’язковим для використання всіма своїми інженерами. Тоді компанія навіть звільняла тих працівників, які відмовлялися працювати з цим ШІ-асистентом.
Генеральний директор Coinbase Браян Армстронг уточнював, що вже до 40% коду біржі написано за допомогою ШІ, а найближчим часом цей показник планується збільшити до 50%. Водночас він підкреслював, що критично важливі системи впроваджують із більшою обережністю, а основний обсяг ШІ-коду використовується для менш значущих компонентів.
Експерти HiddenLayer рекомендують організаціям уважно перевіряти файли на наявність прихованих коментарів, а також вручну переглядати всі зміни, які генерує штучний інтелект. Вони наголошують:
«Усі ненадійні дані, що надходять у контексти LLM [великих мовних моделей], слід розглядати як потенційно шкідливі».
Додатково зазначається, що в останній час хакери стали використовувати смартконтракти Ethereum для прихованої доставки шкідливих команд у заражених NPM-пакетах, поширюючи їх через GitHub та уникаючи стандартних засобів кіберзахисту.