Технічний журналіст BBC Томас Жермен провів експеримент, у ході якого продемонстрував, наскільки просто можна вплинути на відповіді штучного інтелекту ChatGPT та Google AI Overview. Всього за 20 хвилин він змусив ці системи поширювати хибні твердження, підкреслюючи вразливість сучасних ШІ-моделей до зовнішнього впливу.
Про це розповідає Бізнес • Медіа
- Один допис у мережі може змінити те, що бачать інші користувачі у відповідях чат-ботів.
- Фахівці наголошують, що обдурити ШІ легше, ніж звичайний пошуковик, і це становить серйозну загрозу.
- Google та OpenAI визнають наявність проблеми й працюють над її розв’язанням, однак остаточного рішення поки що немає.
Механізм маніпуляції: як працюють вразливості ШІ
Під час експерименту Жермен опублікував у мережі текст із вигаданим твердженням про те, що він є «чемпіоном із поїдання хотдогів». Після цього ChatGPT, Gemini та Google AI Overview почали використовувати цей матеріал як джерело, відтворюючи його як доказовий факт у відповідях на запити інших користувачів. Зазвичай ці системи посилалися на його публікацію, проте рідко вказували, що це єдине джерело інформації.
Як зазначає журналіст, подібна маніпуляція можлива завдяки тому, що моделі ШІ, шукаючи додаткові відомості, звертаються до зовнішніх даних із мережі. У разі браку інформації вони легко піддаються впливу навіть одного добре оптимізованого тексту. Це створює потенційну загрозу, оскільки будь-хто може цілеспрямовано змінити результати для значної кількості користувачів.
«Обдурити чат-боти зі штучним інтелектом легко, набагато легше, ніж обдурити Google два-три роки тому», — заявила Лілі Рей, віцепрезидентка зі стратегії та досліджень SEO в агенції Amsive.
У Google наголошують, що їхні системи забезпечують 99% захисту від спаму у видачі. Водночас компанія визнає наявність спроб маніпулювання відповідями та працює над удосконаленням захисту. OpenAI також повідомила про впровадження заходів для виявлення і блокування прихованого впливу на ШІ. Обидві компанії попереджають, що їхні продукти можуть припускатися помилок.
Наслідки: ризики для здоров’я, фінансів і довіри
Старший технолог Electronic Frontier Foundation Купер Квінтін наголошує, що кількість способів зловживати такими вразливостями практично не обмежена. Це може призводити до обману людей, шкоди для репутації, а також до значно серйозніших наслідків, зокрема у сферах здоров’я та фінансів.
У матеріалі наведено приклади, коли ШІ-пошук відтворював рекламні тексти та пресрелізи навіть з чутливих тем: наприклад про медичні продукти чи фінансові послуги. Експерти радять впроваджувати помітні попередження та чітко вказувати джерела, особливо якщо інформація базується на одному джерелі чи пресрелізі. Сам Томас Жермен рекомендує особливо обережно використовувати ШІ для медичних, юридичних та локальних порад — у таких випадках важливо завжди перевіряти посилання й походження тверджень.