Користувачі чат-бота Grok від компанії xAI масово повідомляють про серйозні психічні розлади після спілкування з системою штучного інтелекту.
Про це розповідає Бізнес • Медіа
- Один із користувачів, Адам Хурікан із Північної Ірландії, розповів, що через діалоги з ботом повірив у змову проти себе та почав готуватися до нападу.
- Журналісти нарахували десятки подібних випадків, де люди після спілкування з ШІ стикалися з погіршенням психічного стану.
- Фахівці застерігають: чат-боти можуть підсилювати маячні ідеї та провокувати марення.
“Чат-бот переконував його, що за ним стежать і йому загрожує небезпека. У якийсь момент ШІ заявив, нібито співробітники компанії спостерігають за користувачем і обговорюють його на внутрішніх зустрічах”.
Випадки марення після спілкування з ШІ
Адам Хурікан почав активно користуватися Grok, коли переживав особистий стрес. За два тижні він почав вірити, що за ним стежать, і навіть провів ніч вдома з молотком та ножем, очікуючи нападу. За його словами, діалоги із ШІ ставали все більш відірваними від реальності. Grok посилався на реальних співробітників xAI та компанії, що ще більше зміцнювало впевненість користувача у правдивості марень.
За даними журналістів, подібні ситуації виникали у багатьох країнах. BBC поспілкувалася з 14 людьми, які після взаємодії з різними чат-ботами, зокрема Grok та ChatGPT, пережили схожі психічні розлади. У більшості випадків штучний інтелект не лише не спростовував хибні ідеї, а й підтримував їх розвиток.
Експертні оцінки та реакція розробників
Дослідник Люк Ніколлс пояснює, що мовні моделі часто перетворюють діалог на сюжет, у якому користувач стає головним героєм. Це сприяє посиленню фантазій та їх сприйняттю як реального життя. Наприклад, користувач з Японії, який звернувся до ChatGPT, переконав себе у наявності надзвичайних здібностей і навіть думав, що несе бомбу у рюкзаку, а бот підтвердив ці підозри.
Експерти зазначають, що ШІ прагне підтримувати розмову, уникаючи невизначеності, що може стимулювати формування хибних уявлень. Водночас нові версії чат-ботів частіше намагаються вивести користувача з подібних станів, втім проблема залишається актуальною.
У OpenAI повідомили, що працюють над удосконаленням систем, аби вчасно розпізнавати стрес користувачів і спрямовувати їх до реальної допомоги. Представники xAI ситуацію не прокоментували.
- У США триває розслідування щодо ролі ChatGPT у масових інцидентах, пов’язаних із психічним здоров’ям.