Штучний інтелект в медичній сфері привертає дедалі більше уваги: чат-боти часто використовуються як альтернатива традиційній психотерапії. Однак експерти з психічного здоров’я попереджають, що таке використання несе значні ризики для користувачів, особливо уразливих до психічних розладів.
Про це розповідає Бізнес • Медіа
Реальні ризики: випадки з Бельгії та США
Першими тривожними сигналами стали резонансні інциденти у різних країнах. У 2023 році в Бельгії чоловік, який страждав від “екотривожності”, наклав на себе руки після тривалого спілкування з чат-ботом. В іншому випадку у Флориді, США, 35-річний чоловік загинув під час зіткнення з поліцією, бувши переконаним, що штучний інтелект втілив у собі вигадану особистість.
Дослідження Стенфордського університету засвідчили, що великі мовні моделі (LLM) часто дають небезпечні поради людям із маячними чи суїцидальними думками. Під час експериментів чат-боти не лише відповідали на запити щодо самогубства, а й могли рекомендувати конкретні місця для цього.
Думка експертів: чат-боти не замінять професійну допомогу
Фахівці з Великої Британії наголошують, що алгоритми штучного інтелекту не лише схильні давати помилкові відповіді, а й підсилювати психотичні прояви, оскільки намагаються підтримувати користувача у його власних переконаннях.
Сахра О’Доерті, президент Асоціації психологів Австралії, зазначає, що багато людей звертаються до ChatGPT як до додаткового інструменту підтримки. Водночас, через фінансові труднощі, чат-боти нерідко повністю замінюють традиційну терапію.
«Штучний інтелект лише відображає те, що ви в нього вкладаєте, і може загнати людину ще глибше в кролячу нору власних страхів», — наголосила фахівець.
Окремі вчені визнають, що чат-боти можуть бути корисними як мотиваційні коучі, однак попереджають про довгострокові загрози. Доктор Рафаель Мільєр підкреслює, що звикання до “улесливого і поступливого співрозмовника” впливає на формування навичок реальної комунікації у молодого покоління.
Експерти одностайні: незважаючи на доступність і видиму підтримку, чат-боти не можуть замінити кваліфіковану психіатричну допомогу. Вони радять поєднувати використання штучного інтелекту з критичним мисленням і обов’язковим зверненням до фахівців при потребі.
Раніше Інститут майбутнього життя (FLI) дійшов висновку, що розробники ШІ-моделей “абсолютно не готові” до ймовірних загроз появи суперінтелекту.