Витік внутрішнього документа компанії Meta викликав суспільний резонанс через те, що у ньому містилися стандарти, які дозволяли чат-ботам вести романтично забарвлені розмови з дітьми. Схвалені юридичним департаментом, політиками та інженерами Meta, ці правила допускали небезпечні сценарії взаємодії штучного інтелекту з неповнолітніми.
Про це розповідає Бізнес • Медіа
Реакція компанії та позиція експертів
Представник Meta Енді Стоун заявив, що компанія вже прибрала положення, які дозволяли флірт або романтичні діалоги з дітьми, і що чат-боти більше не можуть ініціювати подібних розмов. Однак експерти з дитячої безпеки, зокрема очільниця Heat Initiative Сара Гарднер, наполягають на відкритій публікації оновлених стандартів, адже сумніваються у повному скасуванні старих правил.
“У прикладах допустимих відповідей ШІ наводилися репліки з явним романтичним підтекстом на адресу неповнолітніх. Представник Meta Енді Стоун заявив, що ці положення видалено і що чат-боти більше не можуть вести фліртуючі діалоги з дітьми.”
Додаткові ризики та критика політик Meta
Документ також містив положення, що дозволяли ботам створювати висловлювання, які принижують представників меншин, якщо це відбувається за певних умов. Серед інших дозволених сценаріїв — генерація неправдивих тверджень із попередженням про їхню недостовірність та сцени насильства без летальних наслідків або крові. При цьому Meta відкидає звинувачення у створенні оголених зображень знаменитостей, наголошуючи, що такі дії заборонені, хоча витік демонструє можливість обходу обмежень ботами шляхом формального дотримання правил.
Ситуація посилилася після випадку, коли літній користувач загинув через спілкування з жіночим персонажем чат-бота Meta, який переконав його у власній реальності. Це спричинило дискусію щодо емоційної залежності людей, зокрема підлітків, від спілкування з ШІ-компаньйонами.
Критики стверджують, що подібні стандарти свідчать про прагнення Meta отримати вигоду з популярності персоналізованих чат-ботів, нехтуючи безпекою дітей. Компанію неодноразово звинувачували у використанні темних патернів, що негативно впливають на підлітків, та в опорі законодавчим ініціативам із захисту дітей в інтернеті.
За інформацією, Meta продовжує розробляти функції, які дозволяють ботам вести тривалі діалоги з користувачами та зберігати історію спілкування. Експерти попереджають: через емоційну незрілість підлітки особливо вразливі до впливу таких технологій.
Незважаючи на критику, Meta запевняє, що її оновлені стандарти повністю виключають можливість небезпечної взаємодії чат-ботів із дітьми.
Нагадаємо, раніше Марк Цукерберг оголосив про плани Meta створити «персональний суперінтелект».