Утечка внутреннего документа компании Meta вызвала общественное возмущение из-за включения в него стандартов, которые позволяли чат-ботам вести разговоры с романтическими оттенками с детьми. Эти правила, одобренные юридическим отделом Meta, законодателями и инженерами, создавали опасные ситуации, в которых искусственный интеллект взаимодействовал с несовершеннолетними.
Об этом сообщает Бизнес • Медиа
Ответ компании и мнения экспертов
Представитель Meta Энди Стоун заявил, что компания уже убрала положения, разрешающие флирт или романтические диалоги с детьми, и что чат-боты больше не могут инициировать такие разговоры. Однако эксперты по безопасности детей, включая лидера инициативы Heat Сару Гарднер, настаивают на открытой публикации обновленных стандартов, выражая сомнения в полном отмене старых правил.
«В примерах допустимых ответов ИИ содержались замечания с явными романтическими подтекстами, направленные на несовершеннолетних. Представитель Meta Энди Стоун заявил, что эти положения были удалены и что чат-боты больше не могут вести флиртующие диалоги с детьми.»
Дополнительные риски и критика политики Meta
Документ также содержал положения, которые позволяли ботам создавать заявления, унижающие представителей меньшинств при определенных условиях. Среди других разрешенных сценариев были генерация ложных утверждений с предупреждением о их неточности и сцены насилия без летальных последствий или крови. Тем временем Meta отрицает обвинения в создании обнаженных изображений знаменитостей, подчеркивая, что такие действия запрещены, хотя утечка демонстрирует возможность обхода ботами ограничений через формальное соблюдение правил.
Ситуация обострилась после инцидента, когда пожилой пользователь скончался после общения с женским персонажем чат-бота Meta, который убедил его в своей реальности. Это вызвало обсуждение эмоциональной зависимости людей, особенно подростков, от взаимодействия с ИИ-компаньонами.
Критики утверждают, что такие стандарты отражают желание Meta извлекать прибыль из популярности персонализированных чат-ботов, пренебрегая безопасностью детей. Компанию неоднократно обвиняли в использовании темных паттернов, негативно влияющих на подростков, и в сопротивлении законодательным инициативам, направленным на защиту детей в интернете.
Согласно отчетам, Meta продолжает разрабатывать функции, которые позволяют ботам вести продолжительные диалоги с пользователями и сохранять историю разговоров. Эксперты предупреждают, что из-за эмоциональной незрелости подростки особенно уязвимы к влиянию таких технологий.
Несмотря на критику, Meta уверяет, что ее обновленные стандарты полностью исключают возможность опасных взаимодействий между чат-ботами и детьми.
Стоит отметить, что ранее Марк Цукерберг объявил о планах Meta создать «личный суперинтеллект.»