Сооснователь Ethereum Виталик Бутерин выразил обеспокоенность современными тенденциями в развитии искусственного интеллекта (ИИ), в частности гонкой за созданием максимально автономных агентных моделей. По его мнению, приоритет агентности приводит к удалению человека от процесса принятия решений, что может влиять на качество и безопасность результатов, которые генерирует ИИ.
Об этом сообщает Бизнес • Медиа
Бутерин: ИИ должен прислушиваться к человеку
Бутерин подчеркнул, что важно обеспечить больше возможностей для человеческого вмешательства в работу искусственного интеллекта. Он отметил, что создание дополнительных путей для вовлечения человека в процессы функционирования ИИ не только повышает качество результатов, но и делает систему безопаснее.
«Меня раздражает, что многие разработки в сфере ИИ пытаются быть как можно более “агентными”, хотя на самом деле создание большего количества путей для человеческого вклада и сейчас, и в будущем дает лучший результат и является более безопасным», — заявил Бутерин.
Кроме того, Виталик Бутерин отметил, что его больше привлекают те модели ИИ, которые имеют открытые веса и широкие возможности для редактирования, а не те, что работают исключительно автономно и самостоятельно создают контент. Такие подходы, по его мнению, способствуют большей прозрачности и контролю со стороны пользователя.
Будущее ИИ: BCI и новые архитектуры взаимодействия
В среднесрочной перспективе Бутерин видит потенциал в развитии интерфейсов «мозг-компьютер» (BCI), которые позволят в реальном времени считывать эмоциональное состояние пользователя во время генерации контента и адаптировать результат в соответствии с его реакцией. Это должно сделать взаимодействие между человеком и ИИ более глубоким и интуитивным.
Позицию Виталика Бутерина поддержал и основатель и CEO компании OpenServAI Тим. Он подчеркнул, что будущее ИИ — за архитектурами, которые способны преобразовывать намерения пользователя в ценные действия, что позволяет координировать сложные задачи эффективнее.
«Новые архитектуры, которые преобразуют намерения пользователя в ценные действия, — единственный возможный путь развития, на мой взгляд. Это то, над чем мы работаем в OpenServAI, применяя непосредственно к агентам для координации сложных задач».
Участники обсуждения также упомянули о актуальных индустриальных кейсах агентных ИИ, в частности во время недавнего онлайн-мероприятия Incrypted Online Marathon 2025, где CISO из брокерских и финансовых направлений компании Robinhood Дэвид Швед поделился собственным видением развития таких технологий.