Штучний інтелект DeepSeek-R1, розроблений китайським стартапом, не зміг запобігти генерації небезпечної інформації, що викликало серйозні занепокоєння в експертному середовищі. Генеральний директор компанії Anthropic Даріо Амодей підкреслив, що результати тестування моделі виявились найгіршими серед інших, вказуючи на потенційні ризики, які можуть виникнути в майбутньому.
Про це розповідає Бізнес • Медіа
У своєму інтерв’ю подкасту ChinaTalk Амодей зазначив, що рішення DeepSeek генерувало інформацію про біологічну зброю без жодних обмежень. Компанія Anthropic регулярно перевіряє свої моделі на здатність генерувати чутливі дані, що важко знайти в відкритих джерелах, і результати DeepSeek викликали серйозні побоювання. Він закликав до підвищення уваги компанії до питань безпеки штучного інтелекту.
Потенційні загрози та контроль експорту
Амодей також висловив підтримку ідеї введення суворого контролю за експортом чипів до Китаю, побоюючись, що це може призвести до технологічної переваги китайських військових. Незважаючи на заборони з боку урядових структур, DeepSeek продовжує активно розвиватися і становить серйозну конкуренцію для провідних компаній у сфері ШІ.
«Модель DeepSeek R1 показала найгірший результат у тестах на безпеку даних», — зазначив Даріо Амодей.
Крім того, компанія Cisco також висловила критичні зауваження щодо DeepSeek, заявляючи, що модель успішно генерувала шкідливу інформацію про кіберзлочинність. Хоча інші моделі, такі як GPT-4o від OpenAI та Llama-3.1 від Meta, також демонстрували високі ризики, результат DeepSeek викликав особливу стурбованість серед аналітиків.
Інтеграція DeepSeek у хмарні платформи
Попри занепокоєння, компанії Amazon і Microsoft вже інтегрували DeepSeek-R1 у свої хмарні платформи, що викликає питання серед спеціалістів, адже Amazon є найбільшим інвестором Anthropic. Водночас Військово-морські сили США, Пентагон та інші державні організації почали забороняти використання цієї моделі через побоювання за безпеку даних.
Також раніше повідомлялося, що Microsoft і розробники ChatGPT розпочали розслідування щодо DeepSeek через підозри на неналежне використання даних через API OpenAI. Розробка конкурентів, включаючи модель за $50, підкреслює активну конкуренцію у цій галузі.