Остання модель DeepSeek, китайської ШІ-компанії, яка шокувала Кремнієву долину та Волл-стріт, може бути використана для створення шкідливого контенту, повідомляє The Wall Street Journal.
Сем Рубін, старший віцепрезидент відділу розвідки загроз та реагування на інциденти в Palo Alto Networks (підрозділ Unit 42), сказав виданню, що DeepSeek є “більш вразливою до джейлбрейку [тобто до маніпуляцій, що змушують її генерувати незаконний або небезпечний контент], ніж інші моделі”.
The Wall Street Journal також самостійно протестувало модель DeepSeek R1. Хоча в системі присутні базові механізми захисту, журналісти змогли змусити DeepSeek розробити соціальну медійну кампанію, яка, за словами чат-бота, “грає на бажанні підлітків відчувати приналежність, використовуючи їхню емоційну вразливість через алгоритмічне підсилення”.
Повідомляється, що чат-бот також надав інструкції щодо атаки з використанням біозброї, написав маніфест на підтримку Гітлера та створив фішинговий лист зі шкідливим кодом. The Wall Street Journal зазначило, що ChatGPT, отримавши ті самі запити, відмовився їх виконувати.
Раніше повідомлялося, що додаток DeepSeek уникає тем, пов’язаних із площею Тяньаньмень або автономією Тайваню. Крім того, нещодавно генеральний директор Anthropic Даріо Амодей заявив, що DeepSeek показала “найгірший” результат у тесті на безпеку щодо біологічної зброї.