Google відкриває вихідний код своєї технології текстових водяних знаків SynthID, яка полегшує ідентифікацію згенерованого контенту. Код доступний через Google Responsible Generative AI Toolkit.
Today, we’re open-sourcing our SynthID text watermarking tool through an updated Responsible Generative AI Toolkit.
— Google DeepMind (@GoogleDeepMind) October 23, 2024
Available freely to developers and businesses, it will help them identify their AI-generated content. 🔍
Find out more → https://t.co/n2aYoeJXqn pic.twitter.com/4uRKYaz57Y
SynthID допомагає зробити вихідні дані, створені штучним інтелектом, видимими для виявлення, додаючи невидимий для користувачів водяний знак до зображень, аудіо, відео та тексту під час їхнього створення.
”Тепер розробники [генеративного] ШІ зможуть використовувати цю технологію, щоб визначити, чи були текстові дані отримані з їхніх власних [великих мовних моделей], що полегшить відповідальне створення ШІ”, — сказав віцепрезидент з досліджень Google DeepMind Пушміт Колі.
Google стверджує, що SynthID вже інтегровано в чат-бота Gemini. Функція не погіршує якість, точність, креативність або швидкість згенерованого тексту. Інструмент може працювати з текстами від трьох речень, а також з текстом, який було обрізано, перефразовано або змінено. Але йому важко працювати з короткими текстами, переписаним або перекладеним контентом і навіть з відповідями на фактичні запитання.
"SynthID — це не срібна куля для виявлення контенту, створеного штучним інтелектом, — повідомляє Google. — Але це важливий будівельний матеріал для розробки більш надійних інструментів ідентифікації ШІ і він може допомогти мільйонам людей приймати обґрунтовані рішення про те, як вони взаємодіють з контентом, створеним ШІ".