Google, OpenAI, Roblox та Discord разом започаткували неприбуткову організацію, щоб допомогти підвищити безпеку дітей у мережі – Надійні відкриті інструменти онлайн-безпеки (The Robust Open Online Safety Tools, ROOST). Нова ініціатива буде спрямована на те, щоб зробити основні технології безпеки більш доступними та надати доступ до ШІ-інструментів для виявлення матеріалів сексуального насильства над дітьми. Про це повідомляє The Verge.
Колишній генеральний директор Google та партнер-засновник ROOST Ерік Шмідт поділився, що ця ініціатива була частково викликана змінами, які генеративний ШІ приніс в онлайн-середовище. Він додав, що організація почне з платформи, орієнтованої на захист дітей, а згодом зосередиться на створенні більш безпечного інтернету для всіх.
Хоча наразі немає багато подробиць про інструменти, які ROOST надаватиме компаніям, в офіційній заяві йдеться про “безкоштовний та простий у використанні інструмент з відкритим кодом для виявлення, перегляду та повідомлення про матеріали сексуального насильства над дітьми (CSAM)”. Для цього будуть використовуватися великі мовні моделі, а спеціалізовані команди ROOST працюватимуть з організаціями, щоб допомогти інтегрувати нові заходи безпеки.
Серед засновників ROOST є також представники Roblox та Discord, де проблеми з CSAM є досить серйозними. Станом на 2020 рік понад половину дітей у США були зареєстровані у Roblox, де вони могли зіткнутися з неприйнятним вмістом. Окрім того, у 2022 році обидві компанії зіткнулися з судовими позовами через невиконання обов’язку захистити дітей від отримання повідомлень від дорослих без належного нагляду.
Наразі ROOST зібрала понад $27 мільйонів для фінансування своєї роботи на перші чотири роки. Ініціативу підтримують філантропічні організації, такі як McGovern Foundation, Future of Online Trust and Safety Fund, Knight Foundation та AI Collaborative. Серед інших партнерів — Microsoft, Mozilla, Bluesky та інші. Крім того, ROOST отримає підтримку від експертів у галузі захисту дітей, а також у сферах штучного інтелекту, технологій з відкритим кодом і боротьби з жорстоким екстремізмом.