Зміни стали відповіддю компанії на занепокоєння активістів, які стверджували, що програмне забезпечення для аналізу обличчя, здатне ідентифікувати вік, стать та емоційний стан людини, може принести шкоду — і його не слід продавати.
Раніше Microsoft взяла курс на жорсткіший контроль за системами штучного інтелекту. Після двох років досліджень, її команда створила «Стандарт відповідального ШІ» – документ на 27 сторінок, який встановлює вимоги для AI-систем, щоб вони не мали шкідливого впливу на суспільство. Серед інших вимог, системи мають забезпечувати «актуальні розв'язання проблем, для вирішення яких вони створені» та «подібну якість послуг для різних демографічних груп, в тому числі маргіналізованих».
У Microsoft особливо викликав занепокоєння інструмент для розпізнавання емоцій, який маркував вираз обличчя людини як гнів, презирство, огиду, страх, щастя, подив та інші.
«Існує величезна кількість культурних, географічних та індивідуальних відмінностей у тому, як ми виражаємо себе. Це змушує непокоїтись щодо надійності (роботи технології), а також ставить більше питання, чи є вираз обличчя надійним показником внутрішнього емоційного стану», – говорить головна відповідальна директорка напрямку AI у Microsoft.
Також буде недоступним інструмент аналізу віку та статі й засіб розпізнавання таких атрибутів, як волосся на обличчі або посмішка. Вони могли б стати корисними для людей із поганим зором, однак компанія вирішила, що не варто робити ці інструменти доступними назагал.