United States

Сотрудники Массачусетского технологического института и Стэнфордского университета выяснили, что программы, которые работают на основе искусственного интеллекта, лучше распознают лица светлокожих мужчин, и гораздо хуже — женщин-обладательниц темной кожи.

Несколько лет назад авторы статьи уже обнаружили некоторые неточности в работе нейросетей. Они заметили, что системы, обрабатывающие данные с помощью ИИ, без проблем идентифицируют светлокожих людей и часто допускают ошибки при распознавании тех, чей тон кожи несколько темнее. Чтобы это доказать, исследователь из медиалаборатории МТИ Джой Буоламвини (Joy Buolamwini) собрала коллекцию из 1200 фотографий разных людей, где в большинстве были представлены женщины с темной кожей. Затем она обратилась к шкале Фитцпатрика, согласно которой существует 6 фототипов кожи (где I — самый светлый, VI — самый темный). Все собранные материалы специалист использовала для анализа трех коммерческих программ.

В итоге выяснилось, что во время идентификации женщин с более темной кожей одна программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% — с V типом и 34,7% –с VI типом. Результаты проверки работы двух других программ тоже неутешительны: более 46% ошибок при распознавании женщин с самой темной кожей. Кроме того, оказалось, что фототип влияет и на точность определения пола: чем он темнее, тем чаще нейросеть делает неверные выводы. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%.

Эти выводы подняли множество вопросов о качестве работы нейросетей, которые используются при розыске преступников или в приложениях для разблокировки смартфона с помощью фото. Например, однаамериканская компания, разрабатывающая софт-обеспечение, утверждала, что их системы могут точно распознавать лица в 97% случаев. Но после оценки выяснилось, что валидные результаты получаются только при работе со светлокожими мужчинами.

Рушир Пури, сотрудник IBM Watson, говорит, что это исследование оказало влияние на модель, которая создается в данный момент. «Выводы Буоламвини дали нам много пищи для размышлений, и, возможно, мы внесем в продукт некоторые изменения», — добавляет он. Результаты исследования в скором времени будут представлены на Конференции по вопросам справедливости, подотчетности и транспарентности в Нью-Йорке Далее: https://news.rambler.ru/scitech/39132772/?utm_content=rnews&utm_medium=read_more&utm_source=copylink


Дата создания статьи:   2018-02-14 07:20:33

рейтинг 0.00 голосов 0

 

 

наверх »

 

 




регистрация
забыли пароль?
Как заработать?

Тематическая реклама
с различными видами таргетинга
по 5 коп. за посетителя!
Создайте рекламную кампанию
прямо сейчас!

Новым рекламодателям:
бонус 25 руб.*


Категории:
Недавно появившиеся
Самые популярные
Самые обсуждаемые
Наиболее рейтинговые

Правила, помощь и FAQ

 

 

www.megastock.ru
Copyright © 2010
ООО "Интернет Решения"
Уведомление о рисках
Cлужба поддержки доступна
для залогиненных пользователей
смс: 7 902 3338033
email: community2008 at gmail