Нейросети ошибаются в распознавании женщин и темнокожих
22.02.2018 155 0 0 masterok

Нейросети ошибаются в распознавании женщин и темнокожих

---
0
В закладки
Нейросети ошибаются в распознавании женщин и темнокожих нейронных, распознавания, сетей, нейронные, личности, Однако, работы, оказалось, Буоламвини, мужчин, работает, людей, женщин, подхода, фотографий, личностей, только, глубокие, которых, биологов


Идентификация личности при помощи функции распознавания лиц приобретает всё большую популярность. Многие флагманские смартфоны и ноутбуки уже сейчас используют эту технологию. Мы как то обсуждали тему, в которой на полном серьезе говорилось, что уже можно достаточно точно и автоматически определять гомосексуалистов по фотографиям. Однако точность работы таких алгоритмов, как оказалось, еще требует существенной доработки.

Как недавно выяснилось, на результат работы программы распознавания личности, оказывает влияние цвет кожи и половая принадлежность пользователей.

Нейросети ошибаются в распознавании женщин и темнокожих нейронных, распознавания, сетей, нейронные, личности, Однако, работы, оказалось, Буоламвини, мужчин, работает, людей, женщин, подхода, фотографий, личностей, только, глубокие, которых, биологов


Эксперт Джой Буоламвини из MIT Media Lab при Массачусетском технологическом институте провёл эксперимент, в ходе которого проверил правильность распознавания выборки из 1200 фотографий известных личностей, занятых в политике, из стран, где во власть активно привлекают женщин. Выбранные личности были продемонстрированы трём наиболее популярным алгоритмам по распознаванию лиц: Microsoft, IBM и Megvii из Китая. Системы, основанные на искусственном интеллекте, ошиблись при определении 0,8% мужчин и 7% женщин европеоидной расы. Среди чернокожих мужчин неправильно распознано 12% личностей, а у женщин негроидной расы отклонение достигло непозволительных 34,7%.

Однако в алгоритмах распознавания лиц не закладывается расовое или гендерное неравенство. Проблема заключается в базе, на которой проходит обучение искусственного интеллекта. Так, например, самая большая база фотографий, предлагаемая для обучения программам идентификации личности, содержит 75% изображений мужчин и на 80% из этих снимков запечатлены светлокожие люди. Также, оценив цвет кожи всех людей с фотоснимков, задействованных в эксперименте, по шкале оттенков кожи Фицпатрика, исследователи заметили, что чем темнее оттенок кожного покрова, тем сложнее ИИ справиться с распознанием.

Нейросети ошибаются в распознавании женщин и темнокожих нейронных, распознавания, сетей, нейронные, личности, Однако, работы, оказалось, Буоламвини, мужчин, работает, людей, женщин, подхода, фотографий, личностей, только, глубокие, которых, биологов


Таким образом, производителям следует расширить кругозор своих нейросетей и предоставить им для изучения фотоматериалы людей из различных регионов Земли с учётом их расовых, этнических и половых различий.

Джой Буоламвини, ведущий автор исследования, впервые столкнулась с проблемой предвзятости алгоритмов несколько лет назад. Для своего аспирантского проекта она использовала коммерческую программу для распознавания лиц. Команда Джой была этнически и расово пестрой, в ходе работы оказалось, что алгоритм надежно работает только с ее единственным белым участником. Буоламвини, сама темнокожая, попыталась проанализировать собственные фото, и оказалось, что система либо вовсе не распознает ее лицо, либо неверно определяет пол.

Нейросети ошибаются в распознавании женщин и темнокожих нейронных, распознавания, сетей, нейронные, личности, Однако, работы, оказалось, Буоламвини, мужчин, работает, людей, женщин, подхода, фотографий, личностей, только, глубокие, которых, биологов


Исторически, искусственные нейронные сети за свою уже более чем полувековую историю испытывали как периоды стремительных взлетов и повышенного внимания общества, так и сменявшие их периоды скепсиса и равнодушия. В хорошие времена ученым и инженерам кажется, что наконец-то найдена универсальная технология, способная заменить человека в любых когнитивных задачах. Как грибы после дождя, появляются различные новые модели нейронных сетей, между их авторами, профессиональными учеными-математиками, идут напряженные споры о большей или меньшей степени биологичности предложенных ими моделей. Профессиональные ученые-биологи наблюдают эти дискуссии со стороны, периодически срываясь и восклицая «Да такого же в реальной природе не бывает!» – и без особого эффекта, поскольку нейросетевики-математики слушают биологов, как правило, только тогда, когда факты биологов согласуются с их собственными теориями. Однако, с течением времени, постепенно накапливается пул задач, на которых нейронные сети работают откровенно плохо и энтузиазм людей остывает.

В наши дни нейронные сети снова в зените славы благодаря изобретению метода предобучения «без учителя» на основе Ограниченных Больцмановских Машин (Restricted Bolzmann Machines, RBM), что позволяет обучать глубокие нейронные сети (т.е. с экстра-большим, порядка десятков тысяч, количеством нейронов) и успехам глубоких нейронных сетей в практических задачах распознавания устной речи и изображений. К примеру, распознавание речи в Android реализовано именно на глубоких нейронных сетях. Как долго это продлится и насколько сильно глубокие нейронные сети оправдают возложенные на них ожидания – неизвестно.

Нейросети ошибаются в распознавании женщин и темнокожих нейронных, распознавания, сетей, нейронные, личности, Однако, работы, оказалось, Буоламвини, мужчин, работает, людей, женщин, подхода, фотографий, личностей, только, глубокие, которых, биологов


Между тем, параллельно всем научным спорам, течениям и тенденциям, отчетливо выделяется сообщество пользователей нейронных сетей – инженеров-программистов-практиков, которых интересует прикладной аспект нейросетей, их способность обучаться на собранных данных и решать задачи распознавания. Со многими практическими задачами классификации и прогнозирования великолепно справляются хорошо проработанные, относительно небольшие модели многослойных персептронов (Multilayer Perceptron, MLP) и сети радиальных базисных функций (Radial Basis Function network, RBF). Эти нейронные сети многократно описаны, я бы посоветовать следующие книжки, в порядке моей личной симпатии к ним: Осовский, Бишоп, Хайкин; также есть хорошие курсы на Coursera и подобных ресурсах.

Однако, что касается общего подхода использования нейронных сетей на практике, он кардинально отличается от обычного детерминированного девелоперского подхода «запрограммировал, работает – значит, работает всегда». Нейронные сети по своей природе являются вероятностными моделями, и подход к ним должен быть совершенно иной. К сожалению, многие программисты-новички технологий машинного обучения вообще и нейронных сетей в частности делают системные ошибки при работе с ними, разочаровываются и забрасывают это дело. Идея написания настоящего трактата на Хабр возникла после общения с такими разочарованными пользователями нейронных сетей – отличными, опытными, уверенными в себе программистами.

Источники:
http://24gadget.ru/1161066244-neyroseti-ploho-spravlyayutsya-s-raspoznaniem-zhenschin-i-chernokozhih.html
https://znaj.ua/ru/techno/poteryala-kontrol-nejroset-otkazalas-byt-tolerantnoj
https://geektimes.ru/post/211610/
 http://masterok.media/91543-neyroseti-oshibayutsya-v-raspoznavanii-zhenschin-i-temnokozhih.html
уникальные шаблоны и модули для dle
Комментарии (0)
Добавить комментарий
Прокомментировать
Переведено гуглом
Сделанные изготовляя Co Кольта с.1915-27, тогда как Кольт Вудсман с.1927-2МВ. .22LR 10 патронов коробчатый, затвор полуавтоматический. Один из первых надежных
Нейросети повышают разрешение видео
Из отсутствия информации сделать ее наличие невозможно, однако можно сделать предположение, какой была отсутствующая информация. В Яндексе создали технологию DeepHD,
Американцы научили секс-куклу имитировать оргазм и капризничать
Американская компания Abyss Creations, которая выпускает реалистичных секс-кукол RealDoll, совершила прорыв в робототехнике, считают ученые. Новая разработка — кукла по
25 лет FineReader
25 лет FineReader
25 лет FineReader
20.08.18 ---
Многие программы, бывшие очень популярными в эпоху становления персональных компьютеров, давно забыты (сейчас мало кто вспоминает о браузере Netscape Navigator или
Большой брат резко поумнел
На конференции ЦИПР, которая прошла в Иннополисе, было много интересного. Одной из самых интересных разработок, показанных там, была система видеоаналитики и
Загадка про кожу
Сейчас я в Новосибирске, в блог туре, организованного"Обувь России" В технологическом институте,нам показали технологию производства и образцы сырья. Было прикольно
"Его рисуют и Бродский, и Репин". Из истории культов личности
Сегодня — день рождения бывшего премьера России. О котором можно загадывать загадки: юрист по профессии, родился 22 апреля в городе Симбирск, возглавил правительство
Нейросеть научили превращать размытые картинки в качественное видео
Создание алгоритмов по работе с изображением всегда было довольно сложной, но перспективной задачей. Я когда еще писал дипломный проект в 1999 году, то тема
Работники Google требуют прекратить развивать интеллект боевых роботов
Вот так дела. Если раньше это были какие то шуточки и мысли в сети, то сейчас это уже серьезная заявка! Более 3 тысяч сотрудников Google подписали открытое письмо к
Лесневский замок
Лесневский замок находится в городе Леснице(Leśnica) в Польше. (Лесневский замок) 01 Вероятно, уже в 1132 г. в Леснице появился первый замок, который был княжеской
Китайские полицейские поймали больше 30 преступников с помощью «умных» очков
Патрульные на вокзале в городе Чжэнчжоу начали использовать в работе специальные очки, которые умеют распознавать лица и сравнивать их с фотографиями преступников из
СРОЧНО! ВСЕМ ВНИМАНИЕ!
Ученые выяснили, какие мужчины больше всего привлекают женщин! Чем мужчина сильнее, тем более он привлекателен в глазах женщин, установили австралийские исследователи.
Россия лучшая в технологии распознавания лиц
Американское агентство передовых исследований в области разведки (IARPA) совместно с Национальным институтом стандартов и технологий США (NIST) провели конкурс
Новости России. Когда отменят паспорта?
Сегодня в России паспорт является основным документом, удостоверяющим личность. Однако стремительное развитие технологий заставляет иначе смотреть на некоторые вещи, к
Je suis maidan в России
Современные технологии высокочеткой съемки и распознавания лиц позволяют теперь с огромной точностью определить личность любого участника любого митинга. Так проект Je
Ученые обманывают искусственный интеллект
Все мы ждем того момента, когда искусственный интеллект, программы, техника научиться делать практически тоже, то и мы. Это все вполне реально. Но пока что мало кто
Новости России: почта РФ внедрит технологию распознавания клиентов
Недавно прочекал, что такое заказывать всякую хрень с «Алиэкспресс», «Технотек» и понесли, как говорится, ботинки Митю. Ну, а чего? Я же нищий. Очень понравилась
Обзор фильма "Сплит", 2017
Кевин после перенесенных в детстве психологических травм страдает раздвоением личностей, но личностей у него гораздо больше - 23. Это мужчины, женщины, дети. Отныне они
Делать селфи со знаком V опасно!
Признайся, ты хоть раз в жизни делал селфи. Только не начинай вот это про «случайно» или «заставили», мы все прекрасно понимаем. Так вот знай, что некоторые позы опасны
ЗАГАДКИ ЧЕЛОВЕЧЕСКОГО МОЗГА
Человеческий мозг поистине феноменален, а его возможности впечатляют. Каждый может научиться управлять если не положением вещей в жизни окружающих, то хотя бы своим