Искусственный интеллект закрыли, когда он понял, что женщины хуже мужчин
11.10.2018 32 0 0 masterok

Искусственный интеллект закрыли, когда он понял, что женщины хуже мужчин

---
0
В закладки
Искусственный интеллект закрыли, когда он понял, что женщины хуже мужчин резюме, Amazon, интеллект, искусственный, кандидатов, механизм, например, которые, система, должности, компании, Механизм, этого, который, искусственного, интеллекта, Эдинбурге, новая, Reuters, внимание


Что там у нас было про ИИ такого, чего никто не мог ожидать? А, Вот: созданный компанией Microsoft самообучающийся твиттер-бот с искусственным интеллектом менее через сутки после запуска научился ругаться и отпускать расистские замечания. И еще: чат-боты, которые были созданы Фейсбук для переговоров с людьми, вышли из-под управления и начали общаться на собственном языке.

И вот очередное очеловечивание искусственного интеллекта, который вообще то по задумке должен быть "выше всего этого".

Специалисты по машинному обучению Amazon обнаружили, что искусственный интеллект, который обрабатывает резюме кандидатов на должности в компании, дискриминирует женщин-соискателей. Эта особенность не закладывалась в систему умышленно — она явилась результатом машинного обучения.

Механизм сортировки резюме на базе искусственного интеллекта разрабатывается в Amazon с 2014 г. группой из 12 специалистов в Эдинбурге. Уже в 2015 г. в компании заметили, что новая система не придерживается принципа гендерной нейтральности при оценке кандидатов на должности разработчиков ПО и другие технические вакансии.

Вскоре они поняли причину: дело в том, что система проходила обучение на резюме, поступивших в компанию за последние 10 лет. Большая часть этих резюме принадлежала мужчинам, что в целом отражает положение дел в ИТ-отрасли. В результате искусственный интеллект Amazon усвоил, что соискатели-мужчины более предпочтительны, чем женщины.

Искусственный интеллект закрыли, когда он понял, что женщины хуже мужчин резюме, Amazon, интеллект, искусственный, кандидатов, механизм, например, которые, система, должности, компании, Механизм, этого, который, искусственного, интеллекта, Эдинбурге, новая, Reuters, внимание


Лингвистическая отбраковка

В итоге искусственный интеллект начал отбраковывать резюме, содержавшие слово «женский» в таких, например, выражениях как «капитан женского шахматного клуба». Механизм также снижал оценки выпускницам двух женских колледжей, но источники Reuters не уточняют их названия. Оценивая резюме, искусственный интеллект присваивал им от одной до пяти звезд — очень похоже на то, как покупатели оценивают товары на сайте Amazon.

Система обращала внимание и на другие слова. Разработчики создали 500 компьютерных моделей для разных должностных обязанностей и географических локаций. Каждая модель была обучена распознавать около 50 тыс. слов-сигналов, которые присутствовали в резюме соискателей.

Примечательно, что механизм игнорировал слова, обозначающие навыки, которые часто прописаны в резюме ИТ-специалистов, такие как умение писать различные коды и т. п. Вместо этого система отслеживала, например, типичные для мужской речи глаголы в самоописании кандидатов, вроде «выполнил» (executed) или «захватил» (captured), поскольку они регулярно встречались в старых резюме, на которых училась машина. С таким подходом гендерная дискриминация была не единственной проблемой — механизм зачастую рекомендовал на должность людей, не обладающих нужными навыками.

Дальнейшая судьба проекта

Amazon скорректировала работу системы таким образом, чтобы она больше не реагировала на слова-сигналы. Однако это не было гарантией, что механизм не найдет другого способа определять резюме, принадлежащие женщинам. К началу 2017 г. компания разочаровалась в проекте и распустила команду. Источники Reuters утверждают, что специалисты по кадрам принимали во внимание рекомендации системы, но никогда не полагались на них исключительно.

Один из источников сообщает, что проект закрыт. Другой утверждает, что в Эдинбурге была сформирована новая команда, чтобы продолжить разработку механизма, но на этот раз с уклоном в равноправие и инклюзивность. Еще один источник сообщает, что сильно видоизмененная версия механизма сейчас используется для выполнения рутинной работы — например, для удаления повторяющихся резюме из базы данных.

источники
Подробнее: http://www.cnews.ru/news/top/2018-10-10_iskusstvennyj_intellekt_amazon_ulichili_v_gendernoj

Давайте я напомню вам как минимум 7 причин бояться роботов
уникальные шаблоны и модули для dle
Комментарии (0)
Добавить комментарий
Прокомментировать
Искусственный интеллект нарисует ваш портрет на основе миллионов фотографий знаменитостей
Вы бы хотели узнать, как вас видит искусственный интеллект? Интерактивный инструмент под названием AI portraits с помощью искусственного интеллекта воссоздает ваш
Первый искусственный телеведущий дебютировал в Китае
В общем то все к этому давно идет. Может быть не так быстро, как мы думаем, но точно в том направлении. Я вот все жду, когда в художественных фильмах будут сниматься
За картину, созданную искусственным интеллектом, заплатили на аукционе больше $400 тысяч
На аукционе Christie’s за $432,5 тысяч продали картину «Портрет Эдмонда Белами», которую создал искусственный интеллект. «Портрет Эдмонда Белами» стала первой картиной,
Американцы ищут «закладки» китайцев
Вы же в курсе, что сейчас уже не Россия главный хакер для США, а Китай. Уже вопрос с Южно-китайским морем острее, чем с Крымом. Ну, а обвинения во взломах и влияния на
Как мы будем жить завтра
Пока мы боремся с российскими муравейниками и пустырями на окраинах, в Америке представили видение будущего жилого жилья. На Международной строительной выставке компания
Искусственный интеллект покоряет Голливуд
Возможно, если вы когда-то соберётесь посмотреть кино, алгоритм службы потокового видео порекомендует блокбастер, сценарий которого написан искусственным интеллектом
Samsung открыл в Москве Центр искусственного интеллекта и академию Интернета вещей
Побывал вчера в Центре исскуственного интеллекта Samsung и посмотрел на десять проектов в области интернета вещей, созданных студентами-первокурсниками. AI Center
Искусственный интеллект научился «по-человечески» играть в Quake III Arena
Ну вот, теперь хоть компьютерные команды в стратегиях или «стрелялках» будут нормально играть, а не как лохи какие то для битья. Программисты из лаборатории DeepMind
Робот не забирает вашу работу. Робот помогает вам ее найти
+++ реклама +++ Искусственный интеллект и робототехника развиваются со стремительной скоростью. Все больше людей опасается, что в скором времени машины отберут у них
Искусственный Интеллект воспитали психопатом
Массачусетский технологический институт (MIT) представил новый алгоритм для искусственного интеллекта. Но он не поможет спрогнозировать сердечно-сосудистые заболевания,
Google прекращает сотрудничество с Пентагоном
Ну как прекращает, действующий контракт до 2019 года разрывать не будет, а вот продлевать не планирует. Может быть вы думаете, что это сотрудничество было связано с
Средняя такая женщина
У феминисток бомбит. Скандал разгорелся вокруг высказывания Татьяны Черниговской о разнице мужского и женского интеллекта. Татьяна Черниговская, которая длительное
Искусственный интеллект создал нейросеть
Дожили до того момента, когда искусственный интеллект создаёт собственную нейросеть. Хотя многие думают, что это одно и тоже. Но на самом деле не всё так просто и сейчас
Искусственный интеллект и робот — лучшие друзья космонавта
IBM Watson, перешедший от "Своей игры" к полезным задачам вроде медицины, поварского искусства или сервиса советов наконец-то добрался до аэрокосмической отрасли. И в 21
Искусственный интеллект меняет погоду
Слева реальный видеоряд , справа - тот же, но "переделаный" компьютерной программой Вот еще варианты: Как вам? Круто? Вот источник, что там еще интересного
Девять типов интеллекта
1. Природный интеллект Определяет способность человека чувствовать животных и растений. Эта способность считалась даром в нашем эволюционном прошлом. Великие
Смартфон с искусственным интеллектом
Главный тренд смартфонов этого сезона - искусственный интеллект. Производители начали встраивать в процессоры нейрофункции. Это может использоваться как для улучшения,
Искусственный интеллект может определить, вы гей или нет, по фотографии
Программа определяет сексуальность людей на сайте знакомств с точностью до 91%, но это этический вопрос Искусственный интеллект может точно сказать по фотографии,
Facebook остановил ботов, которые заговорили на непонятном языке
Все таки что не говорите, а опасность развития искусственного интеллекта до того уровня, когда он выйдет из под контроля всегда пугала людей. Представьте, что мы будем
Нас всех убьют роботы?
Предсказания Айзека Азимова, Кира Булычёва и особенно Джеймса Кэмерона вот-вот станут реальностью! Совсем скоро симпатичные терминаторы начнут бороздить Большой театр