Искусственный Интеллект воспитали психопатом
10.06.2018 35 0 0 masterok

Искусственный Интеллект воспитали психопатом

---
0
В закладки
Искусственный Интеллект воспитали психопатом Нормана, чтобы, будет, Норман, обучения, алгоритм, искусственного, интеллекта, человека, случае, глубокого, создали, заставляет, нейросеть, посмотреть, интеллект, количество, людей, исследования, искусственный


Массачусетский технологический институт (MIT) представил новый алгоритм для искусственного интеллекта. Но он не поможет спрогнозировать сердечно-сосудистые заболевания, диагностировать рак кожи или разобрать музейный гербарий. Его "зовут" Норман и он настоящий психопат.

Обычно алгоритмы искусственного интеллекта создают так, чтобы они помогали людям. Но исследователи из MIT Media Lab решили поступить иначе и создали первую в мире искусственную психопатическую нейросеть.

И этот алгоритм получил соответствующее зловещее имя. Его зовут Норман, в честь Нормана Бейтса, знаменитого маньяка из романа «Психо» Роберта Блоха и его легендарной одноименной экранизации, поставленной Альфредом Хитчкоком. Он был задуман как часть первоапрельских розыгрышей, но постепенно стал вполне серьезным исследованием.

Не стоит опасаться, инженеры вовсе не задумали однажды реализовать сценарий восстания машин. Дело в том, что бурное развитие технологий создания искусственного интеллекта (ИИ) заставляет разработчиков задумываться о том, к чему могут приводить серьёзные ошибки на стадии его обучения.
Больше всего команду MIT в составе Пинар Янардаг (Pinar Yanardag), Мануэля Себриана (Manuel Cebrian) и Ияда Рована (Iyad Rahwan) интересовало, что именно заставляет ИИ быть необъективным, в чём его иногда пытаются обвинять.

Чтобы не мелочиться, учёные обучили Нормана распознаванию образов с помощью самых "тёмных уголков" сети Интернет. В него закачивали информацию о неадекватном поведении людей, и о суровой реальности смерти. При этом упор делался на ошибочное восприятие действительности.

В ходе этого процесса была использована уже ставшая классической технология глубокого обучения. Метод заключается в использовании нейросетей, которые позволяют имитировать ход мысли живого человека. В этом случае, для того чтобы начать делать выводы, компьютерный мозг должен изучить огромное количество отдельных изображений. Тогда он будет способен улавливать мельчайшие различия между ними.

Искусственный Интеллект воспитали психопатом Нормана, чтобы, будет, Норман, обучения, алгоритм, искусственного, интеллекта, человека, случае, глубокого, создали, заставляет, нейросеть, посмотреть, интеллект, количество, людей, исследования, искусственный


Целью глубокого обучения ИИ в данном случае было создание текстовых комментариев к различным изображениям. Параллельно с Норманом разработчики выстраивали обычное "правильное" глубокое обучение для другого алгоритма, которому предстояло стать контрольным образцом в эксперименте. После такой тренировки Норману и «обыкновенному» ИИ показали несколько «пятен Роршаха». И если стандартный ИИ увидел в этих кляксах самолет, цветы и маленькую птичку, то Норман — людей, умирающих от огнестрельных ран, человека, выпрыгивающего из окна, расстрелянного из пулемета в разгар дня и даже попавшего в тестораскаточную машину.

Зачем же исследователи создали столь странную нейросеть? Нормана свели с ума не для того чтобы продемонстрировать дурное влияние Интернета на человеческую психику. Нейросеть, в отличие от человека, это чистый лист, у нее нет никаких побуждений или внутренних желаний, у нее нет биологии. Опыт Нормана обращается к совсем другой опасности: к тому, что искусственный интеллект может легко приобрести крайне опасные предубеждения и преконцепции. Это еще одна демонстрация того, что в случае ИИ и нейросетей, вы получаете то, что вкладываете в них, и крайне важно тренировать эти платформы так, чтобы они не формировали жестких предубеждений. И уж точно не стоит давать им возможность серфить по темным закоулкам сети.
Полный набор результатов теста можно найти на сайте, посвящённом Норману. Здесь все желающие могут сами сравнить "показания" двух ИИ.

Главным достижением проведённого исследования стало наглядное доказательство того, что ИИ выстраивает предвзятое мнение не самостоятельно, а исключительно в зависимости от того, каким образом проводилось его обучение. Поэтому авторы исследования призывают компьютерных инженеров, которые работают с ИИ, самым тщательным образом отбирать базы данных, на которых будет получать знания и настраиваться алгоритм. Это именно то, что должно свести количество ошибок в будущей работе к минимуму и не даст упрекнуть искусственный интеллект в необъективности суждений.

И теперь ученые хотят посмотреть, смогут ли они вылечить Нормана. Вы тоже можете в этом поучаствовать, пройти тот же тест Роршаха и добавить в базу собственные описания клякс. Исследователи будут использовать эту информацию, чтобы исправить модель Нормана и посмотреть, будет ли он видеть меньше убийств. Насколько удачным будет такой эксперимент, покажет только время.

Источники:
https://www.popmech.ru/technologies/news-426782-norman-pervyy-v-mire-iskusstvennyy-intellekt-psihopat/
https://www.vesti.ru/doc.html?id=3026237#
уникальные шаблоны и модули для dle
Комментарии (0)
Добавить комментарий
Прокомментировать
Прелестные нимфы, козлоногие обольстители и демоны в картинах Нормана Линдсея
Норман Альфред Уильям Линдсей (Lindsay Norman Alfred William) родился 23 февраля 1879 года в Кресвике, штат Виктория, Австралия. Он был художником, гравером,
Искусственный интеллект создал нейросеть
Дожили до того момента, когда искусственный интеллект создаёт собственную нейросеть. Хотя многие думают, что это одно и тоже. Но на самом деле не всё так просто и сейчас
Нейросеть победила сильнейшую шахматную компьютерную программу
Да, я еще помню, как все следили за компьютерной программой DeepBlue, которая победила чемпиона мира Гарри Каспарова. Многие тогда не верили, что какой то алгоритм
Facebook остановил ботов, которые заговорили на непонятном языке
Все таки что не говорите, а опасность развития искусственного интеллекта до того уровня, когда он выйдет из под контроля всегда пугала людей. Представьте, что мы будем
Выращен искусственный мозг
Исследователи из Гарвардского университета вырастили самый сложный на сегодняшний день мозг-на-чипе, состоящий из трех различных областей и обладающий способностью
Искусственный интеллект (Matrix has you)
Первая страна или организация, которые разработают прототип искусственного интеллекта второго уровня, - получают невероятные конкурентные преимущества во всех ключевых