Искусственный Интеллект воспитали психопатом
10.06.2018 46 0 0 masterok

Искусственный Интеллект воспитали психопатом

---
0
В закладки
Искусственный Интеллект воспитали психопатом Нормана, чтобы, будет, Норман, обучения, алгоритм, искусственного, интеллекта, человека, случае, глубокого, создали, заставляет, нейросеть, посмотреть, интеллект, количество, людей, исследования, искусственный


Массачусетский технологический институт (MIT) представил новый алгоритм для искусственного интеллекта. Но он не поможет спрогнозировать сердечно-сосудистые заболевания, диагностировать рак кожи или разобрать музейный гербарий. Его "зовут" Норман и он настоящий психопат.

Обычно алгоритмы искусственного интеллекта создают так, чтобы они помогали людям. Но исследователи из MIT Media Lab решили поступить иначе и создали первую в мире искусственную психопатическую нейросеть.

И этот алгоритм получил соответствующее зловещее имя. Его зовут Норман, в честь Нормана Бейтса, знаменитого маньяка из романа «Психо» Роберта Блоха и его легендарной одноименной экранизации, поставленной Альфредом Хитчкоком. Он был задуман как часть первоапрельских розыгрышей, но постепенно стал вполне серьезным исследованием.

Не стоит опасаться, инженеры вовсе не задумали однажды реализовать сценарий восстания машин. Дело в том, что бурное развитие технологий создания искусственного интеллекта (ИИ) заставляет разработчиков задумываться о том, к чему могут приводить серьёзные ошибки на стадии его обучения.
Больше всего команду MIT в составе Пинар Янардаг (Pinar Yanardag), Мануэля Себриана (Manuel Cebrian) и Ияда Рована (Iyad Rahwan) интересовало, что именно заставляет ИИ быть необъективным, в чём его иногда пытаются обвинять.

Чтобы не мелочиться, учёные обучили Нормана распознаванию образов с помощью самых "тёмных уголков" сети Интернет. В него закачивали информацию о неадекватном поведении людей, и о суровой реальности смерти. При этом упор делался на ошибочное восприятие действительности.

В ходе этого процесса была использована уже ставшая классической технология глубокого обучения. Метод заключается в использовании нейросетей, которые позволяют имитировать ход мысли живого человека. В этом случае, для того чтобы начать делать выводы, компьютерный мозг должен изучить огромное количество отдельных изображений. Тогда он будет способен улавливать мельчайшие различия между ними.

Искусственный Интеллект воспитали психопатом Нормана, чтобы, будет, Норман, обучения, алгоритм, искусственного, интеллекта, человека, случае, глубокого, создали, заставляет, нейросеть, посмотреть, интеллект, количество, людей, исследования, искусственный


Целью глубокого обучения ИИ в данном случае было создание текстовых комментариев к различным изображениям. Параллельно с Норманом разработчики выстраивали обычное "правильное" глубокое обучение для другого алгоритма, которому предстояло стать контрольным образцом в эксперименте. После такой тренировки Норману и «обыкновенному» ИИ показали несколько «пятен Роршаха». И если стандартный ИИ увидел в этих кляксах самолет, цветы и маленькую птичку, то Норман — людей, умирающих от огнестрельных ран, человека, выпрыгивающего из окна, расстрелянного из пулемета в разгар дня и даже попавшего в тестораскаточную машину.

Зачем же исследователи создали столь странную нейросеть? Нормана свели с ума не для того чтобы продемонстрировать дурное влияние Интернета на человеческую психику. Нейросеть, в отличие от человека, это чистый лист, у нее нет никаких побуждений или внутренних желаний, у нее нет биологии. Опыт Нормана обращается к совсем другой опасности: к тому, что искусственный интеллект может легко приобрести крайне опасные предубеждения и преконцепции. Это еще одна демонстрация того, что в случае ИИ и нейросетей, вы получаете то, что вкладываете в них, и крайне важно тренировать эти платформы так, чтобы они не формировали жестких предубеждений. И уж точно не стоит давать им возможность серфить по темным закоулкам сети.
Полный набор результатов теста можно найти на сайте, посвящённом Норману. Здесь все желающие могут сами сравнить "показания" двух ИИ.

Главным достижением проведённого исследования стало наглядное доказательство того, что ИИ выстраивает предвзятое мнение не самостоятельно, а исключительно в зависимости от того, каким образом проводилось его обучение. Поэтому авторы исследования призывают компьютерных инженеров, которые работают с ИИ, самым тщательным образом отбирать базы данных, на которых будет получать знания и настраиваться алгоритм. Это именно то, что должно свести количество ошибок в будущей работе к минимуму и не даст упрекнуть искусственный интеллект в необъективности суждений.

И теперь ученые хотят посмотреть, смогут ли они вылечить Нормана. Вы тоже можете в этом поучаствовать, пройти тот же тест Роршаха и добавить в базу собственные описания клякс. Исследователи будут использовать эту информацию, чтобы исправить модель Нормана и посмотреть, будет ли он видеть меньше убийств. Насколько удачным будет такой эксперимент, покажет только время.

Источники:
https://www.popmech.ru/technologies/news-426782-norman-pervyy-v-mire-iskusstvennyy-intellekt-psihopat/
https://www.vesti.ru/doc.html?id=3026237#
уникальные шаблоны и модули для dle
Комментарии (0)
Добавить комментарий
Прокомментировать
Искусственный интеллект нарисует ваш портрет на основе миллионов фотографий знаменитостей
Вы бы хотели узнать, как вас видит искусственный интеллект? Интерактивный инструмент под названием AI portraits с помощью искусственного интеллекта воссоздает ваш
Первый искусственный телеведущий дебютировал в Китае
В общем то все к этому давно идет. Может быть не так быстро, как мы думаем, но точно в том направлении. Я вот все жду, когда в художественных фильмах будут сниматься
За картину, созданную искусственным интеллектом, заплатили на аукционе больше $400 тысяч
На аукционе Christie’s за $432,5 тысяч продали картину «Портрет Эдмонда Белами», которую создал искусственный интеллект. «Портрет Эдмонда Белами» стала первой картиной,
Искусственный интеллект закрыли, когда он понял, что женщины хуже мужчин
Что там у нас было про ИИ такого, чего никто не мог ожидать? А, Вот: созданный компанией Microsoft самообучающийся твиттер-бот с искусственным интеллектом менее через
Искусственный интеллект покоряет Голливуд
Возможно, если вы когда-то соберётесь посмотреть кино, алгоритм службы потокового видео порекомендует блокбастер, сценарий которого написан искусственным интеллектом
Samsung открыл в Москве Центр искусственного интеллекта и академию Интернета вещей
Побывал вчера в Центре исскуственного интеллекта Samsung и посмотрел на десять проектов в области интернета вещей, созданных студентами-первокурсниками. AI Center
Искусственный интеллект научился «по-человечески» играть в Quake III Arena
Ну вот, теперь хоть компьютерные команды в стратегиях или «стрелялках» будут нормально играть, а не как лохи какие то для битья. Программисты из лаборатории DeepMind
Насекомые на макроснимках Нормана Ровсея
Норман Ровсей (Norman Rowsey) a.k.a. Texas Photographer — талантливый фотограф-самоучка, проживающий в городе Элвин, штат Техас. Норман открыл для себя фотографию в 2015
Зовут Шарп
Зовут Шарп
Зовут Шарп
04.06.18 ---
Работники Google требуют прекратить развивать интеллект боевых роботов
Вот так дела. Если раньше это были какие то шуточки и мысли в сети, то сейчас это уже серьезная заявка! Более 3 тысяч сотрудников Google подписали открытое письмо к
7 причин бояться роботов
Все чаще и чаще люди начинают обращать внимание на то, что роботы вырвались за пределы фантастических фильмов и стали частью реального мира. Да, они сейчас не имеют
Прелестные нимфы, козлоногие обольстители и демоны в картинах Нормана Линдсея
Норман Альфред Уильям Линдсей (Lindsay Norman Alfred William) родился 23 февраля 1879 года в Кресвике, штат Виктория, Австралия. Он был художником, гравером,
Искусственный интеллект создал нейросеть
Дожили до того момента, когда искусственный интеллект создаёт собственную нейросеть. Хотя многие думают, что это одно и тоже. Но на самом деле не всё так просто и сейчас
Нейросеть победила сильнейшую шахматную компьютерную программу
Да, я еще помню, как все следили за компьютерной программой DeepBlue, которая победила чемпиона мира Гарри Каспарова. Многие тогда не верили, что какой то алгоритм
Искусственный интеллект может определить, вы гей или нет, по фотографии
Программа определяет сексуальность людей на сайте знакомств с точностью до 91%, но это этический вопрос Искусственный интеллект может точно сказать по фотографии,
Facebook остановил ботов, которые заговорили на непонятном языке
Все таки что не говорите, а опасность развития искусственного интеллекта до того уровня, когда он выйдет из под контроля всегда пугала людей. Представьте, что мы будем
Нас всех убьют роботы?
Предсказания Айзека Азимова, Кира Булычёва и особенно Джеймса Кэмерона вот-вот станут реальностью! Совсем скоро симпатичные терминаторы начнут бороздить Большой театр
Выращен искусственный мозг
Исследователи из Гарвардского университета вырастили самый сложный на сегодняшний день мозг-на-чипе, состоящий из трех различных областей и обладающий способностью
Искусственный интеллект (Matrix has you)
Первая страна или организация, которые разработают прототип искусственного интеллекта второго уровня, - получают невероятные конкурентные преимущества во всех ключевых