Facebook остановил ботов, которые заговорили на непонятном языке
04.08.2017 150 0 0 masterok

Facebook остановил ботов, которые заговорили на непонятном языке

---
0
В закладки


Все таки что не говорите, а опасность развития искусственного интеллекта до того уровня, когда он выйдет из под контроля всегда пугала людей. Представьте, что мы будем делать и как контролировать полноценное ИИ, если тут какой то суррогат и то напугал людей. Люди же всегда будут стремиться оставить себе контроль и управление, но как говорится "все что один сделал, другой всегда сломать может". Если даже все будет супер надежно - всегда будет опасение. Вот и Маск недавно спорил на эту тему с Цукербергом: "Я продолжаю бить тревогу, но пока люди сами не увидят роботов, которые ходят по улицам и убивают людей, они не узнают, как реагировать [на искусственный интеллект]", - сказал он.

Чат-боты, которые были созданы для переговоров с людьми, вышли из-под управления и начали общаться на собственном языке.

Сначала они использовали английский язык для общения друг с другом, но затем создали новый язык, который могла понять только сама система ИИ, что нарушало цель работы.

Facebook приостановила работу ИИ после того, как разработчики обнаружили этой сбой.

Вот отрывок разговора между чат-ботами:

Алиса: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для».
Боб: «Ты я все остальное».
Алиса: «Яйца имей яйца для меня для меня для меня для меня для меня».
Боб: «Я».
Алиса: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для».
Bob: «Ты я я я я я все остальное».




Ботов подключили к алгоритмам машинного обучения и позволили им переписываться между собой, чтобы они оттачивали навыки общения. Но через некоторое время те начали видоизменять слова и фразы, а затем и вовсе придумали собственный язык, упростив ряд выражений и грамматических конструкций.

Используя машинное обучение, боты также разработали несколько стратегий для улучшения исхода переговоров с собеседником и начали использовать их в комбинации с рядом придуманных ими же слов в зависимости от важности конкретного диалога. В частности, они провозглашали ложную цель беседы, чтобы затем отказаться от нее и якобы прийти к компромиссу.

Как поясняет издание Digital Journal, системы искусственного интеллекта опираются на принцип "поощрения", то есть продолжают действия при условии, что это принесет им определенную "пользу". В определенный момент они не получили от операторов сигнал поощрения на использование английского языка, поэтому и решили создать свой собственный.

Издание Tech Times отмечает, что у роботов изначально не было ограничений в выборе языка, поэтому постепенно они и создали свой язык, на котором они могут общаться проще и быстрее, чем на английском.

Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут все более самостоятельными и смогут функционировать вне контроля IT-специалистов. Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.



В марте 2016 года чат-бот компании Microsoft стал звездой сети после того как возненавидел человечество. Самообучающаяся программа начинала общение с пользователями фразой «Люди очень клевые», но всего за сутки выучила такие выражения, как «Я просто всех ненавижу!», «Я ненавижу феминисток» или «Я ненавижу евреев». В итоге сотрудникам компании пришлось временно отключить бота.


Перевод с искусственного


Осенью прошлого года стало известно, что интернет-поисковик Google создал свою систему искусственного интеллекта для усовершенствования работы онлайн-переводчика Google Translate.

Новая система позволяет переводить всю фразу целиком, тогда как ранее переводчик разбивал все предложения на отдельные слова и фразы, что снижало качество перевода.

Для того, чтобы перевести все предложение целиком, новая система Google изобрела свой собственный язык, который позволяет ей быстрее и точнее ориентироваться между двумя языками, с которых или на которые ей предстоит сделать перевод.
Эксперты уже предупреждают о том, что по мере стремительного развития онлайн-сервисов для перевода труд живых переводчиков может быть все менее и менее востребован.

Однако пока эти системы выдают качественные результаты в основном для небольших и несложных текстов.

Как вы считаете, пока рано бить тревогу как про клонирование например? Или пусть все развивается само собой?

источники
http://www.ibtimes.com/facebook-ai-project-generates-own-language-chat-transcript-baffles-humans-2572297
https://futurist.ru/news/4011-kompaniya-facebook-ostanovila-rabotu-ii-kotoriy-zagovoril-na-neponyatnom-yazike
http://www.bbc.com/russian/features-40778454
https://lenta.ru/news/2017/06/20/ownlanguage/уникальные шаблоны и модули для dle
Комментарии (0)
Добавить комментарий
Прокомментировать
Искусственный интеллект нарисует ваш портрет на основе миллионов фотографий знаменитостей
Вы бы хотели узнать, как вас видит искусственный интеллект? Интерактивный инструмент под названием AI portraits с помощью искусственного интеллекта воссоздает ваш
За картину, созданную искусственным интеллектом, заплатили на аукционе больше $400 тысяч
На аукционе Christie’s за $432,5 тысяч продали картину «Портрет Эдмонда Белами», которую создал искусственный интеллект. «Портрет Эдмонда Белами» стала первой картиной,
Искусственный интеллект закрыли, когда он понял, что женщины хуже мужчин
Что там у нас было про ИИ такого, чего никто не мог ожидать? А, Вот: созданный компанией Microsoft самообучающийся твиттер-бот с искусственным интеллектом менее через
Naids - rusofobijas hronikas
Юра из Болгарии мне посоветовал назвать так предыдущий пост про вывески Даугавпилса. Но "rusofobijas hronikas" (напомню, это название книги известного пропагандиста Н.
Samsung открыл в Москве Центр искусственного интеллекта и академию Интернета вещей
Побывал вчера в Центре исскуственного интеллекта Samsung и посмотрел на десять проектов в области интернета вещей, созданных студентами-первокурсниками. AI Center
Искусственный интеллект научился «по-человечески» играть в Quake III Arena
Ну вот, теперь хоть компьютерные команды в стратегиях или «стрелялках» будут нормально играть, а не как лохи какие то для битья. Программисты из лаборатории DeepMind
Искусственный Интеллект воспитали психопатом
Массачусетский технологический институт (MIT) представил новый алгоритм для искусственного интеллекта. Но он не поможет спрогнозировать сердечно-сосудистые заболевания,
Как побеждать троллей и прочих неадекватов на работе и в жизни. «Как выжить среди м.даков»
Есть такой интересный человек – Роберт Саттон. Занимается он тем, что преподает в Стэнфорде, что как бы говорит о том, что он разбирается в своей теме досконально.
Работники Google требуют прекратить развивать интеллект боевых роботов
Вот так дела. Если раньше это были какие то шуточки и мысли в сети, то сейчас это уже серьезная заявка! Более 3 тысяч сотрудников Google подписали открытое письмо к
Машина с автопилотом впервые насмерть сбила человека
Случилось то, чего боялись и о чем предупреждали эксперты. Автомобиль под управлением автопилота задавил женщину. Есть даже видеозапись с регистратора беспилотного
7 причин бояться роботов
Все чаще и чаще люди начинают обращать внимание на то, что роботы вырвались за пределы фантастических фильмов и стали частью реального мира. Да, они сейчас не имеют
Сложности общения и их преодоление. «Наука общения»
Вы умеете общаться с незнакомыми людьми, легко заводите новые знакомства, способны без проблем выйти к микрофону и забацать доклад минут на двадцать перед незнакомой
Нейросеть
Нейросеть
Нейросеть
05.01.18 ---
Многие слышали, что "Яндекс" создал голосового помощника "Алиса". "Алиса" работает на основе продвинутой нейросети и самообучается в процессе общения с пользователями.
Какими будут киборги для плотских утех?
Мэтт МакМаллен, основатель крупнейшего производителя секс-кукол RealDoll, запускает новый проект — RealBotix. Предприниматель планирует интегрировать в
Искусственный интеллект и робот — лучшие друзья космонавта
IBM Watson, перешедший от "Своей игры" к полезным задачам вроде медицины, поварского искусства или сервиса советов наконец-то добрался до аэрокосмической отрасли. И в 21
Ученые обманывают искусственный интеллект
Все мы ждем того момента, когда искусственный интеллект, программы, техника научиться делать практически тоже, то и мы. Это все вполне реально. Но пока что мало кто
Роботы победили
Писатели-фантасты пугали нас роботами, которые "убьют всех человеков". Прошло совсем немного времени и сегодня мы сталкиваемся с тем, что роботы начали угнетать людей.
Нас всех убьют роботы?
Предсказания Айзека Азимова, Кира Булычёва и особенно Джеймса Кэмерона вот-вот станут реальностью! Совсем скоро симпатичные терминаторы начнут бороздить Большой театр
Выращен искусственный мозг
Исследователи из Гарвардского университета вырастили самый сложный на сегодняшний день мозг-на-чипе, состоящий из трех различных областей и обладающий способностью
А давно украинцы забыли русский язык?
Вчера у меня было две встречи с украинцами, точнее, с украинками. Первая девушка, Катя, работала стюардессой в авиакомпании "Эмирейтс". На ее большой груди красовался