Ученые обманывают искусственный интеллект

Все мы ждем того момента, когда искусственный интеллект, программы, техника научиться делать практически тоже, то и мы. Это все вполне реально. Но пока что мало кто задумывается, что все равно этот процесс не будет одинаков у машин и людей.

Вот например Группа исследователей из университета Кюсю открыла способ обманывать программы по распознаванию образов, изменив один-единственный пиксель на изображении. Этот пиксель расположен так, что он сбивает с толку нейросети, отвечающие за идентификацию, и они начинают принимать собак за кошек, а лошадей за машины.



Тестовые изображения были ограничены всего тысячей пикселей, но в случае более высокого разрешения и миллионов пикселей правило также работает. Только изменять надо не один пиксель, а несколько сотен.

Вторая группа исследователей, на этот раз из Массачусетского технологического института, умудрилась пойти еще дальше. Они смогли напечатать с помощью 3D-принтера скульптуру черепахи, которую программа, даже разглядев со всех сторон и под любым углом, приняла за винтовку. Этот эксперимент представляет куда большую проблему для технологии распознавания образов, так как все дело происходило в реальности, а программе позволили проанализировать объект со всех углов, но она все равно не определила его подлинную форму.

Вместе оба исследования показывают, какой путь предстоит пройти роботам и программам, прежде чем они достигнут человеческого уровня. В конце концов, наш мозг не обмануть, заменив один или даже сотню пикселей.

Жаль только, что в источниках не приводятся разъяснения, как это так получается обмануть программу. А вы что думаете? В чем секрет "битых пикселей" и как можно обмануть с 3Д моделью?

источники
https://www.popmech.ru/technologies/394772-cherepaha-kak-vintovka-uchenye-obmanyvayut-iskusstvennyy-intellekt/

Взято: masterok.livejournal.com

уникальные шаблоны и модули для dle