Оценка благонадёжности пользователей соцсетей
Ну вот, начинается! Года не прошло, как смотрел одну из серий «Черного зеркала» и там вся жизнь людей, все их благосостояние и положение в обществе зависело от рейтинга в социальной сети.
А тут вдруг читаю, что в Facebook появилась система оценки пользователей. Благонадежность можно оценивать по шкале от 0 до 1. И уже готова китайская «система социального рейтинга», которая будет определять ценность людей. Вот так — ни больше ни меньше!
Разумеется в ФБ, всё это проходит под флагом борьбы с «фейковыми новостями», однако суть происходящего, конечно, гораздо глубже. В конечном итоге новая система должна будет проникнуть во все сферы жизни граждан и заменить действующую карательную систему государства на новую – с одной стороны, более мягкую, а с другой стороны, гораздо более жёсткую.
Систему в компании разрабатывали с прошлого года, сообщает издание The Washington Post. Оценка репутации пользователей должна помочь в борьбе с «фейковыми новостями» и распространением «недостоверной» информации.
Как рассказала «менеджер Facebook по работе с дезинформацией» Тесса Лайонс, в выставлении оценок соцсеть будет полагаться на пользователей. Именно сами участники сообщества будут присваивать оценки друг другу. Кроме того, алгоритмы Facebook будут также добавлять источнику некие критерии для создания объективной репутации.
Лайонс не стала рассказывать, что это за критерии, чтобы «не давать мошенникам возможности манипулировать» алгоритмами.
А кто сомневается, что такой подход и подобные инструменты в срочном порядке введут остальные соцсети? Никто не сомневается. Тренд задан!
КАК ЭТО РАБОТАЕТ В КИТАЕ
Китайская «система социального рейтинга» будет определять ценность людей
В наше спорное время Китай стал первой страной, которая к 2020 году планирует внедрить систему социального рейтинга (Social Credit Score или SCS). Инициатива впервые появилась в документе Государственного совета КНР, опубликованном в июне 2014 г. Эта инновация настолько шокирует современное прогрессивное общество, что людям не остается ничего, кроме как безучастно разводить руками — реальность все ближе к мрачной научной фантастике.
С виду SCS устроен довольно просто. В рамках системы оценивания будет определен рейтинг жителей Китая, страны, чье население составляет почти 1,3 миллиарда человек. Рейтинг будет находиться в открытом доступе для каждого. Система будет определять позицию гражданина, отслеживая его социальное поведение: как он тратит деньги, регулярно ли оплачивает счета, даже то, как он взаимодействует с другими людьми. На этой публичной оценке и будет основано доверие к каждому отдельному человеку.
Звучит еще хуже, чем оруэлловский кошмар.
От рейтинга гражданина будет зависеть, сможет ли он получить работу или ипотеку, а также в какой школе смогут учиться его дети. В этом смысле рейтинг SCS напоминает один из самых ужасающих эпизодов третьего сезона «Черного зеркала». К слову, это сериал не славится жизнеутверждающим посылом. В нем зрителям показываются различные антиутопичные варианты того, как может развиться общество, однако проект SCS доказывает, что в этом отношении реальность уже обошла вымысел.
Эта «услуга» станет полностью доступна только в 2020 году, однако уже сейчас Китай начал добровольное внедрение рейтинга SCS: правительство сотрудничает с рядом частных компаний, чтобы отладить отдельные алгоритмы, необходимые для работы такой крупномасштабной системы обработки данных.
В работе над проектом задействованы такие компании, как China Rapid Finance, партнер сетевого гиганта Tencent, и Sesame Credit, дочерняя компания Ant Financial Services Group (AFSG), партнера Alibaba. Как China Rapid Finance, так и Sesame Credit имеют доступ к пугающе огромному массиву данных, первая компания — через приложение обмена сообщениями WeChat (в настоящее время с 850 миллионами активных пользователей), а вторая — через свою платежную систему AliPay.
По данным местных СМИ, Tencent внедряет рейтинг SCS в чат-приложение QQ, где рейтинг человека находится в диапазоне от 300 до 850 и разбивается на пять подкатегорий: социальные связи, потребительское поведение, безопасность, материальное состояние и законопослушность.
Положительное (и отрицательное) подкрепление
Сторонники рейтинга SCS считают, что с его помощью можно улучшить некоторые государственные услуги. Некоторые утверждают, что рейтинг предоставит китайским гражданам столь необходимый им доступ к финансовым услугам. Правительство также заявляет, что рейтинг «позволит благонадежным гражданам ходить там, где вздумается, и не даст дискредитированным ступить ни шагу», сообщается в The Wall Street Journal. В некоторых ситуациях это вполне может сработать. В конце концов, финансовые организации и банки уже составляют системы оценки кредитоспособности, которые помогают им не выдавать кредиты тем, кто не сможет их выплатить.
Утопическое стремление управлять финансами граждан посредством системы сдержек и противовесов может стать хорошо продуманным способом снизить государственный долг и побудить граждан своевременно выплачивать имеющиеся у них долги. Однако настолько вездесущее организованное управление личными финансами граждан переходит разумные границы.
Основная проблема заключается в том, что рейтинг SCS выходит далеко за рамки оценивания того, как граждане распоряжаются своими долгами. По своей сути, рейтинг выставляет оценку каждому жителю страны, определяя его ценность как человека. И вынуждает общество принимать эту оценку во внимание.
«Предложенный Китаем социальный рейтинг — только подтверждение тому, что Китай превращается в полностью полицейское государство», — утверждает Анураг Лал, бывший директор американской Национальной группы по исследованию широкополосной связи при администрации Обамы, а также президент и главный директор по решениям для мобильности фирмы Infinite Convergence.
«Китай делает еще один шаг к тому, чтобы стать тоталитарным полицейским государством, контролирующим своих граждан и плюющим на их конфиденциальность. Будут оцениваться все виды деятельности и межличностного взаимодействия, как в сети, так и в реальной жизни. Их будут хранить, как данные, доступные для просмотра».
Кажется, печально известный Великий китайский файрвол — лишь одно из следствий ухудшающегося социально-политического положения Китая.
Big Data для хорошего поведенияТакая система способна не только выступать в качестве социального посредника, но и жестко ограничивать граждан. В своем интервью WIRED технологический директор Sesame Credit Ли Инъюнь согласился с таким опасением, заявив, что с помощью SCS можно будет судить о человеке по его покупкам. «О том, кто играет в видеоигры по десять часов в день, например, подумают, что он безработный, — поясняет Ли. — А о том, кто часто покупает подгузники, подумают, что у него наверняка есть дети, значит, этот человек наверняка ответственен».
Некоторые считают, что такие изменения дадут позитивный результат: людей будут мотивировать на то, чтобы учиться отвечать за себя и свои привычки ради хороших баллов в рейтинге и статуса так называемого «заслуживающего доверия гражданина». Китайский блоггер Расул Маджид поделился с WIRED, что всерьез считает инициативу полезной. Если человек знает, как именно за ним следят, то он сумеет и выкрутиться.
Лал, в свою очередь, не согласен с такой позицией. «Как можно судить о человеке по его ежедневным действиям? Мы так много всего делаем, и нами всегда движет множество самых разных причин. Если контекст поступка неясен, то его можно истолковать неверно», — поясняет он. И в его словах есть рациональное зерно. Очевидно, почему нельзя сказать, что все, у кого есть дети, однозначно заслуживают доверия. Что это значит для тех, кто не может иметь детей? Что это значит для однополых пар? Что это значит для людей, которые просто не хотят заводить детей?
Вероятно, ничего хорошего.
В конце концов, даже базовая система SCS, которая оценивает всего лишь несколько элементов данных, может создать очень неточный и неполный образ человека. «Если вы играете в видеоигры по 10 часов в день, то алгоритм объявит вас безработным, не разбираясь в причинах ваших действий. Возможно, вы работаете инженером и просто тестируете эти игры. Но вы уже автоматически отмечены как безработный, — добавляет Лал. — Когда на самом деле вы, может быть, просто выполняли свою работу».
В конечном итоге, главная проблема сводится к тому, что «социально приемлемое поведение» будет определять китайское правительство, а не демократический процесс или независимая комиссия. И если человек нарушит это доверие, меры по его наказанию не заставят себя ждать.
С помощью SCS китайское правительство фактически убьет двух зайцев одним выстрелом: они смогут продвинуть и навязать обществу свое представление о «социально приемлемом поведении» и одновременно с этим получат возможность контролировать все аспекты жизни граждан.
Тем не менее, Лал сомневается в том, что эта система способна работать в долгосрочной перспективе. «Подобная инициатива не сможет прижиться в свободном мире. Если люди, сидящие в правительстве, действительно окажутся настолько наивны, то от этого Китай только потеряет свой авторитет в региональном и глобальном плане. Технические компании, работающие в Китае, уже выражают свое недовольство серьезными ограничениями техполитики и шифрования. Такие нововведения только усугубят возмущение».
Система представляет собой нечто гораздо более коварное, чем паноптикум, о котором говорил теоретик культуры Мишель Фуко.
Поэтому давайте надеяться, что Лал прав.
Источники:https://rg.ru/2018/08/22/facebook-vvel-sistemu-ocenki-reputacii-polzovatelej.htmlhttps://inosmi.ru/social/20180220/241513806.html
Это копия статьи, находящейся по адресу http://masterokblog.ru/?p=10607.
Взято: masterok.livejournal.com