Рекомендуем

Мы вступаем в идеальный мир или цифровой концлагерь?

цифровой концлагерь

Подумайте о том, на что вы в первую очередь обращаете сегодня внимание при использовании интернета.

Покупка чего-либо, бронирование гостиницы, выбор места для прогулки, человека, который составит вам компанию на этой прогулке, — всё начинается с рейтинга. В такси, к примеру, вообще не только вы можете поставить оценку водителю, но и он вам.

Логика этого понятна. Мы хотим пользоваться только лучшими услугами, не тратя своё время на отсев заведомо некачественных. А что с людьми? Тратить своё время на неинтересных людей мы ведь тоже не хотим. Далеко ли до мира, в котором у каждого человека есть свой рейтинг?

Что, если мы уже живём в таком мире?

Мы, конечно, не дошли ещё до того, чтобы «неправильная» улыбка человеку, наливающему тебе кофе, могла повлиять на твой личный рейтинг (пока разве что в своей голове этот бариста как-то негативно тебя оценит), но не так уж долго и до этого.

В Китае уже довольно давно действует система социального кредита. Не повсеместно, но люди с удовольствием её принимают, несмотря на попытки мировых СМИ преподнести этот факт, как цифровое рабство. Есть города, где тебе будут улыбаться на улице, ты не увидишь, чтобы кто-то перешёл дорогу в неположенном месте, даже если ни одного автомобиля не будет поблизости, на тротуарах и пляжах не валяется ни одной бумажки или окурка.

За любое «хорошее» дело рейтинг будет расти. В кавычки я поставил это слово именно потому, что эти места всё-таки напоминают города из какого-нибудь романа-антиутопии. Среди прочего, баллы можно получить, к примеру, за то, что ты сдашь своего соседа, перешедшего улицу в неположенном месте. У соседа рейтинг само собой упадёт.

scale 1200 Мы вступаем в идеальный мир или цифровой концлагерь?

Отдельно удручает тот факт, что на этом режиме есть налёт того, который многие ещё помнят. Например, много баллов можно потерять, если ты решишь пойти со своей проблемой к вышестоящему руководству в обход непосредственного. И никого не волнует, что прямой твой начальник игнорировал твою проблему. Он, конечно, тоже может лишиться за это баллов, но докажи для начала. Ну а «отличники» общества, как и передовики производства, оказываются на досках почёта, получая дополнительные «плюшки» вроде скидок в магазинах.

При этом «тунеядцы» остаются без пособий, возможности улететь из страны, взять кредит, товары в магазинах для них дороже, все косо на них смотрят, что довольно важно для китайцев, но, что самое главное, у таких людей практически нет возможности вырваться из этой «рейтинговой ямы». Сейчас участие в этом эксперименте в общем-то добровольное (каждый сам для себя решает, пользоваться ли ему цифровыми удобствами), но ведь так обычно всё и начинается.

Представляете, как приятно бывает поставить «дизлайк», написать гневный комментарий и пожаловаться в службу поддержки только потому, что вам не понравилось мнение другого человека. Да ещё и с анонимного аккаунта.

А теперь представьте себя в обществе, в котором анонимных аккаунтов быть не может, а вас оценивают продавцы в магазинах, коллеги, друзья, даже родители, мужья, жёны и дети, не говоря уже о системе, непрерывно ведущей за вами наблюдение.

Далеко ли мы от такого общества?

Кадр из эпизода сериала «Чёрное зеркало» об обществе,основанном на социальном кредите.

Кадр из эпизода сериала «Чёрное зеркало» об обществе,основанном на социальном кредите.

Один из крупнейших в России банков предлагает услугу «проверки сотрудников» всего за ₽490. За эти деньги вы получите следующую информацию о человеке: нарушал ли он закон, есть ли задолженности по налогам, в каких социальных сетях зарегистрирован (со ссылками, само собой). Это всё базовая информация. Ещё сервис покажет, как этот человек записан в чужих записных книжках, что и когда он продавал в интернете, а по итогу выставит ему бал благонадёжности.

BigData уже работает. Любое наше действие подлежит анализу с целью оценки. По любому поводу. Для понимания благонадёжности, для выдачи рекламных предложений, для оценки при приёме на работу и так далее.

Эти системы активно тестируются в больших городах. За время пандемии система распознавания лиц «прекрасно» себя показала. Люди, которых посадили на карантин, оставляли дома телефоны просто для того, чтобы сходить в аптеку, а им прилетали штрафы с фотографиями с камер домофонов. Причём люди были в масках на этих фото.

Пока можно расслабиться

scale 1200 Мы вступаем в идеальный мир или цифровой концлагерь?

В той же Москве, далеко не все люди занесены в активную базу поиска по лицам — это слишком накладно. Сейчас к преступникам в этой базе добавлены те, кто должен сидеть на карантине, почти наверняка участники весенник «прогулок» по центру Москвы.

Правда, как обычно, всё упирается в человеческий фактор. К примеру, есть парень, которого до недавнего времени каждый раз на входе в метро останавливали для проверок и частенько задерживали. Однажды его лицо случайно попало в базу по делу о краже в магазине. Он оказался не виновен, но его, как это частенько бывает, просто забыли убрать из базы. Судя по всему, эти проблемы уйдут лишь с разработкой реального искусственного интеллекта.

Что нас ждёт?

Россия сегодня на втором месте в мире по темпу прироста камер в системе распознавания лиц — за прошлый год их стало на 1,5 млн. больше. Сейчас наша страна на третьем месте после Китая (более 200 млн. камер) и США (почти 55 млн.). В итоге, в Китае сегодня приходится одна камера на семь человек, в России — на десять. Другой вопрос, что у нас эти камеры сосредоточены в крупнейших городах и их областях, тогда как в Китае и США распространение более равномерное.

На фоне учащающихся случаев срыва подростков, приводящих к трагедиям, в учебных заведениях тестируют системы по распознаванию психоэмоционального состояния. Ещё одна система оценки. Непонятно пока, правда, по какому принципу она эту оценку будет проводить.

scale 1200 Мы вступаем в идеальный мир или цифровой концлагерь?

Да, вроде бы неплохо получать различные бонусы за хорошее поведение, понимать, с кем и чем ты имеешь дело, осознавать, что в окружающем тебя обществе нет потенциальных убийц, но готовы ли мы платить за это буквально свободой и всей информацией о себе? Каково это, осознавать, что следят за каждым твоим действием, за каждым сообщением?

В том же Яндексе сервисы объединены и, получая баллы за поездки на такси, можно тратить их на покупку еды. А в Драйве недавно был введён такой параметр, как «профиль вождения», который влияет на стоимость аренды для каждого человека и доступность тех или иных авто.

Но готовы ли вы жить в обществе, где оценивать вас будет робот, пусть и по оценкам, собранным у других членов этого общества? Никаких оправданий — робот оценит вас, как робот. Ваши личные качества, ваше отношение с другими людьми, качество выполняемой вами работы. Вся ваша жизнь может свестись к оценке вас по количеству «лайков», а значит, к тому, чтобы набирать как можно больше этих «лайков».

Ну и как вы думаете, не придёт ли всё к тому, что возникнет серый рынок рейтингов? Сертификаты о вакцинации ведь довольно быстро стали продаваться.

Добавить комментарий