Интернет против Телеэкрана, 26.01.2018
Тонкости противодействия манипуляции
Симагин Г.
На публикацию этой статьи меня сподвигла, в свою очередь, замечательная, на мой взгляд, статья Дмитрия Юрьева: «Оранжевые полит-технологии Украины: управление свободой», растиражированная в последние дни по разным ресурсам (опубликована и на Контр-тв под названием «Как сделать революцию»). Пожалуй, в первый раз я прочитал настолько детально прописанную именно технологию захвата власти в мире, где столь больше значение имеет информация.
Разумеется, я не вчера родился, и живу в России, поэтому понимаю, что такое «информационные технологии» и каким образом средства массовой информации могут быть использованы для осуществления процесса власти и в более широком смысле - управления. Мне казалось, что моя профессия IT-специалиста - о каких-то абстрактных вещах, типа баз данных и прочих придумок информационного века, без которых запросто можно прожить. Однако, прочитав статью Дмитрия Юрьева я вдруг понял, что именно к области IT-специалистов, как никого другого, относится противодействие тем, кто информационные же технологии использует для манипуляции сознанием миллионов. Те «компьютерщики», которые еще иногда что-то читают кроме технической документации, наверное читали книгу Валентина Пономаренко «Проблема 2033», наверняка задумались о смысле и пользе для общества их профессии, и наверняка, как и я, пережили некоторый личностный кризис типа «неужели я нахлебник, беспечный проедатель нефти?», и нашли какие-то свои ответы, как я нашел свои. Тем же кто так и не нашел, и посвящается эта статья.
Однажды, когда некоторое время назад я перерывал новостные сайты в поисках информации о том, что же произошло на АЭС в саратовской области, мне пришла в голову следующая мысль. Мы исходим из того, что люди стремятся получать объективную (то есть соответствующую реальности) и неискаженную информацию о происходящих в реальном мире событиях. Именно для таких людей может быть создан предлагаемый мной проект. При этом, в области, затрагиваемой при рассмотрении этих посылов людей происходят следующие процессы:
1) Происходит огромное количество событий
2) Распространяется информация о событиях
Распространяемая информация о событиях может основываться на реальных событиях и быть при этом как правдивой, так и неправдивой, а может и не основываться на реальных событиях и поэтому быть неправдивой.
Каким образом распространяется информация о происходящих событиях? Как правило двумя путями:
1) через СМИ
2) напрямую от человека к человеку.
Ложность распространяемой информации о событиях может возникать по многим причинам, главной из которых и наиболее интересующей нас является намеренное искажение этой информации для достижения целей, часто противоречащих целям тех, кто эту информацию получает (а ее получают, как мы уговорились, те, кто хочет ее получать неискаженной). Разумеется, с точки зрения bad guys искажать удобнее всего информацию, распространяемую через СМИ, по очевидным причинам, здесь не рассматриваемым. Искажать информацию, распространяемую через СМИ удобно через прямой контроль самих СМИ, тем более что этот контроль облегчается тем, что СМИ - это централизованные экономические предприятия, легко подпадающие под воздействие групп bad guys.
Итак, первая рассматриваемая проблема - ложность или искаженность передаваемой информации о событиях (далее слова "передаваемая информация о событиях" будем заменять просто словом "новости").
Другая проблема вытекает из следующих предпричин:

1) Получатели новостей обладают некоторой ограниченной сверху скоростью обработки новостей
2) Различные новости обладают разной ценностью для получателей. Под "ценностью" новости понимается некоторая положительная функция как от полезности получения получателем этой новости, так и важности непропускания этой новости. Другими словами, какую-то новость, например, мне будет полезно получить, но если я ее не получу, то хуже мне от этого не станет (например о завозе в мой магазин ограниченной партии антарктических бананов); а другую новость мне важно именно не пропустить, потому что от ее пропускания мне будет очень плохо (например о том, что бананы, которые я постоянно покупаю, привозятся теперь с той птицефабрики, где куриц кормят костяной мукой своих же собратьев).
Из 1) и 2) при условии большого объема постоянно появляющихся новостей, очевидным образом вытекает вторая проблема - практическая сложность выявления и выборочного чтения именно новостей, обладающих ценностью для данного конкретного получателя.
Обе эти проблемы каким-то образом решаются в обоих рассматриваемых случаях пути получения информации:
1) В случае передачи информации от человека к человеку сильно уменьшается потребность в просеивании новостей в поисках ценных новостей, так как человек А, сообщающий новость Н человеку Б более или менее корректно предполагает, что новость Н человеку Б интересна. Однако тут есть несколько очевидных недостатков, некоторые из которых я перечислю. Во-первых, скорость распространения информации подобным путем довольно мала. Во-вторых, схема работает при возникновении у А желания поделиться новостью Н с человеком Б, - но не совсем понятно, как схема распространения человек-человек будет работать, если Б хочет получить новости о происходящих событиях, а у А не понятно есть новость Н, или нет.
Каким образом в данном случае получатель Б информации может не добиться желаемого? Во-первых, он может быть введен в заблуждение передателем А, который передаст ему заведомо ложную новость. Во-вторых, передатель А может не держать зла на Б и честно передавать ему новость Н, однако новость Н сама по себе может быть ложной. В-третьих, получатель Б может не получить новость Н, потому что никто из тех, кто ему сообщал новости, не упомянул новость Н, или вообще не знал.
2) В случае передачи информации от СМИ к человеку скорость передачи информации огромна, однако избирательность передачи новостей реализована слабо. Если Б хочет получить новости, он вынужден просматривать много новостных программ СМИ (не обязательно ТВ, и даже скорее не ТВ, а именно электронные СМИ), и самостоятельно отсеивать информацию, ценную именно ему. И делать это в условиях того, что манипуляции bad guys скорее всего сосредоточены именно в области распространения информации через СМИ.
Каким образом в данном случае получатель Б информации может не добиться желаемого?
Во-первых, сами СМИ, как и отдельные люди, повинуясь приказам bad guys могут передавать ложные новости. Во-вторых, сами новости, все зависимости от воли СМИ могут быть ложными. В-третьих, СМИ как правило обладают огромным спектром собираемых благодаря репортерам и журналистам новостей, но в эфир передают только некоторое ограниченное отсортированное подмножество, и ограничение и сортировка могут выполняться тоже по принципам, навязанным bad guys. Третий момент особенно важен, поэтому его стоит подчеркнуть отдельно. В мире происходит слишком много событий, поэтому новости обо всех получить невозможно. Большей частью мы вынуждены полагаться на то, что СМИ получаемые новости отсортируют и выдадут более важные. Однако мы не можем констатировать их добрую волю, и даже наоборот, можем констатировать, что сортировка новостей является одним из самых мощных средств, которыми bad guys пользуются через СМИ для манипуляции.
Таким образом получается очень странная ситуация: мы вынуждены так или иначе выбирать некоторые СМИ и доверять им - доверять чему-то очень абстрактному и меняющемуся; тогда как доверие или недоверие применимо, по большей части только к каждому конкретному человеку. При этом имеется следующее диалектическое противоречие. Чем более некоторое СМИ стремится передавать полную неискаженную информацию, тем более людей стремятся пользоваться ее услугами и доверять ей, однако тем большее внимание такое СМИ привлекает к себе внимание со стороны bad guys, и тем скорее именно такое СМИ будет ими подчинено и начнет информацию искажать. Наиболее доверяемые мои новостные ресурсы (а лучше сказать будет - наименее недоверяемые) - это iraqwar.mirror-world.ru и contr-tv.ru, однако я вполне отдаю себе отчет, что как только они слишком сильно наступят на мозоль bad guys, или станут производить сильнозаметное влияние на общество, то bad guys их очень быстро закроют. Ибо сервера расположены в совершенно конкретных местах, и bad guys могут попросить bad guys этой конкретной местности об одолжении, которое скорее всего будет исполнено.
Однако еще нельзя не отметить следующий момент. Есть, например, такие новостные ресурсы как gazeta.ru и rbc.ru. Несмотря на то, что это ресурсы с либеральным уклоном (если не сказать прямо - бзиком), новости с этих ресурсов я регулярно просматриваю. Дело в том, что ценность новостей для конкретных людей порой очень сложно угадать, и часто и в делах bad guys можно найти для себя пользу, образно говоря.
Например, пишет rbc об очередном увеличении стабилизационного фонда, и выражает по этому поводу восторг. С одной стороны, это новость вроде бы ценная именно для той целевой аудитории, которая близка по мнениям к bad guys, и именно ими будет воспринята как "своя новость", но и мне эту новость получить полезно, хотя я ее интерпретирую совсем по-другому, нежели ее интерпретирует данное СМИ.
Таким образом, доверие к источнику информации - это одно. Я больше доверяю iraqwar, чем rbc (ну или точнее - меньше недоверяю, если можно так сказать). Однако некоторым новостям с rbc я имею обыкновение доверять, потому что эти новости на руку тем, кто управляет rbc и поэтому эти новости им совершенно не обязательно искажать.

То есть доверие к достоверности каждого из предлагаемых новостей - это одно, а доверие к _политике сортировки_ новостей редакцией СМИ - это другое, и тут я ни rbc, ни gazeta не доверяю абсолютно.
Как мы пытаемся избежать подводных камней, присущих передаче новостей от человека к человеку? Выход один - доверять новостям, которые тебе передают люди, которым ты доверяешь, и наоборот, не доверять новостям, которые передают люди, насчет которых ты сомневаешься. О необходимости думать головой я и не говорю - это подразумевается без упоминания всегда и везде.
Как мы пытаемся избежать подводных камней, присущих передаче новостей от СМИ к человеку? Ответ очевиден, и мы им пользуемся не задумываясь - раз мы не можем смотреть все новости и читать все новостные ленты, то мы читаем их выборочно, и важными с нашей точки зрения новостями обмениваемся с людьми, кому важно наше мнение и чьему мнению мы доверяем. Разумеется, речь тут не может идти о доверии к самим передаваемым новостям, тут речь идет о нашем доверии к тому, что наши друзья пользуются _методикой_ отсева ценных новостей, которой мы доверяем. Доверяем друзьям и тому, КАКИЕ именно новости они выбирают. Оценка достоверности конкретной новости здесь является сложной функцией от самой новости, ресурса, с которого она была взята, и цепочкой людей, по которой она передавалась до конечного потребителя новости.

Итак, теперь к самому проекту под рабочим названием "Paranoia"
Цель проекта - способствовать обеспечению людей ценными с их собственной точки зрения новостями.
Средство достижения этой цели - кооперативная обработка всего массива новостей, поступающих из всего многообразия источников, от СМИ, до того, что какой-то конкретный участник системы видел сам на улице.
Каким образом я вижу эту систему и функциональность, которую она будет предоставлять? Система представляет собой: в статике - совокупность участников ее (людей), связанных некоторыми связями (отношениями друг к другу); в динамике - обменивающихся новостями.
Каждый участник системы может добавлять в систему новости, подписывая (идентифицируя) их своим уникальным идентификатором. Каждый участник системы может просматривать новости, добавленные в систему, и однозначно и корректно идентифицировать участника, поместившего эту новость. Ситуация, когда новость засылает в систему один участник, выдавая ее за новость, засланную другим участником обеспечивается как невозможная техническими средствами системы. Система обладает возможностями распознавания дубликатов новостей, и сливания их в один экземпляр, с сохранением подписей всех участников, заславших этот экземпляр.
Каждый участник системы знает про некоторых других участников системы, причем знает многих из них как реальных людей - своих друзей, например, и поэтому доверяет им на основании того, что доверяет им в реальной жизни. Или доверяет тем, кто в свою очередь доверяет им в реальной жизни. Таким образом, для любых пользователей А, Б имеется число Д(А,Б) (например, от 0 до единицы) - доверие участника А к тому, что Б засылает ценные для А новости. По умолчанию это число, например, равно 0. Это число устанавливается самим А, и не может быть изменено никаким другим пользователем системы П, стремящимся навязать А свое видение выбора новостей. Таким образом, с математической точки зрения, имеет место полный граф (то есть такой граф, в котором каждая пара вершин соединена ребром) доверенностей людей, причем большая часть ребер, помечаемых числом доверия, имеет значение 0. Каждый пользователь системы А может самостоятельно назначить степень своего доверия к любому другому пользователю Б системы, хотя никоим образом и не может изменить степень доверия Б к А. Назначая число своего доверия к Б пользователь А может руководствоваться следующими причинами:
а) А знает Б в реальной жизни и доверяет ему
б) А не знает Б в реальной жизни, но имеет некоторые другие основания назначить именно такое число доверия
в) А не знает Б в реальной жизни, и поэтому пользуется предлагаемой системой методикой назначения, например, такой:
Рассмотрим все пути графе доверий вида: А доверяет Х1, Х1 доверяет Х2, и так далее, ХM доверяет ХН, ХН доверяет Б, причем все числа доверия выражаются числами _больше нуля_. Тогда из всех таких путей выберем такой, что он выдает _наибольшее произведение_ всех чисел доверия на пути в графе от А до Б. Произведение всех чисел доверия для выбранного пути и назначается степенью доверия А к Б, хотя А лично не знает Б и не имеет личных мотивов как доверять Б, так и не доверять Б.
Кроме такого понятия как "доверие участника А к выбору засылаемых новостей участником Б" есть еще такое понятие как "достоверность конкретного сообщения С". К сожалению, не представляется возможным использовать такое обобщенное понятие как "достоверность конкретного сообщения С", потому как, во-первых, крайне редко есть возможность проверить эмпирически эту достоверность, а во-вторых, некоторые новости обладают субъективной достоверностью. Если новость о том, что "на соседней с вашим домом макаронной фабрике произошел взрыв, нафиг снесший крышу здания" может быть либо соответствующей действительности, либо несоответствующей (причем вы можете достоверность оценить достоверно - выглянув в окно), то новость о том, что "а жизнь-то - налаживается" может быть достоверной для одних участников, и недостоверной для других. В связи с этими грустными рассуждениями, система не работает с понятием "достоверность конкретного сообщения С", а работает с понятием "достоверность для участника А конкретного сообщения С, засланного участником Б". И эта достоверность определяется изначальной достоверностью сообщения, заданной Б, и степенью доверия участника А к участнику Б (может быть = начальная_достоверность*степень_доверия?)
Когда А засылает новость в систему, он подписывает ее своим идентификатором и ставит некоторую начальную степень достоверности для участника А конкретного сообщения С, засланного участником А. Причем это не обязательно единица. Если я шел по улице, и мне на голову упал кирпич, то прийдя домой я зашлю новость "Мне на бошку сегодня упал кирпич", и поставлю число достоверности, близкое к 1, потому как я реально мог почувствовать, что это было сегодня, что это был именно кирпич, и что он упал, и что он упал мне, и что на голову. Если рядом со мной шел мой друг, то он тоже придет домой, и зашлет в систему новость "Ему сегодня на голову упал кирпич", и тоже поставит 1, потому как он сам видел, как это произошло. А если мой друг сначала пойдет к своему другу и расскажет ему что произошло, то тот, в свою очередь может заслать в систему сообщение "Ему сегодня на голову упал кирпич" с достоверностью, например, 0,95 - потому как друг все-таки мог и пошутить так несообразно. Если Б прочитал сообщение С в системе, подписанное А, то он может перезаслать сообщение С в систему, при этом поставя свое значение достоверности, которое, исходя из здравого смысла Б будет меньше или равно исходному значению достоверности, и причем тем меньше, чем меньше доверие участника Б к участнику А, причем доверие не в выборе новостей, а именно доверие личное как к возможному bad guy, который может целенаправленно заслать ложную новость. При этом система может обнаружить, что это сообщение одно и то же, и "слить" их в одно, сохранив, однако, обе подписи с обоими "значениями достоверности".
Модель оценки достоверностей сообщений мне пока представляется смутной, в отличие от модели доверия участников системы к другим участникам системы и тому, насколько ценные для них новости они засылают.
Что происходит, когда некий пользователь А хочет узнать, чего же такого произошло в мире? По идее должен сформироваться список всех новостей, засланных всеми пользователями системы, но участник А имеет только 1 час обеденного перерыва, чтобы почитать новости, поэтому этот список будет отсортирован, и пользователь А увидит только верхнюю часть этого списка. По какому принципу может сортироваться список? Он будет сортироваться по некоторой сложной функции, которая зависит от количества людей, заславших эту новость, от изначальной достоверности ее, которую они назначили, и (КЛЮЧЕВОЙ МОМЕНТ) от степени доверия А к тому, насколько полезные для А новости могут выбирать эти пользователи.
Новости о событиях, непосредственными участниками которых люди были, будут таким образом расходиться по цепочкам доверия, причем каждый участник не может контролировать, по каким цепочкам ЕГО сообщение пойдет, то есть какие пользователи его скорее всего увидят на верхушках своих списков. Участник может контролировать только то, по каким цепочкам, то есть от каких пользователей К НЕМУ будут приходить сообщения. Новости о событиях, размещаемые в порталах СМИ будут таким образом коллективным образом просеиваться, и оседать в верхушках списков людей в сетях людей, которые доверяют друг другу. И именно этим такая система будет отличаться от любой главной странички уважающей себя компании, которая считает себя обязанной посадить специального человека, который бы следил за новостями и выкладывал на главной страничке компании список новостей. Тем будет предлагаемая система отличаться, что тут выбор новостей будет зависеть не от какого-то там неизвестного человека, а только от самого участника системы, и от тех, кому он доверяет.
Чем хороша такая система, основанная целиком и полностью на добровольном доверии? На мой взгляд, она хороша тем, что она практически свободна от злонамеренных манипуляций посторонних людей. Одной из главных целей построения подобной системы будет именно свобода от злонамеренных манипуляций. Bad Guys могут сколько хотят засылать в систему свои пыхтелки, сопелки и прочие лживые новости, но коль скоро они не принадлежат тому кругу людей, которым мы сами поставили высокие коэффициенты своего доверия, то их новости просто не будут появляться на верхушках наших списков самых важных новостей. А изменить наши коэффициенты доверия к ним эти bad guys не могут принципиально, потому что эти коэффициенты хранятся только на машине самого пользователя.
Такую систему, на мой взгляд, нецелесообразно будет размещать на единственном сервере, который легко может подвергнуться атаке bad guys. Один из ключевых моментов в том, что система должна быть организована по принципу P2P (peer-to-peer) - то есть компьютеры пользователей общаются прямо друг с другом, без выделения какого-либо единого центра, который может быть подвергнут атаке, влияющей на всю сеть. В p2p-сетях нет центра, который всем управляет, - когда участник подсоединяется к такой сети, он не подключается к некоторому центру (как, например, при получении почты подсоединяется к совершенно конкретному почтовому серверу). Он подключается сразу к некоторым другим пользователям, адреса которых помнит его система. Если они все одновременно не работают - то тогда, увы, пользователь вне сети (но это крайне маловероятно). Если работает хотя бы один, то пользователь автоматически подсоединяется к нему и скачивает себе тот список РАБОТАЮЩИХ пользователей, который есть у него. Таким образом сеть работает, но центра управляющего нету, и чтобы убить сеть, нужно одновременно и разово остановить работу некоторой довольно большой части сети (и тут все определяется топологией).
Таким образом главными столпами обеспечения безопасности и корректности системы являются:
1. Узлы не должны сильно влиять на всю сеть. В сетях распространения музыки, например, типа Kazaa, если некоторая довольно большая группа пользователей начнет распространять некоторую мелодию М, то поисковые системы на каждом из компьютеров тех, кто ищет музыку, отметят увеличение популярности трека М и поставят его в вернюю часть списков находимой музыки. Тем самым большая команда bad guys влияет на всю сеть. В предлагаемой же системе узлы влияют не на всю сеть, а только на те узлы, которые доверяют им, то есть которые добровольно решили, что они будут зависеть.
2. Возможность цензуры получаемой узлом А информации от узла Б должна быть только в случае прямого воздействия извне на узел А или узел Б, но не в случае воздействия на любой другой узел В.
Вопрос: Если это P2P система, без единого выделенного сервера, то куда же пользователи засылают новости?
Ответ: А они их никуда и не засылают, в том-то и вся фишка. Они их складывают на своей машине в том порядке, в котором сами считают нужным, - видимо, по убыванию ценности этих новостей для них самих, и тем самым делают эти новости доступными для любых других пользователей системы.
Что мы таким образом имеем? Мы имеем абсолютно распределенную децентрализованную новостную систему на основе P2P технологии с авторизацией пользователей, шифрованием, с виртуальным глобальным списком новостей, где каждый участник может добавлять свои новости и просматривать глобальный список отсортированный по уровню доверия данного пользователя к новостям других пользователей. Абсолютно неподконтрольная bad guys система распространения информации, очень устойчивая к ударам извне.
Вопрос: Что мешает нам сейчас создать и использовать такую систему?

Ответ: Недостаток инфраструктуры.
1) Мало компьютеров, постоянно полноценно подключенных к интернету;
2) Те, которые постоянно подключены в большинстве своем неполноценны.
Тут две проблемы, частично друг с другом связанные. Компьютер может работать как полноценный участник P2P-сети ТОЛЬКО если он имеет реальный IP-адрес. Такое у нас случается, когда ты вылезаешь в сеть через модем (у провайдера есть диапазон РЕАЛЬНЫХ адресов в собственности, которые он назначает компьютерам, подключающимся по модему), или имеешь выделенную линию с реальным IP. Это очень временное подсоединение, - редко кто долго сидит в сети по модему. А те компьютеры, которые якобы постоянно к инету подключены (в офисах), как правило, не являются полноценными участниками сети - они находятся в локальных сетях, и в инет выходят через один конкретный компьютер.
Однако это все технические проблемы, которые в принципе решаемы. Чего стоит хотя бы пример программы Skype для организации голосового общения в сети. Для нас в большинстве случаев эта программа неактуальна, потому как существующие подключения к интернету не обладают достаточно скоростью. Однако насколько я успел в этой программе разобраться, она работает на технологии p2p, но работает и в случае «неполноценных» компьютеров (наш вариант!), просто другие, полноценные компьютеры, им в некотором смысле помогают соединяться друг с другом (технические подробности опущу).

Таким образом, такой проект вполне реален даже при существующих технических средствах связи в нашей стране. Дело за разработчиками.
Вопрос: А кто-нибудь что-нибудь из подобного уже делал?
Ответ: Буду сам очень рад услышать, что такая система создана давно и толпа людей уже ей пользуется. Самое близкое, что я нашел из существующего - это англоязычный ресурс. Практически то же самое, что я придумал. Однако во-первых, на главной странице этого проекта сказано, что он влился в другой проект, в котором я уже не нашел ни одной из функций, которые считаю главными. А во-вторых, насколько я понял, создатели этого проекта главной его функцией ставили обход цензуры, тогда как мне кажется, что гораздо более важной функцией является «отсев» ненужных, неважных и прочих «забивающих эфир» новостей.

0.026905059814453