Нейросети между строк. Как влияют на результаты выборов в мире новые технологии
Начнем с аутсайдеров
Telegram… Платформа, роль которой в трансформации путей доставки информации конечному потребителю переоценить крайне сложно.
Telegram стал тем самым мостиком, соединяющим «старый» интернет с новостными сайтами и форумами с «новым» интернетом, гораздо более персональным для каждого конкретного адресата.
Пользователь сам может формировать для себя повестку: подписаться на тот или иной интересующий его канал, равно как и начать вести такой самостоятельно. Безусловно, подобные решения были и раньше, но тут как раз время совпало с окончательной победой смартфонов на массовом рынке и достижением ими такой степени технологичности, что из игрушки для фанатов и модного аксессуара они превратились в незаменимый рабочий инструмент, средство коммуникации и получения информации для большинства людей. То есть закрепилась на новом уровне возможность самому формировать новостной фон или даже его генерировать.
Естественно, такими механизмами просто не могли не воспользоваться и в политических целях, что Беларусь на себе весьма явно ощутила пять лет назад. Впрочем, тут мы не уникальны, Telegram успешно использовался для формирования политической повестки во многих странах. Сейчас его популярность постепенно идет на спад, он уже не молодой, поколение пользователей сменилось, но списывать старичка еще рано, бурно развивающиеся нейросети начали вдыхать в него новую жизнь.
Telegram в первую очередь платформа именно для общения, под новостями можно оставлять комментарии в прикрепленных к каналам чатах, да и весь функционал во многом заточен именно под общение пользователей. И сейчас, когда нейросети уже замечательно научились понимать контекст сообщений и поддерживать внятный диалог с человеком, ситуация с распространением нарративов несколько поменялась. Уже появились первые боты, которые читают статьи и достаточно осмысленно обсуждают их в комментариях, продвигая заложенные заинтересованными лицами идеи и нарративы.
Социальные пузыри
TikTok, одна из самых популярных на сегодняшний день платформ, является полной противоположностью Telegram.
Слабость Telegram является силой TikTok, и наоборот. Тут не надо самому себе формировать повестку, надо лишь смотреть то, что тебе нравится. А уж алгоритмы системы сами позаботятся, чтобы пользователю подавался именно тот контент, который ему по душе.
Причем контент подается небольшими порциями, сразу пережеванным, думать вообще не надо, только потреблять. Даже подписываться на какие-то каналы необязательно, мыслительный процесс потребителя из подбора контента вообще исключен.
Эта система создает идеальную питательную среду для распространения требуемых нарративов. Надо лишь выделить целевую группу, определить ее среднестатистические интересы и заворачивать нужные посылы в контент этой группе, все остальное алгоритмы сделают сами, до потребителя донесут и с ложечки требуемыми тезисами накормят.
Я вот уже слышу возмущенные крики, что, мол, каждый человек уникален, как падающая снежинка. К сожалению, это не так. Существуют весьма четкие шаблоны, это все уже давно просчитано, проанализировано, завернуто в математические формулы и вполне себе прекрасно работает. Вы бы очень удивились, если бы посмотрели, как мало паттернов на самом деле описывают ваши интересы и как просто выделить признаки контента, которым вы, скорее всего, заинтересуетесь. Так что задача тут предельно проста: надо знать, до кого ты хочешь что-то донести, создать нужный контент и разместить его в TikTok, до потребителя он долетит сам.
Мало того, специфика TikTok способствует созданию так называемых социальных пузырей. Когда человек видит только то, что ему хочется видеть, и общается только с единомышленниками, он начинает упускать объективную картину мира. Это все в итоге приводит к искаженному восприятию реальности, что, как показала практика, может иметь крайне негативные последствия как для человека, так и для общества.
Так что звоночек, прозвеневший из Румынии, скорее всего, последним не будет. Уж как минимум популярность в TikTok теперь вполне может стать поводом для принятия невозможных ранее политических решений. Еще лет 10 назад никто бы не поверил, что претензии к политику можно предъявить за то, что он слишком популярен. А оно все вот как повернулось…
Что ИИ себе воображает
Ну а теперь можно перейти к самым интересным тенденциям… Запад пытается ограничивать нейросети, уже вышедшие в свободное плавание...
Тут потребуется небольшое техническое объяснение. Если говорить поэтично, то изображения, полученные с помощью нейронок, — это воспоминания модели электронного мозга. А чтобы что-то помнить, это надо было когда-то видеть. И такие вот воспоминания об отдельных людях, обстоятельствах или стилях изображений можно создать отдельно и подключить к большой модели, чтобы она могла работать с ними, как со своими собственными. Энтузиасты уже несколько лет как создают свои небольшие модельки, несущие информацию о чем-то, что в них заложил автор. И естественно, люди этим всем обмениваются и выкладывают в общий доступ. Существует множество ресурсов, где можно найти уже таких «обученных» политиков, да и вообще все, что можно себе вообразить. Создатели тут только собственной фантазией ограничены и наличием материалов для обучения.
Недавно в ЕС велись серьезные разговоры о такой опасности, как производство всякого непотребного контента с помощью нейросетей.
И вот ведь какой момент: прижимать пытаются точечно, понимают, что специалисты вырастают именно из таких вот сообществ и если волевым решением энтузиастам заниматься нейронами запретить, то конкуренты вперед вырвутся очень быстро. И потом отбиваться от них придется без собственных специалистов.
Но раз запретительные действия начали предприниматься, видимо, до политиков наконец дошел весь потенциал этих, казалось бы, забав. Такое вот противоречие.
Оно ведь штука достаточно серьезная, никто не мешает взять любого политика, омолодить на сколько надо. Да и с актуальными образами много всего интересного для пропаганды сделать можно. От вымышленных репортажей с фотографиями с места событий до карикатур в прессе. Люди давно привыкли к некачественным дипфейкам, а вот качественные все еще могут воспринять очень серьезно. К слову, в выходящем в нашем издании по субботам «Нейрокомиксе» по этическим соображениям нет ни одного настоящего ребенка, это все омоложенные взрослые. Ну, просто пища для размышлений. Так что и в вопросах ограничений нейросетей европейских политиков понять можно, желание взять эти технологии под контроль вполне объяснимо, но, думается, несбыточно.
Прекрасное далёко
В принципе, уже можно вполне ответственно заявить, что в будущих информационных войнах нейросети уверенно выйдут на передовые позиции. Нарративы будут прятать глубже, и работать они будут мягче. Все в мире совершенствуется, и оружие для информационных атак тут не исключение.
Что же до прецедентов вроде отмены результатов выборов под предлогом того, что кандидату оказывалась слишком уж серьезная поддержка в социальных сетях, то мы пока услышали только первые звоночки. Такие случаи еще точно будут, и чем дальше, тем больше. Ну а что самое интересное, современные информационные технологии действительно ведь способны повлиять и на результаты выборов, и на общественное мнение в целом. Они как раз для этого и создавались.
Впрочем, есть тут и радикальные методы противостояния. В пример можно привести Иран, который после нападения Израиля не стал заниматься витиеватым противостоянием в сети, а просто отключил интернет по всей стране. И вот тут все эти новомодные технологии работать попросту перестали. Нет интернета — нет проблемы. Конечно, годится этот метод исключительно для самых сложных ситуаций, да и то ненадолго, но ничего лучше пока не придумали. Тут уместно будет вспомнить про проект «Старлинк» от Илона Маска, за красивым фасадом которого на самом деле стоит возможность обеспечения сетевой связью любых территорий без возможности контроля и отключения всемирной паутины у государств, которым эти территории принадлежат. Как раз в Украине в боевых условиях это все и обкатали. Так что возможности отключить интернет в будущем может и не быть, надо учиться противостоять информационным атакам в любых условиях.
Так что же делать, чтобы как-то себя обезопасить и не принять искусственно навязанную точку зрения?
Да просто думать собственной головой, использовать собственный интеллект, а не искусственный, как-то анализировать факты и приходить к собственным выводам, развивать свой собственный мозг.
Тогда и никакие информационные манипуляции не страшны будут, это ведь работает только с теми, кто самостоятельно подумать не в состоянии.
Разведка боем
Павел Дуров ранее обвинял Францию в попытке вмешаться в румынские президентские выборы. С его слов, к нему обращался директор внешней разведки Франции Николя Лернер с просьбой заблокировать каналы консервативных сил Румынии. И Павел Дуров готов был приехать в Румынию, чтобы дать показания. Но его, понятно, не позвали.
Кстати
Уверен, что большинство читателей с ботами, которые умеют анализировать и поддерживать диалог, уже сталкивались, просто не поняли, что общаются не с людьми. Пока еще таким системам по силам лишь несколько сообщений, но все очень быстро развивается. И это вовсе не потому, что технически невозможно долго общаться, просто работающая нейросеть требует весьма существенных вычислительных мощностей, и давать одному боту слишком много ресурсов — нерационально. Зашел, вкинул нужные нарративы по новости, ответил на пару комментариев и ушел. Экзамен долгим разговором с человеком такая штука пока не пройдет, но посмотрим, что будет через годик. Франция не просто так Павла Дурова задерживала, это не из-за прошлого, это на будущее.
Забрасывать нужный контент
Не просто так в США с 2020 года уже больше пяти раз пытались запретить TikTok, и каждый раз как-то передумывали и спускали это все на тормозах. Дело ведь не в том, что запретить не могут. Еще как могут. Это как раз тот случай, когда и хочется и колется. С одной стороны, платформа США неподконтрольна, а с другой — тут контроль и не нужен. Достаточно забрасывать в TikTok нужный контент, а уж платформа его до заинтересованных пользователей самостоятельно доставит. Правда, и конкурентам никто не мешает то же самое делать, причем из любой точки земного шара, где интернет есть. Так что или запретить, или честно конкурировать на медийном фронте. Решение, что с этой обоюдоострой штукой делать, все никак принять не могут.
