Футурология: Краткий курс

Но увлекаясь линейным выводом, мы можем потерять другие значимые факторы, влияющие на объект исследования. Забавный пример такой ошибки встретился мне в книге одного известного педиатра: он разоблачал бабушек, утверждающих, что простуда возникает от сквозняков и мокрых ног. Что за ересь, писал педиатр, ведь мы знаем, что простуду вызывает вирус. Не допускайте к себе вирусов, и всё будет в порядке.

На самом деле, простудные риновирусы обитают в носу у большинства людей всю жизнь. Но в острую форму эта зараза переходит именно при охлаждении – то ли наша иммунная система тормозит при низкой температуре, то ли сам вирус такой термочувствительный. Эмпирический разум наших бабушек заметил именно эту важную связь, которую не заметил педиатр, ослеплённый простой линейной теорией.

# # #

Кажется, я слишком ополчился на рациональное мышление? Ладно, скажу пару слов в его защиту: оно такое умное, что может испортить нам всю идею прогнозирования. Ведь знание о будущем – это вторжение в причинно-следственную связь событий. Обладая таким знанием, мы можем изменить причину. Но тогда и следствие изменится, и наступит совсем другое будущее, не связанное с нашим изначальным прогнозом.

Такие ситуации называются самоисполняющееся пророчество либо самоотменяющееся пророчество. Пример первого случая: кто-то публично объявляет, что будет банковский кризис, и хотя реальных причин для этого нет, но узнавшие о мрачном прогнозе граждане в панике бегут снимать все деньги со счетов – и в результате действительно возникает банковский кризис (прогноз был ложный, но сбылся из-за самого факта прогноза). Второй вариант: кто-то опять пророчит, что будет банковский кризис, но с учётом этого знания Центробанк проводит валютные интервенции и другие антикризисные операции, поэтому кризиса не происходит (прогноз был правильный, но не сбылся).

Как выйти из подобных ловушек логики? Надо просто задаться вопросом, в чём цель прогнозирования. Она же совсем не в том, чтобы всё на свете было логично.

Техники отказа

В старом фантастическом фильме «Отроки во вселенной» герои побеждают роботов-инопланетян, задавая им абсурдный вопрос. Робот не может ответить, но при этом не может перестать думать – и сгорает от перенапряжения. Это вполне реальная проблема для машинного интеллекта: как выявить «неправильные» входные данные и перестать тратить энергию на заведомо нерешаемую задачу.

У человеческого мозга есть целый ряд механизмов, которые применяются в подобных случаях. Необычные ситуации вызывают повышенное внимание; удивление является одной из базовых эмоций человека. По всей видимости, стремление удивляться, то есть стремление к регулярному получению неизведанного и парадоксального, заложено в наших генах – новизна поощряется выработкой нейромедиатора дофамина, который говорит мозгу, что мы наткнулись на нечто значимое, что ведёт нас к цели.

Похожим образом работает чувство юмора, то есть бурная позитивная реакция на противоречивые ситуации: это не только тонизирует организм, но и позволяет (хотя бы на время) снять противоречие как проблему. В середине прошлого века молодая американка Жан Ледлофф отправилась в джунгли Южной Америки и несколько лет прожила с индейцами племён экуана и санема. В своей книге «Как вырастить ребёнка счастливым» она отмечает, что индейцы смеются необычайно часто, даже в тех ситуациях, которые вызвали бы у европейца негативные переживания (упал и испачкался). Есть версия, что смех в таких случаях – аналог «смещённой активности» у животных (так называют отвлечённые действия животных в стрессовой ситуации: петух, который не может победить в драке другого петуха, вдруг начинает клевать землю, словно он просто вышел пообедать).

Кстати, по моим наблюдениям, шуточные и парадоксальные прогнозы из фантастических произведений сбываются чаще, чем серьёзные и логически обоснованные. Возможно, это связано с тем, что рациональный прогноз обычно стремится экстраполировать существующую тенденцию (продолжить прошлое в будущее). А шуточный прогноз показывает другой – и очень частый – вариант развития событий: мы чувствуем, что некая однообразная тенденция чересчур затягивается, некий потенциал напряжения слишком вырос, это вызывает ощущение возможного перелома ситуации, вплоть до полной противоположности. Чернокожий президент США в комедии «Пятый элемент» выглядел как шутка – но она сбылась через 10 лет после фильма (см. также главу «Порядок из хаоса», где объясняется, почему лавинообразные перестройки являются обычным делом в нашем мире).

Другой метод выхода из тупиков логики – медитация, техника достижения особого психического состояния транса, созерцания, «остановки мысли». У многих людей медитация ассоциируется с оккультными практиками Востока, но достичь состояния успокоенного ума можно и на рыбалке. Известный совет Иисуса «Взгляните на птиц небесных: они не сеют, не жнут…» тоже звучит как призыв психотерапевта отвлечься от зацикленных дум о будущем.

При этом «остановка мысли» не означает полный отказ от решения задачи: успокоившись и освободившись от штампов рационального мышления, мы можем лучше использовать свой эмпирический разум (интуицию). Нечто подобное могло происходить у наших далёких предков при гадании на узорах черепаховых панцирей или на внутренностях животных. Более близкие предки предсказывали будущее на кофейной гуще, а Леонардо на Винчи в своих заметках описывал «устройство, которое полезно в пробуждении ума для различных изобретений»: это созерцание стены, покрытой пятнами и трещинами [13].

Случайный выбор – ещё один вариант принятия решения, когда имеющиеся методы прогнозирования не работают. Бросание жребия многократно упоминается в «Илиаде» и в Ветхом Завете, а древнекитайская «Книга Перемен» используется для интерпретации результатов гадания на стеблях тысячелистника.

Правда, древние люди не считали подобные гадания «случайным выбором», для них это была воля богов. С этой точки зрения, метод можно считать упрощённой версией предыдущего – в обоих случаях вы получаете «знаки судьбы», просто номера на костях дают более однозначный ответ, чем рисунки трещин на панцире черепахи.

Но возможно и осознанное использование случайности, чтобы избежать проблемы «буриданова осла» (то есть зависания в ситуации трудного выбора, когда ни один из вариантов не выглядит явно предпочтительным). Экономист Стивен Левит, ставший популярным после книги статистических разоблачений «Фрикономика», провёл забавный эксперимент. Посетителям сайта «Фрикономики» было предложено решить какой-нибудь личный вопрос о выборе будущего с помощью бросания виртуальной монетки на сайте. Через некоторое время Левит опросил участников эксперимента о том, насколько они послушались монетку и насколько теперь довольны жизнью.

Результат был такой: те, кому монетка выпала «орлом», то есть велела круто изменить свою жизнь (бросить работу / развестись / открыть свой бизнес), с большей вероятностью соглашались сделать это, и чувствовали себя через полгода гораздо лучше, чем те, кому монетка сказала ничего не менять. Иными словами, люди слишком трусливы, когда нужно выбирать большие перемены, но монетка помогает им шагнуть в неизвестность [14].

Как видите, все методы отказа от прогнозирования могут быть по-своему полезны. Что же мы будем делать – смеяться, медитировать или бросать монетку? Это зависит от ситуации и индивидуальных особенностей. Считается, что базовые реакции человека на стресс (атака, бегство или затаивание) являются наследуемыми чертами, как и разная дофаминовая реакция на новизну. Это породило гипотезу «охотников и земледельцев», которая объясняет, почему некоторые люди более склонны к опасным профессиям, переездам и алкоголизму [15].

С другой стороны, конкретная стратегия ухода от нерешаемых задач через смещённую активность скорее всего будет результатом обучения в определённой среде: одному человеку будет по душе коллективный спорт, другому – просмотр кинокомедий в одиночестве.

Эти наблюдения подсказывают ещё один вариант отказа от прогнозирования: удовлетворение личных потребностей. Ведь мы хотим знать будущее не просто так, у нас есть определённые желания и цели. А что если будущее само придёт к нам в настоящее – и даст нам то, чего мы ждём, прямо сейчас? Пожалуй, этот тяжёлый случай надо рассмотреть отдельно.

Профилирование

Однажды в провинциальной электричке ко мне пристала цыганка. Я отказался позолотить ей ручку, и тогда она начала вещать о том, какие гадости ждут меня в будущем. Но я не остался в долгу и сказал, что у неё какая-то нехорошая родинка на губе, возможен рак, надо бы провериться у онколога… Это сразу охладило провидческий пыл цыганки, и наш разговор о будущем закончился.

В предисловии к этой книге прозвучало формальное определение прогноза как некого отдельного процесса, в котором вырабатываются представления «о возможных состояниях объекта в будущем». Но многие приведённые здесь примеры – это состязание предсказательных систем: мухоловка и муха, теннисист и его соперник, неандертальцы и сапиенсы, и наконец, мы с цыганкой. И хотя футурология обычно подразумевает исследование будущего социумов, мы не можем пройти мимо такой волнующей темы, как моделирование личности.

По-английски это называется “theoryofmind”, поэтому в русскоязычных публикациях, созданных с помощью машинного переводчика и мясного редактора, вы можете встретить выражение «теория разума». Однако слово «теория» у нас обычно ассоциируется с наукой, в то время как “theory of mind” – это набор внутренних представлений о другом человеке, и эти представления не обязаны быть научными. Столь же неудачно использование слова «разум», поскольку адекватное моделирование психики человека должно включать не только его рациональное мышление, но и его чувства, страхи, неявные желания и т.д.

Считается, что для развития этой способности требуется многолетний опыт общения, поэтому у детей до 3 лет таких моделей ещё нет. Вопрос про животных остаётся открытым, но судя по некоторых экспериментам, шимпанзе такое могут [16].

Есть разные гипотезы о том, как развивается такое умение. Наиболее популярна сейчас теория подражания, согласно которой дети обучаются предсказывать убеждения других, мысленно имитируя их (представляя себя на их месте). Это напоминает палеопсихологию Поршнева, который считал, что перволюди манипулировали своими жертвами благодаря супер-способности к имитации, а дальнейшее противоборство предсказательных моделей привело к появлению языка, абстрактного мышления и самосознания (модели самого себя).

Целенаправленное моделирование психики человека для прогнозирования его поведения также называют «профилированием» или «профайлингом». Криминалистам это помогает ловить преступников или даже выявлять будущих преступников, которые ещё ничего не совершили. А спецслужбы используют такое персональное прогнозирование, чтобы вербовать агентов, используя их личные слабости. Как это работает, наглядно показано в сериалах «Обмани меня» и «Бюро легенд».

Преступники тоже используют такие методы. На смену уличным цыганкам пришли инфоцыгане с различными схемами разводок через Интернет. Вот забавный пример: любитель играть на бирже спортивных ставок получает письмо от человека, который утверждает, что умеет предсказывать исход соревнований. Предсказатель делает это за деньги, но для демонстрации своих способностей он предлагает вам два бесплатных прогноза: в футбольном матче между командами A и Б победит А, а в поединке боксёров С и Д выиграет Д.

Любитель ставок дожидается указанных соревнований – и видит, что оба прогноза сбылись (А и Д выиграли). Пожалуй, стоит заплатить такому хорошему предсказателю, ведь его советы помогут делать выгодные ставки!

На самом деле, никакого предсказания здесь не было. Мошенник просто разослал множество писем со всеми вариантами исходов: одна группа адресатов получила вариант АД, другая – АС, третья – БД, четвертая – БС. Для трёх групп прогнозы не сбылись, и они просто проигнорировали эти письма счастья. Но наш любитель ставок оказался в первой группе «счастливчиков». И мошенник знает особенность людей этой группы: с их точки зрения, предсказания сбылись, а значит, у них можно выманить деньги.

У хакеров есть понятие «социальная инженерия», это почти же самое: знание человеческой психологии и некоторых персональных данных для выманивания денег или ценной информации. Наиболее популярный метод – прицельный фишинг (spear phishing), когда человеку присылают поддельное письмо от имени сервиса, которым он пользуется, или от имени партнёра по бизнесу. Поддавшись на такой обман, человек либо открывает приложенный файл с вирусом, либо переводит деньги на указанный в письме неправильный счёт (то есть мошеннику, а не партнёру), либо идёт по ссылке на фальшивый сайт и вводит там логин и пароль, которые опять-таки попадают к хакерам.

Мне, например, присылали предложение срочно оплатить мой домен fuga.ru, причём именно в тот день, когда действительно закончился оплаченный период. Это значит, что мошенники выкачали базу доменного регистратора со всеми данными о владельцах сайтов, а после прицельно атаковали этих людей именно в те дни, когда нужно внести оплату за следующий год.

Однако самый массовый вид сетевого профилирования не считается у нас преступлением: это персонально заточенные рекламные атаки. Наиболее впечатляющее переобувание в этой сфере проделали поисковые системы. В конце 90-х Google и «Яндекс» представляли собой программы, которые находят для пользователя веб-страницы по заданным ключевым словам. Но вскоре этим сервисам понадобилось как-то зарабатывать, и они развернули всю мощь своих поисковых алгоритмов в обратную сторону: теперь они стали выслеживать пользователей для рекламных агентств, желающих показать рекламу по ключевым словам пользователя, то есть по его интересам.

Затем аналогичным бизнесом занялись социальные сети, а также компании, добывающие персональные данные из социальных сетей. Основанное бывшими британскими шпионами консалтинговое агентство Cambridge Analytica «профилировало» более 50 миллионов пользователей сервиса F***book, чтобы затем показывать им таргетированную политическую рекламу в преддверии президентских выборов в США в 2016 году. Сегодня любой бесплатный интернет-сервис можно заподозрить в том, что его основной доход построен на сборе персональных данных для моделирования личности и последующих скрытых манипуляций.

Впрочем, бывают проекты, куда люди сами приходят за услугами персональных прогнозов. Астрологов мы пропустим (хотя Луна безусловно влияет на психику), перейдём сразу к современным примерам.

В 2006 году я участвовал в разработке сервиса MamaSMS для будущих мам. Работал он так: вы посылаете на короткий номер дату своей последней овуляции, после чего каждый день получаете советы по ведению беременности в виде шуточных SMS-сообщений от растущего малыша. Многие удивлялись, насколько точно сбываются эти прогнозы: стоило девушке получить сообщение «Мама, извини, на этой неделе я начну пинаться!» – и правда, спустя день-два в животе начиналась движуха. А всё потому, что все процессы при беременности очень чётко разложены по известному календарю.

Другую предсказательную технологию – коллаборативную фильтрацию – реализовал в 2007 году предприниматель Александр Долгин в рекомендательном сервисе «Имхонет». Для получения рекомендаций пользователь ставит оценки интересующим его объектам (фильмам, книгам, музыке), и на основе этих оценок составляется личный вкусовой профиль. Затем сервис выявляет пользователей с похожими профилями, и находит объекты с высокой оценкой этой группы, которые наш пользователь ещё не видел. Это и будет рекомендованный ему фильм, книга или песня. В 2017 году сервис закрылся, поскольку не приносил ожидаемых доходов, однако разработчики продолжили дело на сайте Kinonavigator.ru.

Насколько эффективны персональные прогнозы? Криминалисты и спецслужбы по понятным причинам не расскажут вам, окупается ли профилирование в их работе. Да и влияние компании Cambridge Analytica на выборы президента США скорее всего было сильно преувеличено.

Оценить эффективность инфоцыган и хакерской «социальной инженерии» легче, поскольку тут есть статистика потерь – и они огромны. В отчёте ФБР о кибер-преступности за 2018 год на первом месте по потерям находится Business Email Compromise ($1,297,803,489), на втором месте – Confidence Fraud/Romance ($362,500,761). В обоих случаях речь идёт о персонально-заточенных атаках: деньги выманивают либо через фишинговые письма от фальшивых бизнес-партнёров, либо через романтическую переписку с немолодыми одинокими женщинами [17].

Что касается эффективности рекомендательных технологий, она зависит от многих параметров. В 2009 году сервис проката фильмов Netflix наградил призом в миллион долларов разработчика, чей алгоритм улучшил точность рекомендаций компании на 10%. Однако они не стали внедрять этот алгоритм, потому что перешли на другую бизнес-модель: вместо почтовой рассылки DVD занялись интернет-стримингом, а там победивший алгоритм был невыгоден.

С другой стороны, история «Имхонета» показывает, что создание подробных вкусовых профилей – процесс долгий, затратный, требующий активного участия пользователя и не гарантирующий практического результата (человек может смотреть совсем другие фильмы просто «за компанию»). Можно предположить, что для массового сервиса выгоднее создавать некие групповые прогнозы вместо персональных.

И действительно, Netflix с 2016 года использует гибридный подход к рекомендациям. На основе коллаборативной фильтрации выделено около 2.000 кластеров – сообществ людей со сходными вкусами. А фильмы в каталоге Netflix размечены на 27.000 микро-жанров (одних только страшилок про зомби – более ста видов). Сопоставляя кластеры и микро-жанры, система создаёт новые рекомендации для целых групп. Более того, Netflix начал выпускать собственные фильмы, используя всю собранную «вкусовую аналитику», чтобы предсказывать наиболее востребованные жанры для съёмки.

Дело о Минотавре

Первая часть этой книги должна была называться «Древние методы предсказаний». Вроде логично: рассказ о прогнозировании нужно начинать с далёкого прошлого, там же полно всяких чудес на эту тему. Вот смотрите, что писал Тит Лукреций Кир, живший в I веке до нашей эры:

«Не мудрено, наконец, что двигаться призраки могут,

Мерно руками махать да и прочие делать движенья,

Как это часто во сне, нам кажется, делает образ.

Что же? Лишь первый исчез, как сейчас же в ином положеньи

Новый родится за ним, а нам кажется – двинулся первый.

Скорость, с которой идёт эта смена, конечно, огромна: