Над хаосом

– Еще вопросы, Натан?

– Хорошо, тогда еще один, последний вопрос, если позволите.

– Конечно, Натан!

– Ваша компания не так давно заявила, что планирует перенести центр разработки искусственного интеллекта на один из необитаемых островов в Тихом океане. Насколько я понимаю, это делается из соображений безопасности. Вы считаете, что настолько близки к тому, чтобы открыть что-то потенциально опасное для всего человечества?

– Трудно предсказать подобный риск, – уклончиво ответила девушка. – В любом случае осторожность в таком деле не помешает.

– В таком случае не было бы более осмотрительным вообще заморозить эту разработку?

Лицо девушки осталось совершенно бесстрастным, и улыбка ушла с него моментально, без каких-либо промежуточных эмоций. Она помолчала секунду и потом сказала:

– Нет.

Натан тоже замолчал, понимая, что собеседование завершилось. Он хлопнул себя по коленям и поднялся.

– Был рад пообщаться с доктором, хотя бы вот так, опосредованно… – сказал он.

– Мы вам перезвоним! Хорошего дня, господин Хольм! – ответила девушка, вновь лучезарно улыбаясь.

Натан Хольм,

фрагмент из колонки для Cosmopolitan:

«К сожалению, а может быть и к счастью, сверхчеловеческий ИИ сейчас от нас далек примерно так же, как и второе пришествие. Ведущие ученые по теме изучения интеллекта (Грациано, к примеру) скромно пишут о „десятилетиях“, то есть считают, что не столкнутся с этим вопросом в течение своей жизни. Дело в том, что текущие работающие образцы, которые связывают с темой ИИ (я сейчас о нейросетях), – это тупиковое направление, напрямую оно не приведет к Skynet из фильма про Терминатора. Это утилитарные, заточенные под определенные задачи инструменты, в то время как универсальный интеллект хотя бы человеческого уровня – это прежде всего средство адаптации к среде. Нейросети никто не учит адаптироваться в такой сложной и комплексной штуке, как реальность, их натаскивают на определенные задачи, это вытекает из самого принципа их обучения и селекции пригодных результатов. Но благодаря тому, что у наших любимых деятелей культуры и политиков каша в голове, в массовом сознании „слабый ИИ“ (нейросеть, которая вырезает фон с ваших фотографий и рисует милых котиков) и „сильный ИИ“ (тот самый Skynet) перемешаны, и вот люди уже в ужасе прячутся под стол из-за угроз со стороны неэтичного всемогущего разума».

3 месяца до сингулярности

«Когда мера становится целью, она перестает быть хорошей мерой».

    Закон Гутхарта

Письмо было на обычной бумаге, и там было всего несколько строчек, напечатанных на аналоговой печатной машинке. Натан с удивлением разглядывал чуть смазанные оттиски букв и понял, что он не видел письма, напечатанного на машинке вручную, наверное, лет двадцать. Отправитель явно не захотел доверять свое послание не только электронной почте, но даже вообще компьютеру.

«Натан, дружище, тут происходит какая-то чертовщина. Прилетай обязательно, все процессуальные вопросы с Рамой я улажу. Не подведи меня, одному мне с этим не справиться. Том Тагель. P. S. Ну и они тут все до смерти скучные [трезвенники]!»

Кроме записки, в конверте были билет до Джакарты в одну сторону и клочок бумаги, на котором было криво нацарапано шариковой ручкой: «Хабиб, он встретит в аэропорту с рейса…» – и десятизначный номер телефона. С Томом Тагелем, математиком и нобелевским лауреатом, Натан, можно сказать, дружил, хотя они и не общались уже года два. Правда, со смерти Эмилии многое поменялось, и Натан сам был виноват в том, что теперь вокруг него не осталось ни друзей, ни даже просто приятелей.

Натан дважды перечитал письмо и попытался вспомнить, что же произошло за последние несколько недель с того момента, как он понял, что компания ATWAY так ничего и не ответит ему по результатам того собеседования. Да вроде бы ничего необычного. Ну, разве что прогремел скандал с генеральным директором одного стартапа, но там было больше низкого криминала, чем высоких технологий…

Тут кто-то окликнул Натана, и он отвлекся от письма, заодно осознав, что так и продолжает стоять с конвертом в руках на лужайке перед своим домиком. Сосед по имени Джон и по фамилии Джонсон приветливо улыбался и махал рукой:

– Добрый день, мистер Хольм! Неожиданное письмо? Какое-нибудь новое открытие?

– Как всегда, дорогой Джон, как всегда! – ответил Натан и, рассеянно махнув ему рукой, направился к дому.

Войдя внутрь, он первым делом открыл ноутбук и начал искать, что же случилось с командой ATWAY за последние месяцы. Он быстро пробежался по официальным источникам и, не найдя ничего интересного (доктор Рамачандрян за это время дал всего пару интервью с очень обтекаемыми формулировками), углубился в «серую зону», где многочисленные сторонники конспирологических теорий строили свои песчаные замки на топких берегах слухов и домыслов. Тут было значительно интереснее, хотя все эти фантазии не имели никакого отношения к реальности. Наконец в одном из длинных и бессмысленных (потому что участники не имели даже примерного представления о сути предмета дискуссии) обсуждений ему удалось найти небольшой комментарий, который мог бы посчитаться зацепкой:

«Хей, чувак! Ты пишешь про Раму и его ATWAY, но делаешь это без должного уважения, лол! Тебе надо бы знать, что эти ребята там, на острове, делают штуку, которая похуже, чем „Лед-9“. Да-да, они нас всех угробят и не почешутся. Ты в курсе, что Рама и его ассистентка Дени любовники и что они полностью отмороженные безумцы? Они принадлежат к Калабарскому клубу – это такая тайная организация, где всякие шишки планируют геноцид девяти десятых населения шарика. Я пытался связаться с одним своим старым знакомым, назовем его, допустим, Глок, который у них уже третий год на проекте, так вот – все бесполезно. Кругом роботы-автоответчики, никакой информации наружу, одни тупые улыбки и вода. Да, чувак, море воды, прямо как вокруг того самого острова. Ну, ты понял, о чем я. Мой дружбан как будто в воду канул, не оставив никаких следов. Эти клоуны Рама и Дени – они как Бонни и Клайд, только от мира искусственного интеллекта…»

Дальше там было еще много всего в таком же духе, но Натан уже не стал дочитывать. Внезапно он понял, что ему придется лететь в Джакарту. Чего тут было больше – любопытства, смутного ощущения опасности, долга перед Томом или просто желания уехать из дома, где любая мелочь все еще напоминала ему об Эмилии, – он не понимал и не стал в этом разбираться. Вдруг идея уехать и посмотреть на команду проекта, а заодно и поболтать за бокалом виски с Томом, как в старые времена, показалась ему интересной. В худшем случае он нахамит этому глупцу-доктору и улетит обратно. А потом напишет про это разгромную колонку для Wired. И да, судя по дате на билете, у него было еще больше трех недель чтобы завершить свои дела и, может быть, даже передумать.

Натан Хольм, фрагмент из статьи

для журнала Sunday Tonight Tribune:

«На этом я мог бы завершить свой краткий обзор финалистов в этой гонке хромых собак к сильному искусственному интеллекту, если бы не еще одна компания с претенциозным названием ATWAY. Кстати, оно расшифровывается как „все эти миры ваши“ – это цитата из „Космической одиссеи“ сэра Артура Кларка. Но оставим в покое космические амбиции основателей этого стартапа, а ATWAY именно независимый стартап с крайне мутными источниками финансирования. Итак, доктор Рамачандрян – что мы знает о нем? Ученый-философ с мировым именем и весьма интересными концептуальными работами, но при чем здесь ИИ? Это ведь инструментальная область, а не философия. И потом, Карл Маркс также был интересным философом, а потом вот как все обернулось, когда дело перешло в практическую плоскость… А что касается его бессменной помощницы Даниэлы Дени, так про нее вообще ничего не известно! Так что здесь все как мы любим: непонятные люди дают деньги странного происхождения сомнительного рода фанатичным ученым, и все это может привести к концу света. Поздравляю тебя, Америка, ты это заслужила!»

6 недель до сингулярности

«Искусственный интеллект – тот случай, когда нужно быть достаточно дальновидными в вопросах регулирования, иначе может оказаться слишком поздно».

    Илон Маск, предприниматель

Натан пробыл на острове уже три недели, но пока так и не смог привыкнуть к местному климату: ему все время было то слишком жарко, то слишком холодно. Жарко ему было снаружи, в джунглях, окружающих здания комплекса, а еще там было полно насекомых. Поэтому Натан старался там не показываться. А внутри комплекса была плохо налажена система кондиционирования, и ему все время было холодно. Но насекомые сюда не забирались и обычно сидели снаружи на стеклянных панелях. Один раз он увидел на окне палочника длиной с логарифмическую линейку и очень пожалел, что у него нет обратного билета в Джакарту.

Остров, как смог заключить Натан, разглядывая его в иллюминатор военного вертолета еще на подлете, был мили две-три в поперечнике и почти полностью зарос джунглями. Лишь с одной стороны золотился серп полоски пляжа и одиноко стоял пустой лодочный пирс, а за ним возвышались несколько светлых корпусов зданий. Сверху торчали трубы и антенны, а между зданиями расположились закрытые стеклянные переходы.

Сам комплекс состоял из нескольких соединенных корпусов, так что персонал мог, в принципе, вообще не выходить наружу и не соприкасаться с дикими джунглями. В центре располагалась небольшая электростанция, питавшая энергией все остальные сооружения, а рядом находился исследовательский корпус, который резиденты комплекса называли Хьюстон. Чуть в стороне стоял жилой корпус, и, кроме этого, рядышком были всякие вспомогательные постройки.

Внутри Хьюстона было всего четыре «точки интереса», также имевшие имена собственные: Комната Марии, Декартовский театр, Солярис и бар «Кики-Буба». Комната Марии представляла собой небольшое помещение с тремя креслами для погружения в виртуальную реальность. Сами кресла могли бы сойти за зубоврачебные, если бы не сферические капсулы для головы и не обилие проводов, струившихся от этих сфер к полу и уходивших куда-то в недра здания. Выглядело это как самая настоящая гигеровская биомеханика, и Натан был очень рад, что ему не предстоит подключаться к этим машинам. Тут же находился и симулятор, с помощью которого планировалось взаимодействовать с ИИ напрямую и реализовывать проекты научной группы доктора Рамачандряна. Какие именно – Натан все еще был в неведении.

Декартовский театр был рядом, отделенный от Комнаты Марии прозрачной стеклянной панелью. Конечно, необходимости в таких мерах предосторожности не было, но строители комплекса, вероятно, об этом не знали. А может быть, ориентировались на фантастические фильмы, где рабочая зона лаборатории всегда отделена от управляющего центра толстым бронированным стеклом. Из Декартовского театра ученые наблюдали за тем, что творилось одновременно в скромной физической ипостаси Комнаты Марии и в эпических виртуальных пространствах, которые создавали компьютеры, работавшие над симуляцией. Для этого на стенах Театра были установлены огромные экраны.

Солярисом называли всю центральную часть исследовательского корпуса, своим стеклянным куполом охватывавшую и Театр, и Комнату вместе. Так что, строго говоря, Комната Марии и Декартовский театр были всего лишь зонами внутри исследовательского корпуса Солярис. Последним, но самым важным для некоторых участников проекта объектом тут был импровизированный бар под названием «Кики-Буба», о чем посетителя извещала соответствующая рукописная табличка. На ней, кстати, было упомянуто, что бар работает «от рассвета и до последнего Тома Тагеля». Бар представлял собой обыкновенную стойку с рядами разнообразных напитков и автоматом с закусками, довольно плохо сочетающуюся с общим минималистичным стилем лаборатории. Почему-то Натан сразу понял, что наличие бара было специальным требованием Томаса Тагеля, это было вполне в его стиле.

Натан прилетел на остров последним, отдельно от всех, его привезли на вертолете не говорившие по-английски китайцы в форме частной военной компании с нечитаемым названием. Никакой вводной информации он не получил и даже круг своих обязанностей представлял крайне условно.

– Как называется остров? – крикнул, пытаясь прорваться сквозь гул моторов, Натан, обращаясь к сидящему напротив с абсолютно непроницаемым лицом китайцу.

К его удивлению, тот понял вопрос и быстро ответил:

– Сейчас никак. Никого нет. Раньше был Аставьястата.

– Аставьястата? – повторил Натан. – Это санскрит?

– Не знаю. Местные называли.

– А куда они подевались?

– Не знаю. Уехали все.

Остров действительно был необитаем, а население Соляриса делилось на две неравные группы: ученых и обслуживающий персонал комплекса. Этот персонал занимался настройкой оборудования и ведением всего хозяйства, что вполне соответствовало его названию. Они все были китайцами, которые по-английски общались только на технические темы, а от любых общих вопросов просто уходили. Уходили не фигурально выражаясь, а физически – ногами. Сколько им за это заплатили, Натан даже не догадывался, но разговорить их было нереально. Они все были в медицинских масках и одинаковых комбинезонах с номерами, поэтому Натан никого из них так и не запомнил. Ели и жили они тоже отдельно от ученых. Никакой связи с «большой землей» у комплекса не было предусмотрено. В научном центре был свой интранет, а внешняя связь глушилась; кроме этого, ученым не разрешили взять с собой даже мобильники (у Натана телефон забрали суровые китайцы еще в вертолете). Натан подозревал, что связь должна быть в кабинете у доктора Рамачандряна, но пока не мог подтвердить или опровергнуть свою догадку.

На данном этапе научная команда проекта состояла из пяти человек, включая самого доктора Рамачандряна. Из них Натан знал только Тома Тагеля и был шапочно знаком с антропологом Саулом Рипке (они пару раз пересекались на конференциях и, кажется, даже один раз были на каком-то фуршете), а остальные были для него темными лошадками.

Доктору Эркюлю Рамачандряну на вид было за шестьдесят, и выглядел он точно так же, как на фотографии из статьи о докторе Рамачандряне в Википедии. Грузный мужчина в сером старомодном костюме (не в том самом, что в Википедии, но примерно такого же стиля), с внушительной седой бородой и могучей, как у льва, шевелюрой. Он говорил низким голосом с сильным французским акцентом и часто появлялся с потухшей сигарой в руках. Его ассистентка Даниэла Дени была еще более незаурядным человеком. Когда доктор говорил, она обычно сидела или стояла рядом, замерев и выпрямив спину, не моргая и ловя каждое его слово, и было сразу понятно, что она готова убить даже за то, что доктора просто перебьют. «Печальное зрелище, такая степень жертвенности уже асексуальна», – сказал как-то по этому поводу Том Тагель.