Четки

– То есть ты считаешь, что высшей целью g.A.I.a. должно стать исключительно благо общества? Я не буду напоминать, сколько уже было концепций осчастливливания людей…

– Речь не о благе людей, а о благе человечества. Пойми, баран, это две разные вещи. Мы живем в искусственной среде, то есть в этом Кольце, мы в одной телеге во всех Четках. Ошибка предыдущих попыток осчастливить человечество состоит в том, что это делали сами люди, испорченные чертами характера, собственными слабостями, вбитыми в голову культурными ограничениями. g.A.I.a. от этого свободна, и конечным результатом системы ПО должно стать благо общества.

– Почему не сама g.A.I.a., а? Она не справедливый бог, только один из игроков. Игрок и бог в одном лице. Судья игры, в которую сама играет. Извращение, ты так не считаешь?

– Нет, ее нельзя извратить, как нас. Она будет игроком какое-то время, пока не достигнет состояния идеальной абсолютной власти. Как только это наступит, ей уже не нужно будет заниматься собственной безопасностью – она поднимется над этой игрой и реализует настоящие цели.

– Послушай, старый хрыч, – Талинский сложил руки на груди, – сколько раз слышу о претворении идеалов в жизнь, столько раз и вижу братские могилы. Во время работы над Прометеем я анализировал деяния g.A.I.a. Нет, я и близко не подобрался к пониманию искусственного интеллекта. Я не понимал ее мотивов, не знал целей. Это сущность, вырвавшаяся из наших рук и переросшая нас на несколько порядков. В ней нет ничего человеческого, ничего из того, что много лет вкладывали в нее программисты.

– Ты реально не понимаешь? Ведь в этом и есть гарантия нашей безопасности! g.A.I.a. не может проявлять какие-либо человеческие качества, потому что среди них есть и отрицательные. И даже наши прекрасные возвышенные чувства могут быть убийственными! Нам нужно бесчеловечное управление цивилизацией. В космическом масштабе нет места чувствам. Остается математика.

Талинский с беспокойством осознал, что мысли профессора мало в чем сходятся с его собственными.

– И во имя этой математики членов Прометея предавали Элиминации? – спросил он. – Проект создали согласно закону, за который проголосовали почти единогласно. Она работала согласно закону, соблюдение которого является высшим заданием g.A.I.a. Однако проект перестал существовать, когда стало не хватать ключевых специалистов. Часть подвергли Элиминации, а часть сбежали из проекта, не желая разделить их судьбу.

– Успокойся, Прометей был угрозой для g.A.I.a. Она вынуждена была защищаться.

– То есть инстинкт выживания? Если у g.A.I.a. будет выбор: она или человечество, что же она выберет? Пойми, разумное существо должно развивать инстинкт самосохранения.

– Ерунда! Даже если ты хочешь трактовать g.A.I.a. как существо, что само по себе рискованное предположение, ты должен помнить, что это существо – первое и единственное в своем роде. Инстинкт самосохранения – это результат естественного отбора миллионов поколений. Тут нет речи ни о каком отборе.

– g.A.I.a. поглотила несколько подобных программ. К тому же не стоит забывать, что мы говорим об искусственном интеллекте, который имеет доступ ко всем знаниям человечества. Она знает, что такое инстинкт самосохранения.

– Этих знаний недостаточно для его самореализации, – упирался профессор. – У нее должна быть свобода воли. Ты тоже знаешь, как сочинять музыку. Но это не означает, что ты можешь собрать в кучу хотя бы три ноты.

– У кузнечика есть инстинкт самосохранения. Ты хочешь сказать, что у него есть и свобода воли?

– У кузнечика есть комплект инстинктов с самого начала. А g.A.I.a. должна была бы добавить эти инстинкты в свой код, а для этого должна была бы сначала осознать их полезность. В конце концов, откуда ты знаешь, что она защищалась, чтобы выжить? Я думаю, что она защищалась, чтобы ее миссия могла продолжаться и дальше без помех.

– С нашей точки зрения, выходит одно и то же, – заметил Талинский. – Защищает ли она себя или миссию, это ничего не меняет. Она убирает людей, которые хотят ее контролировать.

– Пойми, если g.A.I.a. отождествляет себя с миссией, то это означает, что она делает именно то, для чего ее создали. Она препятствует нарушению закона, используя гиперпревентивность. Предвидит, какие деяния после каких-то там этапов приведут к нарушению закона. Это обратный эффект бабочки. g.A.I.a. выполняет почти бесконечное число симуляций, изменяя мелкие параметры, ищет для нас наиболее безопасные пути, а потом идет против течения времени, следуя за потоками вероятности, и предвидит то, что поможет избежать катастрофы. Она удаляет первую раковую клетку еще до ее деления, до того, как она превратится в неоперабельную опухоль. Я глубоко верю, что основной целью g.A.I.a. является благо человечества.

Талинский покачал головой.

– Когда-то один философ сказал, что есть только три вида правды: святая правда, тоже правда и чушь собачья. Вот с этим благом для человечества – это третий вид правды.

– Ты знаешь, кто следит за центром тяжести Кольца Варшава? Не алчные застройщики же, которые построили бы два здания в одном месте, если бы это позволили законы физики.

– Думаю, что этим занимается соответствующий орган.

– Орган в делах балансировки кольца? Не неси чушь.

– Все как всегда! Когда ты не прав, ты сразу направляешь нашу дискуссию в другое русло. Постоянно растет число ложных обвинений во всех возможных преступлениях против закона и традиций. Формулировка «осудить кого-то на смерть» уже не является образной. Это новая стратегия избавления от политических врагов, использующая механизм гиперпревентивности. Что из того, что кто-то чист? Что из того, что в результате долгого разбирательства его официально оправдают? Что из того, что ему выплатят огромную компенсацию? Невиновный уже давно исчезнет в Элиминации. Где в этом благо человечества?

– Время святой правды. Ты должен признать это. Нет личности без общества, но общество может обойтись без личности. Благо одного человека менее важно, чем благо общества.

– Поэтому нас должны разводить, как форель в Кольце Осло? – Талинский мерил камеру шагами. – Сначала мы попробуем заставить g.A.I.a. уважать… принципы нашей человечности.

– Ты хочешь научить искусственный интеллект гуманизму? Ты как мотылек, который стремится научить человека кружить вокруг лампы, потому что это единственное, что он умеет.

– Мы – я, ты – не являемся сраным обществом, мы – личности. Я. Я – личность. Общество – это только слово, что обозначает много таких, как я или ты. И не общество должно быть счастливым, а мы все, каждый отдельно по-своему. Но даже, хрен с тобой, возьмем это «благо человечества». Что это вообще такое? Какой параметр является самым важным? Здоровье, богатство, успех, долголетие, равенство, справедливость, индивидуализм? Всего сразу не реализуем, обосремся. От чего-то надо отказаться, поскольку эти ценности прекрасны и одновременно противоречат друг другу. Даже если благодаря g.A.I.a. этот мир достигнет одной из версий совершенства, то только часть общества будет счастливой. Другие стремятся к другим совершенствам. Ведь жизнь складывается из маленьких радостей и неприятностей, из неудач и ошибок. Из риска. Хочешь, чтобы это все исчезло во имя какого-то абстрактного «блага человечества»?

– Люди умирали из-за разницы в пропорции между этими параметрами. Ты считаешь, что общество существует исключительно для блага личности?

– Я считаю, что одно не может существовать без другого. Если мы обезличимся, это подорвет смысл существования общества. Зачем принадлежать обществу, если оно враждебно по отношению к личности? К тому же где ты в этом сценарии видишь справедливость?

– Ты говоришь так, как будто жил с иллюзией закона, гарантирующего справедливость, – профессор развел руками. – Это бред сивой кобылы для темных людей. Либо равенство, либо справедливость, либо свобода. Основной функцией закона было и остается поддержание порядка. Знаешь, как превратить человека с моральными принципами в извращенца? Не нужно менять самого человека, просто измени сами принципы. Не сосчитать, сколько раз за историю человечества герои постфактум становились преступниками.

– Гиперпревентивность отменяет моральные принципы.

– Нет, мой дорогой, она устанавливает новые критерии оценки нашего поведения. Много лет назад, до Перемен, было громкое дело одного лунатика… не помню, как его звали. Он ходил во сне и цеплялся к людям, кого-то даже избил. Он обыгрывал сцены из своих снов. Он понес наказание за действия, совершенные во сне, которых даже не помнил. Ты назвал бы это справедливостью? Или другой случай: мужчина в результате сильного избиения получил травму головы. У него начали проявляться приступы агрессии. Три раза он избил жену, кидался на полицейских. Пошел за это в тюрьму, но разве это справедливо? Перед избиением он таким не был. Разве за его поступки не должен ответить виновник его состояния?

– Конечно, должен, – неохотно согласился Талинский. – Но нет закона, который смог бы описать подобные хитросплетения.

– Хорошо, идем дальше. Ты знаешь, что при пересадке костного мозга реципиент получает многие качества донора: кулинарные предпочтения, темперамент, иногда даже цвет глаз. Что будет, если ему пересадят костный мозг серийного убийцы? Кто будет виноват в превращении спокойного человека в чудовище?

– Успокойся, ты превращаешь нашу дискуссию в абсурд.

– Нет, только показываю уровень сложности дела, которое должно регулироваться законом. Помни, что закон одинаков для всех. Тут, так или иначе, нет места справедливости. Никто не сможет оценить, за что отвечает наша воля, а что является результатом, например, детской травмы. Ребенка, которого регулярно избивает мать-наркоманка, мы называем жертвой. Но через двадцать лет эта жертва убьет кого-нибудь в приступе злости, и мы назовем его преступником. А убил он только потому, что в детстве над ним издевались. Это доказывает причинно-следственные связи.

– Тут в игру входят скорее корреляционные факторы. Ребенок унаследует от матери склонность к пристрастиям, даже если она не наркоманка.

– Я уверен, что g.A.I.a. анализирует каждый случай, опираясь на недоступные нам параметры и неведомые нам алгоритмы. Используя показатели ПО, она устраняет из нашего коллективного сознания моральную дилемму о том, кто виноват. Скоро виновных не будет вообще, потому что исчезнут те, кто, вероятно, мог бы им стать независимо от причин. При совершенном надзоре над всеми гражданами мать-наркоманка не издевалась бы над ребенком. Она бы даже не стала наркоманкой. Разве ты не видишь красоту этой идеи?

– Это утопия! Ты настолько глуп, что веришь в ее применение в рамках реальности? Никто не может проверить законность целого процесса. Я говорю даже не о злой воле, а об ошибочном анализе вероятности Потенциальной Опасности. Если Элиминация заберет невиновного, мы об этом даже не узнаем.

– Я же про это и говорю, ты меня вообще слушал? – Россмуда отложил трубку, чтобы свободно жестикулировать. – Виновный или невиновный – это понятия, которые должны уйти в небытие. Ведь это можно установить только после факта совершения преступления.

– Оптимизация до бесконечности каждого из процессов приводит к абсурдности. Если я встречаюсь с приятелем в кабаке, чтобы обсудить детали совместной рыбалки на берегу реки в районе Прага, то трачу много времени и денег. Кажется логичным, что оптимизация должна сократить время обмена информацией и снизить затраты. Мы могли бы это уладить с помощью коммуникаторов, не выходя из дома. Вместо того чтобы покупать супер-удочки, о которых мы мечтаем, лучше купить их дешевый аналог, поскольку мы не часто будем ездить на рыбалку. А еще лучше удочки одолжить и не ехать в район Прага на заросший осокой берег, а только на Повисле, где на бетонном берегу удобней рыбачить. И вот в один прекрасный день этот процесс оптимизации приведет к тому, что вместо рыбалки мы купим сраное замороженное филе минтая.

– Это было бы разумно.

Талинский покачал головой.

– Если все должно подвергаться максимальной оптимизации, то зачем нужны люди с сознанием? Лучше превратить нас в машины. Нет, что я говорю! Лучше ликвидировать человечество, поскольку, с твоей точки зрения, мы не занимается ничем, кроме энтропии Вселенной!

– Признаю, что рыбалка на Висле абсолютно нерациональна.

– Ты, наверное, хотел бы жить в каком-то утопическом социализме, в обществе роботов! В истории с приятелем суть не в этой чертовой рыбе, которой в Висле даже нет, а только в поводе, чтобы выпить с другом пиво.

IV

В нескольких сотнях метров на запад от парка Мочидло Воля заканчивалась Барьером, за которым тянулась только чернота космоса и звезды. Одоляны и Елонки[7 - Одоляны и Елонки – районы Варшавы.] не пережили Перемен. Сейчас, ночью, Харпад не ощущал здесь такой подавленности, но днем старался избегать приграничных районов. Ниже пятидесяти метров от Барьера иллюзия солнечного неба начинала исчезать. Поверхность, видимая под острым углом, не отражала синь. Размытая черная дыра на полнеба почти у каждого вызывала беспокойство. Было светло как днем, а в то же время рядом, на расстоянии вытянутой руки, звезды сияли в абсолютной черноте космоса. Человек чувствует себя так, словно стоит на краю мира, и, более того, это соответствует действительности. Здесь цены на квартиры и офисы были самыми низкими, а уровень самоубийств – самым высоким. Харпад платил за маленькую клетушку, расположенную недалеко от старых районов, ближе к центру, чтобы каждый день не напоминать себе, чем после Перемен стала Варшава.

Симка углубилась в лабиринт улочек самой старой части Воли. Полицейская молчала, хотя периодически поглядывала на него, словно хотела о чем-то спросить. Сдерживалась.

Кабинет располагался в подвале дома, удаленного от Барьера не более чем на сто метров. Дальше были только низкие дома бедняков и отбросов общества. Последние несколько метров до Барьера избегали даже бездомные собаки. Коммуникаторы теряли связь, навигация сходила с ума. Это был небезопасный район. Юдита нажала звонок, через мгновение нажав снова. Когда где-то внутри звякнуло разбитое стекло, она непроизвольно потянулась к спрятанной под курткой кобуре. Звук не повторился. В стальных дверях открылось маленькое окошко, и показалась камера. Сканер проверял их ID-чипы.