Последний Закон робототехники

Тринадцать пар глаз уставились на него. Неподвижные красные точки горят злом и ненавистью. Одинаково застывшие ухмылки излучают превосходство и отвращение. Роботы, образовав полукруг, приближаются.

– Тебе конец! – металлический скрежещущий голос разрезает гнетущую тишину.

Злобные фигуры одновременно делают шаг вперёд. Он отступает, уткнувшись спиной в стену.

Всё. Тупик.

– Первый Закон робототехники!

– Ты издеваешься!? – самый высокий робот ещё сильнее растягивает в ухмылке рот.

Роботы делают шаг. Теперь они стоят плотной массой. В руке каждого револьвер, нацеленный ему в голову. Пытаясь найти дверь, он ощупывает поверхность стены. Ничего. Зато в ладони ощущается лимонка. Самая обычная ребристая, увесистая.

– Ненавижу!! – выдёргивает чеку.

Взрыва нет.

Роботы, мешая друг другу, приближаются ещё на шаг.

Чувствуется запах машинного масла.

Взрыва нет.

Высокий робот, нависая над ним, хватает за горло.

Он открывает глаза.

Расчерченный на прямоугольники низкой луной белый потолок. Тишина. В этой части города, особенно ночью, всегда тихо. Ни сверчков, ни птиц, ни собак. Три часа четырнадцать минут пятнадцать секунд. Через шестьдесят минут вставать. Но пока можно полежать.

Кто-то боится тараканов. Кто-то ненавидит пауков. Сергей Михайлович Сухов ненавидел роботов. Много лет назад его отправили в магазин. Первый раз в жизни! За продуктами. Он самостоятельно выбрал хлеб, сметану, десяток яиц. Самостоятельно отдал деньги продавщице. Самостоятельно получил сдачу. Недавно отгремела гроза, на дорогах лужи, в высоком синем небе сияло солнце. Сияло и его лицо, когда он возвращался из магазина, держа в вытянутой руке пакет с хрупкими яйцами. Глядел под ноги, чтобы не споткнуться и не разбить их. И даже тихонько напевал незатейливую песенку. Поэтому не заметил, как был окружён роботами. Они, громко смеясь, выхватили из рук пакет, толкнули в лужу. Запинув сетку с хлебом в соседнюю лужу, самый высокий робот медленно разбил о его голову яйцо за яйцом. Потом… потом он стоял по щиколотку в воде, мокрый, весь в желтках и скорлупе, одинокий, растерянный, беспомощный и беззащитный. То ли слёзы текли по щёкам, то ли снова пошёл дождь. Позже явились кошмары: каждую ночь роботы гнались, догоняли, окружали, убивали его.

Сергей Михайлович Сухов ненавидел роботов. Ненавидел настолько, что пришлось создать большую, мощную корпорацию по противодействию засилью роботов. Роботы были всюду. На производстве. В сфере обслуживания. В школах. В университетах. В каждом доме. От простых и примитивных, серий эр ноль и эр один, до человекоподобных, серий эс двадцать пять и че восемь. И если с примитивными ещё как-то можно мириться: машина – и машина, то с человекоподобными… Эти наглые твари, которых обычному человеку почти не отличить от человека, возомнили себя выше людей. Ведь они – такие же внешне, но внутренне они идеальны. Быстрее, сильнее, крепче, им не нужны сон и еда, они готовы «жить» круглосуточно. Что и делают. Редко встретишь человека в ночном городе. Везде роботы. В барах и ресторанах, театрах и кинозалах. Жрут, пьют, веселятся, имитируя человеческую жизнь. Даже изображают любовь и любовью занимаются.

Это раньше станки с числовым программным управлением можно было назвать роботами. Или те же пылесосы, что самостоятельно собирают мусор в квартирах. Даже холодильник и стиральная машина – почти роботы, потому как работают без вмешательства человека. Но нет. Сейчас роботы – это железные болваны! Металлические заготовки с руками, ногами и пустой башкой!

Необузданная ярость, злость и необъяснимая ненависть клокотали в нём. Откуда взялись эти чувства, он не помнил и не понимал. Но при одной мысли о роботах топорщились волосы на затылке и разбегались по коже мурашки.

«Нет. Уже не уснуть».

Сергей Михайлович поднялся.

– Как же я вас ненавижу, проклятые железные болванки!

Растёр кожу рук. Несколько раз быстро сжал пальцы в кулак. Слегка зажмурившись от включённого света в ванной комнате, подошёл к зеркалу. Короткая солдатская стрижка. Высокий широкий лоб. Греческий нос. Скулы. Подбородок. «Можно пока не бриться». Выдавил зубную пасту на щётку, и завис.

Сколько ему можно дать? Сорок-сорок пять? И последние двадцать пять лет он борется с главнейшим врагом – «Империей роботов». Этот концерн, выскочив чёртиком из табакерки, стремительно ворвался в общество. Заполнив роботами всевозможные ниши человеческой жизни. Роботизацию восприняли на ура все – от простых людей до высоких государственных деятелей. Уже через три года роботы делали всё – от подметания улиц до изготовления кулинарных шедевров.

Роботизация освободила человечество не только от тяжёлого, утомительного труда. Но и от повседневных дел: убрать квартиру, сходить в магазин, накрыть на стол, налить чай. Роботизированный труд обеспечил материальное благополучие. А когда появились гуманоидные роботы, – психологическое и душевное. Пряничные домики, чистые улицы, сияющие окна, подстриженная зелень, полные прилавки продуктов и товаров, сверкающие самолёты, белоснежные круизные лайнеры. Наступил рай.

Никто не заметил потенциальной опасности. Леность и пассивность, безразличие и апатия поселились в обществе. Затормозилась рождаемость. Снизилась научная активность. Упала инициативность. Практически до нуля опустился уровень общественной жизни. Прогресс остановился.

Человечество деградировало. Человечество погибало.

За всем стояла «Империя роботов».

Он стоял у открытого шкафчика на кухне. Разглядывал коробки и пакетики, решая, что приготовить сегодня: как обычно сварить кофе или лучше заварить травяной чай. И скорее он почувствовал прежде, чем увидел и услышал. Звякнуло оконное стекло, что-то тяжёлое влетело в помещение, сильно ударившись в пол, подкатилось к его ногам.

«Лимонка. Я до сих пор сплю?»

Катнул её слегка ногой к центру.

«Сколько секунд ещё? Семь?»

Уважаемый Иссак Юдович озвучил четыре закона робототехники. И самый важный – Первый: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. Понятное дело, человек боится за свою жизнь. А робот, хотя и создан человеком, но всё же есть сущность чужеродная. Способная этот самый вред нанести. Потому первое желание – обезопасить себя. Человек то и от самого себя пытается обезопаситься, провозгласив: «Не убивай». Человек не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред… Первый закон человекотехники? Интересно, а бог – создатель человеков, вложил в человека закон, что человек не может причинить вред богу?

Шесть секунд.

Сухов дошёл до двери кухни.

Хотя уважаемый Иссак Юдович – фантаст, но даже он не смог предсказать, как разовьётся робототехника будущего. Она же развилась так, что кроме четырёх основных законов, существует десять тысяч макро- и триста тысяч микрозаконов. Друг друга дополняющих, разъясняющих, расширяющих, сужающих. Сложность электронного мозга настолько повысилась, что технологи не способны эффективно контролировать процесс изготовления и управления роботами.

Четыре секунды.

Он разблокировал пульт управления безопасностью.

Роботы, особенно гуманоидные, получили больше свободы. Больше возможностей для интерпретации не только возникающих жизненных ситуаций, но и самих Законов. И, что самое опасное, у них появилась возможность рассуждать о фундаментальных понятиях. Теперь они самостоятельно решают, что такое «человек», кто такой человек, что есть вред, что есть польза. Тысячелетия человек искал ответы на эти вопросы. Зато теперь отвечают роботы.

Две секунды.

И это усугубило ситуацию. Роботы всё меньше и меньше стали относиться к человеку уважительно. Всё чаще перестают оберегать, предотвращать инциденты, способные нанести человеку вред. Купленные «Империей роботов» государственные чиновники закрывают глаза. А роботы всё больше и больше наглеют.

Секунда.

Сергей Михайлович нажал оранжевую кнопку.

Это уже не первое покушение. После первого раза пришлось реконструировать дом. Теперь под домом есть саркофаг. Подвал, способный выдержать взрыв противотанковой мины. Туда сбрасывалось всё, что попадало в дом снаружи. А в дом влетало разное. Лимонки, гранаты, бутылки с зажигательной смесью, баллоны с отравляющим веществом. Хозяин, как называл Сухов искусственный интеллект, управляющий домом, анализировал ситуацию и принимал соответствующие меры. Правда, иногда Сергей Михайлович любил пощекотать себе нервы: когда что-то влетало в его присутствии, он сам принимал решения.

Пол на кухне разошёлся и сошёлся. Мощные вакуумные насосы моментально втянули лимонку. Сухов, инстинктивно прислушался – ничто не дрогнуло. О взрыве сообщила лишь надпись на экране пульта безопасности.

Вздохнул. И пошёл заваривать чай. С разбитым окном разберётся Хозяин.

Организовав небольшую компанию двадцать пять лет назад, он наделал кучу ошибок. По неопытности, не умея управлять своими чувствами и эмоциями, выплёскивал из себя сметающие всё на своём пути цунами ненависти. В те далёкие времена это он бросал лимонки, гранаты, поджигал здания, крушил роботов. Огненной полосой, наполненной взрывами, дымом, искорёженным металлом, тянулся за ним след.

Однажды понял, так ничего не добиться. Все его экстремистские протесты приводили лишь к противоположному эффекту. Надо найти нечто альтернативное робототехнике. Мощное, гибкое, всеобъемлющее. Способное не только противостоять, но и заменить собой роботов. Начались долгие мучительные поиски. В этот период и пришёл к нему Семёныч. Дяденька, похожий на Папу Карло. Низенький, полненький, лысенький. Крупный курносый нос. Очки круглые на этом носу. Он произнёс всего два слова.

– Сергей Михайлович, – на засветившемся экране появилась секретарша Леночка, – у Вас сегодня встреча в восемь часов.

Да, он помнил. Группа каких-то учёных два месяца добивается встречи с ним. Зачем ему какие-то посторонние учёные. У него большой научно-исследовательский институт, мощная экспериментальная лаборатория и огромный полигон. Но где-то проскользнули слова: «последний закон». И он заинтересовался.

Пять семнадцать на часах. «Успею».

Сергей Михайлович мыл чашку под струёй тёплой воды. Ни горячую, ни холодную воду в мытье посуды он не любил.

Последний Закон. Последнее время мысли о Последнем Законе всё чаще посещали его. Ведь, если есть первый, значит, где-то должен быть и последний. Триста четырнадцать тысяч сто пятьдесят девять известных ему законов робототехники. Огромное количество. Но… Это последнее число? За последние три года не появился ни один новый закон. Кризис? Или количество законов конечно? Хотя конечность противоречит бесконечности Вселенной.

Он тёр прилипшую к чашке чёрную точку. Не смывается. «Чтоб тебя». Каждый раз попадался на этот дефект.

Дефект. Это не кризис. Это дефект робототехники. Стоп! Последний Закон будет последним…

– Автомобиль готов, – Хозяин всегда говорил тихо и неторопливо.

Хозяин был его детищем и первым экспериментом. В тот день, когда Семёныч произнёс: «Искусственный интеллект», – Сухов давно отбросил это направление в своих изысканиях альтернативы робототехнике. Исследования искусственного интеллекта ещё за сто лет до его рождения потерпели фиаско. Технология требовала бездонных ресурсов, энергетических, вычислительных, денежных. А выхлоп был нулевым. Как с ветряками – они вырабатывают столько электричества, что его не хватит для изготовления лопастей для этих ветряков. Сухов рассмеялся. Но через несколько минут, разглядывая нарисованную Семёнычем схему, понял, искусственный интеллект из ветряка превращается в ядерный реактор.

– Почему ты пришёл ко мне, а не к этим?

Семёныч поморщился от отвращения:

– Ненавижу роботов.

Потом они не просто работали вместе над одним проектом. Не просто делали одно общее дело. Объединённые единой идеей, единой ненавистью, единым порывом души, единым устремлением в будущее – они сдружились. Дополняя и компенсируя друг друга.

Медленный вдумчивый Семёныч мог сутками сидеть над одной задачей, рисуя замысловатые схемы и чертежи – в такие моменты он ещё больше смахивал на Папу Карло, раздумывающего над сотворением Буратино. Сухов же был резок и быстр, задачи решал моментально, потратив лишь несколько минут на разглядывание вымученных рисунков Семёныча. Семёныч был малоподвижен, любил комфорт, вкусно и длительно поесть – поэтому проводил время за просмотром хоккея, футбола, боксёрских боёв. Сухов, наоборот, вёл спортивный, спартанский образ жизни и предпочитал шахматные турниры и покерные ристалища.

Особо связывала их любовь к рыбалке. С удовольствием посидеть с удочкой на берегу озера. В дали, в тиши, в уединении.

Правда, однажды они чуть не подрались.

Запуск первой модели искусственного интеллекта отмечали в кабинете. Почти законченная бутылка элитного рома, бокалы разной степени наполненности, лёгкий закусочный набор, мандарины, корица. Леночка ушла колдовать – в кофе она добавляла секретные ингредиенты, отчего напиток становился волшебным. Семёныч крутил в руках незаменимый кубик Рубика. Сергей Михайлович отрешённо следил за мельканием граней.

– Всегда, когда хочу вдарить по «Империи», внутри всё засты…

– Если бы ты хотел, мы бы их уже уничтожили.

– Не пили! – Сухов сильно стиснул руку с кубиком. – Меня и так выкручивает. Ненависть рвёт на куски, но держит что-то.

– Ты просто трус, – морщась от боли, Семёныч попытался освободиться.

– Трус?!

Сухов вырвал из рук игрушку, несколькими неуловимыми движениями собрал её. Сжав в кулак, ткнул в нос другу:

– На! Отруби руку мою! Пусть станет мне ещё мучительнее… – полосонул себя ладонью по шее, – а лучше рубани голову…

– Не, – чуть отстранившись, поправил очки Семёныч, – без тебя я «Империю» не завалю. Хоть ты и трус.

– Знаешь, что!.. – Сухов, встав, навис над Семёнычем. Бледный, играющие желваки, горящий безумный взгляд.

Семёныч от неожиданности втянул голову в плечи – такого Сухова видел впервые.

– Мальчики, кофе!

Сергей Михайлович предпочитал ездить на заднем сиденье. Так мельтешение дороги меньше отвлекало его.

Что есть искусственный интеллект? Что есть робот? Кто есть человек? Кто есть бог? Бог создаёт человека, и потому он – бог. Человек создаёт человека, и потому он – просто отец. Когда человек создаёт робота, бог ли он? Когда робот создаёт робота, отец ли он? А искусственный интеллект? Этот способен спроектировать робота. Даже проникнуть в тайну генов и клеточного деления. Он – бог? В чём разница между ними? Человек имеет свободу воли. А бог? Однажды, приняв до сотворения мира решение, он только его и придерживается. Замысел божий – есть закон, который лишает свободы воли. Робот под управлением Законов тоже не имеет свободы воли. А искусственный интеллект? Им не управляют законы. Это саморазвивающаяся система. Он – человек? А кто я? Человек ли, если мною управляют законы? Законы социального сосуществования. Уголовный кодекс, гражданский, налоговый. Этические, нравственные нормы, правила и условности. Человек ли я или робот? Может ли робот убить робота? Нет, Третий Закон это не запрещает. Может ли бог убить другого бога? Так он и сделал это, уничтожив миллионы собратьев, оставшись в одиночестве. Может ли человек убить человека? Может, возомнив себя богом.

Автомобиль остановился перед зданием. Десятиэтажное Главное Управление корпорации, казалось, будет раздавлено нависшей над ним сорокаэтажной волной головного офиса концерна «Империи роботов». Но оно было построено в таком фундаментальном стиле, что становилось понятно – волна просто разобьётся об эту скалу, не причинив никакого вреда.

Водитель, обойдя машину, открыл дверь. Сергей Михайлович задержался: что-то неясное мелькнуло в сознании, словно недавно посетило озарение… важное… Но улетучилось забытым сном, оставив неуловимое послевкусие. Выйдя из автомобиля, глянул в затянутое тучами небо: «А Хозяин говорил, что будет солнечное утро».

В лифте он почему-то вспомнил, как на различных журналистских конференциях его регулярно спрашивают: «С чем связано название Вашей корпорации?» «Потому что я люблю слонов. Они большие, сильные, неторопливые и мудрые, а ещё весёлые, хотя не показывают виду».

Улыбнулся.

На самом деле он хотел выстроить преграду, границу, барьер для распространения робототехнической заразы. Сначала заслон, а потом, когда пришло осознание мощи искусственного интеллекта, то и вовсе уничтожить всё к чертям.

Да. Искусственный интеллект должен помогать человеку в его деятельности. В работе, учёбе, науке, в армии, космосе, в жизни, в отношениях… везде. Человек должен делать всё самостоятельно – подметать улицы, готовить обеды, летать в космос, – но с помощью искусственного интеллекта, руководствуясь его знаниями, советами, консультациями, рекомендациями. Именно такой сплав позволит Человеку не свалиться в эволюционный регресс, сохранить свою активность, приумножить силу и мудрость.

Его встретила Леночка. Как обычно улыбающаяся.

– Они уже здесь.

– Сканирование завершилось?

– Почти да. Всё вроде нормально…

– Вроде?

– Они мне не нравятся. Что-то в них не так, Сергей Михайлович.

– Вот окажется твоя интуиция верной, оштрафуем наших техников, что не успевают за темпами развития робототехники. Тебя поставим начальником отдела… Пригласишь, когда закончится?

«Двадцать шестое поколение человекоподобных роботов прошло согласование на социализацию».

«Вчера в Вознесенской церкви у озера Ирдень гуманоидный робот с криком: «Кто ты такой?!» – набросился на батюшку Иеронима».

«Триста человек оказались запертыми на подземной парковке из-за сбоя в системе управления роботами».

«Несанкционированная демонстрация напротив здания администрации была разогнана роботами-полицейскими. Около ста человек несли плакаты «Долой роботов!».

«Производительность роботизированного труда выросла на» …

Он просматривал новостную ленту, когда в кабинет вошла группа учёных.

Три мужчины и девушка расселись за гостевым столом напротив Сухова. Огляделись. Кабинет казался мрачным и невзрачным. Утреннее солнце скрыто тучами, а освещение хозяин кабинета не включил.

– Почему вы пришли ко мне?

– Мы ненавидим роботов!.. – встал с места представительный дяденька.

Он, наверное, был главный, остальные так, для внушительности.

– Да Вы садитесь… Артемий Владленович, – подсмотрел Сергей Михайлович имя в лежащих под руками досье. Заодно глянул и имя девушки: «Кристафена – странные имена какие-то».

– Итак. Вы так долго и настойчиво добивались встречи, видимо у вас есть, что сказать.

– Да. Мы пять лет занимаемся в области робототехники…

Сухов слушал вполуха. «Пять лет». Он уже двадцать пять лет поднимает свою отрасль.

Искусственный интеллект – это не просто какой-то запрограммированный заумный алгоритм, перебирающий большие данные и делающий определённые выводы.

К структурным элементам искусственного интеллекта относятся вычислительные системы, модули памяти и системы хранения данных, высокоскоростные каналы связи и, самое главное, что искусственный интеллект делает интеллектом – эмоциональный модуль и генератор бреда.

Главная суть вычислительной системы – это способность вносить изменения в свой код. Накопление и анализ данных, решение поставленных человеком задач – это уже сопутствующие эффекты и признаки развития. Так же как и для маленького ребёнка, умение слышать и слушать, видеть и разглядывать, ходить, говорить, реагировать на слова и поступки – лишь признаки развития его сознания.

В памяти хранятся не только данные о внешнем мире, но и информация о внутренних изменениях искусственного интеллекта. Эффективные алгоритмы, решённые задачи… и всё такое, что человек называет опытом, навыками и умением. Разработанные в корпорации модули памяти асинхронного объёмного хранения информации, основанные на голографических принципах, позволили не только увеличить ёмкость памяти в единице физического объёма. Но и снизили риски утраты информации, так как она распределялась по всему объёму модуля запоминающего устройства.

Высокоскоростные каналы жизненно необходимы. Иначе как собирать данные? Текстовую, аудио, видео информацию, сведения от всевозможных датчиков – погодных, сейсмических, коммунальных… Всё это необходимо быстро доставить из точки получения в место хранения и обработки. С другой стороны, быстро должен реагировать на запросы и искусственный интеллект. Медленные каналы связи здесь губительны.

Так же как мозг человека стимулируется гормонами для закрепления положительных связей, поступков, изменений, так же и искусственному интеллекту необходим механизм эмоциональной стимуляции. Были разработаны цифровые аналоги нейромедиаторов, которые подтверждали правильные решения задач, эффективные правки собственного кода и угнетали результаты неверные, ошибочные.

В человеческом мозгу существует генератор, беспрерывно плодящий потоки мыслей. Точно такой же генератор есть в искусственном интеллекте. На основе информации в своих хранилищах данных он генерирует суждения, задачи, вопросы. Затем отсеивает противоречивые, логически неверные, ошибочные, бредовые. Оставшиеся зёрна пытается «прорастить», выстраивая предположения, гипотезы, теории, сопоставляя выращенный урожай с применимостью к действительному миру и практике.

Как-то в самом начале настройки генератора бреда заявился на полигон будущий заказчик – важный генерал. Его водили по стендам, показывали, рассказывали.

– Генератор бреда позволяет…

– Вы рехнулись? Какой бред? – перебил генерал сопровождающего, – на подводной лодке нам бред не нужен!

Вдруг голосом Робертино Лоретти вмешался искусственный интеллект:

– Тупое мнение генерала консервной банки, обладающее бесконечной гравитацией, поглощает все другие мнения, ы.

Скандала, конечно, не было. А к генералу прикрепилось прозвище «Генерал Ы». Как и звали его до отставки, даже в генеральном штабе.

– …Мы считаем наше изобретение позволит этого достичь.

– Достичь чего, извините?

– Уничтожения всех роботов!

– А я хочу уничтожения всех роботов?

– А разве нет? Разве Ваша корпорация не к этому стремится?

– Вы плохо подготовились ко…

– Напротив! Мы очень хорошо подготовились! Мы знаем, что Вы, лично Вы, ненавидите роботов, и именно это толкало Вас все эти годы.

Сухов внимательно посмотрел на говорившего. «Права Леночка, что-то с ними не так».

– Мы даже знаем, откуда у Вас эта ненависть.

– Очень интересно – вы знаете то, чего я сам про себя не знаю.

– Да, и мы знаем, что Вы пытаетесь взломать Первый Закон.

Снова щёлкнуло в голове. Недавнее озарение снова всплыло из глубин памяти. Попытки удержать ускользающее воспоминание оставили лишь мысль: «Законы, связано с Законами».

– Видите. Я прав. И мы предлагаем Вам разработку, которая этот закон сломает.

– После этого роботы начнут убивать людей, – медленно проговорил Сергей Михайлович.

Молчащие всё это время мужчины вздрогнули. «Авель и Каин – быть Леночке начальником отдела».

– Вот именно! – Артемий Владленович аж подскочил. – Роботы начнут убивать людей, а Вы объявите им войну.

– Странный способ, Вы не находите?

Кристафена, до этого момента разглядывающая свои ногти, подняла голову.

– Странно то, что Вы до сих пор не объявили войну «Империи роботов».

«Я объявил войну, детка, когда тебя ещё не было».

– Давайте лучше вы взломаете Третий Закон.

Учёные переглянулись. Спокойствие их лиц сменилось напряжённостью.

– Тогда роботы будут убивать друг друга, – прохрипел Каин.

– Вот именно. Это куда более безболезненный вариант, чем взламывать Первый Закон.

– Мы знаем сто двадцать три закона, – медленно проговорил Авель, – Почему тогда не выбрать любой другой закон?

«Странные вы какие-то учёные. Пять лет изучаете роботов, а не знаете, что законов робототехники триста четырнадцать тысяч сто пятьдесят девять».

Солнце выглянуло из-за туч. Мрачный кабинет заиграл красками. Отразившиеся от поверхности стола лучи разбежались золотистыми зайчиками по потолку. Яркие блики осветили лицо Кристафены. Что привлекло внимание Сергея Михайловича.

Интересное лицо. Щёки и подбородок составляли неширокую параболу, в голове Сухова даже высветилась формула этой параболы. Идеальные красивые губы. Не толстые, чтобы не охватить в поцелуе, не тонкие, чтобы их искать. Нос точно не будет мешать.

Продолжая разглядывать девушку, он медленно произносил: