Сердце робота

– Не обращай внимания, Борменталь, он ещё молод и стремится доказать свою исключительность. Иногда он бывает слишком навязчивым. Пожалуй, нужно будет подсказать программистам железнодорожного управления, чтобы они немного подкрутили ему настройки.

Секретарь выпрямился и уставил взгляд немигающих глаз в окно. Было непонятно, испытывает ли он какие-то эмоции или… «Впрочем, у роботов нет эмоций, – напомнил сам себе Павел Сергеевич. – Кому, как не тебе, это знать, Паша?»

– Так что там насчёт перелёта? – напомнила Тася.

– Ах, да, перелёт… – очнулся от размышлений профессор. – Так вот… Видишь ли, малыш, этот перелёт показал, насколько мала наша планета.

– Ты уже говорил…

– Не перебивай… За один день три героя сделали то, чего многие годы не могли добиться дипломаты: лётчики объединили русский и американский народы. Об этом очень хорошо сказал Чкалов на торжественном приёме. Савва, помогай.

Секретарь слегка повернул голову в сторону профессора, и из его рта раздался хрип радиопомех, а потом чей-то далёкий голос произнёс: «Есть реки – Волга и Колумбия, которые протекают на разных континентах, имеют неодинаковый нрав, их берега окружают разные горы и леса, но они мирно текут по одной и той же планете, не мешая друг другу, а в конечном счете являются частями одного Мирового океана. Так и наши народы – Советского союза и США – должны жить мирно на нашем маленьком Земном шаре и совместной работой украшать океан жизни человечества».

Запись закончилась. Тася ждала, что дальше скажет папа, но он молчал. Профессор улыбался каким-то своим мыслям.

– Красиво, правда? «Океан жизни человечества…» – наконец произнёс он.

– Красиво, – согласилась девочка.

– А через два года началась Вторая Мировая война. Понимаешь, у меня в голове не укладывается: люди говорят о том, чтобы совместными усилиями украшать океан жизни, а через два года начинается страшная война.

– Но мы же победили! – воскликнула Тася.

– Кто это «мы»? Кого ты имеешь в виду? – грустно вздохнул папа.

– Ясно кто – человечество победило фашистов.

– А фашисты – что, не человечество?

Тася не нашлась, что ответить.

– Конечно, они тоже часть человечества, – Павел Сергеевич сам ответил на свой вопрос. – И, конечно, мы не должны пытаться стереть из истории этот неприятный факт, мол не было такого, не помним – он должен служить нам напоминанием и предостережением. Тем более что и сегодня находятся проходимцы, которые пытаются силой решить проблему, которую легко можно уладить мирными переговорами, – профессор печально покачал головой.

– И что тогда? Ну, я имею в виду, что мы делаем с теми, кто хочет воевать?

– С такими у нас никаких «будьте любезны». Мы даём им решительный отпор. Все вместе, каждый человек в Солнечной системе, – профессор изменился: взгляд его стал серьёзным, жесты – резкими, осанка выпрямилась. – Животные порывы к насилию нужно пресекать на корню. Подожди… Да что я тебе рассказываю? Вы же должны были в школе проходить историю Земного Содружества!

Тася смутилась.

– Это да, – призналась она. – Но наш учитель рассказывает скучно, а у тебя получается так… в общем, мне больше нравится тебя слушать.

– Вот ты лиса! – улыбнулся Павел Сергеевич.

– Папа, а кто решает, когда нужно дать «решительный отпор», а когда можно мирно поговорить?

Улыбка пропала с папиного лица.

– Ты в каком классе, Таисия?

– В шестой перешла.

– И до сих пор не знаешь, как устроено наше общество?

– Знаю, – смутилась девочка.

– Ну тогда ты сама должна знать ответ на свой вопрос. Давай, расскажи-ка мне, как всё работает.

Тася немного сердилась на себя за то, что по собственной глупости выкопала себе ловушку. Но делать нечего, лучше ответить на вопрос, а то папа не отстанет.

– Содружество состоит из свободных государств под общим управлением единого правительства, – принялась рассказывать девочка. – При принятии решений правительство советуется с искусственным интеллектом Акили[5 - «Акили» на суахили означает «Разум»]. Правительство не обязано следовать его советам, но Акили имеет право отменить любое решение правительства, если оно может навредить человечеству. Например, он отменил запуск ядерных ракет во время двухдневной войны с Марсом…

– А почему он это сделал? – прервал Тасин доклад папа.

– Потому что… – снова задумалась девочка.

– Ну? – подбодрил Павел Сергеевич.

– Акили опросил всех людей, и они сказали, что не хотят войны, – неуверенно предположила Тася.

– Что ж, опрос был действительно проведён, но решающее значение имел не его результат, а заложенные в архитектуру интеллекта Акили общечеловеческие моральные принципы. В отличие от людей, Акили не подстраивает мораль под сиюминутные потребности и желания. Например, для него обман – это всегда обман, независимо от цели, ради которой ты лжёшь, – тряхнул головой Павел Сергеевич. – Так вот, в случае с запуском ядерных ракет было однозначно понятно, что это действие может привести к гибели огромного количества людей, а это неприемлемо ни под каким предлогом. Поэтому Акили отменил запуск, и никто не мог изменить его решения. Потому что Акили действует, думая о благе всех людей, а не какой-то отдельной группы или тем более кого-то одного. Понимаешь? А кроме всего прочего, у него есть установка, известная как закон номер ноль. Ты его знаешь?

– Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесен вред, – отчеканила девочка.

– Правильно. А это возвращает нас к моему первому вопросу.

– Какому? – не поняла Тася.

– Как продвигается твоё эссе? Решила ты, как повлияют законы Азимова на человеческое общество, если применить их к людям?

– Ну это просто! – пожала плечами Тася. – Я вообще не понимаю, почему их до сих пор не применяют. Например, если переделать первый закон под людей вот так: «Человек не может причинить вред другому человеку или своим бездействием допустить, чтобы другому человеку был причинён вред», – то больше никогда не будет войн.

Павел Сергеевич одобрительно покачал головой.

– Прекрасная мысль! А как ты собираешься заставить людей подчиняться этому закону? Всех роботов, напомню тебе, азимизируют – законы робототехники становятся неотъемлемой частью их личности. А как же быть с людьми?

Тася задумалась.

– Не знаю… – наконец пожала она плечами. – Может, гипноз?

– То есть ты предлагаешь загипнотизировать всё человечество?

– Ну да.

– А чем же мы тогда будем отличаться от роботов?

– Но я, в отличие от роботов, живая! – возмутилась Тася.

– Да уж, иногда даже слишком, – папа улыбнулся, обнял Тасю и тихонько подул ей в ухо.