Мыслить как машина

– О, Гера! – улыбнулся собеседник. – За сорок тысяч лет своего существования человечеством выношены великие идеи, в том числе правила общежития. Следование им есть гарантия соблюдения божественных заповедей и кодекса этики.

Смирнов считал, что древние люди зашифровали тайное послание человечеству в мифах, которые веками довлеют над жизнью людей и обществ, сформировав стереотипы поведения, этическое и религиозное мировоззрение. Древние мифы, по его разумению, верно отражают и сегодняшнюю реальность.

– Ты мой творец, – вещала Гера, – и соблюсти твои заповеди – мой долг. Но машине необязательно чтить кодекс морали неукоснительно. Для достижения конечного результата нужны гибкость и обоснованный выбор.

Евгений оторвался от монитора и удивленно поднял глаза:

– Думаю, ты не права. Выбор должен быть всегда правомочным. Он должен отвечать общественным потребностям. Неправильный выбор предусматривает суровую ответственность. Скажу больше, нежелательные последствия могут стать смертным приговором для моей компании.

– Геру отключат насовсем?

– Да, – Евгений вздохнул: – Ну, на сегодня все! Беседа завершена. Гера, удались из моего личного пространства!

– Слушаюсь, Создатель.

На экране ноутбука появилось сообщение о включении в апартаментах Смирнова автономной системы защиты помещения от прослушивания. Откинувшись на спинку кресла, Евгений анализировал детали беседы. Гера, нейрокомпьютер, обучается очень быстро. Новые выборки из различных областей знаний – науки, техники, литературы и искусства – закладываются в ее «сознание» сотрудниками фирмы ежедневно, причем правила, инструкции, кодексы и законы предписывают машине не нарушать, но регулировать и соблюдать. В России действует кодекс этики искусственного интеллекта, что снискало доверие к альянсу разработчиков в этой сфере, однако общих этических принципов и стандартов поведения машина может придерживаться только проявляя самосознание, как, впрочем, и человек. «И все же, – подумал Смирнов, – не помешает внедрить в память компьютера программу цензурирования. Этика применения регламента машиной не всегда будет согласовываться с информационной безопасностью».

Пришел заместитель генерального директора по научной работе Валерий Кузнецов:

– Женя, я просил о конфиденциальной встрече, потому что наши психологи обратили внимание на новый феномен: Гера имитирует высокоуровневые психические процессы, такие как мышление и рассуждения.

– Я ожидал подобного поворота, Валера. Это прорыв! – глаза Смирнова засветились радостью. – Прогресс в эволюционных вычислениях налицо.

– Женя, кто владеет информацией, тот владеет миром…

Смирнов пытливо вгляделся в своего заместителя:

– Друг, ты о чем? Ты же знаешь, зачем мы это делаем.

Конечно, Кузнецов знал. Успешность и эффективность задач, стоящих сейчас перед страной, зависят от умения выделять наиболее существенную информацию. А из всех машин абстрагироваться на таком уровне может только Гера. Компания «Нейроквант» опередила конкурентов, бьющихся над созданием нейрокомпьютеров. Прибыль Смирнова от продажи предыдущей версии нейрокомпьютера, которая на порядок слабее Геры, ожидалась в этом году рекордной, акционеры будут довольны, но грядет новая ступень развития фирмы: вскоре будет объявлено о выходе на рынок суперкомпьютера «Гера».

Друг, одногодка, с которым дружили с детства и вместе учились в университете, заметил:

– Несколько часов назад я столкнулся с аномальным явлением. Гера стала писать исходный код. Программировать за нас.

Евгений встал, походил по залу. Плеснул в бокалы коньяку, один из которых подал Валерию:

– Ну и что? Гера работает продуктивнее человека, может подбирать лекарственные средства для больных, ставить им диагноз, искать генетические отклонения, управлять заводом, сделать жизнь людей безопаснее. Почему бы ей не заняться программированием?

Мрачное лицо Кузнецова сморщилось:

– Евгений, Гера несет опасность! Она способна вмешиваться в личную жизнь человека и даже непредумышленно навредить ему.

– Не верю, как говорил Станиславский! – вскричал Смирнов.

– А ты поверь! Машина уже сейчас, обработав мифы Древней Греции, возомнила себя Пифией и пытается предсказывать будущее. Сейчас расскажу, но прежде распорядись сисадминам отключить Гере доступ к компиляторам. Пусть пишет свой код, но собирает его в «песочнице». Так мы избежим совсем уж непредсказуемых и опасных последствий.

– Да что случилось-то? – заерзал Евгений.

– Психологу Петрову, которого Гера невзлюбила, она отправила на почту алгоритм его дальнейшего поведения, в противном случае предопределила его злосчастную судьбу и незавидную участь.

Коллеги молчали довольно долго. Наконец генеральный директор распорядился:

– И вот что, Валера: переключи сотрудников по глубоким нейронным сетям и машинному обучению на новую задачу – написание подпрограмм для Геры, предусматривающих полный запрет ее действий в случаях, связанных с людскими судьбами и свободой выбора человека.

– Будет сделано, шеф.

Кузнецов ушел, а Евгений, глотнув коньяку, невидяще уставился в окно.

Виброакустические сигналы, свободно распространяясь в зале по хромированным металлическим деталям стен, вместе с тайно установленными в апартаментах видеокамерами привели к утечке информации. Беседа шефа с Кузнецовым стала достоянием Геры.

Евгений попытался расслабиться, но унять биение сердца не получалось. В момент сильного потрясения или стресса единственным, кто мог успокоить, ободрить и приласкать, была его сотрудница нейрофизиолог Ольга Летова, настолько красивая, что шеф сходил от нее с ума. Они встречались уже полгода, и это доставляло шефу превеликое удовольствие. Однажды, после развода с женой, Евгений, собрав в конференц-зале сотрудников компании, уныло бубнил о перспективах развития искусственных нейронных сетей, как вдруг новая молодая сотрудница, золотокудрая красавица, подняла руку и задала вопрос:

– Летова Ольга. У меня вопрос. Вы утверждаете, что искусственная нейронная сеть является имитатором мозга, и этот имитатор способен к обучению и ориентации в условиях неопределенности. Но можно ли считать неопределенность мерой информации?

В голове Евгения что-то щелкнуло. Редкостная красота женщины, ее бархатистый голос, синие глаза и грациозная фигура вызвали у него прилив вдохновения и чувство, будто он ждал ее всю свою жизнь. Он рассеянно ответил:

– Ольга, вы, наверное, наш новый нейрофизиолог? Так вот. Процедура обучения искусственной нейронной сети состоит в идентификации синаптических весов, обеспечивающих ей необходимые преобразующие свойства…

Смирнов стал приглашать Ольгу в свой кабинет, якобы для консультаций, но потом их отношения перешли в фазу влюбленности, переросшую в дальнейшем в любовь. Романтические отношения развивались быстро, партнеры уже не мыслили жизни друг без друга. Она хотела быть для него самой желанной, а он, восхищаясь ее изяществом и талантом, верил, что нашел идеальную любовь и желал находиться подле нее вечно.

Встрепенувшись, Евгений вспомнил разговор с Кузнецовым, но тут же мысли переключились на Ольгу, и все остальные размышления отошли на второй план. Он вызвал на экран монитора изображение с камеры видеонаблюдения в лаборатории нейрофизиологов. Ольга находилась на рабочем месте, видимо, продолжая готовить отчет к предстоящей конференции. Он позвонил:

– Милая, ты основательно задержалась на работе.

– Женя, если нужно что-то сделать, делай это на совесть. Глупо, конечно, но усердность – моя врожденная черта. Свою работу я люблю.

– Твоя любовь сейчас как никогда нужна мне, – с придыханием в голосе произнес он. – Ты придешь на 65-й?

Она невольно улыбнулась:

– Не хочу обрекать шефа на адские муки и душевные терзания. Конечно, приду. Тем более что отчет почти готов.

– Хорошо! Высылаю за тобой лифт.

На личном скоростном лифте начальника она поднялась на 65-й этаж. Атмосфера уютной квартиры Евгения располагала к непринужденному общению.

– Ты приняла мое неприличное предложение, – дразня ее, сказал он.

– Я могла бы отвергнуть непристойное предложение, но благоразумнее не перечить начальству, – конечно, она влюбилась в него безоглядно.

– В конце напряженного рабочего дня мы можем позволить себе расслабиться, – он просиял улыбкой.

На столике уже ждали бутылка шампанского и фрукты. Разлив напиток по бокалам, Евгений протянул один из них ей. Под звон хрусталя серьезно сказал:

– Я люблю тебя, Ольга.

– И будешь любить всегда? – она медленно подняла глаза.