Искусственный интеллект и кризис капитализма

Китайская интернет-компания Jinri Toutiao («Сегодняшние заголовки») преподносит пользователям оптимизированные под их интересы новости, при этом даже меняет название заголовков, чтобы увеличить число кликов. «Редакторами» Toutiao являются алгоритмы. Во время летних Олимпийских игр 2016 г. в Рио-де-Жанейро эта компания совместно с Пекинским университетом создала «журналиста», который писал короткие заметки об итогах спортивных соревнований за несколько минут после их завершения. Скорость была невероятной: «репортёр» выпускал краткие резюме в течение двух секунд и «охватывал» более 30 спортивных событий в день.

ИИ-приложение Smart Finance («Быстрые финансы») выдаёт миллионы небольших кредитов, полагаясь исключительно на свои алгоритмы. Алгоритмы рассматривают не просто очевидные показатели, например, сколько денег в вашем мобильном кошельке WeChat, но и опираются на данные, которые, казалось бы, никак не связаны с вашей кредитоспособностью. К примеру, учитывают скорость, с которой вы ввели дату рождения, остаток заряда вашего телефона и тысячи других параметров. Постоянно увеличивающиеся объёмы данных позволяют компании совершенствовать свои алгоритмы, расширять клиентуру и предоставлять кредиты людям из социальных групп, обычно игнорируемых традиционным банковским сектором: молодёжи и рабочим-мигрантам. В конце 2017 г. Smart Finance выдавала более 2 миллионов займов в месяц, причём процент невозврата крайне низок, намного ниже, чем в традиционных банках.

Стартап RXThinking, основанный китайским предпринимателем, многие годы проработавшим в Кремниевой долине, обучает медицинские алгоритмы искусственного интеллекта, чтобы в итоге превратить их в супердиагностов и отправить во все уголки Китая. Разработанное RXThinking приложение на основе ИИ призвано оказывать помощь врачам в постановке диагноза. При получении достаточной информации о пациенте, алгоритм выдаёт список возможных диагнозов и процент вероятности для каждого. Право окончательного решения остаётся за врачом, но при этом надо иметь в виду, что приложение, прежде чем поставить диагноз, просматривает более 400 миллионов историй болезней и постоянно сканирует самые свежие медицинские издания. В итоге оно сделает медицинское обслуживание мирового класса доступным всем слоям общества.

Компания iFlyTek активно внедряет ИИ в судопроизводство: она разработала инструменты и реализует пилотную программу в Шанхае, где данные по прошлым делам используются для консультирования судей. В одном из районов Китая ИИ даже используется для аттестации и ранжирования всех прокуроров по эффективности их работы.

Приложения второй волны, отмечает автор, оказывают непосредственное влияние на реальный мир, но сами алгоритмы всё ещё действуют на основе цифровой информации, получаемой опосредованно, через людей. Третья волна изменит это. ИИ обретёт собственные глаза и уши.

ИИ восприятия начинают стирать границы, разделяющие онлайн- и офлайн- (т.е. цифровой и реальный) миры. По мере того, как ИИ восприятия начинает лучше распознавать наши лица, понимать нашу речь и видеть мир вокруг нас, он создаёт миллионы новых точек соприкосновения между онлайн- и офлайн-мирами. Эти узлы со временем окружат нас настолько, что словосочетание «войти в интернет» исчезнет из нашей речи. Автор приводит пример – когда ваш холодильник сообщает вашей корзине для покупок, что у вас закончилось молоко, то вы находитесь в физическом мире или цифровом?

Кай-Фу Ли называет такие смешанные среды ООМ – онлайн-офлайн мирами. Наступление эпохи ООМ будет означать полную интеграцию этих обоих миров.

Причём такие приложения уже начинают появляться. Один ресторан KFC в Китае объединился с Alipay и ввёл в нескольких своих филиалах оплату через сканирование лица посетителя. Посетитель набирает на цифровом терминале свой заказ, система сканирует его лицо и находит соответствующую запись в Alipay (цифровой кошелёк): никаких наличных денег, карт или мобильных телефонов не требуется. Это приложение «Плати лицом».

Сделано в Шэньчжэне.

Кремниевая долина пока остаётся чемпионом мира по инновациям в программном обеспечении. А вот китайский город Шэньчжэнь уже завоевал титул чемпиона мира в сфере производства оборудования. Этот современный мегаполис с десятимиллионным населением возник всего 30 лет назад на месте рыбацкой деревушки, и за последние пять лет превратился в самую динамичную экосистему для производства интеллектуального оборудования.

Создание инновационного приложения не требует практически никаких физических инструментов: всё, что нужно – это компьютер и умный программист. Но создание аппаратуры для ИИ восприятия – например, умеющих видеть тележек для покупок и умеющих слышать стереосистем – требует мощной и гибкой производственной экосистемы.

Уходят в прошлое времена, когда китайская промышленность представляла из себя потогонные фабрики, на которых тысячи низкооплачиваемых рабочих шьют дешёвые туфли или плюшевых мишек.

Такие фабрики всё ещё существуют, пишет Кай-Фу Ли, но китайская система производства за последние годы серьёзно модернизировалась. Дешёвый труд перестал быть её основным преимуществом. Так, в Индонезии и Вьетнаме (не говоря уже об Украине, добавим мы) рабочие получают более низкую зарплату.

В Шэньчжэне можно напрямую обратиться на тысячи заводов и к сотням тысяч грамотных технических специалистов и, благодаря этому, производство товаров обходится невероятно дёшево. Богатейшие рынки электроники предлагают на выбор тысячи печатных плат, датчиков, микрофонов и миниатюрных камер. Такая сосредоточенность в одном месте множества поставщиков деталей и производителей готовой продукции ускоряет внедрение инноваций. Предприниматели, связанные с поставками аппаратного обеспечения, говорят, что одна рабочая неделя в Шэньчжэне эквивалента месяцу в Соединённых Штатах.

Китайский компания в области аппаратных средств Xiaomi (произносится «Сяоми») начала выстраивать с применением ИИ восприятия целые сети домашних приборов, способные превратить наши кухни и жилые комнаты в настоящую среду ООМ.

Центральное место в этой системе занимает динамик для голосовых команд Mi Ai speaker, который используется для создания ряда интеллектуальных домашних устройств с множеством сенсоров: очистителей воздуха, рисоварок, холодильников, камер видеонаблюдения, стиральных машин и автономных пылесосов. Компания Xiaomi не занимается выпуском всех эти устройств сама. Она инвестировала средства в 220 компаний и инкубировала 29 стартапов: многие из них работают в Шэньчжэне и выпускают продукцию для умного дома, совместимую с Xiaomi. Вместе они создают доступную интеллектуальную домашнюю экосистему с продуктами с поддержкой Wi-Fi, которые сами находят друг друга и упрощают настройку. Пользователи Xiaomi могут запросто сами управлять всей этой системой с помощью голосовых команд или с телефона.

Это созвездие предприятий создало крупнейшую в мире сеть интеллектуальных домашних устройств, насчитывающую 85 миллионов приборов к концу 2017 г. и намного превосходящую по размерам любые подобные сети в США. По предварительной оценке, стоимость компании Xiaomi составляет около 100 млрд. долл.

Скоро системы «умного дома», считает Кай-Фу Ли, будут не только передавать данные между различными устройствами, но также и оцифровывать данные из реального мира. Ваш холодильник сможет увидеть, что у вас заканчивается молоко и самостоятельно заказать его, а ваша кофеварка приготовит для вас капучино по первой просьбе.

Как только машины смогут видеть и слышать окружающий мир, они будут готовы двигаться и продуктивно действовать в нём. Автономный ИИ представляет собой интеграцию и апогей всех достижений предыдущих этапов. Он должен объединить способность машин к оптимизации (т.е. к самосовершенствованию – глубокое обучение) на основе массивов данных с их новоприобретёнными сенсорными возможностями. В результате слияния воедино этих сверхчеловеческих возможностей машины обретут дар не только понимать окружающий мир, но и изменять его. (Опять-таки, слово «понимать» не следует воспринимать буквально, в человеческом смысле. Машина сможет просчитать окружающий её реальный мир на основе множества данных и выбрать оптимальный вариант действий, но она не сможет понимать мир в человеческом смысле этого слова, иначе это будет уже не машина, а разумное существо, искусственно созданное человеком. Правда, и здесь до человека этому «разумному существу» будет далеко, т.к. надо в него вложить эмоции, чувства, способность к сопереживанию и т.д. Об этом, кстати, пишет и сам Кай-Фу Ли, но чуть ниже.).

Склады компании Amazon.

Пять лет тому назад они ничем не отличались от большинства складов: высокие стеллажи, в проходах между которыми перемещаются сотрудники. Сейчас же люди остаются на месте, а инвентарь их находит сам: по проходам теперь снуют автономные роботы-жуки со сложенными башенками из коробок на спине. Эти жуки торопливо бегают по складским помещениям, едва не сталкиваясь друг с другом и принося сразу несколько вещей людям, которые принимают их, не сходя с места. Сотруднику остаётся только взять предмет, отсканировать его и положить в коробку. Все эти автономные роботы имеют одну важную черту – они создают прямую экономическую выгоду своим владельцам.

В то же время, отмечает Кай-Фу Ли, мы вряд ли в ближайшее время увидим автономный ИИ в наших домах. Простые, казалось бы вещи, такие как уборка помещений или присмотр за ребёнком всё ещё выходят далеко за пределы возможностей ИИ, а наша среда обитания, не отличающаяся порядком, содержит массу препятствий для неуклюжих роботов.

О работе над технологией автономного вождения.

Здесь автор сравнивает два подхода – компании Google и компании Илона Маска Tesla. Первой работу над беспилотным автомобилем начала Google. Она исходила из того, что надо сначала создать совершенный продукт, а затем его выпускать на дорогу. Компания Tesla через несколько лет пустилась в погоню за Google, внедряя новые технологии пошагово. К 2016 г. оба подхода начали сближаться. Более того, если Google накопила исследовательские данные о 1,5 млн. миль, которые за 6 лет проехали её автомобили в ходе испытаний, то Tesla всего за 6 мес. получила данные о 47 млн. миль. При этом Tesla исходит из того, что автономные системы уже надёжнее, чем водитель-человек, и чем больше данных они будут получать, тем больше жизней смогут спасти.

Население Китая составляет 1,39 млрд. чел. (напомню, книга написана в 2018 г., т.е. данные, которые в ней приводятся, соответствуют 2017 году, если иное не оговорено). Ежегодно на дорогах Китая погибает в ДТП 260 тысяч чел.; в мире, по данным ВОЗ, ежегодно в автокатастрофах гибнет 1,25 млн. чел.; в США в 2016 г. погибло 40 тыс. чел.

В Китае уже занимаются адаптацией автомобильных дорог, реорганизуют структуру городских автоперевозок и возводят города, спроектированные специально для беспилотных автомобилей.

Дорожные ведомства в китайской провинции Чжэцзян уже анонсировали планы по строительству первой в стране «умной» супермагистрали, инфраструктура которой с самого начала будет предусматривать использование беспилотного автотранспорта и электромобилей. Дорогу планируют оснастить датчиками и обеспечить беспроводную связь между дорогой, автомобилями и водителями, что должно привести к увеличению скорости на 20-30% и значительно сократить число жертв в случае аварий. В поверхность супермагистрали будут встроены фотоэлементы солнечных батарей, чтобы их энергия питала зарядные станции для электромобилей. В долгосрочной перспективе цель состоит в том, чтобы иметь возможность непрерывно заряжать электромобили во время движения.

В шестидесяти милях к югу от Пекина, там, где раньше стояло несколько сонных деревушек, теперь по поручению Госсовета ведётся строительство Суньяна –города-витрины технического прогресса и экологической устойчивости. На создание городской инфраструктуры планируется потратить 583 млрд. долл. (!!), а население, по прогнозам, должно составить 2,5 млн. чел.

Суньян станет первым городом в мире, ещё на этапе строительства приспособленным к использованию автономного транспорта. Компания Baidu подписала с местными государственными органами соглашение на возведение «города ИИ» с автоматическим управлением дорожным движением, автономными транспортными средствами и системами защиты окружающей среды. Среди его особенностей – датчики в дорожном покрытии, светофоры с компьютерным зрением, уличные переходы, определяющие возраст пешехода, и сравнительно небольшие площади, отведенные под автостоянки. Почему не превратить их в городские скверы, если жители всё равно пользуются автономным такси? В будущем в таких новых городах можно будет прокладывать маршруты движения транспорта под землёй, оставляя поверхность для пешеходов и велосипедистов. За счёт увеличения ширины дорог, управляемого освещения и автономных автомобилей вся система подземного дорожного движения сможет поддерживать скорость, более характерную для автомагистралей, при сохранении привычного человеку темпа жизни на поверхности земли.

Нынешняя инфраструктура Америки предполагает, что автономный ИИ должен сам адаптироваться и завоёвывать города. Китайское правительство тем временем действует на опережение, пытаясь заменить завоевание на совместную эволюцию.

О балансе сил Китай – США.

Кай-Фу Ли обращает внимание на то, что несмотря на значительную поддержку со стороны государства, в области разработок технологий для создания беспилотных автомобилей, Китай всё ещё отстаёт от США на два-три года. Во многом это обусловлено тем, что Google собирает у себя специалистов мирового уровня, что обеспечивает этой компании преимущество.

Говоря же об общем соотношении сил Китая-США по четырём волнам развития искусственного интеллекта, Кай-Фу Ли приводит следующие данные на настоящий период и, по предварительной оценке, через пять лет.

ИИ интернета: Китай-США 5 : 5; через пять лет 6 : 4, соответственно.

ИИ для бизнеса: Китай-США 1 : 9, через пять лет 3 : 7,

ИИ восприятия: Китай-США 6 : 4, через пять лет 8 : 2,

Автономный ИИ: Китай-США 1 : 9, через пять лет 5 : 5.

Как мы видим, в настоящее время Китай только в одной области – ИИ восприятия опережает США и через пять лет этот разрыв ещё больше увеличится в пользу Китая. По ИИ интернета соотношение сил в настоящее время примерно равно, но через пять лет Китай добьётся небольшого преимущества. В области же ИИ для бизнеса и автономного ИИ Китай ощутимо отстаёт. Но через пять лет, по прогнозу Кай-Фу Ли, Китай сравняется с США в автономном ИИ и несколько сократит разрыв в ИИ для бизнеса. В любом случае, эти обе державы намного вырвались вперёд в исследованиях искусственного интеллекта и в вопросах практического применения достижений в этой области.

II. Будущее искусственного интеллекта и угрозы, которые он несёт

Будущее ИИ.

Следующим этапом в исследованиях по искусственному интеллекту, отмечает Кай-Фу Ли, может стать сильный искусственный интеллект – СИИ. Люди научатся создавать мыслящие машины, способные выполнять любые интеллектуальные задачи, с которыми справляется человек, и делать то, что человеку недоступно.

Существует мнение, что с появлением СИИ у машин, способных к самосовершенствованию, начнётся стремительное развитие компьютерного интеллекта. Это явление часто называют сингулярностью или эрой искусственного сверхразума. Если так произойдёт, мир могут заполнить компьютеры, превосходящие людей в интеллектуальном плане настолько, насколько мы превосходим насекомых.

Такие фантастические предсказания разделили большую часть интеллектуального сообщества на два лагеря: утописты и сторонники антиутопии.

Утописты видят в расцвете СИИ и наступлении сингулярности последний рубеж, отделяющий нас от светлого будущего, в котором человечество раздвинет границы сознания и победит смерть.

Рэй Курцвейл, изобретатель и крупнейший идеолог Google, считает, что в будущем люди и машины сольются воедино. По его представлению, люди будут «загружать» свой разум в облака и постоянно обновлять ткани тела с помощью специально обученных нанороботов, введённых в кровоток. Курцвейл предсказывает, что к 2029 г. мы получим компьютеры с интеллектом, сравнимым с человеческим, т.е. СИИ, а точка сингулярности будет достигнута к 2045 году.

Другие мыслители-утописты видят в СИИ средство, которое позволит нам быстро разгадать тайны Вселенной. Основатель DeepMind Демис Хассабис считает, что с помощью сверхчеловеческого интеллекта мы сможем разрешить задачи, которые раньше казались неразрешимыми: остановим глобальное потепление и научимся побеждать ранее неизлечимые заболевания. Сверхразумные компьютеры помогут человечеству справиться с его бедами и люди приблизятся к божественному всеведению и всемогуществу.

В лагере антиутопистов не все настроены столь оптимистично. Илон Маск назвал суперинтеллект «самой большой опасностью, с которой мы можем столкнуться как цивилизация», сравнивая его создание с «призывом демонов».

По большей части сторонники антиутопической версии будущего не боятся, что ИИ захватит мир, как это было показано в фильмах вроде «Терминатора», в которых человекоподобные роботы охотятся на людей, охваченные жаждой поработить человечество.

Суперинтеллект будет продуктом, созданным человеком, а не появившимся в результате естественной эволюции, а потому у него не может быть инстинктов выживания, размножения или доминирования, которые управляют поведением людей или животных. Скорее всего, он будет стремиться достичь поставленных перед ним целей наиболее эффективным способом. Опасность, по мнению антиутопистов, состоит в том, что если люди окажутся препятствием на пути к достижению одной из этих целей – например, обратить вспять глобальное потепление, то суперинтеллект может легко, даже случайно, стереть людей с лица Земли. Глубокое понимание химии, физики и нанотехнологий позволит ИИ мгновенно достичь требуемого ему результата. Исследователи называют это «проблемой управления» или «проблемой выравнивания значений», причём она беспокоит даже тех, кто относится к СИИ с оптимизмом.

Прогнозы о том, когда будут достигнуты такие результаты, сильно расходятся. Ник Бостром, автор книги «Искусственный интеллект. Этапы. Угрозы. Стратегии», вышедшей в 2014 г., приводит мнение специалистов по ИИ, которые склоняются к тому, что СИИ появится к 2040 г., а суперинтеллект, скорее всего, в течение трёх десятилетий после этого.