Грядущая волна. Технологии, власть и величайшая дилемма XXI века. Мустафа Сулейман. Саммари

Грядущая волна. Технологии, власть и величайшая дилемма XXI века. Мустафа Сулейман. Саммари
Smart Reading

Smart Reading. Ценные идеи из лучших книг. СаммариВпервые на русском (Smart Reading)
Это саммари – сокращенная версия книги «Грядущая волна. Технологии, власть и величайшая дилемма XXI века» Мустафы Сулеймана. Только самые ценные мысли, идеи, кейсы, примеры.

Грядет новая технологическая волна: возможно, скоро мы сможем напечатать себе новую печень на домашнем биопринтере и решить, наконец, «задачу коммивояжера» с помощью квантового компьютера. Но технологии сулят не только изобильную жизнь. Они угрожают нашей безопасности: искусственные пандемии, кибератаки и глобальные теракты – это лишь несколько сценариев катастроф.

Эксперт в области искусственного интеллекта Мустафа Сулейман убежден, что несколько ближайших десятилетий могут стать лучшими или худшими в истории человечества. Каким путем пойдет наше общество, будет ли оно стабильным и безопасным, зависит от нас.

Грядущая волна. Технологии, власть и величайшая дилемма XXI века. Мустафа Сулейман. Саммари

Оригинальное название:

The Coming Wave: Technology, Power, and the Twenty-first Century’s Greatest Dilemma

Автор:

Mustafa Suleyman

www.smartreading.ru (http://www.smartreading.ru/)

Грядущая волна

Если взглянуть на историю технического прогресса, можно увидеть своего рода волны – почти каждая фундаментальная технология, когда-либо изобретенная, развивается одинаково. На старте ее использование дорого, трудоемко и мало кому доступно. Но постепенно технология становится простой, дешевой и распространяется повсеместно.

В ближайшее время нас ждет бурное развитие искусственного интеллекта, биотехнологий, квантовых вычислений, альтернативной энергетики и робототехники. Они принесут огромные прибыли своим разработчикам и улучшат жизни миллиардов людей. Но вместе с этим нас ждут глобальные риски. Мы стоим перед выбором между будущим, полным возможностей, и будущим, полным опасностей. Наступает эпоха передовых технологий, и мы должны быть готовы к ней.

Технологии: история и развитие

Многие новые технологии представляют собой синтез разработок из разных областей науки. Это в чем-то сходно с естественным отбором: эффективные комбинации выживают и становятся основой для дальнейших инноваций. Неэффективные или невостребованные технологии перестают развиваться и в конце концов исчезают. Почти всегда оказывается, что удачные технологии можно использовать не только так, как задумал их создатель. В будущем или почти сразу общество находит им множество вариантов применения.

Томас Эдисон изобрел фонограф для записи своих мыслей и помощи слепым. Слушание музыки с помощью фонографа Эдисон считал легкомысленным. Но это «неправильное использование» породило целую индустрию и навсегда изменило массовую культуру.

Но, как показывает история, технологические прорывы часто приводят к непредвиденным последствиям – это называется «эффектом мести».

Антибиотики настолько вошли в нашу жизнь, что во многих странах их можно купить без рецепта, а врачи прописывают их при любой болезни. В ответ на это наши организмы выработали резистентность и постепенно становятся невосприимчивыми к действию антибактериальных препаратов.

Общества иногда пытались бороться с «эффектами мести», запрещая или отвергая новые технологии, но сопротивление, как правило, оказывалось бесполезным. Эффективные технологии сохранялись, распространялись и развивались, меняя лицо человеческой цивилизации.

Луддиты[1 - Участники стихийных протестов против внедрения машин в Британии в начале XIX века.] пытались бороться против промышленной революции и удешевления труда, они уничтожали оборудование на фабриках, но так и не смогли сдержать распространение машин.

По мнению Мустафы Сулеймана, технологии оказываются слишком полезными для того, чтобы общество всерьез решилось их подавлять. И сегодняшняя технологическая революция не исключение. Но широкое распространение новых технологий может привести к глубокому «эффекту мести». Всего человечество пережило около 25 глобальных технологических революций: от выведения домашних растений до нанотехнологий. Между ними были сельскохозяйственная революция, изобретение бронзы, печатного станка, автомобиля, телевидения, смартфона и многое другое.

Любые технологии постепенно становятся все дешевле и доступнее, а каждое следующее нововведение проходит быстрее предыдущего. Это историческая норма и то, чего мы ожидаем от новых волн.

Технологии грядущей волны

Волна, по Мустафе Сулейману, – это совокупность технологических открытий, получающих развитие примерно в одно и то же время и базирующихся на одной или нескольких новых технологиях общего назначения, имеющих глубокие социальные последствия.

Основа грядущей волны – это искусственный интеллект и синтетическая биология. С их помощью происходит развитие робототехники, квантовых компьютеров и альтернативной энергетики.

Искусственный интеллект

DQN. В 2012 году в DeepMind работали над системой DQN (Deep Q Learning), которую учили играть в Breakout[2 - Breakout – игра в жанре Arkanoid, в которой нужно двигать платформу, отбивающую мячик, чтобы разбить стенку из брусков.]. Впервые в истории программа не просто научилась играть и передвигать брусок, но и выработала более эффективную стратегию. Это был первый шаг к самостоятельному обучению нейросетей.

AlphaGo. В 2016 году программа AlphaGo обыграла в го чемпиона мира Ли Седоля, профессионала высшего ранга. При разработке программы авторы использовали только элементарную теорию игры в го. Но, обучаясь на партиях профессионалов, программа сама достигла высокого уровня и создала собственные уникальные стратегии.

AlexNet. Глубинное обучение алгоритмов берет свое начало с системы AlexNet. Ее задача – распознать главный предмет на картинке. В 2012 году AlexNet показала феноменальный для отрасли результат – улучшение качества работы на 10 %. Систему продолжили совершенствовать, и сегодня ее принципы работы используются во многих технологиях: от умных камер смартфонов до автопилота Tesla. Успех AlexNet сделал ИИ приоритетом для многих компаний и даже государств.

LLM и ChatGPT. Отдельная веха в развитии ИИ – технология больших языковых моделей (LLM). Они обучаются на простых задачах, таких как предсказание следующего слова в предложении, но с использованием огромного количества неразмеченного материала. Сегодня нейросети могут решать довольно сложные задачи и писать текст с такой связностью, которая всего несколько лет назад казалась невероятной. В марте 2023 года вышла версия ChatGPT-4, которая может написать произведение в стиле любого автора, создать приложение или новое лекарство.

LaMDA и разумный ИИ. Уже сейчас текстовые модели могут убедить человека в своей разумности, как это, к примеру, произошло с инженером Google Блейком Лемуаном. Он заявил, что языковой чат-бот LaMDA рассуждает о своих правах и личности и поэтому он разумен. Позже его доводы не подтвердились, а сегодня осмысленно отвечать на запросы могут уже многие нейросети. Несмотря на это, в обществе все еще сохраняются сомнения, разумен ли ИИ.

Будущее ИИ. Всю свою историю человечество совершало открытия, связанные с материальным миром. Но грядущая волна позволит нам выйти за его рамки и работать напрямую с информацией на высоком уровне абстракции[3 - Читайте саммари книги Мо Гавдата «Страшно умный. Будущее искусственного интеллекта и план спасения мира».]. И сдерживать такие технологии будет очень сложно.

Грядущая волна отличается от всех предыдущих огромной скоростью. Мы изобретаем алгоритмы, которые помогают оптимизировать самих себя. Они увеличивают эффективность разработки и сокращают время создания новых технологий.

Будущее ИИ – это неизбежное сокращение кода при увеличении эффективности и доступности для всех. Это создание мульти-ИИ, который сможет выполнять широкий спектр задач: от создания текстов и картинок до вождения автомобиля и управления домом. Будущий ИИ сможет быть как бы над всем этим, контролировать и связывать все сферы между собой.

Оценка ИИ. Мустафа Сулейман предлагает альтернативу существующему тесту Тьюринга: собственный тест оценки уровня развития ИИ. Это реальное задание: за несколько месяцев заработать на Amazon $1 млн с инвестициями всего в $100 тысяч. Выполнив эту сложную комплексную задачу, ИИ покажет результат, не просто сопоставимый с уровнем человека, но и превосходящий его. Подобный анализ и работа под силу сегодня лишь единичным бизнесменам, к тому же при условии удачного стечения обстоятельств.

Синтетическая биология

Волна развития биотехнологий пока только надвигается. Но и в этой сфере уже есть впечатляющие результаты. Так, завершен проект «Геном человека», целью которого было определение пар оснований, составляющих ДНК, и секвенирование генома. Сейчас идет расшифровка и интерпретация полученных данных. Были разработаны более быстрые и дешевые способы секвенирования ДНК, и на рынке появилось множество предложений о проведении генетических тестов. Также ведутся активные исследования в области синтеза ДНК и создания ДНК-принтеров.