Последний отзыв
Очень интересная!
По всем вопросам обращайтесь на: info@litportal.ru
(©) 2003-2024.
✖
Об ИИ без мифов. Путеводитель по истории Искусственного Интеллекта
Настройки чтения
Размер шрифта
Высота строк
Поля
Об ИИ без мифов. Путеводитель по истории Искусственного Интеллекта
Леонид Черняк
Искусственный Интеллект (AI) имеет и актуальную новейшую историю, и интересную предысторию. Мифы с о человекоподобных помощниках и защитниках известны с античных времен, но только в середине XX веке появилась практическая возможность создания технологий Слабого AI, позволяющего автоматизировать рутинную составляющую умственного труда и таким образом революционизировать многие области человеческой деятельности. Однако и в наше время сохраняется сакральное отношение к Сильному AI, вера в его могущество и в угрозы цивилизации со стороны AI. Ничего, что связано с Сильным AI, в книге не рассматривается, ее содержание ограничено историей исследований и разработок, приведших к созданию Слабого AI. Особое внимание уделено двум подходам – символьному, оставшемуся в прошлом, и коннекционистскому, ставшему основой искусственных нейронных сетей и машинного обучения, а также таких актуальных приложений как робототехника, компьютерное зрение и работа с текстами на естественном языке.
Леонид Черняк
Об ИИ без мифов. Путеводитель по истории Искусственного Интеллекта
Введение
О названии, терминологии и дискурсивных полях
Книга задумана как компактное руководство к путешествию по огромному морю материалов, связанных с историей искусственного интеллекта (ИИ), поэтому в ее название включено слово путеводитель. На русском, к сожалению, таких текстов немного, а те, что есть, безнадежно устарели, зато на английском языке их море. Собравшемуся в плавание не помешает этот путеводитель, содержание которого ограничено короткими историческими справками. Автор не претендует ни на абсолютную объективность, ни на полноту изложения, присущую научным трудам. Для того кто делится своим впечатлениями о совершенном путешествии допустимо собственное видение и субъективные предпочтения. В отличие традиционных путеводителей в книге нет иллюстраций, стоит ли в наше время соревноваться с огромным фото-, видео- и аудиоконтентом Сети, находящемся на расстоянии нескольких кликов?
Непосредственным импульсом к написанию стали специальности, избранные моими детьми – Катей и Алешей Артемовыми. Катя – специалист по работе с текстами на естественном языке (Natural Language Processing, NLP), а Алеша – эксперт в области компьютерного зрения (Computer Vision, CV). Общаясь с ними, я пришел к выводу, что тем, кто занимается этими актуальными аспектами ИИ, не хватает представления об истории того предмета, которому они посвятили свою профессиональную жизнь. И тогда возникла идея – а не стоит ли попытаться заполнить обнаруженный пробел в историческом знании всего того, что кроется под зонтичным термином ИИ? Пришлось самому совершить погружение в историю, в результате которого появилась книга, адресованная, в первую очередь, специалистам, чья практическая деятельность так или иначе корреспондируется с тем, что принято называть ИИ.
Незаменимую роль в появлении этой книги на свет сыграла ее редактор Татьяна Грачева, моя давняя коллега (мы работали в издательстве «Открытые системы»). Мысль об обращении к ней за помощью возникла при весьма необычных обстоятельствах – это случилось ночью, в ковидной больнице, размещенной в 75 Павильоне ВДНХ. Наутро из того же невеселого места я написал ей в WhatsApp и к моей радости получил положительный ответ. Как показало дальнейшее, такое начало ни как не помешало созданию продуктивного альянса. Я глубоко благодарен Татьяне за ее заинтересованное участие и важные комментарии к тексту.
Я хочу выразить признательность моей жене, Наталье Гаранян, за ее поддержку и терпение. Думаю, что только она – клинический психолог с многолетним опытом смогла вытерпеть сложности того периода жизни, который бы я назвал «AI у нас дома» по аналогии с названием книги «Атом у нас дома», написанной Лаурой Ферми, женой великого физика.
О терминологии
Для более точного соответствия используемой в книге терминологии обсуждаемому предмету мы в дальнейшем откажемся от русскоязычного термина «искусственный интеллект» в пользу оригинального Artificial Intelligence (AI). ИИ перегружен несовременными смыслами, в русскоязычном варианте термина каждое из двух слов – и «искусственный», и «интеллект» – не полностью соответствуют оригиналу, что создает изрядную проблему.
Казалось бы, английское artificial с русским «искусственный» близки, но они далеко не тождественны. Подавляющая часть значений английского artificial (от art – искусство, мастерство) так или иначе связана с понятием «рукотворный», а в русском, как утверждают лингвисты, слово искусственный ведет происхождение из немецкого k?nstlich, значащего, скорее, поддельный или ненатуральный, и несет его оттенок. Показательно, в русском при всем его словарном богатстве нашлось место слову артефакт, подчеркивающему, что предмет рукотворен, что он сделан человеком. В английском Artificial Intelligence нет и намека сверхъестественную природу происхождения, использование artificial прямо указывает на то, что AI не какая-то неведомая материя, непонятным образом возникшая, способная возвыситься над человеческим разумом, чтобы творить что ей угодно по собственным правилам, а нечто более прикладное, сделанное талантом и трудом человека.
Еще большее расхождение обнаруживается между словами intelligence и «интеллект». Да, можно перевести intelligence как интеллект, но это всего лишь одно из значений этого далеко не простого слова. Чтобы убедиться в многозначности intelligence, достаточного обратиться к любому онлайн-словарю, например, популярному Multitran’у. Там наряду с «интеллектом» найдутся еще десятки самых разных переводов. Общим для всех них служит одно – извлечение информации и знаний из данных и фактов с последующим использованием результатов в прикладных целях. Поэтому идея получения полезных сведений из сырых данных, полученных тем или иным способом, объединяет совершенно разные области деятельности: и военную разведку (military intelligence), и бизнес-аналитику (business intelligence) и многое иное.
О дискурсивных полях
Книга написана с уверенностью в том, что AI – это очередной шаг в непрерывном процессе развития инструментальных средств человека, в процессе, который начался с создания примитивных орудий, продолжился средствами механизации физического, а с появлением компьютеров – и частично и умственного труда. AI позволяет еще дальше и глубже автоматизировать последний. За скобками оставлены философские подходы к AI, а также все, что связано с Общим и Сильным AI, в том числе концепции трансгуманизма и рассуждения об угрозах со стороны сверхразума и роботов-андроидов и т. п. Такой утилитарный подход к AI несомненно вызовет возражения, поэтому автор хотел бы заранее предупредить критиков – примите как факт – эта книга не для вас, если вы не согласны с авторской позицией, не читайте ее. Полемизировать на сей предмет не имеет никакого смысла.
Разброс мнений относительно AI, невероятно велик, как говорил древнеримский раб-драматург Публий Теренций Афр: «Сколько людей, столько и мнений». Нет и не может быть единственно правильной точки зрения, обсуждать проблемы AI можно только в пределах какого-то одного определенного дискурсивного поля. Напомним, что дискурсивное поле – это, по сути, сообщество единомышленников. Внутри любого дискурсивного поля образуется формальная или неформальная структура, состоящая из основателей, лидеров, активистов, приверженцев и попутчиков.
В России можно выделить несколько дискурсивных полей, так или иначе связанных с AI, некоторые из них имеют формальную организацию. Самое представительное поле образуют академические ученые, прежде всего математики. Многие из них входят в Российскую ассоциацию искусственного интеллекта (РАИИ), наследницу Советской ассоциации искусственного интеллекта, в ее составе заслуженные ученые: доктора и кандидаты наук из 45 регионов России. РАИИ проводит школы, симпозиумы, национальные конференции, ее члены участвуют международных конференциях, издает журнал «Новости искусственного интеллекта».
В существенно меньшее по численности поле входят ученые-философы, чьи интересы связаны с AI, их объединяет Научный совет РАН по методологии искусственного интеллекта и когнитивных исследований (НСМИИ и КИ). Деятельность совета включает проведение заседаний и теоретических семинаров и публикации трудов.
Есть несколько групп, состоящих из романтиков AI, часть из них концентрируется вокруг лаборатории робототехники «Сбера». Они связывают свою деятельность с Общим, или Сильным AI (Arificial General Intelience, AGI), поднимая примерно такие темы: «Может ли AI обладать сознанием?» «Может ли AI превзойти естественный интеллект?» Члены этого сообщества убеждены в том, что тест Тьюринга уже пройден существующими системами AI и что пора «разрушить стену Тьюринга» и ускоренными темпами создавать Сильный AI. Никто, правда, не уточняет, что представляет собой эта стена и почему ее надо разрушать. Они считают, что наступила пост-тьюринговская эпоха, когда человек знает, что общается с компьютером, и последний оказывается ему интереснее, чем другой человек.
И, наконец, есть огромное поле, состоящее из прагматически ориентированных специалистов, решающих реальные задачи, попадающие под определение AI. Их так много и область их деятельности так диверсифицирована, что дать общую характеристику этому полю не представляется возможным. Но можно выделить главное, как сказал известный специалист области машинного обучения Педро Домингес в своей книге «Верховный алгоритм» (The Master Algorithm): «AI – это планета, о которой мы только слышали, но теперь AI – это наша цель. Машинное обучение – это ракета, которая нас туда доставит, а ее топливо Большие данные (Big Data)».
Становясь частью современной индустрии, AI переживает сложный и неизбежный период, когда формируется обычное в таких случаях сочетание прикладной науки и инженерии, возникающее на основе предшествующих достижений в академической науке. Подобного рода трансформация теории в практику в прошлом наблюдалась неоднократно. В таких случаях с неизбежностью создается новый тип профессионального прикладного знания и возникает своего рода водораздел между академическим и инженерным знанием. Для практической инженерной работы обычно оказывается достаточным обладать ограниченным адаптированным набором прикладных знаний в сочетании с умением владеть нужным инструментарием, что же до избытка фундаментальных знаний, то порой он даже оказывается лишним. В качестве аналогии происходящему можно привести выделение в XIX и XX веках из физики таких сугубо инженерных областей как электротехника, строительная механика и других. Любой курс по теоретической электротехнике представляет собой не что иное, как выжимку из физики в сочетании с набором практик, необходимых для различных видов инженерной деятельности, от разработки до эксплуатации.
Признавая объективную необходимость упрощения, надо помнить об ограниченности инженерных знаний, иногда в процессе технических разработок возникают задачи, которые не имеют решения в рамках адаптированной инженерной модели, типичный пример проблема флаттера (возникновения вибрации). Авиационные конструкторы сами не смогли с ней справиться, потребовалась помощь со стороны физиков и математиков. Потеря связи инженерии с наукой в любой области грозит формированием того, что называют «монтерскими знаниями»: его носители успешно решают прикладные задачи, но при этом их не интересуют ни теоретические основы предмета, ни тем более его история. К сожалению, в носителей монтерских знаний превращаются многие из тех, кого называют чудовищным словом «айтишник». Трудно представить себе физика или химика, не знающего истории своей науки хотя бы в общих чертах, но, увы, среди тех, кто образует огромное дискурсивное поле, состоящее из практиков AI, знание истории этого предмета минимально, если оно вообще есть.
Книга представляет собой попытку раскрыть прикладным специалистам исторические предпосылки появления современного AI, не претендуя на большее. Она может вызвать справедливую критику со стороны представителей других дискурсивных полей, но, повторюсь, книга адресована не им.
А закончить это введение хотелось мечтой. На протяжении десятков лет в работе над AI принимали участие удивительные люди, яркие личности, их связывали сложные отношения, они испытывали триумфы побед и горечи поражений, судьба была более благосклонна к одним и несправедлива к другим. Чем не сюжет, например, для сериала на много сезонов? Как знать, может быть, кто-то и реализует эту мечту.
Глава 1 AI – От мечты к обыденности
Люди издревле стремились переложить часть своего труда на машины: первые ткацкие станки, обнаруженные археологами, относятся к 10-му тысячелетию до н. э., водяные мельницы появились в античные времена, а ветряные примерно тысячу лет назад. В последние два-три столетия процесс механизации и в последующем автоматизации пошел с постоянным ускорением, научившись использовать энергию пара, а затем и электричества люди смогли расширить сферу механизации от бытовых приборов до промышленных установок самого разного типа и перейти к автоматизации физического труда. В XX веке компьютеры позволили сделать следующий шаг – автоматизировать еще и часть часть умственного труда, которую удается запрограммировать и передать компьютерам. В XXI веке с использованием AI удалось пойти дальше – передать машинами еще ту часть умственного труда, которая не может быть запрограммирована, и превратить компьютер в интеллектуального помощника, еще больше освобождающего человека от рутины, создать умные машины, выводящие на более высокий уровень автоматизацию производственных процессов. Такое утилитарное понимание роли умного AI сложилось совсем недавно, буквально в последние годы, а прежде на протяжении нескольких десятилетий доминировало более возвышенное, скажем так, романтическое отношение к AI, люди сохраняли убеждение в возможности наделить компьютеры сравнимыми с человеческими умственными способностям, например к доказательству теорем, игре в шахматы и т. п.
Три типа представлений об AI
Сосуществуют сотни и сотни противоречащих друг другу представлений о том, что такое AI, обнаруживаемых в различных произведениях, в диапазоне от философских трактов до технических статей. На одном фланге находятся футурологи с их фантазиями о технологической сингулярности, то есть о том гипотетическом моменте, с наступлением которого технологическое развитие становится неуправляемым и необратимым. По их мнению, такой ход событий неизбежен, и тогда развитие AI приведет к созданию надчеловеческого суперинтеллекта. Успокаивает то, что за этими рассуждениями не стоит ничего кроме вольной экстраполяции существующих тенденций, наблюдаемых в техническом прогрессе. На другом фланге ученые и инженеры, работа которых связана с прикладными методами моделирования работы мозга, в их основе лежат искусственные нейронные сети (ANN, Artificial Neural Network) и их машинное обучение (ML, Machine Learning). Такие работы лишены внешней привлекательности, они мало доступны для понимания без достаточной подготовки, а их перспективы ограничены созданием умных интеллектуальных ассистентов и разного рода умных машин, в том числе роботов. Уже сегодня мы можем увидеть примеры их применения в медицине, в офисной работе, в промышленности, на транспорте и даже в быту.
Суммируя известные представления о типах AI, их можно классифицировать следующим образом:
• Супер AI, или ASI (Artificial Super Intelligence) Те, кто допускают возможность создания ASI, убеждены, что он рано или поздно может возникнуть, причем каким-то неведомым и не подвластным человеку образом. После этого он сможет не только воспроизводить любые способности человека и даже превзойти его во всех отношениях, более того ASI станет телепатом, он научится вникать в мысли и чувства человека и далее подчинить своей воле человечество. К счастью ASI существует разве что в творениях писателей-фантастов, работающих в жанре дистопии (антиутопии) и в трудах некоторых философов. Оставим писателям возможность творить, а из числа философов, приверженцев идеи ASI, наибольшую известность приобрели швед Ник Бострем (Nick Bostrom, 1973), работающий в Оксфордском университете, и австралиец Дэвид Чалмерс (David Chalmers, 1966). Заметим, что авторитет Чалмерса у некоторых философов вызывает сомнение, его книгу «Создающий ум» Джон Серл назвал «коллекцией абсурдов» (О Серле будет сказано ниже.). К числу не философов, однако прежде допускавших возможность появления ASI можно отнести известного предпринимателя Илона Маска и Билла Джоя, разработчика программного обеспечения для UNIX и сооснователя компании Sun Microsystems. В 2000 году на пике славы этой компании в журнале Wired была опубликована статья Джоя «Почему мы не нужны будущему» (Why the future doesn't need us), поначалу она привлекла к себе большое внимание, но спустя 20 лет о ней, как и о компании Sun, не вспоминают, а сам Билл Джой больше на темы ASI не высказывался. Что же касается Маска, то он явно изменил свою позицию, причем настолько, что недавно признался в ошибочности своего намерения довести в ближайшее время автономность автомобиля Тесла до теоретически максимального возможного уровня (Level 5), что уж говорить о более высоком. Показательно, что тема ASI вовсе не привлекает к себе внимание серьезных специалистов, она не обсуждается на серьезных конференциях по AI. Актуальных данных о ее популярности нет, но можно вспомнить прошедшую в 2006 году юбилейную «Дартмутскую конференцию по AI: Следующие 50 лет» (Dartmouth Artificial Intelligence Conference: The Next Fifty Years), где участникам был задан вопрос: «Когда по вашему мнению будет создан ASI?». Меньшинство (18 %) ответивших заявили, что это произойдет до 2056 года, оставшиеся голоса разделились поровну: 41 % после 2056 года, а еще 41 % – никогда. Оценивая эти и без того скромные результаты, следует еще принять во внимание два обстоятельства: во-первых, опрос проводился 15 лет назад, еще до случившегося за последние 10 лет революционного прорыва в области AI-приложений, и, во-вторых, среди участников конференции преобладали не связанные с практикой ветераны, отдавшие свои силы тому, что называют GOFAI (Good Old-Fashioned Artificial Intelligence), здесь идиому good old-fashioned можно перевести как «старый добрый» с обязательным оттенком иронии. Если бы аналогичный опрос проводился сегодня, когда вектор развития резко AI сместился в практическую сторону и в иной более прагматично настроенной аудитории, то наверняка уровень пессимизма по отношению к будущему ASI оказался бы существенно больше, не исключено, что многие из представителей современных, научных направлений вообще не поняли бы, о чем идет речь.
Сильный, или общий AI (AGI, Artificial General Intelligence) По степени разумности AGI стоит на ступень ниже ASI, его адепты убеждены в возможности создания машин, если не превосходящих уровень человека, то способных как минимум выполнять те же действия, что и человек. Эта точка зрения не менее спорна, чем позиция сторонников ASI, поскольку у человека и у машины совершенно разные способности. В чем резон попыток воспроизвести машинными средствами интеллектуальные или другие способности, присущие человеку? Человечество пошло иным путем, создавая машины, которые быстрее и лучше перемещаются по земле, в воздухе, на воде и под водой, не копируя то, как делают человек или животные, машине – машинное, человеку – человеческое, Что же до AI, то мы до сих пор толком не знаем, как устроен и как работает наш мозг, поэтому нет и не может быть системы оценок для сравнения способностей человеческого и искусственного мозга. Чаще всего сторонники AGI апеллируют к тезису Черча-Тьюринга, в предельно упрощенной трактовке постулирующего, что любая сведенная к алгоритмической форме задача может быть решена, если нет ограничений на время и объем памяти. Но кто и на чем основываясь может утверждать, что работу мозга можно полноценно алгоритмизировать? По оценкам, представленным Институтом глобальных рисков катастроф (Global Catastrophic Risk Institute) в отчете A Survey of Artificial General Intelligence Project for Ethics, Risk, and Policy (2017), в мире тема AGI не пользуется популярностью, насчитывается не более полусотни небольших коллективов, работающих в этом направлении, их труды не выходят за рамки теоретических разработок. В 2017 году издание IEEE Spectrum провело круглый стол «HLAI близко или далеко» (Human-Level AI Is Right Around the Corner – or Hundreds of Years Away) с участием десяти активно выступающих со своими прогнозами AI-оптимистов и AI-пессимистов в соотношении 5:5. Разброс мнений оказался чрезвычайно велик: оптимисты, среди них Рэй Курцвейл и Юрген Шмидхубер, верят в HLAI, но расходятся в оценках, одни готовы увидеть его в ближайшее десятилетие, а другие отводят срок на прядок больше, пессимисты же, представленные Кавером Мидом, Родни Бруксом и другими считают, что машинный и человеческий интеллект суть совершенно разные вещи и к ним не стоит подходить с общей меркой. Вывод один – если и ДА, что сомнительно, то не при нашей жизни.
Слабый, или узкий ANI (Artificial Narrow Intelligence) Слово узкий вообще-то подходит точнее, но ANI по-русски принято называть слабым, пусть будет так, но он все же узкий в том смысле, что системы с ANI обладают лишь отдельными качествами, позволяющими усмотреть в их поведении признаки разумности, они предназначены только для выполнения строго определенного узкого круга приложений. В отличие от ASI и AGI здесь невозможно никакое неподвластное человеку автономное поведение и самостоятельное развитие, системы, снабженные ANI, могут существовать только в той форме, в которой они были созданы человеком и находиться под контролем человека. Диапазон реализаций ANI распространяется от виртуальных помощников типа Алисы, Siri и им подобных до систем, работающих на компьютере IBM Watson, способных к игре Jeopardy! и к участию в медицинской диагностике. Даже такие мощные системы как Google Translation Engine или системы автономного вождения автомобилей самого высокого 5 уровня, буде они созданы, останутся в своей узкой нише, даже они не выйдут за пределы ANI. О масштабах ANI как явления, которое сейчас называют «электричеством XXI века» говорит такой факт – число стартапов, работающих в этой области во всем в мире превышает 10 тысяч, а объем бизнеса измеряется сотнями миллиардов долларов.
Тьюринг и AI
Имя Алана Тьюринга неотделимо от AI, чаще всего его связывают с возможностью создания думающей машины. В качестве подтверждения указывают на тест Тьюринга, он де позволяет судить о наличии интеллекта у машины. Но истинный вклад Тьюринга в дело AI намного значительнее, чем приписываемые ему общие рассуждения о возможности создания AI и теста. Еще в конце 40-х годов он предсказал практические пути, могущие привести к созданию «умной машины» (термина AI тогда еще не было), ни в малейшей степени не связанные с тестом. Мысли, высказанные более 70 лет назад, сегодня ценны с исторической точки зрения, но не только, основываясь на них, удается лучше понять нынешнюю ситуацию. Тьюринг, как пророк, совершенно точно предсказал два альтернативных подхода к AI: один «сверху-вниз» – этот подход мы сегодня называем символьным, а другой – «снизу-вверх», мы его называем коннекционизмом, заимствую термин из науки когнитивистики. Дальнейший процесс развития AI принял форму параллельной эволюции (коэволюцию) двух спрогнозированных Тьюрингом подходов, в рамках каждого сложился свой поток событий, во взаимосвязи они образуют историю AI. В этих условиях задача автора книги свелась к изложению событий, связанных с символьным и коннекционистским подходами.
О Тесте Тьюринга
Но начнем с теста и его места в истории AI. Сегодня о нем чаще всего вспоминают в связи с проводимым с 1990 года соревнованием Loebner Prize, где участвуют программы, претендующие на прохождение теста, жюри оценивает удалось им это или нет. Приз был учрежден изобретателем и социальным активистом Хью Лебнером (Hugh Loebner, 1942–2016). За минувшие тридцать лет несколько программных машин-участников по мнению жюри смогли пройти тест Тьюринга, чем «доказали свою разумность».
Поначалу Loebner Prize рассматривали всерьез, даже сам праотец AI Марвин Минский некоторое время публично поддерживал это соревнование. Но спустя годы тот же Минский категорически отрекся, заявив, что прохождение теста не имеет никакого отношения к исследованиям в области AI, вскоре к такому же мнению пришли многие серьезные ученые. Это действительно так, потому что претенденты используют какие-то ухищрения дабы произвести впечатление разумности на жюри, не более того. В 2008 году этот трюк удался Жене Гусману, виртуальному мальчику из Одессы, созданному российскими программистами, тогда отечественная пресса взахлеб говорила о нем, а сейчас едва ли кто вспомнит об этом «триумфе». К настоящему времени Loebner Prize выродился в привлекательное для любителей соревнование, сравнимое с такими как гонки роботов в лабиринте или футбол с участием роботов.
Тест был описан Тьюрингом в статье «Вычислительные машины и разум» (Computing Machinery and Intelligence, 1950), а его идея и название заимствованы у домашнего развлечения, известного как «Игра в имитацию». Впервые статья с описанием теста появилась на страницах малотиражного сугубо философского издания Оксфордского университета. Его название Mind, что можно перевести как размышления, оно являет собой пример «чисто английского», сугубо академического сборника, периодически выходящего с 1876 года. Mind относится к категории journal, то есть ориентирован на более узкий круг читателей, чем magazine, но по-русски обоим соответствует одно слово – журнал. На страницах Mind публикуются философские статьи, которые не претендуют на математическую строгость и уж тем более на практическую реализацию описанного в них. Выбор Mind как места для «Вычислительных машин и разума» представляется странным и как-то не вполне согласуется с позиционированием Тьюринга в науке. Он человек дела, его работы – это сочетание математики с инженерией, например, та же Машина Тьюринга или применение байесовской статистики в криптографическом проекте Ultra. Не исключено, что статья так бы и осталась в анналах Mind, но в 1956 году, синхронно с появлением на свет термина AI она была извлечена на свет и перепечатана в антологии The World of Mathematics, далее первопроходцы AI возвели ее в культ.
Научный авторитет Тьюринга был и остается настолько высок, что на протяжении тридцати лет оспаривать статус теста не решался никто. Первым посягнувшим оказался профессор Калифорнийского университета в Беркли Джон Серл (John Searle, 1932), автор статьи «Сознание, мозг и программы» (Minds, Brains, and Programs, 1980). В ней он описал свой мысленный эксперимент Китайская комната, посредством которого показал возможность имитации разумного поведения, без наличия какого-либо интеллекта. Сначала труд Серла приняли в штыки, но после 2000 года на тест посыпался град критики.
Начало критике положил Дуглас Ленат (Douglas Lenat, 1950), создатель самой мощной и единственной существующей на данный момент экспертной системы Cyc, он назвал тест Тьюрига идиомой red herring, что буквально значит «копченая селедка». (Происхождение идиомы таково – эту пахучую селедку охотники использовали как отвлекающее средство при натаскивании бассет-хаундов, приучая собаку бежать по следу, не отвлекаясь на посторонний запах.)
Один из самых известных диджерати (слово digerati образовано сочетанием понятного digital и literati, так называют представителей литературной элиты) и автор термина виртуальная реальность Джарон Ларнье (Jaron Lanier, 1960) написал в New York Times: «Предположение Тьюринга, что прошедший тест компьютер обретает ум и становится человекоподобным, столь же нелепо как утверждение, что работающий на компьютере человек становится тупее и более похожим на него».
И даже сам Марвин Минский заявил в 2003 году, что, развиваясь по пути указанному Тьюрингом, AI дошел до состояния мозговой смерти, он использовал термин brain-dead.
Ярость, с которой новоявленные критики набросились на тест Тьюринга невольно вызывает в памяти строки Константина Бальмонта: «Тише, тише совлекайте с древних идолов одежды, слишком долго вы молились, не забудьте прошлый свет…». Те, кто только что молились на Тьюринга, и Минский в первую очередь, стали его ниспровергателями. Почему? Да потому, что они с выгодой для себя свели все его наследие Тьюринга в области AI к одной статье, а исчерпав ее потенциал, решили от нее избавиться.
Статья «Вычислительные машины и разум»
Прежде, чем перейти к более значимому труду, где Тьюринг действительно указал путь в будущее AI, зададимся вопросом: «Если тест оказался заблуждением, то как же в таком случае следует относиться к «Вычислительным машинам и разуму», где он изложен? При глубоком погружении в статью складывается непреодолимое ощущение, что перед нами образец джентельменского розыгрыша высокого класса, на который купились очень многие. Если читать статью в оригинале, то нельзя не заметить присутствие в ней британского юмора, не удается отделаться от впечатления о сознательной мистификации. Тьюринг провоцирует читателя, когда начинает с прямого вопроса: «Могут ли машины думать?», подцепив его таким образом на крючок, он в том же абзаце ловко заменяет этот вопрос на другой: «Может ли машина совершать действия, неотличимые от обдуманных действий?». Совершив эту очевидную подмену понятий, он нисколько не утруждает себя необходимостью доказывать тождество двух разных способностей – мыслить и имитировать мышление. Вот она, предпосылка к появлению систем, проходящих тест в конкурсе Loebner Prize и им подобных, которые могут лишь имитировать мышление, но никак не мыслить, поэтому-то они и не имеют никакого значения для развития AI. Странно, как же удавалось десятилетиями не замечать сознательной «мины» – намеренного отождествления двух совершенно разных способностей? Не признав статью розыгрышем, невозможно понять как такой трезвомыслящий человек как Тьюринг мог предложить столь поверхностный тест, основанный не на чем-то ином как на «Игре в имитацию».
Возникает естественный вопрос: «А не является ли сама статья игрой в имитацию?» В рассуждениях об имитации мышления он был не первым, еще Дени Дидро (Denis Diderot, 1713–1784) в «Философских мыслях» (1746) не без иронии написал: «Если мне покажут попугая, способного ответить на любой вопрос, то я без сомнения признаю его разумным существом». Что же до «Игры в имитацию», то была популярна в начале XIX века, в период Первой промышленной революции, которая породила не только новую моду, например на шляпы-цилиндры, форма которых адресует нас к паровой машине, но и тягу британских аристократов к науке и к разного рода интеллектуальным салонным развлечениям. По правилам этой игры две команды, разделенные ширмой, пытаются узнать что-то одна у другой друга посредством обмена записками.
Не только слово имитация, но и метод доказательства вызывают убеждение в том, что перед нами ни что иное как гениальная мистификация, здесь нарушена принятая в науке каноническая последовательность: от гипотезы к постановке задачи, а далее к доказательству. Вместо нее Тьюринг произвольным образом выбирает девять вольно подверстанных утверждений, из которых якобы следует, что создание думающей машины невозможно, а далее успешно опровергает их. И это доказательство? Наиболее серьезный из опровергаемых аргументов Тьюринг заимствовал у Ады Лавлейс, он изложен в записке, адресованной тем, кто пытались найти признаки разума в механической Аналитической машине Чарльза Беббиджа. Более детально о мыслях Ады Лавлейс относительно разумности Аналитической машины будет написано в Главе 3.
Трудно представить, чтобы Тьюринг не понимал слабости предложенной им модели рассуждений о думающей машине, конечно же, это была шутка. Однако приверженцы Сильного AI в нужный им момент превратили шутку в свой катехизис, можно удивляться тому, что философское сообщество тоже попалось на наживку и началась бесконечная схоластическая полемика о возможности или невозможности создания AI, превосходящего разум человека.
«Умная машинерия» и два подходах к AI
Леонид Черняк
Искусственный Интеллект (AI) имеет и актуальную новейшую историю, и интересную предысторию. Мифы с о человекоподобных помощниках и защитниках известны с античных времен, но только в середине XX веке появилась практическая возможность создания технологий Слабого AI, позволяющего автоматизировать рутинную составляющую умственного труда и таким образом революционизировать многие области человеческой деятельности. Однако и в наше время сохраняется сакральное отношение к Сильному AI, вера в его могущество и в угрозы цивилизации со стороны AI. Ничего, что связано с Сильным AI, в книге не рассматривается, ее содержание ограничено историей исследований и разработок, приведших к созданию Слабого AI. Особое внимание уделено двум подходам – символьному, оставшемуся в прошлом, и коннекционистскому, ставшему основой искусственных нейронных сетей и машинного обучения, а также таких актуальных приложений как робототехника, компьютерное зрение и работа с текстами на естественном языке.
Леонид Черняк
Об ИИ без мифов. Путеводитель по истории Искусственного Интеллекта
Введение
О названии, терминологии и дискурсивных полях
Книга задумана как компактное руководство к путешествию по огромному морю материалов, связанных с историей искусственного интеллекта (ИИ), поэтому в ее название включено слово путеводитель. На русском, к сожалению, таких текстов немного, а те, что есть, безнадежно устарели, зато на английском языке их море. Собравшемуся в плавание не помешает этот путеводитель, содержание которого ограничено короткими историческими справками. Автор не претендует ни на абсолютную объективность, ни на полноту изложения, присущую научным трудам. Для того кто делится своим впечатлениями о совершенном путешествии допустимо собственное видение и субъективные предпочтения. В отличие традиционных путеводителей в книге нет иллюстраций, стоит ли в наше время соревноваться с огромным фото-, видео- и аудиоконтентом Сети, находящемся на расстоянии нескольких кликов?
Непосредственным импульсом к написанию стали специальности, избранные моими детьми – Катей и Алешей Артемовыми. Катя – специалист по работе с текстами на естественном языке (Natural Language Processing, NLP), а Алеша – эксперт в области компьютерного зрения (Computer Vision, CV). Общаясь с ними, я пришел к выводу, что тем, кто занимается этими актуальными аспектами ИИ, не хватает представления об истории того предмета, которому они посвятили свою профессиональную жизнь. И тогда возникла идея – а не стоит ли попытаться заполнить обнаруженный пробел в историческом знании всего того, что кроется под зонтичным термином ИИ? Пришлось самому совершить погружение в историю, в результате которого появилась книга, адресованная, в первую очередь, специалистам, чья практическая деятельность так или иначе корреспондируется с тем, что принято называть ИИ.
Незаменимую роль в появлении этой книги на свет сыграла ее редактор Татьяна Грачева, моя давняя коллега (мы работали в издательстве «Открытые системы»). Мысль об обращении к ней за помощью возникла при весьма необычных обстоятельствах – это случилось ночью, в ковидной больнице, размещенной в 75 Павильоне ВДНХ. Наутро из того же невеселого места я написал ей в WhatsApp и к моей радости получил положительный ответ. Как показало дальнейшее, такое начало ни как не помешало созданию продуктивного альянса. Я глубоко благодарен Татьяне за ее заинтересованное участие и важные комментарии к тексту.
Я хочу выразить признательность моей жене, Наталье Гаранян, за ее поддержку и терпение. Думаю, что только она – клинический психолог с многолетним опытом смогла вытерпеть сложности того периода жизни, который бы я назвал «AI у нас дома» по аналогии с названием книги «Атом у нас дома», написанной Лаурой Ферми, женой великого физика.
О терминологии
Для более точного соответствия используемой в книге терминологии обсуждаемому предмету мы в дальнейшем откажемся от русскоязычного термина «искусственный интеллект» в пользу оригинального Artificial Intelligence (AI). ИИ перегружен несовременными смыслами, в русскоязычном варианте термина каждое из двух слов – и «искусственный», и «интеллект» – не полностью соответствуют оригиналу, что создает изрядную проблему.
Казалось бы, английское artificial с русским «искусственный» близки, но они далеко не тождественны. Подавляющая часть значений английского artificial (от art – искусство, мастерство) так или иначе связана с понятием «рукотворный», а в русском, как утверждают лингвисты, слово искусственный ведет происхождение из немецкого k?nstlich, значащего, скорее, поддельный или ненатуральный, и несет его оттенок. Показательно, в русском при всем его словарном богатстве нашлось место слову артефакт, подчеркивающему, что предмет рукотворен, что он сделан человеком. В английском Artificial Intelligence нет и намека сверхъестественную природу происхождения, использование artificial прямо указывает на то, что AI не какая-то неведомая материя, непонятным образом возникшая, способная возвыситься над человеческим разумом, чтобы творить что ей угодно по собственным правилам, а нечто более прикладное, сделанное талантом и трудом человека.
Еще большее расхождение обнаруживается между словами intelligence и «интеллект». Да, можно перевести intelligence как интеллект, но это всего лишь одно из значений этого далеко не простого слова. Чтобы убедиться в многозначности intelligence, достаточного обратиться к любому онлайн-словарю, например, популярному Multitran’у. Там наряду с «интеллектом» найдутся еще десятки самых разных переводов. Общим для всех них служит одно – извлечение информации и знаний из данных и фактов с последующим использованием результатов в прикладных целях. Поэтому идея получения полезных сведений из сырых данных, полученных тем или иным способом, объединяет совершенно разные области деятельности: и военную разведку (military intelligence), и бизнес-аналитику (business intelligence) и многое иное.
О дискурсивных полях
Книга написана с уверенностью в том, что AI – это очередной шаг в непрерывном процессе развития инструментальных средств человека, в процессе, который начался с создания примитивных орудий, продолжился средствами механизации физического, а с появлением компьютеров – и частично и умственного труда. AI позволяет еще дальше и глубже автоматизировать последний. За скобками оставлены философские подходы к AI, а также все, что связано с Общим и Сильным AI, в том числе концепции трансгуманизма и рассуждения об угрозах со стороны сверхразума и роботов-андроидов и т. п. Такой утилитарный подход к AI несомненно вызовет возражения, поэтому автор хотел бы заранее предупредить критиков – примите как факт – эта книга не для вас, если вы не согласны с авторской позицией, не читайте ее. Полемизировать на сей предмет не имеет никакого смысла.
Разброс мнений относительно AI, невероятно велик, как говорил древнеримский раб-драматург Публий Теренций Афр: «Сколько людей, столько и мнений». Нет и не может быть единственно правильной точки зрения, обсуждать проблемы AI можно только в пределах какого-то одного определенного дискурсивного поля. Напомним, что дискурсивное поле – это, по сути, сообщество единомышленников. Внутри любого дискурсивного поля образуется формальная или неформальная структура, состоящая из основателей, лидеров, активистов, приверженцев и попутчиков.
В России можно выделить несколько дискурсивных полей, так или иначе связанных с AI, некоторые из них имеют формальную организацию. Самое представительное поле образуют академические ученые, прежде всего математики. Многие из них входят в Российскую ассоциацию искусственного интеллекта (РАИИ), наследницу Советской ассоциации искусственного интеллекта, в ее составе заслуженные ученые: доктора и кандидаты наук из 45 регионов России. РАИИ проводит школы, симпозиумы, национальные конференции, ее члены участвуют международных конференциях, издает журнал «Новости искусственного интеллекта».
В существенно меньшее по численности поле входят ученые-философы, чьи интересы связаны с AI, их объединяет Научный совет РАН по методологии искусственного интеллекта и когнитивных исследований (НСМИИ и КИ). Деятельность совета включает проведение заседаний и теоретических семинаров и публикации трудов.
Есть несколько групп, состоящих из романтиков AI, часть из них концентрируется вокруг лаборатории робототехники «Сбера». Они связывают свою деятельность с Общим, или Сильным AI (Arificial General Intelience, AGI), поднимая примерно такие темы: «Может ли AI обладать сознанием?» «Может ли AI превзойти естественный интеллект?» Члены этого сообщества убеждены в том, что тест Тьюринга уже пройден существующими системами AI и что пора «разрушить стену Тьюринга» и ускоренными темпами создавать Сильный AI. Никто, правда, не уточняет, что представляет собой эта стена и почему ее надо разрушать. Они считают, что наступила пост-тьюринговская эпоха, когда человек знает, что общается с компьютером, и последний оказывается ему интереснее, чем другой человек.
И, наконец, есть огромное поле, состоящее из прагматически ориентированных специалистов, решающих реальные задачи, попадающие под определение AI. Их так много и область их деятельности так диверсифицирована, что дать общую характеристику этому полю не представляется возможным. Но можно выделить главное, как сказал известный специалист области машинного обучения Педро Домингес в своей книге «Верховный алгоритм» (The Master Algorithm): «AI – это планета, о которой мы только слышали, но теперь AI – это наша цель. Машинное обучение – это ракета, которая нас туда доставит, а ее топливо Большие данные (Big Data)».
Становясь частью современной индустрии, AI переживает сложный и неизбежный период, когда формируется обычное в таких случаях сочетание прикладной науки и инженерии, возникающее на основе предшествующих достижений в академической науке. Подобного рода трансформация теории в практику в прошлом наблюдалась неоднократно. В таких случаях с неизбежностью создается новый тип профессионального прикладного знания и возникает своего рода водораздел между академическим и инженерным знанием. Для практической инженерной работы обычно оказывается достаточным обладать ограниченным адаптированным набором прикладных знаний в сочетании с умением владеть нужным инструментарием, что же до избытка фундаментальных знаний, то порой он даже оказывается лишним. В качестве аналогии происходящему можно привести выделение в XIX и XX веках из физики таких сугубо инженерных областей как электротехника, строительная механика и других. Любой курс по теоретической электротехнике представляет собой не что иное, как выжимку из физики в сочетании с набором практик, необходимых для различных видов инженерной деятельности, от разработки до эксплуатации.
Признавая объективную необходимость упрощения, надо помнить об ограниченности инженерных знаний, иногда в процессе технических разработок возникают задачи, которые не имеют решения в рамках адаптированной инженерной модели, типичный пример проблема флаттера (возникновения вибрации). Авиационные конструкторы сами не смогли с ней справиться, потребовалась помощь со стороны физиков и математиков. Потеря связи инженерии с наукой в любой области грозит формированием того, что называют «монтерскими знаниями»: его носители успешно решают прикладные задачи, но при этом их не интересуют ни теоретические основы предмета, ни тем более его история. К сожалению, в носителей монтерских знаний превращаются многие из тех, кого называют чудовищным словом «айтишник». Трудно представить себе физика или химика, не знающего истории своей науки хотя бы в общих чертах, но, увы, среди тех, кто образует огромное дискурсивное поле, состоящее из практиков AI, знание истории этого предмета минимально, если оно вообще есть.
Книга представляет собой попытку раскрыть прикладным специалистам исторические предпосылки появления современного AI, не претендуя на большее. Она может вызвать справедливую критику со стороны представителей других дискурсивных полей, но, повторюсь, книга адресована не им.
А закончить это введение хотелось мечтой. На протяжении десятков лет в работе над AI принимали участие удивительные люди, яркие личности, их связывали сложные отношения, они испытывали триумфы побед и горечи поражений, судьба была более благосклонна к одним и несправедлива к другим. Чем не сюжет, например, для сериала на много сезонов? Как знать, может быть, кто-то и реализует эту мечту.
Глава 1 AI – От мечты к обыденности
Люди издревле стремились переложить часть своего труда на машины: первые ткацкие станки, обнаруженные археологами, относятся к 10-му тысячелетию до н. э., водяные мельницы появились в античные времена, а ветряные примерно тысячу лет назад. В последние два-три столетия процесс механизации и в последующем автоматизации пошел с постоянным ускорением, научившись использовать энергию пара, а затем и электричества люди смогли расширить сферу механизации от бытовых приборов до промышленных установок самого разного типа и перейти к автоматизации физического труда. В XX веке компьютеры позволили сделать следующий шаг – автоматизировать еще и часть часть умственного труда, которую удается запрограммировать и передать компьютерам. В XXI веке с использованием AI удалось пойти дальше – передать машинами еще ту часть умственного труда, которая не может быть запрограммирована, и превратить компьютер в интеллектуального помощника, еще больше освобождающего человека от рутины, создать умные машины, выводящие на более высокий уровень автоматизацию производственных процессов. Такое утилитарное понимание роли умного AI сложилось совсем недавно, буквально в последние годы, а прежде на протяжении нескольких десятилетий доминировало более возвышенное, скажем так, романтическое отношение к AI, люди сохраняли убеждение в возможности наделить компьютеры сравнимыми с человеческими умственными способностям, например к доказательству теорем, игре в шахматы и т. п.
Три типа представлений об AI
Сосуществуют сотни и сотни противоречащих друг другу представлений о том, что такое AI, обнаруживаемых в различных произведениях, в диапазоне от философских трактов до технических статей. На одном фланге находятся футурологи с их фантазиями о технологической сингулярности, то есть о том гипотетическом моменте, с наступлением которого технологическое развитие становится неуправляемым и необратимым. По их мнению, такой ход событий неизбежен, и тогда развитие AI приведет к созданию надчеловеческого суперинтеллекта. Успокаивает то, что за этими рассуждениями не стоит ничего кроме вольной экстраполяции существующих тенденций, наблюдаемых в техническом прогрессе. На другом фланге ученые и инженеры, работа которых связана с прикладными методами моделирования работы мозга, в их основе лежат искусственные нейронные сети (ANN, Artificial Neural Network) и их машинное обучение (ML, Machine Learning). Такие работы лишены внешней привлекательности, они мало доступны для понимания без достаточной подготовки, а их перспективы ограничены созданием умных интеллектуальных ассистентов и разного рода умных машин, в том числе роботов. Уже сегодня мы можем увидеть примеры их применения в медицине, в офисной работе, в промышленности, на транспорте и даже в быту.
Суммируя известные представления о типах AI, их можно классифицировать следующим образом:
• Супер AI, или ASI (Artificial Super Intelligence) Те, кто допускают возможность создания ASI, убеждены, что он рано или поздно может возникнуть, причем каким-то неведомым и не подвластным человеку образом. После этого он сможет не только воспроизводить любые способности человека и даже превзойти его во всех отношениях, более того ASI станет телепатом, он научится вникать в мысли и чувства человека и далее подчинить своей воле человечество. К счастью ASI существует разве что в творениях писателей-фантастов, работающих в жанре дистопии (антиутопии) и в трудах некоторых философов. Оставим писателям возможность творить, а из числа философов, приверженцев идеи ASI, наибольшую известность приобрели швед Ник Бострем (Nick Bostrom, 1973), работающий в Оксфордском университете, и австралиец Дэвид Чалмерс (David Chalmers, 1966). Заметим, что авторитет Чалмерса у некоторых философов вызывает сомнение, его книгу «Создающий ум» Джон Серл назвал «коллекцией абсурдов» (О Серле будет сказано ниже.). К числу не философов, однако прежде допускавших возможность появления ASI можно отнести известного предпринимателя Илона Маска и Билла Джоя, разработчика программного обеспечения для UNIX и сооснователя компании Sun Microsystems. В 2000 году на пике славы этой компании в журнале Wired была опубликована статья Джоя «Почему мы не нужны будущему» (Why the future doesn't need us), поначалу она привлекла к себе большое внимание, но спустя 20 лет о ней, как и о компании Sun, не вспоминают, а сам Билл Джой больше на темы ASI не высказывался. Что же касается Маска, то он явно изменил свою позицию, причем настолько, что недавно признался в ошибочности своего намерения довести в ближайшее время автономность автомобиля Тесла до теоретически максимального возможного уровня (Level 5), что уж говорить о более высоком. Показательно, что тема ASI вовсе не привлекает к себе внимание серьезных специалистов, она не обсуждается на серьезных конференциях по AI. Актуальных данных о ее популярности нет, но можно вспомнить прошедшую в 2006 году юбилейную «Дартмутскую конференцию по AI: Следующие 50 лет» (Dartmouth Artificial Intelligence Conference: The Next Fifty Years), где участникам был задан вопрос: «Когда по вашему мнению будет создан ASI?». Меньшинство (18 %) ответивших заявили, что это произойдет до 2056 года, оставшиеся голоса разделились поровну: 41 % после 2056 года, а еще 41 % – никогда. Оценивая эти и без того скромные результаты, следует еще принять во внимание два обстоятельства: во-первых, опрос проводился 15 лет назад, еще до случившегося за последние 10 лет революционного прорыва в области AI-приложений, и, во-вторых, среди участников конференции преобладали не связанные с практикой ветераны, отдавшие свои силы тому, что называют GOFAI (Good Old-Fashioned Artificial Intelligence), здесь идиому good old-fashioned можно перевести как «старый добрый» с обязательным оттенком иронии. Если бы аналогичный опрос проводился сегодня, когда вектор развития резко AI сместился в практическую сторону и в иной более прагматично настроенной аудитории, то наверняка уровень пессимизма по отношению к будущему ASI оказался бы существенно больше, не исключено, что многие из представителей современных, научных направлений вообще не поняли бы, о чем идет речь.
Сильный, или общий AI (AGI, Artificial General Intelligence) По степени разумности AGI стоит на ступень ниже ASI, его адепты убеждены в возможности создания машин, если не превосходящих уровень человека, то способных как минимум выполнять те же действия, что и человек. Эта точка зрения не менее спорна, чем позиция сторонников ASI, поскольку у человека и у машины совершенно разные способности. В чем резон попыток воспроизвести машинными средствами интеллектуальные или другие способности, присущие человеку? Человечество пошло иным путем, создавая машины, которые быстрее и лучше перемещаются по земле, в воздухе, на воде и под водой, не копируя то, как делают человек или животные, машине – машинное, человеку – человеческое, Что же до AI, то мы до сих пор толком не знаем, как устроен и как работает наш мозг, поэтому нет и не может быть системы оценок для сравнения способностей человеческого и искусственного мозга. Чаще всего сторонники AGI апеллируют к тезису Черча-Тьюринга, в предельно упрощенной трактовке постулирующего, что любая сведенная к алгоритмической форме задача может быть решена, если нет ограничений на время и объем памяти. Но кто и на чем основываясь может утверждать, что работу мозга можно полноценно алгоритмизировать? По оценкам, представленным Институтом глобальных рисков катастроф (Global Catastrophic Risk Institute) в отчете A Survey of Artificial General Intelligence Project for Ethics, Risk, and Policy (2017), в мире тема AGI не пользуется популярностью, насчитывается не более полусотни небольших коллективов, работающих в этом направлении, их труды не выходят за рамки теоретических разработок. В 2017 году издание IEEE Spectrum провело круглый стол «HLAI близко или далеко» (Human-Level AI Is Right Around the Corner – or Hundreds of Years Away) с участием десяти активно выступающих со своими прогнозами AI-оптимистов и AI-пессимистов в соотношении 5:5. Разброс мнений оказался чрезвычайно велик: оптимисты, среди них Рэй Курцвейл и Юрген Шмидхубер, верят в HLAI, но расходятся в оценках, одни готовы увидеть его в ближайшее десятилетие, а другие отводят срок на прядок больше, пессимисты же, представленные Кавером Мидом, Родни Бруксом и другими считают, что машинный и человеческий интеллект суть совершенно разные вещи и к ним не стоит подходить с общей меркой. Вывод один – если и ДА, что сомнительно, то не при нашей жизни.
Слабый, или узкий ANI (Artificial Narrow Intelligence) Слово узкий вообще-то подходит точнее, но ANI по-русски принято называть слабым, пусть будет так, но он все же узкий в том смысле, что системы с ANI обладают лишь отдельными качествами, позволяющими усмотреть в их поведении признаки разумности, они предназначены только для выполнения строго определенного узкого круга приложений. В отличие от ASI и AGI здесь невозможно никакое неподвластное человеку автономное поведение и самостоятельное развитие, системы, снабженные ANI, могут существовать только в той форме, в которой они были созданы человеком и находиться под контролем человека. Диапазон реализаций ANI распространяется от виртуальных помощников типа Алисы, Siri и им подобных до систем, работающих на компьютере IBM Watson, способных к игре Jeopardy! и к участию в медицинской диагностике. Даже такие мощные системы как Google Translation Engine или системы автономного вождения автомобилей самого высокого 5 уровня, буде они созданы, останутся в своей узкой нише, даже они не выйдут за пределы ANI. О масштабах ANI как явления, которое сейчас называют «электричеством XXI века» говорит такой факт – число стартапов, работающих в этой области во всем в мире превышает 10 тысяч, а объем бизнеса измеряется сотнями миллиардов долларов.
Тьюринг и AI
Имя Алана Тьюринга неотделимо от AI, чаще всего его связывают с возможностью создания думающей машины. В качестве подтверждения указывают на тест Тьюринга, он де позволяет судить о наличии интеллекта у машины. Но истинный вклад Тьюринга в дело AI намного значительнее, чем приписываемые ему общие рассуждения о возможности создания AI и теста. Еще в конце 40-х годов он предсказал практические пути, могущие привести к созданию «умной машины» (термина AI тогда еще не было), ни в малейшей степени не связанные с тестом. Мысли, высказанные более 70 лет назад, сегодня ценны с исторической точки зрения, но не только, основываясь на них, удается лучше понять нынешнюю ситуацию. Тьюринг, как пророк, совершенно точно предсказал два альтернативных подхода к AI: один «сверху-вниз» – этот подход мы сегодня называем символьным, а другой – «снизу-вверх», мы его называем коннекционизмом, заимствую термин из науки когнитивистики. Дальнейший процесс развития AI принял форму параллельной эволюции (коэволюцию) двух спрогнозированных Тьюрингом подходов, в рамках каждого сложился свой поток событий, во взаимосвязи они образуют историю AI. В этих условиях задача автора книги свелась к изложению событий, связанных с символьным и коннекционистским подходами.
О Тесте Тьюринга
Но начнем с теста и его места в истории AI. Сегодня о нем чаще всего вспоминают в связи с проводимым с 1990 года соревнованием Loebner Prize, где участвуют программы, претендующие на прохождение теста, жюри оценивает удалось им это или нет. Приз был учрежден изобретателем и социальным активистом Хью Лебнером (Hugh Loebner, 1942–2016). За минувшие тридцать лет несколько программных машин-участников по мнению жюри смогли пройти тест Тьюринга, чем «доказали свою разумность».
Поначалу Loebner Prize рассматривали всерьез, даже сам праотец AI Марвин Минский некоторое время публично поддерживал это соревнование. Но спустя годы тот же Минский категорически отрекся, заявив, что прохождение теста не имеет никакого отношения к исследованиям в области AI, вскоре к такому же мнению пришли многие серьезные ученые. Это действительно так, потому что претенденты используют какие-то ухищрения дабы произвести впечатление разумности на жюри, не более того. В 2008 году этот трюк удался Жене Гусману, виртуальному мальчику из Одессы, созданному российскими программистами, тогда отечественная пресса взахлеб говорила о нем, а сейчас едва ли кто вспомнит об этом «триумфе». К настоящему времени Loebner Prize выродился в привлекательное для любителей соревнование, сравнимое с такими как гонки роботов в лабиринте или футбол с участием роботов.
Тест был описан Тьюрингом в статье «Вычислительные машины и разум» (Computing Machinery and Intelligence, 1950), а его идея и название заимствованы у домашнего развлечения, известного как «Игра в имитацию». Впервые статья с описанием теста появилась на страницах малотиражного сугубо философского издания Оксфордского университета. Его название Mind, что можно перевести как размышления, оно являет собой пример «чисто английского», сугубо академического сборника, периодически выходящего с 1876 года. Mind относится к категории journal, то есть ориентирован на более узкий круг читателей, чем magazine, но по-русски обоим соответствует одно слово – журнал. На страницах Mind публикуются философские статьи, которые не претендуют на математическую строгость и уж тем более на практическую реализацию описанного в них. Выбор Mind как места для «Вычислительных машин и разума» представляется странным и как-то не вполне согласуется с позиционированием Тьюринга в науке. Он человек дела, его работы – это сочетание математики с инженерией, например, та же Машина Тьюринга или применение байесовской статистики в криптографическом проекте Ultra. Не исключено, что статья так бы и осталась в анналах Mind, но в 1956 году, синхронно с появлением на свет термина AI она была извлечена на свет и перепечатана в антологии The World of Mathematics, далее первопроходцы AI возвели ее в культ.
Научный авторитет Тьюринга был и остается настолько высок, что на протяжении тридцати лет оспаривать статус теста не решался никто. Первым посягнувшим оказался профессор Калифорнийского университета в Беркли Джон Серл (John Searle, 1932), автор статьи «Сознание, мозг и программы» (Minds, Brains, and Programs, 1980). В ней он описал свой мысленный эксперимент Китайская комната, посредством которого показал возможность имитации разумного поведения, без наличия какого-либо интеллекта. Сначала труд Серла приняли в штыки, но после 2000 года на тест посыпался град критики.
Начало критике положил Дуглас Ленат (Douglas Lenat, 1950), создатель самой мощной и единственной существующей на данный момент экспертной системы Cyc, он назвал тест Тьюрига идиомой red herring, что буквально значит «копченая селедка». (Происхождение идиомы таково – эту пахучую селедку охотники использовали как отвлекающее средство при натаскивании бассет-хаундов, приучая собаку бежать по следу, не отвлекаясь на посторонний запах.)
Один из самых известных диджерати (слово digerati образовано сочетанием понятного digital и literati, так называют представителей литературной элиты) и автор термина виртуальная реальность Джарон Ларнье (Jaron Lanier, 1960) написал в New York Times: «Предположение Тьюринга, что прошедший тест компьютер обретает ум и становится человекоподобным, столь же нелепо как утверждение, что работающий на компьютере человек становится тупее и более похожим на него».
И даже сам Марвин Минский заявил в 2003 году, что, развиваясь по пути указанному Тьюрингом, AI дошел до состояния мозговой смерти, он использовал термин brain-dead.
Ярость, с которой новоявленные критики набросились на тест Тьюринга невольно вызывает в памяти строки Константина Бальмонта: «Тише, тише совлекайте с древних идолов одежды, слишком долго вы молились, не забудьте прошлый свет…». Те, кто только что молились на Тьюринга, и Минский в первую очередь, стали его ниспровергателями. Почему? Да потому, что они с выгодой для себя свели все его наследие Тьюринга в области AI к одной статье, а исчерпав ее потенциал, решили от нее избавиться.
Статья «Вычислительные машины и разум»
Прежде, чем перейти к более значимому труду, где Тьюринг действительно указал путь в будущее AI, зададимся вопросом: «Если тест оказался заблуждением, то как же в таком случае следует относиться к «Вычислительным машинам и разуму», где он изложен? При глубоком погружении в статью складывается непреодолимое ощущение, что перед нами образец джентельменского розыгрыша высокого класса, на который купились очень многие. Если читать статью в оригинале, то нельзя не заметить присутствие в ней британского юмора, не удается отделаться от впечатления о сознательной мистификации. Тьюринг провоцирует читателя, когда начинает с прямого вопроса: «Могут ли машины думать?», подцепив его таким образом на крючок, он в том же абзаце ловко заменяет этот вопрос на другой: «Может ли машина совершать действия, неотличимые от обдуманных действий?». Совершив эту очевидную подмену понятий, он нисколько не утруждает себя необходимостью доказывать тождество двух разных способностей – мыслить и имитировать мышление. Вот она, предпосылка к появлению систем, проходящих тест в конкурсе Loebner Prize и им подобных, которые могут лишь имитировать мышление, но никак не мыслить, поэтому-то они и не имеют никакого значения для развития AI. Странно, как же удавалось десятилетиями не замечать сознательной «мины» – намеренного отождествления двух совершенно разных способностей? Не признав статью розыгрышем, невозможно понять как такой трезвомыслящий человек как Тьюринг мог предложить столь поверхностный тест, основанный не на чем-то ином как на «Игре в имитацию».
Возникает естественный вопрос: «А не является ли сама статья игрой в имитацию?» В рассуждениях об имитации мышления он был не первым, еще Дени Дидро (Denis Diderot, 1713–1784) в «Философских мыслях» (1746) не без иронии написал: «Если мне покажут попугая, способного ответить на любой вопрос, то я без сомнения признаю его разумным существом». Что же до «Игры в имитацию», то была популярна в начале XIX века, в период Первой промышленной революции, которая породила не только новую моду, например на шляпы-цилиндры, форма которых адресует нас к паровой машине, но и тягу британских аристократов к науке и к разного рода интеллектуальным салонным развлечениям. По правилам этой игры две команды, разделенные ширмой, пытаются узнать что-то одна у другой друга посредством обмена записками.
Не только слово имитация, но и метод доказательства вызывают убеждение в том, что перед нами ни что иное как гениальная мистификация, здесь нарушена принятая в науке каноническая последовательность: от гипотезы к постановке задачи, а далее к доказательству. Вместо нее Тьюринг произвольным образом выбирает девять вольно подверстанных утверждений, из которых якобы следует, что создание думающей машины невозможно, а далее успешно опровергает их. И это доказательство? Наиболее серьезный из опровергаемых аргументов Тьюринг заимствовал у Ады Лавлейс, он изложен в записке, адресованной тем, кто пытались найти признаки разума в механической Аналитической машине Чарльза Беббиджа. Более детально о мыслях Ады Лавлейс относительно разумности Аналитической машины будет написано в Главе 3.
Трудно представить, чтобы Тьюринг не понимал слабости предложенной им модели рассуждений о думающей машине, конечно же, это была шутка. Однако приверженцы Сильного AI в нужный им момент превратили шутку в свой катехизис, можно удивляться тому, что философское сообщество тоже попалось на наживку и началась бесконечная схоластическая полемика о возможности или невозможности создания AI, превосходящего разум человека.
«Умная машинерия» и два подходах к AI
Другие электронные книги автора Леонид Черняк
Последний отзыв
Очень интересная!