Главные российские ИТ-тренды – 2024: дайджест
Дмитрий Дырмовский, CEO группы компаний ЦРТ (занимает второе место на рынке ИИ по версии CNews), основываясь на статистике заказчиков своей компании, отмечает повышение интереса к речевой аналитике и диалоговым ассистентам. «Направление диалоговых ассистентов – текстовых и голосовых роботов для банков, телекомкомпаний, госсектора – в 2022 году выросло на 90 % по сравнению с 2021 годом; развивались проекты по голосовому заполнению медицинских протоколов», – говорит он. Второе по количеству проектов направление ИИ в российских компаниях и в госсекторе – распознавание изображений и компьютерное зрение, отмечает Дырмовский.
По оценке Александра Корнева, операционного директора Rubbles, доля собственной и заказной разработки на российском ИИ-рынке измеряется десятками процентов: «Это связано с тем, что для многих западных решений, ушедших с рынка, нет прямых российских аналогов. То есть у заказчиков нет другой возможности, кроме разработки с нуля – самостоятельно или с привлечением аутсорсера».
«Многие ведущие российские компании разных отраслей – металлурги, энергетики и даже РЖД – внедряют собственные разработки по ИИ для оптимизации ИТ-архитектуры и операций, – говорит профессор департамента бизнес-информатики Высшей школы бизнеса НИУ ВШЭ Петр Панфилов. – И чаще всего они пользуются библиотеками из open source. Алгоритмы, на основе которых строятся ИИ-решения, универсальны – математика не делится на западную и отечественную. Российские математики сильные, и у разработчиков ПО есть очень продвинутые решения. Наша проблема в ИИ, как и во многом другом, – долгий, а зачастую и непреодолимый путь от разработки до промышленного внедрения».
«В России фундаментальными исследованиями в сфере ИИ занимаются не только университеты, но и ряд компаний. К примеру, исследователи из "Яндекса", "Сбера", "Тинькофф" регулярно публикуют свои результаты на ведущих конференциях по ИИ. Уверен, что если инвестиции в такую работу сохранятся, то скоро появятся прорывные методы, разработанные уже нашими учеными», – полагает Евгений Соколов.
ЗАКОНЫ И ЭТИКАВ 2022 году в мире было принято 37 законов, регулирующих разработку и применение систем ИИ. На диаграмме видно, как госрегулирование отрасли усиливается в последние годы. По оценке EY, совокупные затраты компаний списка Fortune 500 на комплаенс в сфере данных в 2022 году могли составить $8 млрд[23]. «Сейчас более 100 юрисдикций – страны, штаты и города – вводят собственные законы о персональных данных. Это дополнительно отягощает прохождение лабиринта регуляторных требований, в котором может заблудиться практически любая глобальная компания, взаимодействующая с потребителем. Все это сравнимо с появлением нового налога: большие расходы, большие риски, сложность выполнения требований и невозможность от него уйти», – пишут эксперты EY[24].
Одной из главных вех в регулировании этой сферы стало появление в 2018 году общего регламента ЕС о защите персональных данных, устанавливающего штрафы за нарушения в размере от €10 млн до €20 млн или от 2 до 4 % от глобальной выручки для компаний. За прошедшие годы примеру ЕС последовали и другие страны. В США законодательство о защите данных постоянно ужесточается, неуклонно приближаясь к европейскому. Понятно, что всех беспокоит риск утечек персональных данных, но какой вред человеку и обществу могут нанести машинное обучение и ИИ?
Известно, однако, что с цифровым разумом сопряжены особые риски: нарушение авторских прав, дискриминация, высокие энергозатраты и пр. В сфере найма, например, ИИ отличает предвзятость в отношении женщин, расовых меньшинств и людей с ограниченными возможностями – ведь у них, как правило, послужные списки хуже. Компания Amazon потратила несколько лет и миллионы долларов на разработку механизма найма с использованием ИИ, а затем выбросила этот алгоритм, поняв, что не может устранить в нем дискриминацию женщин[25].
14 июня 2023 года Европейский парламент принял проект закона об ИИ[26], который серьезно ограничит использование программного обеспечения с ИИ для распознавания лиц, а также потребует от создателей систем ИИ, таких как чат-бот ChatGPT, раскрывать больше информации о данных, используемых при разработке их решений. Другое положение запрещает компаниям собирать биометрические данные из социальных сетей для наполнения баз данных ИИ. Эта практика вызвала пристальное внимание после того, как ее использовала компания Clearview AI – лидер в системах распознавания лиц.
Европарламентарии также добавили запрет на использование технологий определения эмоций правоохранительными органами, пограничными службами, на рабочих местах и в учебных заведениях. Ожидается, что окончательный вариант закона будет принят до конца 2023 года.
Проект закона предполагает запрет в ЕС разработок с неприемлемым уровнем ИИ-риска. Что касается разработок с ограниченным ИИ-риском, то главное требование к ним таково: пользователь должен быть осведомлен о том, что взаимодействует не с человеком, а с роботом. Компании с высоким уровнем риска по ИИ должны будут подчиняться правилам, среди которых, например, такие:
• внедрение системы управления рисками;
• контроль управления данными;
• техническая документация;
• надзор человека за работой ИИ;
• транспарентность и доступность информации для пользователей;
• кибербезопасность;
• аудит кибербезопасности;
• регистрация в одной из стран ЕС;
Оценка комплаенса основных моделей ИИ с проектом закона ЕС об искусственном интеллекте
• контроль отдаленных последствий.
Нарушения правил повлечет штрафы до €30 млн или 6 % глобальной выручки.
Ученые из Стэнфордского центра Hai (Human-Centered AI) проанализировали действующие модели ИИ с точки зрения их соответствия новым правилам ЕС. Почти половина из них не дотянула и до 24 баллов по 48-балльной шкале[27].
Исследовательская компания Gartner выделила в отдельный тренд 2023 года системы управления рисками в сфере ИИ (AI Trust, Risk and Security Management – AI TRiSM). В качестве примера этического контроля ИИ Gartner приводит Датское управление бизнеса (DBA), которое выработало специальные методы. DBA устанавливает системы мониторинга, а также конкретными действиями проверяет справедливость аналитики ИИ. С помощью этого подхода уже контролируется 16 моделей ИИ, которые применяются в финтехе с совокупным объемом транзакций в миллиарды долларов[28].
В России законодательства в сфере ИИ не существует. По мнению руководителя практики по авторскому праву компании DRC Владимира Ожерельева, в нашей стране регулирование ИИ, скорее всего, пойдет по пути централизации управления нейросетями в руках государства и крупных корпораций. «Мы наблюдаем это как минимум в последних изменениях норм об обработке биометрических данных. Примеры злоупотреблений в сфере распознавания лиц уже заметны», – говорит он[29].
В 2021 году в России был принят Кодекс этики в сфере искусственного интеллекта[30], который, правда, не является обязательным. Ряд компаний, например «Сбер», имеют собственные этические нормы для систем ИИ (см. врез ниже)[31].
7 августа 2023 Конгресс США принял законопроект об ИИ, который обяжет компании бигтеха делиться датасетами с научными коллективами и стартапами, занимающимися созданием интеллектуальных систем. Законопроект исходит из того, что сейчас финансовые ресурсы, необходимые для сбора, хранения и управления массивами из петабайтов информации, есть только у ИТ-гигантов. Если доступ к этим массивам будет и у научного и предпринимательского сообщества, ИИ-разработки ускорятся[32].
В мае 2023 года HBR опубликовал подборку статей ведущих профессоров разных дисциплин – от истории до сomputer science – на тему этичности систем ИИ. Их выводы пессимистичны: ИИ-приложения разрабатывают и используют без оглядки на такие моральные ценности, как справедливость и достоинство человека, достоверность информации, личная безопасность и неприкосновенность частной жизни.
«Разработчики в Кремниевой долине десятилетиями действовали по принципу “двигайся быстрее, сметая все на своем пути”, – пишет Маргарет O’Мара, руководитель кафедры истории Университета Вашингтона. – Видеоигры в 1980-х, онлайн-платформы шопинга в нулевые, затем социальные сети, а теперь вот разговорный ИИ». И пока не известно, сколько и чего наломают разработчики в сфере ИИ, если не поставить их в четкие рамки закона[33], заключает автор. В другой статье HBR Цедал Нили[34] напоминает, что непрозрачность является оборотной стороной использования этих мощных систем. И поэтому лидеры бизнеса должны особенно ответственно подходить к инструменту ИИ, всякий раз оценивая его риски и документируя, в каких задачах и с какой целью он был задействован.
Евгения Чернозатонская – ведущий эксперт Высшей школы бизнеса НИУ ВШЭ.
Языковые модели
Евгения Чернозатонская
Системы, подобные ChatGPT, способны поразить нового пользовтеля своими знаниями. Но есть ли им место в бизнесе?
В ноябре 2022 года сервис генеративного, то есть порождающего, интеллекта ChatGPT набрал 1 млн пользователей всего за пять дней. Сейчас на сайт сервиса ежемесячно приходит до 1,5 млрд обращений более чем от 100 млн пользователей. Стремительный взлет не остался не замеченным бизнесом: инструменты генеративных моделей стали примеривать к самым разным задачам. В недавнем докладе McKinsey[35] экономический потенциал генеративного ИИ, то есть систем, идеологически подобных ChatGPT, оценивается в триллионы долларов ежегодно. Впрочем, другие исследователи дают на порядок меньшие оценки. По прогнозу McKinsey, примерно три четверти прироста эффективности бизнеса придется на четыре функции компаний: работа с клиентом, продажи и маркетинг, разработка и внедрение софта и НИОКР. В одном только программировании и отладке софта исследователи видят прирост эффективности на 40–50 % за счет использования ИИ. GitHub провела опрос разработчиков софта, который показал, что ИИ-Сopilot, разработанный совместно с OpenAI и доступный на GitHub с 2022 года, к февралю 2023 года использовался для всех языков программирования и был применен в 46 % кода, написанного его адептами. 90 % респондентов опроса отметили, что подсказки и контроль кода со стороны Copilot ускорили разработку[36].
Дэвид Отор, профессор экономики в MIT, считает, однако, что делать прогнозы экономической ценности генеративного ИИ пока рано. Инструмент может оказаться совсем не таким волшебным, как видится сейчас. Во-первых, нельзя пока оценить риски ошибок и дезинформации, порождаемой ИИ, а во-вторых, его работа может выйти из-под контроля человека, предупреждает Отор[37].
Ажиотаж вокруг GPT несколько месяцев нарастал стремительно: в его подъем вложились не только СМИ, но и эксперты. Затем хайп сменился скепсисом. На страницах Sloan Management Review профессор Virginia Tech Ли Винсел написал: «Когда информация исходит от источников, известных своей способностью порождать технологический хайп, – консалтинговых фирм, поставщиков технологий и отраслевых аналитиков, – бизнес-лидеры должны быть настроены особенно критически». По мнению Винсела, академические публикации не дают никаких доказательств реального воздействия GPT на работу белых воротничков, а предсказания о том, что технологии отнимут у людей рабочие места, стары как мир. В условиях мирового ажиотажа вокруг больших лингвистических моделей руководителями компаний в основном движет эмоция FOMO (Fear of Missing Out), то есть страх оказаться в стороне), и Винсел советует им взглянуть на вещи трезво. Исторически, пишет он, новые ИТ-технологии, будь то текстовый процессор или CRM-система, действительно давали компаниям-первопроходцам конкурентное преимущество, но оно длилось лишь до того момента, пока подобный софт не начинали применять другие участники рынка, причем, как правило, это происходило довольно быстро[38]. А экономист Гэри Смит полагает, что недавнее заявление интеллектуалов о риске исчезновения человечества, связанном с ИИ[39], дополнительно разжигает хайп, придавая чрезмерное значение большим языковым моделям (Large Language Models, LLM). Заявления о гипотетических угрозах победы искусственного разума над естественным отвлекает людей от реальных проблем – достоверности и этики применения ИИ[40].
Известные теоретики бизнес-стратегий Мартин Ривз из BCG и Кристиан Стадлер из Университета Уорвик написали о собственном опыте: они обратились к ChatGPT за советами в построении стратегии. Общение не было бесполезным: рекомендации ИИ в целом были разумными. Главное – чтобы собрать тот массив знаний, который система выдала за считанные секунды, потребовалось бы многочасовое общение с группой экспертов. Их вывод: чтобы получить от ChatGPT нечто дельное, надо задавать правильные вопросы в правильной последовательности, самому быть экспертом, способным оценить валидность гипотез и рекомендаций ИИ. Есть статьи, которые дают рекомендации компаниям, если те решат применять LLM. Айзек Саколик, в прошлом CIO в крупных компаниях и автор книг, опубликовал подборку мнений экспертов из компаний разных отраслей о том, как получить пользу от языковых моделей[41].
1 СОВЕТ
Изучите возможности LLM в своих основных инструментах. За последние несколько месяцев многие ведущие поставщики софта объявили о том, что встроили ИИ и LLM в свои платформы. Вот несколько примеров.
• Microsoft 365 Copilot добавлен в Word, Excel, PowerPoint, Outlook и Teams. Получив задание вроде «Расскажи команде о том, как мы обновили продуктовую стратегию», Copilot проанализирует вашу переписку, заметки и протоколы встреч и создаст обновленный статус на основе всех 365 приложений Microsoft.
• Adobe Firefly – генеративный искусственный интеллект, который рисует и редактирует картинки по описанию; интегрирован с Photoshop, Illustrator и Adobe Express.
• Salesforce объявила об AI Cloud с интеграциями в свои основные CRM-продукты, Slack и Tableau.
• GitHub Copilot соединен с IDE и предлагает подсказки и редактирование кода.
• Google Duet AI для Google Cloud объединяет помощь в написании кода, ассистента в чате и возможности AppSheet.
• Компания облачных вычислений ServiceNow обещает интеграцию с Microsoft Azure OpenAI Service и OpenAI API LLM. В мае 2023 года ServiceNow заключила партнерство с Nvidia для создания индивидуальных ИИ-систем для компаний (в противовес универсальным инструментам от OpenAI, Google и других компаний бигтеха).
2 СОВЕТ
Получайте быстрые ответы, но помните, что не всем им можно верить. Основное применение ChatGPT и LLM – составление текста и ответы. Не нужно долго собирать информацию, читая источники: нейросеть даст развернутую справку по любой теме. Маркетологи пользуются этим в коммуникации с клиентами, а службы персонала – в переписке с кандидатами на вакансии и сотрудниками. Считается, что LLM увеличат производительность труда этих служб. Однако нельзя забывать, что способность этих моделей к порождению текста превосходит их умение отличать достоверные данные от ложных сообщений. Иногда ошибки чудовищны, но чаще они малозаметны.
Создатели модели GPT пока не нашли способа бороться с ее «галлюцинациями». Более того, иногда, улучшая одну способность модели, они непреднамеренно снижают другие. Недавнее исследование ученых из Стэнфорда показало, насколько «поглупела» GPT4: версия марта 2023 года правильно отвечала на вопрос «Число 17 077 простое?» в 97,6 % случаев, а июньская версия – лишь в 2,4 % случаев[42]. Кроме того, надо помнить, что GPT-3,5, которая лежит в основе ChatGPT, обучена на данных до сентября 2021 года и потому не знает ничего о том, что произошло позднее. В целом модели могут обеспечить лишь предварительный драфт, но не дать окончательный ответ. По словам юриста и колумниста ресурса abovethelaw Джонатана Вулфа, GPT-4 отвечает на юридические вопросы на уровне стажера, закончившего первый курс обучения со средним баллом «три»[43].
3 СОВЕТ
Используйте LLM для переработки информации. В разных отделах компаний накапливается масса специализированной информации, из которой непросто вычленить самое важное. LLM в состоянии облегчить поиск и восприятие контента для клиентов и сотрудников. Она поможет быстрее разобраться в объемных инструкциях по продукту и учебных пособиях для операторов. Другое применение – быстрое решение операционных проблем. Скажем, устранение неполадок в работе многоцелевой базы данных может потребовать значительных временны́х затрат, а генеративный искусственный интеллект быстрее справится с этой проблемой, считает Дейв Пейдж, вице-президент и главный архитектор баз данных в EDB. Фил Ти, генеральный директор и соучредитель Moogsoft, предостерегает: машинное понимание может быть иллюзорным. «ChatGPT и другие LLM дают технические советы и объясняют сложные процессы на доступном уровне, – говорит Ти. – Но узнать о том, что некий набор шагов способен решить вашу проблему, – это не то же самое, что понять, нужны ли эти шаги сейчас. Слишком полагаться на LLM опасно».
4 СОВЕТ
Не делитесь важной информацией на общедоступных LLM-платформах. Проблема с ChatGPT и многими другими инструментами ИИ заключается в том, что введенная информация становится частью набора данных для обучения модели. Вашими данными могут воспользоваться конкуренты. А загрузив данные клиента в целях персонализации предложения, компания рискует нарушить законы. Поэтому перед экспериментами с ИИ изучите законы и политику своей компании в сфере данных и ИИ и раскройте цели эксперимента, как того требуют правила[44]
Конец ознакомительного фрагмента.
Текст предоставлен ООО «Литрес».
Прочитайте эту книгу целиком, купив полную легальную версию на Литрес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.
Примечания
1
HarmonyOS и EulerOS планируют сделать ведущими операционными системами в мире – новую программу утвердили в Шэньчжэне // Ixbt.com, 31 июля 2023 (https://www.ixbt.com/news/2023/07/31/harmonyos-i-euleros-planirujut-sdelat-vedushimi-operacionnymi-sistemami-v-mire-novuju-programmu-utverdili-v.html). Дата обращения: 22.09.2023.
2
Попова, Мария. Цифровизация бизнеса расширяет источники получения прибыли // РБК, 30 августа 2023 (https://plus.rbc.ru/ news/64ee048e7a8aa992eea5582c). Дата обращения: 22.09.2023.
3
Белая книга цифровой экономики 2022 // АНО «Цифровая экономика» (https://files.data-economy.ru/Docs/White_Book.pdf). Дата обращения: 22.09.2023.
4
См. ссылку 3.
5
Microsoft перестанет продлевать подписки корпоративным клиентам из России // РБК, 10 августа 2023 (https://www.rbc.ru/ technology_and_media/10/08/2023/64d4e8049a79476167215137?ysclid=lmuslq0zbl715237476). Дата обращения: 22.09.2023.
6
Стратегия ERP в текущих условиях. Подходы к развитию ERP-систем: выбор российского бизнеса 2023 г. // Технологии доверия (https://data.tedo.ru/technology/erp-strategy.pdf). Дата обращения: 20.09.2023.
7
Соловьев, Михаил. Более 90 % компаний в России перейдут на открытое ПО: когда, как и зачем // РБК, 8 августа 2022 (https:// trends.rbc.ru/trends/industry/cmrm/62f0d5df9a7947b8539c9fed). Дата обращения: 20.09.2023.
8
Исследование: свыше 90 % компаний России будут использовать ПО с открытым кодом к 2026 году // ТАСС, 2 ноября 2021 (https://nauka.tass.ru/nauka/12829557). Дата обращения: 22.09.2023.
9
Уход зарубежных вендоров ускорил процесс импортозамещения // АРПП, 19 мая 2023 (https://arppsoft.ru/catalog/news/it/13779/). Дата обращения: 22.09.2023.
10
Гохберг, Леонид, Соколов, Александр, Чулок, Александр и др. Глобальные тренды и перспективы научно-технического развития Российской Федерации: краткие тезисы: докл. к XVIII Апр. междунар. науч. конф. по проблемам развития экономики и общества. М.: Изд. дом Высшей школы экономики, 2017 (https://issek.hse.ru/data/2017/04/10/1168355206/Global_trends.pdf). Дата обращения: 22.09.2023.
11
Ениколопов, Рубен, Стельмах, Иван. Дискуссия «Экономические эффекты искусственного интеллекта» // Просветительские дни РЭШ – 2023 (https://www.youtube.com/watch?v=jkguwhxl5fM&t=1971s). Дата обращения: 10.09.2023.
12
IDC Worldwide Artificial Intelligence Spending Guide 2023 – Forecast 2023 //idc.com (https://www.idc.com/getdoc. jsp?containerId=prUS50454123). Дата обращения: 10.09.2023.
13
Artificial Intelligence (AI) Market Size, Growth, Report By 2032 // Precedence Research, 2023 (https://www.precedenceresearch.com/ artificial-intelligence-market). Дата обращения: 10.09.2023.
14
Generative AI Market Size. Global Industry, Share, Analysis, Trends and Forecast 2022–2030 // Acumen. 2022 (https://www. acumenresearchandconsulting.com/generative-ai-market). Дата обращения: 10.09.2023.
15
Artificial Intelligence Index Report 2023 // Stanford University, Human-Centered Artificial Intelligence, 2023 (https://aiindex.stanford. edu/wp-content/uploads/2023/04/HAI_AI–Index-Report_2023.pdf). Дата обращения: 10.09.2023.
16
Chakravorti, Bhaskar. Why AI Failed to Live Up to Its Potential During the Pandemic // HBR, 17 марта 2022 (https://hbr.org/2022/03/why-ai-failed-to-live-up-to-its-potential-during-the-pandemic). Дата обращения: 10.09.2023.
17
Davenport, Thomas, Bean, Randy, Jain, Shail. Why Your Company Needs Data-Product Managers // HBR, 13 октября 2022 (https://hbr. org/2022/10/why-your-company-needs-data-product-managers). Дата обращения: 10.09.2023.
18
Cooban, Anna. AI investment is booming. How much is hype? // CNN, 23 июля 2023 (https://edition.cnn.com/2023/07/23/business/ai-vc-investment-dot-com-bubble/index.html). Дата обращения: 10.09.2023.
19
Королев, Никита. Искусственный интеллект пошел на убыль // Коммерсантъ, 18 января 2023 (https://www.kommersant.ru/ doc/5773647). Дата обращения: 10.09.2023.
20
Ассоциация Финтех. «Применение технологий искусственного интеллекта на финансовом рынке». 31 июля 2023 (https://www. fintechru.org/analytics/issledovanie-primenenie-tekhnologiy-iskusstvennogo-intellekta-na-finansovom-rynke/). Дата обращения: 10.09.2023.
21
Ткачев, Иван, Парфентьева, Ирина. Герман Греф – РБК: «Пришлось научиться планировать и жить вкороткую» // РБК, 14 июня 2023 (https://www.rbc.ru/economics/14/06/2023/648050839a79477c585f6318?from=column_1). Дата обращения: 10.09.2023.
22
Анищук, Наталья. Искусственный интеллект изменит мировую экономику // CNews, 22 июня 2023 (https://corp.cnews.ru/reviews/ ii_2023/articles/iskusstvennyj_intellekt_izmenit). Дата обращения: 10.09.2023.
23
How to prepare for global data compliance // EY, 4 мая 2021 (https://www.ey.com/en_us/consulting/how-to-prepare-for-global-data-compliance). Дата обращения: 10.09.2023.
24
Там же.
25
Dastin, Jeffrey. Amazon scraps secret AI recruiting tool that showed bias against women // Reuters.com, 11 октября 2018 (https://www. reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G). Дата обращения: 10.09.2023.
26
Artificialintelligenceact.eu (https://artificialintelligenceact.eu/developments/). Дата обращения: 10.09.2023.
27
Bommasani, Rishi, Klyman, Kevin, Zhang, Daniel, Liang, Percy. Do Foundation Model Providers Comply with the Draft EU AI Act? // Stanford University Center for Research of Foundation Models, 15 июня 2015 (https://crfm.stanford.edu/2023/06/15/eu-ai-act.html). Дата обращения: 10.09.2023.
28
Top Strategic Technology Trends 2023 // Gartner, 2023 (https://emtemp.gcom.cloud/ngw/globalassets/en/publications/documents/2023-gartner-top-strategic-technology-trends-ebook.pdf). Дата обращения: 10.09.2023.
