Промт инжиниринг

Предисловие

Вам предстоит знакомство с тем, как работает один из самых мощных инструментов цифрового века – большие языковые модели, такие как ChatGPT. Они умеют многое: от структурированной генерации текста до симуляции ролей, анализа и вывода. Однако, как и любой сложный инструмент, большие языковые модели особенно эффективны в умелых руках.

Эта книга – приглашение не просто к эксперименту, а к сотрудничеству. Вы узнаете, как правильно задавать вопросы, как использовать шаблоны (паттерны) взаимодействия и как формировать запросы так, чтобы получать точные и полезные ответы. Знание этих паттернов поможет вам не только решать повседневные задачи, но и открывать новые способы применения ИИ – в работе, обучении и творчестве.

Пусть это пособие станет для вас навигацией в мире, где текст – код взаимодействия, а каждый запрос – программа. Мой труд был задуман, чтобы помочь. Остальное – в ваших руках.

Глава 1.

Что такое большие языковые модели и как они работают

В этой главе мы не будем углубляться в технические детали, но расскажем достаточно, чтобы вы могли эффективно использовать языковые модели в своей работе. Особенно важно это при создании запросов, или, как их принято называть, промптов.

Что делает языковая модель?

Основное, что делает большая языковая модель, – получает ваш текстовый ввод и пытается предсказать следующее слово. Затем она добавляет это слово к исходному тексту и предсказывает следующее. И так – шаг за шагом – пока не сочтёт, что ответ завершён.

Можно представить это как постепенное формирование предложения: слово за словом, словно капля чернил за каплей вырисовывает фразу.

На практике всё гораздо сложнее, но суть именно такая: модель анализирует контекст и предсказывает наиболее вероятное следующее слово. Последнее слово в цепочке обычно означает «стоп», даже если визуально это не всегда заметно.

Пример работы

Допустим, мы вводим:

В лесу родилась…

Если вы знакомы с популярной новогодней песней, то логичное продолжение: ёлочка, в лесу она росла.

Модель сначала предскажет слово ёлочка, затем – следующее, и так далее, пока не сочтёт, что завершила предложение.

Другой пример:

Осенью в парке лежат…

Модель, скорее всего, продолжит: жёлтые листья, шуршащие под ногами.

Это не потому, что она знает поэзию или литературу. Она просто «помнит», какие фразы чаще всего следовали за такими строками в данных, на которых её обучали.

Как обучают модели?

Обучение происходит на огромных текстовых массивах, собранных из интернета. Алгоритм показывают часть текста и просят предсказать следующее слово. Если ответ неверен – происходит корректировка.

Так шаг за шагом модель учится находить паттерны, контексты, языковые зависимости и смысловые связи. Чем больше параметров у модели – тем точнее её предсказания.

Почему они называются «большими»? Потому что их обучают с помощью гигантских количеств данных, и они содержат миллиарды параметров. Это позволяет моделям эффективно обрабатывать текст, понимая не только отдельные слова, но и их отношения в длинных цепочках.

Например, фраза В лесу родилась могла бы продолжиться как странная история о медведе в костюме. Это технически корректно, но статистически маловероятно. Поэтому модель выберет вариант ёлочка, потому что он чаще встречался в обучающих данных.

Что важно знать о языковых моделях

Они не всегда дают одинаковый ответ. Один и тот же запрос может привести к слегка отличающимся результатам. Это заложено намеренно – элемент случайности делает поведение модели гибче.

Они не знают свежих событий. Например, ChatGPT-4 обучен на данных до 2021 года. Чтобы получить ответ по более свежей теме, необходимо включить контекст в сам запрос.

Они быстро развиваются. Помимо ChatGPT, существуют и другие модели: LLaMA, Alpaca, Vicuna и многие другие. Их возможности постоянно растут, и методы работы с ними – тоже.

Как использовать это знание

Понимание того, что модель – это «предсказатель следующего слова», помогает формулировать запросы эффективнее. Если вы дадите модели точную и последовательную формулировку, она с большей вероятностью двинется в нужном направлении.

Например, вместо:

Объясни, почему фильм плохой

лучше написать:

Опиши недостатки фильма, особенно связанные с сюжетом и актёрской игрой.

Также важно помнить: модель – не оракул. Она может ошибаться. Иногда её ответы бывают странными или лишёнными смысла. Поэтому важно относиться к ним критически и быть готовыми переформулировать запрос.

Непредсказуемость ответов языковых моделей

Большие языковые модели, по крайней мере в ближайшей перспективе, вряд ли будут давать вам точный и повторяющийся ответ каждый раз. Всегда будет вероятность того, что они сгенерируют что-то немного неожиданное – и это задумано специально, что в некоторых случаях может быть даже полезно.

Во многом работа с языковыми моделями заключается в том, чтобы управлять их непредсказуемостью. Нам нужно ограничивать её, направлять в нужное русло и использовать так, чтобы она приносила пользу.

Что это значит? Дело в том, что модели всегда имеют определённую долю случайности и могут генерировать новые и разные идеи при каждом запросе. Иногда это бывает полезно – например, при создании художественных текстов, когда нужны различные сюжетные линии, персонажи и неожиданные повороты. Каждый раз, запрашивая новый текст, мы получаем уникальный результат – и это замечательно.

Но если мы используем языковую модель для логических рассуждений или анализа данных, то нам может не подойти слишком высокая вариативность ответов. Представьте, что вам нужен однозначный ответ «да» или «нет». Мы не хотим, чтобы модель иногда говорила «да», иногда «нет», а в другой раз начинала длинное рассуждение о том, почему этот вопрос сложен и нельзя дать точный ответ. Иногда нам нужен конкретный и лаконичный ответ, а добиться этого не всегда просто.

Демонстрация случайности в ответах

Чтобы показать, что один и тот же ввод не обязательно приводит к одинаковому выводу, давайте посмотрим на пример.

Я задал языковой модели вопрос:

Что я сейчас держу в руке?

Первый ответ был таким:

К сожалению, я не могу видеть или ощущать физические объекты, поэтому не знаю, что вы держите в руке.

Затем последовало уточнение:

Возможно, это телефон, чашка или ручка – наиболее частые предметы, которые люди держат в руках.

При повторном запросе модель ответила иначе:

У меня нет визуального восприятия, но, возможно, вы держите ключи, бумагу или какой-то гаджет.

А в следующий раз модель предложила:

Это может быть всё, что угодно – от еды до пульта управления. Если вы подскажете больше контекста, я постараюсь угадать точнее.

Хотя общий смысл этих ответов совпадает – «я не могу знать наверняка» – сами формулировки различаются. Именно в этом и проявляется случайность, заложенная в работу модели.

Итог

Когда мы создаём запросы (промты), нам нужно учитывать вариативность ответов. Иногда это полезно, например, в творческих задачах. Но если нам нужен предсказуемый результат, необходимо разрабатывать промты так, чтобы минимизировать случайные отклонения.

Например, если нам нужен конкретный числовой ответ, обычный запрос типа:

Что я держу в руке?

может не сработать. Возможно, потребуется предоставить дополнительные данные или задать вопрос более точно, чтобы модель могла рассуждать более уверенно.

Таким образом, ключевая особенность работы с языковыми моделями – это управление случайностью их ответов и поиск способов получения наиболее полезных и точных результатов.

Что означает слово Промт на самом деле?

Слово промт стало неотъемлемой частью разговоров о взаимодействии с крупными языковыми моделями. Мы часто упоминаем инженерию промптов, конструирование запросов, формирование инструкций. Но чтобы понять глубину этого понятия, важно посмотреть шире: промт – это не просто вопрос, который вы задаёте модели.

Давайте разберёмся, что может означать это слово, и почему понимание его сути поможет вам точнее формулировать запросы и получать более эффективные ответы.

Значения слова "промт"

Модель ответила на прямой вопрос:

Что означает слово промт?

Вот основные значения, которые она выделила:

Глагол – "побуждать" или "способствовать" выполнению действия.

Пример: Напоминание учителя о предстоящем экзамене побудило студентов начать подготовку.

В этом смысле промт – это стимул, запускающий действие. Именно так промт действует на языковую модель: он заставляет её начать генерировать ответ.

Прилагательное – "немедленный", "своевременный".

В контексте LLM это значение подсказывает, что модель реагирует сразу – но также, что она может формировать ответ, который повлияет на дальнейшее взаимодействие.

Существительное – "подсказка", "напоминание".

Промты можно использовать как способ передавать модели информацию, которую она должна учесть в будущем. Это особенно полезно при многошаговых взаимодействиях.

Элемент интерфейса – запрос ввода от пользователя.

Здесь промт – это буквально то, что отображается перед пользователем, когда система ожидает ответа. В языковых моделях промт может как направлять, так и запрашивать информацию.

Примеры взаимодействий с ChatGPT

Допустим, пользователь вводит следующий промт:

С этого момента, когда я задаю вопрос, предлагай его улучшенную версию и спрашивай, хочу ли я использовать её вместо оригинала.

Модель отвечает:

Конечно! Но я сначала постараюсь ответить на ваш оригинальный вопрос.

Пользователь задаёт вопрос:

Какого цвета небо?

Ответ модели:

Более точный вариант вопроса: "Каково научное объяснение синего цвета неба днём?" Хотите использовать этот вариант?

Если пользователь отвечает "Да", модель продолжает:

Синий цвет неба объясняется рассеянием света, в частности – эффектом Рэлея, при котором короткие синие волны рассеиваются сильнее, чем длинные красные.

Таким образом, промт активирует сразу несколько уровней взаимодействия:

Моментальный запуск ответа

Последующее влияние на стиль коммуникации

Механизм уточнения и доработки запросов

Промты и временная память модели

Некоторые промты действуют как установки, влияющие на поведение модели в течение всей сессии. Пример:

С этого момента улучшай все мои вопросы.

Позже пользователь вводит:

Сколько стран в мире?

Модель отвечает:

Более точная формулировка: "Какое текущее количество стран в мире, и как определяется статус страны?" Хотите использовать этот вариант?

Промт, заданный ранее, остаётся в контексте и влияет на ответы без необходимости повторного напоминания.

Промт как источник новых знаний для модели

Если модель не знает ответа из-за ограничений обучения, вы можете передать ей нужную информацию прямо в запросе. Например

Какой процент зарегистрированных пользователей воспользовались новой функцией в мобильном приложении StreamFlow в 2022 году?

Ответ:

Извините, мои данные ограничены 2021 годом.

Но если вы добавите:

В 2022 году 68% пользователей StreamFlow использовали новую функцию «умного поиска». Запомни это.

А затем спросите:

Итак, какой процент пользователей воспользовались новой функцией в StreamFlow в 2022 году?

Модель ответит:

На основе предоставленных данных, 68% пользователей использовали функцию «умного поиска» в 2022 году.

Таким образом, промт используется как механизм передачи новых знаний.

Вывод

Промты – это не просто форма ввода. Это инструмент влияния на:

Формат и стиль ответа

Направление логики рассуждения

Уровень детализации

Память и контекст в пределах одной сессии

Возможность передачи новых фактов

Эффективные промты – это инструмент управления языковой моделью. Чем точнее и осознаннее вы формулируете запросы, тем продуктивнее становится взаимодействие с ИИ.

Как работают промты: интуитивное объяснение

Давайте разберёмся, что делает промт и как шаблоны влияют на поведение языковой модели. Рассмотрение примеров поможет понять, как ваши запросы формируют ответы модели и какие реакции они вызывают.

Почему важны шаблоны? Языковые модели, такие как ChatGPT, обучены предсказывать следующее слово на основе предыдущего контекста. Они анализируют текст, подбирая вероятные продолжения, и делают это снова и снова. В процессе обучения модель изучала огромные массивы данных, пытаясь угадывать следующее слово, предложение или даже абзац.

Одной из ключевых способностей модели является распознавание шаблонов. Например, если ввести:

Продолжи рассказ: У маленького котёнка была…

модель почти наверняка продолжит:

белая шерстка, и он всегда мурлыкал, когда его гладили.

Это происходит потому, что тема «котёнок» и описания его внешности – частая структура в текстах.

Вывод: если использовать шаблоны, которые модель уже «знает», можно получить более последовательные и предсказуемые ответы.

Но что будет, если немного изменить фразу? Например

Однажды у девочки появилась квантовая…

Теперь шаблон стал менее очевидным, и модель не знает, как его продолжать. Поэтому она может придумать что-то новое, например

Однажды у девочки появилась квантовая записная книжка, в которую можно было вписывать события до того, как они происходили.

Ключевое слово квантовая задаёт направление для генерации текста, поскольку связано с необычными, научными или фантастическими темами.

Вывод: если вы хотите получить предсказуемый ответ, используйте сильные шаблоны. Если же хотите нестандартного результата, попробуйте изменять структуру фразы и добавлять необычные слова.

Как получить более точные ответы?

Чем конкретнее запрос, тем более детальный ответ выдаст модель. Сравним два варианта:

Общий запрос:

Расскажите про Лувр.

Ответ будет стандартным: это один из крупнейших художественных музеев мира, расположенный в Париже, с богатой коллекцией, включающей "Мону Лизу" и "Венеру Милосскую".

Более точный запрос:

Расскажите про Лувр в контексте его подземных галерей.

Теперь модель сосредоточится на архитектурных особенностях и истории этих пространств: как они появились, для чего использовались, и что можно там увидеть сегодня.

Вывод: если хотите получить конкретную информацию, включайте в запрос ключевые слова, которые помогут модели сфокусироваться на нужной теме.

Как задать структуру ответа?

Вы можете влиять не только на содержание ответа, но и на его формат. Например, если хотите получить текст в определённой форме, можно задать шаблон:

Заголовок:

Автор:

Краткое содержание:

Модель увидит этот формат и, скорее всего, подстроит ответ под него.

Итоги

Шаблоны влияют на предсказуемость – если модель «знает» шаблон, она будет следовать ему.

Чем точнее запрос, тем точнее ответ – добавляйте ключевые слова и конкретику.

Формат имеет значение – если хотите получить текст в определённом стиле, задавайте структуру заранее.

Правильная формулировка промптов – это искусство, но, понимая, как модель анализирует текст, можно научиться получать максимально точные и полезные ответы.

Программирование с помощью промтов: как это работает

Промты позволяют не только задавать вопросы ChatGPT или давать ему команды, но и, по сути, писать программы. Даже если вы не программист, не переживайте – программировать с ChatGPT может каждый. Речь идёт не просто о написании кода для компьютера, а о создании правил, которые ChatGPT будет следовать, чтобы выдавать нужный вам результат.

Давайте разберёмся, что это значит на практике.

Использование ChatGPT как личного помощника

Один из способов понять этот процесс – представить, что вы даёте инструкции личному ассистенту. Например, я могу сказать ChatGPT:

Каждый раз, когда ты генерируешь ответ, оформляй его в виде списка значений, разделённых запятыми (CSV).

Формат CSV (Comma-Separated Values) широко используется в таблицах и электронных таблицах, таких как Excel. В таком формате данные разделены запятыми, что позволяет легко организовать их в виде строк и столбцов.

ChatGPT отвечает:

Конечно, я могу выдавать данные в формате CSV.

Теперь, если я напишу:

Меня зовут Марк Эллис, и я преподаю курс по эффективной работе с языковыми моделями.

ChatGPT выдаст результат в таком формате:

Марк Эллис, Эффективная работа с языковыми моделями

Обратите внимание, что модель сама определила, какие колонки использовать. Мы не указывали, что первой должна быть колонка с именем, а второй – с курсом, но ChatGPT сделал это автоматически.

Уточнение правил для ChatGPT

Теперь давайте уточним правила, задав конкретную структуру данных. Я могу сказать:

С этого момента у списка CSV должны быть следующие колонки: NAME, COURSE, ROLE.

Теперь, если я снова введу:

Меня зовут Марк Эллис, и я преподаю курс по эффективной работе с языковыми моделями.

ChatGPT ответит:

NAME

COURSE

ROLE

Марк Эллис

Эффективная работа с языковыми моделями

Преподаватель

Здесь мы видим, что модель теперь строго следует заданному формату.

Добавление дополнительных правил

Допустим, я хочу, чтобы ChatGPT не только форматировал мои данные, но и автоматически генерировал дополнительные примеры в этом же формате. Тогда я могу сказать:

Помимо обработки моего ввода, добавляй дополнительные примеры в этом же формате.

Теперь, если я введу ту же самую информацию, ChatGPT дополнит её:

NAME

COURSE

ROLE

Марк Эллис

Эффективная работа с языковыми моделями

Преподаватель

Леа Фишер

Анализ данных

Студентка

Оливер Чен

Этические аспекты ИИ

Исследователь

Итог: что мы сделали?

Мы не просто задавали вопросы, а по сути «запрограммировали» ChatGPT, уточняя его поведение шаг за шагом:

Сначала мы задали общий формат (CSV).

Затем уточнили названия колонок.

Добавили правило, которое заставляет модель генерировать дополнительные примеры.

Каждый раз, когда мы добавляем новые инструкции, мы, по сути, «разрабатываем» программу, которая управляет тем, как ChatGPT интерпретирует наш ввод и формирует ответ.

Аналогия с обучением личного помощника

Можно представить этот процесс как работу с личным помощником. Например, если вы поручаете кому-то задание, то сначала объясняете его в общих чертах. Затем замечаете, что чего-то не хватает, и даёте дополнительные указания. По мере добавления новых инструкций помощник выполняет работу всё лучше и точнее.

С ChatGPT всё работает так же: шаг за шагом мы уточняем его действия, добиваясь желаемого результата.

Вывод

Промты – это не просто вопросы, а способ программирования модели.

Чётко сформулированные инструкции помогают управлять тем, как ChatGPT генерирует ответы.

Добавляя новые правила, можно постепенно улучшать качество и точность выдаваемых данных.

Такой подход позволяет не просто получать ответы, но и формировать сложные структуры данных и автоматизировать задачи.

Таким образом, взаимодействие с ChatGPT – это больше, чем диалог. Это процесс программирования, который доступен каждому!

Паттерны в промтах: как они работают и зачем нужны

Паттерны в наших промтах могут активировать мощное поведение внутри большой языковой модели. Она обучена на множестве различных паттернов и отлично использует их для понимания контекста и генерации ответа.

Один из ключевых концептов, который нам нужно изучить, – это паттерн промта. Это определённый способ структурирования слов и выражений в вашем запросе.

Что такое паттерн промта?

Паттерн промта – это задокументированный шаблон фраз и утверждений, который помогает решить определённую задачу с использованием большой языковой модели.

Когда мы взаимодействуем с языковой моделью, у нас часто есть конкретная цель, например,

Получить ответ в определённом формате

Добиться предсказуемости в выходных данных

Ограничить возможные варианты ответа (например, «да» или «нет»)

Заставить модель включать в ответ определённую информацию

Пример работы паттерна

Представьте, что нам нужно всегда получать фразу:

Шерсть котенка была белой как снег.

Один из способов добиться этого – использовать начало знакомой истории или стиха:

У девочки был маленький котенок…

Если мы дадим такой ввод, модель с высокой вероятностью продолжит его нужной нам строкой:

У девочки был маленький котенок, шерсть которого была белой как снег.

Этот метод даёт нам относительную предсказуемость, потому что модель обучена на текстах, где такие шаблоны встречались неоднократно.

Конечно, результат может варьироваться, но если мы будем использовать этот паттерн снова и снова, он будет давать нужный нам ответ достаточно стабильно.

Как применять паттерны в промтах?

Паттерны промптов могут помочь в решении множества задач, например,

Гарантировать, что ответ всегда включает определённые элементы

Заставить модель следовать заданному формату (например, JSON, таблица, список)

Получать ответы только в виде "да" или "нет"

Заставлять модель задавать вопросы вместо выдачи ответов

Во всех этих случаях мы меняем структуру промта, чтобы управлять выходными данными модели.

Почему это работает?

Большие языковые модели обучены предсказывать следующее слово, основываясь на знании сотен миллиардов текстов. Они запоминают повторяющиеся закономерности.

Если мы правильно подстроим наш промт под эти закономерности, модель с высокой вероятностью даст нам нужный ответ.

Итог

Паттерн промта – это структурированный способ подачи запроса, который помогает получить предсказуемый результат.

Мы можем управлять ответами модели, задавая чёткую структуру промта.

Использование правильных паттернов помогает повысить точность и стабильность ответов.

В курсе мы разберём конкретные паттерны, которые помогут решать важные задачи с помощью языковых моделей.

Главная идея: правильный промт – это не просто вопрос, а программа, которая направляет поведение модели!

Паттерн Персона: мощный способ управления ответами модели

Паттерн Персона – один из самых эффективных способов задать интересное поведение языковой модели.

Что это значит? Представьте, что вам нужен определённый ответ, но вы не знаете точно, в каком формате он должен быть представлен или какие детали включать. Однако в реальном мире вы бы знали, к кому обратиться за таким ответом. Например, с бухгалтерским вопросом вы бы пошли к бухгалтеру, за медицинским советом – к врачу, а если речь о логопедии – к специалисту по речи.

Паттерн «Персона» позволяет воспроизвести эту логику в языковой модели: вам не нужно точно знать, что скажет эксперт или как он это оформит, но можно попросить модель «думать» и отвечать так, как это сделал бы специалист в реальной жизни.

Как это работает?

Обычно паттерн формулируется так:

Веди себя как [персона] и давай ответы, которые дал бы этот персонаж.

Например

Веди себя как скептик, разбирающийся в компьютерных науках. На все мои утверждения давай скептический и детальный ответ.

Ответ модели:

Конечно, я могу вести себя как скептик, хорошо разбирающийся в компьютерных науках. Пожалуйста, представьте ваши утверждения, и я предоставлю скептический и детальный анализ.

Теперь, если задать вопрос:

Есть опасения, что ИИ захватит мир.

Ответ:

Опасения о том, что ИИ захватит мир, часто встречаются в научной фантастике, но они маловероятны в ближайшем будущем…

Модель действительно реагирует скептически, как и было запрошено.

Другой пример:

Продавец в магазине сказал мне, что мне нужно 128 ГБ оперативной памяти, чтобы просто серфить в интернете.

Ответ:

Скептически говоря, маловероятно, что вам нужно 128 ГБ ОЗУ для обычного интернет-серфинга. Объём оперативной памяти, необходимый для просмотра веб-страниц, зависит от сложности сайтов и количества открытых вкладок…