Промты
Как описать задание для модели — модель, системный текст, параметры, схема ответа, вопросы модели решений, параметры для кода.
Промт — сохранённое задание для модели: провайдер, модель, инструкция и параметры. По промту отправляет запрос и диалог, и программный интерфейс. Промты можно раскладывать по группам.
Основное
Имя для кода — по нему промт вызывают из программного интерфейса, поэтому наименование можно менять, не трогая код. Пишется как имя переменной: буквы, цифры и «_», первой не может быть цифра. У каждого промта своё имя, регистр букв не различается. Необязательно; у копии промта очищается.
Модель выбирается из доступных моделей провайдера. Под полем — сводка: что модель принимает, цены, поддерживает ли она схему ответа и рассуждения.
Температура — насколько случаен ответ. 0 модели не передаётся, и действует её значение по умолчанию.
Максимум токенов — предел длины ответа. 0 модели не передаётся, и действует её собственный предел.
Таймаут, с — сколько секунд ждать ответа, по умолчанию 180. Длинному ответу по схеме нужно больше.
Уровень рассуждений — сколько модель думает перед ответом. Пусто — уровень по умолчанию модели. У модели без рассуждений поле недоступно, а значение, которого модель не принимает, сервис отклонит.
Системный текст — инструкция модели: роль, задача, формат ответа.
При смене модели дополнительные параметры очищаются: они относятся к конкретной модели. При смене провайдера очищается и модель.
Схема ответа
Когда от модели нужны не текст, а данные, задайте схему ответа в формате JSON Schema. Модель вернёт один JSON-объект этой структуры.
Насколько строго модель держится схемы, видно в сводке модели:
строгая — структуру гарантирует сервис;
JSON — гарантирован JSON, но не структура;
в тексте — схема передаётся инструкцией, модель может от неё отступить.
Порции. Длинный список, например строки документа, модель может не вернуть за один ответ. Укажите массив схемы в «Массив по порциям» и размер порции в «Элементов в порции»: коннектор будет запрашивать порции, пока не придёт неполная, и склеит их в один ответ. 0 — весь ответ одним запросом. После 50 полных порций подряд запросы останавливаются — увеличьте размер порции.
Проверка суммы строк ловит пропущенные строки. «Сумма строк» — числовое поле элементов массива, «Итог» — поле с итогом. Если сумма по строкам расходится с итогом больше чем на «Допуск», ответ считается ошибочным.
Модель решений
Модель решений (например, openai/gpt-6-luna-decisions) не пишет текст, а выбирает ответы на вопросы: какой документ на снимке, есть ли на нём подпись, насколько он читаем. В сводке такой модели написано «Модель решений».
Вопросы задаются на странице «Вопросы» — так у модели решений называется страница «Схема ответа». Слева вопросы, справа варианты ответа на текущий вопрос.
Имя — под ним ответ приходит в результате, например
{"kind": "tape"}.Вид ответа: выбор варианта, да или нет, оценка по уровням. У «да или нет» варианты «Да» и «Нет» заданы заранее, к ним пишутся только описания. Варианты оценки — числа, например от 1 до 5. Сервис принимает от 2 до 10 уровней оценки и до 255 вариантов выбора, иначе запрос будет отклонён.
Вопрос — инструкция модели: что именно оценить. Это и есть задание модели, системный текст ей не нужен.
Когда выбирать (у оценки — «Описание уровня») — что значит вариант. Необязательно.
Повторное имя, пустой вариант или повтор уровня отмечаются у ячейки, и промт с ними не запишется.
Вкладка «JSON» показывает те же вопросы схемой ответа: правка на одной вкладке сразу видна на другой. Как вопросы записываются в схеме — в программном интерфейсе. Если схему нельзя показать таблицей, например в ней есть вложенный объект, таблица открывается только для просмотра и пояснит, что мешает, — такую схему правят на вкладке «JSON».
Что не нужно модели решений, в карточке недоступно: температура, максимум токенов, уровень рассуждений, дополнительные параметры. Порции и проверка суммы строк скрыты. Если они остались заполненными, например после смены модели, их видно: очистите их, иначе промт не запишется.
Системный текст и сообщение необязательны. Если они заданы, модель получает их вместе как часть того, что оценивает, рядом со снимками. Пишите туда контекст, например «снимок сделан при приёмке товара», а не указания: указания задаёт схема. Файлы — только изображения PNG, JPEG или WEBP, не больше восьми; одного снимка без текста достаточно.
Дополнительные параметры
Прочие параметры модели, например top_p. В списке — параметры, которые модель принимает по каталогу провайдера, но можно ввести и своё имя. Под таблицей — описание параметра.
Значения коннектор не проверяет: недопустимое отклонит сервис. Температуру и максимум токенов задавайте на странице «Основное».
Параметры для кода
Значения, которые задают в этой базе для кода, вызывающего промт: порог уверенности для ответа модели решений, ссылку на склад или организацию. Модель их не получает. Какие параметры нужны, сообщает разработчик кода, а читает он их функцией ПараметрыПромта.
Имя пишется по правилам имени для кода и в промте не повторяется.
Значение — число, строка, дата, булево или ссылка на объект базы. Тип выбирается при первом вводе; чтобы сменить его, очистите значение. Пустое значение означает «в этой базе не задано».
Описание — что задаёт параметр, для того, кто будет его менять.
Копия промта получает параметры вместе со значениями.