История чата

[Таблица Данных] Добавьте историю чата, на основе контекста которого нейросеть должна сгенерировать ответ. Указанная таблица данных должна содержать колонки с именами «Role» и «Content«. При отсутствии таких колонок в качестве «Role» будет использована первая колонка таблицы, в качестве «Content» — вторая колонка. В колонке «Role» можно указать только одно из следующих значений: system, assistant и user. Роль system предназначена для настройки тональности и базовых установок нейросети, например с ролью «system» можно написать «You are helpful assistant on used cars selection. You know everything on how to choose the best deal for used car». С ролью «assistant» рекомендуется включать предыдущие сообщения, сгенерированный самой нейросетью. С ролью «user» рекомендуется включать реплики, написанные пользователем-собеседником. Более старые сообщения должны быть размещены в начале таблицы, более новые — в конце таблицы. Колонка «Content» должна содержать само сообщение. Данное свойство можно оставить пустым, тогда генерация будет выполнена только по содержимому свойств «Роль» и «Запрос».

Запрос System

[Текст] Введите текст нового запроса к нейросети. Запрос будет выполняться с ролью system

Запрос User

[Текст] Введите текст нового запроса к нейросети. Запрос будет выполняться с ролью user

Модель

Выберите модель для генерации ответа

Свое название модели

[Текст] Укажите свое название модели, которую поддерживает Sherpa AI Server

Стоп-слова

[Текст/Список] Строка или список, содержащий не более 4 строк, которые остановят дальнейшую генерацию. Возвращаемый текст не будет содержать эти слова

Температура

[Число] Десятичное дробное число от 0 до 1, показывающее степень «случайности» или «креативности» результата, где 0 — наименее креативный результат, а 1 — максимально случайный. Для большинства творческих задач лучше подходит значение 0.7, а если вы хотите на один и тот же запрос каждый раз получать одинаковый ответ — установите значение 0.

Максимальная длина

[Число] Максимальная длина результата, выраженная в условных токенах. Для английского языка 1 токен — это 4 символа, для большинства других языков 1 токен — это 1 символ. Уменьшите это число, если хотите получать в среднем более короткие запросы, увеличьте для получения более длинных запросов. Учтите, что данное число ограничивает длину ответа, однако не обязательно полученный ответ будет указанной вами длины — в зависимости от содержимого запроса он может быть короче.

Автоограничение длины

При включении указанная максимальная длина длина будет автоматически скорректирована. Для этого вычисляется количество токенов в запросе и учитывается максимально возможное количество токенов для выбранной модели

.

Tools

.

ChoiceFunc

Таймаут

[Число] Максимальное время ожидания ответа в секундах. Реальное время ожидания зависит от выбранной модели, длины вашего запроса и прогнозируемой длины ответа, а также от текущей загруженности серверов. В случае превышения установленного предела ожидания возникает ошибка.

Роль ответа

[Текст] Роль, с которой ответила нейросеть

Ответ

[Текст] Текст ответа нейросети

Итоговая длина

[Число] Итоговая длина запроса и результата (объединенных вместе), выраженная в условных токенах

.

CalledTools

Уровень обработки

Выбор уровня обработки ошибок. Возможные значения: «Default» — по умолчанию; «Ignore» — ошибки игнорируются; «Handle» — ошибки обрабатываются. Если выбрано значение «Default«, то будет использоваться значение блока «Старт» данной диаграммы

Уровень сообщений

Выбор уровня сообщений, которые будут выводить блоки при работе. Возможные значения: «Default» — по умолчанию; «Release» — вывод отключен; «Debug» — вывод основной информации; «Detailed» — вывод подробной информации. Если выбрано значение «Default«, то будет использоваться значение блока «Старт» данной диаграммы

Текст ошибки

[Текст] Возвращает подробную информацию об ошибке в случае некорректного выполнения работы блока