Как автоматизировать работу с GigaChat | Интеграция с Telegram ботом
В сентябре прошлого года Сбербанк открыл для всех желающих доступ к GigaChat – диалоговая AI-модель, которая отвечает на вопросы, сочиняет тексты, пишет код и рисует картинки.
В нашей предыдущей статье мы описали как подключить GigaChat API к Albato.
Подключение GigaChat API к Albato позволяет автоматизировать работу с другими сервисами без необходимости написания кода, предоставляя автоматические ответы и решения задач.
Искусственный интеллект и автоматизация
Продукты искусственного интеллекта, такие как GigaChat, существенно упрощают решение различных задач.
С помощью ИИ можно делегировать обязанности по формированию ответов в электронной почте, анализу отзывов, созданию задач в CRM, а также автоматизации написания маркетинговых и продуктовых описаний. Также можно настроить Телеграм-бот, работающего на основе ИИ! Yandex.Mail, Google Sheets, Telegram, Tilda, WhatsApp, Bitrix24 – вот лишь некоторые из сервисов, с которыми можно интегрировать GigaChat.
Как использовать в связках
GigaChat для интеграций в Albato доступен в трех действиях.
Действия — это то, что делает Albato после запуска связки. Также действия позволяют передавать данные в другие сервисы и системы.
- Создать запрос к модели
- Создать запрос к модели с контекстом
- Работа с историей чата
Интеграция GigaChat с Telegram
Вы можете создать своего собственного телеграм-бота, который будет работать как ИИ помощник всего за 5 минут! Для этого нам понадобится два подключения и две связки.
Идем в раздел Подключения ищем среди сервисов Telegram и GigaChat. Нажимаем Добавить подключение и подключаем сервисы следуя инструкциям предложенным в окне.
Собираем нашего бота, как в конструкторе, с помощью «Связок» нужных нам сервисов.
Используем триггеры в виде входящих сообщений в Telegram, которые будем отправлять нашему боту. А в следующем шаге отправляем полученное сообщение от GigaChat . Получив ответ, возвращаем его также в Telegram.
В настройках GigaChat можем выбрать: модель работы ИИ, количество вариантов ответа и повторений слов.
Немного подробнее о выборе модели
Как видно на предыдущем скрине, внутри самого действия нужно также выбрать модель, так как у GigaChat есть несколько версий.
- latest – это 7b-8k – самая быстрая и простая модель, подойдет для тех, кто ценит скорость.
- Plus – это 7b-32k – идеальный выбор для проектов, где важен контекст, глубина анализа и скорость.
- Pro – это 29b-8k – отлично подходит для задач, требующих высокой степени интеллектуального анализа и понимания контента.
На этой странице, можно подробнее почитать про виды моделей.
Какие еще параметры можно настроить?
Контекст в ваших запросах помогает AI лучше понять, что вы ищете, и предоставить более точные и полезные ответы.
Температура выборки – диапазон выбора от 0 до 2. Чем выше значение, тем более случайным будет ответ модели. По умолчанию – 0.87.
Сколько использовать токенов? – максимальное количество токенов для генерации ответа 32k. По умолчанию- 512.
Распределение контекста в запросе происходит следующим образом:
8к = до 7к на вход + до 1к на выход
32к = до 31к на вход + до 1к на выход. Если передать больше, то модель “отрежет” и обработает информацию в рамках своего окна контекста
Обмен данными с GigaChat ограничен количеством доступных токенов. В среднем один токен состоит из 3—4 символов. Подробнее про токены можно прочитать в документации. А тут узнать про тарифы.
Варианты ответов – количество вариантов ответов, которые нужно сгенерировать для каждого входящего сообщения. Возможный диапазон 1 до 4.
Количество повторений слов – где 1.0 – ничего не менять, от 0 до 1 повторять уже сказанные слова, от 1 и далее не использовать сказанные слова. По умолчанию будет 1.07.
Чтобы бот слушался наших команд, а не реагировал на все подряд добавляем в наши связки Фильтры. Данный фильтр будет пропускать только прямые сообщения, а не ответы на сообщения (replay), они будут проходить в другой связке.
Далее создаем вторую связку для работы с историей чата. По аналогии с первой связкой используем триггер в виде входящих сообщений в Telegram, затем выбираем действие GigaChat Работа с историей чата и второе действие Telegram, чтобы отправить ответ ИИ обратно в чат.
Настройте действие для обработки запросов с использованием сохраненного контекста из предыдущих ответов. В поле История чата выберете предыдущий ответ модели.
Добавляем фильтр, чтобы в эту связку проходили данные только когда это ответное сообщение (replay).
Связки готовы! Запускаем и тестируем интеграцию.
Мы объединили возможности Telegram и GigaChat с помощью Albato. В данной интеграции ИИ обрабатывает сообщения, используя контекст и генерирует моментальные ответы. В результате мы получаем систему, где функциональность чата дополняется преимуществами генеративного искусственного интеллекта.
