Выбор LLM

Выбор осуществляется в разделе
«Продвинутые настройки», пункт «LLM модель»

При настройке и работе с системой на основе LLM (Большой Языковой Модели) одним из ключевых этапов является выбор оптимальной модели.

LLM служит «мозгом» всей системы: она отвечает за понимание пользовательских запросов, анализ информации и принятие решений.

Доступные модели#

На текущий момент система поддерживает интеграцию с двумя крупными API для работы с языковыми моделями:

⚠️ Соглашение об обработке данных

При использовании моделей необходимо учитывать политику компаний по хранению и обработке данных.

YandexGPT#

Модель, разработанная Яндексом, обучена специально для работы с русскоязычными текстами. YandexGPT подходит для задач, связанных с пониманием, генерацией и обработкой текстов на русском языке.

Выбор этой модели может повысить качество обработки запросов, сделанных на русском, за счёт специализированной подготовки модели.

Основные особенности YandexGPT:

• Специализация на русском языке, что улучшает точность и контекстное понимание запросов на русском.
• Разработана с учетом русской лингвистики, что может быть полезно для анализа и генерации текстов в различных русскоязычных проектах.

Openai#

Модели GPT-4 и GPT-4o от OpenAI являются лидерами по многим мировым бенчмаркам в области обработки естественного языка. Они демонстрируют высокую производительность в широком спектре задач, таких как генерация текстов, обработка сложных запросов и логические рассуждения. Эти модели могут быть предпочтительными для задач, требующих высокой точности и универсальности.

Особенности использования OpenAI:

• Мощные возможности анализа и генерации текста, что делает их предпочтительным выбором для многоязычных задач.
• Проксирование запросов: из-за геополитических ограничений доступ к API OpenAI может потребовать проксирования, что иногда увеличивает время отклика.

Продолжая пользоваться им, вы соглашаетесь с политикой openai отностительно хранения и обработки данных.

Рекомендации по выбору модели#

Каждая модель имеет свои сильные стороны и оптимальные сферы применения:

• Для задач на русском языке, требующих глубокого понимания лингвистики, лучше подойдет YandexGPT.
• Для многоязычных проектов или задач, требующих высокой точности и расширенного анализа текста, предпочтительна модель GPT-4 или GPT-4o от OpenAI.

Важно протестировать обе модели, чтобы определить, какая из них наиболее эффективно решает ваши задачи.