Перейти к основному содержимому
Версия: main

Выбор провайдеров

Слой выбора провайдеров скрывает от графа детали того, какая языковая модель, векторные представления, изолированная среда, поисковый сервис или генератор изображений доступны текущему пользователю.

Режим интерфейса и базы данных​

В обычной работе настройки берутся из текущего пользователя:

  • user.llm_id и user.fast_llm_id;
  • user.embedding_id;
  • user.sandbox_provider_id;
  • user.search_engine_id;
  • user.image_generator_id.

Провайдеры загружаются через соответствующие менеджеры и репозитории, затем кэшируются внутри слоя выбора.

Режим командной строки​

CliRuntimeResolver загружает настройки из giga_agent.conf.json через load_cli_conf() и создаёт служебного пользователя cli@giga-agent.local.dev. В этом режиме доступность определяется файлом конфигурации, а не записями в базе данных.

Проверяемые признаки доступности:

  • has_llm;
  • has_fast_llm;
  • has_embedding;
  • has_sandbox;
  • has_search_engine;
  • has_image_generator.

Почему это важно​

Модуль не должен самостоятельно угадывать, настроен ли провайдер. Правильный порядок:

  1. Получить слой выбора провайдеров из конфигурации или текущего запроса.
  2. Проверить нужный признак доступности.
  3. Вернуть инструмент только если необходимый провайдер есть.
  4. В документации писать “доступно при настроенном провайдере”, а не “всегда доступно”.

Файл настройки командной строки​

giga_agent.conf.json использует понятные поля: llm, fast_llm, embedding, sandbox, search_engine, image_generator, user_settings. Для подключения (в коде — connector) и модели используется поле __type и настройки провайдера.

Секреты из giga_agent.conf.json не должны попадать в систему контроля версий.