OnlySpans / PolyLeads

3 stars 0 forks source link

v0.2.0 | Интеграция с LLM #80

Closed nikitakaralius closed 4 months ago

nikitakaralius commented 4 months ago

Функционал

Добавляем интеграцию с YandexGPT. Необходимо добавить абстракцию ILLMClient, которая будет позволять отправлять нам запросы. Реализацией будет YandexGptClient : ILLMClient. Получение результата должно быть реализовано через Stream - его и надо возвращать в интерфейсе.

По возможности, понять, как сделать apiKey один раз и добавить его в appsettings. Если такой возможности не предвидится, то надо будет сделать политику автоматического обновления токена, когда тот истек.

Соотвественно, все credentials, необходимые для взаимодействия с сервисом, добавить в appsettings, завести record для их чтения.

Тестирование

Для тестирования надо подергать это дело из сваггера. При этом код с вызовом не должен попасть в dev - это просто проверить у себя и все.