From 6960e87a5c26cdf1ac0678800dfc82d81df62953 Mon Sep 17 00:00:00 2001 From: Naeel Date: Thu, 12 Mar 2026 09:15:28 +0300 Subject: [PATCH] =?UTF-8?q?doc:=20AI=20provider=20decision=20=E2=80=94=20G?= =?UTF-8?q?roq=20default,=20no=20self-hosted=20LLM=20on=20VM?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- doc/decisions/log.md | 22 ++++++++++++++++++++++ 1 file changed, 22 insertions(+) diff --git a/doc/decisions/log.md b/doc/decisions/log.md index 897f618..d8f8670 100644 --- a/doc/decisions/log.md +++ b/doc/decisions/log.md @@ -709,3 +709,25 @@ REST API Gemini достаточен: один endpoint, один JSON запр - Существующие `.tf` файлы изменять не нужно. **Коммиты:** `d5ce8c2` (internal/ai + cmd/sless-plan), `582b589` (provider schema) + +--- + +## 2026-03-12 — Groq/OpenAI-compat как default AI провайдер, self-hosted LLM не поднимаем + +**Решение:** Groq — default AI провайдер (через OpenAI-compat API). Google Gemini — альтернатива (env `AI_PROVIDER=google`). Self-hosted LLM (ollama) — не устанавливаем на VM. + +**Причина:** +- `sless-plan` — **клиентский инструмент**. Запускается на машине разработчика, не на сервере оператора. Разработчик сам отвечает за наличие доступа к AI API. +- Self-hosted LLM на VM облака — чужая инфраструктура, нецелевое использование ресурсов, потенциальные трения с облачной командой. +- Groq — бесплатный tier, OpenAI-compat API (минимальный код), модель `llama-3.3-70b-versatile` достаточна для code review. + +**Будущее:** когда облако запустит свой LLM endpoint — добавить case `"cloud"` в `NewProvider`, endpoint из env. Stub `internal/ai/cloud_llm.go` уже есть. + +**Переменные окружения для разработчика:** +```bash +export GROQ_API_KEY=gsk_... # обязательно для Groq +export AI_PROVIDER=groq # default, можно опустить +export GROQ_MODEL=llama-3.3-70b-versatile # default, можно опустить +``` + +**Коммит:** `11b484e`