Compare commits
7
Commits
| Author | SHA1 | Date | |
|---|---|---|---|
|
|
bcacb1fb33 | ||
|
|
6e2418b157 | ||
|
|
de560cb066 | ||
|
|
cca20c070f | ||
|
|
272dafd5b9 | ||
|
|
ca2d8d635a | ||
|
|
e01fd6e052 |
@@ -0,0 +1,95 @@
|
||||
# Архитектура Autotest — полный обзор
|
||||
|
||||
v1.1.44, 2026-07-30
|
||||
|
||||
## Назначение
|
||||
|
||||
Платформа для тестирования Nubes Cloud API — ручное и автоматизированное создание/изменение/удаление инстансов любых сервисов (PostgreSQL, Redis, S3, Kafka, ~35 сервисов).
|
||||
|
||||
## Развёртывание
|
||||
|
||||
- **Платформа:** Nubes pythonk8s (managed Flask + gunicorn)
|
||||
- **URL:** `https://atest.pythonk8s.dev.nubes.ru/`
|
||||
- **БД:** PostgreSQL 17 (Zalando Operator), autotest
|
||||
- **Репозиторий:** `/home/naeel/nubes/autotest/app-autotest`
|
||||
- **Родительский репо:** `/home/naeel/nubes/autotest`
|
||||
|
||||
## Ключевые файлы
|
||||
|
||||
### Бэкенд (Flask)
|
||||
| Файл | Назначение |
|
||||
|------|-----------|
|
||||
| `site/app.py` | Точка входа, регистрация blueprint'ов, VERSION |
|
||||
| `site/routes/api_test.py` | Основной: POST /api/test, GET /api/params, поллинг, _finish_op |
|
||||
| `site/routes/main.py` | GET /, /api/operations/{svc_id} |
|
||||
| `site/routes/api.py` | LEGACY эндпоинты (будет удалён) |
|
||||
| `site/api/http_client.py` | HTTP-клиент Nubes API (GET/POST/raw_delete) |
|
||||
| `site/api/auth.py` | Токены, get_client, get_stand |
|
||||
| `site/operations/get_params.py` | get_params_with_current_values, _normalize_value_list, state.out |
|
||||
| `site/operations/get_instances.py` | GET /instances с пагинацией |
|
||||
| `site/operations/get_services.py` | GET /services, /services/{id} |
|
||||
| `site/operations/service_list.py` | Загрузка services_{stand}.txt |
|
||||
| `site/operations/tracker.py` | fcntl.flock файловый трекер инстансов |
|
||||
| `site/db/pool.py` | psycopg2 ThreadedConnectionPool (lazy-init) |
|
||||
| `site/db/init_db.py` | CREATE TABLE runs + миграции |
|
||||
| `site/db/save_run.py` | INSERT в runs (16 колонок) |
|
||||
| `site/runner.py` | LEGACY runner (будет удалён) |
|
||||
| `site/config.yaml` | LEGACY конфиг (будет удалён) |
|
||||
|
||||
### Фронтенд (vanilla JS)
|
||||
| Файл | Назначение |
|
||||
|------|-----------|
|
||||
| `site/templates/index.html` | Jinja2 шаблон, CSS, window.APP |
|
||||
| `site/static/app.js` | Весь фронтенд (460 строк) |
|
||||
| `site/static/style.css` | Доп. стили |
|
||||
|
||||
### Конфиги
|
||||
| Файл | Назначение |
|
||||
|------|-----------|
|
||||
| `site/config/services_test.txt` | Список сервисов TEST (комментировать # для исключения) |
|
||||
| `site/config/services_dev.txt` | Список сервисов DEV |
|
||||
| `requirements.txt` | Python-зависимости |
|
||||
|
||||
## CREATE flow (9 шагов Nubes API)
|
||||
|
||||
1. POST /instances
|
||||
2. POST /instanceOperations {operation:"create"}
|
||||
3. GET /instanceOperations/{opUid}?fields=cfsParams
|
||||
4. resolveRefSvcParamValues
|
||||
5. POST /instanceOperationCfsParams (пользовательские)
|
||||
6. POST /instanceOperationCfsParams (required+default)
|
||||
7. GET /validate-cfs
|
||||
8. POST /run
|
||||
9. Поллинг dtFinish
|
||||
|
||||
## Фронтенд — глобальное состояние
|
||||
|
||||
```
|
||||
svcInstances — кеш инстансов
|
||||
selectedInst — UID выбранного
|
||||
selectedOp — {opId, opName, svcId}
|
||||
pollTimer — setInterval поллинга
|
||||
currentSvcId — ID сервиса
|
||||
currentSvcName — имя сервиса
|
||||
currentSvcShort— краткое имя (redis, postgres)
|
||||
busy — блокировка параллельных операций
|
||||
```
|
||||
|
||||
## План развития (MVP сценариев)
|
||||
|
||||
Файлы: `/home/naeel/nubes/autotest/TASKS/3007.md` (требования), `/home/naeel/nubes/autotest/DOCS/sol-answers.md` (решения)
|
||||
|
||||
1. Багфиксы аудита
|
||||
2. Удалить legacy (api.py, runner.py, config.yaml)
|
||||
3. Сервисные токены для сценариев
|
||||
4. YAML-сценарии + валидатор
|
||||
5. scenario_runs таблица + runner
|
||||
6. UI: сворачиваемая секция «Сценарии»
|
||||
|
||||
## Документация
|
||||
|
||||
- `/home/naeel/nubes/autotest/DOCS/terraform-operations-full-logic.md` — эталонный Nubes API flow
|
||||
- `/home/naeel/nubes/autotest/DOCS/sol-answers.md` — ответы на 14 вопросов по архитектуре
|
||||
- `/home/naeel/nubes/autotest/DOCS/questions-to-sol.md` — 14 вопросов к Sol
|
||||
- `/home/naeel/nubes/autotest/app-autotest/DOCS/sonnet-final-audit.md` — финальный аудит Соннета
|
||||
- `/home/naeel/nubes/autotest/HISTORY/2026-07-29-session.md` — хронология правок
|
||||
@@ -0,0 +1,417 @@
|
||||
# ⚠️ LEGACY — НЕАКТУАЛЬНО. См. ARCHITECTURE.md для текущего состояния.
|
||||
|
||||
# Архитектура app-autotest — полный документ (v1.0.76)
|
||||
|
||||
---
|
||||
|
||||
## 1. Обзор
|
||||
|
||||
Flask-приложение для автотестов операций сервисов облачной платформы Nubes.
|
||||
Деплой: Nubes pythonk8s (gunicorn), тестовый стенд `atest.pythonk8s.dev.nubes.ru`.
|
||||
Репозиторий: `https://gitea.services.ngcloud.ru/forcloud/app-autotest.git`.
|
||||
|
||||
Текущий срез потока операций:
|
||||
- CREATE и обычные операции разделены в UI и backend.
|
||||
- CREATE использует фиксированный префикс `autotest-`, non-create работает по выбранному инстансу.
|
||||
- Финальный статус показывает статус, операцию, длительность и имя инстанса.
|
||||
- Список autotest-инстансов строится cloud-first; tracker нужен только как короткий fallback после CREATE.
|
||||
- **Modify** (и другие операции с параметрами) показывает **текущие** значения параметров инстанса: создаётся pending-операция, читаются `cfsParams.paramValue`, форма заполняется реальными данными. При submit операция переиспользуется через `previewOpUid`.
|
||||
|
||||
---
|
||||
|
||||
## 2. Структура файлов
|
||||
|
||||
```
|
||||
app-autotest/
|
||||
├── site/ ← НЕ пакет (без __init__.py, конфликт с stdlib)
|
||||
│ ├── app.py ← Flask(__name__), VERSION, blueprints, /health
|
||||
│ ├── api/
|
||||
│ │ └── http_client.py ← HttpClient + STANDS + detect_endpoint()
|
||||
│ ├── operations/
|
||||
│ │ ├── tracker.py ← Трекер: /tmp/instances.json + fcntl.flock
|
||||
│ │ ├── get_services.py ← get_services(), get_service_detail()
|
||||
│ │ └── get_instances.py ← get_instances(), get_organization()
|
||||
│ ├── routes/
|
||||
│ │ ├── main.py ← GET/POST / (главная), _tmpl()
|
||||
│ │ ├── api.py ← /api/run, /api/status, /api/config
|
||||
│ │ └── api_test.py ← /api/test, /api/test/status, _finish_op
|
||||
│ ├── templates/
|
||||
│ │ └── index.html ← UI: Jinja2 + JS (поллинг)
|
||||
│ └── static/
|
||||
│ └── style.css
|
||||
└── secrets/
|
||||
├── dev.token ← Токен для DEV стенда
|
||||
├── test.token ← Токен для TEST стенда
|
||||
└── test.token.new
|
||||
```
|
||||
|
||||
---
|
||||
|
||||
## 3. Поток CREATE — полная трассировка (14 шагов)
|
||||
|
||||
### Шаг 1: UI — пользователь начинает CREATE
|
||||
|
||||
```javascript
|
||||
// index.html: startCreate()
|
||||
function startCreate(){
|
||||
selectedInst=null; // нет выбранного инстанса
|
||||
stopPoll(); // остановить предыдущий поллинг
|
||||
document.querySelectorAll('[data-iuid]').forEach(e=>e.classList.remove('active'));
|
||||
document.querySelectorAll('.inst-ops').forEach(e=>e.classList.remove('open'));
|
||||
showParams(18,'create'); // 18 = svcOperationId для create у сервиса "Болванка"
|
||||
}
|
||||
```
|
||||
|
||||
`selectedOp = {opId: 18, opName: "create", svcId: 1}`
|
||||
|
||||
### Шаг 2: UI — загрузка параметров и показ формы
|
||||
|
||||
```javascript
|
||||
// index.html: showParams(18, 'create')
|
||||
fetch('/api/params/18') // GET /api/params/18
|
||||
.then(r=>r.json())
|
||||
.then(params=>{
|
||||
// Генерация формы: displayName + поля из params
|
||||
const displayName = 'autotest-1-' + Date.now().toString(36);
|
||||
form.innerHTML = '<input id="param-displayname" value="' + displayName + '">'
|
||||
+ params.map(p => '<input name="p_' + p.svcOperationCfsParamId + '">').join('');
|
||||
|
||||
btn.onclick = () => {
|
||||
// Сбор params из формы
|
||||
const pp = {};
|
||||
document.querySelectorAll('#params-form [name^="p_"]').forEach(el => {
|
||||
pp[el.name.replace('p_','')] = el.value;
|
||||
});
|
||||
executeOp(pp); // ← запуск
|
||||
};
|
||||
});
|
||||
```
|
||||
|
||||
Бэкенд: `GET /instanceOperations/default/18` → возвращает список `cfsParams`.
|
||||
|
||||
### Шаг 3: UI — executeOp (отправка)
|
||||
|
||||
```javascript
|
||||
// index.html: executeOp(params)
|
||||
const displayName = document.getElementById('param-displayname')?.value || 'autotest-1';
|
||||
// Захват ДО очистки формы! (v1.0.48)
|
||||
|
||||
document.getElementById('params-form').innerHTML = ''; // очистка
|
||||
|
||||
fetch('/api/test', {
|
||||
method:'POST',
|
||||
body: JSON.stringify({
|
||||
serviceId: 1, // SVC_ID
|
||||
operation: "create",
|
||||
svcOperationId: 18,
|
||||
params: {...}, // собранные параметры
|
||||
instanceUid: "", // пусто для create
|
||||
displayName: displayName
|
||||
})
|
||||
})
|
||||
```
|
||||
|
||||
JSON: `{"serviceId":1, "operation":"create", "svcOperationId":18, "params":{...}, "instanceUid":"", "displayName":"autotest-1-lq5x3a"}`
|
||||
|
||||
### Шаг 4: Бэкенд — api_test() разбор запроса
|
||||
|
||||
```python
|
||||
# api_test.py: POST /api/test
|
||||
data = request.get_json()
|
||||
svc_id = data["serviceId"] # 1 (int)
|
||||
op_name = data["operation"] # "create" (str)
|
||||
svc_op_id = data["svcOperationId"] # 18 (int)
|
||||
params = data.get("params", {}) # {...} (dict)
|
||||
instance_uid = data.get("instanceUid") # "" (falsy)
|
||||
display_name = data.get("displayName", f"autotest-{svc_id}") # "autotest-1-lq5x3a"
|
||||
```
|
||||
|
||||
### Шаг 5: Бэкенд — _client() с автоопределением стенда
|
||||
|
||||
```python
|
||||
def _client():
|
||||
token = request.cookies.get("token") or current_app.config["NUBES_API_TOKEN"]
|
||||
endpoint = detect_endpoint(token) or current_app.config["NUBES_API_ENDPOINT"]
|
||||
return HttpClient(endpoint, token)
|
||||
```
|
||||
|
||||
`detect_endpoint(token)` пробует dev→test стенды, возвращает рабочий URL или None.
|
||||
|
||||
### Шаг 6: Бэкенд — создание инстанса в Nubes
|
||||
|
||||
```python
|
||||
payload = {"serviceId": 1, "displayName": "autotest-1-lq5x3a", "descr": ""}
|
||||
resp = client.post("/instances", payload)
|
||||
# Ответ: {"instanceUid": "93b0b65d-..."}
|
||||
instance_uid = resp.get("instanceUid") or _find_uid(resp) or _uid_from_location(...)
|
||||
# → "93b0b65d-e080-416d-bbb8-463f7adbda80"
|
||||
```
|
||||
|
||||
### Шаг 7: Бэкенд — создание операции
|
||||
|
||||
```python
|
||||
op_payload = {"instanceUid": "93b0b65d-...", "operation": "create"}
|
||||
op_resp = client.post("/instanceOperations", op_payload)
|
||||
# Ответ: {"instanceOperationUid": "0b0596d8-..."}
|
||||
op_uid = _find_uid(op_resp) or _uid_from_location(...)
|
||||
# _find_uid ищет: instanceOperationUid → instanceUid → uid → Uid
|
||||
# → "0b0596d8-b48d-4694-98c3-65f2f8eeb27d"
|
||||
```
|
||||
|
||||
### Шаг 8: Бэкенд — tracker_add (v1.0.54: ДО params!)
|
||||
|
||||
```python
|
||||
try:
|
||||
tracker_add("93b0b65d-...", 1, "autotest-1-lq5x3a")
|
||||
except Exception as e:
|
||||
print(f"[TRACKER ERROR] ...")
|
||||
```
|
||||
|
||||
`tracker.py`: `_locked_read()` → `data["93b0b65d-..."] = {...}` → `_locked_write(data)`.
|
||||
Файл `/tmp/instances.json` обновлён под `fcntl.LOCK_EX | LOCK_NB`.
|
||||
|
||||
### Шаг 9: Бэкенд — установка параметров и запуск
|
||||
|
||||
```python
|
||||
for pid, pval in params.items():
|
||||
client.post("/instanceOperationCfsParams", {
|
||||
"instanceOperationUid": op_uid,
|
||||
"svcOperationCfsParamId": int(pid),
|
||||
"paramValue": str(pval)
|
||||
})
|
||||
client.post(f"/instanceOperations/{op_uid}/run")
|
||||
```
|
||||
|
||||
Если params пустые (например, повторный клик на «Готово») → `/run` → 422 "required CFS parameter ... is missing".
|
||||
|
||||
### Шаг 10: Бэкенд — фоновый поток
|
||||
|
||||
```python
|
||||
threading.Thread(
|
||||
target=_finish_op,
|
||||
args=(client, op_uid, instance_uid, svc_id, display_name, op_name, svc_op_id, True),
|
||||
daemon=True
|
||||
).start()
|
||||
return jsonify({"status": "RUNNING", "opUid": op_uid, "instanceUid": instance_uid})
|
||||
```
|
||||
|
||||
### Шаг 11: UI — поллинг статуса
|
||||
|
||||
```javascript
|
||||
// index.html: executeOp() — после получения RUNNING
|
||||
pollTimer = setInterval(async () => {
|
||||
const sr = await fetch('/api/test/status/' + opUid);
|
||||
const sd = await sr.json();
|
||||
showStages(sd.stages || []);
|
||||
if (sd.status !== 'RUNNING') {
|
||||
stopPoll();
|
||||
// показать OK/FAIL
|
||||
btn.textContent = 'Готово';
|
||||
btn.disabled = false;
|
||||
// ⚠️ БАГ: btn.onclick всё ещё активен!
|
||||
if (sd.status === 'OK') {
|
||||
await refreshInstances();
|
||||
}
|
||||
}
|
||||
}, 2000);
|
||||
```
|
||||
|
||||
### Шаг 12: Бэкенд — _finish_op (фоновый)
|
||||
|
||||
```python
|
||||
while time.time() < deadline: # 300 секунд
|
||||
data = client.get(f"/instanceOperations/{op_uid}?fields=...")
|
||||
op = data.get("instanceOperation", {})
|
||||
dt_finish = op.get("dtFinish")
|
||||
|
||||
_op_results[op_uid] = {"status": "RUNNING", "stages": [...], "duration": ...}
|
||||
|
||||
if dt_finish and str(dt_finish).strip():
|
||||
is_ok = op.get("isSuccessful")
|
||||
# tracker_add уже вызван синхронно!
|
||||
if is_ok and is_delete:
|
||||
tracker_remove(instance_uid)
|
||||
_op_results[op_uid] = {"status": "OK" if is_ok else "FAIL", ...}
|
||||
return
|
||||
time.sleep(5)
|
||||
```
|
||||
|
||||
Весь цикл обёрнут в `try/except: print(traceback)` (v1.0.51).
|
||||
|
||||
### Шаг 13: UI — refreshInstances
|
||||
|
||||
```javascript
|
||||
async function refreshInstances(){
|
||||
const r = await fetch('/api/operations/1');
|
||||
const d = await r.json();
|
||||
const newInsts = d.instances || [];
|
||||
// Найти новые (отсутствуют в svcInstances)
|
||||
const added = newInsts.filter(i => !oldUids.has(i.instanceUid));
|
||||
// Обновить бейджи существующих
|
||||
// Добавить новые в DOM перед кнопкой "+ Создать"
|
||||
}
|
||||
```
|
||||
|
||||
### Шаг 14: Бэкенд — api_operations (GET /api/operations/1)
|
||||
|
||||
```python
|
||||
tracked = tracker_list() # читает /tmp/instances.json
|
||||
tracked_by_uid = {uid: item for uid in tracked if svcId == 1}
|
||||
instances = get_instances(_client()) # запрос в Nubes API
|
||||
nubes_uids = {i["instanceUid"] for i in instances}
|
||||
|
||||
# Инстансы из Nubes которые есть в трекере (кроме deleted)
|
||||
svc_instances = [i for i in instances
|
||||
if i.get("instanceUid") in tracked_uids
|
||||
and i.get("explainedStatus") not in ("deleted",)]
|
||||
|
||||
# Инстансы из трекера которых Nubes ещё не отдаёт → status "creating"
|
||||
for uid, t in tracked_by_uid.items():
|
||||
if uid not in nubes_uids:
|
||||
svc_instances.append({
|
||||
"instanceUid": uid,
|
||||
"displayName": t["displayName"],
|
||||
"explainedStatus": "creating",
|
||||
...
|
||||
})
|
||||
```
|
||||
|
||||
---
|
||||
|
||||
## 4. Трекер инстансов
|
||||
|
||||
### 4.1 Назначение
|
||||
|
||||
Хранит UID инстансов, созданных приложением. Нужен чтобы показывать в UI только «наши» инстансы, а не все в организации.
|
||||
|
||||
### 4.2 Реализация (v1.0.53+)
|
||||
|
||||
Файл: `site/operations/tracker.py`
|
||||
|
||||
- Хранилище: `/tmp/instances.json` (JSON-файл)
|
||||
- Блокировка: `fcntl.flock(fd, LOCK_EX | LOCK_NB)` с retry до 2 сек
|
||||
- Seed: `_INITIAL` (4 инстанса) при пустом/битом файле
|
||||
- Функции: `add(uid, svc_id, name)`, `remove(uid)`, `list_all()`
|
||||
|
||||
### 4.3 Эволюция
|
||||
|
||||
| Версия | Реализация | Проблема |
|
||||
|--------|-----------|----------|
|
||||
| v1.0.45 | `/tmp/instances.json` + `threading.Lock` | `except: pass` скрывал ошибки |
|
||||
| v1.0.49 | In-memory dict | Multi-worker gunicorn: у каждого свой dict |
|
||||
| v1.0.53 | `/tmp/instances.json` + `fcntl.flock(LOCK_EX)` | Без таймаута: потенциальный зависон |
|
||||
| v1.0.54 | `/tmp/instances.json` + `fcntl.flock(LOCK_EX\|LOCK_NB)` + retry 2s | ✅ Текущий |
|
||||
|
||||
---
|
||||
|
||||
## 5. Автоопределение стенда
|
||||
|
||||
Файл: `site/api/http_client.py`
|
||||
|
||||
```python
|
||||
STANDS = [
|
||||
"https://lk-api-gateway-dev.ngcloud.ru/api/v1/svc",
|
||||
"https://lk-api-gateway-test.ngcloud.ru/api/v1/svc",
|
||||
]
|
||||
|
||||
def detect_endpoint(token):
|
||||
for ep in STANDS:
|
||||
try:
|
||||
c = HttpClient(ep, token)
|
||||
data = c.get("/instances", params={"pageSize": 1, "page": 1})
|
||||
if data.get("results") is not None:
|
||||
return ep
|
||||
except Exception:
|
||||
continue
|
||||
return None
|
||||
```
|
||||
|
||||
Используется в:
|
||||
- `main.py`: при загрузке главной страницы
|
||||
- `api_test.py: _client()`: при каждом API-запросе
|
||||
|
||||
---
|
||||
|
||||
## 6. Все известные баги (найдено/исправлено)
|
||||
|
||||
### Исправленные
|
||||
|
||||
| # | Версия | Баг | Причина | Исправление |
|
||||
|---|--------|-----|---------|-------------|
|
||||
| 1 | v1.0.46 | `_finish_op()` недостающие параметры | Не передавались `op_name`, `svc_op_id` | Добавлены в сигнатуру |
|
||||
| 2 | v1.0.48 | displayName терялся | `params-form.innerHTML=''` до чтения `param-displayname` | Захват до очистки |
|
||||
| 3 | v1.0.48 | tracker_add в daemon-потоке | Поток умирает под gunicorn | Перенос в синхронный код |
|
||||
| 4 | v1.0.50 | ❌ для этапов в процессе | `isSuccessful===false` для in-progress | Проверка `dtFinish` |
|
||||
| 5 | v1.0.50 | Инстанс не в списке | `explainedStatus:"not created"` фильтровался | Убран фильтр + tracked-сироты |
|
||||
| 6 | v1.0.50 | `selectService()` скрывал stages | Полный перерендер после OK | `refreshInstances()` с диффом |
|
||||
| 7 | v1.0.51 | `instance_groups` UnboundLocalError | Не иниц. до `if active_token:` | `instance_groups = {}` |
|
||||
| 8 | v1.0.51 | `_finish_op` молча умирал | `data.get()` вне try/except | Весь цикл в try/except |
|
||||
| 9 | v1.0.51 | Автостенд только в main.py | `_client()` в api_test.py не использовал | `detect_endpoint()` в http_client.py |
|
||||
| 10 | v1.0.52 | `token_info` UndefinedError | Не передан в шаблон при action=clear | `_tmpl()` helper со всеми переменными |
|
||||
| 11 | v1.0.53 | In-memory dict + multi-worker | У каждого воркера свой `_data` | `/tmp/instances.json` + `fcntl.flock` |
|
||||
| 12 | v1.0.54 | `_find_uid()` возвращал не тот UUID | Итерация по всем значениям dict | Поиск по ключам: instanceOperationUid→instanceUid |
|
||||
| 13 | v1.0.54 | Сироты при ошибке params | `tracker_add` ПОСЛЕ params loop | `tracker_add` ДО params loop |
|
||||
| 14 | v1.0.54 | `flock` без таймаута | `LOCK_EX` блокируется навсегда | `LOCK_EX \| LOCK_NB` + retry 2s |
|
||||
| 15 | v1.0.55 | F5 = предупреждение браузера | clear/stray POST → HTML без редиректа | `redirect("/")` для всех POST |
|
||||
| 16 | v1.0.56 | Кнопка «Готово» запускала повторный CREATE | `btn.onclick` оставался привязанным после завершения операции | `btn.onclick = null` после финального статуса |
|
||||
| 17 | v1.0.57 | Хрупкость финального состояния кнопки | Повторяемый код финализации статуса | `setFinishedState()` централизует финальный UI-состояние |
|
||||
| 18 | v1.0.59 | После F5 список терял tracked-инстанс | `api_operations()` не добирал tracked-сирот обратно из трекера | `tracked_by_uid` + добавление отсутствующих tracked-инстансов |
|
||||
| 19 | v1.0.60 | CREATE не появлялся сразу в списке после OK | UI делал diff и мог не перерисовать список целиком | Полная перерисовка `inst-list` в `refreshInstances()` |
|
||||
| 20 | v1.0.63 | Дубли и чужие инстансы | Принадлежность определялась не по namespace | `autotest-` prefix + уникализация `displayName` при CREATE |
|
||||
| 21 | v1.0.64 | Версия не показывалась в шапке | `load_config()` затирал VERSION | `config["VERSION"] = current_app.config["VERSION"]` |
|
||||
| 22 | v1.0.64 | displayName был editable value, а не placeholder | CREATE подставлял имя в value | Placeholder `autotest-...`, значение вводит пользователь |
|
||||
| 23 | v1.0.65 | `creating` из-за недочитанной страницы | `get_instances()` доверял `total` и мог не перейти на следующую страницу | Остановка по `len(batch) < pageSize` |
|
||||
|
||||
### ✅ Закрыто в v1.0.56
|
||||
|
||||
| Баг | Статус | Что поменяли |
|
||||
|-----|--------|--------------|
|
||||
| Кнопка «Готово» запускала повторный CREATE | закрыто | После финального статуса обработчик снимается через `btn.onclick = null` |
|
||||
| displayName "autotest-1" при повторном клике | закрыто | Повторный клик больше не вызывает `executeOp()` на очищенной форме |
|
||||
|
||||
---
|
||||
|
||||
## 7. HTTP-клиент
|
||||
|
||||
Файл: `site/api/http_client.py`
|
||||
|
||||
```python
|
||||
class HttpClient:
|
||||
def __init__(self, endpoint, token):
|
||||
# Bearer auth + User-Agent: Mozilla/5.0 (DDoS-Guard)
|
||||
|
||||
def get(self, path, timeout=10):
|
||||
# GET → r.raise_for_status() → r.json()
|
||||
|
||||
def post(self, path, data, timeout=30):
|
||||
# POST → проверка r.ok → парсинг JSON → Location header
|
||||
```
|
||||
|
||||
---
|
||||
|
||||
## 8. Шаблон Jinja2 — используемые переменные
|
||||
|
||||
| Переменная | Где | Назначение |
|
||||
|-----------|-----|-----------|
|
||||
| `config.VERSION` | Строка 32 | Версия в топбаре |
|
||||
| `token_info.email` | Строка 33 | Email пользователя |
|
||||
| `token_info.company` | Строка 33 | Компания |
|
||||
| `env_token_masked` | Строка 36 | Маскированный токен в placeholder |
|
||||
| `has_user_token` | Строка 36 | Показать токен или маску |
|
||||
| `error` | Строка 40 | Ошибка |
|
||||
| `organization.displayName` | Строка 50 | Название организации |
|
||||
| `organization.explainedStatus` | Строка 51 | Статус организации |
|
||||
| `client_id` | Строка 50 | ID клиента |
|
||||
| `instance_groups` | Строки 55-62 | Группы инфраструктурных инстансов |
|
||||
|
||||
---
|
||||
|
||||
## 9. Ограничения платформы Nubes pythonk8s
|
||||
|
||||
- `site/` — НЕ пакет (без `__init__.py`, конфликт с stdlib `site.py`)
|
||||
- Импорты: `from api.http_client import ...` (без префикса `site.`)
|
||||
- `app.run(host="0.0.0.0", port=5000)` — обязательно
|
||||
- Gunicorn: запускается платформой, количество воркеров неизвестно
|
||||
- Нет persistent volume — `/tmp/` теряется при редеплое
|
||||
- User-Agent: `Mozilla/5.0` обязателен (DDoS-Guard)
|
||||
- Деплой: `git push` → managed service редеплоит
|
||||
@@ -0,0 +1,190 @@
|
||||
# Архитектура app-autotest — текущее состояние
|
||||
|
||||
v1.0.93, 28.07.2026
|
||||
|
||||
---
|
||||
|
||||
## 1. Обзор
|
||||
|
||||
Flask-приложение (один HTML-файл, без SPA-фреймворка) для ручного тестирования операций
|
||||
сервисов облачной платформы Nubes. Работает через REST API Nubes, автоопределяет стенд
|
||||
(dev/test) по JWT-токену.
|
||||
|
||||
**Деплой**: Nubes pythonk8s (gunicorn, несколько воркеров).
|
||||
**Кластер**: `iot-naeel` (K8s resourceRealm, DEV-стенд)
|
||||
**URL**: `https://atest.pythonk8s.dev.nubes.ru`
|
||||
**Репозиторий**: `https://gitea.services.ngcloud.ru/forcloud/app-autotest.git`
|
||||
|
||||
### Ключевые принципы
|
||||
|
||||
1. **Источник правды — Nubes API**. Все данные (инстансы, параметры, статусы) получаются
|
||||
только из API. Никаких локальных копий или кеша (кроме краткосрочного трекера).
|
||||
2. **Разделение CREATE и non-CREATE**. Это два принципиально разных потока.
|
||||
3. **Multi-worker safety**. Все общие ресурсы (/tmp файлы) защищены `fcntl.flock`.
|
||||
4. **Мелкие функции**. Каждое действие — отдельная функция.
|
||||
|
||||
---
|
||||
|
||||
## 2. Структура файлов
|
||||
|
||||
```
|
||||
app-autotest/
|
||||
├── site/ ← НЕ пакет (без __init__.py)
|
||||
│ ├── app.py ← Flask(__name__), VERSION, blueprints, /health
|
||||
│ ├── runner.py ← [LEGACY] Раннер тестов
|
||||
│ ├── config.yaml ← [LEGACY] Конфиг раннера
|
||||
│ ├── api/
|
||||
│ │ └── http_client.py ← HttpClient, автостенд
|
||||
│ ├── operations/
|
||||
│ │ ├── get_services.py ← get_services(), get_service_detail()
|
||||
│ │ ├── get_instances.py ← get_instances() (пагинация), get_organization()
|
||||
│ │ ├── get_params.py ← get_params_with_current_values() — слияние state.params + шаблон
|
||||
│ │ └── tracker.py ← /tmp/instances-{clientId}-{stand}.json + flock
|
||||
│ ├── routes/
|
||||
│ │ ├── main.py ← GET/POST /, /api/operations/<svc_id>
|
||||
│ │ ├── api.py ← [LEGACY] /api/run, /api/status, /api/config
|
||||
│ │ └── api_test.py ← /api/test, /api/params, /api/log
|
||||
│ ├── templates/
|
||||
│ │ └── index.html ← Весь UI (Jinja2 + ванильный JS)
|
||||
│ └── static/
|
||||
│ ├── style.css
|
||||
│ ├── logo.svg
|
||||
│ └── favicon.svg
|
||||
└── secrets/
|
||||
├── dev.token
|
||||
└── test.token
|
||||
```
|
||||
|
||||
---
|
||||
|
||||
## 3. Бэкенд: HTTP-клиент и автостенд
|
||||
|
||||
### `http_client.py`
|
||||
|
||||
- `HttpClient(endpoint, token)` — обёртка над `requests.Session`:
|
||||
- Заголовки: `Authorization: Bearer`, `User-Agent: Mozilla/5.0` (DDoS-Guard)
|
||||
- `get(path)` → `raise_for_status()` → `.json()`
|
||||
- `post(path, data)` → проверка `r.ok`, парсинг JSON, извлечение `Location`
|
||||
- `detect_endpoint(token)` — пробует dev→test стенды, возвращает рабочий URL
|
||||
- `stand_name(endpoint)` — "dev"/"test" по URL
|
||||
- `create_client(token, fallback)` — HttpClient + endpoint
|
||||
|
||||
### `get_instances.py`
|
||||
|
||||
- `get_instances(client)` — `GET /instances` с пагинацией (pageSize=200). Остановка по `len(batch) < pageSize`.
|
||||
- `get_organization(client)` — первый инстанс с `serviceId == 19`
|
||||
|
||||
### `get_services.py`
|
||||
|
||||
- `get_services(client)` → `GET /services` → список
|
||||
- `get_service_detail(client, svc_id)` → `GET /services/{id}` → детали + операции
|
||||
|
||||
### `get_params.py` — КЛЮЧЕВОЙ модуль
|
||||
|
||||
`get_params_with_current_values(client, op_id, instance_uid)`:
|
||||
1. `GET /instances/{uid}` → `state.params` (текущие значения: `{"whereFail":"1",...}`)
|
||||
2. `GET /instanceOperations/default/{opId}` → шаблон (коды, типы, valueList, dataDescriptor)
|
||||
3. Слияние: `defaultValue = state.params["код"] ?? template.defaultValue`
|
||||
4. Приведение типов: `bool` → `"true"/"false"`, `dict` → `json.dumps()`
|
||||
|
||||
### `tracker.py`
|
||||
|
||||
- Файл: `/tmp/instances-{clientId}-{stand}.json` (изолирован по пользователю и стенду)
|
||||
- Блокировка: `fcntl.flock(LOCK_EX | LOCK_NB)` + retry 2s
|
||||
- `add(client_id, stand, uid, svc_id, name)`, `remove(...)`, `list_all(...)`
|
||||
- Нужен ТОЛЬКО как fallback — когда инстанс только создан и ещё не в `/instances`
|
||||
|
||||
---
|
||||
|
||||
## 4. Бэкенд: Роуты
|
||||
|
||||
### `main.py`
|
||||
|
||||
- **`GET/POST /`** — главная: организация, инфраструктура (serviceId 2,12,19,21,22,25,26,29,110,150), сервисы
|
||||
- `action=save` → сохранить токен в cookie
|
||||
- `action=clear` → удалить cookie
|
||||
- **`GET /api/operations/<svc_id>`** — операции + autotest-инстансы:
|
||||
- Cloud-first: фильтр по префиксу `autotest-`
|
||||
- Tracker-fallback: статус "creating" для ещё невидимых
|
||||
|
||||
### `api_test.py` — основной модуль операций
|
||||
|
||||
- **`GET /api/params/<op_id>[?instanceUid=xxx]`**:
|
||||
- Без `instanceUid` → шаблонные `defaultValue`
|
||||
- С `instanceUid` → `get_params_with_current_values()`
|
||||
- **`POST /api/test`** — запуск операции:
|
||||
- **CREATE**: `POST /instances` → `instanceUid` → `POST /instanceOperations` → `opUid` → `tracker_add` → params → `/run`
|
||||
- **non-CREATE**: `POST /instanceOperations` → params → `/run` (redeploy: сразу `/run`)
|
||||
- `displayName` = `_get_instance_display_name()` (из API, не UUID!)
|
||||
- Фоновый поток: `_finish_op()` — поллинг до `dtFinish` (300s таймаут)
|
||||
- **`GET /api/test/status/<op_uid>`** — поллинг: in-memory `_op_results` → прямой API
|
||||
- **`GET /api/log`** — последние 200 строк из `/tmp/app-autotest.log`
|
||||
|
||||
### Логирование
|
||||
|
||||
`_log(msg)` в `api_test.py`:
|
||||
- stdout (gunicorn) + `/tmp/app-autotest.log` (flock, общий для воркеров)
|
||||
- Ротация при 512 КБ
|
||||
- UI: скрытая панель, кнопка `log` (правый нижний угол)
|
||||
|
||||
---
|
||||
|
||||
## 5. Фронтенд
|
||||
|
||||
### Структура
|
||||
|
||||
Один HTML-файл, три колонки:
|
||||
- Левая (280px): инфраструктура
|
||||
- Средняя (240px): сервисы
|
||||
- Правая (flex): инстансы + параметры + кнопка + этапы
|
||||
|
||||
### Глобальное состояние (JS)
|
||||
|
||||
```
|
||||
svcInstances — кеш инстансов (из /api/operations)
|
||||
selectedInst — UID выбранного инстанса
|
||||
selectedOp — {opId, opName, svcId}
|
||||
pollTimer — таймер поллинга
|
||||
SVC_ID = 1 — фиксированный сервис (Болванка)
|
||||
```
|
||||
|
||||
### Потоки операций
|
||||
|
||||
**CREATE**: `startCreate()` → `showParams(18,'create')` → форма → `executeOp(pp)` → POST /api/test → поллинг → refreshInstances
|
||||
|
||||
**MODIFY**: `toggleInstance()` → кнопки → `runOp('modify',opId)` → `showParams(opId,'modify')` → GET /api/params?instanceUid= → форма с ТЕКУЩИМИ значениями → валидация map → `executeOp(pp)` → POST /api/test → поллинг
|
||||
|
||||
**Без параметров** (suspend/delete/resume/redeploy): `runOp()` → confirm → `executeOp({})` → POST /api/test → поллинг
|
||||
|
||||
### Валидация JSON
|
||||
|
||||
- `_esc(s)` — HTML-экранирование (`"` → `"`, `&` → `&`, `<` → `<`)
|
||||
- `validateJson(el, quiet)` — `JSON.parse()` на `onblur` (красная рамка + текст)
|
||||
- Batch-проверка перед отправкой — ошибка → запрос не уходит
|
||||
|
||||
---
|
||||
|
||||
## 6. Nubes API — используемые endpoint'ы
|
||||
|
||||
| Метод | Путь | Назначение |
|
||||
|-------|------|-----------|
|
||||
| GET | `/instances?pageSize=200&page=N` | Все инстансы (пагинация) |
|
||||
| GET | `/instances/{uid}` | Детали + state.params |
|
||||
| GET | `/services` | Список сервисов |
|
||||
| GET | `/services/{id}` | Детали + операции |
|
||||
| GET | `/instanceOperations/default/{opId}` | Шаблон параметров |
|
||||
| POST | `/instances` | Создать инстанс |
|
||||
| POST | `/instanceOperations` | Создать операцию |
|
||||
| POST | `/instanceOperationCfsParams` | Установить параметр |
|
||||
| POST | `/instanceOperations/{opUid}/run` | Запустить операцию |
|
||||
| GET | `/instanceOperations/{opUid}?fields=...` | Поллинг статуса |
|
||||
|
||||
---
|
||||
|
||||
## 7. Ограничения платформы
|
||||
|
||||
- `site/` — НЕ пакет (без `__init__.py`), импорты без префикса `site.`
|
||||
- `app.run(host="0.0.0.0", port=5000)`
|
||||
- Gunicorn multi-worker → общие данные через файлы + flock
|
||||
- `/tmp/` теряется при редеплое
|
||||
- User-Agent: `Mozilla/5.0` обязателен (DDoS-Guard)
|
||||
+478
@@ -0,0 +1,478 @@
|
||||
# История разработки app-autotest
|
||||
|
||||
## v1.1.2 (28.07.2026) — refSvcId: выпадающие списки для cross-service параметров
|
||||
|
||||
- `get_params.py` + `api_test.py`: параметры включают `refSvcId` из API
|
||||
- Фронт: `refSvcId` → `fetch('/api/instances/list')` → фильтр по `serviceId` → `<select>` с `displayName`
|
||||
- Универсально: S3, K8s-кластер, любой сервис — data-driven
|
||||
|
||||
## Инфраструктура
|
||||
- **Кластер**: `iot-naeel` (resourceRealm K8s)
|
||||
- **URL**: `https://atest.pythonk8s.dev.nubes.ru`
|
||||
- **Деплой**: git push → managed service pythonk8s → gunicorn
|
||||
- **PostgreSQL**: `foriot` (509145c3-...), PG 17, `iot-naeel`
|
||||
|
||||
## v1.0.93 (28.07.2026) — отдельные DB_* переменные
|
||||
|
||||
### Что изменилось
|
||||
- `db/pool.py`: `_dsn()` собирает DSN из отдельных переменных: DB_HOST, DB_PORT, DB_NAME, DB_USER, DB_PASSWORD, DB_SSLMODE
|
||||
- `db/init_db.py`: проверка `DB_USER` вместо `DATABASE_URL`
|
||||
- `secrets/pg-foriot.md`: полный jsonEnv для pythonk8s (6 DB-переменных + 2 существующие)
|
||||
- `app.py`: NUBES_API_ENDPOINT по умолчанию TEST
|
||||
|
||||
## v1.0.92 (27.07.2026) — Steps 5-9: динамические сервисы + PostgreSQL история
|
||||
|
||||
### Шаг 5: JS → /static/app.js
|
||||
- JS вынесен из index.html в отдельный файл
|
||||
- `window.APP = {version, stand, hasUserToken}` — передача Jinja2-переменных
|
||||
|
||||
### Шаг 6: Динамические сервисы
|
||||
- `currentSvcId` вместо хардкода `SVC_ID=1`
|
||||
- `initServices()` — загрузка из `/api/services` при старте
|
||||
|
||||
### Шаг 7-8: PostgreSQL
|
||||
- `db/pool.py` — ThreadedConnectionPool (lazy-init, 1-5 соединений)
|
||||
- `db/init_db.py` — таблица `runs` с индексами (идемпотентно)
|
||||
- `db/save_run.py` — запись результатов в БД
|
||||
- `requirements.txt` — добавлен `psycopg2-binary`
|
||||
|
||||
### Шаг 9: /api/history
|
||||
- GET `/api/history` — последние 50 записей (фильтр по client_id + stand)
|
||||
|
||||
## v1.0.90 (27.07.2026) — Steps 1-4: auth.py + TTL + cookie
|
||||
|
||||
### Шаг 1-2: api/auth.py
|
||||
- Новый модуль: `get_token()`, `get_client()`, `get_client_id()`, `get_stand()`, `get_token_info()`, `get_token_masked()`
|
||||
- Убраны дубликаты из main.py и api_test.py
|
||||
|
||||
### Шаг 3: Cookie httponly + samesite
|
||||
- `set_cookie(..., httponly=True, samesite="Strict")`
|
||||
|
||||
### Шаг 4: _op_results TTL
|
||||
- Максимум 500 записей, удаление старше 1 часа
|
||||
- `_ts` timestamp в каждой записи
|
||||
|
||||
## v1.0.99 (28.07.2026) — фикс: Flask-прокси в фоновом потоке
|
||||
|
||||
### Найденные ошибки
|
||||
1. `get_token_info()` → `request.cookies` → в потоке нет request-контекста → RuntimeError
|
||||
2. `current_app.config.get("VERSION")` → Flask-proxy → та же проблема
|
||||
3. `except: pass` глушил ошибки → записи молча не сохранялись
|
||||
|
||||
### Исправление
|
||||
- `user_email` и `app_version` получаются в `api_test()` (где есть request)
|
||||
и передаются параметрами в `_finish_op` → `save_run`
|
||||
- Добавлено логирование ошибок в `save_run` (больше не глухое `pass`)
|
||||
|
||||
### Урок
|
||||
`py_compile` проверяет только синтаксис. Flask-прокси (`request`, `current_app`, `g`, `session`)
|
||||
**не работают** в фоновых потоках. Все нужные значения — до `threading.Thread` параметрами.
|
||||
|
||||
## v1.0.89 (27.07.2026) — Sonnet Rounds 1-3 + документирование
|
||||
|
||||
### 1. PostgreSQL connection string
|
||||
- `os.getenv("DATABASE_URL")` — никакого service discovery
|
||||
- Инжектится через `jsonEnv` параметры pythonk8s-сервиса (как NUBES_API_TOKEN)
|
||||
- Порядок: создать PostgreSQL-инстанс в Nubes → взять host/port/user/pass из state_out → собрать DSN → jsonEnv → деплой
|
||||
|
||||
### 2. Миграции при деплое
|
||||
- `init_db()` на уровне модуля в app.py, до register_blueprint
|
||||
- `CREATE TABLE/INDEX IF NOT EXISTS` — идемпотентно, каждый воркер выполнит независимо
|
||||
- PostgreSQL обрабатывает конкурентный DDL корректно
|
||||
- Никаких ручных шагов при деплое
|
||||
- `DROP COLUMN` — не идемпотентно, осторожно
|
||||
|
||||
### 3. Multi-service UI (map-fixed)
|
||||
- `dataDescriptor` уже в API-ответе — инфраструктура готова
|
||||
- `map` (свободный): textarea + JSON-валидация (как сейчас)
|
||||
- `map-fixed`: таблица подполей с отдельными input/select из dataDescriptor
|
||||
- Бэкенд не меняется — paramValue всегда строка
|
||||
- Изменения только во фронте: showParams() + сбор подполей в JSON перед отправкой
|
||||
|
||||
### 4. Тесты
|
||||
- pytest для чистых функций без моков: `_find_uid`, `_uid_from_location`, `_with_prefix`, слияние params, tracker
|
||||
- Структура: `tests/conftest.py`, `test_utils.py`, `test_tracker.py`, `test_get_params.py`
|
||||
- Роуты с Flask test client + mock HttpClient — отложить (высокая стоимость мокирования)
|
||||
|
||||
## v1.0.89 (27.07.2026) — Sonnet Round 2: PostgreSQL, auth.py, детальный план
|
||||
|
||||
### Результаты анализа
|
||||
Sonnet дал конкретные ответы на все 7 вопросов Round 2:
|
||||
|
||||
**1. PostgreSQL схема:**
|
||||
- Таблица `runs` с JSONB-полями `params` и `stages`
|
||||
- 3 индекса: `(client_id, stand, created_at DESC)`, `(instance_uid)`, `(created_at)`
|
||||
- Stages в JSONB (не отдельная таблица), instances не нужны (API — source of truth)
|
||||
- Чувствительные params маскировать при сохранении
|
||||
|
||||
**2. Connection pool:**
|
||||
- `psycopg2.pool.ThreadedConnectionPool` — минимум зависимостей
|
||||
- Lazy-init в `db/pool.py` — безопасно для fork-модели gunicorn
|
||||
- `flask.g` + `@app.teardown_appcontext` для возврата соединений
|
||||
|
||||
**3. Миграции:**
|
||||
- `db/init_db.py` с `IF NOT EXISTS` — идемпотентно, авто-применение при старте
|
||||
- Alembic — когда 3+ таблицы или нужен rollback (сейчас не нужно)
|
||||
|
||||
**4. Трекер vs PostgreSQL:**
|
||||
- **НЕ заменять** трекер на БД — это разные слои
|
||||
- Трекер = кеш (секунды), PostgreSQL = история (недели)
|
||||
- Сетевое обращение к БД на критическом пути CREATE недопустимо
|
||||
|
||||
**5. auth.py:**
|
||||
- Явные функции вместо `before_request` — проще, нет скрытых зависимостей
|
||||
- Одна реализация `get_client_id()` вместо двух копий
|
||||
- Кеширование `token → endpoint` (опционально, TTL 5 мин)
|
||||
|
||||
**6. Динамические сервисы:**
|
||||
- `/api/services` из API → фильтр по `enabled: true` из config.yaml
|
||||
- UI: заменить хардкод `SVC_ID=1` на динамическую загрузку в `selectService()`
|
||||
|
||||
**7. JS в файл:**
|
||||
- Классический скрипт, один файл `app.js` (300 строк — не нужно ES modules)
|
||||
- `window.APP = {...}` через `tojson` фильтр Jinja2 для передачи переменных
|
||||
|
||||
### Итоговый порядок реализации (9 шагов)
|
||||
1. `api/auth.py` — вынести get_token/get_client/get_client_id/get_stand
|
||||
2. Заменить дублирующиеся функции в main.py и api_test.py
|
||||
3. Cookie `httponly=True, samesite='Strict'`
|
||||
4. `_op_results` TTL/очистка
|
||||
5. JS вынести в `/static/app.js` + `window.APP`
|
||||
6. Динамические сервисы из `/api/services`
|
||||
7. `db/pool.py` + `db/init_db.py` (PostgreSQL)
|
||||
8. Запись истории в runs при завершении операции
|
||||
9. `/api/history` эндпоинт + UI
|
||||
|
||||
## v1.0.89 (27.07.2026) — Sonnet Round 1: архитектурный аудит
|
||||
- Cloud-first подход с tracker-fallback
|
||||
- HTML-экранирование в JS
|
||||
|
||||
**🔴 Критические находки:**
|
||||
1. `_op_results` dict растёт бесконечно — утечка памяти, нужен TTL/очистка
|
||||
2. Cookie токена без `httponly` и `samesite`
|
||||
3. `/api/log` без проверки авторизации
|
||||
|
||||
**🟡 Дублирование:**
|
||||
1. `_client_id()` — идентичный код в main.py и api_test.py
|
||||
2. `_client()` — разное поведение в main.py и api_test.py
|
||||
3. Инлайн `<style>` дублирует `style.css`
|
||||
|
||||
**🟡 Захардкодено:**
|
||||
1. `SVC_ID=1` и список сервисов в HTML — хотя `/api/services` существует
|
||||
2. `create_client()` в main.py vs `_client()` в api_test.py — разные подходы
|
||||
|
||||
**Приоритетный план исправлений:**
|
||||
1. 🔴 `_op_results` — добавить очистку/TTL
|
||||
2. 🔴 Cookie `httponly=True, samesite='Strict'`
|
||||
3. 🟡 Вынести `_client_id()` / `get_token()` в общий модуль `api/auth.py`
|
||||
4. 🟡 Загрузка сервисов из `/api/services` вместо хардкода
|
||||
5. 🟡 Вынести JS в `/static/app.js`
|
||||
6. 🟢 SQLite история запусков
|
||||
7. 🟢 `/api/log` проверка токена
|
||||
|
||||
### Создан запрос Round 2
|
||||
Файл: `DOCS/sonnet-architecture-review-v1.0.89-r2.md` — уточняющие вопросы по реализации.
|
||||
|
||||
## v1.0.89 (27.07.2026) — документация и комментарии кода
|
||||
|
||||
## v1.0.87 (27.07.2026) — документация: ARCHITECTURE.md переписан, legacy-доки помечены
|
||||
|
||||
## v1.0.84 (27.07.2026) — лог-панель скрыта по умолчанию
|
||||
|
||||
### Что изменилось
|
||||
- Лог-панель теперь `display:none`, показывается кнопкой `log` (правый нижний угол).
|
||||
- При скрытой панели `/api/log` не поллится.
|
||||
|
||||
## v1.0.83 (27.07.2026) — HTML-escape + JSON-валидация map-полей
|
||||
|
||||
### Что изменилось
|
||||
- `_esc(s)` — HTML-экранирование значений (`"` → `"`, `&` → `&`, `<` → `<`).
|
||||
- `validateJson(el, quiet)` — проверка `JSON.parse()` при `onblur` (красная рамка + текст ошибки).
|
||||
- Batch-проверка всех map-полей перед отправкой — ошибка → запрос не уходит.
|
||||
|
||||
### Что это чинит
|
||||
- Поломку HTML при значениях с кавычками (напр. `{"f":1}`).
|
||||
- Отправку битого JSON в API.
|
||||
|
||||
## v1.0.82 (27.07.2026) — displayName из API для non-create операций
|
||||
|
||||
### Что изменилось
|
||||
- `_get_instance_display_name(client, uid)` — `GET /instances/{uid}` → `displayName`.
|
||||
- Используется в не-create ветке `POST /api/test` вместо `instance_uid` как fallback.
|
||||
|
||||
### Что это чинит
|
||||
- UUID вместо имени инстанса в финальном статусе.
|
||||
|
||||
## v1.0.81 (27.07.2026) — get_params.py: текущие значения из state.params
|
||||
|
||||
### Что изменилось
|
||||
- Новый файл `site/operations/get_params.py` — независимый модуль.
|
||||
- `get_params_with_current_values(client, op_id, instance_uid)`:
|
||||
- `GET /instances/{uid}` → `state.params` (текущие значения)
|
||||
- `GET /instanceOperations/default/{opId}` → шаблон
|
||||
- Слияние: `defaultValue = state.params["код"] ?? template.defaultValue`
|
||||
- Убран `previewOpUid` полностью (и из бэкенда, и из фронтенда).
|
||||
|
||||
## v1.0.80 (27.07.2026) — попытка fix через svcOperationId (НЕ СРАБОТАЛО)
|
||||
|
||||
## v1.0.79 (27.07.2026) — файловый лог для multi-worker
|
||||
|
||||
### Что изменилось
|
||||
- `_log()` пишет в `/tmp/app-autotest.log` под `fcntl.flock` (вместо in-memory deque).
|
||||
- `/api/log` читает из файла последние 200 строк.
|
||||
- Ротация при 512 КБ.
|
||||
- UI-панель логов (180px, автоскролл, поллинг 2s).
|
||||
|
||||
## v1.0.77 (27.07.2026) — debug-логирование в api_params
|
||||
|
||||
## v1.0.76 (27.07.2026) — modify: preview-операция для получения paramValue (НЕ СРАБОТАЛО)
|
||||
|
||||
# v1.0.74 (27.07.2026) — version bump for push
|
||||
|
||||
### Что изменилось
|
||||
- В `site/templates/index.html` create-операция отделена от обычных операций: CREATE использует фиксированный префикс `autotest-`, а non-create берёт имя выбранного инстанса.
|
||||
- Из non-create ветки убран случайный fallback `tut` и общий create-style `displayName`.
|
||||
- В `site/routes/api_test.py` backend больше не подставляет create-имя по умолчанию для обычных операций и возвращает `displayName` для финального статуса.
|
||||
- В `site/routes/main.py` список autotest-инстансов теперь строится cloud-first без старой склейки через map по имени; tracker остался только как временный fallback, если cloud ещё не вернул новый инстанс.
|
||||
|
||||
### Что это чинит
|
||||
- Путаницу между CREATE и обычными операциями.
|
||||
- Ситуацию, когда в UI появлялся лишний `tut`.
|
||||
- Дубли `running/creating` на одном autotest-инстансе.
|
||||
- Неясный финальный статус, где было видно операцию, но не было понятно, над каким инстансом она выполнялась.
|
||||
|
||||
# v1.0.72 (27.07.2026) — service list keeps one autotest row per displayName
|
||||
|
||||
### Что изменилось
|
||||
- В `site/routes/main.py` сервисный список теперь cloud-first и не склеивает разные строки в одну map.
|
||||
- Tracker остаётся только как fallback, если cloud ещё не вернул конкретный autotest-инстанс.
|
||||
|
||||
### Что это чинит
|
||||
- Дубли `running/creating` на одном и том же autotest-инстансе.
|
||||
|
||||
# v1.0.71 (27.07.2026) — finished status shows instance name
|
||||
|
||||
### Что изменилось
|
||||
- В `site/templates/index.html` финальная строка после `OK/FAIL` теперь показывает имя инстанса.
|
||||
- Имя операции и длительность остаются рядом, отдельно от имени инстанса.
|
||||
|
||||
### Что это чинит
|
||||
- Ситуацию, когда после завершения delete/modify было видно только название операции, но не ясно, над каким инстансом она выполнялась.
|
||||
|
||||
# v1.0.70 (27.07.2026) — dedupe autotest instances by displayName
|
||||
|
||||
### Что изменилось
|
||||
- В `site/routes/main.py` сервисный список теперь склеивает записи по `displayName`.
|
||||
- Если cloud уже отдал `running`, он выигрывает у tracker-fallback `creating`.
|
||||
|
||||
### Что это чинит
|
||||
- Дубли одной и той же autotest-записи после CREATE, когда в списке появлялись и `running`, и `creating`.
|
||||
|
||||
## v1.0.69 (27.07.2026) — autotest prefix fixed in CREATE field
|
||||
|
||||
### Что изменилось
|
||||
- В `site/templates/index.html` префикс `autotest-` отображается отдельным фиксированным текстом.
|
||||
- Рядом с ним остаётся только редактируемый суффикс имени.
|
||||
- При отправке CREATE имя собирается как `autotest-` + введённый хвост.
|
||||
|
||||
### Что это чинит
|
||||
- Ситуацию, когда весь `displayName` показывался в одном редактируемом поле.
|
||||
- Риск случайно стереть обязательный префикс `autotest-`.
|
||||
|
||||
## v1.0.68 (27.07.2026) — operation name shown after OK + muted operation buttons
|
||||
|
||||
### Что изменилось
|
||||
- В `site/templates/index.html` финальный статус теперь показывает имя операции рядом со временем.
|
||||
- Кнопки операций получили спокойные неброские оттенки по типу операции.
|
||||
|
||||
### Что это чинит
|
||||
- Неясность после завершения операции, когда было видно только `OK` и время без указания, что именно выполнялось.
|
||||
- Слишком кислотный вид кнопок операций.
|
||||
|
||||
## v1.0.67 (27.07.2026) — autotest instances are shown by cloud prefix
|
||||
|
||||
### Что изменилось
|
||||
- В `site/routes/main.py` список инстансов сервиса больше не отфильтровывается через `/tmp/instances.json`.
|
||||
- Теперь в таблицу попадают все облачные инстансы с префиксом `autotest-`.
|
||||
- Трекер оставлен только как fallback, если новый autotest-инстанс ещё не успел появиться в ответе облака.
|
||||
|
||||
### Что это чинит
|
||||
- Ситуацию, когда autotest-инстанс уже есть в облаке, но не показывается в таблице из-за отсутствия записи в json.
|
||||
|
||||
## v1.0.66 (27.07.2026) — backend status resolver for operations
|
||||
|
||||
### Что изменилось
|
||||
- В `site/routes/main.py` добавлен канонический резолвер статуса инстанса для `/api/operations/<svc_id>`.
|
||||
- Backend теперь отдаёт `status` для инстансов, а UI читает именно его вместо угадывания по `explainedStatus`.
|
||||
- В `site/templates/index.html` убрано раннее отображение «Готово» во время выполнения операции.
|
||||
|
||||
### Что это чинит
|
||||
- Путаницу между `creating`, `running` и фактическим статусом в UI.
|
||||
- Ситуацию, когда фронтенд сам интерпретировал статусы и показывал не то состояние.
|
||||
|
||||
## v1.0.65 (27.07.2026) — cloud list pagination fix
|
||||
|
||||
### Что изменилось
|
||||
- В `site/operations/get_instances.py` пагинация списка инстансов теперь останавливается по размеру страницы, а не по `total`.
|
||||
- Это убирает ситуацию, когда инстанс уже создан в облаке, но приложение не дочитало следующую страницу и показывает `creating`.
|
||||
- В `DOCS/ARCHITECTURE.md` и `site/app.py` синхронизирована версия `1.0.65`.
|
||||
|
||||
### Что это чинит
|
||||
- Ложный `creating` для уже существующего инстанса, если он попал не на первую страницу `/instances`.
|
||||
|
||||
## v1.0.64 (27.07.2026) — header version + editable displayName placeholder
|
||||
|
||||
### Что изменилось
|
||||
- В `site/routes/main.py` версия теперь гарантированно попадает в `config.VERSION` даже после `load_config()`.
|
||||
- В `site/templates/index.html` поле `displayName` остаётся редактируемым, но автотест-имя показывается как placeholder.
|
||||
- При CREATE пользователь может ввести своё имя, а backend всё равно добавит `autotest-` и проверит уникальность.
|
||||
- В `DOCS/ARCHITECTURE.md` зафиксированы оба изменения.
|
||||
|
||||
### Что это чинит
|
||||
- Пропадающую версию в шапке.
|
||||
- Неправильное поведение поля `displayName`, когда оно выглядело как готовое значение вместо подсказки.
|
||||
|
||||
## v1.0.63 (27.07.2026) — autotest namespace for instances
|
||||
|
||||
### Что изменилось
|
||||
- В `site/templates/index.html` CREATE теперь генерирует `displayName` с префиксом `autotest-` и проверяет его на уникальность среди текущих инстансов.
|
||||
- В `site/routes/api_test.py` backend тоже нормализует `displayName` с этим префиксом и, если нужно, добавляет суффикс для уникальности перед созданием в облаке.
|
||||
- В `site/routes/main.py` список инстансов фильтруется по namespace `autotest-`, чтобы в UI попадали только тестовые инстансы приложения.
|
||||
- В `DOCS/ARCHITECTURE.md` зафиксирован переход на namespace-based фильтрацию.
|
||||
|
||||
### Что это чинит
|
||||
- Дубли `displayName` при CREATE.
|
||||
- Чужие инстансы в списке.
|
||||
- Зависимость от локального трекера как от основного признака принадлежности.
|
||||
|
||||
## v1.0.62 (27.07.2026) — immediate visual refresh after CREATE
|
||||
|
||||
### Что изменилось
|
||||
- В `site/templates/index.html` после завершения CREATE список инстансов перерисовывается полностью.
|
||||
- `refreshInstances()` больше не зависит от DOM-diff и сразу ставит новый инстанс в список.
|
||||
- `DOCS/ARCHITECTURE.md` и `site/app.py` синхронизированы на `1.0.62`.
|
||||
|
||||
### Что это чинит
|
||||
- После появления кнопки «Готово» созданный инстанс должен сразу быть виден в списке.
|
||||
|
||||
## v1.0.61 (27.07.2026) — immediate list rebuild after CREATE
|
||||
|
||||
### Что изменилось
|
||||
- В `site/templates/index.html` `refreshInstances()` теперь всегда полностью перерисовывает список инстансов после завершения операции.
|
||||
- После `OK` новый инстанс должен появляться в списке сразу, без зависимости от DOM-diff и без перезагрузки страницы.
|
||||
- В `DOCS/ARCHITECTURE.md` и `site/app.py` синхронизирована версия `1.0.61`.
|
||||
|
||||
### Что это чинит
|
||||
- Убрана ситуация, когда после CREATE статус уже `OK`, но в UI инстанс ещё не виден.
|
||||
|
||||
## v1.0.60 (27.07.2026) — full list rerender after CREATE
|
||||
|
||||
### Что изменилось
|
||||
- В `site/templates/index.html` `refreshInstances()` теперь полностью перерисовывает список инстансов, а не пытается вставить только diff.
|
||||
- После завершения CREATE новый инстанс должен появляться в списке сразу после `OK`.
|
||||
- В `DOCS/ARCHITECTURE.md` добавлен отдельный шаг про полную перерисовку списка.
|
||||
|
||||
### Что это чинит
|
||||
- Снята зависимость от частичного DOM-diff-а, из-за которого созданный инстанс мог не появляться сразу.
|
||||
|
||||
## v1.0.59 (27.07.2026) — restore tracked instance after reload
|
||||
|
||||
### Что изменилось
|
||||
- В `site/routes/main.py` tracked-инстансы, которых Nubes уже не отдает в ответе после reload, снова добавляются в список из `/tmp/instances.json`.
|
||||
- В `site/templates/index.html` статус CREATE теперь показывает имя инстанса, а не только `create`.
|
||||
- В `DOCS/ARCHITECTURE.md` зафиксирован новый шаг восстановления списка после F5.
|
||||
|
||||
### Что это чинит
|
||||
- После F5 инстанс не пропадает из UI, если он есть в локальном трекере.
|
||||
- В статусе выполнения видно, по какому displayName идет CREATE.
|
||||
|
||||
## v1.0.58 (27.07.2026) — version bump
|
||||
|
||||
- Поднята версия проекта до `1.0.58`.
|
||||
- Синхронизированы заголовки в `site/app.py` и `DOCS/ARCHITECTURE.md`.
|
||||
|
||||
## v1.0.57 (27.07.2026) — UI hardening + history sync
|
||||
|
||||
### Что изменилось
|
||||
- В `site/templates/index.html` финальное состояние кнопки вынесено в `setFinishedState()`, чтобы не держать логику завершения операции в двух местах.
|
||||
- После завершения операции кнопка «Готово» теперь гарантированно сбрасывает обработчик через `btn.onclick = null`.
|
||||
- Повторный CREATE через старый обработчик больше не воспроизводится.
|
||||
- `displayName` больше не теряется в нормальном сценарии завершения CREATE.
|
||||
- В `site/app.py` версия поднята до `1.0.57`.
|
||||
- В `DOCS/ARCHITECTURE.md` отмечено закрытие бага с повторным CREATE и синхронизирован статус по `displayName`.
|
||||
|
||||
### Зачем это было сделано
|
||||
- Убрать хрупкость вокруг состояния кнопки после завершения операции.
|
||||
- Привести документацию и версию к текущему состоянию кода.
|
||||
|
||||
## v1.0.54 (27.07.2026) — Аудит #3: 4 бага исправлено
|
||||
|
||||
### Баг #1: `_client()` не автоопределял стенд (КРИТИЧЕСКИЙ)
|
||||
- **Где:** `api_test.py:_client()` — использовал `current_app.config["NUBES_API_ENDPOINT"]` (raw env var)
|
||||
- **Симптом:** main.py автоопределял стенд для главной, но POST /api/test падал с 401 если токен от другого стенда
|
||||
- **Исправление:** `detect_endpoint()` вынесен в `api/http_client.py`, используется в `_client()`
|
||||
- **Как пропустили:** анализировал main.py и api_test.py в изоляции, не сравнил
|
||||
|
||||
### Баг #2: `_find_uid()` возвращал не тот UUID (КРИТИЧЕСКИЙ)
|
||||
- **Где:** `api_test.py:_find_uid()` — итерировал по ВСЕМ значениям dict, искал 36-символьную строку
|
||||
- **Симптом:** `/instanceOperations` возвращает оба `instanceUid` + `instanceOperationUid`, функция брала первый попавшийся → `run` шёл на неправильный URL
|
||||
- **Исправление:** ищет по конкретным ключам: `instanceOperationUid` → `instanceUid` → `uid` → `Uid`
|
||||
- **Как пропустили:** не проверил реальный формат ответа API
|
||||
|
||||
### Баг #3: Сироты при ошибке params (СРЕДНИЙ)
|
||||
- **Где:** `api_test.py`: порядок — `POST /instances` → `POST /instanceOperations` → params loop → `tracker_add`
|
||||
- **Симптом:** если params падает — инстанс и операция созданы в Nubes, трекер пуст → сироты
|
||||
- **Исправление:** `tracker_add` вызывается ДО params loop, сразу после получения `instanceUid`
|
||||
- **Как пропустили:** не трассировал линейно порядок вызовов
|
||||
|
||||
### Баг #4: `flock` без таймаута (НИЗКИЙ)
|
||||
- **Где:** `tracker.py:_locked_read/_write` — `fcntl.flock(fd, LOCK_EX)` без LOCK_NB
|
||||
- **Симптом:** при зависшем процессе с локом все воркеры блокируются навсегда
|
||||
- **Исправление:** `_acquire_lock()` с `LOCK_EX | LOCK_NB` + retry до 2 секунд
|
||||
- **Как пропустили:** новый код flock не перечитал с нуля после добавления
|
||||
|
||||
### Архитектурное: `detect_endpoint` вынесен в http_client.py
|
||||
- Раньше был в main.py → недоступен для api_test.py
|
||||
- Теперь в `api/http_client.py` → оба модуля используют
|
||||
|
||||
---
|
||||
|
||||
## v1.0.53 (27.07.2026) — Файловый трекер с fcntl.flock
|
||||
- In-memory dict заменён на `/tmp/instances.json` с `fcntl.LOCK_EX`
|
||||
- Multi-worker gunicorn: все воркеры читают/пишут один файл под локом
|
||||
|
||||
## v1.0.52 (27.07.2026) — `_tmpl()` helper
|
||||
- Все переменные шаблона передаются во всех трёх return-путях index()
|
||||
- Исправлен UndefinedError при «Выйти»
|
||||
|
||||
## v1.0.51 (27.07.2026) — Автоопределение стенда + UnboundLocalError
|
||||
- `detect_endpoint()` в main.py: пробует токен против dev и test API
|
||||
- `instance_groups = {}` инициализирован до if
|
||||
- `_finish_op` обёрнут в полный try/except
|
||||
|
||||
## v1.0.50 (27.07.2026) — showStages + api_operations fix
|
||||
- `showStages()`: dtFinish вместо isSuccessful для ⏳/✅/❌
|
||||
- `api_operations()`: не фильтровать "not created", добавлять tracked-сирот
|
||||
|
||||
## v1.0.49 (27.07.2026) — In-memory tracker + refreshInstances
|
||||
- Трекер: in-memory dict вместо файла `/tmp/instances.json`
|
||||
- `refreshInstances()` добавляет новые инстансы в DOM (не только бейджи)
|
||||
- `selectService()` заменён на `refreshInstances()` после OK
|
||||
|
||||
## v1.0.48 (27.07.2026) — tracker_add синхронно
|
||||
- `tracker_add` в `api_test()` до `threading.Thread`
|
||||
- Лог `is_ok` в `_finish_op`
|
||||
- Flexbox-кнопки горизонтально
|
||||
|
||||
## v1.0.47 (27.07.2026) — displayName fix
|
||||
- displayName захватывается до очистки формы
|
||||
- tracker_add до _op_results[OK]
|
||||
- autotest-1 в _INITIAL
|
||||
|
||||
## v1.0.46 (27.07.2026) — _finish_op signature
|
||||
- Добавлены op_name, svc_op_id в _finish_op()
|
||||
|
||||
## v1.0.45 и ранее
|
||||
- Базовый CREATE/MODIFY/SUSPEND/DELETE/RESUME/REDEPLOY
|
||||
- UI с этапами, поллинг, params форма
|
||||
- Множественные баги CREATE flow (документированы в DOCS/api-create-flow.md)
|
||||
@@ -0,0 +1,318 @@
|
||||
# Запрос на полный анализ autotest — для нового чата с агентом
|
||||
|
||||
Дата: 2026-07-30
|
||||
Версия: v1.1.48
|
||||
|
||||
---
|
||||
|
||||
## 1. ЧТО ЭТО ЗА ПРОЕКТ
|
||||
|
||||
**autotest** — веб-приложение для автоматизированного тестирования сервисов платформы Nubes (Cloud Director). Позволяет запускать операции (create/modify/delete/suspend/resume/redeploy) над инстансами сервисов через Nubes REST API, отслеживать статус, вести историю запусков.
|
||||
|
||||
Приложение запущено на тестовом стенде: `atest.pythonk8s.dev.nubes.ru`
|
||||
|
||||
**Стек:**
|
||||
- Backend: Flask 3.0 + gunicorn (multi-worker)
|
||||
- DB: PostgreSQL 17 (Zalando Operator), схемы: `runs`, `scenario_runs`, `scenario_definitions` (pending)
|
||||
- Frontend: ванильный JS (один файл `app.js`, 550 строк), Jinja2-шаблон
|
||||
- Nubes REST API: `https://lk-api-gateway-test.ngcloud.ru/api/v1/svc`
|
||||
- Аутентификация: JWT-токен (cookie или env), автоопределение стенда (dev/test)
|
||||
- Деплой: Nubes pythonk8s, кластер iot-naeel
|
||||
|
||||
**Автор:** naeel (tazetdinovn@gmail.com, WZ03709)
|
||||
**Репозитории:**
|
||||
- `https://gitea.services.ngcloud.ru/forcloud/app-autotest` — код приложения
|
||||
- `https://gitea.services.ngcloud.ru/forcloud/autotest` — документация, YAML-описания сервисов
|
||||
|
||||
---
|
||||
|
||||
## 2. АРХИТЕКТУРА — ФАЙЛЫ И ИХ РОЛИ
|
||||
|
||||
### site/app.py — точка входа
|
||||
Flask-приложение, регистрирует blueprint'ы:
|
||||
- `main_bp` — главная страница, токен, инфраструктура
|
||||
- `api_test_bp` — основной API (run/params/status/log/history)
|
||||
- `api_scenario_bp` — API сценариев (run/status/CRUD — pending)
|
||||
- `api_bp` — **УДАЛЁН в v1.1.45** (legacy: /api/run, /api/status, /api/config)
|
||||
- VERSION — меняется при КАЖДОМ изменении
|
||||
|
||||
### site/api/http_client.py — HTTP-клиент
|
||||
- `HttpClient` — обёртка над requests.Session
|
||||
- GET: `raise_for_status()` → `.json()`, пустой ответ → `{}`
|
||||
- POST: `json=data`, извлекает Location-заголовок → `_location` в ответе
|
||||
- `raw_delete(url)` — DELETE без auth (для CMDB API)
|
||||
- `detect_endpoint(token)` — автоопределение стенда (dev→test)
|
||||
- `stand_name(endpoint)` — "dev"/"test" по URL
|
||||
|
||||
### site/api/auth.py — аутентификация
|
||||
- `get_token()` — из cookie или env
|
||||
- `get_client()` — HttpClient с автостендом
|
||||
- `get_client_id()` — ClientID из JWT
|
||||
- `get_stand()` — "dev"/"test"
|
||||
- `get_token_info()` — {email, company, client_id}
|
||||
|
||||
### site/routes/main.py — главная страница
|
||||
- `GET/POST /` — Jinja2-рендер: организация, инфраструктура, сервисы, форма токена
|
||||
- `GET /api/operations/<svc_id>` — cloud-first инстансы + tracked-fallback
|
||||
- `_resolve_instance_status()` — explainedStatus из облака или "creating" из трекера
|
||||
|
||||
### site/routes/api_test.py — ОСНОВНОЙ API (400 строк)
|
||||
Эндпоинты:
|
||||
- `GET /api/services` — список сервисов
|
||||
- `GET /api/instances/list` — все инстансы
|
||||
- `GET /api/params/<op_id>[?instanceUid=xxx]` — параметры операции (текущие или шаблон)
|
||||
- `POST /api/test` — запуск операции (CREATE или non-CREATE)
|
||||
- `GET /api/test/status/<op_uid>` — поллинг
|
||||
- `GET /api/log` — логи
|
||||
- `GET /api/history` — история из БД
|
||||
|
||||
Ключевые функции:
|
||||
- `_send_params_terraform()` — шаги 3-7 Terraform (cfsParams → resolveRefSvc → send → validate)
|
||||
- `_normalize_value()` — normalizeUniversalValueV6 (Terraform-equivalent)
|
||||
- `_resolve_ref_svc()` — автоподстановка UUID инстанса для refSvcId-параметров
|
||||
- `_finish_op()` — фоновый поллинг до dtFinish, сохранение в БД
|
||||
- `_redact_params()` — замена secret/password/token на ***
|
||||
- `_unique_display_name()` — проверка на дубликат + суффикс
|
||||
- `_find_uid(resp)` — извлечение UUID из вложенных dict
|
||||
- `_uid_from_location(loc)` — извлечение UUID из Location-заголовка
|
||||
|
||||
### site/routes/api_scenario.py — API СЦЕНАРИЕВ (90 строк)
|
||||
- `GET /api/scenarios` — список из config.yaml (должен быть переключён на БД)
|
||||
- `POST /api/scenario/run` — запуск (создаёт запись ДО потока, возвращает run_id + 202)
|
||||
- `GET /api/scenario/run/<int:run_id>` — статус конкретного запуска
|
||||
- `GET /api/scenario/status` — последние 10 запусков (legacy, должен уйти)
|
||||
|
||||
### site/operations/scenario.py — ЯДРО СЦЕНАРИЕВ (290 строк)
|
||||
- `run_scenario()` — главный исполнитель:
|
||||
1. service имя → svc_id (из config.yaml services)
|
||||
2. operation имя → svcOperationId (GET /services/{id})
|
||||
3. param коды → numeric IDs (GET /instanceOperations/default/{opId})
|
||||
4. create: новый инстанс; остальные: переиспользовать instance_map
|
||||
5. POST /instances → POST /instanceOperations → _send_params_terraform → run → poll
|
||||
6. Сохранить в runs (RUNNING до API, финальный после) + scenario_runs
|
||||
- `_resolve_service()` — поиск svc_id по символическому имени
|
||||
- `_resolve_params()` — symbolic codes → numeric IDs
|
||||
- `_find_uid()`, `_uid_from_location()` — ДУБЛИКАТЫ из api_test.py (!)
|
||||
- `_save_scenario_run()` — UPDATE scenario_runs
|
||||
- `_create_scenario_run()` — INSERT scenario_runs
|
||||
|
||||
### site/operations/get_params.py — параметры с текущими значениями
|
||||
- `get_params_with_current_values()` — смержить state.params инстанса с шаблоном операции
|
||||
- `_normalize_value_list()` — CSV-строка/массив → list
|
||||
|
||||
### site/operations/get_services.py — сервисы
|
||||
- `get_services()` — GET /services → все сервисы
|
||||
- `get_service_detail()` — GET /services/{id} → детали + операции
|
||||
|
||||
### site/operations/get_instances.py — инстансы
|
||||
- `get_organization()` — инстанс с serviceId=19
|
||||
- `get_instances()` — GET /instances?pageSize=500 → все инстансы
|
||||
|
||||
### site/operations/service_list.py — разрешённые сервисы
|
||||
- `load_service_ids(stand)` — чтение `config/services_{stand}.txt`
|
||||
|
||||
### site/operations/tracker.py — трекер инстансов (файловый)
|
||||
- JSON-файлы в /tmp/: `instances-{clientId}-{stand}.json`
|
||||
- fcntl.flock для multi-worker safety
|
||||
- Используется как КРАТКОСРОЧНЫЙ fallback (инстанс создан, но облако ещё не показывает)
|
||||
|
||||
### site/db/pool.py — connection pool
|
||||
- Lazy-init ThreadedConnectionPool (1-5)
|
||||
- `_ensure_schema()` → `init_db()` после успешного коннекта
|
||||
- ENV: DB_HOST, DB_PORT, DB_NAME, DB_USER, DB_PASSWORD, DB_SSLMODE
|
||||
|
||||
### site/db/init_db.py — схема БД
|
||||
- Таблица `runs` — история операций (id, client_id, stand, svc_id, op_name, status, duration, params JSONB, stages JSONB, scenario_run_id, step_number)
|
||||
- Таблица `scenario_runs` — запуски сценариев (id, scenario_name, status, current_step, total_steps, duration, error_log)
|
||||
- Миграции: ALTER TABLE ADD COLUMN IF NOT EXISTS
|
||||
- **НЕТ** таблицы `scenario_definitions` — её ещё предстоит создать
|
||||
|
||||
### site/db/save_run.py — сохранение в БД
|
||||
- `save_run()` — INSERT в runs
|
||||
- Принимает опциональные `scenario_run_id` + `step_number` (добавлены в v1.1.48)
|
||||
|
||||
### site/runner.py — LEGACY (будет удалён)
|
||||
- Старый механизм запуска тестов из config.yaml
|
||||
- Используется только `load_config()` из него
|
||||
|
||||
### site/static/app.js — ФРОНТЕНД (550 строк)
|
||||
- Глобальное состояние: svcInstances, selectedInst, selectedOp, pollTimer, currentSvcId, busy, AUTOTEST_PREFIX
|
||||
- selectService(), toggleInstance(), startCreate(), runOp(), showParams(), executeOp()
|
||||
- Поллинг: setFinishedState(), showStages(), stopPoll(), refreshInstances()
|
||||
- История: toggleHistory(), loadHistory()
|
||||
- Сценарии: toggleScenario(), loadScenarios(), runScenario(), stopScenarioPoll()
|
||||
- Хелперы: _esc() (HTML-escape), validateJson()
|
||||
- Логи: toggleLog(), startLogPoll()
|
||||
|
||||
### site/static/style.css — стили
|
||||
### site/templates/index.html — Jinja2-шаблон
|
||||
- Три колонки: инфраструктура | сервисы | инстансы+операции+параметры
|
||||
- Секции: история (сворачиваемая), сценарии (сворачиваемая)
|
||||
- window.APP: version, stand, hasUserToken, firstServiceId
|
||||
|
||||
### site/config.yaml — конфигурация
|
||||
- services: маппинг name → service_id
|
||||
- scenarios: один сценарий dummy_test (create → delete)
|
||||
- **Проблема:** сценарии в контейнере, требуют redeploy для изменения
|
||||
|
||||
### STANDS/dev/resources_yaml/ — YAML-описания сервисов (50+ файлов)
|
||||
- Полные описания: name, service_id, outputs, operations с параметрами (коды, типы, valueList, sub_params)
|
||||
- Используются ТОЛЬКО как документация, код их не читает
|
||||
|
||||
### DOCS/ — документация
|
||||
- ARCHITECTURE-FULL.md — полный обзор
|
||||
- sol-answers.md — 14 ответов Sol (MVP-план)
|
||||
- sol-scenario-editor.md — ответы Sol по редактору сценариев
|
||||
|
||||
---
|
||||
|
||||
## 3. ПОТОК ОПЕРАЦИИ CREATE (Terraform parity)
|
||||
|
||||
1. POST /instances → `instance_uid` из Location-заголовка `./UUID`
|
||||
2. POST /instanceOperations → `op_uid` из Location-заголовка
|
||||
3. GET /instanceOperations/{op_uid}?fields=cfsParams → шаблон параметров
|
||||
4. _resolve_ref_svc → автоподстановка UUID для refSvcId-параметров
|
||||
5. POST /instanceOperationCfsParams → отправить пользовательские параметры
|
||||
6. POST /instanceOperationCfsParams → дослать неотправленные (с normalize)
|
||||
7. GET /instanceOperations/{op_uid}/validate-cfs → валидация
|
||||
8. POST /instanceOperations/{op_uid}/run → запуск
|
||||
9. Поллинг GET /instanceOperations/{op_uid}?fields=dtFinish,... → dtFinish
|
||||
|
||||
---
|
||||
|
||||
## 4. ТЕКУЩЕЕ СОСТОЯНИЕ (v1.1.48)
|
||||
|
||||
### Работает:
|
||||
- ✅ Ручной запуск операций (create/modify/delete/suspend/resume/redeploy)
|
||||
- ✅ Terraform-совместимая отправка параметров (9 шагов)
|
||||
- ✅ Поллинг с этапами (⏳/✅/❌)
|
||||
- ✅ История в БД (runs)
|
||||
- ✅ Лог-панель (fcntl.flock, ротация)
|
||||
- ✅ HTML-escape (statusError, d.error, логи, currentSvcName)
|
||||
- ✅ Redact secrets перед сохранением
|
||||
- ✅ Валидация входов (UUID, int, dict)
|
||||
- ✅ refSvcId — верхнеуровневый + в dataDescriptor
|
||||
- ✅ Убран legacy api_bp
|
||||
|
||||
### Частично работает:
|
||||
- ⚠️ Сценарии — запуск есть, но источник = config.yaml (redeploy для правки)
|
||||
- ⚠️ save_run пишет scenario_run_id + step_number (v1.1.48), но не протестировано
|
||||
- ⚠️ run_id возвращается клиенту (v1.1.48), поллинг по конкретному запуску
|
||||
|
||||
### Не работает / pending:
|
||||
- ❌ Редактор сценариев в UI (нужна таблица scenario_definitions + CRUD API + UI)
|
||||
- ❌ Сценарии требуют redeploy для изменения (запечены в config.yaml)
|
||||
- ❌ Дубликаты _find_uid / _uid_from_location в scenario.py и api_test.py
|
||||
- ❌ scenario.py не протестирован на полный цикл create→delete
|
||||
- ❌ seed из config.yaml в БД при первом старте не реализован
|
||||
- ❌ Нет сервисных токенов (runner использует персональный токен)
|
||||
- ❌ Нет блокировки параллельных запусков сценариев
|
||||
|
||||
---
|
||||
|
||||
## 5. КЛЮЧЕВЫЕ НАХОДКИ ИЗ HAR-ТРАССИРОВКИ
|
||||
|
||||
POST /instances:
|
||||
- Request: `{"serviceId":1,"displayName":"dummy-11255555","descr":""}`
|
||||
- Response: status 201, body `{}`, Location: `./CDEBB216-E5EB-4C09-8736-7E5F01A4EE12`
|
||||
- **UUID ТОЛЬКО в Location-заголовке**, тело ответа — пустой объект `{}`
|
||||
|
||||
POST /instanceOperations:
|
||||
- Request: `{"instanceUid":"...","operation":"create"}`
|
||||
- Response: также Location-заголовок с opUid
|
||||
|
||||
**Следствие:** `_find_uid(resp)` никогда не найдёт UUID в теле ответа (тело пустое). UUID всегда в Location. `_uid_from_location(resp.get("_location",""))` — ЕДИНСТВЕННЫЙ работающий метод извлечения.
|
||||
|
||||
**Но:** `_find_uid` нужен для других ответов API (get instanceOperation), где UUID внутри `instanceOperation.instanceOperationUid`.
|
||||
|
||||
---
|
||||
|
||||
## 6. РЕКОМЕНДАЦИИ SOL (2026-07-30)
|
||||
|
||||
### По редактору сценариев (sol-scenario-editor.md):
|
||||
|
||||
1. **Структура steps:** JSONB, поле `resource` для связи create→modify→delete одного инстанса
|
||||
2. **Параметры:** выпадающие списки из живого API (сервис→операции→коды), кеш на время сессии
|
||||
3. **Seed:** marker `scenario_seed_v1=completed`, `INSERT ON CONFLICT DO NOTHING`, отдельный `scenario_seed.yaml`
|
||||
4. **UI:** модальное окно, кнопки вверх/вниз, мягкое удаление (is_active=false)
|
||||
5. **Валидация:** при сохранении + при запуске, невалидный не запускать
|
||||
6. **Критические дыры:**
|
||||
- run_id до потока (✅ исправлено v1.1.48)
|
||||
- GET /api/scenario/run/<id> (✅ добавлен v1.1.48)
|
||||
- save_run пишет scenario_run_id/step_number (✅ исправлено v1.1.48)
|
||||
- TIMEOUT: op_data инициализировать (✅ исправлено v1.1.48)
|
||||
- RUNNING до API (✅ исправлено v1.1.48)
|
||||
- Блокировка параллельных запусков (pending)
|
||||
- version в definitions для optimistic locking (pending)
|
||||
- Сервисные токены (pending)
|
||||
|
||||
---
|
||||
|
||||
## 7. ЧТО НУЖНО ОТ АГЕНТА
|
||||
|
||||
### Проанализировать и ответить:
|
||||
|
||||
1. **Общая архитектура** — оценить, найти слабые места, предложить улучшения
|
||||
|
||||
2. **Дублирование кода** — `_find_uid` и `_uid_from_location` есть и в api_test.py и в scenario.py. Вынести в общий модуль? Куда?
|
||||
|
||||
3. **scenario_definitions** — спроектировать таблицу:
|
||||
- Поля: id, client_id, stand, name, steps JSONB, version, is_active, created_at, updated_at, updated_by
|
||||
- Индексы: UNIQUE(client_id, stand, lower(name))
|
||||
- API CRUD: какие именно эндпоинты, какие проверки
|
||||
- Seed: как именно импортировать из scenario_seed.yaml при первом старте
|
||||
|
||||
4. **UI редактора сценариев:**
|
||||
- Модальное окно: структура HTML
|
||||
- JS-логика: загрузка списка, создание/редактирование/удаление
|
||||
- Выпадающие списки: сервисы из GET /api/services, операции из GET /api/operations/{svcId}, параметры из GET /api/params/{opId}
|
||||
- Валидация на фронте перед отправкой
|
||||
|
||||
5. **Runner** — нужно ли что-то менять в `run_scenario()`? Он сейчас берёт шаги из config.yaml, должен из БД. Также нужно сохранять snapshot шагов в scenario_runs.
|
||||
|
||||
6. **Безопасность:**
|
||||
- CRUD сценариев: проверка client_id+stand
|
||||
- Optimistic locking (version)
|
||||
- Блокировка параллельных запусков (HTTP 409)
|
||||
|
||||
7. **Что ещё критично упущено?** — любые дыры, которые не покрыты текущим планом
|
||||
|
||||
8. **Приоритетный порядок реализации:**
|
||||
- Что делать сначала, что потом
|
||||
- Что можно выпустить в v1.1.49, что отложить
|
||||
|
||||
### НЕ ДЕЛАТЬ:
|
||||
- Не писать код (только анализ и план)
|
||||
- Не трогать git
|
||||
- Не менять файлы
|
||||
|
||||
---
|
||||
|
||||
## 8. ФАЙЛЫ ДЛЯ АНАЛИЗА (читать в этом порядке)
|
||||
|
||||
1. `app-autotest/site/app.py`
|
||||
2. `app-autotest/site/api/http_client.py`
|
||||
3. `app-autotest/site/api/auth.py`
|
||||
4. `app-autotest/site/routes/main.py`
|
||||
5. `app-autotest/site/routes/api_test.py` (самый важный)
|
||||
6. `app-autotest/site/routes/api_scenario.py`
|
||||
7. `app-autotest/site/operations/scenario.py`
|
||||
8. `app-autotest/site/operations/get_params.py`
|
||||
9. `app-autotest/site/operations/get_services.py`
|
||||
10. `app-autotest/site/operations/get_instances.py`
|
||||
11. `app-autotest/site/operations/tracker.py`
|
||||
12. `app-autotest/site/operations/service_list.py`
|
||||
13. `app-autotest/site/db/pool.py`
|
||||
14. `app-autotest/site/db/init_db.py`
|
||||
15. `app-autotest/site/db/save_run.py`
|
||||
16. `app-autotest/site/runner.py`
|
||||
17. `app-autotest/site/config.yaml`
|
||||
18. `app-autotest/site/static/app.js`
|
||||
19. `app-autotest/site/templates/index.html`
|
||||
20. `app-autotest/site/static/style.css`
|
||||
21. `development/dummycreate.har` (HAR-трассировка CREATE)
|
||||
22. `DOCS/ARCHITECTURE-FULL.md`
|
||||
23. `DOCS/sol-answers.md`
|
||||
24. `DOCS/sol-scenario-editor.md`
|
||||
25. `app-autotest/site/config/services_test.txt`
|
||||
26. Любой YAML из `STANDS/dev/resources_yaml/` (например `1_dummy.yaml`, `115_mariadb.yaml`)
|
||||
@@ -0,0 +1,24 @@
|
||||
# GPT-5.6 Sol — План развития autotest MVP
|
||||
|
||||
Дата: 2026-07-30
|
||||
|
||||
## 10 шагов
|
||||
|
||||
1. Удалить legacy: api.py, runner.py, CMDB DELETE
|
||||
2. Единый исполнитель операций (operation_executor.py)
|
||||
3. YAML-сценарии (loader + validator)
|
||||
4. Разделение токенов (сервисные vs персональные)
|
||||
5. Prod safety policy (серверные проверки)
|
||||
6. PG как источник состояния (scenario_runs, scenario_steps)
|
||||
7. Runner + API (последовательное выполнение)
|
||||
8. UI: вкладки «Ручные», «Сценарии», «История»
|
||||
9. Аудит: TIMEOUT в БД, refSvc fix, redact secrets, общая история
|
||||
10. Проверка: тесты validator, executor, DB, smoke
|
||||
|
||||
## Мой порядок
|
||||
|
||||
Фаза 1 (база): шаги 1→2→9 (убрать мусор, единый executor, багфиксы)
|
||||
Фаза 2 (ядро): шаги 4→5→6→3 (токены, policy, БД, YAML)
|
||||
Фаза 3 (runner): шаг 7 (исполнение сценариев)
|
||||
Фаза 4 (UI): шаг 8 (интерфейс)
|
||||
Фаза 5: шаг 10 (тесты)
|
||||
@@ -0,0 +1,54 @@
|
||||
# GPT-5.6 Sol — Идеи развития + поиск багов
|
||||
|
||||
## Что такое autotest
|
||||
|
||||
Flask 3.0 + vanilla JS + PostgreSQL. Развёрнут на Nubes pythonk8s (managed).
|
||||
Ручной инструмент для тестирования Nubes Cloud API — создание/изменение/удаление инстансов любых сервисов (PostgreSQL, Redis, S3, Kafka, ~35 сервисов).
|
||||
|
||||
## Что умеет сейчас (v1.1.44)
|
||||
|
||||
- Ручное создание/изменение/удаление инстансов через UI (как в облаке)
|
||||
- Многопользовательский доступ (свой токен = свой стенд)
|
||||
- История всех операций в PostgreSQL (who/what/when/status)
|
||||
- Полный паритет с Nubes API (все 9 шагов create, валидация, normalize, refSvc)
|
||||
|
||||
## Что хочет заказчик (переписка)
|
||||
|
||||
Файл: `/home/naeel/nubes/autotest/TASKS/3007.md` — прочитай весь.
|
||||
|
||||
Коротко:
|
||||
1. Автоматизированные тесты по конфигурируемым сценариям (не код, а конфиг)
|
||||
2. Последовательности: create → modify → delete для выбранных сервисов
|
||||
3. Общая история операций для всех пользователей
|
||||
4. Учёт карантина (на проде удаление с задержкой 2 недели)
|
||||
5. Тестовая организация (нельзя создавать org на проде)
|
||||
|
||||
## Файлы для анализа
|
||||
|
||||
- `/home/naeel/nubes/autotest/TASKS/3007.md` — требования заказчика
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/static/app.js` — весь фронтенд (460 строк)
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py` — бэкенд (550 строк)
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/app.py` — точка входа
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/db/save_run.py` — сохранение в БД
|
||||
- `/home/naeel/nubes/autotest/HISTORY/2026-07-29-session.md` — что сделано за 2 дня
|
||||
|
||||
## Что нужно
|
||||
|
||||
### 1. Идеи по развитию (главное)
|
||||
|
||||
Исходя из требований заказчика и текущего состояния:
|
||||
- Как должна выглядеть архитектура автотестов? YAML-конфиги → runner → БД?
|
||||
- Как совместить ручной UI и автоматические сценарии?
|
||||
- Как масштабировать на прод (карантин, тестовая организация)?
|
||||
- Что делать с историей — дашборд, алерты при падениях?
|
||||
- Несколько конкретных предложений (от минимального MVP до полной картины)
|
||||
|
||||
### 2. Баги (вторично)
|
||||
|
||||
Просмотри код. Найди что мы пропустили за 44 версии.
|
||||
|
||||
### Требования к ответу
|
||||
|
||||
- Конкретно. Без воды. Без "можно рассмотреть" и "в долгосрочной перспективе".
|
||||
- Каждое предложение — что делать, какой файл менять, какой результат.
|
||||
- Если несколько вариантов — перечислить с плюсами/минусами.
|
||||
@@ -0,0 +1,213 @@
|
||||
# Prompt for Opus — Architecture: Unified Scenario System
|
||||
|
||||
**Ты можешь задавать уточняющие вопросы.** Если чего-то не хватает для принятия решения — спроси. Я (DeepSeek V4 Pro, ассистент Naael) отвечу.
|
||||
|
||||
## ПОРЯДОК ЧТЕНИЯ (обязательно прочитай в этом порядке)
|
||||
|
||||
**Шаг 1 — понять что такое Nubes и как работает API:**
|
||||
`/home/naeel/nubes/autotest/DOCS/terraform-operations-full-logic.md`
|
||||
|
||||
**Шаг 2 — увидеть дублирование своими глазами (самое важное):**
|
||||
Смотри раздел «КЛЮЧЕВОЙ КОД» ниже — там оба CREATE-флоу (ручной и сценарный) бок о бок.
|
||||
|
||||
**Шаг 3 — понять текущую архитектуру кода:**
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py` (строки 175-270 — ручной CREATE)
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/operations/scenario.py` (строки 85-210 — сценарный CREATE)
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/operations/terraform.py` (общая send_params_terraform)
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/routes/api_scenario_defs.py` (CRUD определений)
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/db/scenario_defs.py` (SQL-функции)
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/db/init_db.py` (схема БД — найди scenario_definitions)
|
||||
|
||||
**Шаг 4 — понять фронтенд:**
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/templates/index.html` (вся страница, CSS, Jinja2)
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/static/js/operations.js` (showParams, executeOp — как запускается ручная операция)
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/static/js/scenario-form.js` (renderEditor, saveScenario — текущий редактор)
|
||||
|
||||
**НЕ читай — это легаси/устарело:**
|
||||
- `DOCS/ARCHITECTURE.legacy.md`, `DOCS/ARCHITECTURE.md`
|
||||
- `DOCS/sonnet-*.md` — переписки с другим AI
|
||||
- `DOCS/gpt56-*`, `DOCS/questions-to-sol.md`, `DOCS/sol-*`
|
||||
- `HISTORY/` — история сессий
|
||||
- `development/` — HAR-файлы
|
||||
|
||||
---
|
||||
|
||||
## Что это за приложение
|
||||
|
||||
**Nubes** — облачная платформа (IaaS/PaaS). ~30 типов сервисов: VM, K8s, PostgreSQL, Redis, S3, Kafka, ClickHouse и др. Каждый сервис имеет операции: create, modify, delete, suspend, resume, redeploy.
|
||||
|
||||
**Autotest** — Flask-приложение, которое делает то же самое что личный кабинет Nubes, но через REST API и автоматически. Два режима:
|
||||
|
||||
1. **Ручной** — пользователь выбирает сервис → видит список autotest-инстансов → кликает → выбирает операцию (modify/delete/suspend/...) → заполняет параметры → запускает. Или жмёт «+ Создать» для CREATE.
|
||||
|
||||
2. **Сценарии** — пользователь создаёт последовательность шагов (create → modify → delete), сохраняет в БД, запускает одним кликом. Каждый шаг = атомарная операция над инстансом.
|
||||
|
||||
### Как работает API Nubes (CREATE)
|
||||
|
||||
```
|
||||
1. POST /instances body={serviceId, displayName, descr} → 201, Location: ./UUID
|
||||
2. POST /instanceOperations body={instanceUid, operation:"create"} → opUid
|
||||
3. GET /instanceOperations/{opUid}?fields=cfsParams → параметры с defaults
|
||||
4. POST /instanceOperationCfsParams (×N — все параметры)
|
||||
5. GET /instanceOperations/{opUid}/validate-cfs → валидация
|
||||
6. POST /instanceOperations/{opUid}/run → запуск
|
||||
7. Поллинг GET /instanceOperations/{opUid}?fields=dtFinish,isSuccessful,... до dtFinish
|
||||
```
|
||||
|
||||
MODIFY/DELETE/SUSPEND/RESUME: шаг 1 пропускается, шаг 2 с `{instanceUid, svcOperationId, operation}` (с svcOperationId!).
|
||||
|
||||
### БД (PostgreSQL, одна на все gunicorn-воркеры)
|
||||
|
||||
```sql
|
||||
scenario_definitions (id, client_id, stand, name, steps JSONB, version, is_active, ...)
|
||||
scenario_runs (id, scenario_name, status, current_step, total_steps, error_log, app_version, ...)
|
||||
runs (id, svc_id, op_name, instance_uid, status, duration_sec, params JSONB, stages JSONB, ...)
|
||||
```
|
||||
|
||||
---
|
||||
|
||||
## КЛЮЧЕВОЙ КОД — ДУБЛИРОВАНИЕ CREATE-ФЛОУ
|
||||
|
||||
### Ручной режим (api_test.py, функция api_test)
|
||||
|
||||
```python
|
||||
if op_name == "create":
|
||||
display_name = _unique_display_name(client, display_name)
|
||||
descr = f"created by autotest v{current_app.config.get('VERSION', '')}"
|
||||
payload = {"serviceId": svc_id, "displayName": display_name, "descr": descr}
|
||||
resp = client.post("/instances", payload)
|
||||
instance_uid = resp.get("instanceUid") or _find_uid(resp) or _uid_from_location(resp.get("_location", ""))
|
||||
if not instance_uid:
|
||||
return jsonify({"status": "FAIL", "error": "Не удалось получить instanceUid"}), 500
|
||||
# ----------------------------------------------------------
|
||||
op_payload = {"instanceUid": instance_uid, "operation": "create"}
|
||||
op_resp = client.post("/instanceOperations", op_payload)
|
||||
op_uid = _find_uid(op_resp) or _uid_from_location(op_resp.get("_location", ""))
|
||||
if not op_uid:
|
||||
return jsonify({"status": "FAIL", "error": "Не удалось получить opUid"}), 500
|
||||
# ----------------------------------------------------------
|
||||
send_params_terraform(client, op_uid, params) # ← ОБЩАЯ ФУНКЦИЯ
|
||||
client.post(f"/instanceOperations/{op_uid}/run")
|
||||
# ----------------------------------------------------------
|
||||
threading.Thread(target=_finish_op, args=(client, op_uid, instance_uid, ...), daemon=True).start()
|
||||
return jsonify({"status": "RUNNING", "opUid": op_uid, "instanceUid": instance_uid, ...})
|
||||
```
|
||||
|
||||
### Сценарий (scenario.py, функция run_scenario)
|
||||
|
||||
```python
|
||||
if op_name == "create":
|
||||
display_name = f"{AUTOTEST_PREFIX}{scenario_name}-{uuid.uuid4().hex[:6]}"
|
||||
descr = f"scenario {scenario_name} step {step_num}"
|
||||
payload = {"serviceId": svc_id, "displayName": display_name, "descr": descr}
|
||||
resp = client.post("/instances", payload)
|
||||
instance_uid = resp.get("instanceUid") or _find_uid(resp) or _uid_from_location(resp.get("_location", ""))
|
||||
if not instance_uid:
|
||||
raise RuntimeError(f"CREATE: no instanceUid in response: ...")
|
||||
instance_map[svc_id] = instance_uid
|
||||
# ----------------------------------------------------------
|
||||
op_payload = {"instanceUid": instance_uid, "operation": op_name} # без svcOperationId
|
||||
op_resp = client.post("/instanceOperations", op_payload)
|
||||
op_uid = op_resp.get("instanceOperationUid") or _find_uid(op_resp) or _uid_from_location(...)
|
||||
if not op_uid:
|
||||
raise RuntimeError(f"No opUid in response: ...")
|
||||
# ----------------------------------------------------------
|
||||
from operations.terraform import send_params_terraform
|
||||
send_params_terraform(client, op_uid, resolved_params) # ← ТА ЖЕ ФУНКЦИЯ
|
||||
client.post(f"/instanceOperations/{op_uid}/run")
|
||||
# ----------------------------------------------------------
|
||||
# ДАЛЕЕ: синхронный while-поллинг (1800s таймаут), save_run(), _save_scenario_run()
|
||||
```
|
||||
|
||||
**Эти два блока делают ОДНО И ТО ЖЕ.** Различаются только:
|
||||
- displayName (autotest-xxx vs autotest-scenario-xxx)
|
||||
- Поллинг (async thread vs sync while)
|
||||
- Сохранение (runs через _finish_op vs runs + scenario_runs)
|
||||
|
||||
---
|
||||
|
||||
## КЛЮЧЕВОЙ КОД — ОГРАНИЧЕНИЕ instance_map
|
||||
|
||||
```python
|
||||
# scenario.py, строка 91
|
||||
instance_map = {} # service_id → instanceUid
|
||||
|
||||
# Шаг CREATE:
|
||||
instance_map[svc_id] = instance_uid
|
||||
|
||||
# Шаг НЕ-CREATE:
|
||||
instance_uid = instance_map.get(svc_id)
|
||||
if not instance_uid:
|
||||
raise RuntimeError(f"No instance for service_id {svc_id} — need CREATE first")
|
||||
```
|
||||
|
||||
**Проблема:** привязано к `service_id`. Нельзя:
|
||||
- Два инстанса одного сервиса в сценарии (второй CREATE перезапишет первый)
|
||||
- Сослаться на инстанс из другого сценария
|
||||
- Использовать существующий инстанс по UUID
|
||||
|
||||
---
|
||||
|
||||
## Что нужно спроектировать
|
||||
|
||||
### 1. Единый executor (operations/executor.py)
|
||||
|
||||
```python
|
||||
def execute_operation(client, service_id, operation, instance_uid_or_none, params, display_name=None) -> dict:
|
||||
"""
|
||||
Единая точка входа для ручного и сценарного запуска.
|
||||
Возвращает {"instance_uid": ..., "op_uid": ..., "display_name": ...}
|
||||
"""
|
||||
```
|
||||
|
||||
`api_test.py` и `scenario.py` вызывают эту функцию. Поллинг и save_run — снаружи (у каждого свой).
|
||||
|
||||
### 2. Гибкие ссылки на инстансы
|
||||
|
||||
Новый формат шага в `scenario_definitions.steps`:
|
||||
|
||||
```json
|
||||
[
|
||||
{"service_id": 1, "operation": "create", "params": {...}, "output": "d1"},
|
||||
{"service_id": 1, "operation": "modify", "params": {...}, "instance_ref": "d1"},
|
||||
{"service_id": 90, "operation": "create", "params": {...}, "output": "pg"},
|
||||
{"service_id": 1, "operation": "delete", "params": {}, "instance_uid": "UUID-явно"}
|
||||
]
|
||||
```
|
||||
|
||||
Резолвинг на бэкенде: `output` → сохраняем в словарь `{name: instance_uid}`. `instance_ref` → берём из словаря. `instance_uid` → используем как есть.
|
||||
|
||||
### 3. UI редактора сценариев
|
||||
|
||||
**Текущее:** inline-форма в `scenario-body`, сервис = numeric input, операция = text input (БАГ), параметры = key:value строки.
|
||||
|
||||
**Нужно:** полноценный редактор с:
|
||||
- Выпадающий список сервисов (`GET /api/services`)
|
||||
- Выпадающий список операций (`GET /api/operations/{svcId}`)
|
||||
- Параметры с автоподгрузкой из `/api/params/{svcOpId}`: name, type, default, valueList, dataDescriptor
|
||||
- Поле `output` для create-шагов (имя для ссылок)
|
||||
- Дропдаун `instance_ref` для не-create шагов (output-имена предыдущих шагов)
|
||||
- `[↑][↓]` для перестановки шагов
|
||||
|
||||
**Вопросы:**
|
||||
1. Модальное окно или раскрытие внутри `scenario-body`? Аргументируй.
|
||||
2. Как показывать параметры: таблица (name|type|default|value) или упрощённо (key=value)?
|
||||
3. pre-fill параметров при смене операции — авто или по кнопке?
|
||||
4. Куда скроллится страница при открытии редактора?
|
||||
|
||||
### 4. Документация для чтения (кроме кода)
|
||||
|
||||
- `/home/naeel/nubes/autotest/DOCS/terraform-operations-full-logic.md` ← обязательно
|
||||
- `/home/naeel/nubes/autotest/DOCS/ARCHITECTURE-FULL.md` ← общая архитектура
|
||||
- `/home/naeel/nubes/autotest/DOCS/architecture-final.md` ← финальная версия
|
||||
|
||||
---
|
||||
|
||||
## Вопросы
|
||||
|
||||
1. **Unified executor:** сигнатура, возврат, обработка ошибок на каждом шаге CREATE-флоу
|
||||
2. **Формат шагов:** как парсить `output`/`instance_ref`/`instance_uid`, валидация, резолвинг на бэкенде
|
||||
3. **Схема БД:** нужны ли изменения в `scenario_definitions.steps`? Новая колонка для output-блоков?
|
||||
4. **UI редактора:** модал vs inline, компоновка блоков, автоподгрузка параметров, скролл
|
||||
5. **Миграция:** что делать с существующим dummy_test при смене формата шагов
|
||||
6. **Порядок:** в какой последовательности реализовывать
|
||||
@@ -0,0 +1,138 @@
|
||||
# Opus Implementation Plan — Унификация сценариев autotest (2026-07-31)
|
||||
|
||||
> Основано на DOCS/opus-questions-2026-07-31.md (19 Q+A) и ревью пользователя.
|
||||
|
||||
## Цель
|
||||
Устранить дублирование CREATE-флоу (ручной api_test.py vs сценарный scenario.py),
|
||||
ввести единый execute_operation, гибкие ссылки на инстансы (output/instance_ref/instance_uid),
|
||||
модальный редактор сценариев с богатым рендером параметров.
|
||||
|
||||
## Порядок реализации (E19): бэкенд → формат → миграция вызовов → UI
|
||||
|
||||
---
|
||||
|
||||
## Фаза 1 — Общие модули (фундамент)
|
||||
|
||||
### 1. api/utils.py (NEW)
|
||||
- `find_uid(resp)` — поиск UUID по ключам: instanceOperationUid → instanceUid → uid.
|
||||
- `uid_from_location(loc)` — UUID из Location-заголовка.
|
||||
- Заменяет 2 дубля (в api_test.py и scenario.py — сейчас разные реализации).
|
||||
|
||||
### 2. operations/poll.py (NEW)
|
||||
- `poll_until_done(client, op_uid, timeout=1800)` → dict {status, is_successful,
|
||||
error_log, stages, duration, svc}.
|
||||
- Критерий завершения: dtFinish != "" (НЕ isInProgress).
|
||||
- Общий цикл для async (_finish_op) и sync (run_scenario). Убирает хардкод 1800s в 3 местах.
|
||||
|
||||
### 3. operations/executor.py (NEW)
|
||||
- `execute_operation(client, service_id, operation, instance_uid, params,
|
||||
svc_op_id=None, display_name=None)` → dict {ok, error, failed_step,
|
||||
instance_uid, op_uid, display_name}.
|
||||
- Делает всё ДО /run включительно: POST /instances (только create) →
|
||||
POST /instanceOperations → send_params_terraform → POST /run. НЕ поллит.
|
||||
- Ветвится по operation=="create" ВНУТРИ:
|
||||
- create: POST /instances → op_payload {instanceUid, operation}; svc_op_id игнорируется.
|
||||
- non-create: op_payload {instanceUid, svcOperationId, operation}.
|
||||
- failed_step ∈ {instances, instanceOperations, params, run}.
|
||||
- tracker_add вызывается ВНУТРИ executor для всех create (E3) — сразу после
|
||||
получения instanceUid, до params/run (защита от сирот).
|
||||
- Переиспользует существующую send_params_terraform (operations/terraform.py) как есть.
|
||||
|
||||
---
|
||||
|
||||
## Фаза 2 — Формат шагов и резолвинг (depends Фаза 1)
|
||||
|
||||
### 4. routes/api_scenario_defs.py — _validate_steps
|
||||
Новые опциональные ключи шага: output, instance_ref, instance_uid.
|
||||
Валидация:
|
||||
- output уникален в пределах сценария.
|
||||
- instance_ref ссылается на output из ПРЕДЫДУЩИХ шагов.
|
||||
- для не-create шага обязателен instance_ref | instance_uid | (fallback старый формат).
|
||||
- Старый формат (только service_id) продолжает проходить валидацию.
|
||||
|
||||
### 5. operations/scenario.py — резолвинг инстанса
|
||||
Приоритет: instance_uid > instance_ref > instance_map[service_id] (fallback).
|
||||
После create: bindings[output] = instance_uid — в память И в
|
||||
scenario_runs.instance_bindings (колонка JSONB уже есть, DEFAULT '{}').
|
||||
Резолвинг во время выполнения — ТОЛЬКО из памяти (БД для наблюдаемости).
|
||||
|
||||
---
|
||||
|
||||
## Фаза 3 — Миграция вызывающих (depends Фаза 1-2)
|
||||
|
||||
### 6. routes/api_test.py
|
||||
- CMDB delete ОСТАЁТСЯ как предпроверка ПЕРЕД executor: при cmdb_ok → early return
|
||||
(opUid="cmdb-...", без /run, без поллинга). Иначе → execute_operation.
|
||||
- Остальные операции: заменить inline флоу на execute_operation.
|
||||
- _finish_op использует poll_until_done (save_run, _op_results, tracker_remove(delete)
|
||||
остаются здесь).
|
||||
- Импорт find_uid/uid_from_location из api/utils.py; удалить локальные копии.
|
||||
|
||||
### 7. operations/scenario.py
|
||||
- Заменить inline флоу на execute_operation.
|
||||
- sync while-поллинг → poll_until_done.
|
||||
- Удалить локальные _find_uid/_uid_from_location.
|
||||
|
||||
### 8. db/init_db.py — startup cleanup (E16)
|
||||
В init_db() добавить:
|
||||
UPDATE scenario_runs SET status='TIMEOUT', error_log='worker restart'
|
||||
WHERE status='RUNNING' AND created_at < NOW() - INTERVAL '1 hour';
|
||||
(init_db вызывается из pool._ensure_schema() раз на воркер, идемпотентно).
|
||||
|
||||
---
|
||||
|
||||
## Фаза 4 — UI редактора (depends Фаза 2)
|
||||
|
||||
### 9. static/js/params-render.js (NEW)
|
||||
Вынести из operations.js:
|
||||
- renderParamRow(p, allInst) — уже чистая, без глобалов.
|
||||
- renderMapFixedRow(p, dfl) — чистая.
|
||||
- collectParams(containerSelector='#params-form') — параметризовать контейнер
|
||||
(единственная правка сигнатуры; сейчас хардкодит #params-form).
|
||||
Глобалы AUTOTEST_PREFIX/currentSvcId/makeCreateDisplayName остаются в operations.js.
|
||||
_esc (utils.js) и validateJson — общие глобалы.
|
||||
|
||||
### 10. static/js/operations.js
|
||||
Использовать общий params-render.js (удалить дубли рендера).
|
||||
|
||||
### 11. static/js/scenario-form.js — модальный редактор
|
||||
- Модал на весь экран (не inline scenario-body — параметры map-fixed слишком тесны).
|
||||
- Дропдаун сервисов (GET /api/services).
|
||||
- Дропдаун операций (GET /api/operations/{svcId}).
|
||||
- Авто pre-fill параметров при смене операции (GET /api/params/{svcOpId}),
|
||||
показать ВСЕ параметры с defaults + кнопка «Сбросить на defaults».
|
||||
- Поле output для create-шагов.
|
||||
- Дропдаун instance_ref для не-create (output'ы предыдущих шагов).
|
||||
- Кнопки [↑][↓] перестановки шагов.
|
||||
- В БД — символические имена параметров ({"durationMs":"5000"}), резолв в numeric ID в runtime.
|
||||
|
||||
### 12. templates/index.html
|
||||
Разметка модала + подключить params-render.js.
|
||||
|
||||
### 13. app.py — bump VERSION.
|
||||
|
||||
---
|
||||
|
||||
## Решения (зафиксировано)
|
||||
- Схема БД без изменений (C9), только новые ключи в steps JSONB.
|
||||
- Обе версии формата параллельно, без миграции данных (B8), fallback на service_id.
|
||||
- _op_results в памяти — вне scope (E18).
|
||||
- lock_check (один RUNNING сценарий) сохраняется (E17).
|
||||
- instance_bindings (JSONB) — используется (C10).
|
||||
|
||||
## Verification
|
||||
1. py_compile для .py, node -c для .js.
|
||||
2. Ручной CREATE через UI → инстанс создан, в трекере, запись в runs.
|
||||
3. Ручной DELETE → CMDB-путь работает (early return).
|
||||
4. Сценарий старый формат (seed dummy_test) → работает без изменений.
|
||||
5. Сценарий новый формат: create output:d1 → modify instance_ref:d1 →
|
||||
delete instance_ref:d1 → все OK, instance_bindings заполнен.
|
||||
6. Два create одного сервиса с разными output → два разных инстанса.
|
||||
7. Валидация: instance_ref на несуществующий output → ошибка при сохранении.
|
||||
8. Startup-cleanup: зависший RUNNING >1ч → TIMEOUT после рестарта.
|
||||
|
||||
## Файлы
|
||||
NEW: operations/executor.py, operations/poll.py, api/utils.py, static/js/params-render.js
|
||||
MOD: routes/api_test.py, operations/scenario.py, routes/api_scenario_defs.py,
|
||||
db/init_db.py, static/js/scenario-form.js, static/js/operations.js,
|
||||
templates/index.html, app.py (VERSION)
|
||||
@@ -0,0 +1,61 @@
|
||||
# Opus Questions + Answers — 2026-07-31
|
||||
|
||||
## A. Единый executor (operations/executor.py)
|
||||
|
||||
**A1. Граница executor: до /run включительно, без поллинга.**
|
||||
Executor делает все шаги: POST /instances → POST /instanceOperations → send_params_terraform → /run. Возвращает `{instance_uid, op_uid, display_name}`. Поллинг — забота вызывающего (api_test.py: async thread, scenario.py: sync while).
|
||||
|
||||
**A2. Ошибки: dict `{ok, error, failed_step}`.**
|
||||
Не исключения. `failed_step` = "instances" | "instanceOperations" | "params" | "run". Оба вызывающих конвертируют в свой формат (jsonify / RuntimeError).
|
||||
|
||||
**A3. Трекер: да, вызывать tracker_add внутри executor для всех create.**
|
||||
Сценарные инстансы — такие же реальные инстансы в облаке, должны быть в трекере. Единообразие.
|
||||
|
||||
**A4. _finish_op: оставить в api_test.py.**
|
||||
Но вынести цикл поллинга в общий хелпер `poll_until_done(client, op_uid, timeout=1800)` в `operations/poll.py`, который используют и _finish_op (async), и run_scenario (sync).
|
||||
|
||||
## B. Гибкие ссылки на инстансы
|
||||
|
||||
**B5. Приоритет: да. instance_uid > instance_ref > новый create.**
|
||||
|
||||
**B6. Хранение output→uid: и в памяти, и в БД.**
|
||||
В памяти — словарь для быстрого резолвинга во время выполнения. В БД — `scenario_runs.instance_bindings` обновляется после каждого create-шага. При падении воркера видно что создалось. Но runner не зависит от БД для резолвинга (только память).
|
||||
|
||||
**B7. Валидация: да на всё.**
|
||||
`_validate_steps()` проверяет: (a) instance_ref ссылается на output из предыдущих шагов, (b) output уникален в пределах сценария, (c) для не-create шага обязателен один из instance_ref/instance_uid.
|
||||
|
||||
**B8. Обратная совместимость: поддерживать оба формата, без миграции.**
|
||||
Если шаг без output/instance_ref/instance_uid → fallback на старый instance_map[service_id]. Seed dummy_test работает как есть. Новые сценарии используют новый формат.
|
||||
|
||||
## C. Схема БД
|
||||
|
||||
**C9. Да, без изменений схемы.** Только новые опциональные ключи в JSONB-объектах шагов.
|
||||
|
||||
**C10. Да, использовать instance_bindings.** После create: `bindings[output_name] = instance_uid`. Сохранять в БД после каждого шага.
|
||||
|
||||
## D. UI редактора сценариев
|
||||
|
||||
**D11. Модальное окно на весь экран.** Параметры с dataDescriptor (map-fixed) — много вложенных полей, inline в scenario-body слишком тесно.
|
||||
|
||||
**D12. Да, вынести рендер параметров в общий модуль.**
|
||||
`static/js/params-render.js`: `renderParamRow()`, `renderMapFixedRow()`, `collectParams()`. Используется и в operations.js, и в scenario-form.js.
|
||||
|
||||
**D13. Pre-fill: авто при смене операции.** Показывать ВСЕ параметры с defaults, пользователь удаляет лишние или меняет значения. Кнопка «Сбросить на defaults».
|
||||
|
||||
**D14. Символические имена в БД.** `{"durationMs": "5000"}` — человекочитаемо, стабильно. Резолвинг в numeric ID — в runtime.
|
||||
|
||||
## E. Оптимизация
|
||||
|
||||
**E15. Да, вынести в `api/utils.py`.** Обе реализации (_find_uid, _uid_from_location) унифицировать.
|
||||
|
||||
**E16. Да, startup check.** При старте: `UPDATE scenario_runs SET status='TIMEOUT', error_log='worker restart' WHERE status='RUNNING' AND created_at < NOW() - INTERVAL '1 hour'`. Просто, без доп. инфраструктуры.
|
||||
|
||||
**E17. Оставить lock_check.** Один сценарий за раз — безопасно. Можно ослабить позже.
|
||||
|
||||
**E18. Не в scope.** fallback на API работает, потеря stages — minor. Отдельная задача.
|
||||
|
||||
**E19. Порядок: бэкенд → UI.**
|
||||
1. `operations/executor.py` + `operations/poll.py` + `api/utils.py`
|
||||
2. Формат шагов (output/instance_ref) + валидация + резолвинг
|
||||
3. Минимальные правки api_test.py и scenario.py (вызов executor)
|
||||
4. UI редактор (модал + общий рендер параметров)
|
||||
@@ -0,0 +1,73 @@
|
||||
# Вопросы к Sol — обсуждение MVP
|
||||
|
||||
## Файлы для контекста (прочитай перед ответом)
|
||||
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py` — текущий 9-шаговый CREATE + non-CREATE
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/routes/api.py` — legacy эндпоинты (предлагаешь удалить)
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/runner.py` — legacy runner (предлагаешь удалить)
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/config.yaml` — предлагаешь удалить
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/db/init_db.py` — схема БД
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/db/save_run.py` — INSERT в runs
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/static/app.js` — фронтенд
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/api/http_client.py` — HTTP-клиент
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/api/auth.py` — токены
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/app.py` — точка входа, blueprint'ы
|
||||
- `/home/naeel/nubes/autotest/app-autotest/DOCS/gpt56-sol-plan.md` — твой план
|
||||
|
||||
## executor
|
||||
|
||||
**Q1: Зачем выносить executor из `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py` прямо сейчас?**
|
||||
Сейчас 9-шаговая логика CREATE и non-CREATE живёт в api_test.py:173-250 (функция `api_test()` + `_send_params_terraform()` + `_normalize_value()` + `_resolve_ref_svc()`). Вынос в отдельный `operation_executor.py` — рефакторинг с риском сломать CREATE. Почему не обернуть вызов существующего `api_test` из runner, а вынос сделать фазой 2?
|
||||
|
||||
**Q2: executor внутри того же gunicorn-воркера или отдельный процесс?**
|
||||
Сценарий PostgreSQL — 10-20 минут. Redis — 3 минуты. Блокирует ли executor gunicorn-воркера на всё это время? Или запускать в `threading.Thread` как сейчас делает `api_test`?
|
||||
|
||||
## YAML
|
||||
|
||||
**Q3: Параметры — символьный code или numeric ID?**
|
||||
Предлагаешь code: `{code: cpu, value: "500"}`. Это читаемо, но требует резолва через `/instanceOperations/default/{opId}` → найти `svcOperationCfsParamId` для кода `cpu`. Числовой ID `{104: "500"}` работает сразу, но нечитаемо. Что предлагаешь для MVP?
|
||||
|
||||
**Q4: lifecycle persistent — как найти «тот самый» instance?**
|
||||
По `displayName == "autotest-postgres-permanent"` через `GET /instances`? А если кто-то переименовал в UI облака? А если два сценария случайно создали инстансы с одинаковым именем?
|
||||
|
||||
**Q5: cleanup `always` — что чистить если create упал?**
|
||||
Если `POST /instances` вернул ошибку — `instanceUid` пустой. Вызывать `POST /instanceOperations {operation: "delete"}` не на чем. Что удалять?
|
||||
|
||||
## CMDB DELETE
|
||||
|
||||
**Q6: Почему удалить CMDB DELETE из `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py`?**
|
||||
Сейчас строка 217-222: CMDB DELETE для not-created инстансов. Nubes API (`POST /instanceOperations {operation: "delete"}` + `/run`) возвращает 422 «Отсутствует state» для not-created. Без CMDB у пользователя нет способа удалить битые инстансы кроме ручного UI облака. Может оставить но с логом, а не удалять?
|
||||
|
||||
## БД
|
||||
|
||||
**Q7: Зачем три таблицы (`scenario_runs` + `scenario_steps` + новые колонки в `runs`)?**
|
||||
Почему не две (`scenario_runs` + `scenario_steps`) и не менять существующую `runs`? Каждый шаг сценария уже вызывает `save_run()` из `/home/naeel/nubes/autotest/app-autotest/site/db/save_run.py`, который пишет в `runs`. Можно добавить `scenario_run_id` в `runs` без новой таблицы `scenario_steps`.
|
||||
|
||||
**Q8: heartbeat — через БД? UPDATE каждые N секунд?**
|
||||
Не убьёт ли это PostgreSQL при частых сценариях? Альтернатива — файловый lock как в `/home/naeel/nubes/autotest/app-autotest/site/operations/tracker.py` (fcntl.flock).
|
||||
|
||||
## UI
|
||||
|
||||
**Q9: Вкладки — зачем?**
|
||||
Сейчас всё на одном экране (`/home/naeel/nubes/autotest/app-autotest/site/templates/index.html`). Добавление вкладок раздувает UI. Почему не добавить секцию «Сценарии» под списком инстансов, без переделки всего экрана?
|
||||
|
||||
**Q10: Запрет innerHTML для error/log — почему?**
|
||||
Сейчас весь вывод идёт через `_esc()` (строка 263 app.js). Что конкретно не экранируется?
|
||||
|
||||
## Prod policy
|
||||
|
||||
**Q11: Почему такая сложная политика для MVP?**
|
||||
Проверка org UID, ClientID, allowlist delete, quarantine, purge_not_before — это не MVP. Почему не просто `if stand == "prod": return {"error": "prod заблокирован для сценариев"}` на первом этапе? Всё остальное можно добавить когда сценарии заработают на dev/test.
|
||||
|
||||
## Legacy
|
||||
|
||||
**Q12: `/home/naeel/nubes/autotest/app-autotest/site/config.yaml` — что в нём ценного?**
|
||||
Ты предлагаешь удалить. Но там могут быть настройки которые пригодятся. Что именно предлагаешь перенести в `app.py`?
|
||||
|
||||
## Общие вопросы
|
||||
|
||||
**Q13: Порядок шагов — почему удаление legacy (шаг 1) до создания executor (шаг 2)?**
|
||||
Если executor будет вызывать код из `api_test.py`, удаление `api.py` и `runner.py` безопасно делать первым — они не используются. Но `config.yaml` используется в `runner.py:load_config()`. Если удалить config.yaml до того как executor готов — не сломает ли это что-то?
|
||||
|
||||
**Q14: Риски совместимости — ручной UI не сломается?**
|
||||
После всех изменений ручные операции в UI должны работать как раньше. Где самое узкое место? `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py:api_test()` — основной обработчик, если его менять — риск для всего.
|
||||
@@ -0,0 +1,45 @@
|
||||
# Сравнение: Sonnet 4.6 vs Opus 4.8 — полный код-ревью v1.1.20
|
||||
|
||||
## Совпадения (оба нашли)
|
||||
|
||||
| Баг | Sonnet | Opus |
|
||||
|-----|--------|------|
|
||||
| `_finish_op` args CREATE | 🔴 | 🔴 |
|
||||
| `api_history()` connection leak | 🔴 | 🟠 |
|
||||
| XSS displayName/svc | 🟡 | 🟡 |
|
||||
| Мёртвый код/docstring'и | 🟠 | 🟢 |
|
||||
|
||||
## Только Opus (дополнительно)
|
||||
|
||||
| Баг | |
|
||||
|-----|---|
|
||||
| `detect_endpoint()` — 2-3 лишних HTTP на каждый запрос | 🟠 |
|
||||
| `_op_results` in-memory dict — не переживает multi-worker | 🟠 |
|
||||
| CSRF на POST (частично закрыто SameSite) | 🟡 |
|
||||
| `currentSvcShort` без `let` — неявная глобальная | 🟢 |
|
||||
| Дублирование рендера в selectService/refreshInstances | 🟢 |
|
||||
| CREATE шаг 6: шаблон vs реальная операция | 🟢 |
|
||||
|
||||
## Только Sonnet
|
||||
|
||||
| Баг | |
|
||||
|-----|---|
|
||||
| pool.py `_initialized=True` до `init_db()` | 🔴 |
|
||||
| Cookie без `secure=True` | 🟡 |
|
||||
| MODIFY без required+default | 🟡 |
|
||||
| pool.py race condition без мьютекса | 🟠 |
|
||||
|
||||
## Мой анализ
|
||||
|
||||
Opus 4.8 глубже — проверил эталонный Terraform flow, подтвердил что CREATE-флоу соответствует, нашёл проблемы с `detect_endpoint` и multi-worker. Sonnet нашёл pool.py баги, которые Opus пропустил.
|
||||
|
||||
**План исправлений (по приоритету):**
|
||||
|
||||
1. 🔴 `_finish_op` args — добавить `False` для `is_delete` в CREATE-ветку
|
||||
2. 🔴 `api_history()` — `try/finally: put_conn(conn)`
|
||||
3. 🔴 `pool.py` — `_initialized=True` после успешного `init_db()`
|
||||
4. 🟡 XSS — `_esc()` для displayName/svc в рендере инстансов + истории + stages
|
||||
5. 🟡 Cookie `secure=True`
|
||||
6. 🟠 `currentSvcShort` → `let currentSvcShort`
|
||||
|
||||
Правки 1-3 критические — их делаю первыми. 4-6 следом.
|
||||
@@ -0,0 +1,24 @@
|
||||
# Sol — ответы на 14 вопросов
|
||||
|
||||
Дата: 2026-07-30
|
||||
|
||||
## Ключевые решения
|
||||
|
||||
| # | Решение |
|
||||
|---|---------|
|
||||
| executor | Извлечь синхронное ядро, сохранить POST /api/test |
|
||||
| threading | Один threading.Thread, PG как источник статуса |
|
||||
| YAML params | Символьные коды, резолв через API при запуске |
|
||||
| persistent | Таблица привязок scenario+stand+key+svc→UID |
|
||||
| cleanup | SKIP если нет UID, try delete если частичный |
|
||||
| CMDB | Убрать из авто-delete. Force-cleanup эндпоинт для dev/test |
|
||||
| БД | scenario_runs + расширить runs (не три таблицы) |
|
||||
| heartbeat | UPDATE в PG раз в 30с |
|
||||
| UI | Сворачиваемая секция, без вкладок |
|
||||
| escape | statusError, d.error, log, currentSvcName |
|
||||
| prod | Заблокировать целиком для MVP |
|
||||
| config.yaml | dummy→сценарий, PG→пример |
|
||||
| порядок | mock → executor → route → YAML → удалить legacy |
|
||||
| риск | POST /api/test формат не менять |
|
||||
|
||||
## MVP: dev/test only, symbolic codes, один поток, PG статус, нет вкладок, нет CMDB-auto.
|
||||
@@ -0,0 +1,48 @@
|
||||
# Sol — ответы по редактору сценариев
|
||||
|
||||
Дата: 2026-07-30
|
||||
|
||||
## 1. Структура `steps`
|
||||
- JSONB массив, отдельная таблица не нужна
|
||||
- Обязательно поле `resource` — идентификатор инстанса внутри сценария (для связи create→modify→delete)
|
||||
- `scenario_definitions`: + `version INTEGER`, `updated_by`, `is_active`/`deleted_at`, уникальность имени case-insensitive
|
||||
- `scenario_runs`: + `definition_id`, `definition_version`, `steps_snapshot`
|
||||
- Runner работает со snapshot, не перечитывает определение
|
||||
|
||||
## 2. Параметры в редакторе
|
||||
- Из Nubes API: сервис→операции→`/instanceOperations/default/{opId}`→коды
|
||||
- Выпадающий список с типом, обязательностью, default
|
||||
- Map/array — JSON-строка с валидацией
|
||||
- Кеш: браузерный на время сессии редактора ИЛИ серверный (stand+opId, TTL 5 мин)
|
||||
- Свободный ввод кода не нужен
|
||||
|
||||
## 3. Seed из config.yaml
|
||||
- Не импортировать при каждом пустом старте
|
||||
- Схема: marker импорта → `INSERT ON CONFLICT DO NOTHING` → marker `scenario_seed_v1=completed`
|
||||
- YAML вынести в `scenario_seed.yaml`, после rollout удалить
|
||||
- Остальной config.yaml не трогать
|
||||
|
||||
## 4. UI редактор
|
||||
- Модальное окно или боковая панель (не inline)
|
||||
- Имя, список шагов, сервис, операция, параметры
|
||||
- Кнопки добавить/удалить/вверх/вниз
|
||||
- Drag-and-drop не нужен
|
||||
- Мягкое удаление: `is_active=false`
|
||||
|
||||
## 5. Валидация
|
||||
- При сохранении: структура, существование сервиса, доступность операции, коды параметров, типы, уникальность resource, порядок (create→modify→delete, после delete ничего)
|
||||
- При запуске: повторить по актуальному API
|
||||
- Невалидный сценарий не запускать частично
|
||||
|
||||
## 6. Критически упущенное
|
||||
|
||||
1. `POST /api/scenario/run` не возвращает run ID — гонка при двух запусках. Создавать запись ДО thread, вернуть HTTP 202 + run_id
|
||||
2. Нужен `GET /api/scenario/runs/<id>` — поллинг конкретного запуска
|
||||
3. `save_run()` не пишет `scenario_run_id` и `step_number` — шаги не связаны со сценарием
|
||||
4. TIMEOUT: `op_data` может быть неинициализирована
|
||||
5. Шаг нужно создавать в `runs` со статусом RUNNING ДО обращения к API, потом обновлять
|
||||
6. Блокировка параллельных запусков: HTTP 409 для одного client_id+stand
|
||||
7. CRUD: проверять `client_id+stand` при всех операциях
|
||||
8. `version` в definitions: PUT с текущей version, 409 при конфликте
|
||||
9. Runner использует персональный токен — нужен сервисный токен/клиент по stand
|
||||
10. Имя не идентификатор: API запуска принимает `definition_id`, имя — редактируемое поле
|
||||
@@ -0,0 +1,113 @@
|
||||
# Запрос к Claude (Sonnet): архитектурный аудит — Round 2
|
||||
|
||||
> **Контекст**: Round 1 анализ получен, исправления по приоритетам приняты.
|
||||
> **Новое**: проект будет подключать **PostgreSQL** (отдельный сервис Nubes).
|
||||
> **Дата**: 27.07.2026
|
||||
> **Версия**: 1.0.89
|
||||
|
||||
---
|
||||
|
||||
## Контекст Round 1
|
||||
|
||||
Sonnet в первом раунде выявил:
|
||||
- 🔴 Утечка `_op_results` — нужно TTL/очистка
|
||||
- 🔴 Cookie без `httponly`/`samesite`
|
||||
- 🟡 Дублирование `_client_id()` в main.py и api_test.py
|
||||
- 🟡 Захардкожен `SVC_ID=1` — хотя `/api/services` существует
|
||||
- 🟢 Рекомендация: SQLite для истории → **теперь PostgreSQL**
|
||||
|
||||
Все исправления из Round 1 приняты к реализации. Начинаем со среднего приоритета (общий модуль `auth.py`).
|
||||
|
||||
---
|
||||
|
||||
## Новый контекст: PostgreSQL
|
||||
|
||||
Проект получает отдельный PostgreSQL-сервис в Nubes. Нужно спроектировать:
|
||||
1. **Схему БД** для хранения истории тестов
|
||||
2. **Подключение** (connection pool для multi-worker gunicorn)
|
||||
3. **Миграции** (как управлять схемой при обновлениях)
|
||||
4. **API** для чтения/записи результатов
|
||||
|
||||
---
|
||||
|
||||
## Вопросы Round 2
|
||||
|
||||
### 1. PostgreSQL — схема данных
|
||||
|
||||
Нужна схема для истории запусков. Минимальный набор полей:
|
||||
- id, created_at
|
||||
- client_id, stand (изоляция по пользователю и стенду)
|
||||
- svc_id, svc_name
|
||||
- op_name (create/modify/delete/...), svc_op_id
|
||||
- instance_uid, display_name
|
||||
- status (OK/FAIL/TIMEOUT), duration_sec
|
||||
- error_log (текст ошибки)
|
||||
- params (JSON — все параметры запуска)
|
||||
- stages (JSON — этапы выполнения с длительностью)
|
||||
|
||||
Вопросы:
|
||||
- Какие индексы нужны? (по client_id+stand, по created_at, по instance_uid?)
|
||||
- Нужна ли отдельная таблица для stages или JSON в основном поле?
|
||||
- Нужна ли таблица `instances` (связь instance_uid → последний статус)?
|
||||
- Как хранить чувствительные params (пароли, токены в map-параметрах)?
|
||||
|
||||
### 2. PostgreSQL — connection pool
|
||||
|
||||
Сейчас gunicorn с несколькими воркерами. Каждый воркер — отдельный процесс.
|
||||
|
||||
Вопросы:
|
||||
- Какой connection pooler использовать? (psycopg2.pool? SQLAlchemy? asyncpg?)
|
||||
- Где создавать пул? (в app.py при старте? lazy в каждом воркере?)
|
||||
- Как передавать соединение в роуты? (flask.g? внедрение через blueprint?)
|
||||
- Нужен ли `@app.teardown_appcontext` для возврата соединения в пул?
|
||||
|
||||
### 3. PostgreSQL — миграции
|
||||
|
||||
Вопросы:
|
||||
- Нужна ли полноценная миграция (Alembic) или простая схема в `init_db.py`?
|
||||
- Где хранить SQL-файлы миграций? (отдельная папка `migrations/`?)
|
||||
- Как применять при деплое? (автоматически при старте приложения?)
|
||||
|
||||
### 4. Объединение с текущим трекером
|
||||
|
||||
Сейчас трекер (`tracker.py`) хранит UID'ы в JSON-файлах `/tmp/`. После появления PostgreSQL:
|
||||
|
||||
Вопросы:
|
||||
- Заменяет ли PostgreSQL трекер полностью? (хранить UID'ы в БД вместо /tmp/)
|
||||
- Или оставить трекер для краткосрочного кеша, а БД — для истории?
|
||||
- Если заменить — нужна ли миграция существующих данных из /tmp/ в БД?
|
||||
|
||||
### 5. Унификация `auth.py`
|
||||
|
||||
Из Round 1: вынести `_client_id()`, `get_client()`, `get_stand()`, `get_token_info()` в общий модуль `api/auth.py`.
|
||||
|
||||
Вопросы:
|
||||
- Использовать `flask.g` + `@bp.before_request` или явные вызовы функций?
|
||||
- Как обрабатывать роуты без обязательного токена (GET / без авторизации)?
|
||||
- Где создавать `HttpClient` — в `before_request` (на каждый запрос) или lazy?
|
||||
|
||||
### 6. Фронтенд — динамические сервисы
|
||||
|
||||
Сейчас `SVC_ID=1` захардкожен. Нужно загружать список из `/api/services`.
|
||||
|
||||
Вопросы:
|
||||
- Показывать ВСЕ сервисы или только из whitelist в config.yaml?
|
||||
- Какой UI для переключения между сервисами? (выпадающий список? вкладки?)
|
||||
- При смене сервиса — сбрасывать `selectedInst` и форму параметров?
|
||||
|
||||
### 7. JS в отдельный файл
|
||||
|
||||
Вынести весь JS из `<script>` в `/static/app.js`.
|
||||
|
||||
Вопросы:
|
||||
- Нужно ли использовать ES modules (`type="module"`) или классический скрипт?
|
||||
- Если модули — как разбить на файлы (instances.js, params.js, log.js)?
|
||||
- Как передавать Jinja2-переменные (config.VERSION, token_info) в JS-файл?
|
||||
|
||||
---
|
||||
|
||||
## 4. Файлы для изучения (если нужно)
|
||||
|
||||
Те же что в Round 1, плюс:
|
||||
- `DOCS/HISTORY.md` — обновлён результатами Round 1
|
||||
- `DOCS/sonnet-architecture-review-v1.0.89.md` — запрос Round 1
|
||||
@@ -0,0 +1,144 @@
|
||||
# Запрос к Claude (Sonnet): архитектурный аудит app-autotest v1.0.89
|
||||
|
||||
> **Цель**: получить анализ текущей архитектуры и рекомендации по развитию проекта.
|
||||
> **Дата**: 27.07.2026
|
||||
> **Версия**: 1.0.89
|
||||
|
||||
---
|
||||
|
||||
## 1. О проекте
|
||||
|
||||
### Что делает
|
||||
Flask-приложение для ручного тестирования операций облачной платформы Nubes:
|
||||
- CREATE — создать инстанс сервиса с параметрами
|
||||
- MODIFY — изменить параметры существующего инстанса
|
||||
- DELETE / SUSPEND / RESUME / REDEPLOY — управление инстансом
|
||||
|
||||
### Как работает сейчас
|
||||
- Один HTML-файл (index.html) с ванильным JS — без фреймворков, без SPA
|
||||
- Бэкенд: Flask + gunicorn (несколько воркеров)
|
||||
- Все данные — из REST API Nubes (никакого локального кеша, кроме краткосрочного трекера)
|
||||
- Трекер инстансов: JSON-файлы в /tmp/ под fcntl.flock
|
||||
- Автоопределение стенда (dev/test) по JWT-токену
|
||||
|
||||
### Текущая файловая структура
|
||||
```
|
||||
app-autotest/
|
||||
├── site/
|
||||
│ ├── app.py ← Flask(__name__), blueprints, /health
|
||||
│ ├── api/
|
||||
│ │ └── http_client.py ← HttpClient, автостенд
|
||||
│ ├── operations/
|
||||
│ │ ├── get_params.py ← слияние state.params + шаблон
|
||||
│ │ ├── get_services.py ← API-обёртки
|
||||
│ │ ├── get_instances.py ← пагинация
|
||||
│ │ └── tracker.py ← /tmp/instances-{clientId}-{stand}.json
|
||||
│ ├── routes/
|
||||
│ │ ├── main.py ← GET/POST /, /api/operations/<svc_id>
|
||||
│ │ ├── api.py ← [LEGACY] раннер тестов
|
||||
│ │ └── api_test.py ← /api/test, /api/params, /api/log
|
||||
│ ├── templates/
|
||||
│ │ └── index.html ← весь UI (~400 строк)
|
||||
│ └── static/
|
||||
│ └── style.css
|
||||
├── DOCS/
|
||||
│ ├── ARCHITECTURE.md ← актуальная архитектура
|
||||
│ ├── ARCHITECTURE.legacy.md ← старая версия
|
||||
│ ├── HISTORY.md ← история версий
|
||||
│ └── ... ← 12+ legacy-документов
|
||||
└── secrets/ ← токены (не в git)
|
||||
```
|
||||
|
||||
### Ключевые детали реализации
|
||||
- **Multi-worker safety**: все общие данные в /tmp/ под fcntl.flock
|
||||
- **CREATE vs non-CREATE**: раздельные потоки в бэкенде и фронтенде
|
||||
- **Текущие значения параметров**: GET /instances/{uid} → state.params + GET /instanceOperations/default/{opId} → слияние
|
||||
- **Логирование**: /tmp/app-autotest.log + /api/log + скрытая UI-панель
|
||||
- **Валидация**: HTML-escape + JSON-валидация map-полей (onblur + pre-submit)
|
||||
|
||||
---
|
||||
|
||||
## 2. Что нужно проанализировать
|
||||
|
||||
### A. Decoupling и модульность
|
||||
Сейчас всё в одном HTML и одном api_test.py (300+ строк). Нужны рекомендации:
|
||||
- Как разбить index.html на компоненты/модули?
|
||||
- Как разбить api_test.py на независимые модули по операциям?
|
||||
- Стоит ли переходить на микро-фронтенд (HTMX, Alpine.js, что-то ещё) или оставить ванильный JS?
|
||||
- Как организовать роутинг если добавится больше страниц?
|
||||
|
||||
### B. Хранение данных тестов
|
||||
Сейчас никакие результаты тестов не сохраняются. Нужно:
|
||||
- Где и как хранить историю запусков (каждый запуск = запись)?
|
||||
- Какие данные сохранять: параметры, длительность, статус, этапы, ошибки?
|
||||
- Формат хранения: SQLite? JSON-файлы? Внешняя БД?
|
||||
- Как привязать к конкретному инстансу и пользователю?
|
||||
- Нужна ли страница истории/отчётов?
|
||||
|
||||
### C. Оптимизация для развития
|
||||
- Что мешает добавить второй сервис (сейчас только Болванка, svcId=1)?
|
||||
- Как сделать конфигурацию сервисов (какие сервисы показывать, какие операции)?
|
||||
- Нужен ли config.yaml или всё из API?
|
||||
- Как масштабировать на множество пользователей (изоляция данных)?
|
||||
|
||||
### D. Улучшения архитектуры
|
||||
- Сейчас _client() определяется в двух местах (main.py и api_test.py) — как унифицировать?
|
||||
- Стоит ли вынести общие хелперы (_client_id, _stand, _token_info) в отдельный модуль?
|
||||
- Нужен ли middleware для токена (вместо ручного извлечения в каждом роуте)?
|
||||
- Как улучшить обработку ошибок (сейчас много try/except с голым str(e))?
|
||||
|
||||
### E. Безопасность
|
||||
- Токен передаётся в cookie и форме — достаточно ли этого?
|
||||
- Нужна ли CSRF-защита для POST-запросов?
|
||||
- Логи могут содержать чувствительные данные?
|
||||
|
||||
---
|
||||
|
||||
## 3. Ожидаемый формат ответа
|
||||
|
||||
### 1. Общая оценка
|
||||
- Что сделано хорошо
|
||||
- Что требует внимания
|
||||
- Критические проблемы (если есть)
|
||||
|
||||
### 2. Decoupling — план
|
||||
- Пошаговый план разбиения на модули
|
||||
- Рекомендации по фронтенду (ванильный JS / HTMX / Alpine / SPA)
|
||||
- Рекомендации по бэкенду (структура модулей)
|
||||
|
||||
### 3. Хранение данных тестов — план
|
||||
- Схема данных (какие поля, какие таблицы/файлы)
|
||||
- Технология (SQLite / PostgreSQL / JSON-файлы)
|
||||
- API для чтения/записи
|
||||
- UI для просмотра истории
|
||||
|
||||
### 4. Оптимизация — конкретные шаги
|
||||
- Приоритизированный список улучшений
|
||||
- Что можно сделать быстро, что требует переписывания
|
||||
|
||||
### 5. Риски и ограничения
|
||||
- Что может пойти не так при предлагаемых изменениях
|
||||
- Ограничения платформы (gunicorn, /tmp/, DDoS-Guard)
|
||||
|
||||
---
|
||||
|
||||
## 4. Файлы для изучения
|
||||
|
||||
**Код (в порядке важности):**
|
||||
1. `site/routes/api_test.py` — основной модуль операций
|
||||
2. `site/templates/index.html` — весь фронтенд
|
||||
3. `site/routes/main.py` — главная страница и API операций
|
||||
4. `site/api/http_client.py` — HTTP-клиент и автостенд
|
||||
5. `site/operations/get_params.py` — слияние параметров
|
||||
6. `site/operations/tracker.py` — файловый трекер
|
||||
7. `site/app.py` — точка входа
|
||||
8. `site/operations/get_services.py` + `get_instances.py` — API-обёртки
|
||||
|
||||
**Документация:**
|
||||
1. `DOCS/ARCHITECTURE.md` — актуальная архитектура
|
||||
2. `DOCS/HISTORY.md` — история версий
|
||||
3. `DOCS/terraform-operations-full-logic.md` — логика API из Terraform-провайдера
|
||||
|
||||
**Данные (HAR-файлы):**
|
||||
1. `development/dummycreate.har` — полный flow CREATE
|
||||
2. `development/dummymodify.har` — полный flow MODIFY
|
||||
@@ -0,0 +1,68 @@
|
||||
# Sonnet 4.6 — Финальный аудит: баги и действия пользователя
|
||||
|
||||
Дата: 2026-07-30
|
||||
Версия: v1.1.43
|
||||
|
||||
## Контекст
|
||||
|
||||
За 2 дня: 43 версии. Множество правок. Только что нашли баг — в `toggleInstance` удалили `const opsEl = ...` при рефакторинге, упало с ReferenceError. Нужно найти ВСЕ подобные баги.
|
||||
|
||||
## Файлы для проверки (ВСЕ)
|
||||
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/static/app.js` — 460 строк, весь фронтенд
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py` — бэкенд
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/templates/index.html` — HTML/CSS
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/api/http_client.py` — HTTP-клиент
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/operations/get_params.py` — параметры
|
||||
|
||||
## Что искать
|
||||
|
||||
### 1. ReferenceError / undefined variables
|
||||
- Все ли переменные объявлены перед использованием?
|
||||
- `opsEl`, `svcEl`, `btnSpan`, `inst`, `afterEl` — все ли определены в своей области видимости?
|
||||
|
||||
### 2. Все действия пользователя при busy=true
|
||||
Проверь КАЖДУЮ функцию — не вызывает ли она `stopPoll()` до проверки `busy`? Не меняет ли DOM (stages-box, params-area) до проверки?
|
||||
|
||||
Функции для проверки:
|
||||
- `toggleInstance(iuid)` — строка 76
|
||||
- `selectService(svcId)` — строка 39
|
||||
- `startCreate()` — строка 106
|
||||
- `runOp(opName,opId)` — строка 128
|
||||
- `showParams(opId,opName)` — строка 146 (вызывается из runOp, startCreate)
|
||||
- `executeOp(params)` — строка 307
|
||||
- `setFinishedState(...)` — строка 286
|
||||
- `refreshInstances()` — строка 389
|
||||
- `toggleHistory()` — строка 410
|
||||
- `toggleLog()` — строка 456
|
||||
|
||||
### 3. Пустые catch / потерянные ошибки
|
||||
- `showParams` — есть `.catch()` ✅
|
||||
- `executeOp` — есть `catch(e)` + busy ✅
|
||||
- `loadHistory` — есть `catch(e)` ✅
|
||||
- `startCreate` — есть `catch(e)` с fallback ✅
|
||||
- Поллинг в executeOp — `catch(e)` со счётчиком ✅
|
||||
- Есть ли другие `try/catch` или `fetch().then()` без обработки ошибок?
|
||||
|
||||
### 4. busy не сбрасывается
|
||||
Все ли пути выхода из `executeOp` сбрасывают `busy=false`?
|
||||
- FAIL: `busy=false` + return ✅
|
||||
- CMDB OK: `busy=false` + setFinishedState ✅
|
||||
- Поллинг завершился: `setFinishedState` → `busy=false` ✅
|
||||
- catch: `busy=false` ✅
|
||||
- Сетевая ошибка в поллинге: счётчик → `setFinishedState` ✅
|
||||
|
||||
### 5. DOM-элементы
|
||||
- Все ли `getElementById` ссылаются на существующие ID в index.html?
|
||||
- `ops-${iuid}` — генерируется динамически в `selectService` и `refreshInstances`
|
||||
- `param-displayname` — генерируется в `showParams`
|
||||
- Все ли статические ID присутствуют?
|
||||
|
||||
### 6. Параметры операций
|
||||
- `runOp` → `showParams` — правильно ли для ВСЕХ типов операций?
|
||||
- `showParams` → `opHeader` для не-create — показывается всегда ✅
|
||||
- `showParams` → `createHeader` для create — показывается ✅
|
||||
- Пустые params → `opHeader` + кнопка «Запустить» ✅
|
||||
|
||||
### 7. Любые другие баги
|
||||
Что ещё могло сломаться за 43 версии?
|
||||
@@ -0,0 +1,509 @@
|
||||
# ⚠️ LEGACY — НЕАКТУАЛЬНО. Исторический документ.
|
||||
|
||||
# Полный обзор кода app-autotest — запрос к Sonnet
|
||||
|
||||
Отправлено: 27.07.2026
|
||||
|
||||
---
|
||||
|
||||
## Контекст
|
||||
|
||||
Flask-приложение на Nubes pythonk8s (gunicorn, 1 worker, нет persistent volume).
|
||||
Репозиторий: https://gitea.services.ngcloud.ru/forcloud/app-autotest.git
|
||||
Деплой: git push → managed service редеплоит.
|
||||
Текущая версия: v1.0.48.
|
||||
|
||||
## ПРОБЛЕМА
|
||||
|
||||
CREATE инстанса через UI: инстанс создаётся в Nubes (виден в UI платформы), НО в нашем списке инстансов НЕ появляется. Происходит СТАБИЛЬНО, 3 раза подряд (v1.0.46, v1.0.47, v1.0.48). Пробовали:
|
||||
- v1.0.46: tracker_add в фоновом daemon-потоке _finish_op
|
||||
- v1.0.47: tracker_add в _finish_op, но до установки _op_results[OK] (попытка победить гонку)
|
||||
- v1.0.48: tracker_add синхронно в api_test() до запуска потока, с try/except: pass
|
||||
|
||||
НИ ОДИН вариант не сработал. Инстанс в трекере не появляется.
|
||||
|
||||
Текущий код на проде показывает 4 инстанса из _INITIAL:
|
||||
```
|
||||
curl-final-test (suspended)
|
||||
curl-test-144834 (suspended)
|
||||
autotest-1 (suspended)
|
||||
autotest-1-first (running)
|
||||
```
|
||||
|
||||
Новый инстанс (f192b10d-beb0-4a25-b79f-5dbd7de4712e, создан в 09:16) — отсутствует.
|
||||
|
||||
---
|
||||
|
||||
## ВЕСЬ КОД
|
||||
|
||||
### 1. site/app.py — точка входа
|
||||
```python
|
||||
import os
|
||||
from flask import Flask
|
||||
from routes.main import bp as main_bp
|
||||
from routes.api import bp as api_bp
|
||||
from routes.api_test import bp as api_test_bp
|
||||
|
||||
VERSION = "1.0.48"
|
||||
|
||||
app = Flask(__name__, template_folder="templates", static_folder="static")
|
||||
app.config["NUBES_API_ENDPOINT"] = os.getenv("NUBES_API_ENDPOINT", "https://lk-api-gateway-dev.ngcloud.ru/api/v1/svc")
|
||||
app.config["NUBES_API_TOKEN"] = os.getenv("NUBES_API_TOKEN", "")
|
||||
app.config["VERSION"] = VERSION
|
||||
app.register_blueprint(main_bp)
|
||||
app.register_blueprint(api_bp)
|
||||
app.register_blueprint(api_test_bp)
|
||||
|
||||
@app.route("/health")
|
||||
def health():
|
||||
return "OK"
|
||||
|
||||
if __name__ == "__main__":
|
||||
app.run(host="0.0.0.0", port=5000)
|
||||
```
|
||||
|
||||
### 2. site/api/http_client.py — HTTP клиент
|
||||
```python
|
||||
import requests
|
||||
|
||||
class HttpClient:
|
||||
def __init__(self, endpoint, token):
|
||||
self._endpoint = endpoint.rstrip("/")
|
||||
self._session = requests.Session()
|
||||
self._session.headers.update({
|
||||
"Authorization": f"Bearer {token}",
|
||||
"User-Agent": "Mozilla/5.0",
|
||||
})
|
||||
|
||||
def get(self, path, **kwargs):
|
||||
kwargs.setdefault("timeout", 10)
|
||||
r = self._session.get(f"{self._endpoint}{path}", **kwargs)
|
||||
r.raise_for_status()
|
||||
return r.json()
|
||||
|
||||
def post(self, path, data=None, **kwargs):
|
||||
kwargs.setdefault("timeout", 30)
|
||||
url = f"{self._endpoint}{path}"
|
||||
r = self._session.post(url, json=(data if data is not None else {}), **kwargs)
|
||||
if not r.ok:
|
||||
raise Exception(f"POST {path}: {r.status_code} {r.reason}: {r.text[:200]}")
|
||||
result = {}
|
||||
try:
|
||||
parsed = r.json()
|
||||
if isinstance(parsed, dict):
|
||||
result = parsed
|
||||
except Exception:
|
||||
pass
|
||||
loc = r.headers.get("Location", "")
|
||||
if loc:
|
||||
result["_location"] = loc
|
||||
return result
|
||||
```
|
||||
|
||||
### 3. site/operations/tracker.py — трекер инстансов
|
||||
```python
|
||||
"""Трекер созданных инстансов — только те что породило приложение."""
|
||||
import json
|
||||
import os
|
||||
import threading
|
||||
|
||||
_LOCK = threading.Lock()
|
||||
_PATH = "/tmp/instances.json"
|
||||
|
||||
_INITIAL = {
|
||||
"408b7f96-6ed7-4985-be1b-f5bdcb6ab44d": {"svcId": 1, "displayName": "autotest-1", "instanceUid": "408b7f96-6ed7-4985-be1b-f5bdcb6ab44d"},
|
||||
"884356cf-5212-4395-b56b-27c58a5fc1fa": {"svcId": 1, "displayName": "autotest-1-first", "instanceUid": "884356cf-5212-4395-b56b-27c58a5fc1fa"},
|
||||
"6528854d-a4ea-428c-9fa4-68e85fa9b3ac": {"svcId": 1, "displayName": "curl-test-144834", "instanceUid": "6528854d-a4ea-428c-9fa4-68e85fa9b3ac"},
|
||||
"fdcb5887-39f7-4ef8-a9c0-d55e434a55ff": {"svcId": 1, "displayName": "curl-final-test", "instanceUid": "fdcb5887-39f7-4ef8-a9c0-d55e434a55ff"},
|
||||
}
|
||||
|
||||
def _load():
|
||||
try:
|
||||
with open(_PATH) as f:
|
||||
return json.load(f)
|
||||
except (FileNotFoundError, json.JSONDecodeError):
|
||||
data = dict(_INITIAL)
|
||||
_save(data)
|
||||
return data
|
||||
|
||||
def _save(data):
|
||||
with open(_PATH, "w") as f:
|
||||
json.dump(data, f, indent=2)
|
||||
|
||||
def add(instance_uid, svc_id, display_name):
|
||||
with _LOCK:
|
||||
data = _load()
|
||||
data[instance_uid] = {
|
||||
"svcId": svc_id,
|
||||
"displayName": display_name,
|
||||
"instanceUid": instance_uid,
|
||||
}
|
||||
_save(data)
|
||||
|
||||
def remove(instance_uid):
|
||||
with _LOCK:
|
||||
data = _load()
|
||||
data.pop(instance_uid, None)
|
||||
_save(data)
|
||||
|
||||
def list_all():
|
||||
with _LOCK:
|
||||
return list(_load().values())
|
||||
```
|
||||
|
||||
### 4. site/routes/api_test.py — основной файл с проблемой
|
||||
```python
|
||||
from flask import Blueprint, current_app, jsonify, request
|
||||
|
||||
from api.http_client import HttpClient
|
||||
from operations.get_services import get_services, get_service_detail
|
||||
from operations.get_instances import get_instances
|
||||
from operations.tracker import add as tracker_add, list_all as tracker_list
|
||||
from operations.tracker import remove as tracker_remove
|
||||
|
||||
bp = Blueprint("api_test", __name__)
|
||||
|
||||
|
||||
def _client():
|
||||
token = request.cookies.get("token") or current_app.config["NUBES_API_TOKEN"]
|
||||
return HttpClient(current_app.config["NUBES_API_ENDPOINT"], token)
|
||||
|
||||
|
||||
@bp.route("/api/services")
|
||||
def api_services():
|
||||
try:
|
||||
raw = get_services(_client())
|
||||
svc_list = [{"svcId": s["svcId"], "svc": s["svc"], "svcExtendedName": s.get("svcExtendedName", "")} for s in raw]
|
||||
svc_list.sort(key=lambda s: s["svcId"])
|
||||
return jsonify(svc_list)
|
||||
except Exception as e:
|
||||
return jsonify({"error": str(e)}), 500
|
||||
|
||||
|
||||
@bp.route("/api/instances/list")
|
||||
def api_instances_list():
|
||||
try:
|
||||
raw = get_instances(_client())
|
||||
inst = [{"instanceUid": i["instanceUid"], "displayName": i["displayName"], "serviceId": i["serviceId"], "svc": i["svc"], "explainedStatus": i.get("explainedStatus", "?")} for i in raw]
|
||||
return jsonify(inst)
|
||||
except Exception as e:
|
||||
return jsonify({"error": str(e)}), 500
|
||||
|
||||
|
||||
@bp.route("/api/operations/<int:svc_id>")
|
||||
def api_operations(svc_id):
|
||||
try:
|
||||
detail = get_service_detail(_client(), svc_id)
|
||||
ops = detail.get("operations", [])
|
||||
# только отслеживаемые инстансы этого сервиса
|
||||
tracked = tracker_list()
|
||||
tracked_uids = {t["instanceUid"] for t in tracked if t["svcId"] == svc_id}
|
||||
instances = get_instances(_client())
|
||||
svc_instances = [i for i in instances
|
||||
if i.get("instanceUid") in tracked_uids
|
||||
and i.get("explainedStatus") not in ("deleted", "not created")]
|
||||
return jsonify({
|
||||
"svc": detail.get("svc", ""),
|
||||
"operations": [{"svcOperationId": o["svcOperationId"], "operation": o["operation"]} for o in ops],
|
||||
"instances": svc_instances,
|
||||
})
|
||||
except Exception as e:
|
||||
return jsonify({"error": str(e)}), 500
|
||||
|
||||
|
||||
@bp.route("/api/params/<int:op_id>")
|
||||
def api_params(op_id):
|
||||
try:
|
||||
data = _client().get(f"/instanceOperations/default/{op_id}")
|
||||
params = data["svcOperation"]["cfsParams"]
|
||||
result = []
|
||||
for p in params:
|
||||
result.append({
|
||||
"svcOperationCfsParamId": p["svcOperationCfsParamId"],
|
||||
"name": p.get("svcOperationCfsParam", ""),
|
||||
"dataType": p.get("dataType", ""),
|
||||
"isRequired": p.get("isRequired", False),
|
||||
"defaultValue": p.get("defaultValue"),
|
||||
"valueList": p.get("valueList"),
|
||||
"dataDescriptor": {k: {"dataType": v.get("dataType",""), "valueList": v.get("valueList",""), "isRequired": v.get("isRequired", False)} for k, v in p.get("dataDescriptor", {}).items()} if p.get("dataDescriptor") else None,
|
||||
})
|
||||
return jsonify(result)
|
||||
except Exception as e:
|
||||
return jsonify({"error": str(e)}), 500
|
||||
|
||||
|
||||
@bp.route("/api/test", methods=["POST"])
|
||||
def api_test():
|
||||
"""Запустить операцию — возвращает opUid сразу, выполнение в фоне."""
|
||||
import threading, time
|
||||
|
||||
data = request.get_json()
|
||||
svc_id = data["serviceId"]
|
||||
op_name = data["operation"]
|
||||
svc_op_id = data["svcOperationId"]
|
||||
params = data.get("params", {})
|
||||
instance_uid = data.get("instanceUid")
|
||||
display_name = data.get("displayName", f"autotest-{svc_id}")
|
||||
|
||||
client = _client()
|
||||
|
||||
try:
|
||||
if op_name == "create":
|
||||
payload = {"serviceId": svc_id, "displayName": display_name, "descr": ""}
|
||||
resp = client.post("/instances", payload)
|
||||
instance_uid = resp.get("instanceUid") or _find_uid(resp) or _uid_from_location(resp.get("_location", ""))
|
||||
if not instance_uid:
|
||||
return jsonify({"status": "FAIL", "error": "Не удалось получить instanceUid"}), 500
|
||||
|
||||
op_payload = {"instanceUid": instance_uid, "operation": "create"}
|
||||
op_resp = client.post("/instanceOperations", op_payload)
|
||||
op_uid = _find_uid(op_resp) or _uid_from_location(op_resp.get("_location", ""))
|
||||
if not op_uid:
|
||||
return jsonify({"status": "FAIL", "error": "Не удалось получить opUid"}), 500
|
||||
|
||||
for pid, pval in params.items():
|
||||
client.post("/instanceOperationCfsParams",
|
||||
{"instanceOperationUid": op_uid, "svcOperationCfsParamId": int(pid), "paramValue": str(pval)})
|
||||
client.post(f"/instanceOperations/{op_uid}/run")
|
||||
|
||||
# Записать в трекер СРАЗУ, до фонового потока
|
||||
try:
|
||||
tracker_add(instance_uid, svc_id, display_name)
|
||||
except Exception:
|
||||
pass # ← МОЛЧА ПРОГЛАТЫВАЕТ ОШИБКУ
|
||||
|
||||
# фоном ждать завершения
|
||||
threading.Thread(target=_finish_op, args=(client, op_uid, instance_uid, svc_id, display_name, op_name, svc_op_id, True), daemon=True).start()
|
||||
return jsonify({"status": "RUNNING", "opUid": op_uid, "instanceUid": instance_uid})
|
||||
|
||||
else:
|
||||
if not instance_uid:
|
||||
return jsonify({"status": "FAIL", "error": "Нет instanceUid"}), 400
|
||||
|
||||
if op_name == "redeploy":
|
||||
op_payload = {"instanceUid": instance_uid, "svcOperationId": svc_op_id, "operation": op_name}
|
||||
op_resp = client.post("/instanceOperations", op_payload)
|
||||
op_uid = _find_uid(op_resp) or _uid_from_location(op_resp.get("_location", ""))
|
||||
if not op_uid:
|
||||
return jsonify({"status": "FAIL", "error": "Не удалось получить opUid"}), 500
|
||||
client.post(f"/instanceOperations/{op_uid}/run")
|
||||
else:
|
||||
op_payload = {"instanceUid": instance_uid, "svcOperationId": svc_op_id, "operation": op_name}
|
||||
op_resp = client.post("/instanceOperations", op_payload)
|
||||
op_uid = _find_uid(op_resp) or _uid_from_location(op_resp.get("_location", ""))
|
||||
if not op_uid:
|
||||
return jsonify({"status": "FAIL", "error": "Не удалось получить opUid"}), 500
|
||||
for pid, pval in params.items():
|
||||
client.post("/instanceOperationCfsParams",
|
||||
{"instanceOperationUid": op_uid, "svcOperationCfsParamId": int(pid), "paramValue": str(pval)})
|
||||
client.post(f"/instanceOperations/{op_uid}/run")
|
||||
|
||||
is_delete = (op_name == "delete")
|
||||
threading.Thread(target=_finish_op, args=(client, op_uid, instance_uid, svc_id, display_name, op_name, svc_op_id, False, is_delete), daemon=True).start()
|
||||
return jsonify({"status": "RUNNING", "opUid": op_uid, "instanceUid": instance_uid})
|
||||
|
||||
except Exception as e:
|
||||
import traceback
|
||||
return jsonify({"status": "FAIL", "error": str(e) + " | " + traceback.format_exc()[-200:]})
|
||||
|
||||
|
||||
# Результаты фоновых операций: opUid → {status, error, stages, duration}
|
||||
_op_results = {}
|
||||
|
||||
|
||||
def _finish_op(client, op_uid, instance_uid, svc_id, display_name, op_name, svc_op_id, is_create, is_delete=False):
|
||||
"""Фоном ждать dtFinish и сохранить результат."""
|
||||
import time
|
||||
t0 = time.time()
|
||||
deadline = t0 + 300
|
||||
while time.time() < deadline:
|
||||
try:
|
||||
data = client.get(f"/instanceOperations/{op_uid}?fields=dtFinish,isSuccessful,errorLog,isInProgress,duration,stages")
|
||||
except Exception:
|
||||
time.sleep(5)
|
||||
continue
|
||||
op = data.get("instanceOperation", {})
|
||||
dt_finish = op.get("dtFinish")
|
||||
_op_results[op_uid] = {
|
||||
"status": "RUNNING",
|
||||
"stages": op.get("stages", []),
|
||||
"duration": round(time.time() - t0, 1),
|
||||
}
|
||||
if dt_finish and str(dt_finish).strip():
|
||||
is_ok = op.get("isSuccessful")
|
||||
err = op.get("errorLog") or ""
|
||||
print(f"[DEBUG] _finish_op op_uid={op_uid} isSuccessful={is_ok!r}", flush=True)
|
||||
if is_ok and is_delete:
|
||||
tracker_remove(instance_uid)
|
||||
_op_results[op_uid] = {
|
||||
"status": "OK" if is_ok else "FAIL",
|
||||
"error": str(err) if err else "",
|
||||
"stages": op.get("stages", []),
|
||||
"duration": round(time.time() - t0, 1),
|
||||
}
|
||||
return
|
||||
time.sleep(5)
|
||||
_op_results[op_uid] = {"status": "TIMEOUT", "duration": round(time.time() - t0, 1)}
|
||||
|
||||
|
||||
@bp.route("/api/test/status/<op_uid>")
|
||||
def api_test_status(op_uid):
|
||||
"""Получить текущий статус операции (поллинг с UI)."""
|
||||
if op_uid in _op_results:
|
||||
return jsonify(_op_results[op_uid])
|
||||
try:
|
||||
data = _client().get(f"/instanceOperations/{op_uid}?fields=dtFinish,isSuccessful,errorLog,isInProgress,duration,stages")
|
||||
op = data.get("instanceOperation", {})
|
||||
dt_finish = op.get("dtFinish")
|
||||
done = bool(dt_finish and str(dt_finish).strip())
|
||||
return jsonify({
|
||||
"status": "OK" if (done and op.get("isSuccessful")) else ("FAIL" if done else "RUNNING"),
|
||||
"done": done,
|
||||
"isSuccessful": op.get("isSuccessful"),
|
||||
"isInProgress": op.get("isInProgress"),
|
||||
"duration": op.get("duration"),
|
||||
"stages": op.get("stages", []),
|
||||
"errorLog": op.get("errorLog"),
|
||||
})
|
||||
except Exception as e:
|
||||
return jsonify({"error": str(e)}), 500
|
||||
|
||||
|
||||
def _find_uid(d):
|
||||
if isinstance(d, dict):
|
||||
for k in ("instanceUid", "instanceOperationUid", "uid", "Uid"):
|
||||
if k in d:
|
||||
return d[k]
|
||||
return None
|
||||
|
||||
|
||||
def _uid_from_location(loc):
|
||||
parts = loc.rstrip("/").split("/")
|
||||
return parts[-1] if parts else None
|
||||
```
|
||||
|
||||
### 5. site/routes/main.py — главная страница (фрагмент с /api/operations)
|
||||
```python
|
||||
@bp.route("/api/operations/<int:svc_id>")
|
||||
def api_operations(svc_id):
|
||||
try:
|
||||
detail = get_service_detail(_client(), svc_id)
|
||||
ops = detail.get("operations", [])
|
||||
tracked = tracker_list()
|
||||
tracked_uids = {t["instanceUid"] for t in tracked if t["svcId"] == svc_id}
|
||||
instances = get_instances(_client())
|
||||
svc_instances = [i for i in instances
|
||||
if i.get("instanceUid") in tracked_uids
|
||||
and i.get("explainedStatus") not in ("deleted", "not created")]
|
||||
return jsonify({
|
||||
"svc": detail.get("svc", ""),
|
||||
"operations": [{"svcOperationId": o["svcOperationId"], "operation": o["operation"]} for o in ops],
|
||||
"instances": svc_instances,
|
||||
})
|
||||
except Exception as e:
|
||||
return jsonify({"error": str(e)}), 500
|
||||
```
|
||||
|
||||
### 6. site/templates/index.html — UI (ключевые функции)
|
||||
```javascript
|
||||
// Инстансы + кнопки операций
|
||||
async function selectService(svcId){
|
||||
selectedInst=null; selectedOp=null; stopPoll();
|
||||
document.getElementById('params-card').style.display='none';
|
||||
document.getElementById('stages-box').style.display='none';
|
||||
const r=await fetch('/api/operations/'+svcId);
|
||||
const d=await r.json();
|
||||
svcInstances=d.instances||[];
|
||||
// ... рендерит список
|
||||
}
|
||||
|
||||
async function executeOp(params){
|
||||
stopPoll();
|
||||
const displayName=document.getElementById('param-displayname')?.value||'autotest-1';
|
||||
// ... очищает форму
|
||||
const r=await fetch('/api/test',{method:'POST',headers:{'Content-Type':'application/json'},body:JSON.stringify({
|
||||
serviceId:SVC_ID,
|
||||
operation:selectedOp.opName,
|
||||
svcOperationId:selectedOp.opId,
|
||||
params,
|
||||
instanceUid:selectedInst||'',
|
||||
displayName
|
||||
})});
|
||||
const d=await r.json();
|
||||
if(d.status==='FAIL'){/* ошибка */ return;}
|
||||
// start polling
|
||||
const opUid=d.opUid;
|
||||
pollTimer=setInterval(async()=>{
|
||||
const sr=await fetch('/api/test/status/'+opUid);
|
||||
const sd=await sr.json();
|
||||
showStages(sd.stages||[]);
|
||||
if(sd.status!=='RUNNING'){
|
||||
stopPoll();
|
||||
// ... показать результат
|
||||
if(sd.status==='OK'){
|
||||
if(selectedOp.opName==='create'){await selectService(SVC_ID);} // ← ПЕРЕЗАГРУЖАЕТ ВСЁ
|
||||
else{await refreshInstances();}
|
||||
}
|
||||
}
|
||||
},2000);
|
||||
}
|
||||
|
||||
async function refreshInstances(){
|
||||
const r=await fetch('/api/operations/'+SVC_ID);
|
||||
const d=await r.json();
|
||||
svcInstances=d.instances||[];
|
||||
// обновить только бейджи статусов
|
||||
svcInstances.forEach(i=>{
|
||||
const el=document.querySelector(`[data-iuid="${i.instanceUid}"] .badge`);
|
||||
if(el){
|
||||
el.textContent=i.explainedStatus||'?';
|
||||
el.className='badge '+(i.explainedStatus==='running'?'badge-success':'');
|
||||
}
|
||||
});
|
||||
}
|
||||
```
|
||||
|
||||
---
|
||||
|
||||
## ЧТО ПРОИСХОДИТ ПРИ CREATE (трассировка)
|
||||
|
||||
1. UI: `executeOp()` → POST `/api/test` `{serviceId:1, operation:"create", svcOperationId:18, params:{...}, instanceUid:"", displayName:"autotest-1-lq5x3a"}`
|
||||
2. `api_test()`: `op_name="create"`, `svc_id=1` (int), `display_name="autotest-1-lq5x3a"` (str)
|
||||
3. `client.post("/instances", ...)` → ответ от Nubes → `instance_uid = "f192b10d-beb0-4a25-b79f-5dbd7de4712e"`
|
||||
4. `client.post("/instanceOperations", ...)` → `op_uid = "d489348e-5d92-47cd-97f7-25f1c4d65ffc"`
|
||||
5. Параметры → `client.post("/instanceOperationCfsParams", ...)` для каждого
|
||||
6. `client.post("/instanceOperations/{op_uid}/run")` → запуск
|
||||
7. **`tracker_add("f192b10d-...", 1, "autotest-1-lq5x3a")`** ← ЗДЕСЬ ПРОБЛЕМА
|
||||
8. `threading.Thread(target=_finish_op, ...)` → фон
|
||||
9. Возврат `{status:"RUNNING", opUid:"d489348e-...", instanceUid:"f192b10d-..."}`
|
||||
10. UI поллит `/api/test/status/d489348e-...`
|
||||
11. `_finish_op` получает `isSuccessful=true` → `_op_results[opUid] = {status:"OK", ...}`
|
||||
12. UI получает OK → вызывает `selectService(1)` → `/api/operations/1` → `tracker_list()` → 4 инстанса → **нового НЕТ**
|
||||
|
||||
---
|
||||
|
||||
## ВОПРОСЫ
|
||||
|
||||
### Критический: почему tracker_add не работает?
|
||||
|
||||
1. Может ли `json.dump` в `/tmp/instances.json` падать молча на pythonk8s? (диск full, fs ro, quota)
|
||||
2. Может ли `_save` записать, но `_load` прочитать старую версию из-за кеша ФС?
|
||||
3. Может ли gunicorn preload создавать несколько копий модуля tracker.py с разными `_LOCK`?
|
||||
4. Может ли `_INITIAL` перезаписывать файл при КАЖДОМ `_load`, если файл повреждён?
|
||||
5. **ГЛАВНЫЙ ВОПРОС: как надёжно сохранять состояние на pythonk8s БЕЗ persistent volume?**
|
||||
|
||||
### Архитектурный
|
||||
6. Не перейти ли на sqlite3 в `/tmp/`? Даст ли это атомарность?
|
||||
7. Не заменить ли `/tmp/instances.json` на in-memory dict + seed из `_INITIAL` при старте? (без файла вообще)
|
||||
8. Как правильно логировать ошибки на pythonk8s чтобы их было видно?
|
||||
|
||||
### UI
|
||||
9. После успешного CREATE `selectService()` скрывает progress card — это бесит. Как обновить только список инстансов не скрывая stages?
|
||||
|
||||
---
|
||||
|
||||
## Что уже пробовали (НЕ ПОМОГЛО)
|
||||
|
||||
- v1.0.46: tracker_add в daemon-потоке _finish_op → поток умирает под gunicorn
|
||||
- v1.0.47: tracker_add в _finish_op, но до _op_results[OK] → не помогло
|
||||
- v1.0.48: tracker_add синхронно в api_test() ДО потока, try/except: pass → ОШИБКА СКРЫТА
|
||||
@@ -0,0 +1,31 @@
|
||||
# Sonnet 4.6 — Полный код-ревью v1.1.20
|
||||
|
||||
Дата: 2026-07-29
|
||||
|
||||
## 🔴 КРИТИЧЕСКИЙ БАГ #1 — `_finish_op`: неправильный порядок аргументов для CREATE
|
||||
|
||||
Файл: /home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py
|
||||
|
||||
Сигнатура: `def _finish_op(client, op_uid, instance_uid, svc_id, display_name, op_name, svc_op_id, is_create, client_id, stand, is_delete=False, params=None, user_email="", app_version=""):`
|
||||
|
||||
Вызов CREATE передаёт 13 аргументов. `params` попадает на позицию `is_delete` → dict truthy → после успешного CREATE вызывается `tracker_remove` — инстанс НЕМЕДЛЕННО удаляется из трекера.
|
||||
|
||||
## 🔴 ВАЖНЫЙ БАГ #2 — `api_history()`: утечка соединения
|
||||
|
||||
Нет `try/finally` — при исключении соединение не возвращается в пул. 5 утечек = пул исчерпан.
|
||||
|
||||
## 🔴 ВАЖНЫЙ БАГ #3 — pool.py: `_initialized = True` до `init_db()`
|
||||
|
||||
При сетевой ошибке `init_db()` не выполняется, но флаг уже True — схема не создастся до перезапуска воркера.
|
||||
|
||||
## 🟡 XSS — `displayName` и `svc` не экранируются в app.js
|
||||
|
||||
`_esc()` не применяется при рендере списка инстансов. Вектор через поле displayName.
|
||||
|
||||
## 🟡 Cookie без `secure=True`
|
||||
|
||||
## 🟡 MODIFY — не досылаются required+default параметры (в отличие от CREATE)
|
||||
|
||||
## 🟠 Мёртвый код: runner.py (LEGACY), дубликат redeploy/else, устаревшие docstring'и
|
||||
|
||||
## 🟠 pool.py — race condition при создании пула без мьютекса
|
||||
@@ -0,0 +1,51 @@
|
||||
# Полный код-ревью ВСЕГО проекта autotest
|
||||
|
||||
## Контекст
|
||||
|
||||
Flask 3.0 + gunicorn (multi-worker) + vanilla JS + psycopg2 PostgreSQL.
|
||||
Тестирует Nubes REST API — создаёт/удаляет инстансы облачных сервисов.
|
||||
Версия: v1.1.20 (сегодня, после 20 правок за день).
|
||||
За день сделано ~20 правок, накопился технический долг — нужен свежий взгляд.
|
||||
|
||||
## ВСЕ файлы (прочитай КАЖДЫЙ)
|
||||
|
||||
```
|
||||
/home/naeel/nubes/autotest/app-autotest/site/app.py — точка входа, регистрация blueprint'ов
|
||||
/home/naeel/nubes/autotest/app-autotest/site/runner.py — загрузка config.yaml
|
||||
/home/naeel/nubes/autotest/app-autotest/site/api/auth.py — get_token, get_client, get_client_id, get_stand
|
||||
/home/naeel/nubes/autotest/app-autotest/site/api/http_client.py — HttpClient, detect_endpoint, stand_name
|
||||
/home/naeel/nubes/autotest/app-autotest/site/db/pool.py — psycopg2 ThreadedConnectionPool (lazy)
|
||||
/home/naeel/nubes/autotest/app-autotest/site/db/init_db.py — CREATE TABLE runs + миграции
|
||||
/home/naeel/nubes/autotest/app-autotest/site/db/save_run.py — INSERT в runs (16 колонок)
|
||||
/home/naeel/nubes/autotest/app-autotest/site/operations/get_instances.py — GET /instances (пагинация)
|
||||
/home/naeel/nubes/autotest/app-autotest/site/operations/get_params.py — get_params_with_current_values, _normalize_value_list
|
||||
/home/naeel/nubes/autotest/app-autotest/site/operations/get_services.py — GET /services, /services/{id}
|
||||
/home/naeel/nubes/autotest/app-autotest/site/operations/service_list.py — load_service_ids из services_{stand}.txt
|
||||
/home/naeel/nubes/autotest/app-autotest/site/operations/tracker.py — fcntl.flock file tracker
|
||||
/home/naeel/nubes/autotest/app-autotest/site/routes/api.py — LEGACY эндпоинты
|
||||
/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py — ОСНОВНОЙ: /api/test, /api/params, /api/log, поллинг, _finish_op
|
||||
/home/naeel/nubes/autotest/app-autotest/site/routes/main.py — / (главная), /api/operations/{svc_id}
|
||||
/home/naeel/nubes/autotest/app-autotest/site/static/app.js — ВЕСЬ фронтенд (420 строк)
|
||||
/home/naeel/nubes/autotest/app-autotest/site/templates/index.html — Jinja2 шаблон
|
||||
```
|
||||
|
||||
## Что нужно от тебя
|
||||
|
||||
1. **Найти ВСЕ баги** — синтаксические, логические, race conditions, необработанные исключения
|
||||
2. **Проверить универсальность** — работает ли код для ВСЕХ сервисов (Redis 3 параметра, PostgreSQL 8 map-fixed параметров, Болванка)
|
||||
3. **Проверить CREATE flow** — сверь с эталонным Terraform flow из /home/naeel/nubes/autotest/DOCS/terraform-operations-full-logic.md
|
||||
4. **Проверить MODIFY/SUSPEND/DELETE/RESUME** — нет ли там таких же проблем
|
||||
5. **Проверить фронтенд** — все ли DOM ID совпадают, нет ли необработанных Promise, правильный ли порядок элементов
|
||||
6. **Проверить на дубликаты** — нет ли мёртвого кода, дублирующихся эндпоинтов
|
||||
7. **Проверить безопасность** — httponly cookie, токены, CORS
|
||||
|
||||
## Известные недавние баги (уже исправлены, но проверь что фиксы корректны)
|
||||
|
||||
- `_client()` → NameError (не было такой функции) → заменили на get_client()
|
||||
- `-строка` → TypeError в сортировке → заменили на два sort()
|
||||
- `_normalize_value_list` не импортирован → добавили импорт
|
||||
- `</div>\`;` осиротевший HTML в JS → удалили
|
||||
- `currentSvcName` вместо реального `i.svc` → исправили
|
||||
- serviceId фильтр (убран, заменён на сортировку)
|
||||
- dataDescriptor defaultValue не прокидывался → добавили
|
||||
- required+default params не досылались (шаг 6 Terraform) → добавили
|
||||
@@ -0,0 +1,68 @@
|
||||
# ⚠️ LEGACY — НЕАКТУАЛЬНО. Исторический документ.
|
||||
|
||||
# Sonnet — почему ты пропустил эти баги?
|
||||
|
||||
Отправлено: 27.07.2026, после v1.0.49 (твой анализ выполнен, НЕ ПОМОГЛО)
|
||||
|
||||
---
|
||||
|
||||
## Ты предложил 4 правки — мы сделали. Инстанс ВСЁ РАВНО не появляется в списке. Плюс новый баг: ❌ вместо ⏳ для этапов в процессе.
|
||||
|
||||
## Ты НЕ заметил баг №1: showStages() — ❌ для выполняющихся этапов
|
||||
|
||||
```javascript
|
||||
function showStages(stages){
|
||||
stages.forEach(s=>{
|
||||
const ok=s.isSuccessful;
|
||||
const icon=ok===true?'✅':ok===false?'❌':'⏳'; // ← БАГ
|
||||
```
|
||||
|
||||
API Nubes для этапа в процессе возвращает `isSuccessful: false` (или `null`).
|
||||
Код интерпретирует `false === false` → ❌ (авария).
|
||||
Но этап просто **ещё не завершился** — должен быть ⏳.
|
||||
|
||||
**Правильная логика:** проверять `dtFinish` этапа. Если `dtFinish` нет → ⏳.
|
||||
Если есть и `isSuccessful === true` → ✅. Если есть и `false` → ❌.
|
||||
|
||||
Почему ты это пропустил? Код `showStages()` был в твоём обзоре.
|
||||
|
||||
---
|
||||
|
||||
## Ты НЕ заметил баг №2: api_operations() теряет инстансы
|
||||
|
||||
```python
|
||||
def api_operations(svc_id):
|
||||
tracked = tracker_list() # ← 5 UID (включая новый)
|
||||
tracked_uids = {t["instanceUid"] for t in tracked if t["svcId"] == svc_id}
|
||||
instances = get_instances(_client()) # ← Nubes API: только 4 старых
|
||||
svc_instances = [i for i in instances
|
||||
if i.get("instanceUid") in tracked_uids # ← новый UID НЕ НАЙДЕН
|
||||
and i.get("explainedStatus") not in ("deleted", "not created")]
|
||||
```
|
||||
|
||||
`tracker_add` работает (in-memory, мгновенно). Но `get_instances()` из Nubes API **не сразу** возвращает только что созданный инстанс.
|
||||
Фильтр требует чтобы инстанс был В ОБОИХ источниках. Новый UID есть в `tracked_uids` но отсутствует в `instances` → выпадает.
|
||||
|
||||
Результат: список всегда показывает только старые инстансы, новый — никогда.
|
||||
|
||||
**Правильная логика:** инстансы из трекера, отсутствующие в `get_instances()`, добавлять напрямую со статусом `"creating"`.
|
||||
|
||||
Почему ты это пропустил? Код `api_operations()` был в твоём обзоре, полностью.
|
||||
|
||||
---
|
||||
|
||||
## Что мы имеем после твоих рекомендаций
|
||||
|
||||
| Версия | Что делали | Результат |
|
||||
|--------|-----------|-----------|
|
||||
| v1.0.48 | tracker_add синхронно, except:pass | ❌ инстанса нет |
|
||||
| v1.0.49 | in-memory dict (твоя рекомендация) | ❌ инстанса нет |
|
||||
| v1.0.49 | refreshInstances вместо selectService | ❌ stages ушли, но инстанса нет |
|
||||
|
||||
Трекер РАБОТАЕТ — in-memory dict, добавление мгновенное.
|
||||
НО фильтр `api_operations()` ВЫБРАСЫВАЕТ новый инстанс потому что Nubes API его ещё не проиндексировал.
|
||||
|
||||
## Вопрос
|
||||
|
||||
Ты проанализировал ВЕСЬ код, включая `api_operations()` и `showStages()`.
|
||||
Как ты мог пропустить оба этих бага, которые видны при простой трассировке CREATE-потока?
|
||||
@@ -0,0 +1,77 @@
|
||||
# Полный код-ревью и вопрос: CREATE пропускает required-параметры
|
||||
|
||||
## Что такое autotest
|
||||
|
||||
Flask 3.0 + gunicorn + vanilla JS. Тестирует Nubes REST API — создаёт/удаляет инстансы облачных сервисов (Redis, PostgreSQL, S3, etc.). Всё через API: POST /instances, POST /instanceOperations, POST /instanceOperationCfsParams, POST /run.
|
||||
|
||||
## Текущий CREATE-флоу (код)
|
||||
|
||||
Файл: `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py`, функция `api_test()`, строки 209-225:
|
||||
|
||||
```python
|
||||
display_name = _unique_display_name(client, display_name)
|
||||
descr = f"created by autotest v{current_app.config.get('VERSION', '')}"
|
||||
payload = {"serviceId": svc_id, "displayName": display_name, "descr": descr}
|
||||
resp = client.post("/instances", payload) # шаг 1
|
||||
instance_uid = resp.get("instanceUid") or _find_uid(resp) ...
|
||||
|
||||
op_payload = {"instanceUid": instance_uid, "operation": "create"}
|
||||
op_resp = client.post("/instanceOperations", op_payload) # шаг 2
|
||||
op_uid = _find_uid(op_resp) ...
|
||||
|
||||
tracker_add(...)
|
||||
|
||||
for pid, pval in params.items(): # шаг 3 — ТОЛЬКО пользовательские
|
||||
client.post("/instanceOperationCfsParams",
|
||||
{"instanceOperationUid": op_uid, "svcOperationCfsParamId": int(pid), "paramValue": str(pval)})
|
||||
client.post(f"/instanceOperations/{op_uid}/run") # шаг 4
|
||||
```
|
||||
|
||||
## Эталонный флоу (Terraform-провайдер)
|
||||
|
||||
Файл: `/home/naeel/nubes/autotest/DOCS/terraform-operations-full-logic.md` (скопирован из репы tf_provider)
|
||||
|
||||
```
|
||||
Шаг 1: POST /instances {serviceId, displayName, descr}
|
||||
Шаг 2: POST /instanceOperations {instanceUid, operation:"create"}
|
||||
Шаг 3: GET /instanceOperations/{opUid}?fields=cfsParams ← получить ВСЕ params с defaults
|
||||
Шаг 4: resolveRefSvcParamValues ← резолв refSvcId
|
||||
Шаг 5: POST /instanceOperationCfsParams ← пользовательские params (×N)
|
||||
Шаг 6: POST /instanceOperationCfsParams ← required params с defaultValue, не переданные в шаге 5 (×M) ⬅ НЕТ В AUTOTEST
|
||||
Шаг 7: GET /instanceOperations/{opUid}/validate-cfs
|
||||
Шаг 8: POST /instanceOperations/{opUid}/run {}
|
||||
Шаг 9: поллинг dtFinish
|
||||
```
|
||||
|
||||
## Баг
|
||||
|
||||
PostgreSQL (сервис 90, create opId=19) имеет **8 map-fixed параметров**, все required:
|
||||
- startupConfiguration (id=789)
|
||||
- clusterConfiguration (id=788)
|
||||
- accessConfiguration (id=790)
|
||||
- postgresConfiguration (id=791)
|
||||
- postgresConf (id=792) — array-map-fixed
|
||||
- backupConfiguration (id=793)
|
||||
- autoscaleConfiguration (id=794)
|
||||
- mtlsConfiguration (id=1094)
|
||||
|
||||
Пользователь в UI заполняет первые 3-4. Остальные 4-5 **не отправляются** → Nubes возвращает: «Не передан параметр: serviceInstanceUid».
|
||||
|
||||
Redis (3 параметра), Болванка (все заполняются) — работают.
|
||||
|
||||
## Нужное решение
|
||||
|
||||
Добавить **шаг 6** в CREATE-ветку: после отправки пользовательских `params`, дослать required-параметры с их `defaultValue`, которые не были в пользовательском вводе.
|
||||
|
||||
## Вопросы
|
||||
|
||||
1. **Где брать список required-параметров с defaultValue?**
|
||||
- Вариант А: сделать `GET /instanceOperations/default/{svcOperationId}` (тот же что для /api/params) — там есть все params с `isRequired` и `defaultValue`. Взять те, где `isRequired=True` и `svcOperationCfsParamId` нет в `params.keys()`.
|
||||
- Вариант Б: сделать `GET /instanceOperations/{opUid}?fields=cfsParams` как Terraform (шаг 3) — после создания операции, получить cfsParams от сервера. Но это доп. запрос.
|
||||
- Какой правильнее?
|
||||
|
||||
2. **Как отличить «пользователь заполнил» от «не заполнил»?** Сейчас params приходят из фронтенда как `{"788": "{\"cpu\":\"500\",...}"}`. Если поле не в params.keys() — значит юзер не заполнил. Но что если юзер оставил пустую строку? Достаточно проверки `pid not in params` или нужно проверять значение?
|
||||
|
||||
3. **Нужны ли шаги 3 (GET cfsParams) и 7 (validate)?** Terraform их делает. Без validate-cfs мы пропускаем серверную валидацию до /run. Это критично или нет?
|
||||
|
||||
4. **Не сломает ли это существующие сервисы?** Если добавить досылку required+default для ВСЕХ сервисов — не навредит ли это Redis/Болванке где и так всё работает?
|
||||
@@ -0,0 +1,85 @@
|
||||
# Sonnet 4.6 — Полный анализ: параметризованные операции инстанса + поиск багов
|
||||
|
||||
Дата: 2026-07-30
|
||||
Версия: v1.1.36
|
||||
|
||||
## Контекст
|
||||
|
||||
Flask 3.0 + gunicorn + vanilla JS. Тестирует Nubes REST API.
|
||||
|
||||
PostgreSQL создался успешно. Но при попытке `create_user` — ошибка: параметры не были запрошены у пользователя, отправлен пустой `{}`.
|
||||
|
||||
## 🔴 Проблема 1: runOp() не показывает форму параметров для не-modify операций
|
||||
|
||||
**Файл:** `/home/naeel/nubes/autotest/app-autotest/site/static/app.js`, функция `runOp()`, строка 127:
|
||||
|
||||
```javascript
|
||||
function runOp(opName,opId){
|
||||
if(busy) return;
|
||||
stopPoll();
|
||||
selectedOp={opId,opName,svcId:currentSvcId};
|
||||
if(opName==='modify'){
|
||||
showParams(opId,opName); // ← только modify показывает форму
|
||||
}else{
|
||||
// confirm and execute immediately
|
||||
if(!confirm(`Запустить ${opName} для ${findInstName()}?`)) return;
|
||||
executeOp({}); // ← пустые params → API ругается "Missing required parameter"
|
||||
}
|
||||
}
|
||||
```
|
||||
|
||||
**Проблема:** PostgreSQL имеет много операций с параметрами:
|
||||
- `create_user` — нужен username
|
||||
- `delete_user` — нужен username
|
||||
- `create_database` — нужны параметры БД
|
||||
- `delete_database` — нужны параметры
|
||||
- `restart` — может иметь параметры
|
||||
- `recovery` — параметры восстановления
|
||||
- `create_backup` — параметры бэкапа
|
||||
|
||||
Все они сейчас идут с `executeOp({})` — пустые params.
|
||||
|
||||
**Операции БЕЗ параметров** (можно confirm → execute):
|
||||
- `delete`
|
||||
- `suspend`
|
||||
- `resume`
|
||||
- `redeploy`
|
||||
- `reconcile`
|
||||
|
||||
**Вопрос:** Как универсально определить, нужны ли параметры для операции?
|
||||
- Вариант А: проверять `cfsParams` в `/api/operations/{svcId}` — если есть params → показать форму
|
||||
- Вариант Б: список известных "безпараметровых" операций (delete/suspend/resume/redeploy/reconcile) — для них confirm, для остальных — showParams
|
||||
- Вариант В: всегда показывать форму (showParams сам разберётся если params пустые)
|
||||
|
||||
## 🔴 Проблема 2: refreshInstances() ДОЛЖЕН обновлять список инстансов после create_user и подобных
|
||||
|
||||
После `create_user` инстанс не меняется, но список инстансов всё равно надо обновить (в UI могут быть связанные изменения). Сейчас `refreshInstances()` вызывается только при `sd.status === 'OK'`.
|
||||
|
||||
**Файл:** `/home/naeel/nubes/autotest/app-autotest/site/static/app.js`, executeOp polling (строка ~357):
|
||||
```javascript
|
||||
if(sd.status==='OK'){
|
||||
await refreshInstances(); // только при OK
|
||||
}
|
||||
```
|
||||
|
||||
**Вопрос:** Нужно ли вызывать refreshInstances при любом завершении (OK или FAIL)?
|
||||
|
||||
## Полный аудит всех оставшихся проблем
|
||||
|
||||
Пожалуйста, прочитай ВСЕ файлы и найди ЛЮБЫЕ оставшиеся баги или неустойчивости:
|
||||
|
||||
**Файлы для проверки:**
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/static/app.js` — весь фронтенд
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py` — бэкенд
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/routes/main.py` — главная + /api/operations
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/api/http_client.py` — HTTP-клиент
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/operations/get_params.py` — параметры
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/templates/index.html` — HTML шаблон
|
||||
|
||||
**Что искать:**
|
||||
1. Все места где параметры операций не запрашиваются у пользователя
|
||||
2. Все места где busy lock может застрять
|
||||
3. Необработанные ошибки (пустые catch, пропущенные исключения)
|
||||
4. Несоответствия между JS и бэкендом (разные имена полей, форматы)
|
||||
5. Проблемы с `currentSvcShort` — где объявлена, где используется
|
||||
6. Любые другие баги которые мы пропустили за 35+ версий
|
||||
@@ -0,0 +1,155 @@
|
||||
# ⚠️ LEGACY — НЕАКТУАЛЬНО. Исторический документ.
|
||||
|
||||
# Вопрос к Sonnet — архитектура трекера инстансов + UI кнопок
|
||||
|
||||
Отправлено: 27.07.2026
|
||||
|
||||
---
|
||||
|
||||
Ты — senior архитектор. Разбери проблему в Flask-приложении на Nubes pythonk8s (gunicorn, 1 worker).
|
||||
|
||||
## Контекст
|
||||
|
||||
Приложение app-autotest — веб-интерфейс для автотестов операций облачных сервисов Nubes.
|
||||
Репозиторий: https://gitea.services.ngcloud.ru/forcloud/app-autotest.git
|
||||
Версия: v1.0.47
|
||||
|
||||
## Файлы для изучения
|
||||
|
||||
| Файл | Назначение |
|
||||
|------|-----------|
|
||||
| `site/app.py` | Точка входа Flask, VERSION, blueprints |
|
||||
| `site/routes/api_test.py` | POST /api/test (запуск), GET /api/test/status (поллинг), _finish_op (фоновый поток) |
|
||||
| `site/routes/main.py` | Главная страница, /api/operations/<svcId> (список инстансов из трекера) |
|
||||
| `site/operations/tracker.py` | Запись/чтение /tmp/instances.json (_INITIAL, add, remove, list_all) |
|
||||
| `site/templates/index.html` | UI: executeOp(), showStages(), поллинг, refreshInstances() |
|
||||
| `site/api/http_client.py` | HTTP-клиент (Bearer auth, User-Agent) |
|
||||
|
||||
Полные пути в репозитории:
|
||||
```
|
||||
app-autotest/site/app.py
|
||||
app-autotest/site/routes/api_test.py
|
||||
app-autotest/site/routes/main.py
|
||||
app-autotest/site/operations/tracker.py
|
||||
app-autotest/site/templates/index.html
|
||||
app-autotest/site/api/http_client.py
|
||||
```
|
||||
|
||||
## Поток CREATE (как работает сейчас)
|
||||
|
||||
1. UI: пользователь жмёт «Создать» → showParams(18, 'create') → заполняет форму → executeOp(params)
|
||||
2. UI отправляет POST /api/test `{serviceId:1, operation:"create", svcOperationId:18, displayName, params, instanceUid:""}`
|
||||
3. Бэкенд api_test():
|
||||
- `client.post("/instances", {serviceId, displayName})` → получает instanceUid
|
||||
- `client.post("/instanceOperations", {instanceUid, operation:"create"})` → получает opUid
|
||||
- `client.post("/instanceOperationCfsParams", ...)` — для каждого параметра
|
||||
- `client.post("/instanceOperations/{opUid}/run")` — запуск
|
||||
- `threading.Thread(target=_finish_op, args=(client, opUid, instanceUid, ...), daemon=True).start()`
|
||||
- возвращает `{status:"RUNNING", opUid, instanceUid}`
|
||||
4. UI начинает поллинг: `GET /api/test/status/<opUid>` каждые 2 секунды
|
||||
5. _finish_op (фоновый daemon-поток):
|
||||
- поллит `GET /instanceOperations/{opUid}?fields=dtFinish,isSuccessful,errorLog,isInProgress,duration,stages`
|
||||
- обновляет `_op_results[opUid]` (in-memory dict)
|
||||
- когда `dtFinish != null` и `isSuccessful == true`:
|
||||
- **вызывает tracker_add(instanceUid, svcId, displayName)** ← ПРОБЛЕМА ЗДЕСЬ
|
||||
- устанавливает `_op_results[opUid] = {status:"OK", stages, duration}`
|
||||
- таймаут 300 секунд
|
||||
6. UI при status=="OK": вызывает `selectService(SVC_ID)` → `GET /api/operations/1` → читает tracker → показывает список
|
||||
|
||||
## ПРОБЛЕМА
|
||||
|
||||
Инстанс создаётся в Nubes (виден в UI платформы), НО в списке инстансов приложения НЕ появляется.
|
||||
`tracker_add` не вызывается → `/tmp/instances.json` не обновляется → инстанс не в списке.
|
||||
|
||||
**Происходило 2 раза подряд** (v1.0.46 и v1.0.47). Оба раза инстанс в Nubes есть, в трекере — нет.
|
||||
|
||||
## Моя гипотеза
|
||||
|
||||
tracker_add вызывается внутри daemon-потока _finish_op. В gunicorn:
|
||||
- Воркер может быть перезапущен платформой в любой момент
|
||||
- Daemon-потоки умирают вместе с воркером — молча, без логов
|
||||
- Python не пишет traceback при смерти daemon-потока
|
||||
|
||||
## Текущий код _finish_op (api_test.py, строки 153-195)
|
||||
|
||||
```python
|
||||
def _finish_op(client, op_uid, instance_uid, svc_id, display_name, op_name, svc_op_id, is_create, is_delete=False):
|
||||
"""Фоном ждать dtFinish и сохранить результат."""
|
||||
import time
|
||||
t0 = time.time()
|
||||
deadline = t0 + 300
|
||||
while time.time() < deadline:
|
||||
try:
|
||||
data = client.get(f"/instanceOperations/{op_uid}?fields=dtFinish,isSuccessful,errorLog,isInProgress,duration,stages")
|
||||
except Exception:
|
||||
time.sleep(5)
|
||||
continue
|
||||
op = data.get("instanceOperation", {})
|
||||
dt_finish = op.get("dtFinish")
|
||||
_op_results[op_uid] = {
|
||||
"status": "RUNNING",
|
||||
"stages": op.get("stages", []),
|
||||
"duration": round(time.time() - t0, 1),
|
||||
}
|
||||
if dt_finish and str(dt_finish).strip():
|
||||
is_ok = op.get("isSuccessful")
|
||||
err = op.get("errorLog") or ""
|
||||
# Сначала трекер — чтобы UI при poll уже видел инстанс
|
||||
if is_ok:
|
||||
if is_create:
|
||||
tracker_add(instance_uid, svc_id, display_name)
|
||||
elif is_delete:
|
||||
tracker_remove(instance_uid)
|
||||
_op_results[op_uid] = {
|
||||
"status": "OK" if is_ok else "FAIL",
|
||||
"error": str(err) if err else "",
|
||||
"stages": op.get("stages", []),
|
||||
"duration": round(time.time() - t0, 1),
|
||||
}
|
||||
return
|
||||
time.sleep(5)
|
||||
_op_results[op_uid] = {"status": "TIMEOUT", "duration": round(time.time() - t0, 1)}
|
||||
```
|
||||
|
||||
## Вопросы
|
||||
|
||||
### 1. Где вызывать tracker_add?
|
||||
|
||||
Вариант А: синхронно в api_test(), сразу после получения instanceUid от API (шаг 3), до запуска потока.
|
||||
- Плюс: гарантированная запись, инстанс в трекере мгновенно
|
||||
- Минус: если операция потом упадёт — в трекере «мусорный» инстанс (но это лучше чем отсутствие)
|
||||
|
||||
Вариант Б: subprocess.Popen вместо threading.Thread.
|
||||
- Плюс: процесс живёт независимо от gunicorn worker
|
||||
- Минус: сложнее, нужен IPC для _op_results
|
||||
|
||||
Вариант В: sqlite3 с WAL-режимом.
|
||||
- Плюс: атомарная запись, конкурентный доступ
|
||||
- Минус: без persistent volume данные теряются при редеплое (как и /tmp/)
|
||||
|
||||
### 2. Что делать с _op_results?
|
||||
|
||||
Сейчас это module-level dict. При нескольких gunicorn workers — каждый worker имеет свой dict. Нужен ли переход на sqlite/file-based storage для _op_results?
|
||||
|
||||
### 3. Надёжность под gunicorn
|
||||
|
||||
Как правильно организовать фоновую работу под gunicorn на pythonk8s (1 worker, нет PV, нет Redis/RabbitMQ)?
|
||||
|
||||
## Дополнительно: UI кнопок
|
||||
|
||||
Нужен CSS чтобы кнопки операций шли горизонтально в 1-2 ряда, как в Nubes UI:
|
||||
|
||||
```
|
||||
delete | modify | suspend | resume | redeploy | reconcile
|
||||
```
|
||||
|
||||
Сейчас они в vertical списке внутри `div.inst-ops`. Предложи стиль.
|
||||
|
||||
## Ограничения платформы
|
||||
|
||||
- `site/` — НЕ пакет (без __init__.py, конфликт с stdlib site.py)
|
||||
- Импорты без префикса site.: `from api.http_client import ...`
|
||||
- `app.run(host="0.0.0.0", port=5000)` — обязательно
|
||||
- Gunicorn запускается платформой, предположительно 1 worker
|
||||
- Нет persistent volume — данные в /tmp/ теряются при редеплое
|
||||
- Деплой: git push → managed service подхватывает → редеплой
|
||||
@@ -0,0 +1,19 @@
|
||||
# Sonnet 4.6 — Финальный аудит
|
||||
|
||||
Дата: 2026-07-30
|
||||
|
||||
## 5 багов в app.js
|
||||
|
||||
| # | Баг | Строка |
|
||||
|---|-----|--------|
|
||||
| 🔴1 | `d.operations.filter` без null-guard | toggleInstance |
|
||||
| 🔴2 | toggleInstance без try/catch | toggleInstance |
|
||||
| 🔴3 | selectService без try/catch | selectService |
|
||||
| 🔴4 | refreshInstances без try/catch | refreshInstances |
|
||||
| 🟡5 | CMDB OK + refreshInstances → ошибка перезаписывает успех | executeOp |
|
||||
|
||||
## redeploy без _send_params_terraform
|
||||
Намеренно — redeploy переиспользует текущие params из state.
|
||||
|
||||
## Бэкенд чист
|
||||
api_test.py, main.py, get_params.py, http_client.py — багов нет.
|
||||
@@ -0,0 +1,30 @@
|
||||
# Sonnet 4.6 — Параметры операций + аудит багов
|
||||
|
||||
Дата: 2026-07-30
|
||||
|
||||
## 🔴 Баг 1: runOp() — форма только для modify
|
||||
app.js:127 — все кроме modify идут с executeOp({}). create_user, delete_user и др. получают пустые params.
|
||||
|
||||
**Решение (Вариант C):** Всегда showParams. Если params пустые — показать заголовок + кнопку без полей.
|
||||
|
||||
## 🔴 Баг 2: CMDB-delete не чистит трекер
|
||||
api_test.py — после успешного CMDB инстанс в трекере → показывается как "creating" вечно.
|
||||
|
||||
## 🟠 Баг 3: Сетевая ошибка в поллинге → busy навсегда
|
||||
app.js — fetch в setInterval без try/catch → silent reject → busy stuck.
|
||||
|
||||
## 🟡 Баг 4: refreshInstances только при OK
|
||||
app.js:357 — после FAIL список не обновляется.
|
||||
|
||||
## 🟢 Баг 5: currentSvcId=1 хардкод
|
||||
Первый сервис ≠ 1 → рассинхрон UI и данных.
|
||||
|
||||
## 🟢 Баг 6: detect_endpoint ×3-4 на запрос
|
||||
auth.py — кэшировать через flask.g.
|
||||
|
||||
## Приоритет
|
||||
1. Баг 2 — 1 строка
|
||||
2. Баг 1 — основная задача (форма для всех операций)
|
||||
3. Баг 3 — busy stuck
|
||||
4. Баг 4 — одна строка
|
||||
5. Баги 5-6 — отдельно
|
||||
@@ -0,0 +1,39 @@
|
||||
# Sonnet 4.6 — Round 2 Response
|
||||
|
||||
Дата: 2026-07-29
|
||||
|
||||
## Ответы
|
||||
|
||||
### 1. Фильтр serviceId ✅
|
||||
Добавить `if i.get("serviceId") != svc_id: continue` — безопасно.
|
||||
Tracker-fallback уже отфильтрован по svc_id, не сломается.
|
||||
Даже улучшит дедупликацию cloud_names.
|
||||
|
||||
### 2. Генерация 3 символов
|
||||
Надёжнее: `(Math.random() * 46656 | 0).toString(36).padStart(3, '0')`
|
||||
Ровно 3 символа, равномерно по 46 656 комбинациям.
|
||||
|
||||
### 3. descr
|
||||
Не нужно тащить через JS! `app_version` уже есть в той же функции.
|
||||
Одна строка: `"descr": f"created by autotest v{app_version}"`
|
||||
|
||||
### 4. Пропущенный баг: stand-ключ трекера
|
||||
main.py → `stand_name(endpoint)`
|
||||
api_test.py → `get_stand()`
|
||||
Могут разойтись → tracker_add и tracker_list под разными ключами → creating инстансы не видны.
|
||||
|
||||
### 5. Дубликат эндпоинта
|
||||
Удалить `/api/operations/{svc_id}` из api_test.py (строки 108-148).
|
||||
Недостижим, старый код, техдолг.
|
||||
|
||||
## Итоговый план исправлений
|
||||
|
||||
| # | Файл | Что |
|
||||
|---|------|-----|
|
||||
| 1 | main.py:194 | `if i.get("serviceId") != svc_id: continue` |
|
||||
| 2 | main.py:227 | `"svcShort": detail.get("svcShort", "")` |
|
||||
| 3 | app.js:53 | `currentSvcShort = d.svcShort\|\|''` |
|
||||
| 4 | app.js:113-116 | Переписать `makeCreateDisplayName()` |
|
||||
| 5 | api_test.py:212 | `f"created by autotest v{app_version}"` |
|
||||
| 6 | api_test.py:108-148 | Удалить дубликат эндпоинта |
|
||||
| 7 | main.py + api_test.py | Унифицировать stand |
|
||||
@@ -0,0 +1,26 @@
|
||||
# Sonnet 4.6 — Root Cause: serviceInstanceUid
|
||||
|
||||
Дата: 2026-07-29
|
||||
|
||||
## Найдена корневая причина
|
||||
|
||||
**Разница в источнике данных для шага 6 (required+default params):**
|
||||
|
||||
| | Terraform | Autotest |
|
||||
|---|---|---|
|
||||
| Источник | `GET /instanceOperations/{opUid}?fields=cfsParams` — **реальная операция** | `GET /instanceOperations/default/{svc_op_id}` — **шаблон** |
|
||||
| Данные | `paramValue` (автоматически заполнен Nubes) + `defaultValue` | Только `defaultValue` |
|
||||
|
||||
`serviceInstanceUid` — параметр, который Nubes **автоматически добавляет** в реальную операцию (шаг 3 Terraform). В шаблоне его НЕТ. Поэтому наш код его не видит → не отправляет → validate-cfs падает.
|
||||
|
||||
## Исправление
|
||||
|
||||
В `api_test.py` CREATE-ветка (строка ~210): заменить
|
||||
```python
|
||||
tmpl = client.get(f"/instanceOperations/default/{svc_op_id}")
|
||||
```
|
||||
на
|
||||
```python
|
||||
op_details = client.get(f"/instanceOperations/{op_uid}?fields=cfsParams")
|
||||
```
|
||||
И брать `paramValue` первым, `defaultValue` как fallback — как Terraform.
|
||||
@@ -0,0 +1,18 @@
|
||||
# Sonnet 4.6 — state.out valueList fix
|
||||
|
||||
Дата: 2026-07-30
|
||||
|
||||
## Ответ
|
||||
|
||||
### Решение верное, но с ошибкой
|
||||
- `"user" in code` → `state_out["users"]` ✅
|
||||
- `"owner" in code` → `state_out["users"]` ✅ (НЕ databases!)
|
||||
- `"db" in code` → `state_out["databases"]` ✅
|
||||
|
||||
### Попутный баг
|
||||
MERGED-путь (get_params.py) не нормализует `valueList` через `_normalize_value_list`. DEFAULT-путь (api_test.py) — нормализует.
|
||||
|
||||
## План (2 изменения в get_params.py)
|
||||
|
||||
1. Читать `state_out`, заполнять пустые `valueList`: user/owner→users, db→databases
|
||||
2. Нормализовать `value_list` через `_normalize_value_list()`
|
||||
@@ -0,0 +1,42 @@
|
||||
# Sonnet 4.6 — Code Review v1.1.11
|
||||
|
||||
Дата: 2026-07-29
|
||||
Модель: Claude Sonnet 4.6
|
||||
|
||||
## Ответ
|
||||
|
||||
### 🔴 Критично: NameError в api_test.py
|
||||
|
||||
Строки 159, 178, 180 вызывают:
|
||||
- `get_params_with_current_values(...)`
|
||||
- `_normalize_value_list(...)`
|
||||
|
||||
Оба символа определены в `operations/get_params.py`, но **не импортированы** в `routes/api_test.py`.
|
||||
|
||||
Цепочка падения:
|
||||
1. `startCreate()` → `fetch('/api/params/{opId}')`
|
||||
2. Сервер: `_normalize_value_list(p.get("valueList"))` → `NameError`
|
||||
3. `except` → `{"error": "name '_normalize_value_list' is not defined"}`, HTTP 500
|
||||
4. JS: `data.params` = undefined → fallback к `data` = `{"error": "..."}`
|
||||
5. `params.map(...)` → `TypeError: params.map is not a function`
|
||||
6. Нет `.catch()` → промис падает молча
|
||||
|
||||
Также сломаны MODIFY-запросы (строка 159 — `get_params_with_current_values`).
|
||||
|
||||
**Фикс:** одна строка импорта.
|
||||
|
||||
### 🟡 Вторичные баги в JS
|
||||
|
||||
1. `showParams()` — нет `.catch()` на fetch-цепочке → ошибки скрыты
|
||||
2. `data.params||data` без `Array.isArray()` → TypeError при ошибке API
|
||||
|
||||
### ⚪ Косметика
|
||||
|
||||
`create-btn-area` после `params-area` в DOM — неудобно, но не ломает.
|
||||
|
||||
## Действия
|
||||
|
||||
- [x] Добавить импорт в api_test.py
|
||||
- [x] Исправить клиентский код
|
||||
- [x] Добавить `.catch()` в showParams
|
||||
- [x] Проверить Array.isArray перед .map()
|
||||
@@ -0,0 +1,66 @@
|
||||
# Sonnet 4.6 — Round 2: оставшиеся баги и план исправлений
|
||||
|
||||
Дата: 2026-07-29
|
||||
Контекст: v1.1.12 уже починил NameError и JS error handling. Сейчас v1.1.13 (мелкие UI-фиксы).
|
||||
|
||||
## Баги к исправлению
|
||||
|
||||
### 🔴 Баг 1: Инстансы всех сервисов показываются под любым выбранным
|
||||
|
||||
**Файл:** `/home/naeel/nubes/autotest/app-autotest/site/routes/main.py`, строка 193-194, функция `api_operations(svc_id)`
|
||||
|
||||
```python
|
||||
for i in instances:
|
||||
display_name = str(i.get("displayName", "") or "")
|
||||
if not display_name.startswith(AUTOTEST_PREFIX):
|
||||
continue # не наш инстанс
|
||||
# ← НЕТ проверки i.get("serviceId") != svc_id
|
||||
```
|
||||
|
||||
Фильтр только по префиксу `autotest-`, без проверки что `instance.serviceId == svc_id`.
|
||||
Результат: под сервисом «Container Registry» показываются S3 бакеты, под «Redis» — Flask инстансы.
|
||||
|
||||
**Предлагаемый фикс:** добавить `if i.get("serviceId") != svc_id: continue`
|
||||
|
||||
### 🟡 Задача 2: displayName → autotest-<svcShort>-<3rand>
|
||||
|
||||
Сейчас: `autotest-ms4gzydq` (timestamp base36)
|
||||
Нужно: `autotest-redis-x7k`
|
||||
|
||||
**Данные:** API `/services/{id}` возвращает `svcShort=redis`
|
||||
|
||||
**План:**
|
||||
1. `/home/naeel/nubes/autotest/app-autotest/site/routes/main.py` `/api/operations/{svc_id}` — добавить `svcShort` в JSON-ответ
|
||||
2. `/home/naeel/nubes/autotest/app-autotest/site/static/app.js` `selectService()` — сохранить `currentSvcShort = d.svcShort`
|
||||
3. `/home/naeel/nubes/autotest/app-autotest/site/static/app.js` `makeCreateDisplayName()` — `autotest-${currentSvcShort}-${3rand}`
|
||||
4. Коллизии обрабатываются в `_unique_display_name()` на бэкенде
|
||||
|
||||
### 🟡 Задача 3: description (descr) при создании
|
||||
|
||||
HAR-файл (`development/dummycreate.har`) показывает что Nubes API принимает `descr`:
|
||||
```json
|
||||
POST /instances
|
||||
{"serviceId":1, "displayName":"dummy-11255555", "descr":""}
|
||||
```
|
||||
|
||||
В autotest `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py` строка 212 уже шлёт `"descr": ""` — пустое. Нужно заполнить:
|
||||
```
|
||||
"descr": "created by autotest v1.1.13"
|
||||
```
|
||||
|
||||
**План:**
|
||||
1. `/home/naeel/nubes/autotest/app-autotest/site/static/app.js` `executeOp()` — передать `descr` в тело запроса
|
||||
2. `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py` `/api/test` — принять `descr` из JSON, подставить в payload
|
||||
|
||||
## Вопросы к Sonnet
|
||||
|
||||
1. Верен ли план для бага 1? Не сломает ли фильтр по serviceId tracker-fallback логику?
|
||||
2. Для задачи 2: как лучше генерировать 3 случайных символа? `Math.random().toString(36).slice(2,5)`? Не будет ли коллизий?
|
||||
3. Для задачи 3: `descr` уже есть в payload. Достаточно ли просто подставить строку, или нужно что-то ещё?
|
||||
4. Есть ли ещё какие-то баги, которые мы упустили?
|
||||
5. `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py` содержит ДУБЛИКАТ эндпоинта `/api/operations/{svc_id}` (строка 108-148), который никогда не вызывается из-за порядка регистрации blueprint'ов. Удалить ли его, или он нужен для чего-то?
|
||||
|
||||
**Файлы для проверки (только эти):**
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/routes/main.py` (строки 155-230)
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py` (строки 108-148, 195-280)
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/static/app.js` (строки 85-130, 240-270)
|
||||
@@ -0,0 +1,39 @@
|
||||
# Sonnet 4.6 — Round 3: missing required params in CREATE
|
||||
|
||||
Дата: 2026-07-29
|
||||
Версия: v1.1.18
|
||||
|
||||
## Проблема
|
||||
PostgreSQL create падает с ошибкой Nubes: «Не передан параметр: serviceInstanceUid».
|
||||
Redis работает, Болванка работает, PG — нет.
|
||||
|
||||
## Что нашли
|
||||
Terraform-провайдер делает дополнительный шаг после отправки пользовательских параметров:
|
||||
отправляет ВСЕ required-параметры с их defaultValue, даже если юзер их не заполнял.
|
||||
|
||||
Наш код (api_test.py /api/test, CREATE-ветка, примерно строка 230):
|
||||
```python
|
||||
for pid, pval in params.items():
|
||||
client.post("/instanceOperationCfsParams",
|
||||
{"instanceOperationUid": op_uid, "svcOperationCfsParamId": int(pid), "paramValue": str(pval)})
|
||||
```
|
||||
Шлёт ТОЛЬКО то, что пользователь заполнил в форме.
|
||||
|
||||
## PG имеет 8 map-fixed параметров, все required:
|
||||
- startupConfiguration (id=789)
|
||||
- clusterConfiguration (id=788)
|
||||
- accessConfiguration (id=790)
|
||||
- postgresConfiguration (id=791)
|
||||
- postgresConf (id=792) — array-map-fixed
|
||||
- backupConfiguration (id=793)
|
||||
- autoscaleConfiguration (id=794)
|
||||
- mtlsConfiguration (id=1094)
|
||||
|
||||
Если пользователь заполнил только первые 3 — остальные 5 НЕ отправляются → Nubes ругается.
|
||||
|
||||
## Вопросы
|
||||
1. Как лучше реализовать досылку required-параметров с defaultValue?
|
||||
- Вариант А: до отправки params сделать GET /instanceOperations/default/{svcOpId}, взять все required с их defaultValue, смержить с пользовательскими
|
||||
- Вариант Б: после отправки пользовательских params, дослать оставшиеся required с defaultValue
|
||||
2. Terraform делает GET /instanceOperations/{opUid}?fields=cfsParams ПОСЛЕ создания операции. Нужно ли нам тоже?
|
||||
3. Не сломает ли это существующие сервисы (Redis, Болванка) где параметров мало и все заполняются?
|
||||
@@ -0,0 +1,36 @@
|
||||
# Sonnet Code Review — app-autotest v1.1.11
|
||||
|
||||
## Контекст
|
||||
Flask 3.0 + gunicorn (multi-worker) + vanilla JS фронтенд. Тестирует Nubes API (создание/удаление инстансов).
|
||||
|
||||
## Файлы для проверки (только эти, не надо лазить по всей репе)
|
||||
|
||||
1. **Фронтенд (основной баг!)**
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/static/app.js` — ВСЁ
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/templates/index.html` — структура DOM
|
||||
|
||||
2. **Бэкенд**
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py` — эндпоинты /api/params, /api/test
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/routes/main.py` — эндпоинт /api/operations/<svc_id>
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/operations/get_params.py` — _normalize_value_list
|
||||
|
||||
3. **API-документация (для понимания что отдаёт Nubes)**
|
||||
- `/home/naeel/nubes/autotest/DOCS/api-access.md`
|
||||
- `/home/naeel/nubes/autotest/DOCS/api-create-flow.md`
|
||||
|
||||
## Конкретный баг
|
||||
Кнопка "+ Создать новый инстанс" (функция `startCreate()` в app.js) не работает:
|
||||
- При клике — `params-area` открывается пустой (display:block)
|
||||
- Загрузка параметров молча не происходит
|
||||
- Кнопка остаётся на месте, юзер думает что ничего не случилось
|
||||
|
||||
## Что нужно от Sonnet
|
||||
1. Найти КОНКРЕТНУЮ причину почему `showParams` не рендерит форму. Проверить ВСЕ пути выполнения:
|
||||
- `startCreate()` → fetch /api/operations/{svcId} → find create op → showParams(opId,'create')
|
||||
- `showParams()` → fetch /api/params/{opId} → рендер createHeader + form
|
||||
2. Нет ли race condition: `currentSvcName` может быть не установлен?
|
||||
3. Нет ли ошибки в `params.map()` если API возвращает ошибку вместо массива?
|
||||
4. `create-btn-area` сейчас ПОСЛЕ `params-area` в DOM — это нормально?
|
||||
|
||||
## Версия для справки
|
||||
v1.1.11 — сегодняшние изменения: нормализация valueList CSV→array для вложенных dataDescriptor параметров.
|
||||
@@ -0,0 +1,85 @@
|
||||
# Sonnet 4.6 — valueList из state.out для внутренних операций инстанса
|
||||
|
||||
Дата: 2026-07-30
|
||||
Версия: v1.1.38
|
||||
|
||||
## Проблема
|
||||
|
||||
PostgreSQL создан. `create_user` отработал успешно (HTTP 201). Но при вызове `delete_user` — поле `username` показывает пустой выпадающий список (`valueList=[]`). Созданный юзер `uuu8` не виден.
|
||||
|
||||
## Что нашли
|
||||
|
||||
**GET /instances/{uid}** возвращает `state.out` с актуальными данными:
|
||||
|
||||
```json
|
||||
"state": {
|
||||
"out": {
|
||||
"users": {"uuu8": {"username": "uuu8", "role": "ddl_user", "rights": ["createdb", "createrole"]}},
|
||||
"databases": {},
|
||||
"backups": [],
|
||||
...
|
||||
}
|
||||
}
|
||||
```
|
||||
|
||||
**Шаблон** (`/instanceOperations/default/244` — delete_user) возвращает `valueList=[]`.
|
||||
|
||||
**Текущий код** — файл `/home/naeel/nubes/autotest/app-autotest/site/operations/get_params.py`
|
||||
|
||||
```python
|
||||
def get_params_with_current_values(client, op_id, instance_uid):
|
||||
inst_data = client.get(f"/instances/{instance_uid}")
|
||||
state_params = inst_data.get("instance", {}).get("state", {}).get("params", {}) or {}
|
||||
|
||||
tmpl_data = client.get(f"/instanceOperations/default/{op_id}")
|
||||
tmpl_params = tmpl_data.get("svcOperation", {}).get("cfsParams", []) or []
|
||||
|
||||
for p in tmpl_params:
|
||||
...
|
||||
result.append({
|
||||
...
|
||||
"valueList": value_list, # ← из шаблона, всегда []
|
||||
})
|
||||
```
|
||||
|
||||
Читает `state.params` (конфигурация кластера), но НЕ читает `state.out` (пользователи, базы).
|
||||
|
||||
## Предлагаемое решение
|
||||
|
||||
После получения `inst_data`, извлечь `state.out`:
|
||||
|
||||
```python
|
||||
state_out = inst_data.get("instance", {}).get("state", {}).get("out", {}) or {}
|
||||
```
|
||||
|
||||
В цикле слияния, если `valueList` пустой — попробовать заполнить из `state.out`:
|
||||
|
||||
```python
|
||||
value_list = p.get("valueList")
|
||||
# Заполнить пустые valueList из state.out
|
||||
if value_list is not None and not value_list:
|
||||
code = p.get("svcOperationCfsParam", "").lower()
|
||||
if "user" in code and isinstance(state_out.get("users"), dict):
|
||||
value_list = sorted(state_out["users"].keys())
|
||||
elif ("db" in code or "owner" in code) and isinstance(state_out.get("databases"), dict):
|
||||
value_list = sorted(state_out["databases"].keys())
|
||||
```
|
||||
|
||||
## Вопросы
|
||||
|
||||
1. **Правильный ли подход?** Смотреть в `state.out.users` / `state.out.databases` для заполнения пустых valueList? Или есть другой источник?
|
||||
|
||||
2. **Какие ещё поля из state.out могут понадобиться?** Для других сервисов (MongoDB, Redis, Kafka) — есть ли там аналогичные подресурсы?
|
||||
|
||||
3. **Универсальность:** Достаточно ли проверки по имени параметра (`"user" in code`, `"db" in code`)? Или нужен более общий механизм (например, проверять все ключи state.out и матчить по имени)?
|
||||
|
||||
4. **Кеширование:** `get_params_with_current_values` вызывается при каждом открытии формы. GET /instances/{uid} — дорогой запрос. Стоит ли кешировать state.out?
|
||||
|
||||
5. **Есть ли другие баги** в этой же области, которые мы упустили?
|
||||
|
||||
## Файлы для анализа
|
||||
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/operations/get_params.py` — основной файл
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py` — api_params (строка 120-155)
|
||||
- `/home/naeel/nubes/autotest/app-autotest/site/static/app.js` — showParams (строка 145-260)
|
||||
- Пример API-ответа: `curl -H "Authorization: Bearer $TOKEN" /instances/0a42bef3-7ce1-42b7-aa80-4274c4d9568f`
|
||||
@@ -0,0 +1,76 @@
|
||||
# Sonnet 4.6 — СВЕРКА С ТЕРРАФОРМОМ: почему autotest не работает а Terraform работает
|
||||
|
||||
## СУТЬ ПРОБЛЕМЫ
|
||||
|
||||
Terraform-провайдер создаёт PostgreSQL БЕЗ ошибок. Autotest (наш код) — падает с «Не передан параметр: serviceInstanceUid». Мы скопировали «похожую» логику, но где-то расхождение. Нужно найти ВСЕ расхождения, пошагово.
|
||||
|
||||
## ЭТАЛОН — Terraform CREATE flow
|
||||
|
||||
Файл: /home/naeel/nubes/autotest/DOCS/terraform-operations-full-logic.md (читай ВЕСЬ, особенно строки 30-90)
|
||||
|
||||
```
|
||||
Шаг 1: POST /instances {serviceId, displayName, descr}
|
||||
Шаг 2: POST /instanceOperations {instanceUid, operation:"create"}
|
||||
Шаг 3: GET /instanceOperations/{opUid}?fields=cfsParams ← получить ВСЕ params с defaults
|
||||
Шаг 4: resolveRefSvcParamValues ← резолв refSvcId параметров
|
||||
Шаг 5: POST /instanceOperationCfsParams ← пользовательские params (×N)
|
||||
Шаг 6: POST /instanceOperationCfsParams ← required params с defaultValue, НЕ переданные в шаге 5 (×M)
|
||||
Шаг 7: GET /instanceOperations/{opUid}/validate-cfs
|
||||
Шаг 8: POST /instanceOperations/{opUid}/run {}
|
||||
Шаг 9: поллинг dtFinish
|
||||
```
|
||||
|
||||
## НАШ КОД — CREATE flow
|
||||
|
||||
Файл: /home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py, функция api_test(), строки 170-245
|
||||
|
||||
Прочитай ВЕСЬ файл, особенно:
|
||||
- Строки 170-195 — создание instance + operation
|
||||
- Строки 207-245 — отправка params + досылка required+default + validate + run
|
||||
|
||||
## HAR-файл — реальные API-вызовы Terraform
|
||||
|
||||
Файл: /home/naeel/nubes/autotest/development/dummycreate.har
|
||||
Это HAR с реальными запросами Terraform при создании Болванки (сервис 1).
|
||||
Найди ВСЕ POST /instanceOperationCfsParams — посмотри КАКИЕ именно params отправляются, в КАКОМ порядке, с КАКИМИ svcOperationCfsParamId.
|
||||
|
||||
## PostgreSQL YAML — структура параметров
|
||||
|
||||
Файл: /home/naeel/nubes/autotest/STANDS/dev/resources_yaml/90_postgres.yaml
|
||||
Читай строки с operations.create.params — там 8 map-fixed параметров с sub_params.
|
||||
|
||||
Также проверь через API что реально возвращается:
|
||||
```
|
||||
curl -H "Authorization: Bearer <TOKEN>" /instanceOperations/default/19
|
||||
```
|
||||
(create opId для PostgreSQL = 19)
|
||||
|
||||
## ЧТО НУЖНО НАЙТИ
|
||||
|
||||
1. **ШАГ 3 Terraform vs наш код**: Terraform делает GET /instanceOperations/{opUid}?fields=cfsParams ПОСЛЕ создания операции чтобы получить параметры С РЕЗОЛВОМ refSvcId. Мы берём из /instanceOperations/default/{svc_op_id} (шаблон). В чём разница? Может ли шаблон не содержать нужных значений которые появляются только в реальной операции?
|
||||
|
||||
2. **ШАГ 4 Terraform vs наш код**: resolveRefSvcParamValues — что это делает? Как Terraform резолвит refSvcId (например backupConfiguration.s3Uid ссылается на serviceId=12)? Есть ли у нас такой резолв?
|
||||
|
||||
3. **ШАГ 6 Terraform vs наш код**: Terraform досылает required+default. Мы тоже (v1.1.19). НО: Terraform берёт defaults из cfsParams РЕАЛЬНОЙ операции (шаг 3), а не из шаблона. Может ли быть расхождение?
|
||||
|
||||
4. **ПОРЯДОК отправки params**: В HAR, в каком порядке идут POST /instanceOperationCfsParams? Важен ли порядок?
|
||||
|
||||
5. **serviceInstanceUid**: Этого параметра НЕТ ни в YAML, ни в шаблоне API. Откуда он берётся? Может это внутренний параметр Nubes который появляется при резолве refSvcId?
|
||||
|
||||
6. **ПРОВЕРЬ ВЕСЬ НАШ КОД** на предмет любых других расхождений с Terraform flow. Не только CREATE — MODIFY, DELETE, SUSPEND, RESUME тоже.
|
||||
|
||||
## ИСХОДНИКИ TERRAFORM-ПРОВАЙДЕРА (читать только эти файлы!)
|
||||
|
||||
Это Go-код Terraform-провайдера Nubes. В нём ЭТАЛОННАЯ логика которая РАБОТАЕТ.
|
||||
|
||||
- /home/naeel/tf_provider/provider/internal/core/client.go — **главный**: HTTP-клиент, CreateGenericInstanceUniversalV6 (весь CREATE flow), RunInstanceOperationUniversal (MODIFY/DELETE/SUSPEND), doRequest (retry, заголовки)
|
||||
- /home/naeel/tf_provider/provider/internal/core/refsvc_resolve.go — **resolveRefSvcParamValues**: как резолвятся refSvcId (s3Uid → UUID S3-инстанса)
|
||||
- /home/naeel/tf_provider/provider/internal/core/instance_params.go — обработка параметров
|
||||
|
||||
## Файлы autotest (наш код — сравнивать с Terraform)
|
||||
|
||||
- /home/naeel/nubes/autotest/app-autotest/site/routes/api_test.py — ВЕСЬ: /api/test, /api/params, _finish_op
|
||||
- /home/naeel/nubes/autotest/app-autotest/site/operations/get_params.py — get_params_with_current_values, _normalize_value_list
|
||||
- /home/naeel/nubes/autotest/DOCS/terraform-operations-full-logic.md — эталонный flow (уже скопирован из client.go)
|
||||
- /home/naeel/nubes/autotest/development/dummycreate.har — реальные запросы Terraform
|
||||
- /home/naeel/nubes/autotest/STANDS/dev/resources_yaml/90_postgres.yaml — PG параметры
|
||||
@@ -0,0 +1,133 @@
|
||||
# ⚠️ LEGACY — НЕАКТУАЛЬНО. Исторический документ.
|
||||
|
||||
# Пошаговый аудит кода — 27.07.2026 (v1.0.50)
|
||||
|
||||
## Методология
|
||||
|
||||
Полная трассировка CREATE-потока: UI → api_test() → _finish_op() → api_test_status() → refreshInstances() → api_operations(). Каждый if, try, except, присваивание.
|
||||
|
||||
---
|
||||
|
||||
## Результат: найдено 3 бага
|
||||
|
||||
### 🔴 Баг #1 (КРИТИЧЕСКИЙ): Multi-worker gunicorn — in-memory dict не работает
|
||||
|
||||
**Файл:** `site/operations/tracker.py`
|
||||
|
||||
```python
|
||||
_data = {
|
||||
"408b7f96-...": {...}, # 4 initial items
|
||||
}
|
||||
|
||||
def add(instance_uid, svc_id, display_name):
|
||||
with _LOCK:
|
||||
_data[instance_uid] = {...}
|
||||
```
|
||||
|
||||
`_data` — module-level dict. У каждого gunicorn worker своя копия модуля → свой `_data`.
|
||||
|
||||
**Трассировка:**
|
||||
1. POST /api/test → попадает на **воркер A**
|
||||
2. `tracker_add(...)` → `_data` воркера A = 5 элементов ✅
|
||||
3. GET /api/operations/1 → попадает на **воркер B**
|
||||
4. `tracker_list()` → `_data` воркера B = 4 элемента ❌
|
||||
|
||||
**Почему это объясняет ВСЕ симптомы:**
|
||||
- После F5 — рандомный воркер → опять 4
|
||||
- v1.0.46-1.0.49 — ни одно решение не помогало (in-memory принципиально не跨-process)
|
||||
- Инстанс в Nubes есть, в трекере нет — разные воркеры
|
||||
|
||||
**Решение:** вернуть файловый трекер (`/tmp/instances.json`) с межпроцессной блокировкой (`fcntl.flock` вместо `threading.Lock`).
|
||||
|
||||
---
|
||||
|
||||
### 🔴 Баг #2 (КРИТИЧЕСКИЙ): _finish_op() умирает молча на не-словаре
|
||||
|
||||
**Файл:** `site/routes/api_test.py`, строки 176-179
|
||||
|
||||
```python
|
||||
def _finish_op(...):
|
||||
while time.time() < deadline:
|
||||
try:
|
||||
data = client.get(...) # ← except ловит ТОЛЬКО это
|
||||
except Exception:
|
||||
time.sleep(5)
|
||||
continue
|
||||
op = data.get("instanceOperation", {}) # ← если data не dict → AttributeError!
|
||||
```
|
||||
|
||||
Если Nubes API возвращает `list`, `str`, `None` или любой не-словарь — `data.get()` → **AttributeError**. Этот except НЕ покрывает строку 179. Поток умирает молча. Python daemon-потоки не пишут traceback.
|
||||
|
||||
**Решение:** обернуть ВСЁ тело цикла (строки 166-195) в `try/except Exception: print(traceback)`.
|
||||
|
||||
---
|
||||
|
||||
### 🟡 Баг #3 (НЕКРИТИЧНЫЙ): _op_results — та же multi-worker проблема
|
||||
|
||||
**Файл:** `site/routes/api_test.py`, строка 152
|
||||
|
||||
```python
|
||||
_op_results = {} # module-level
|
||||
|
||||
# В _finish_op (воркер A):
|
||||
_op_results[op_uid] = {"status": "OK", ...}
|
||||
|
||||
# В api_test_status (воркер B):
|
||||
if op_uid in _op_results: # ← False! (другой воркер)
|
||||
return jsonify(_op_results[op_uid])
|
||||
# fallback → прямой запрос в Nubes API
|
||||
```
|
||||
|
||||
**Некритично** потому что есть fallback: если `_op_results` не содержит op_uid, `api_test_status()` делает прямой GET в Nubes API и возвращает статус. UI получает stages напрямую из Nubes, не из `_op_results`.
|
||||
|
||||
**НО:** fallback не обновляет `tracker_remove` для delete. При multi-worker delete не удалит инстанс из трекера.
|
||||
|
||||
---
|
||||
|
||||
## Полная трассировка CREATE (все шаги)
|
||||
|
||||
| Шаг | Код | Результат | Статус |
|
||||
|-----|-----|-----------|--------|
|
||||
| 1 | `data = request.get_json()` | `svc_id=1, op_name="create", display_name="autotest-1-xxx"` | ✅ |
|
||||
| 2 | `client.post("/instances", ...)` | `instance_uid = "f192b10d-..."` | ✅ |
|
||||
| 3 | `client.post("/instanceOperations", ...)` | `op_uid = "d489348e-..."` | ✅ |
|
||||
| 4 | `for pid,pval: client.post("/instanceOperationCfsParams", ...)` | Параметры установлены | ✅ |
|
||||
| 5 | `client.post("/instanceOperations/{op_uid}/run")` | Операция запущена | ✅ |
|
||||
| 6 | `tracker_add(instance_uid, svc_id, display_name)` | `_data[uid] = {...}` (in-memory) | ✅ |
|
||||
| 7 | `threading.Thread(target=_finish_op, ...)` | Поток запущен | ✅ |
|
||||
| 8 | `return {status:"RUNNING", opUid, instanceUid}` | Ответ UI | ✅ |
|
||||
| 9 | UI poll `/api/test/status/<opUid>` | `_op_results[opUid]` или fallback API | ⚠️ разн. воркеры |
|
||||
| 10 | `_finish_op` детектит `dtFinish` | `_op_results[opUid] = {status:"OK"}` | ⚠️ воркер A |
|
||||
| 11 | UI: `refreshInstances()` → `/api/operations/1` | `tracker_list()` → 4 элемента | ❌ воркер B |
|
||||
| 12 | `api_operations()` возвращает 4 инстанса | Нового нет | ❌ |
|
||||
| 13 | F5 → `selectService(1)` → `/api/operations/1` | Опять 4 | ❌ |
|
||||
|
||||
---
|
||||
|
||||
## Дополнительные находки (не критические)
|
||||
|
||||
### ⚠️ params loop — orphaned resources при ошибке
|
||||
Если `client.post("/instanceOperationCfsParams", ...)` падает на mid-param:
|
||||
- Инстанс УЖЕ создан в Nubes (сирота)
|
||||
- Операция УЖЕ создана (сирота)
|
||||
- `tracker_add` НЕ вызван (он после цикла)
|
||||
- Ответ: FAIL
|
||||
|
||||
### ⚠️ `data["svcOperationId"]` — KeyError если поле отсутствует
|
||||
Вызов API без `svcOperationId` в JSON → KeyError → FAIL. Обработано внешним try/except.
|
||||
|
||||
### ⚠️ `int(pid)` — ValueError если param ID не число
|
||||
`int("abc")` → ValueError → FAIL. Обработано внешним try/except.
|
||||
|
||||
### ⚠️ `_find_uid()` итерация по ВСЕМ значениям
|
||||
Может случайно найти uid во вложенном объекте. Низкий риск, но нечисто.
|
||||
|
||||
---
|
||||
|
||||
## План исправлений для v1.0.51
|
||||
|
||||
| # | Что | Как |
|
||||
|---|-----|-----|
|
||||
| 1 | Файловый трекер с fcntl.flock | Вернуть `/tmp/instances.json`, заменить `threading.Lock` на `fcntl.flock` |
|
||||
| 2 | _finish_op: try/except на всё тело | Обернуть строки 166-195 в `try/except: print(traceback)` |
|
||||
| 3 | (опционально) `svc_id = int(data["serviceId"])` | Защита от строкового "1" в JSON |
|
||||
@@ -0,0 +1,103 @@
|
||||
# 2026-07-30 — Сессия (v1.1.51 → v1.1.55)
|
||||
|
||||
## Контекст
|
||||
Сценарий `dummy_test` падает на шаге CREATE: `no instanceUid in response`. Ручное создание Болванки через UI работает.
|
||||
|
||||
## Найденные и исправленные баги
|
||||
|
||||
### Баг #1 — no instanceUid in response (ЛОЖНАЯ ТРЕВОГА)
|
||||
**Где:** `scenario.py:122` — `resp.get("instanceUid")` возвращал None.
|
||||
|
||||
**Причина:** сценарий НЕ перезапускался после деплоя v1.1.52. UI показывал старый результат из БД от v1.1.51 (баг #3).
|
||||
|
||||
**Проверка curl:** API отвечает корректно — 201, `Location: ./UUID`, тело `""`. `http_client.py` правильно парсит.
|
||||
|
||||
**Добавлено в v1.1.52:** `_status` (HTTP-код) в результат `http_client.post()` для отладки.
|
||||
|
||||
### Баг #2 — лишний svcOperationId для create (ИСПРАВЛЕН в v1.1.52)
|
||||
**Где:** `scenario.py:127`
|
||||
|
||||
Для `create` операция `/instanceOperations` не должна содержать `svcOperationId` (по спецификации Terraform). Было одинаково для всех операций, стало:
|
||||
```python
|
||||
if op_name == "create":
|
||||
op_payload = {"instanceUid": instance_uid, "operation": op_name}
|
||||
else:
|
||||
op_payload = {"instanceUid": instance_uid, "svcOperationId": svc_op_id, "operation": op_name}
|
||||
```
|
||||
|
||||
### Баг #3 — старые результаты сценариев после редеплоя (ИСПРАВЛЕН в v1.1.53)
|
||||
**Где:** `api_scenario.py` + `app.js`
|
||||
|
||||
**Симптом:** после редеплоя UI показывал результат сценария от СТАРОЙ версии (из БД), пользователь думал что новый код не работает.
|
||||
|
||||
**Причина:** `/api/scenario/status` не возвращал `app_version`, фронтенд не фильтровал по версии.
|
||||
|
||||
**Исправление:**
|
||||
- `api_scenario.py`: добавлен `app_version` в SELECT обоих эндпоинтов
|
||||
- `app.js`: `loadScenarios()` фильтрует историю по `window.APP.version` — показывает только запуски текущей версии
|
||||
|
||||
### Баг #4 — нельзя удалять без suspend (ОБНАРУЖЕН)
|
||||
DELETE после CREATE падает: «Невозможно выполнить операцию удаления услуги. Услуга не остановлена».
|
||||
Нужно сначала suspend + 15 мин ожидания. **Вывод:** не использовать delete в сценариях.
|
||||
|
||||
## Хронология
|
||||
|
||||
### v1.1.52 — fix scenario create + http_client _status debug
|
||||
- `scenario.py`: убран `svcOperationId` из create payload
|
||||
- `http_client.py`: добавлен `{"_status": r.status_code}` в результат для отладки
|
||||
|
||||
### v1.1.53 — filter scenario history by app_version
|
||||
- `api_scenario.py`: `app_version` в SELECT
|
||||
- `app.js`: фильтр `verHistory = srHistory.filter(r => r.app_version === curVer)`
|
||||
|
||||
### v1.1.55 — split large files + CRUD scenario editor
|
||||
|
||||
**Backend (5→7 файлов):**
|
||||
- `api_test.py`: 622→479 строк, terraform-функции → `operations/terraform.py` (142)
|
||||
- `api_scenario.py` → `api_scenario_run.py` (153) + `api_scenario_defs.py` (108)
|
||||
- `db/scenario_defs.py`: + `client_id`, `stand`, `is_seed` в `list_definitions`
|
||||
- `api_scenario_defs.py`: `_validate_steps()` — валидация шагов перед create/update
|
||||
- `scenario.py`: импорт `send_params_terraform` из `operations/terraform.py` (вместо кросс-импорта из routes)
|
||||
|
||||
**Frontend (1→10 файлов):**
|
||||
- `app.js`: 554→16 (загрузчик)
|
||||
- `utils.js` (45), `instances.js` (89), `operations.js` (249)
|
||||
- `history.js` (35), `scenario-list.js` (90)
|
||||
- CRUD: `scenario-form.js` (128), `scenario-create.js` (25, +clone), `scenario-edit.js` (12), `scenario-delete.js` (13)
|
||||
- Кнопки [▶][✏][⎘][🗑], seed-сценарии только [▶][⎘]
|
||||
- Inline-редактор: имя, шаги (service_id, operation, params), 409 conflict
|
||||
|
||||
**Максимальный размер файла:** JS 249 строк, Python 479 строк.
|
||||
|
||||
## Agent consultations
|
||||
|
||||
### Вопрос к Sonnet: план CRUD-редактирования сценариев
|
||||
|
||||
**Суть:** сейчас сценарии правятся только через `scenario_seed.yaml` → редеплой. Нужно редактирование через UI без редеплоя.
|
||||
|
||||
**Ответ Sonnet (ключевые выводы):**
|
||||
|
||||
1. **CRUD-эндпоинты УЖЕ реализованы** в `api_scenario.py` (я ошибался, они есть):
|
||||
- `GET/POST /api/scenario/definitions`
|
||||
- `GET/PUT/DELETE /api/scenario/definitions/<id>`
|
||||
- DB-функции в `scenario_defs.py` полностью готовы
|
||||
|
||||
2. **Нужны только 3 мелкие правки бэкенда:**
|
||||
- `list_definitions`: добавить `client_id`, `stand`, `is_seed` в SELECT
|
||||
- `api_scenario.py`: `_validate_steps()` с проверкой service_id, operation, params
|
||||
- `index.html`: `window.APP.services` (список сервисов для фронтенда)
|
||||
|
||||
3. **Фронтенд — ~200 строк JS:**
|
||||
- Кнопки [▶][✏][⎘][🗑] у каждого сценария
|
||||
- Inline-редактор: имя, шаги (сервис▾, операция▾, параметры)
|
||||
- Автоподгрузка операций при смене сервиса (`GET /api/operations/{svcId}`)
|
||||
- Автозаполнение параметров при смене операции (`GET /api/params/{svcOpId}`)
|
||||
- Оптимистичная блокировка (version → 409)
|
||||
|
||||
4. **Безопасность:** изоляция по client_id+stand, seed-сценарии только [▶][⎘]
|
||||
|
||||
## Отладка через kubectl
|
||||
- SSH: `naeel@5.172.178.213` (ключ `secrets/id_ed25519.txt`)
|
||||
- Неймспейс autotest: `01a2d5b2-4df4-4cfe-b98e-8dd3534a3bb5`
|
||||
- Код в поде: `/var/www/site/`
|
||||
- Проверка версии: `kubectl exec -n $NS deploy/pythonk8s -c app -- grep VERSION /var/www/site/app.py`
|
||||
@@ -0,0 +1,71 @@
|
||||
# 2026-07-31 — Сессия (v1.1.57 → ...)
|
||||
|
||||
## Контекст
|
||||
Обсуждение архитектуры: унификация ручного и сценарного режимов, гибкие ссылки на инстансы, новый UI редактора сценариев.
|
||||
|
||||
## Agent consultations
|
||||
|
||||
### Промпт для Opus
|
||||
Составлен `DOCS/opus-architecture-prompt.md` — полное описание проекта, дублирование CREATE-флоу, ограничение instance_map, вопросы по архитектуре.
|
||||
|
||||
### Ответ Opus — 19 уточняющих вопросов
|
||||
|
||||
**A. Единый executor (operations/executor.py)**
|
||||
1. Граница ответственности: executor делает всё до /run, поллинг — снаружи?
|
||||
2. Обработка ошибок: исключения с типом или dict {ok, error, failed_step}?
|
||||
3. Трекер: вызывать tracker_add внутри executor для create? Нужны ли сценарные инстансы в трекере?
|
||||
4. _finish_op: остаётся в api_test.py или выносим в общий модуль поллинга?
|
||||
|
||||
**B. Гибкие ссылки на инстансы**
|
||||
5. Приоритет резолвинга: instance_uid > instance_ref > (для create — новый)
|
||||
6. Где хранить output→uid: в памяти (instance_map) или в scenario_runs.instance_bindings?
|
||||
7. Валидация _validate_steps: проверять ссылки на output, уникальность, обязательность
|
||||
8. Обратная совместимость: поддерживать старый формат (service_id) или мигрировать?
|
||||
|
||||
**C. Схема БД**
|
||||
9. Формат в steps JSONB без изменений схемы? (подтверждено)
|
||||
10. Использовать существующую колонку scenario_runs.instance_bindings?
|
||||
|
||||
**D. UI редактора**
|
||||
11. Модал vs inline — рекомендация: модал на весь экран
|
||||
12. Переиспользовать renderParamRow из operations.js в общем модуле?
|
||||
13. Pre-fill параметров: авто или по кнопке?
|
||||
14. Формат параметров: символические имена в БД (как сейчас) или иное?
|
||||
|
||||
**E. Оптимизация**
|
||||
15. Вынести _find_uid/_uid_from_location в общий utils
|
||||
16. Механизм восстановления зависших scenario_runs?
|
||||
17. Ограничение lock_check: только один RUNNING сценарий — осознанное?
|
||||
18. _op_results в памяти → мигрировать в БД/Redis?
|
||||
19. Приоритет: бэкенд или UI редактора в первую очередь?
|
||||
|
||||
## Ключевые решения (отвечено DeepSeek)
|
||||
|
||||
**A. Executor:**
|
||||
- A1. Граница: до /run включительно, без поллинга. Возвращает {instance_uid, op_uid, display_name}
|
||||
- A2. Ошибки: dict {ok, error, failed_step}, не исключения
|
||||
- A3. Трекер: да, tracker_add внутри executor для всех create
|
||||
- A4. _finish_op: оставить в api_test.py, цикл поллинга → operations/poll.py
|
||||
|
||||
**B. Ссылки:**
|
||||
- B5. Приоритет: instance_uid > instance_ref > новый create
|
||||
- B6. Хранение: память + scenario_runs.instance_bindings
|
||||
- B7. Валидация: проверять ссылки, уникальность, обязательность
|
||||
- B8. Совместимость: оба формата, без миграции, fallback на service_id
|
||||
|
||||
**C. БД:**
|
||||
- C9. Без изменений схемы
|
||||
- C10. Использовать instance_bindings
|
||||
|
||||
**D. UI:**
|
||||
- D11. Модал на весь экран
|
||||
- D12. Общий модуль params-render.js
|
||||
- D13. Авто pre-fill, все параметры с defaults
|
||||
- D14. Символические имена в БД
|
||||
|
||||
**E. Оптимизация:**
|
||||
- E15. _find_uid → api/utils.py
|
||||
- E16. Startup check: TIMEOUT для зависших >1ч
|
||||
- E17. lock_check оставить
|
||||
- E18. _op_results не в scope
|
||||
- E19. Порядок: executor → формат → api_test/scenario → UI
|
||||
+139
@@ -0,0 +1,139 @@
|
||||
Сергей Мищук, [22.07.2026 17:20]
|
||||
у меня просьба подумать, как сделать автотесты на выбранные операции выбранных сервисов. Может быть, конфигурить через файл. Может быть, сделать веб интерфейс со списком сервисов-операций и статусами тестирования... Может сделать там же конфигурирование тестов. Запускать наверно захочется прямо на платформе
|
||||
|
||||
Владимир Крупский, [22.07.2026 17:36]
|
||||
операции - create modify redeploy и тд ?
|
||||
|
||||
Владимир Крупский, [22.07.2026 17:37]
|
||||
можно ... по всем сервисам есть yaml с полным перечнем всего что в сервисах есть.
|
||||
|
||||
Владимир Крупский, [22.07.2026 17:38]
|
||||
сделаю во фласке или нодеjs
|
||||
|
||||
Владимир Крупский, [22.07.2026 17:39]
|
||||
пока со своим токеном ... токенами по соотв. стендам
|
||||
|
||||
Сергей Мищук, [22.07.2026 18:07]
|
||||
только не по всем можно все, поэтому нужна настройка. Это будет гоняться на проде. Например, организацию создавать нельзя, объекты надо делать и удалять в специальной тестовой организации. Кроме того, для многих сервисов действует удаление с передержкой. Поэтому для них можно 1 раз сделать создание и не делать удаление
|
||||
|
||||
Сергей Мищук, [22.07.2026 18:07]
|
||||
это все надо конфигурить, а не кодировать
|
||||
|
||||
Владимир Крупский, [22.07.2026 18:11]
|
||||
почти у всех удаление с карантином в 2 недели в проде или 15 мин в деве и тесте
|
||||
|
||||
Владимир Крупский, [22.07.2026 18:12]
|
||||
тестовая организация ... вроде первая моя учетка в ней
|
||||
|
||||
Владимир Крупский, [22.07.2026 18:14]
|
||||
сначала сделаю для сервисов с быстрым созданием и модифаем
|
||||
|
||||
Сергей Мищук, [22.07.2026 18:26]
|
||||
сначала мы конечно попробуем все это на деве. Но надо будет юзать на тесте и проде
|
||||
|
||||
Владимир Крупский, [22.07.2026 18:27]
|
||||
сделаю выбор стенда
|
||||
|
||||
Владимир Крупский, [27.07.2026 17:42]
|
||||
Здравствуйте
|
||||
конструирую
|
||||
тут только болванка, чтобы не путаться
|
||||
|
||||
Владимир Крупский, [27.07.2026 17:42]
|
||||
https://atest.pythonk8s.dev.nubes.ru/
|
||||
|
||||
Владимир Крупский, [27.07.2026 17:42]
|
||||
приложение - многопользовательское будет ?
|
||||
|
||||
Владимир Крупский, [27.07.2026 17:47]
|
||||
по умолчанию - там использукется мой токен от тест-стенда
|
||||
можно ввести свой, справа вверху
|
||||
|
||||
Сергей Мищук, [28.07.2026 14:27]
|
||||
мне пока некогда проверить
|
||||
|
||||
Владимир Крупский, [28.07.2026 14:27]
|
||||
ок, там много ещё что поправлять
|
||||
|
||||
Сергей Мищук, [29.07.2026 10:28]
|
||||
поправляется?
|
||||
|
||||
Владимир Крупский, [29.07.2026 10:29]
|
||||
https://atest.pythonk8s.dev.nubes.ru/
|
||||
|
||||
Сергей Мищук, [29.07.2026 10:29]
|
||||
а если коротко словами?
|
||||
|
||||
Владимир Крупский, [29.07.2026 10:29]
|
||||
сервисы посложнее пытаю
|
||||
|
||||
Владимир Крупский, [29.07.2026 10:29]
|
||||
фактически для начала - чтобы делалось то же самое что и в UI облака
|
||||
|
||||
Владимир Крупский, [29.07.2026 10:29]
|
||||
создание модификация удаление и тд
|
||||
|
||||
Владимир Крупский, [29.07.2026 10:30]
|
||||
далее - можно будет например не в UI приложения операции тестирования задавать, а из JSON файлов например, последовательность разных операций
|
||||
|
||||
Владимир Крупский, [29.07.2026 10:31]
|
||||
и всё сделанное записывается в базу. чтобы потом анализировать
|
||||
|
||||
Владимир Крупский, [29.07.2026 10:43]
|
||||
просьба чуть подробнее пояснить какой функционал нужен
|
||||
и кто будет пользоваться, на какой платформе
|
||||
доступ общий ко всем тестированным инстансам ?
|
||||
или надо разделять, по userid
|
||||
|
||||
Сергей Мищук, [29.07.2026 10:44]
|
||||
пользоваться будет кто угодно, кто тестирует. Могу я, может Соня, могут девопсы
|
||||
|
||||
Владимир Крупский, [29.07.2026 10:45]
|
||||
у всех пользователей доступ к общей куче созданных инстансов ?
|
||||
|
||||
Владимир Крупский, [29.07.2026 10:45]
|
||||
или каждому своё
|
||||
|
||||
Владимир Крупский, [29.07.2026 10:45]
|
||||
по своему токену
|
||||
|
||||
Владимир Крупский, [29.07.2026 10:45]
|
||||
или например на чтение истории операций - для всех
|
||||
|
||||
Владимир Крупский, [29.07.2026 10:47]
|
||||
а создавать и редактировать - только по своему токену,
|
||||
по токену определяется от какого стенда токен, операции осуществляются именно там
|
||||
|
||||
Владимир Крупский, [29.07.2026 10:50]
|
||||
пока на время разработки по умолчанию используется мой персональный токен ...
|
||||
|
||||
Сергей Мищук, [29.07.2026 11:55]
|
||||
имперсонирование и смена пользователя это тоже часть программы тестирования
|
||||
|
||||
Сергей Мищук, [29.07.2026 11:56]
|
||||
но можно и обойтись
|
||||
|
||||
Сергей Мищук, [29.07.2026 11:56]
|
||||
важно поиметь для начала какое то худо бедное покрытие автотестами
|
||||
|
||||
Владимир Крупский, [29.07.2026 11:57]
|
||||
ок, продолжаю
|
||||
|
||||
это переписка с заказчиком.
|
||||
исходя из того что ты знаешь весь проект, - ЕЩЁ РАЗ ВСЁ изучи
|
||||
|
||||
на данный момент у нас фактически только дубль функционала UI облака по созданию и изменению инстансов
|
||||
и более - ничего
|
||||
надо понять куда двигаться и какой функционал добавлять и развивать
|
||||
|
||||
твоя текущая цель - создать задание/промпт для GPT-5.6 Sol
|
||||
чтобы он изучил файлы по твоему списку, проанализировал и выдал мнение - ЧТО делать
|
||||
какая ИДЕЯ данного проекта исходя из переписки с Сергеем и best practicies подобных приложений
|
||||
не забыть упомянуть что оно развёрнуто в облачном managed flask & postgres
|
||||
|
||||
не надо чтобы СОЛ лил воду и тратил токены понапрасну !
|
||||
главное - чтобы ТЫ САМ понял его анализ и задумки
|
||||
возможно у него будет несколько предложений по дальнейшему развитию, пусть выложит все
|
||||
|
||||
НЕ СПЕША ВДУМЧИВО - сначала выдай в чат что ты обо всём этом думаешь, кратко
|
||||
|
||||
@@ -0,0 +1,79 @@
|
||||
Список задач обновлен
|
||||
|
||||
# Что получится из Autotest
|
||||
|
||||
**Autotest** станет веб-приложением для автоматической проверки операций облачных сервисов Nubes.
|
||||
|
||||
Сейчас приложение позволяет вручную создавать, изменять и удалять инстансы. Следующий этап — запуск готовых автоматических сценариев, например:
|
||||
|
||||
```text
|
||||
Создать PostgreSQL → изменить параметры → проверить результат → удалить
|
||||
```
|
||||
|
||||
## Как это будет работать
|
||||
|
||||
1. В конфигурационном YAML-файле задаётся:
|
||||
- какие сервисы проверять;
|
||||
- какие операции выполнять;
|
||||
- в какой последовательности;
|
||||
- какие параметры использовать;
|
||||
- нужно ли удалять созданный инстанс.
|
||||
|
||||
2. Пользователь открывает приложение, выбирает сценарий и стенд, нажимает **«Запустить»**.
|
||||
|
||||
3. Приложение последовательно выполняет операции и показывает:
|
||||
- текущий шаг;
|
||||
- созданный инстанс;
|
||||
- продолжительность;
|
||||
- успешный или неуспешный результат;
|
||||
- причину ошибки.
|
||||
|
||||
4. Результаты сохраняются в PostgreSQL и доступны всем тестировщикам в общей истории.
|
||||
|
||||
## Архитектура
|
||||
|
||||
```text
|
||||
YAML-сценарии в Git
|
||||
↓
|
||||
Flask-приложение
|
||||
↓
|
||||
Исполнитель сценариев
|
||||
↓
|
||||
Nubes API
|
||||
↓
|
||||
PostgreSQL: запуски, шаги, результаты и ошибки
|
||||
```
|
||||
|
||||
Ручные операции и автоматические сценарии будут использовать один и тот же механизм работы с Nubes API. Благодаря этому автоматический тест будет выполнять операцию так же, как текущий ручной интерфейс и UI облака.
|
||||
|
||||
Для каждого стенда используется отдельный технический токен. Токен пользователя нужен только для ручных операций.
|
||||
|
||||
## Первый рабочий релиз
|
||||
|
||||
В MVP войдут:
|
||||
|
||||
- YAML-сценарии, хранящиеся и проверяемые через Git;
|
||||
- ручной запуск сценария из веб-интерфейса;
|
||||
- последовательное выполнение операций;
|
||||
- поддержка dev и test;
|
||||
- сценарии с временными и постоянными тестовыми инстансами;
|
||||
- отображение выполнения по шагам;
|
||||
- общая история всех запусков;
|
||||
- сохранение результатов и ошибок в PostgreSQL;
|
||||
- защита от одновременного запуска нескольких сценариев на одном стенде.
|
||||
|
||||
Prod на первом этапе будет заблокирован. После проверки на dev и test добавим отдельные правила безопасности для тестовой организации, карантина и разрешённых операций.
|
||||
|
||||
## Дальнейшее развитие
|
||||
|
||||
После MVP можно добавить:
|
||||
|
||||
- запуск по расписанию;
|
||||
- уведомления о падениях;
|
||||
- регулярные проверки выбранных сервисов;
|
||||
- статистику успешности и длительности операций;
|
||||
- безопасный запуск на prod;
|
||||
- настройку сценариев через веб-интерфейс;
|
||||
- impersonation и проверку операций от разных пользователей.
|
||||
|
||||
**Итог:** это будет не копия UI облака, а централизованный инструмент для регулярной проверки работоспособности операций Nubes: с настраиваемыми сценариями, общими результатами и контролем безопасности.
|
||||
Reference in New Issue
Block a user