6 changed files with 346 additions and 1 deletions
@@ -0,0 +1,18 @@
# Step 0: Критические фиксы перед миграцией
**Ветка:** `feature/flask-migration`
**Дата:** 2026-07-14
## Фикс 1: `site/` → `app/` (конфликт с Python stdlib)
`site` — встроенный модуль Python. `from site.db import ...` нестабильно.
Решение: `git mv contracts-flask/site contracts-flask/app`.
Импортов `from site ...` в коде НЕТ (проверено grep), только комментарий в app.js.
## Фикс 2: auth на `/api/cleanup`
Добавить `X-Api-Key` проверку. Значение из `os.environ["API_KEY"]`.
Оба фикса — ДО начала переноса кода.
+25
View File
@@ -0,0 +1,25 @@
# Step 1: Перенос db/ → app/db/
**Ветка:** `feature/flask-migration` (submodule + parent)
**Дата:** 2026-07-14
## Что делаем
Копируем `deploy/db/*.py``app/db/`. Менять НИЧЕГО не надо — чистый CRUD.
## Файлы
- `deploy/db/connection.py``app/db/connection.py` — connection pool
- `deploy/db/documents.py``app/db/documents.py` — documents CRUD
- `deploy/db/contracts.py``app/db/contracts.py` — contracts CRUD
- `deploy/db/supplements.py``app/db/supplements.py` — supplements CRUD
- `deploy/db/spec_current.py``app/db/spec_current.py` — spec queries
- `deploy/db/spec_events.py``app/db/spec_events.py` — events CRUD
- `deploy/db/prompts.py``app/db/prompts.py` — prompts CRUD
## Проверка
```bash
cd contracts-flask
python3 -c "from app.db import documents; print('ok')"
```
@@ -0,0 +1,32 @@
# Step 2: Перенос compare/ → app/services/
**Ветка:** `feature/flask-migration`
**Дата:** 2026-07-14
## Что делаем
Копируем бизнес-логику из `deploy/compare/*.py``app/services/`.
## Переносим (чистая логика, без HTTP)
- `parse.py` — парсинг PDF/DOCX
- `classify.py` — LLM-классификация
- `grouping.py` — группировка документов
- `llm.py` — вызов LLM для сравнения
- `llm_client.py` — протокол + httpx + fake
- `metrics.py` — проверка арифметики
## НЕ переносим (привязаны к HTTP, будут переписаны в blueprints)
- `upload.py` — использует cgi.FieldStorage
- `unzip.py` — читает rfile.read()
- `process.py` — SSE через callback
## Правки импортов
Было → стало:
- `from db import documents``from app.db import documents`
- `from .parse import parse_file``from app.services.parse import parse_file`
- `from llm_prompt import ...``from app.llm_prompt import ...`
- `from .llm_client import ...``from app.services.llm_client import ...`
- `from .metrics import ...``from app.services.metrics import ...`
@@ -0,0 +1,17 @@
# Step 3: config.py + все blueprints + новый app.py
**Ветка:** `feature/flask-migration`
**Дата:** 2026-07-14
## Создаваемые файлы
- `app/config.py` — настройки
- `app/routes/__init__.py` — register_routes()
- `app/routes/upload_bp.py` — /upload, /convert-doc, /unzip-upload
- `app/routes/pipeline_bp.py` — /process-v2 (SSE), /classify-batch
- `app/routes/api_bp.py` — /api/* (groups, documents, supplements, sync, cleanup, spec-current)
- `app/routes/prompts_bp.py` — /api/prompts/*
- `app/routes/health_bp.py` — /health
- `app/routes/pages_bp.py` — /, /architect
- `app/services/process.py` — адаптированный process.py (callback → generator)
- `app/app.py` — новый (замена старого, без VM-прокси)
+253
View File
@@ -0,0 +1,253 @@
# Инструкция: перенос UI и загрузки файлов с ВМ на Flask (Штурвал)
**Дата:** 2026-07-14
**Основано на:** drhider v0.0.26 — проверено в бою
---
## Архитектура загрузки (drhider как образец)
```
Браузер (index.html)
│ JS: uploadFiles() — цикл по файлам
│ XHR POST /api/upload (FormData, по одному файлу)
Flask (api_bp.py)
│ upload(): сохраняет в сессию → {session_id}
│ process_stream(): SSE — обработка с прогрессом
Python (drhider/*.py)
│ obfuscate_files() — основная логика
Flask → ZIP + CSV → браузеру
```
## Файлы, отвечающие за UI и загрузку
### 1. `site/templates/index.html` — весь фронтенд
**Ключевые элементы:**
```html
<!-- Файловый инпут — множественный выбор -->
<input type="file" id="fileInput" multiple accept=".docx,.pdf,.txt,.zip">
<!-- Таблица выбранных файлов -->
<table>
<tbody id="fileList"></tbody>
</table>
<!-- Статус-бар -->
<div class="status" id="status"></div>
<!-- Кнопки скачивания (скрыты до готовности) -->
<div class="dl-btns" id="dlBtns">
<button onclick="downloadZip()">📦 Скачать ZIP</button>
<button onclick="downloadCsv()">📋 Скачать CSV</button>
</div>
```
**Ключевые JS-функции:**
| Функция | Что делает |
|---------|------------|
| `resetAll()` | Сброс всего состояния (F5, между загрузками) |
| `rr()` | Перерисовка таблицы файлов |
| `uploadFiles()` | **Главная** — цикл загрузки + SSE-обработка |
| `ss(idx, html)` | Обновление ячейки статуса в таблице |
| `downloadZip()` / `downloadCsv()` | Скачивание результатов |
**Критичные исправления (v0.0.26):**
```javascript
// 1. Прогрев upstream при загрузке страницы — обязательно!
window.addEventListener('load', () => {
sf = []; fi.value = ''; rr();
fetch('/health').catch(() => {}); // ← вот это
});
// 2. Abort предыдущих запросов перед новым
let activeES = null; // активный EventSource
let activeXHR = null; // активный XHR
// 3. Защита от F5 во время загрузки
window.addEventListener('beforeunload', () => resetAll());
// 4. Сохранение списка файлов до очистки
const files = sf.slice(); // копия перед resetAll()
// 5. Цикл загрузки (по одному файлу)
for (let i = 0; i < total; i++) {
const fd = new FormData();
fd.append('files', f, f.name);
if (currentSid) fd.append('session', currentSid);
const resp = await fetch('/api/upload?_=' + Date.now(), {
method: 'POST', body: fd
});
const data = await resp.json();
currentSid = data.session;
}
// 6. SSE-обработка
activeES = new EventSource('/api/process_stream/' + currentSid);
activeES.addEventListener('start', ...); // файл начат
activeES.addEventListener('done', ...); // файл готов
activeES.addEventListener('complete', ...); // всё готово
```
### 2. `site/routes/api_bp.py` — API эндпоинты
```
POST /api/upload — загрузка одного файла → {session_id}
GET /api/process_stream/<sid> — SSE: обработка с прогрессом
POST /api/process/<sid> — обработка без SSE (legacy)
GET /api/download/<sid> — скачать ZIP
GET /api/csv/<sid> — скачать CSV отдельно
```
**Критичные заголовки для SSE:**
```python
return Response(
stream_with_context(generate()),
content_type="text/event-stream",
headers={
"Cache-Control": "no-cache",
"X-Accel-Buffering": "no" # ← без этого nginx буферизует SSE
}
)
```
**Критично: GeneratorExit в SSE-генераторе:**
```python
def generate():
for idx, (fname, content) in enumerate(files):
try:
yield f"event: start\ndata: ...\n\n"
except GeneratorExit:
return # клиент отключился — не обрабатываем дальше
# ... обработка файла ...
try:
yield f"event: done\ndata: ...\n\n"
except GeneratorExit:
return
```
### 3. `site/routes/health_bp.py` — liveness probe
```python
@health_bp.route("/health")
def health():
return jsonify({"ok": True, "version": "0.0.1"})
```
**Обязательно для Штурвала.**
### 4. `site/app.py` — точка входа
**Критичные настройки:**
```python
VERSION = "0.0.1"
def create_app():
app = Flask(__name__)
app.config["VERSION"] = VERSION
app.config["MAX_CONTENT_LENGTH"] = 200 * 1024 * 1024 # 200 MB
from routes import register_routes
register_routes(app)
@app.after_request
def no_cache(response):
response.headers["Cache-Control"] = "no-cache, no-store, must-revalidate"
response.headers["Pragma"] = "no-cache"
response.headers["Expires"] = "0"
return response
return app
app = create_app()
```
---
## Пошаговая инструкция миграции
### Шаг 1: Скопировать скелет UI
Скопировать `site/templates/index.html` из drhider как основу.
Заменить:
- Заголовок (`<title>`, `.title`, `.card-header`)
- Текст описания
- `accept` в `<input type="file">` если другие форматы
- Логику в `uploadFiles()` — вызов своего API вместо `obfuscate_files`
### Шаг 2: Адаптировать API
Скопировать `site/routes/api_bp.py`, заменить:
- Название blueprint'а
- Логику в `process_stream()` — вызов своей функции вместо `obfuscate_files()`
- Формат SSE-событий если нужен другой
### Шаг 3: Health endpoint
Скопировать `site/routes/health_bp.py` как есть. Только версию поменять.
### Шаг 4: app.py
Скопировать `site/app.py`, заменить:
- `VERSION`
- `MAX_CONTENT_LENGTH` если нужен другой лимит
- Импорт своих blueprint'ов
### Шаг 5: session.py
Скопировать `site/session.py` как есть. Это in-memory хранилище загруженных файлов и результатов.
### Шаг 6: Интеграция бизнес-логики
Твоя функция обработки должна принимать тот же интерфейс что и `obfuscate_files`:
```python
def твоя_функция(files, **kwargs):
"""
Args:
files: list of (filename: str, content: bytes, mimetype: str)
Returns:
zip_bytes: bytes — ZIP-архив с результатами
csv_str: str — CSV с маппингом (или "")
"""
```
---
## Чек-лист перед деплоем
- [ ] `/health` возвращает `{"ok": true}`
- [ ] `MAX_CONTENT_LENGTH` достаточен для файлов
- [ ] `no_cache` after_request есть
- [ ] `X-Accel-Buffering: no` на SSE-эндпоинте
- [ ] `GeneratorExit` в каждом `yield` SSE-генератора
- [ ] `stream_with_context` оборачивает генератор
- [ ] `fetch('/health')` при загрузке страницы
- [ ] `beforeunload``resetAll()`
- [ ] `activeXHR` и `activeES` очищаются перед новым запуском
- [ ] `Connection: close`**НЕ ставить** (Waitress/PEP 3333 запрещает hop-by-hop)
---
## Ссылки на файлы-образцы
| Что | Где в drhider |
|-----|---------------|
| HTML/JS/CSS фронтенд | `site/templates/index.html` |
| API (upload + SSE + download) | `site/routes/api_bp.py` |
| Health probe | `site/routes/health_bp.py` |
| Точка входа Flask | `site/app.py` |
| In-memory сессии | `site/session.py` |
| Полная архитектура | `docs/ARCHITECTURE.md` |
| Решённые проблемы кластера | `PROBLEM-AND-SOLUTION.md` |
Submodule contracts-flask updated: ca7b70fe41...96718fc065