v1.0.178: логи + lock-файл + guard от двойного classify. Ответ Опуса: минимум сейчас.
This commit is contained in:
@@ -25,9 +25,14 @@ if __name__ == "__main__":
|
||||
sys.exit(1)
|
||||
|
||||
batch_id = sys.argv[1]
|
||||
lock_path = f"/tmp/classify_{batch_id}.lock"
|
||||
try:
|
||||
result = classify_batch(batch_id)
|
||||
print(f"classify_worker DONE: {result}")
|
||||
except Exception as e:
|
||||
print(f"classify_worker FAILED: {e}", file=sys.stderr)
|
||||
sys.exit(1)
|
||||
finally:
|
||||
# Убрать lock-файл в любом случае
|
||||
if os.path.exists(lock_path):
|
||||
os.remove(lock_path)
|
||||
|
||||
@@ -252,6 +252,12 @@ class Handler(BaseHTTPRequestHandler):
|
||||
from db import documents as db_docs
|
||||
import subprocess, os
|
||||
|
||||
# Guard: если classify для этого batch уже запущен — не запускать повторно
|
||||
lock_path = f"/tmp/classify_{batch_id}.lock"
|
||||
if os.path.exists(lock_path):
|
||||
self._json({"ok": False, "error": "classify already running for this batch"}, 409)
|
||||
return
|
||||
|
||||
# Посчитать сколько файлов — ответить сразу, classify в отдельном процессе
|
||||
pending = db_docs.list_pending(batch_id)
|
||||
total = len(pending)
|
||||
@@ -260,12 +266,22 @@ class Handler(BaseHTTPRequestHandler):
|
||||
return
|
||||
|
||||
# Запустить classify_worker.py в отдельном процессе
|
||||
# Лог в /home/naeel/contracts/logs/ вместо DEVNULL
|
||||
log_dir = "/home/naeel/contracts/logs"
|
||||
os.makedirs(log_dir, exist_ok=True)
|
||||
log_path = os.path.join(log_dir, f"classify_{batch_id}.log")
|
||||
log_file = open(log_path, "w")
|
||||
|
||||
# Создать lock-файл (воркер удалит при завершении)
|
||||
with open(lock_path, "w") as lf:
|
||||
lf.write(str(os.getpid()))
|
||||
|
||||
worker_path = os.path.join(os.path.dirname(__file__), "classify_worker.py")
|
||||
subprocess.Popen(
|
||||
[sys.executable, worker_path, batch_id],
|
||||
stdout=subprocess.DEVNULL, stderr=subprocess.DEVNULL,
|
||||
stdout=log_file, stderr=subprocess.STDOUT,
|
||||
)
|
||||
self._json({"ok": True, "total": total}, 202)
|
||||
self._json({"ok": True, "total": total, "log": log_path}, 202)
|
||||
|
||||
# ── POST /apply-groups ───────────────────────────────────────────────
|
||||
|
||||
|
||||
Reference in New Issue
Block a user