feat: WebSocket upload (one TCP, no Cilium cycling), bump 1.0.9→1.0.10
Deploy loadtest / validate (push) Waiting to run
Deploy loadtest / validate (push) Waiting to run
This commit is contained in:
@@ -0,0 +1,18 @@
|
|||||||
|
# 2026-07-10 — WAF/ModSecurity исключены
|
||||||
|
|
||||||
|
## Почему не WAF
|
||||||
|
nginx:alpine через тот же ingress = 10/10.
|
||||||
|
WAF обрабатывает запрос ДО бэкенда, одинаково для всех.
|
||||||
|
Разный результат → проблема после nginx, не до.
|
||||||
|
|
||||||
|
## Почему не ModSecurity
|
||||||
|
- DetectionOnly — не блокирует
|
||||||
|
- 128KB лимит, но POST 136KB — давал бы усечённые данные, не таймаут
|
||||||
|
- Таймаут = TCP-обрыв, не HTTP-ответ
|
||||||
|
|
||||||
|
## Реальная причина (Соннет подтверждает)
|
||||||
|
Werkzeug `Connection: close` → новый TCP на каждый запрос → Cilium DNAT cycling → intermittent failure.
|
||||||
|
nginx:alpine держит keepalive → 1 TCP → 10/10.
|
||||||
|
|
||||||
|
## Но
|
||||||
|
Gunicorn+gevent (keepalive) протестирован дважды — 2-3/10. Теория говорит должно работать, реальность — нет.
|
||||||
@@ -1,3 +1,4 @@
|
|||||||
flask
|
flask
|
||||||
gunicorn
|
gunicorn
|
||||||
gevent
|
gevent
|
||||||
|
flask-sock
|
||||||
|
|||||||
+28
-1
@@ -1,10 +1,37 @@
|
|||||||
import time
|
import time
|
||||||
|
import json
|
||||||
import base64
|
import base64
|
||||||
from flask import Flask, render_template, request
|
from flask import Flask, render_template, request
|
||||||
|
from flask_sock import Sock
|
||||||
|
|
||||||
app = Flask(__name__)
|
app = Flask(__name__)
|
||||||
|
sock = Sock(app)
|
||||||
|
|
||||||
VERSION = '1.0.9'
|
VERSION = '1.0.10'
|
||||||
|
|
||||||
|
|
||||||
|
@app.route('/')
|
||||||
|
def index():
|
||||||
|
return render_template('index.html', version=VERSION)
|
||||||
|
|
||||||
|
|
||||||
|
@app.route('/health')
|
||||||
|
def health():
|
||||||
|
return {'ok': True, 'version': VERSION}
|
||||||
|
|
||||||
|
|
||||||
|
@sock.route('/ws-upload')
|
||||||
|
def ws_upload(ws):
|
||||||
|
"""WebSocket: получает чанки, считает байты и время"""
|
||||||
|
t0 = time.time()
|
||||||
|
total = 0
|
||||||
|
while True:
|
||||||
|
chunk = ws.receive()
|
||||||
|
if chunk is None:
|
||||||
|
break
|
||||||
|
total += len(chunk)
|
||||||
|
elapsed = round((time.time() - t0) * 1000)
|
||||||
|
ws.send(json.dumps({'ok': True, 'bytes': total, 'elapsed_ms': elapsed}))
|
||||||
|
|
||||||
|
|
||||||
@app.route('/')
|
@app.route('/')
|
||||||
|
|||||||
+77
-59
@@ -143,20 +143,22 @@ function warmup() {
|
|||||||
});
|
});
|
||||||
}
|
}
|
||||||
|
|
||||||
/** uploadAll() — последовательная загрузка всех файлов чанками по 100KB */
|
/** uploadAll() — загрузка всех файлов через один WebSocket */
|
||||||
async function uploadAll() {
|
async function uploadAll() {
|
||||||
if (uploading || files.length === 0) return;
|
if (uploading || files.length === 0) return;
|
||||||
uploading = true;
|
uploading = true;
|
||||||
uploadBtn.disabled = true;
|
uploadBtn.disabled = true;
|
||||||
clearBtn.disabled = true;
|
clearBtn.disabled = true;
|
||||||
|
|
||||||
var CHUNK = 100 * 1024; // 100KB raw chunks
|
|
||||||
|
|
||||||
var totalBytes = 0;
|
var totalBytes = 0;
|
||||||
var totalElapsed = 0;
|
var totalElapsed = 0;
|
||||||
var okCount = 0;
|
var okCount = 0;
|
||||||
var errCount = 0;
|
var errCount = 0;
|
||||||
|
|
||||||
|
// Один WebSocket на все файлы
|
||||||
|
var proto = location.protocol === 'https:' ? 'wss:' : 'ws:';
|
||||||
|
var wsUrl = proto + '//' + location.host + '/ws-upload';
|
||||||
|
|
||||||
for (var i = 0; i < files.length; i++) {
|
for (var i = 0; i < files.length; i++) {
|
||||||
var f = files[i];
|
var f = files[i];
|
||||||
if (f.status === 'ok') continue;
|
if (f.status === 'ok') continue;
|
||||||
@@ -165,39 +167,19 @@ async function uploadAll() {
|
|||||||
f.progress = 0;
|
f.progress = 0;
|
||||||
renderTable();
|
renderTable();
|
||||||
|
|
||||||
var fileBytes = 0;
|
|
||||||
var fileElapsed = 0;
|
|
||||||
var offset = 0;
|
|
||||||
var totalChunks = Math.ceil(f.size / CHUNK);
|
|
||||||
var failed = false;
|
|
||||||
|
|
||||||
while (offset < f.size && !failed) {
|
|
||||||
var end = Math.min(offset + CHUNK, f.size);
|
|
||||||
var blob = f.file.slice(offset, end);
|
|
||||||
|
|
||||||
try {
|
try {
|
||||||
var result = await uploadChunk(blob);
|
var result = await uploadFileWS(wsUrl, f, i);
|
||||||
fileBytes += result.bytes;
|
f.status = 'ok';
|
||||||
fileElapsed += result.elapsed_ms;
|
f.elapsed = result.elapsed_ms;
|
||||||
f.progress = Math.round((offset + (end - offset)) / f.size * 100);
|
f.speed = result.elapsed_ms > 0 ? Math.round(result.bytes / (result.elapsed_ms / 1000)) : null;
|
||||||
renderTable();
|
totalBytes += result.bytes;
|
||||||
|
totalElapsed += result.elapsed_ms;
|
||||||
|
okCount++;
|
||||||
} catch (e) {
|
} catch (e) {
|
||||||
f.status = 'err';
|
f.status = 'err';
|
||||||
f.error = 'Чанк ' + (Math.floor(offset/CHUNK)+1) + '/' + totalChunks + ': ' + e.message;
|
f.error = e.message;
|
||||||
failed = true;
|
|
||||||
errCount++;
|
errCount++;
|
||||||
}
|
}
|
||||||
offset = end;
|
|
||||||
}
|
|
||||||
|
|
||||||
if (!failed) {
|
|
||||||
f.status = 'ok';
|
|
||||||
f.elapsed = fileElapsed;
|
|
||||||
f.speed = fileElapsed > 0 ? Math.round(fileBytes / (fileElapsed / 1000)) : null;
|
|
||||||
totalBytes += fileBytes;
|
|
||||||
totalElapsed += fileElapsed;
|
|
||||||
okCount++;
|
|
||||||
}
|
|
||||||
renderTable();
|
renderTable();
|
||||||
}
|
}
|
||||||
|
|
||||||
@@ -214,36 +196,72 @@ async function uploadAll() {
|
|||||||
fileSummary.textContent = summary;
|
fileSummary.textContent = summary;
|
||||||
}
|
}
|
||||||
|
|
||||||
/** uploadChunk(blob) — отправить чанк с ретраем до 3 раз */
|
/** uploadFileWS(url, f, idx) — загрузить файл через WebSocket чанками */
|
||||||
function uploadChunk(blob) {
|
function uploadFileWS(url, f, idx) {
|
||||||
var MAX = 3;
|
|
||||||
var attempt = 0;
|
|
||||||
|
|
||||||
return new Promise(function (resolve, reject) {
|
return new Promise(function (resolve, reject) {
|
||||||
function trySend() {
|
var ws = new WebSocket(url);
|
||||||
attempt++;
|
var CHUNK = 64 * 1024; // 64KB chunks
|
||||||
var xhr = new XMLHttpRequest();
|
var offset = 0;
|
||||||
xhr.open('POST', '/upload');
|
var startTime = Date.now();
|
||||||
xhr.timeout = 5000;
|
var lastProgress = 0;
|
||||||
xhr.setRequestHeader('Content-Type', 'application/octet-stream');
|
|
||||||
xhr.onload = function () {
|
ws.binaryType = 'arraybuffer';
|
||||||
try {
|
|
||||||
var r = JSON.parse(xhr.responseText);
|
ws.onopen = function () {
|
||||||
if (r.ok) { resolve({ bytes: r.bytes, elapsed_ms: r.elapsed_ms }); }
|
// Шлём заголовок: имя файла + размер
|
||||||
else { reject(new Error(r.error || 'Ошибка сервера')); }
|
ws.send(JSON.stringify({ name: f.name, size: f.size }));
|
||||||
} catch (e) { reject(new Error('Bad JSON')); }
|
|
||||||
};
|
// Читаем и шлём чанки
|
||||||
xhr.onerror = function () {
|
var reader = new FileReader();
|
||||||
if (attempt < MAX) { setTimeout(trySend, 300); }
|
reader.onload = function (e) {
|
||||||
else { reject(new Error('Сеть')); }
|
ws.send(e.target.result);
|
||||||
};
|
offset += CHUNK;
|
||||||
xhr.ontimeout = function () {
|
|
||||||
if (attempt < MAX) { setTimeout(trySend, 300); }
|
if (offset < f.size) {
|
||||||
else { reject(new Error('Таймаут')); }
|
// Прогресс каждые 10%
|
||||||
};
|
var pct = Math.round(offset / f.size * 100);
|
||||||
xhr.send(blob);
|
if (pct - lastProgress >= 10) {
|
||||||
|
lastProgress = pct;
|
||||||
|
f.progress = pct;
|
||||||
|
renderTable();
|
||||||
}
|
}
|
||||||
trySend();
|
readNext();
|
||||||
|
} else {
|
||||||
|
// Все чанки отправлены — шлём сигнал завершения
|
||||||
|
ws.send('DONE');
|
||||||
|
}
|
||||||
|
};
|
||||||
|
|
||||||
|
function readNext() {
|
||||||
|
var end = Math.min(offset + CHUNK, f.size);
|
||||||
|
reader.readAsArrayBuffer(f.file.slice(offset, end));
|
||||||
|
}
|
||||||
|
|
||||||
|
readNext();
|
||||||
|
};
|
||||||
|
|
||||||
|
ws.onmessage = function (e) {
|
||||||
|
try {
|
||||||
|
var r = JSON.parse(e.data);
|
||||||
|
var elapsed = Date.now() - startTime;
|
||||||
|
f.progress = 100;
|
||||||
|
renderTable();
|
||||||
|
ws.close();
|
||||||
|
resolve({ bytes: r.bytes, elapsed_ms: elapsed });
|
||||||
|
} catch (err) {
|
||||||
|
reject(new Error('Bad response'));
|
||||||
|
}
|
||||||
|
};
|
||||||
|
|
||||||
|
ws.onerror = function () {
|
||||||
|
reject(new Error('WebSocket error'));
|
||||||
|
};
|
||||||
|
|
||||||
|
ws.onclose = function (e) {
|
||||||
|
if (e.code !== 1000 && offset < f.size) {
|
||||||
|
reject(new Error('WS closed (' + e.code + ')'));
|
||||||
|
}
|
||||||
|
};
|
||||||
});
|
});
|
||||||
}
|
}
|
||||||
|
|
||||||
|
|||||||
Reference in New Issue
Block a user