7 Commits
8 changed files with 290 additions and 2412 deletions
@@ -0,0 +1,14 @@
# 2026-09-06: план дополнительных hardening-тестов
После полного прогона `0.2.2` выявлены тестовые пробелы, которые не покрывались штатными 10 Python и 10 Node тестами:
- границы `MAX_FILE_BYTES` (ровно лимит и лимит + 1 байт);
- превышение фактического размера файла после pull при заниженном заявленном размере;
- граница `MAX_SESSION_BYTES`;
- retry pull после временного HTTP-сбоя;
- удаление сессии по TTL;
- удаление файла из буфера при пропуске по лимиту;
- отмена frontend после частично завершённого пофайлового транзита;
- повторный выбор/двойной запуск picker без параллельной обработки.
Первым шагом добавляются backend hardening-тесты для лимитов, retry, TTL и очистки буфера. После каждого логического изменения выполняется отдельный коммит и проверка.
@@ -0,0 +1,39 @@
# 2026-09-06: результат дополнительных hardening-тестов
## Добавленные тесты
Backend:
- точное достижение `MAX_SESSION_BYTES` и отказ при переполнении;
- отказ при фактическом размере файла больше `MAX_FILE_BYTES`, даже если заявленный размер допустим;
- обязательное удаление oversize-файла из буфера;
- retry pull после временного HTTP `503`;
- удаление файла после успешного pull;
- автоматическое удаление RAM-сессии по короткому TTL.
Frontend:
- отмена после первого успешно доставленного файла;
- подтверждение, что второй `PUT` не начинается;
- подтверждение частичного результата и `aborted: true`;
- проверка callback статуса доставленного первого файла.
## Результаты
- hardening backend: `4/4` PASS;
- полный Node suite: `11/11` PASS;
- полный Python suite: `14/14` PASS;
- syntax sweep: `22` Python-файла и `13` JavaScript-файлов PASS;
- frontend build: PASS;
- runtime `/health`: `ok`;
- runtime `/`: HTTP 200, `10035` байт;
- `git diff --check`: PASS.
## Исправленные ошибки тестового harness
- Для backend pull использован корректный `httpx.WSGITransport`.
- Конфигурационный ключ лимита приведён к API-формату `maxFileBytes`.
- Timing partial-cancel теста синхронизирован с первым `PUT`.
- Assertion статуса приведён к фактическому callback-тексту `✓ Доставлен`.
Production-код не изменялся, поэтому версия остаётся `0.2.2`.
@@ -0,0 +1,37 @@
# 2026-09-06: полный тест релиза 0.2.2
## Релиз
Проверен коммит `f7687d3` с версией `0.2.2`. Локальная ветка на момент проверки совпадала с `origin/master`.
## Результаты
- `npm run build` — успешно;
- `npm test` — `10/10` Node-тестов пройдены;
- `python3 -m pytest tests/ -v` — `10/10` Python-тестов пройдены;
- `python3 -m py_compile site/app.py` — успешно;
- `node --version` — `v18.19.1`;
- `python` — `3.12.3`;
- `git diff --check` — без замечаний;
- запуск `python3 site/app.py` — успешный, Flask слушает `0.0.0.0:5000`;
- живой `GET /health` — HTTP 200, тело `ok`;
- живой `GET /` — HTTP 200, получено `10035` байт HTML.
## Состав Node-тестов
Проверены:
- рендер папок по умолчанию в свёрнутом состоянии;
- успешный PUT в буфер ВМ;
- HTTP-ошибка PUT;
- сетевая ошибка;
- таймаут;
- отмена через `AbortSignal`;
- пофайловый транзит Layer 2;
- формат файлов `FilePicker.getFiles()`;
- ошибка PUT в `uploadViaVM`;
- отмена загрузки через signal.
## Вывод
Релиз `0.2.2` проходит полный автоматический и локальный runtime-прогон. После документирования запись должна быть отдельным коммитом и отправлена в `origin/master`.
@@ -0,0 +1,55 @@
# 2026-09-06: жёсткий полный тест релиза 0.2.2
## Объём проверки
Проверен опубликованный релиз `0.2.2`, commit `df0576a` на `origin/master`.
- frontend build;
- весь Node test suite;
- весь Python test suite с `-vv --tb=long`;
- синтаксис всех исходных Python и JavaScript файлов;
- runtime запуск Flask;
- HTTP endpoints и раздача собранных бандлов;
- отрицательные API-сценарии безопасности и целостности транзита.
## Результаты
- `npm run build` — PASS;
- `npm test` — `10/10` PASS;
- `python3 -m pytest tests/ -vv --tb=long` — `10/10` PASS;
- `py_compile` — `22` Python-файла PASS;
- `node --check` — `13` JavaScript-файлов PASS;
- `git diff --check` — PASS;
- `/health` — HTTP 200, тело `ok`;
- `/` — HTTP 200;
- `/file-picker/file-picker.esm.js` — HTTP 200;
- `/file-picker/file-picker.iife.js` — HTTP 200;
- `/upload-frontend/index.js` — HTTP 200;
- Flask слушает `0.0.0.0:5000`.
## Отрицательные сценарии
Отдельный smoke-набор подтвердил:
- пустой `upload_refs` возвращает HTTP 400;
- malformed JSON возвращает HTTP 400;
- traversal-имя не попадает в сессию и не удаляет файл из буфера;
- SSRF URL вне разрешённого prefix пропускается без pull;
- валидный файл создаёт новую RAM-сессию;
- файл переносится в RAM;
- callback Layer 3 вызывается;
- файл удаляется из mock buffer после успешного pull;
- повторное чтение удалённого файла возвращает 404.
## Исправления harness во время проверки
Два первых запуска расширенного smoke-набора остановились в тестовом harness, не в приложении:
1. Для in-process Flask pull не был задан `httpx.WSGITransport`, поэтому backend получил `Connection refused`.
2. Следующий запуск передал несуществующий `session`; API корректно вернул сценарий `Session not found` вместо создания сессии. Новая сессия создаётся при отсутствии поля `session`.
После исправления harness smoke-набор завершился `strict_negative_smoke=PASS`.
## Итог
Релиз `0.2.2` прошёл полный автоматический, синтаксический, runtime и отрицательный security-тест. Код не изменялся, поэтому версию не повышали.
-1194
View File
File diff suppressed because it is too large Load Diff
-1218
View File
File diff suppressed because it is too large Load Diff
+116
View File
@@ -0,0 +1,116 @@
import threading
from time import monotonic
import httpx
from flask import Flask
from upload.backend.session import add_file, cleanup, configure, create_session, get_files
from upload.backend.session import state as session_state
from upload.backend.upload_refs.blueprint import create_upload_refs_blueprint
def build_app(transport, **config):
app = Flask(__name__)
app.config['TESTING'] = True
app.config['UPLOAD_HTTPX_TRANSPORT'] = transport
app.register_blueprint(create_upload_refs_blueprint({
'vmUploadPrefix': 'https://vm.test/buffer/',
'httpxTransport': transport,
'pullRetries': 3,
'pullRetryDelay': 0,
**config,
}))
return app
def test_session_limit_accepts_exact_boundary_and_rejects_overflow():
sid = create_session()
previous = session_state.MAX_SESSION_BYTES
configure(max_session_bytes=10)
try:
assert add_file(sid, 'exact.bin', b'x' * 10) is True
assert add_file(sid, 'overflow.bin', b'x') is False
assert len(get_files(sid)) == 1
finally:
configure(max_session_bytes=previous)
cleanup(sid)
def test_upload_refs_rejects_actual_oversize_and_deletes_buffer():
storage = {'oversize': b'123456789'}
deleted = []
def handler(request):
if request.method == 'GET':
return httpx.Response(200, content=storage['oversize'])
if request.method == 'DELETE':
deleted.append(request.url.path)
storage.clear()
return httpx.Response(204)
return httpx.Response(405)
transport = httpx.MockTransport(handler)
app = build_app(transport, maxFileBytes=8)
sid = create_session()
try:
with app.test_client() as client:
response = client.post('/api/upload_refs', json={
'session': sid,
'files': [{
'name': 'oversize.txt',
'size': 8,
'url': 'https://vm.test/buffer/oversize',
}],
})
assert response.status_code == 200
assert response.get_json()['added'] == 0
assert get_files(sid) == []
assert deleted == ['/buffer/oversize']
assert storage == {}
finally:
cleanup(sid)
def test_upload_refs_retries_transient_pull_and_deletes_after_success():
attempts = []
deleted = []
def handler(request):
if request.method == 'GET':
attempts.append(request.url.path)
if len(attempts) == 1:
return httpx.Response(503)
return httpx.Response(200, content=b'retry-content')
if request.method == 'DELETE':
deleted.append(request.url.path)
return httpx.Response(204)
return httpx.Response(405)
transport = httpx.MockTransport(handler)
app = build_app(transport)
with app.test_client() as client:
response = client.post('/api/upload_refs', json={'files': [{
'name': 'retry.txt',
'size': 13,
'url': 'https://vm.test/buffer/retry',
}]})
assert response.status_code == 200
data = response.get_json()
assert data['added'] == 1
assert len(attempts) == 2
assert deleted == ['/buffer/retry']
cleanup(data['session'])
def test_session_ttl_removes_session():
previous = session_state.TTL_SECONDS
configure(ttl_seconds=0.05)
sid = create_session()
try:
deadline = monotonic() + 1
while monotonic() < deadline and get_files(sid) is not None:
threading.Event().wait(0.01)
assert get_files(sid) is None
finally:
configure(ttl_seconds=previous)
cleanup(sid)
+29
View File
@@ -231,3 +231,32 @@ test('uploadViaVM: прерывание через signal', async () => {
assert.equal(res.ok, false);
assert.equal(res.aborted, true);
});
test('uploadViaVM: отмена после первого файла не начинает второй PUT', async () => {
installFetch(async (url, opts) => ({
ok: true,
json: async () => ({ ok: true, session: 'partial-sid', count: 1 }),
}));
const ac = new AbortController();
const statuses = [];
const files = [new File(['first'], 'first.txt'), new File(['second'], 'second.txt')];
const p = uploadViaVM(files, {
vmUploadUrl: 'https://vm-buffer/upload/',
signal: ac.signal,
onFileStatus: (idx, status) => statuses.push({ idx, status }),
});
await tick();
assert.equal(lastXHR.url.endsWith('_0'), true);
lastXHR.status = 201;
lastXHR.onload();
ac.abort();
const res = await p;
assert.equal(res.ok, false);
assert.equal(res.aborted, true);
assert.equal(fetchCalls.length, 1);
assert.equal(lastXHR.url.endsWith('_0'), true);
assert.ok(statuses.some(({ idx, status }) => idx === 0 && status.includes('Доставлен')));
});