v5.0.63: instance-level mutex to prevent parallel operations on same resource
This commit is contained in:
@@ -128,3 +128,51 @@ tf_provider/
|
|||||||
**Остаётся риск:**
|
**Остаётся риск:**
|
||||||
- `RunInstanceOperationUniversalByCode` (client.go:1399) всё ещё делает GET — может упасть для service_operation_resource на проблемных инстансах
|
- `RunInstanceOperationUniversalByCode` (client.go:1399) всё ещё делает GET — может упасть для service_operation_resource на проблемных инстансах
|
||||||
- `CreateGenericInstanceUniversalV6` (client.go:224) — CREATE на инстансах где resourceRealm = Struct может упасть
|
- `CreateGenericInstanceUniversalV6` (client.go:224) — CREATE на инстансах где resourceRealm = Struct может упасть
|
||||||
|
|
||||||
|
---
|
||||||
|
|
||||||
|
## ⚠️ BUG: Параллельные операции на одном инстансе ломаются
|
||||||
|
|
||||||
|
**Симптом:** При создании нескольких subresource'ов (user, database) на одном postgres-инстансе:
|
||||||
|
- `ошибка API 500: Cannot connect to the orchestrator` — бэкенд не справляется с параллельными запросами
|
||||||
|
- `операция завершилась успешно, но объект не найден в state_out` — user создался, но RefreshResourceState не видит его
|
||||||
|
- `экземпляр не готов: операция в ожидании` — инстанс занят предыдущей операцией
|
||||||
|
|
||||||
|
**Причина:** Terraform по умолчанию параллелит до 10 ресурсов (`-parallelism=10`). Все операции на одном инстансе (5 user'ов + 7 database'ов) стартуют одновременно → гонка на бэкенде.
|
||||||
|
|
||||||
|
**Пример:** 2026-07-07 на инстансе `5111108D`:
|
||||||
|
- 5 user'ов создавались параллельно: user_2 ok, user_1+user_3 — orchestrator error, user_4+user_5 — state_out не найден
|
||||||
|
- 7 database'ов упали: инстанс не готов
|
||||||
|
|
||||||
|
**План исправления:** mutex map в провайдере (стандартный подход как в AWS/GCP провайдерах):
|
||||||
|
|
||||||
|
```go
|
||||||
|
// client.go — глобальная карта мьютексов
|
||||||
|
var instanceMutexes sync.Map // key: instanceUid
|
||||||
|
|
||||||
|
func (c *UniversalClient) lockInstance(instanceUid string) func() {
|
||||||
|
mu, _ := c.instanceMutexes.LoadOrStore(instanceUid, &sync.Mutex{})
|
||||||
|
mu.(*sync.Mutex).Lock()
|
||||||
|
return func() { mu.(*sync.Mutex).Unlock() }
|
||||||
|
}
|
||||||
|
```
|
||||||
|
|
||||||
|
Вызывать в каждом CRUD:
|
||||||
|
```go
|
||||||
|
unlock := client.lockInstance(instanceID)
|
||||||
|
defer unlock()
|
||||||
|
```
|
||||||
|
|
||||||
|
**Альтернативы (хуже):**
|
||||||
|
- `depends_on` цепочкой в конфиге — неудобно, требует ручной правки .tf
|
||||||
|
- `-parallelism=1` — замедляет ВСЕ ресурсы, не только subresource'ы
|
||||||
|
|
||||||
|
**Затрагивает:**
|
||||||
|
- Все subresource-операции (postgres_user, postgres_database, mariadb_user, clickhouse_user, etc.)
|
||||||
|
- Modify + delete на одном инстансе тоже могут столкнуться
|
||||||
|
|
||||||
|
**Статус:** ⚠️ OPEN — не исправлено
|
||||||
|
**Файлы для правки:**
|
||||||
|
- `/home/naeel/tf_provider/provider/internal/core/client.go` — добавить mutex map + lockInstance
|
||||||
|
- `/home/naeel/tf_provider/provider/internal/resources_core/crud.go` — добавить lock/unlock в Create/Update/Delete
|
||||||
|
- `/home/naeel/tf_provider/provider/internal/resources_core/service_operation_resource.go` — добавить lock/unlock
|
||||||
|
|||||||
@@ -2,7 +2,7 @@ terraform {
|
|||||||
required_providers {
|
required_providers {
|
||||||
nubes = {
|
nubes = {
|
||||||
source = "terra.k8c.ru/nubes-test/nubes"
|
source = "terra.k8c.ru/nubes-test/nubes"
|
||||||
version = "5.0.62"
|
version = "5.0.63"
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|||||||
@@ -50,11 +50,5 @@ resource "nubes_postgres" "npg" {
|
|||||||
adopt_existing_on_create = true
|
adopt_existing_on_create = true
|
||||||
}
|
}
|
||||||
|
|
||||||
resource "nubes_postgres_user" "pg_user" {
|
|
||||||
postgres_id = nubes_postgres.npg.id
|
|
||||||
username = "user0"
|
|
||||||
role = "ddl_user"
|
|
||||||
adopt_existing_on_create = true
|
|
||||||
}
|
|
||||||
|
|
||||||
|
|
||||||
@@ -0,0 +1,96 @@
|
|||||||
|
# =============================================================================
|
||||||
|
# PostgreSQL — пользователи (6 шт.)
|
||||||
|
# =============================================================================
|
||||||
|
resource "nubes_postgres_user" "pg_user" {
|
||||||
|
postgres_id = nubes_postgres.npg.id
|
||||||
|
username = "user0"
|
||||||
|
role = "ddl_user"
|
||||||
|
adopt_existing_on_create = true
|
||||||
|
}
|
||||||
|
|
||||||
|
resource "nubes_postgres_user" "pg_user_1" {
|
||||||
|
postgres_id = nubes_postgres.npg.id
|
||||||
|
username = "user1"
|
||||||
|
role = "ddl_user"
|
||||||
|
adopt_existing_on_create = true
|
||||||
|
}
|
||||||
|
|
||||||
|
resource "nubes_postgres_user" "pg_user_2" {
|
||||||
|
postgres_id = nubes_postgres.npg.id
|
||||||
|
username = "user2"
|
||||||
|
role = "ddl_user"
|
||||||
|
adopt_existing_on_create = true
|
||||||
|
}
|
||||||
|
|
||||||
|
resource "nubes_postgres_user" "pg_user_3" {
|
||||||
|
postgres_id = nubes_postgres.npg.id
|
||||||
|
username = "user3"
|
||||||
|
role = "ddl_user"
|
||||||
|
adopt_existing_on_create = true
|
||||||
|
}
|
||||||
|
|
||||||
|
resource "nubes_postgres_user" "pg_user_4" {
|
||||||
|
postgres_id = nubes_postgres.npg.id
|
||||||
|
username = "user4"
|
||||||
|
role = "ddl_user"
|
||||||
|
adopt_existing_on_create = true
|
||||||
|
}
|
||||||
|
|
||||||
|
resource "nubes_postgres_user" "pg_user_5" {
|
||||||
|
postgres_id = nubes_postgres.npg.id
|
||||||
|
username = "user5"
|
||||||
|
role = "ddl_user"
|
||||||
|
adopt_existing_on_create = true
|
||||||
|
}
|
||||||
|
|
||||||
|
# =============================================================================
|
||||||
|
# PostgreSQL — базы данных (7 шт.)
|
||||||
|
# =============================================================================
|
||||||
|
resource "nubes_postgres_database" "pg_db_1" {
|
||||||
|
postgres_id = nubes_postgres.npg.id
|
||||||
|
db_name = "dbapp1"
|
||||||
|
db_owner = nubes_postgres_user.pg_user_1.username
|
||||||
|
adopt_existing_on_create = true
|
||||||
|
}
|
||||||
|
|
||||||
|
resource "nubes_postgres_database" "pg_db_2" {
|
||||||
|
postgres_id = nubes_postgres.npg.id
|
||||||
|
db_name = "dbapp2"
|
||||||
|
db_owner = nubes_postgres_user.pg_user_2.username
|
||||||
|
adopt_existing_on_create = true
|
||||||
|
}
|
||||||
|
|
||||||
|
resource "nubes_postgres_database" "pg_db_3" {
|
||||||
|
postgres_id = nubes_postgres.npg.id
|
||||||
|
db_name = "dbapp3"
|
||||||
|
db_owner = nubes_postgres_user.pg_user_3.username
|
||||||
|
adopt_existing_on_create = true
|
||||||
|
}
|
||||||
|
|
||||||
|
resource "nubes_postgres_database" "pg_db_4" {
|
||||||
|
postgres_id = nubes_postgres.npg.id
|
||||||
|
db_name = "dbapp4"
|
||||||
|
db_owner = nubes_postgres_user.pg_user_4.username
|
||||||
|
adopt_existing_on_create = true
|
||||||
|
}
|
||||||
|
|
||||||
|
resource "nubes_postgres_database" "pg_db_5" {
|
||||||
|
postgres_id = nubes_postgres.npg.id
|
||||||
|
db_name = "dbapp5"
|
||||||
|
db_owner = nubes_postgres_user.pg_user_5.username
|
||||||
|
adopt_existing_on_create = true
|
||||||
|
}
|
||||||
|
|
||||||
|
resource "nubes_postgres_database" "pg_db_6" {
|
||||||
|
postgres_id = nubes_postgres.npg.id
|
||||||
|
db_name = "dbapp6"
|
||||||
|
db_owner = nubes_postgres_user.pg_user_1.username
|
||||||
|
adopt_existing_on_create = true
|
||||||
|
}
|
||||||
|
|
||||||
|
resource "nubes_postgres_database" "pg_db_7" {
|
||||||
|
postgres_id = nubes_postgres.npg.id
|
||||||
|
db_name = "dbapp7"
|
||||||
|
db_owner = nubes_postgres_user.pg_user_2.username
|
||||||
|
adopt_existing_on_create = true
|
||||||
|
}
|
||||||
@@ -3,7 +3,7 @@ NUBES_API_ENDPOINT="https://lk-api-gateway-test.ngcloud.ru/api/v1/svc"
|
|||||||
TOKEN_FILE="secrets/test.token"
|
TOKEN_FILE="secrets/test.token"
|
||||||
|
|
||||||
# Version
|
# Version
|
||||||
VERSION="5.0.62"
|
VERSION="5.0.63"
|
||||||
|
|
||||||
# Docs generation — ONLY from docs_gen/<stand>/ (never from docs/)
|
# Docs generation — ONLY from docs_gen/<stand>/ (never from docs/)
|
||||||
DOCS_GEN_DIR="provider/docs_gen/test"
|
DOCS_GEN_DIR="provider/docs_gen/test"
|
||||||
|
|||||||
@@ -21,6 +21,7 @@ import (
|
|||||||
"os"
|
"os"
|
||||||
"regexp"
|
"regexp"
|
||||||
"strings"
|
"strings"
|
||||||
|
"sync"
|
||||||
"time"
|
"time"
|
||||||
)
|
)
|
||||||
|
|
||||||
@@ -36,6 +37,19 @@ type UniversalClient struct {
|
|||||||
LogLevel string
|
LogLevel string
|
||||||
}
|
}
|
||||||
|
|
||||||
|
// instanceMutexes — глобальная карта мьютексов для сериализации операций на одном инстансе.
|
||||||
|
// Terraform параллелит ресурсы (до 10), но API Nubes не поддерживает параллельные операции
|
||||||
|
// на одном инстансе (orchestrator error, state_out inconsistency).
|
||||||
|
var instanceMutexes sync.Map
|
||||||
|
|
||||||
|
// LockInstance блокирует мьютекс для указанного instanceUid.
|
||||||
|
// Возвращает функцию unlock, которую нужно вызывать через defer.
|
||||||
|
func (c *UniversalClient) LockInstance(instanceUid string) func() {
|
||||||
|
mu, _ := instanceMutexes.LoadOrStore(instanceUid, &sync.Mutex{})
|
||||||
|
mu.(*sync.Mutex).Lock()
|
||||||
|
return func() { mu.(*sync.Mutex).Unlock() }
|
||||||
|
}
|
||||||
|
|
||||||
// isProxyAPI returns true if ApiEndpoint uses legacy ?endpoint= proxy pattern (contains "index.cfm").
|
// isProxyAPI returns true if ApiEndpoint uses legacy ?endpoint= proxy pattern (contains "index.cfm").
|
||||||
func (c *UniversalClient) isProxyAPI() bool {
|
func (c *UniversalClient) isProxyAPI() bool {
|
||||||
return strings.Contains(c.ApiEndpoint, "index.cfm")
|
return strings.Contains(c.ApiEndpoint, "index.cfm")
|
||||||
|
|||||||
@@ -51,6 +51,9 @@ func UpdateResourceWithTimeout(ctx context.Context, client *core.UniversalClient
|
|||||||
if strings.TrimSpace(instanceID) == "" {
|
if strings.TrimSpace(instanceID) == "" {
|
||||||
return fmt.Errorf("missing instance id for modify")
|
return fmt.Errorf("missing instance id for modify")
|
||||||
}
|
}
|
||||||
|
unlock := client.LockInstance(instanceID)
|
||||||
|
defer unlock()
|
||||||
|
|
||||||
ctxWithTimeout, err := core.WithOperationTimeout(ctx, operationTimeout)
|
ctxWithTimeout, err := core.WithOperationTimeout(ctx, operationTimeout)
|
||||||
if err != nil {
|
if err != nil {
|
||||||
return err
|
return err
|
||||||
@@ -70,6 +73,11 @@ func DeleteResourceWithTimeout(ctx context.Context, client *core.UniversalClient
|
|||||||
mode = "state_only"
|
mode = "state_only"
|
||||||
}
|
}
|
||||||
|
|
||||||
|
if mode != "state_only" && mode != "detach" {
|
||||||
|
unlock := client.LockInstance(instanceID)
|
||||||
|
defer unlock()
|
||||||
|
}
|
||||||
|
|
||||||
ctxWithTimeout, err := core.WithOperationTimeout(ctx, operationTimeout)
|
ctxWithTimeout, err := core.WithOperationTimeout(ctx, operationTimeout)
|
||||||
if err != nil {
|
if err != nil {
|
||||||
return err
|
return err
|
||||||
@@ -121,6 +129,9 @@ func RunOperationByCodeWithTimeout(ctx context.Context, client *core.UniversalCl
|
|||||||
if client == nil {
|
if client == nil {
|
||||||
return fmt.Errorf("missing client for operation")
|
return fmt.Errorf("missing client for operation")
|
||||||
}
|
}
|
||||||
|
unlock := client.LockInstance(instanceID)
|
||||||
|
defer unlock()
|
||||||
|
|
||||||
ctxWithTimeout, err := core.WithOperationTimeout(ctx, operationTimeout)
|
ctxWithTimeout, err := core.WithOperationTimeout(ctx, operationTimeout)
|
||||||
if err != nil {
|
if err != nil {
|
||||||
return err
|
return err
|
||||||
@@ -143,10 +154,13 @@ func adoptExistingInstanceOnCreate(ctx context.Context, client *core.UniversalCl
|
|||||||
switch state {
|
switch state {
|
||||||
case StateNotCreated:
|
case StateNotCreated:
|
||||||
// P0.2: авто-cleanup orphan-инстанса при adopt_existing_on_create=true.
|
// P0.2: авто-cleanup orphan-инстанса при adopt_existing_on_create=true.
|
||||||
|
unlock := client.LockInstance(existing.InstanceUid)
|
||||||
if err := client.RunInstanceOperationUniversal(ctx, existing.InstanceUid, "delete", nil); err != nil {
|
if err := client.RunInstanceOperationUniversal(ctx, existing.InstanceUid, "delete", nil); err != nil {
|
||||||
|
unlock()
|
||||||
return "", fmt.Errorf("не удалось авто-удалить orphan-инстанс %s (статус: %s): %w. %s",
|
return "", fmt.Errorf("не удалось авто-удалить orphan-инстанс %s (статус: %s): %w. %s",
|
||||||
existing.InstanceUid, statusText, err, formatInstanceDetails(existing, serviceID, displayName))
|
existing.InstanceUid, statusText, err, formatInstanceDetails(existing, serviceID, displayName))
|
||||||
}
|
}
|
||||||
|
unlock()
|
||||||
return client.CreateGenericInstanceUniversalV6(ctx, serviceID, displayName, params)
|
return client.CreateGenericInstanceUniversalV6(ctx, serviceID, displayName, params)
|
||||||
|
|
||||||
case StateRunning, StateRunningPending:
|
case StateRunning, StateRunningPending:
|
||||||
@@ -167,9 +181,12 @@ func adoptExistingInstanceOnCreate(ctx context.Context, client *core.UniversalCl
|
|||||||
if len(mismatches) > 0 {
|
if len(mismatches) > 0 {
|
||||||
return "", fmt.Errorf("required params mismatch for resource_name %s: %s. %s", displayName, FormatRequiredParamMismatchMessage(mismatches), formatInstanceDetails(existing, serviceID, displayName))
|
return "", fmt.Errorf("required params mismatch for resource_name %s: %s. %s", displayName, FormatRequiredParamMismatchMessage(mismatches), formatInstanceDetails(existing, serviceID, displayName))
|
||||||
}
|
}
|
||||||
|
unlock := client.LockInstance(existing.InstanceUid)
|
||||||
if err := client.RunInstanceOperationUniversal(ctx, existing.InstanceUid, "resume", nil); err != nil {
|
if err := client.RunInstanceOperationUniversal(ctx, existing.InstanceUid, "resume", nil); err != nil {
|
||||||
|
unlock()
|
||||||
return "", err
|
return "", err
|
||||||
}
|
}
|
||||||
|
unlock()
|
||||||
resumed, err := client.GetInstanceState(ctx, existing.InstanceUid)
|
resumed, err := client.GetInstanceState(ctx, existing.InstanceUid)
|
||||||
if err != nil {
|
if err != nil {
|
||||||
return "", err
|
return "", err
|
||||||
|
|||||||
@@ -83,6 +83,9 @@ func (r *ServiceOperationResource) Create(ctx context.Context, req resource.Crea
|
|||||||
return
|
return
|
||||||
}
|
}
|
||||||
|
|
||||||
|
unlock := r.client.LockInstance(instanceUID)
|
||||||
|
defer unlock()
|
||||||
|
|
||||||
if err := r.client.RunInstanceOperationUniversalByCode(ctx, instanceUID, operation, params); err != nil {
|
if err := r.client.RunInstanceOperationUniversalByCode(ctx, instanceUID, operation, params); err != nil {
|
||||||
resp.Diagnostics.AddError("Ошибка клиента", err.Error())
|
resp.Diagnostics.AddError("Ошибка клиента", err.Error())
|
||||||
return
|
return
|
||||||
@@ -127,6 +130,9 @@ func (r *ServiceOperationResource) Update(ctx context.Context, req resource.Upda
|
|||||||
return
|
return
|
||||||
}
|
}
|
||||||
|
|
||||||
|
unlock := r.client.LockInstance(instanceUID)
|
||||||
|
defer unlock()
|
||||||
|
|
||||||
if err := r.client.RunInstanceOperationUniversalByCode(ctx, instanceUID, operation, params); err != nil {
|
if err := r.client.RunInstanceOperationUniversalByCode(ctx, instanceUID, operation, params); err != nil {
|
||||||
resp.Diagnostics.AddError("Ошибка клиента", err.Error())
|
resp.Diagnostics.AddError("Ошибка клиента", err.Error())
|
||||||
return
|
return
|
||||||
|
|||||||
+1
-1
@@ -17,7 +17,7 @@ import (
|
|||||||
)
|
)
|
||||||
|
|
||||||
var (
|
var (
|
||||||
version string = "5.0.62"
|
version string = "5.0.63"
|
||||||
)
|
)
|
||||||
|
|
||||||
func main() {
|
func main() {
|
||||||
|
|||||||
Reference in New Issue
Block a user