并发限制：在途请求数上闸

并发限制控制同时在途的请求数：Nginx limit_conn 按连接数上闸，应用网关用信号量/队列上限；它约束的是「同时干多少活」，与速率限流互补。

Nginx limit_conn 片段

limit_conn_zone $binary_remote_addr zone=conn:10m;

location /v1/ {
    limit_conn conn 20;
    proxy_pass http://127.0.0.1:8000;
}

网关并发上限建议略高于引擎容量：多出的部分排队；超过则回 429，而不是无限等。

‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌