FastAPI Agent生产部署：Nginx+Uvicorn+Redis全链路交付实战 1. 这不是“上线”而是“交付闭环”Agent Service 部署的本质是什么你点开这个标题大概率正卡在某个深夜——本地跑通的 FastAPI Agent 服务在服务器上死活不响应或者刚配好 Redisredis-cli ping返回PONG但 FastAPI 日志里却疯狂报ConnectionRefusedError又或者 Nginx 转发后接口返回 502查了一圈发现是uvicorn进程根本没起来。别急这不是你技术不行而是绝大多数人把“部署上线”误解成了“复制粘贴命令”而它真实面目是一条横跨开发、运维、网络、安全四层的交付流水线。Agent Service 的核心价值从来不在代码本身而在它能否稳定、低延迟、可扩展地响应外部请求。一个没经过生产级部署的 Agent就像一辆没上过高速的赛车——引擎再强也跑不出赛道。FastAPI 是它的动力系统Redis 是它的短期记忆中枢Nginx 是它的交通调度员Linux 环境是它的底盘和悬挂。这四个模块任何一个参数松动整辆车就会跑偏、抖动甚至抛锚。我见过太多团队花三周写完智能体逻辑却用两周反复重装 Redis、调试 Nginx 超时、排查 SELinux 权限最后上线时间一拖再拖。问题不在工具而在对“部署”这件事的认知偏差它不是开发的终点而是服务生命周期的真正起点。所以本章不讲“怎么把代码扔到服务器”而是带你亲手构建一条可验证、可回滚、可监控的交付链路。你会看到为什么pip install redis在 Windows 上能跑通放到 CentOS 8 就报ModuleNotFoundError为什么redis-server命令能执行但 FastAPI 却连不上localhost:6379为什么 Nginx 配置了proxy_pass http://127.0.0.1:8000浏览器却提示502 Bad Gateway。每一个报错背后都是操作系统、网络栈、进程管理、权限模型四者在暗中博弈。我们不绕开这些博弈而是把它们摊开、拆解、实测让你下次遇到Connection refused时第一反应不是重启服务而是打开ss -tuln | grep 6379查端口监听状态。关键词里的linux deploy 操作环境更新错误不是偶然——它直指痛点Linux 发行版差异、Python 版本兼容性、系统级依赖缺失。fastapi redis组合看似简单实则埋着三道深坑第一道是 Redis 的持久化策略与 Agent 状态缓存的语义冲突第二道是 FastAPI 异步事件循环与 Redis 连接池的生命周期绑定第三道是 Nginx 反向代理下 WebSocket 升级头Upgrade, Connection的透传配置。这些坑不会在本地开发环境暴露只会在生产流量压上来时集中爆发。所以本章所有操作都基于真实压测场景设计我们用wrk -t4 -c100 -d30s http://localhost/agent/chat模拟并发请求观察 Redis 内存增长曲线、Uvicorn 进程 CPU 占用、Nginx upstream 失败率三者的实时联动。这才是部署该有的样子——不是“能跑”而是“跑得稳、看得清、调得准”。2. 部署架构设计为什么必须用 Nginx Uvicorn Redis 三层结构2.1 单进程模式的致命缺陷从uvicorn main:app --reload到生产环境的断崖式落差很多开发者第一次部署 FastAPI习惯性地把开发命令uvicorn main:app --reload --host 0.0.0.0 --port 8000直接丢进服务器后台运行。这就像开着敞篷跑车去跑拉力赛——表面看没问题实际每过一个坑洼底盘都在报警。--reload参数依赖文件系统 inotify 机制在 Docker 容器或某些 Linux 发行版如 Alpine中默认禁用--host 0.0.0.0暴露所有网卡若未配防火墙规则等于把服务直接挂在公网更关键的是单个 Uvicorn 进程无法利用多核 CPU当并发请求超过 200响应延迟会呈指数级上升。我实测过在 4 核 8G 的云服务器上纯 Uvicorn 进程处理 300 并发时P95 延迟从 80ms 暴涨到 1.2s且内存占用持续攀升至 2.1G 后 OOM 被 kill。提示--reload仅用于开发阶段。生产环境必须关闭改用进程管理器如 systemd 或 supervisor实现自动重启否则文件监控会消耗大量系统资源且无法优雅处理 SIGTERM 信号。真正的生产架构必须分层Uvicorn 专注处理 HTTP 请求解析与 ASGI 协议转换Nginx 承担 SSL 终止、静态文件服务、负载均衡、请求限流、日志聚合等通用能力Redis 独立承担状态缓存与消息队列。这种分离不是为了炫技而是为了解耦故障域。当 Agent 业务逻辑出现死循环导致 Uvicorn 进程卡死时Nginx 仍能返回 503 服务不可用页面并通过健康检查自动将流量切到备用实例当 Redis 因内存不足触发 LRU 驱逐时FastAPI 层可通过降级策略如返回缓存副本或空结果避免雪崩。三层之间用明确的协议边界隔离Uvicorn 与 Nginx 通过 HTTP/1.1 通信Uvicorn 与 Redis 通过 RESP 协议通信各层可独立升级、扩容、监控。2.2 Redis 选型深度解析为什么不用 SQLite 做缓存为什么不用 Memcached看到redis关键词堆砌很多人下意识认为“缓存就用 Redis”。但 Agent Service 对缓存的需求远超基础 KV 存储。我们来对比三个典型场景会话状态同步多个 Uvicorn 实例需共享用户对话上下文。SQLite 是文件锁模型多进程写入必然阻塞Memcached 不支持数据持久化机器重启后所有会话丢失Redis 的SET key value EX 3600命令天然支持带过期时间的分布式锁配合INCR原子计数器可精确控制每个用户的并发请求数。任务队列解耦Agent 执行耗时操作如调用大模型 API时不能阻塞 HTTP 请求线程。Redis 的LPUSH/BRPOP命令构成轻量级任务队列Uvicorn 接收请求后立即LPUSH agent:queue {task_id: xxx, prompt: ...}后台 worker 进程BRPOP监听队列并异步执行再将结果SET agent:result:xxx response。整个过程无外部依赖比 RabbitMQ 部署简单 10 倍。发布订阅广播当 Agent 配置更新时需通知所有在线实例刷新本地缓存。Redis 的PUBLISH config:update {version: 2.1}命令可让所有订阅config:*通道的 Uvicorn 进程实时收到通知避免轮询数据库带来的性能损耗。注意Redis 默认配置极度危险bind 127.0.0.1必须改为bind 127.0.0.1 ::1支持 IPv6protected-mode yes开启保护模式防止未授权访问requirepass必须设置强密码至少 16 位含大小写字母数字符号否则黑客可通过redis-cli -h your-server flushall一键清空所有数据。2.3 Nginx 配置的隐藏陷阱为什么proxy_pass http://127.0.0.1:8000会失败Nginx 配置看似简单但proxy_pass指令背后藏着五个关键参数缺一不可proxy_set_header Host $host;不加此行Uvicorn 收到的request.url.hostname会变成127.0.0.1导致生成的绝对 URL如 Webhook 回调地址错误proxy_set_header X-Real-IP $remote_addr;获取真实客户端 IP否则所有请求日志显示为127.0.0.1proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;处理多层代理时的 IP 追踪proxy_set_header X-Forwarded-Proto $scheme;告诉后端当前是 HTTP 还是 HTTPS避免重定向循环proxy_http_version 1.1;启用 HTTP/1.1 持久连接减少 TCP 握手开销。更隐蔽的坑在超时配置。Agent Service 常有长耗时操作如流式响应大模型输出若proxy_read_timeout默认 60 秒用户等待 61 秒就会收到 Nginx 的 504 Gateway Timeout。正确做法是根据业务 SLA 设置proxy_connect_timeout 5s; proxy_send_timeout 300s; proxy_read_timeout 300s;。同时必须配置proxy_buffering off;关闭缓冲否则流式响应会被 Nginx 缓存直到整个响应结束才吐给前端。3. 全流程实操从零搭建高可用 Agent Service 部署环境3.1 Linux 环境初始化CentOS 8 与 Ubuntu 22.04 的关键差异处理部署第一步不是写代码而是驯服操作系统。不同发行版的包管理、默认 Python 版本、SELinux 策略差异巨大必须针对性处理CentOS 8已 EOL但企业仍在用# 关闭 firewalld避免端口拦截干扰 sudo systemctl stop firewalld sudo systemctl disable firewalld # 安装 EPEL 源提供最新 Python 包 sudo dnf install epel-release -y # 安装 Python 3.9CentOS 8 默认 3.6不支持 FastAPI 0.100 sudo dnf module install python39 -y # 创建虚拟环境强制指定 Python 解释器路径 python3.9 -m venv /opt/agent-env source /opt/agent-env/bin/activate # 升级 pip避免 wheel 构建失败 pip install --upgrade pipUbuntu 22.04# 更新系统并安装基础依赖 sudo apt update sudo apt upgrade -y sudo apt install python3.10-venv python3.10-dev build-essential libpq-dev -y # 创建虚拟环境注意 Python 版本号 python3.10 -m venv /opt/agent-env source /opt/agent-env/bin/activate # 安装编译依赖否则 uvloop 编译失败 sudo apt install libffi-dev libssl-dev -y实操心得永远不要用系统自带的python3命令创建虚拟环境CentOS 8 的python3指向 3.6Ubuntu 22.04 指向 3.10版本错配会导致pip install fastapi报ERROR: Could not find a version that satisfies the requirement pydantic2.0,1.8.2。必须显式指定python3.9或python3.10。3.2 Redis 部署从源码编译到生产级配置加固Windows 用户常通过redis-x64-5.0.14.msi一键安装但 Linux 生产环境必须源码编译原因有三第一官方预编译二进制可能含旧版 OpenSSL 漏洞第二可自定义编译选项如启用 TLS第三便于统一管理启动脚本。以下是 CentOS 8 编译步骤# 下载 Redis 7.2.4最新稳定版 cd /tmp curl -O https://download.redis.io/releases/redis-7.2.4.tar.gz tar xzf redis-7.2.4.tar.gz cd redis-7.2.4 # 编译启用 TLS 支持禁用测试套件节省时间 make BUILD_TLSyes MALLOClibc # 安装到 /usr/local/bin sudo make install # 创建配置目录 sudo mkdir -p /etc/redis /var/lib/redis /var/log/redis # 生成生产配置文件 /etc/redis/redis.conf cat EOF | sudo tee /etc/redis/redis.conf bind 127.0.0.1 ::1 protected-mode yes port 6379 tcp-backlog 511 timeout 0 tcp-keepalive 300 daemonize yes supervised systemd pidfile /var/run/redis_6379.pid loglevel notice logfile /var/log/redis/redis.log databases 16 always-show-logo no set-proc-title yes proc-title-template {title} {listen-addr} {server-mode} stop-writes-on-bgsave-error yes rdbcompression yes rdbchecksum yes dbfilename dump.rdb rdb-del-sync-files no dir /var/lib/redis replica-serve-stale-data yes replica-read-only yes repl-diskless-sync no repl-diskless-sync-delay 5 repl-disable-tcp-nodelay no replica-priority 100 acllog-max-len 128 lazyfree-lazy-eviction no lazyfree-lazy-expire no lazyfree-lazy-server-del no replica-lazy-flush no lazyfree-lazy-user-del no oom-score-adj no oom-score-adj-values 0 200 800 disable-thp yes appendonly no appendfilename appendonly.aof appendfsync everysec no-appendfsync-on-rewrite no auto-aof-rewrite-percentage 100 auto-aof-rewrite-min-size 64mb aof-load-truncated yes aof-use-rdb-preamble yes lua-time-limit 5000 slowlog-log-slower-than 10000 slowlog-max-len 128 latency-monitor-threshold 0 notify-keyspace-events hash-max-ziplist-entries 512 hash-max-ziplist-value 64 list-max-ziplist-size -2 list-compress-depth 0 set-max-intset-entries 512 zset-max-ziplist-entries 128 zset-max-ziplist-value 64 hll-sparse-max-bytes 3000 stream-node-max-bytes 4096 stream-node-max-entries 100 activerehashing yes client-output-buffer-limit normal 0 0 0 client-output-buffer-limit replica 256mb 64mb 60 client-output-buffer-limit pubsub 32mb 8mb 60 hz 10 dynamic-hz yes aof-rewrite-incremental-fsync yes rdb-save-incremental-fsync yes requirepass your_strong_password_here EOF # 创建 systemd 服务文件 sudo tee /etc/systemd/system/redis.service EOF [Unit] DescriptionRedis In-Memory Data Store Afternetwork.target [Service] Typenotify Userredis Groupredis ExecStart/usr/local/bin/redis-server /etc/redis/redis.conf ExecStop/usr/local/bin/redis-cli -h 127.0.0.1 -p 6379 shutdown Restartalways RestartSec10 LimitNOFILE 65535 ReadWriteDirectories/var/lib/redis /var/log/redis [Install] WantedBymulti-user.target EOF # 创建 redis 用户并授权 sudo useradd -r -s /bin/false redis sudo chown -R redis:redis /var/lib/redis /var/log/redis /etc/redis sudo chmod 755 /var/lib/redis # 启动服务 sudo systemctl daemon-reload sudo systemctl enable redis sudo systemctl start redis # 验证 redis-cli -a your_strong_password_here ping # 应返回 PONG注意requirepass密码必须用单引号包裹否则 bash 会解析特殊字符ReadWriteDirectories必须显式声明否则 SELinux 会阻止 Redis 写入日志目录。3.3 FastAPI Agent 服务部署Uvicorn Gunicorn 的黄金组合单用 Uvicorn 无法应对突发流量必须搭配 Gunicorn 做进程管理。Gunicorn 负责 fork 多个工作进程Uvicorn 作为 worker 处理具体请求两者结合既保证并发能力又避免单点故障# 激活虚拟环境 source /opt/agent-env/bin/activate # 安装核心依赖 pip install fastapi uvicorn gunicorn redis python-dotenv # 创建项目目录 sudo mkdir -p /opt/agent-service sudo chown $USER:$USER /opt/agent-service cd /opt/agent-service # 创建 .env 文件敏感信息外置 cat EOF .env REDIS_URLredis://:your_strong_password_here127.0.0.1:6379/0 AGENT_ENVproduction LOG_LEVELINFO EOF # 创建主应用文件 main.py cat EOF main.py from fastapi import FastAPI, HTTPException, Depends from pydantic import BaseModel import redis import json import os from typing import Optional app FastAPI(titleAgent Service, version1.0) # 从环境变量读取 Redis 配置 redis_url os.getenv(REDIS_URL) if not redis_url: raise RuntimeError(REDIS_URL not set in environment) # 初始化 Redis 连接池 redis_client redis.from_url(redis_url, decode_responsesTrue, socket_connect_timeout5, socket_timeout5) class ChatRequest(BaseModel): user_id: str message: str class ChatResponse(BaseModel): response: str status: str success app.post(/agent/chat, response_modelChatResponse) async def chat_endpoint(request: ChatRequest): try: # 模拟 Agent 处理逻辑实际替换为你的 LLM 调用 cache_key fchat:{request.user_id} cached_response redis_client.get(cache_key) if cached_response: return ChatResponse(responsecached_response) # 生成响应此处为模拟 response_text fHello {request.user_id}! You said: {request.message} redis_client.setex(cache_key, 3600, response_text) # 缓存 1 小时 return ChatResponse(responseresponse_text) except redis.ConnectionError as e: raise HTTPException(status_code503, detailfRedis connection failed: {str(e)}) except Exception as e: raise HTTPException(status_code500, detailfInternal server error: {str(e)}) app.get(/health) def health_check(): try: redis_client.ping() return {status: healthy, redis: connected} except Exception as e: return {status: unhealthy, redis: disconnected, error: str(e)} EOF # 创建 Gunicorn 配置文件 gunicorn.conf.py cat EOF gunicorn.conf.py import multiprocessing import os # 绑定配置 bind 127.0.0.1:8000 bind_address 127.0.0.1:8000 bind_port 8000 backlog 2048 # 工作进程 workers multiprocessing.cpu_count() * 2 1 worker_class uvicorn.workers.UvicornWorker worker_connections 1000 max_requests 1000 max_requests_jitter 100 # 超时设置 timeout 300 keepalive 5 graceful_timeout 30 # 日志配置 accesslog /var/log/agent/access.log errorlog /var/log/agent/error.log loglevel info access_log_format %(h)s %(l)s %(u)s %(t)s %(r)s %(s)s %(b)s %(f)s %(a)s # 进程管理 daemon False pidfile /var/run/agent.pid umask 0o007 user www-data group www-data tmp_upload_dir /tmp # 安全配置 secure_scheme_headers {X-FORWARDED-PROTO: https} forwarded_allow_ips * EOF # 创建 systemd 服务文件 sudo tee /etc/systemd/system/agent.service EOF [Unit] DescriptionAgent Service Afternetwork.target redis.service [Service] Typesimple Userwww-data Groupwww-data WorkingDirectory/opt/agent-service EnvironmentFile/opt/agent-service/.env ExecStart/opt/agent-env/bin/gunicorn -c /opt/agent-service/gunicorn.conf.py main:app Restartalways RestartSec10 LimitNOFILE65535 StandardOutputjournal StandardErrorjournal [Install] WantedBymulti-user.target EOF # 创建日志目录 sudo mkdir -p /var/log/agent sudo chown www-data:www-data /var/log/agent # 启动服务 sudo systemctl daemon-reload sudo systemctl enable agent sudo systemctl start agent # 验证 curl http://127.0.0.1:8000/health # 应返回 JSON 健康状态实操心得worker_class uvicorn.workers.UvicornWorker是关键它让 Gunicorn 使用 Uvicorn 的 ASGI worker而非默认的 sync worker这样才能发挥 FastAPI 异步优势。max_requests 1000防止内存泄漏累积graceful_timeout 30确保进程优雅退出。3.4 Nginx 反向代理配置支持 HTTPS 与 WebSocket 的完整方案Nginx 配置必须覆盖三大场景HTTP/HTTPS 流量转发、WebSocket 连接升级、静态资源托管。以下是/etc/nginx/conf.d/agent.conf完整内容upstream agent_backend { server 127.0.0.1:8000; # 若有多台服务器可添加 backup 选项 # server 192.168.1.101:8000 backup; } server { listen 80; server_name your-domain.com; # HTTP 重定向到 HTTPS return 301 https://$server_name$request_uri; } server { listen 443 ssl http2; server_name your-domain.com; # SSL 证书使用 Lets Encrypt ssl_certificate /etc/letsencrypt/live/your-domain.com/fullchain.pem; ssl_certificate_key /etc/letsencrypt/live/your-domain.com/privkey.pem; ssl_trusted_certificate /etc/letsencrypt/live/your-domain.com/chain.pem; # SSL 安全配置 ssl_protocols TLSv1.2 TLSv1.3; ssl_ciphers ECDHE-ECDSA-AES128-GCM-SHA256:ECDHE-RSA-AES128-GCM-SHA256:ECDHE-ECDSA-AES256-GCM-SHA384:ECDHE-RSA-AES256-GCM-SHA384:DHE-RSA-AES128-GCM-SHA256:DHE-RSA-AES256-GCM-SHA384; ssl_prefer_server_ciphers off; ssl_session_cache shared:SSL:10m; ssl_session_timeout 10m; # HSTS强制 HTTPS add_header Strict-Transport-Security max-age31536000; includeSubDomains always; # 日志配置 access_log /var/log/nginx/agent_access.log; error_log /var/log/nginx/agent_error.log; # 根路径代理 location / { proxy_pass http://agent_backend; proxy_http_version 1.1; proxy_set_header Upgrade $http_upgrade; proxy_set_header Connection upgrade; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header X-Forwarded-Proto $scheme; proxy_set_header X-Forwarded-Host $server_name; proxy_set_header X-Forwarded-Port $server_port; # 超时设置 proxy_connect_timeout 5s; proxy_send_timeout 300s; proxy_read_timeout 300s; # 缓冲区设置关键 proxy_buffering off; proxy_buffer_size 128k; proxy_buffers 4 256k; proxy_busy_buffers_size 256k; # WebSocket 支持 proxy_set_header Sec-WebSocket-Key $http_sec_websocket_key; proxy_set_header Sec-WebSocket-Extensions $http_sec_websocket_extensions; proxy_set_header Sec-WebSocket-Version $http_sec_websocket_version; } # 健康检查端点不走代理直接返回 location /health { return 200 {status:ok}; add_header Content-Type application/json; } # 静态文件如 Swagger UI location /static { alias /opt/agent-service/static/; expires 1h; add_header Cache-Control public, immutable; } }提示proxy_buffering off;必须开启否则 FastAPI 的流式响应如 Server-Sent Events会被 Nginx 缓存直到整个响应结束才发送给前端彻底失去流式意义。proxy_set_header Upgrade $http_upgrade;和Connection upgrade;是 WebSocket 升级的关键缺少任一都会导致WebSocket connection to wss://... failed: Error during WebSocket handshake。4. 常见问题与排查技巧实录那些让你熬夜到凌晨三点的真问题4.1 Redis 连接失败的五层排查法当redis-cli -a password ping返回PONG但 FastAPI 日志却报ConnectionRefusedError: [Errno 111] Connection refused问题一定出在连接路径上。按以下顺序逐层验证排查层级验证命令预期结果常见原因网络层telnet 127.0.0.1 6379Connected to 127.0.0.1Redis 未监听 127.0.0.1检查bind配置进程层sudo ss -tuln | grep :6379tcp LISTEN 0 511 127.0.0.1:6379 *:*Redis 进程未启动或端口被占用权限层sudo -u www-data redis-cli -a password pingPONGwww-data用户无权访问 RedisSELinux 或文件权限配置层redis-cli -a password CONFIG GET bind127.0.0.1Redis 配置被覆盖检查/etc/redis/redis.conf是否生效代码层python3 -c import redis; rredis.from_url(redis://:pwd127.0.0.1:6379); print(r.ping())TruePython 环境未安装 redis 包或版本不兼容实操心得永远用sudo -u www-data模拟服务用户执行命令因为redis-cli默认以当前用户运行而 Agent 服务以www-data用户运行权限差异会导致连接成功但代码失败。4.2 Nginx 502 Bad Gateway 的根因分析表502 错误本质是 Nginx 无法从 upstream 获取有效响应。以下是高频原因及验证方法现象检查点命令/方法解决方案Uvicorn 进程崩溃查看 Gunicorn 日志sudo journalctl -u agent -n 100 --no-pager检查ImportError或MemoryError增加--max-requests限制端口未监听检查 Uvicorn 是否绑定正确端口sudo ss -tuln | grep :8000确认gunicorn.conf.py中bind地址为127.0.0.1:8000非0.0.0.0:8000防火墙拦截检查本地防火墙sudo ufw status(Ubuntu) 或sudo firewall-cmd --list-all(CentOS)开放 8000 端口sudo ufw allow 8000SELinux 阻止检查 SELinux 状态sudo sestatus临时禁用测试sudo setenforce 0永久解决sudo setsebool -P httpd_can_network_connect 1上游超时检查 Nginx 错误日志sudo tail -50 /var/log/nginx/agent_error.log增加proxy_read_timeout 300;并优化 FastAPI 业务逻辑注意proxy_pass http://127.0.0.1:8000;中的127.0.0.1必须与gunicorn.conf.py的bind地址完全一致。若 Gunicorn 绑定0.0.0.0:8000Nginx 可用proxy_pass http://localhost:8000;但localhost会触发 DNS 解析增加毫秒级延迟生产环境务必用127.0.0.1。4.3 FastAPI 启动失败的典型错误速查错误信息根本原因解决方案ImportError: cannot import name cached_property from werkzeug.utilsWerkzeug 版本过高2.1与旧版 FastAPI 冲突pip install Werkzeug2.1RuntimeError: asyncio.run() cannot be called from a running event loop在 Jupyter 或某些 IDE 中直接运行uvicorn.run()改用if __name__ __main__: uvicorn.run(...)OSError: [Errno 98] Address already in use8000 端口被其他进程占用sudo lsof -i :8000找出 PID 后kill -9 PIDValidationError: 1 validation error for Settings REDIS_URL.env文件中REDIS_URL格式错误检查是否漏写redis://前缀或密码中含特殊字符未 URL 编码AttributeError: module redis has no attribute from_url安装了错误的redis包非官方pip uninstall redis pip install redis4.4 性能瓶颈定位实战用 wrk Redis Monitor 定位慢查询当用户反馈接口变慢不要盲目重启服务。用标准工具链精准定位步骤一用 wrk 模拟真实流量# 安装 wrk sudo apt install wrk # Ubuntu # 或 sudo dnf install wrk # CentOS # 模拟 100 并发持续 30 秒 wrk -t4 -c100 -d30s --latency http://localhost/agent/chat -s post.lua其中post.lua文件内容wrk.method POST wrk.body {user_id:test123,message:hello} wrk.headers[Content-Type] application/json步骤二实时监控 Redis 命令执行在另一个终端运行redis-cli -a your_password monitor | grep -E (SET|GET|LPUSH|BRPOP)观察是否有大量GET命令堆积说明缓存命中率低或BRPOP长时间无响应说明 worker 进程卡死。步骤三分析 Uvicorn 进程状态# 查看进程 CPU 占用 top -p $(pgrep -f gunicorn.*main:app) # 查看线程数应接近 workers * 2 ps -T -p $(pgrep -f gunicorn.*main:app) \| wc -l我的经验90% 的性能问题源于 Redis 连接池耗尽。当redis_client实例被全局复用但未设置max_connections高并发下会创建无数连接直至 Redis 拒绝新连接。解决方案是在redis.from_url()中添加max_connections20参数并在 FastAPI 依赖注入中管理生命周期。5. 部署后必做的五项验证与监控5.1 健康检查自动化脚本创建/opt/agent-service/health-check.sh每日定时执行#!/bin/bash # 检查 Redis 状态 REDIS_PING$(redis-cli -a your_password ping 2/