SDK 用法
SDK 用法
client = OpenAI(base_url="http://<网关>/v1", api_key="<KEY>", max_retries=2, timeout=600.0)
# 官方 SDK 默认对部分错误自动退避重试,可按需覆盖业务侧建议带请求幂等键:重试与人工重发都能据此去重(见 request-id 条目)。
重试只针对可重试错误(429/502/503 与连接失败),用指数退避;重试总次数与总时长都要设预算,避免放大故障;流式中断重试要防重复输出。
client = OpenAI(base_url="http://<网关>/v1", api_key="<KEY>", max_retries=2, timeout=600.0)
# 官方 SDK 默认对部分错误自动退避重试,可按需覆盖