标签题目
限流算法相关面试题
有哪些限流算法?
限流算法常见有固定窗口、滑动窗口、漏桶和令牌桶。面试回答要讲清每种算法解决什么问题、是否允许突发流量、实现复杂度和分布式一致性取舍。
生产中的 AI 服务如何保障全天稳定运行,覆盖资源、限流、降级、监控和模型依赖治理?
这道题考 AI 服务稳定性治理。好答案要覆盖容量、GPU/模型资源、流量控制、依赖失败、降级策略、监控告警、灰度发布和故障演练。
Agent 调用外部工具失败时,如何区分短暂网络抖动、工具服务不可用和业务错误,并设计超时、重试、熔断与降级策略?
这道题考察 AI Agent 工具调用的工程可靠性设计。好的回答不能只说失败就重试,而要先把失败分类,再为不同错误配置超时、退避重试、幂等、防风暴、熔断、降级和观测告警。