程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
负载均衡 相关技术文章
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
LVS 四层负载均衡 + gRPC 长连接:8 台后端只有 1 台扛 CPU,78 条连接扛住 6000 QPS
综合
LVS 四层负载均衡 + gRPC 长连接:8 台后端只有 1 台扛 CPU,78 条连接扛住 6000 QPS
2026-09-20 20:01:58
keepalived + LVS DR 后端 8 台 gRPC 服务,CPU 却总有一台冲到 90%+:78 条活跃连接扛着 6000 QPS,30 秒只有 9 次 TCP 建连。根因是四层 LB 的公平粒度是「连接」不是「请求」。本文用 ipvsadm、tcpdump SYN 抓包逐层定位,给出 MaxConnectionAge 连接轮换、L7 兜底与连接倾斜巡检脚本。
LVS
gRPC
负载均衡
运维排查
keepalived
Nginx
软件系统中的冗余:它是什么、如何工作、何时使用
编程
软件系统中的冗余:它是什么、如何工作、何时使用
2026-09-07 07:12:42
Dev.to 系统设计文章讲解软件冗余:服务器、数据库、网络三类冗余的实现方式,高可用、降停机的收益与额外成本权衡,以及关键路径和单点故障组件优先冗余的判断标准。
系统设计
冗余
高可用
负载均衡
可靠性
架构
边缘节点部署的延迟真相:58% vs 29% 的实测之外,热点和容量才是大坑
编程
边缘节点部署的延迟真相:58% vs 29% 的实测之外,热点和容量才是大坑
2026-08-31 00:07:08
用大规模延迟实测数据(58% 端到边缘 <10ms vs 云 29%)说明边缘部署的真实收益与坑:延迟分布呈幂律导致热点、边缘服务器容量受限、非均匀部署与负载均衡的必要性,以及什么时候边缘化不值得。
Edge计算
边缘计算
CDN
延迟
负载均衡
Apache APISIX 深度拆解:从 API 网关到 AI 网关——当 Lua 脚本引擎遇上 20+ LLM 提供商,手写一个生产级 AI 流量治理平台
编程
Apache APISIX 深度拆解:从 API 网关到 AI 网关——当 Lua 脚本引擎遇上 20+ LLM 提供商,手写一个生产级 AI 流量治理平台
2026-08-03 03:43:49
深度拆解Apache APISIX从API网关到AI网关的架构演进:10个AI插件构建完整LLM流量治理栈、多LLM负载均衡、Token级限流、Prompt安全三层防线、AI RAG网关层注入、Agent Skills用AI管理AI网关,附完整生产部署配置与性能基准测试
Apache APISIX
AI Gateway
LLM
API Gateway
OpenResty
Lua
etcd
Token限流
Prompt安全
RAG
多LLM路由
负载均衡
内容审核
AI Agent Skills
MCP
云原生
微服务
Caddy深度拆解:Go写的Web服务器,自动HTTPS两行配置替代NGINX证书管理
编程
Caddy深度拆解:Go写的Web服务器,自动HTTPS两行配置替代NGINX证书管理
2026-07-25 21:18:33
Caddy(Go写的Web服务器):56K Star、自动申请Let's Encrypt证书+自动续期、Caddyfile两行配置搞定HTTPS、内置反向代理/负载均衡/健康检查/重试机制、支持WebSocket代理、插件系统(xcaddy)扩展DNS验证/限流/缓存、相比NGINX配置更简单学习成本更低、适合个人项目/小团队/API网关/静态文件服务/本地HTTPS开发。
Caddy
Web服务器
反向代理
自动HTTPS
Go
NGINX替代
负载均衡
Let's Encrypt
Web服务器
Caddyfile
BFE v1.8.3 深度拆解:企业级 AI 网关四件套——限流、配额、日志与会话保持
编程
BFE v1.8.3 深度拆解:企业级 AI 网关四件套——限流、配额、日志与会话保持
2026-07-20 01:14:29
深度拆解 BFE v1.8.3:企业级七层负载均衡软件的 AI 网关能力升级,从三重限流、多配额认证、二进制日志到会话保持的完整工程指南
BFE
AI网关
负载均衡
LLM推理
限流
云原生
RPM
TPM
会话保持
BFE v1.8.3 AI 网关深度拆解:当企业级七层负载均衡遇见大模型推理流量治理
编程
BFE v1.8.3 AI 网关深度拆解:当企业级七层负载均衡遇见大模型推理流量治理
2026-07-20 01:13:38
BFE v1.8.3 深度拆解:企业级七层负载均衡软件的 AI 网关能力升级,从三重限流、多配额认证、二进制日志到会话保持的完整工程指南
BFE
AI网关
负载均衡
LLM推理
限流
云原生
eBPF
TPM
RPM
OmniRoute深度实践:构建高可用AI智能路由网关——整合多AI提供商的最佳实践
编程
OmniRoute深度实践:构建高可用AI智能路由网关——整合多AI提供商的最佳实践
2026-07-05 03:13:30
深入剖析OmniRoute AI智能路由网关的架构设计与实战,涵盖统一抽象层、路由决策引擎、故障切换、负载均衡、成本优化等核心特性,附完整TypeScript代码实现。
AI
路由网关
OmniRoute
AI Provider
负载均衡
故障切换
Nginx 反向代理与负载均衡深度实战:从原理到生产级部署的完整指南
编程
Nginx 反向代理与负载均衡深度实战:从原理到生产级部署的完整指南
2026-06-27 11:15:06
从零开始彻底吃透 Nginx 反向代理与负载均衡:核心原理、四种负载均衡算法、Worker 进程模型、Buffer 调优策略、超时控制、限流保护、WebSocket/SSE 代理配置,以及 2026 年云原生环境下的最佳实践。
Nginx
负载均衡
反向代理
性能优化
运维
MoE架构深度实战:当模型参数突破万亿——从DeepSeek R2到GPT-5的稀疏激活革命(2026完全指南)
编程
MoE架构深度实战:当模型参数突破万亿——从DeepSeek R2到GPT-5的稀疏激活革命(2026完全指南)
2026-06-26 00:46:56
2026年,大语言模型的参数量已经突破1.2万亿(DeepSeek R2),但推理时的计算量只相当于200亿参数的稠密模型。这背后的核心技术就是Mixture of Experts(MoE)架构。本文深度解析MoE的核心原理、工程实现、负载均衡策略,以及DeepSeek R2和GPT-5中的最新优化技巧。包含完整的PyTorch代码实战,从零实现MoE层。
MoE架构
混合专家
DeepSeek R2
稀疏激活
门控网络
负载均衡
大模型推理
细粒度MoE
共享专家
GPT-5
Spring Cloud 2026 深度实战:微服务架构全面进化——服务发现、负载均衡、Gateway 4.0 与云原生生产级落地完全指南
编程
Spring Cloud 2026 深度实战:微服务架构全面进化——服务发现、负载均衡、Gateway 4.0 与云原生生产级落地完全指南
2026-05-29 05:38:24
深入解析 Spring Cloud 2026 的核心新特性:Eureka 高可用性改进、Consul Streaming Catalog、Spring Cloud LoadBalancer 替代 Ribbon、Gateway 4.0 的 HTTP/3 与自适应限流、Config 4.0 原子化配置刷新与 KMS 信封加密、Resilience4j 生产级熔断配置,以及 Virtual Threads 与微服务的协同优化。附完整架构示例与迁移指南。
Spring Cloud
微服务
云原生
Java
负载均衡
Gateway
Nginx负载均衡详解
编程
Nginx负载均衡详解
2024-11-17 07:43:48
本文详细介绍了Nginx负载均衡的实现过程,包括安装、配置和启动Nginx,以及支持的负载均衡算法,如轮询、指定权重、IP哈希和最少连接。通过配置upstream模块,Nginx能够将客户端请求分发到多台后端服务器,提高系统的并发处理能力,并解决session共享问题。
Web服务器
负载均衡
网络技术
基于 Rust Pingora 构建高性能的负载均衡器
编程
基于 Rust Pingora 构建高性能的负载均衡器
2024-11-18 08:49:35
本文介绍了使用Rust语言编写的Pingora框架,重点讲解了其高性能、低资源消耗和模块化设计的优势。通过一个简单的HTTP负载均衡器示例,展示了如何使用Pingora构建高性能的负载均衡解决方案,并介绍了健康检查、服务发现等扩展功能,适合构建高可用的网络服务。
编程
网络
负载均衡
Rust
高性能
综合
HAProxy如何实现同一端口代理不同的后端服务
2024-11-19 05:42:02
本文介绍了端口复用的概念及其在网络通信中的应用,强调了在资源限制、简化配置和提高可用性等场景下的优势。通过分析协议特性,展示了如何使用Nginx和HAProxy实现端口复用的具体配置示例,指出了MySQL协议的特殊性。总结了端口复用在提高服务灵活性和可用性方面的重要性。
网络通信
负载均衡
服务配置
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
python
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调