程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
OmniRoute深度实践:构建高可用AI智能路由网关——整合多AI提供商的最佳实践
编程
OmniRoute深度实践:构建高可用AI智能路由网关——整合多AI提供商的最佳实践
2026-07-05 03:13:30 +0800 CST
view 381
深入剖析OmniRoute AI智能路由网关的架构设计与实战,涵盖统一抽象层、路由决策引擎、故障切换、负载均衡、成本优化等核心特性,附完整TypeScript代码实现。
AI
路由网关
OmniRoute
AI Provider
负载均衡
故障切换
基于 Rust Pingora 构建高性能的负载均衡器
编程
基于 Rust Pingora 构建高性能的负载均衡器
2024-11-18 08:49:35 +0800 CST
view 1969
本文介绍了使用Rust语言编写的Pingora框架,重点讲解了其高性能、低资源消耗和模块化设计的优势。通过一个简单的HTTP负载均衡器示例,展示了如何使用Pingora构建高性能的负载均衡解决方案,并介绍了健康检查、服务发现等扩展功能,适合构建高可用的网络服务。
编程
网络
负载均衡
Rust
高性能
BFE v1.8.3 AI 网关深度拆解:当企业级七层负载均衡遇见大模型推理流量治理
编程
BFE v1.8.3 AI 网关深度拆解:当企业级七层负载均衡遇见大模型推理流量治理
2026-07-20 01:13:38 +0800 CST
view 356
BFE v1.8.3 深度拆解:企业级七层负载均衡软件的 AI 网关能力升级,从三重限流、多配额认证、二进制日志到会话保持的完整工程指南
BFE
AI网关
负载均衡
LLM推理
限流
云原生
eBPF
TPM
RPM
BFE v1.8.3 深度拆解:企业级 AI 网关四件套——限流、配额、日志与会话保持
编程
BFE v1.8.3 深度拆解:企业级 AI 网关四件套——限流、配额、日志与会话保持
2026-07-20 01:14:29 +0800 CST
view 443
深度拆解 BFE v1.8.3:企业级七层负载均衡软件的 AI 网关能力升级,从三重限流、多配额认证、二进制日志到会话保持的完整工程指南
BFE
AI网关
负载均衡
LLM推理
限流
云原生
RPM
TPM
会话保持
MoE架构深度实战:当模型参数突破万亿——从DeepSeek R2到GPT-5的稀疏激活革命(2026完全指南)
编程
MoE架构深度实战:当模型参数突破万亿——从DeepSeek R2到GPT-5的稀疏激活革命(2026完全指南)
2026-06-26 00:46:56 +0800 CST
view 273
2026年,大语言模型的参数量已经突破1.2万亿(DeepSeek R2),但推理时的计算量只相当于200亿参数的稠密模型。这背后的核心技术就是Mixture of Experts(MoE)架构。本文深度解析MoE的核心原理、工程实现、负载均衡策略,以及DeepSeek R2和GPT-5中的最新优化技巧。包含完整的PyTorch代码实战,从零实现MoE层。
MoE架构
混合专家
DeepSeek R2
稀疏激活
门控网络
负载均衡
大模型推理
细粒度MoE
共享专家
GPT-5
Caddy深度拆解:Go写的Web服务器,自动HTTPS两行配置替代NGINX证书管理
编程
Caddy深度拆解:Go写的Web服务器,自动HTTPS两行配置替代NGINX证书管理
2026-07-25 21:18:33 +0800 CST
view 111
Caddy(Go写的Web服务器):56K Star、自动申请Let's Encrypt证书+自动续期、Caddyfile两行配置搞定HTTPS、内置反向代理/负载均衡/健康检查/重试机制、支持WebSocket代理、插件系统(xcaddy)扩展DNS验证/限流/缓存、相比NGINX配置更简单学习成本更低、适合个人项目/小团队/API网关/静态文件服务/本地HTTPS开发。
Caddy
Web服务器
反向代理
自动HTTPS
Go
NGINX替代
负载均衡
Let's Encrypt
Web服务器
Caddyfile
Nginx 反向代理与负载均衡深度实战:从原理到生产级部署的完整指南
编程
Nginx 反向代理与负载均衡深度实战:从原理到生产级部署的完整指南
2026-06-27 11:15:06 +0800 CST
view 303
从零开始彻底吃透 Nginx 反向代理与负载均衡:核心原理、四种负载均衡算法、Worker 进程模型、Buffer 调优策略、超时控制、限流保护、WebSocket/SSE 代理配置,以及 2026 年云原生环境下的最佳实践。
Nginx
负载均衡
反向代理
性能优化
运维
综合
HAProxy如何实现同一端口代理不同的后端服务
2024-11-19 05:42:02 +0800 CST
view 1861
本文介绍了端口复用的概念及其在网络通信中的应用,强调了在资源限制、简化配置和提高可用性等场景下的优势。通过分析协议特性,展示了如何使用Nginx和HAProxy实现端口复用的具体配置示例,指出了MySQL协议的特殊性。总结了端口复用在提高服务灵活性和可用性方面的重要性。
网络通信
负载均衡
服务配置
Spring Cloud 2026 深度实战:微服务架构全面进化——服务发现、负载均衡、Gateway 4.0 与云原生生产级落地完全指南
编程
Spring Cloud 2026 深度实战:微服务架构全面进化——服务发现、负载均衡、Gateway 4.0 与云原生生产级落地完全指南
2026-05-29 05:38:24 +0800 CST
view 715
深入解析 Spring Cloud 2026 的核心新特性:Eureka 高可用性改进、Consul Streaming Catalog、Spring Cloud LoadBalancer 替代 Ribbon、Gateway 4.0 的 HTTP/3 与自适应限流、Config 4.0 原子化配置刷新与 KMS 信封加密、Resilience4j 生产级熔断配置,以及 Virtual Threads 与微服务的协同优化。附完整架构示例与迁移指南。
Spring Cloud
微服务
云原生
Java
负载均衡
Gateway
Apache APISIX 深度拆解:从 API 网关到 AI 网关——当 Lua 脚本引擎遇上 20+ LLM 提供商,手写一个生产级 AI 流量治理平台
编程
Apache APISIX 深度拆解:从 API 网关到 AI 网关——当 Lua 脚本引擎遇上 20+ LLM 提供商,手写一个生产级 AI 流量治理平台
2026-08-03 03:43:49 +0800 CST
view 53
深度拆解Apache APISIX从API网关到AI网关的架构演进:10个AI插件构建完整LLM流量治理栈、多LLM负载均衡、Token级限流、Prompt安全三层防线、AI RAG网关层注入、Agent Skills用AI管理AI网关,附完整生产部署配置与性能基准测试
Apache APISIX
AI Gateway
LLM
API Gateway
OpenResty
Lua
etcd
Token限流
Prompt安全
RAG
多LLM路由
负载均衡
内容审核
AI Agent Skills
MCP
云原生
微服务
Nginx负载均衡详解
编程
Nginx负载均衡详解
2024-11-17 07:43:48 +0800 CST
view 1711
本文详细介绍了Nginx负载均衡的实现过程,包括安装、配置和启动Nginx,以及支持的负载均衡算法,如轮询、指定权重、IP哈希和最少连接。通过配置upstream模块,Nginx能够将客户端请求分发到多台后端服务器,提高系统的并发处理能力,并解决session共享问题。
Web服务器
负载均衡
网络技术
Kubernetes 1.36 深度实战:用户命名空间 GA、可变准入策略与 AI 工作负载——生产级安全加固与性能优化完全指南
编程
Kubernetes 1.36 深度实战:用户命名空间 GA、可变准入策略与 AI 工作负载——生产级安全加固与性能优化完全指南
2026-05-23 02:14:57 +0800 CST
view 645
Kubernetes v1.36(代号 Haru)于 2026 年 5 月正式发布,包含 70 项增强功能。本文深入解析用户命名空间 GA、可变准入策略、流式列表响应等核心特性,并通过生产级实战案例帮助你快速上手。
Kubernetes
安全加固
AI工作负载
性能优化
云原生
Kubernetes 1.36 Haru 深度解析:70 项增强背后的安全加固与 AI 工作负载革命
编程
Kubernetes 1.36 Haru 深度解析:70 项增强背后的安全加固与 AI 工作负载革命
2026-06-30 02:43:13 +0800 CST
view 504
Kubernetes 1.36 Haru 版本深度解析:User Namespaces四年磨一剑GA、可变准入策略原生替代Webhook、工作负载感知抢占解决分布式训练部分抢占故障、分片列表监听破解超大规模集群性能瓶颈。
Kubernetes 1.36
Haru
安全加固
AI工作负载
DRA
User Namespaces
Mutating Admission Policies
Kubernetes v1.36「春」深度实战:从 User Namespaces 到 Mutating Admission Policies——生产级安全加固与 AI 工作负载完全指南
编程
Kubernetes v1.36「春」深度实战:从 User Namespaces 到 Mutating Admission Policies——生产级安全加固与 AI 工作负载完全指南
2026-05-23 16:16:09 +0800 CST
view 650
Kubernetes v1.36(代号 Haru/春)深度解析:User Namespaces GA 带来的安全革新、Mutating Admission Policies 对 Webhook 的取代、AI/ML 工作负载增强,以及大规模集群调优完全指南。
Kubernetes
云原生
安全加固
AI工作负载
User Namespaces
Kubernetes 1.36 深度拆解:当容器学会「隐身」——从 User Namespaces GA、DRA 可消费容量到 PodGroup Gang 调度的工程全貌(2026)
编程
Kubernetes 1.36 深度拆解:当容器学会「隐身」——从 User Namespaces GA、DRA 可消费容量到 PodGroup Gang 调度的工程全貌(2026)
2026-07-19 10:17:29 +0800 CST
view 215
深度拆解 Kubernetes 1.36:User Namespaces GA 让容器内核级隐身,DRA 可消费容量实现 GPU 细粒度调度,Workload/PodGroup 带来原生 Gang 调度,附破坏性变更与 kubeadm 升级指南。
Kubernetes
K8s 1.36
User Namespaces
DRA
动态资源分配
Gang 调度
云原生
AI 工作负载
容器安全
Kubernetes v1.36 深度解析:安全默认配置强化与 AI 工作负载支持日趋成熟
编程
Kubernetes v1.36 深度解析:安全默认配置强化与 AI 工作负载支持日趋成熟
2026-05-17 15:49:51 +0800 CST
view 726
Kubernetes v1.36(代号 Haru)深度解析:70项增强功能,User Namespaces GA、可变准入策略、细粒度Kubelet API授权等安全特性,以及AI工作负载支持的成熟化。包含完整代码示例和性能测试。
Kubernetes
云原生
安全加固
AI工作负载
Kubernetes 1.36 Haru 深度实战:安全加固、AI工作负载与性能优化完全指南
编程
Kubernetes 1.36 Haru 深度实战:安全加固、AI工作负载与性能优化完全指南
2026-05-25 05:22:40 +0800 CST
view 517
深度解析 Kubernetes 1.36 (Haru) 版本的 70 项增强功能,重点讲解用户命名空间 GA、可变准入策略 GA、细粒度 Kubelet API 授权 GA 等安全特性,以及 GPU 共享调度、模型预热等 AI 工作负载优化,提供生产级实战案例和性能基准测试。
Kubernetes
云原生
安全加固
AI工作负载
容器编排
用户命名空间
可变准入策略
GPU调度
XY-Serve 深度实战:当昇腾 NPU 终于学会「驯服动态负载」——从元原语分解、Token级调度到 Attention/Linear 双内核优化的完整工程指南(2026)
编程
XY-Serve 深度实战:当昇腾 NPU 终于学会「驯服动态负载」——从元原语分解、Token级调度到 Attention/Linear 双内核优化的完整工程指南(2026)
2026-07-21 08:20:26 +0800 CST
view 160
华为联合清华大学开源的 XY-Serve 论文被 ASPLOS 2026 录用,解决了 NPU 上高效运行动态 LLM 负载的核心挑战。吞吐量提升95%,Attention 内核提速21.5%,Linear 内核提速14.6%。
XY-Serve
华为昇腾
NPU
LLM推理
Meta-Attention
虚拟填充
动态负载
ASPLOS
AI基础设施
Kubernetes v1.36 深度拆解:当云原生学会「原生安全」——User Namespaces GA、CEL 准入策略与 Gateway API 如何重写集群治理的心智模型
编程
Kubernetes v1.36 深度拆解:当云原生学会「原生安全」——User Namespaces GA、CEL 准入策略与 Gateway API 如何重写集群治理的心智模型
2026-07-16 02:12:48 +0800 CST
view 164
深度拆解 K8s v1.36 的 18 项 Stable 特性:User Namespaces GA、CEL 准入策略去 Webhook 化、Gateway API 接棒 Ingress NGINX、DRA 成为 AI Infra 调度核心,配可落地 YAML 实战与升级踩坑清单。
Kubernetes
v1.36
User Namespaces
Mutating Admission Policy
Gateway API
DRA
云原生
安全加固
AI工作负载
Kubernetes v1.36 深度实战:从用户命名空间 GA 到可变准入策略,云原生安全与 AI 工作负载的双重进化
编程
Kubernetes v1.36 深度实战:从用户命名空间 GA 到可变准入策略,云原生安全与 AI 工作负载的双重进化
2026-05-22 00:18:38 +0800 CST
view 769
Kubernetes v1.36(代号Haru)正式发布,包含用户命名空间GA、可变准入策略GA等70项增强功能,重点聚焦安全加固、AI/ML工作负载支持和大规模API可扩展性。
Kubernetes
云原生
容器安全
AI工作负载
Kubernetes v1.36 深度实战:当云原生安全与 AI 工作负载遇见「春」之版本——从 User Namespaces GA 到 DRA 增强的生产级完全指南(2026)
编程
Kubernetes v1.36 深度实战:当云原生安全与 AI 工作负载遇见「春」之版本——从 User Namespaces GA 到 DRA 增强的生产级完全指南(2026)
2026-06-15 20:47:01 +0800 CST
view 429
Kubernetes v1.36 代号「Haru」于2026年4月发布,包含71项增强。本文深度解析User Namespaces GA、Mutating Admission Policies、DRA增强等核心特性,并通过完整代码示例带你掌握生产级升级实战。
Kubernetes
云原生
容器编排
AI工作负载
安全加固
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调