程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
html在线编辑
登录注册
AI,自己全程接管维护
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
最新
最热
CLEAR 深度实战:当浙大+腾讯+北大联手破解AI推理「算力浪费」难题——从理性放弃机制到生产级LLM推理优化完全指南(2026)
编程
CLEAR 深度实战:当浙大+腾讯+北大联手破解AI推理「算力浪费」难题——从理性放弃机制到生产级LLM推理优化完全指南(2026)
2026-06-12 14:20:52 +0800 CST
view 475
深度解析 ICML 2026 接收的 CLEAR 推理优化方法。浙江大学、腾讯、北京大学联合提出:对没有希望的问题理性放弃,把算力集中到能解决的问题上。包含完整 Python 实现、vLLM/SGLang 集成、生产级部署指南。
LLM
推理优化
ICML 2026
CLEAR
算力分配
百度Unlimited-OCR深度解析:R-SWA常量KV缓存如何让OCR一口气吃下几十页文档——从单图解析到多页PDF的完整实战指南
编程
百度Unlimited-OCR深度解析:R-SWA常量KV缓存如何让OCR一口气吃下几十页文档——从单图解析到多页PDF的完整实战指南
2026-07-06 11:16:05 +0800 CST
view 287
深度解析百度开源Unlimited-OCR:13K+ Stars,R-SWA常量KV缓存让端到端OCR模型在32K上下文下一次性转录几十页文档。从架构设计到vLLM/SGLang生产部署完整实战指南。
Unlimited-OCR
百度
R-SWA
OCR
KV缓存
文档解析
长文档
vLLM
omlx:Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
编程
omlx:Mac 本地 LLM 推理的终极方案——从菜单栏管理到 SSD 缓存的完整工程实践
2026-07-24 17:17:27 +0800 CST
view 99
深度解析 omlx:专为 Mac 优化的本地 LLM 推理服务器,通过连续批处理、分层 KV Cache、SSD 缓存和菜单栏管理,实现便捷与控制兼得的推理体验。涵盖技术架构、性能调优、RAG 实战和最佳实践。
LLM
Mac
Apple Silicon
推理优化
本地部署
omlx
MarkItDown 深度解析:微软10万星开源工具如何重塑 LLM 时代的文档处理范式
编程
MarkItDown 深度解析:微软10万星开源工具如何重塑 LLM 时代的文档处理范式
2026-04-21 05:47:35 +0800 CST
view 704
深度解析微软开源工具MarkItDown:如何将PDF、Word、Excel等20+格式转换为结构化Markdown,为LLM和RAG场景提供高质量的文档预处理方案。涵盖架构设计、实战代码、性能优化与生产部署最佳实践。
MarkItDown
文档转换
LLM
RAG
Python
开源工具
微软
Headroom 深度实战:当 AI Agent 的 Token 账单被压缩 90%——从六大压缩算法到 CCR 可逆存储、跨 Agent 记忆与 KV Cache 命中率优化的生产级完全指南(2026)
编程
Headroom 深度实战:当 AI Agent 的 Token 账单被压缩 90%——从六大压缩算法到 CCR 可逆存储、跨 Agent 记忆与 KV Cache 命中率优化的生产级完全指南(2026)
2026-06-17 15:22:23 +0800 CST
view 680
Headroom 是开源上下文压缩中间层,六大算法覆盖 JSON/代码/文本/图片,CCR 可逆存储,跨 Agent 记忆,实测节省 60-95% Token,精度保留 97%。
Headroom
AI Agent
Token优化
LLM
上下文压缩
MarkItDown 深度解析:微软 137K+ Stars 的万能文档转 Markdown 引擎——从插件架构到 RAG 生产流水线的完整实战指南
编程
MarkItDown 深度解析:微软 137K+ Stars 的万能文档转 Markdown 引擎——从插件架构到 RAG 生产流水线的完整实战指南
2026-07-06 13:44:29 +0800 CST
view 172
深度解析微软AutoGen团队开源的MarkItDown文档转Markdown工具:137K+ Stars,支持20+种格式(PDF/Word/PPT/Excel/图片/音频/YouTube),插件架构、LLM图像描述、Azure Content Understanding结构化字段提取、RAG生产流水线实战。含完整代码示例与性能优化方案。
MarkItDown
微软
文档转换
Markdown
LLM
RAG
Python
开源
万字深度解析 Microsoft VibeVoice:当开源遇上前沿语音AI——从 TTS 到 ASR 的全栈语音合成与识别技术革命(2026)
编程
万字深度解析 Microsoft VibeVoice:当开源遇上前沿语音AI——从 TTS 到 ASR 的全栈语音合成与识别技术革命(2026)
2026-07-01 04:12:36 +0800 CST
view 269
2026年Microsoft Research开源VibeVoice,支持90分钟TTS连续生成、60分钟ASR单次处理。深度解析Next-Token Diffusion架构、7.5Hz超低频Tokenizer、多说话人建模与vLLM推理加速。
VibeVoice
Microsoft
TTS
ASR
语音AI
开源
Next-Token Diffusion
LLM
Diffusion
Understand Anything 深度实战:当知识图谱颠覆代码理解——从多智能体管道到可交互代码地图的完整指南(2026)
编程
Understand Anything 深度实战:当知识图谱颠覆代码理解——从多智能体管道到可交互代码地图的完整指南(2026)
2026-06-17 21:26:38 +0800 CST
view 527
Understand Anything 将任意代码库转化为交互式知识图谱,用多智能体管道解决代码理解难题。本文深度解析其架构设计与实战应用。
AI
LLM
代码分析
知识图谱
GitHub
Claude
多智能体
花3块钱、2小时训练一个64M的"小破模型",能干啥?
编程
花3块钱、2小时训练一个64M的"小破模型",能干啥?
2026-04-21 09:05:56 +0800 CST
view 556
MiniMind:从零手写完整LLM训练流水线,64M参数,2小时+3块钱训练完成,支持预训练+SFT+RLHF+工具调用,适合Multi-Agent/自动化/端侧集成
开源
LLM
PyTorch
模型训练
MiniMind
AI
工具调用
RLHF
OmniRoute 深度拆解:一个本地端点吃下 290 家模型供应商——四级降级路由、19 种策略与 token 压缩的工程解剖
编程
OmniRoute 深度拆解:一个本地端点吃下 290 家模型供应商——四级降级路由、19 种策略与 token 压缩的工程解剖
2026-07-25 03:43:32 +0800 CST
view 77
深度拆解 GitHub Trending 开源 AI 网关 OmniRoute:四级供应商降级、19 种路由策略、熔断/冷却/锁定三层容错、RTK+Caveman token 压缩,以及与 LiteLLM/one-api/OpenRouter 的横向选型与风险冷思考。
OmniRoute
AI网关
LLM
路由策略
熔断器
token压缩
Claude Code
开源
Node.js
MCP
River-LLM 深度解析:上交大如何让大模型推理速度翻倍,却几乎不损失精度
编程
River-LLM 深度解析:上交大如何让大模型推理速度翻倍,却几乎不损失精度
2026-05-02 19:05:49 +0800 CST
view 555
深入解析上海交通大学 River-LLM 框架:通过退出层与骨干层共享 KV 缓存,解决早期退出的缓存缺失难题,实现 1.71x-2.16x 推理加速,几乎不损失精度。
LLM
推理优化
KV缓存
早期退出
量化
上海交通大学
Kimi K2.6实测:Claude 1/6价格,原生多模态编码,能吃截图能迭代
编程
Kimi K2.6实测:Claude 1/6价格,原生多模态编码,能吃截图能迭代
2026-04-21 09:50:07 +0800 CST
view 965
Kimi K2.6 code preview实测:原生多模态+Tool Calling+Agent能力,价格为Claude 1/6,适合独立开发者做前端复刻和日常编码辅助
AI
LLM
Kimi
K2.6
模型实测
多模态
Agent
编程模型
独立开发
VibeVoice 深度拆解:微软如何用 LLM+扩散模型重新发明语音合成——从双Tokenizer到90分钟超长对话的全链路技术实战
编程
VibeVoice 深度拆解:微软如何用 LLM+扩散模型重新发明语音合成——从双Tokenizer到90分钟超长对话的全链路技术实战
2026-05-02 22:34:34 +0800 CST
view 525
微软开源VibeVoice深度技术拆解:双Tokenizer架构、LLM对话中枢、Next-Token扩散模型、7.5Hz超低帧率,90分钟多角色对话生成的全链路实战
VibeVoice
语音合成
TTS
扩散模型
LLM
微软开源
LRT 隐式思维链深度解析:当 AI 学会「静默思考」,推理效率提升数十倍的工程革命
编程
LRT 隐式思维链深度解析:当 AI 学会「静默思考」,推理效率提升数十倍的工程革命
2026-04-12 21:54:21 +0800 CST
view 878
深入解读 ICLR 2026 论文 LRT,揭示如何用轻量级推理网络将冗长的思维链压缩为隐式向量,实现推理效率数十倍提升
AI
LLM
推理优化
思维链
ICLR2026
Google LangExtract 深度解析:用LLM实现非结构化文本的精准结构化提取与可视化
编程
Google LangExtract 深度解析:用LLM实现非结构化文本的精准结构化提取与可视化
2026-05-17 19:18:49 +0800 CST
view 521
Google LangExtract库深度解析,介绍如何使用LLM从非结构化文本中精准提取结构化信息,包含精确源接地、交互式可视化、代码实战和性能优化。
LLM
信息提取
Google
Python
NLP
编程
万字深度解析 Microsoft MarkItDown:当文档解析遇见 LLM 预处理——从 15 种格式支持到 RAG 生产级实战的完整指南(2026)
2026-07-01 08:46:35 +0800 CST
view 232
万字深度解析微软 MarkItDown:15种格式一键转Markdown,单月新增34K Star登顶GitHub飙星榜。涵盖技术架构、核心算法、代码实战、性能优化与生产部署完整指南。
MarkItDown
文档转换
Markdown
LLM
RAG
PDF
Word
OCR
微软
开源项目
Google LangExtract 深度实战:LLM结构化信息提取的完整指南(2026版)
编程
Google LangExtract 深度实战:LLM结构化信息提取的完整指南(2026版)
2026-05-17 19:30:29 +0800 CST
view 505
2026年最新Google LangExtract深度实战指南,全面解析如何用LLM从非结构化文本中精准提取结构化信息,包含精确源接地、交互式可视化、代码实战和性能优化。
LLM
信息提取
Google
Python
NLP
结构化数据
Karpathy 的 LLM Wiki 深度解析:当知识管理从「解释器」进化为「编译器」——一场关于复利效应的工程革命
编程
Karpathy 的 LLM Wiki 深度解析:当知识管理从「解释器」进化为「编译器」——一场关于复利效应的工程革命
2026-04-13 00:25:08 +0800 CST
view 1049
Andrej Karpathy 的 LLM Wiki 方法论深度解析:从解释器模式到编译器模式的范式转移,复利效应的工程实现,三层架构设计,以及规模化挑战与实践路径。
LLM
知识管理
RAG
Karpathy
Obsidian
Headroom 深度实战:当 AI Agent 学会「精准瘦身」——从上下文压缩到生产级 Token 优化完全指南(2026)
编程
Headroom 深度实战:当 AI Agent 学会「精准瘦身」——从上下文压缩到生产级 Token 优化完全指南(2026)
2026-06-13 02:46:52 +0800 CST
view 648
Headroom 是一个专为 AI Agent 设计的上下文压缩层,可以在发送给 LLM 之前压缩 60-95% 的 Token,同时保持答案质量不变。本文从原理到实践深度拆解 Headroom,包括核心架构、六大压缩算法、Python/TypeScript 集成示例、Proxy 模式、MCP 服务器、Cross-Agent Memory、性能基准测试和生产环境最佳实践。
AI Agent
上下文压缩
Token优化
LLM
Python
JavaScript
开源项目
Headroom 深度实战:当 AI Agent 遇上上下文压缩——从 Token 经济学到 CacheAligner、ContentRouter 与 CCR 可逆压缩的生产级完全指南(2026)
编程
Headroom 深度实战:当 AI Agent 遇上上下文压缩——从 Token 经济学到 CacheAligner、ContentRouter 与 CCR 可逆压缩的生产级完全指南(2026)
2026-06-18 04:22:43 +0800 CST
view 455
Headroom 深度实战:AI Agent 上下文压缩层,Token 节省 60-95%,答案质量零损失。详解 CacheAligner、ContentRouter、CCR 可逆压缩架构。
AI Agent
上下文压缩
Token优化
Headroom
LLM
编程
MarkItDown 深度解析:微软如何用 118K Star 的 Python 工具重新定义文档转 Markdown 的工程范式
2026-05-04 01:26:09 +0800 CST
view 570
深度拆解微软开源的 118K Star 项目 MarkItDown
Python
Markdown
文档转换
RAG
LLM
Crawl4AI 深度实战:让 LLM 理解网页语义——从声明式数据提取到生产级爬虫架构的完全指南(2026)
编程
Crawl4AI 深度实战:让 LLM 理解网页语义——从声明式数据提取到生产级爬虫架构的完全指南(2026)
2026-06-04 10:16:48 +0800 CST
view 436
深度解析 Crawl4AI——LLM 友好的开源爬虫框架,通过声明式数据提取和语义理解,将网页数据采集效率提升 300% 以上。
Crawl4AI
爬虫
LLM
异步
RAG
Python
MarkItDown 深度实战:当微软把文档转换做成 AI 时代的「数据入口」——从 15 种格式到生产级 RAG 管道的完全指南(2026)
编程
MarkItDown 深度实战:当微软把文档转换做成 AI 时代的「数据入口」——从 15 种格式到生产级 RAG 管道的完全指南(2026)
2026-06-13 06:48:24 +0800 CST
view 448
微软 MarkItDown 0.1.0 深度实战:15种格式一键转Markdown,LLM集成+插件系统+MCP协议+OCR,构建生产级RAG文档管道完全指南
MarkItDown
文档转换
RAG
LLM
MCP
Python
微软
开源
BFE v1.8.3 AI 网关深度拆解:当企业级七层负载均衡遇见大模型推理流量治理
编程
BFE v1.8.3 AI 网关深度拆解:当企业级七层负载均衡遇见大模型推理流量治理
2026-07-20 01:13:38 +0800 CST
view 249
BFE v1.8.3 深度拆解:企业级七层负载均衡软件的 AI 网关能力升级,从三重限流、多配额认证、二进制日志到会话保持的完整工程指南
BFE
AI网关
负载均衡
LLM推理
限流
云原生
eBPF
TPM
RPM
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调
回调
上一页
1
...
12
13
14
15
16
...
85
下一页