程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
千问 相关技术文章
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
WebLLM:用 WebGPU 把 LLM 跑进浏览器,以及几个容易被忽略的实现细节
编程
WebLLM:用 WebGPU 把 LLM 跑进浏览器,以及几个容易被忽略的实现细节
2026-10-07 00:04:02
WebLLM 是浏览器内 LLM 推理引擎,靠 WebGPU 在本地跑 Llama/Qwen/Mistral 等模型,兼容 OpenAI API。这篇按 README 梳理接入流程与几处易踩的工程细节:四种缓存后端的选择与 opfs 报错、Service Worker 引擎的 handler 顶层实例化与心跳保活、SRI 完整性校验、自定义模型字段,以及从源码编译 TVMjs 时为什么不能用最新 emcc。
Browser
AI
浏览器AI
WebLLM
WebGPU
浏览器侧推理
硬件加速
硬件
千问
Model Router:给 Claude Code / Codex CLI 接非 Anthropic 模型,本地代理做三协议互转 + 标签路由
编程
Model Router:给 Claude Code / Codex CLI 接非 Anthropic 模型,本地代理做三协议互转 + 标签路由
2026-09-21 00:04:47
Model Router 是一个桌面端 AI 模型代理:在 Claude Code / Codex CLI 与模型商之间做 Anthropic Messages、OpenAI Chat Completions、OpenAI Responses 三协议互转,支持流式 SSE 与 thinking 块,并用 opus/sonnet/haiku/auto 标签把请求路由到 DeepSeek、Kimi、文心、GLM 等后端,本文给出配置与接管步骤。
Model
Routing
模型路由
协议转换
Claude
Code
Codex
CLI
Anthropic
Messages
LLM
Router
千问
New API 自建大模型网关:一套 OpenAI 格式接口接 Claude/Gemini/国产模型
编程
New API 自建大模型网关:一套 OpenAI 格式接口接 Claude/Gemini/国产模型
2026-09-12 09:53:03
用 Go 写的开源 LLM 网关 New API,把 OpenAI、Claude、Gemini、DeepSeek 等模型的 API 收敛到一套 OpenAI 兼容接口,附 Docker 部署命令、模型名控制推理力度、三方方案对比与 AGPL 授权注意点。
Go
LLM网关
New
API
API对接
Docker
千问
Hugging Face Transformers v5.16.0 发布:新增 Qwen4-Exp、Granite Speech 5.0 与 Step-3.7-Flash 支持
资讯
Hugging Face Transformers v5.16.0 发布:新增 Qwen4-Exp、Granite Speech 5.0 与 Step-3.7-Flash 支持
2026-09-07 03:11:58
Hugging Face Transformers v5.16.0 发布:新增 Qwen4-Exp(线性+稀疏注意力混合架构)、Granite Speech 5.0 Turbo CTC(4.7 亿参数轻量 ASR)和 Step-3.7-Flash(198B 稀疏 MoE 视觉语言模型)支持,共 114 个提交。
HuggingFace
Transformers
Qwen4
语音识别
MoE
大模型
视觉语言模型
阶跃星辰
千问
从网页内部做AI操控:阿里page-agent的DOM级自动化方案
编程
从网页内部做AI操控:阿里page-agent的DOM级自动化方案
2026-09-05 19:14:01
介绍阿里开源的 page-agent:不同于常见的截图识别方案,它直接注入网页内部运行,通过 DOM 结构精准识别页面元素,实现更快更准的自动填表、点击和流程操作,支持通义千问、DeepSeek 等国产模型,一行 npm 命令即可安装,6.5K Star。
page-agent
网页自动化
AI Agent
浏览器操控
千问
AI操控
Qwen3.8深度拆解:2.4万亿参数稀疏MoE架构的技术革命,从模型设计到开源落地的全链路复盘
编程
Qwen3.8深度拆解:2.4万亿参数稀疏MoE架构的技术革命,从模型设计到开源落地的全链路复盘
2026-08-11 10:55:36
深度拆解阿里Qwen3.8的2.4万亿参数稀疏MoE架构:专家池设计、负载均衡、混合注意力机制、100万Token上下文、编程能力突破、开源生态影响与生产部署指南
Qwen3.8
大模型
MoE架构
稀疏激活
开源AI
千问
AI编程
深度学习
Transformer
Qwen3.8-Max 深度拆解:当阿里决定「把 2.4 万亿参数的旗舰模型开源」——MoE 稀疏路由、百万 Token 上下文与自主编码能力如何重新定义开源大模型的终极形态
编程
Qwen3.8-Max 深度拆解:当阿里决定「把 2.4 万亿参数的旗舰模型开源」——MoE 稀疏路由、百万 Token 上下文与自主编码能力如何重新定义开源大模型的终极形态
2026-08-05 05:46:24
深度拆解阿里Qwen3.8-Max:2.4万亿参数MoE旗舰模型,950亿激活参数,100万Token上下文,原生多模态,自主编码16天265次提交,Arena全球第二,Max级模型首次开源
Qwen3.8
MoE
开源大模型
阿里
千问
混合专家
100万Token
自主编码
多模态
2.4万亿参数
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
python
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调