谷歌开源AI神器！Google AI Edge Gallery斩获2.2万Star，手机离线跑大模型时代来了
GitHub: https://github.com/google-ai-edge/gallery
Stars: 22,000+
标签: 端侧AI / 手机大模型 / 离线推理 / Gemma 4 / Google开源
平台: iOS / Android
协议: Apache 2.0
引言
端侧 AI 这件事，终于开始「能用了」。
上个月谷歌开源的 Gemma 4 模型，因为能直接塞进手机里跑，把「端侧 AI」这个话题推向高潮。而配套推出的 Google AI Edge Gallery，目前已拿下 22,000+ GitHub Star。
一句话定义：这是一个能让你在手机上离线运行各种开源大模型的 App。
从定位上看，它更像是端侧 AI 的「应用商店 + 模型操场」。
一、核心价值
为什么要在手机上跑大模型？
| 优势 | 说明 |
|---|---|
| 省钱 | 省下每月订阅成本 |
| 离线可用 | 飞机、地铁、弱网环境照常用 |
| 隐私保护 | 敏感信息不上传云端 |
| 即时响应 | 本地推理，毫秒级反馈 |
| 零流量 | 所有推理都在本地芯片上完成 |
关键特性
- 支持 iOS 和 Android
- 模型权重从 Hugging Face 直接拉取
- 全程不联网，数据不离开设备
- 消费级入口形态：挑模型 → 下载 → 跑起来，只需点几次
二、核心功能详解
1. AI Chat（基础对话）
第一眼看到的是 AI Chat 模块——基础对话功能。
Thinking Mode（思考模式） 比较有意思，能直接看到模型一步步推理的过程。
目前限定部分模型才能开，比如 Google 自家的 Gemma 4 系列就支持。
Gemma 4 命名解读：
- E2B / E4B 中的「E」是 Effective 的缩写
- 意思是用优化技术，让 4B 参数发挥出更大模型的水平
2. Ask Image（拍照问图）
调用相机或相册图片，让本地模型：
- 识别物体
- 解题
- OCR 文字提取
- 拍照翻译
- 未知事物拍照询问
- 分析图片信息特征
典型场景：
- 出国旅游拍照翻译菜单
- 看到不认识的植物拍照询问
- 会议白板拍照转文字
3. Audio Scribe（语音转写）
专门处理语音转写和翻译：
- 录一段会议或讲座，本地直接出文字稿
- 跨语言翻译
- 飞机上、地铁里没网或弱网环境，刚好派上用场
4. Agent Skills（Agent技能）
给本地模型挂载外部工具：
- 接 维基百科 查事实
- 调 地图 查位置
- 生成 可视化卡片
- 支持 从 URL 远程加载技能模块
- 社区里有不少现成的可以直接用
5. 模型管理
从 Hugging Face 加载自定义模型：
- 查看每个模型 基准测试跑分
- 自由选择安装到手机
- 精细调 温度、top-k 等参数
三、安装指南
iOS 设备
- 打开 App Store
- 搜索「Google AI Edge Gallery」
- 点击安装
Android 设备
方式一：Google Play 搜索安装
方式二：GitHub Releases 下载 APK
- 地址：https://github.com/google-ai-edge/gallery/releases
使用步骤
- 打开 App
- 选择模型下载（每个模型约 2-4GB）
- 下载完成，所有操作均在本地进行
四、机型推荐
iPhone
| 机型 | 推荐模型 |
|---|---|
| iPhone 15 Pro 及以上 | E4B |
| iPhone 14 Pro | E2B |
Android
- 推荐 8GB 内存以上 的旗舰机
- 老机型建议从 E2B 等小模型试起
五、客观限制
端侧小模型的上限
| 限制 | 说明 |
|---|---|
| 复杂 Agent 工作流 | 目前还是云端大模型更稳 |
| 老机型卡顿发热 | 建议从小模型试起 |
| Beta 阶段 | 偶遇小 bug，可到 issue 反馈 |
适用场景对比
| 场景 | 端侧模型 | 云端大模型 |
|---|---|---|
| 简单对话 | ✅ | ✅ |
| 翻译、OCR | ✅ | ✅ |
| 复杂推理 | ⚠️ 有限 | ✅ |
| Agent 工作流 | ⚠️ 受限 | ✅ |
| 隐私敏感任务 | ✅ | ❌ |
| 离线场景 | ✅ | ❌ |
六、技术解读
端侧 AI 的意义
过去两年，电脑端早就有 Ollama、LM Studio 这些工具铺路。但手机端一直停留在开发者圈层，普通用户基本进不来。
Google AI Edge Gallery 的意义：
谷歌官方下场做这么一个 App，把「挑模型 - 下载 - 跑起来」简单到只需点击几次。
这是手机端本地大模型第一次长出消费级的入口形态。
端侧 AI 的未来
当全球十几亿台手机都能离线跑模型时，AI 变成跟相机、地图一样的基础能力：
- 实时翻译：出国旅游，手机离线翻译
- 随手解答：遇到问题，直接问本地模型
- 本地处理隐私文件：敏感信息不出设备
Google AI Edge Gallery 的出现，可能就是这件事的起点信号。
七、Gemma 4 模型详解
模型规格
Gemma 4 是谷歌开源的轻量级模型系列，专门为端侧部署优化：
| 模型 | 参数量 | 特点 |
|---|---|---|
| Gemma 4 E2B | ~2B | 轻量级，老机型可用 |
| Gemma 4 E4B | ~4B | 性能更强，需旗舰机 |
E 系列 vs 标准版
- E = Effective：优化技术让小参数发挥大能力
- 适合手机、边缘设备部署
- 内存占用更低，推理速度更快
八、与竞品对比
电脑端工具
| 工具 | 平台 | 特点 |
|---|---|---|
| Ollama | 桌面 | 命令行为主，开发者友好 |
| LM Studio | 桌面 | GUI 完善，模型丰富 |
| Google AI Edge Gallery | 手机 | 消费级入口，普通用户友好 |
手机端竞品
目前手机端几乎没有同类竞品——Google AI Edge Gallery 是第一个把手机端本地大模型做成消费级产品的。
九、实际体验建议
首次使用
- 先选小模型：E2B 下载快，试水成本低
- 测试基础功能：对话、翻译、OCR
- 观察发热和卡顿：如果流畅，再考虑大模型
进阶使用
- 挂载 Agent Skills：扩展模型能力
- 调整参数：温度、top-k 微调
- 离线场景测试：飞机、地铁体验
避坑指南
- 老机型不要硬上 E4B
- 复杂任务还是用云端大模型
- 遇到 bug 去 GitHub issue 反馈
十、总结
核心价值
| 价值 | 说明 |
|---|---|
| 省钱 | 零订阅成本，本地推理 |
| 隐私 | 敏感信息不出设备 |
| 离线 | 飞机、地铁、弱网照常用 |
| 易用 | 消费级入口，普通用户友好 |
| 开源 | Apache 2.0 协议，社区活跃 |
推荐人群
- 隐私敏感用户：财务、医疗等敏感数据处理
- 频繁出差用户：飞机、高铁场景离线使用
- 开发者：测试端侧模型效果
- 学生：解题、翻译、学习辅助
未来展望
AI 正在从云端的某个数据中心，搬进每一部口袋里的设备。
Google AI Edge Gallery 可能就是这件事的起点信号。
GitHub: https://github.com/google-ai-edge/gallery
App Store: 搜索「Google AI Edge Gallery」
Google Play: 搜索「Google AI Edge Gallery」
本文首发于「程序员茄子」博客，原文链接：https://chenxutan.com