Google AI Edge Gallery

关于 Google AI Edge Gallery

AI Edge Gallery 是运行全球最强大的开源大型语言模型 (LLM) 的首选平台，让您在移动设备上畅享卓越性能。直接在您的硬件上体验高性能生成式 AI——完全离线、私密且速度飞快。

新增功能：Gemma 4

本次更新正式支持最新发布的 Gemma 4 系列。作为本次更新的核心，Gemma 4 让您能够测试设备端 AI 的前沿技术。无需将数据发送到服务器，即可体验高级推理、逻辑和创造性功能。

核心功能

- 智能体技能：将您的 LLM 从对话者转变为主动助手。使用智能体技能模块，通过维基百科等工具增强模型功能，获取事实依据，并使用交互式地图和丰富的可视化摘要卡片。您甚至可以从 URL 加载模块化技能，或在 GitHub Discussions 上浏览社区贡献。

- AI 聊天与思考模式：进行流畅的多轮对话，并切换至全新的思考模式，深入了解其“底层”运作机制。此功能可让您查看模型的逐步推理过程，非常适合理解复杂问题的解决之道。注意：思考模式目前适用于支持的模型，从 Gemma 4 系列开始。

- 图像识别：利用多模态技术，通过设备的摄像头或照片库识别物体、解决视觉谜题或获取详细描述。

- 音频转录：使用高效的设备端语言模型，实时将语音录音转录并翻译成文本。

提示实验室：一个专用的工作空间，用于测试不同的提示和单轮用例，并可对模型参数（例如温度和 top-k）进行精细控制。

- 移动操作：解锁离线设备控制和自动化任务，这些功能完全由优化后的 FunctionGemma 270m 提供支持。

- Tiny Garden：一款趣味十足的实验性小游戏，它使用自然语言，通过对 FunctionGemma 270m 进行微调，来种植和收获虚拟花园。

- 模型管理与基准测试：Gallery 是一个灵活的沙箱，支持各种开源模型。您可以轻松地从列表中下载模型，或加载您自己的自定义模型。轻松管理您的模型库，并运行基准测试，以准确了解每个模型在您的特定硬件上的性能。

- 100% 设备端隐私：所有模型推理均直接在您的设备硬件上进行。无需联网，确保您的提示、图像和敏感数据的完全隐私。

为社区而生

AI Edge Gallery 是一个开源项目，旨在服务于开发者社区和 AI 爱好者。探索我们的示例功能，贡献您的技能，并帮助塑造设备端代理生态系统的未来。

在 GitHub 上查看源代码：

https://github.com/google-ai-edge/gallery

注意：此应用正在积极开发中。性能取决于您设备的硬件（CPU/GPU）。如需支持或反馈，请联系我们：[email protected]

• ↗在本地运行 Gemma 和其他开源 LLM：私有、快速、离线 AI