Google AI Edge Gallery – 谷歌开源项目|完全本地运行大模型APP

Google AI Edge 画廊是一款实验性应用,将最先进的生成式 AI 模型直接交到您的手中,在您的 Android (现已上线) 和 iOS (即将推出) 设备上完全本地运行。探索一个充满创意和实用 AI 应用场景的世界,在加载模型后无需网络连接即可运行。

作者
J.Cling
广告也精彩
Google AI Edge Gallery – 谷歌开源项目|完全本地运行大模型APP

Google 在大上周的发布会还悄悄发布了一个开源项目,一个完全本地运行的开源大模型APP——Google AI Edge Gallery。

这个项目使用 Gemma3n, 并且同时集成了多模态能力,可以上传图片和音频。想要自己构建安卓 AI APP 的同学完全可以把这个项目当作模板使用。

Google AI Edge 画廊是一款实验性应用,将最先进的生成式 AI 模型直接交到您的手中,在您的 Android (现已上线) 和 iOS (即将推出) 设备上完全本地运行。探索一个充满创意和实用 AI 应用场景的世界,在加载模型后无需网络连接即可运行。您可以尝试不同的模型,进行对话,用图片提问,探索提示,等等!

概览

Google AI Edge Gallery - 谷歌开源项目|完全本地运行大模型APP

图片查询

Google AI Edge Gallery - 谷歌开源项目|完全本地运行大模型APP

提示实验室

Google AI Edge Gallery - 谷歌开源项目|完全本地运行大模型APP

AI 聊天

Google AI Edge Gallery - 谷歌开源项目|完全本地运行大模型APP

核心功能

  • 📱 本地运行,完全离线: 无需网络连接,体验 GenAI 的神奇。所有处理都在您的设备上直接进行。
  • 🤖 选择模型: 轻松切换来自 Hugging Face 的不同模型,并比较它们的性能。
  • 🖼️ 询问图片: 上传图片并提问。获取描述,解决问题,或识别物体。
  • ✍️ Prompt Lab: 概要总结、重写代码或使用自由格式提示来探索单轮 LLM 用例。
  • 💬 AI Chat: 进行多轮对话。
  • 📊 性能洞察: 实时基准测试(TTFT、解码速度、延迟)。
  • 🧩 自带模型: 测试您本地的 LiteRT .task 模型。
  • 🔗 开发者资源: 快速链接到模型卡片和源代码。

技术亮点

  • Google AI Edge: 用于设备端机器学习的核心 API 和工具。
  • LiteRT: 优化模型执行的轻量级运行时。
  • LLM 推理 API: 用于设备端大型语言模型的强大支持。
  • Hugging Face 集成: 用于模型发现和下载。

更新日志

v 1.0.3

修复图像捕获表中的一些潜在内存泄漏问题

获取方式

官方网站

https://github.com/google-ai-edge/gallery

相关图书

从0开始学习:AI智能体Agent转化为实际产品的开源指南

J.Cling 在 GitHub上发现这套新鲜牛逼的教程合集从工具集成到模型记忆再到Agent框架,部署,多个Agent协调,评估等等均有覆盖,是个非常不错的从0学习如何构建生产级别Agent平台的教程。我已经会用网页离线保存工具打包了该网页放在文末网盘中。

对话 DeepSeek-Prover 核心作者辛华剑

辛华剑,现在是爱丁堡大学人工智能专业的一年级博士生,研究方向是使用大语言模型进行形式化数学定理自动证明的任务。本科就读于中山大学哲学系逻辑学专业,深入学习了这类形式化方法的理论基础,后来在中山大学梁小丹老师的指导下开始以 AI 研究的视角切入这个问题,随后分别在华为诺亚方舟实验室和 DeepSeek AI 做了一系列探索性的工作,现在在读博士的同时也在字节跳动 Seed 团队继续进行这一方向的研究实习。

智能体网络协议技术报告 – MCP、A2A、ACP、ANP等比较与分析

W3C的《智能体网络协议技术报告》,对当前主要智能体 网络协议(MCP、A2A、ACP、ANP等)进行了系统比较与分析。 ​​​给出智能体网络的四大核心趋势:智能体取代传统软件成为互联网基础设施、智能体间实现普遍互联互通、基于协议的原生连接模式、以及智能体的自主组织与协作能力。