Gemini Generative UI 深度分析(一):基于谷歌官方博客与研究团队论文的初步介绍

0 评论 1025 浏览 1 收藏 13 分钟

Gemini 3 的重大更新不仅带来了更强大的智能,还解锁了全新的 Generative UI 界面,能够根据用户需求即时构建可交互的界面。本文将深入解析这一创新功能的技术实现及其对未来交互方式的深远影响。

一、gemini的重大更新

想必大家已经在各大平台上被Gemini 3刷屏,从谷歌官方网站中,11月18日当天,谷歌Gemini&Studio实验室的副总裁Josh Woodward发文,讲述了Gemini 3 为 Gemini 应用带来了升级的智能和新功能。

主要有三个核心更新点:

1. Gemini 3: 最新的模型将最先进的推理应用于最复杂的问题。

2. Generative Interfaces(也称为Generative UI): Gemini 3 解锁了一种全新的界面,能够根据用户的需求调整,为用户的具体提示设计出最完美的回应。

3. Gemini Agent: 一款新工具,帮助用户协调并完成复杂多步任务,首先向 Google AI Ultra 会员推送。

二、Generative UI

本次给我震撼最大,最让我最感兴趣的是Generative Interfaces,也可以叫做GenerativeUI,这代表了 AI 交互体验的一次重大飞跃:Gemini 不再仅仅是生成文本或静态图片,而是能够根据用户的提示,即时 (on the fly) 构建出完整的、可交互的用户界面。简单来说,过去 AI 是“告诉你”答案,现在它可以现场为你“编写”一个工具、游戏或网页来展示答案。

在 Generative UI 出现之前(也就是现在大多数聊天机器人的样子),我们和 AI 的交互主要基于文本流 (Text Stream)。虽然 Markdown 可以渲染表格或代码块,但它们本质上是静态的。google指出,对于某些任务,纯文本回复会导致用户的认知负荷 (Cognitive Load) 过重。

想象一下,你问 AI:“帮我对比一下 iPhone 15 和 Samsung S24 的参数。”

传统 LLM: 会吐给你一大段文字,或者一个很长的 Markdown 表格。你看完之后,如果想买,还得离开对话框去搜索购买链接。

问题: 信息密度大,难以快速筛选,且无法直接在回复中进行下一步操作(比如“点击购买”或“筛选颜色”)。

Generative UI提出的核心思想是:LLM 不应该只被视为“文本生成器”,而应该被视为“界面生成器”,它不再是给你一段描述界面的文字,而是直接生成一个可交互的组件

我用gemini生成了一个简单的对比表来看两者的区别:

其中被强调了一个词是:Adaptivity (适应性),即传统的 App 界面是程序员写死的,如淘宝的界面对所有人长得都差不多,但 Generative UI 是动态的。如果你说“我想看红色的鞋子”,它生成的界面可能就是一个以红色为主色调的图片流;如果你说“我在意价格”,它生成的界面可能就是一个价格走势图。

Gemini 3 将推动界面设计的边界,其推理和多模态能力已经解锁了称之为“ 生成界面 ”的新能力。现在有两个实验——visual layout 和 dynamic view。

1. Visual Layout

Visual Layout生成沉浸式杂志风格视图,配有照片和模块。这些元素不仅看起来好看,他们也邀请你参与进一步定制结果。问 Gemini“计划明年夏天去罗马三天的旅行”,你会得到一个可以实际探索的视觉行程表。

2. Dynamic View

Dynamic View采用不同的方法,采用 Gemini 3 的代理编码能力。Gemini 实时设计和编码定制用户界面,完美契合您的提示。例如,请 Gemini“为每件作品解释梵高画廊的生活背景”,你将获得一个惊艳且互动的回答,让你以静态文本无法做到的方式点击、滚动和学习。

3. 实际效果

与此同时,Yaniv Leviathan(Google 研究员)、Dani Valevski(高级软件工程师)、以及 Yossi Matias(谷歌副总裁兼Google Research负责人)在Google Research官方网站上发表博客文章《Generative UI: A rich, custom, visual interactive user experience for any prompt》,介绍到了google的对Generative UI(也称为generative interfaces)的研究,通过名为 dynamic view的实验在 Gemini 应用中实现,并在 Google 搜索的 AI 模式下得以应用。在网上也有不少幸运儿被灰度到了Dynamic View,可惜我的两个账号均未被灰度到(暴风哭泣)。

官网还有一个网页介绍了各种类型的Generative UI的生成效果,具体可详见https://generativeui.github.io/,看了这些效果就可以get到为啥很多媒体宣称“前端已死”的噱头了。

下面是我使用Visual layout模式,将更新博文到原网址扔给它,让其帮我生成Gemini更新了什么,可以看出生成的内容跟网页一样,每个tab均可点击,最后的相关功能探索点击又可以生成新的交互页面,这完全是对与大模型交互方式的一种重大更新,基于谷歌多模态方向的积累,这块仍有非常大的想象空间,如图文+语音+视频+三维模型等多模态协同交互,这将会是对人与产品交互方式对一次重大重塑。

三、Generative UI技术实现架构

在此我找到了谷歌团队发表的专门介绍Generative UI的论文《Generative UI: LLMs are Effective UI Generators》(原文网址:https://generativeui.github.io/static/pdfs/paper.pdf)

Generative UI 的实现并不是让 AI “凭空想象”,而是一个严谨的工程化流程。论文中提到,Gemini 模型通过三个关键支柱来把用户的自然语言指令变成可交互的界面:工具访问 (Tool Access)、系统指令 (System Instructions)和后期处理(Post-Processing)

我们可以把这个过程想象成一个五星级餐厅的后厨运作流程:

工具访问 (Tool Access)

服务器提供多种关键工具访问,如图像生成和网页搜索。这使得结果可以被模型访问以提高质量,或直接发送到用户浏览器以提高效率。

它的作用: 模型需要获取真实世界的数据。AI 就像采购员,去“仓库”(API)里拿取新鲜食材。

具体例子: 如果你问“北京明天的天气”,模型不能瞎编,它必须调用 Weather API 获取数据。没有这一步,生成的 UI 只是一个空壳。

系统指令 (System Instructions)

精心设计的系统指令 ,系统由详细的说明指导,包括目标、规划、示例和技术规范,包括格式、工具手册以及避免常见错误的技巧。

它的作用: 这是主厨的烹饪秘籍。它规定了界面的“设计规范”和“行为准则”。

具体内容: 这里面包含了一套预定义的规则,比如:

a. 核心理念

b. 示例

c. 规划说明

d. 技术细节与接口使用(系统说明的主要部分)

e. 动态填充信息,包括日期和用户位置(若用户共享)

此部分内容的深挖和介绍我会单独再开一篇文章介绍,这里头也有非常多值得深挖和借鉴的点。

后期处理 (Post-Processing)

模型的输出会通过一组后处理器处理,以解决潜在的常见问题。

它的作用: 这是摆盘和传菜前的最后检查

具体操作: 模型生成的原始代码(比如 HTML/React 代码)可能偶尔会有小错误(Syntax Error)或者格式不完美。后处理模块会负责自动修复这些 bug,确保呈现在你面前的界面是 100% 可运行的,而不是一堆乱码。

本篇文章只是系列开始,后续将基于论文内容持续解析其System Instructions、评估与PAGEN数据集等相关内容,期待与诸多同行和大佬们一起交流~

参考文档:

1. 《Gemini 3 brings upgraded smarts and new capabilities to the Gemini app》https://blog.google/products/gemini/gemini-3-gemini-app/

2. 《Generative UI: A rich, custom, visual interactive user experience for any prompt》https://research.google/blog/generative-ui-a-rich-custom-visual-interactive-user-experience-for-any-prompt/?utm_source=twitter&utm_medium=social&utm_campaign=social_post&utm_content=gr-acct

3. 《Generative UI: LLMs are Effective UI Generators》https://generativeui.github.io/static/pdfs/paper.pdf

本文由 @游瑶的产品笔记 原创发布于人人都是产品经理。未经许可,禁止转载

题图来自Unsplash,基于CC0协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 目前还没评论,等你发挥!