政企市场,「观望」AI大模型

0 评论 4027 浏览 15 收藏 12 分钟

数据安全等“刚需”下,私有化成为政企市场的准入门槛,然而私有化下,行业模型局限性尚未可知,加之信创化等因素,厂商仍需取长补短,为政企客户提供全方位的解决方案。

政企领域,似乎正在成为AI落地的又一标的。

几个最新的动态是:新华三针对政企客户发布私域大模型“百业灵犀”LinSeer、中国电科发布专为党政企行业用户服务的AIGC大模型“小可”、百应科技发布政务行业专有大模型“万机”……百度智能云、阿里云、三六零、科大讯飞、商汤等也都在针对政企客户,发布了相关产品和解决方案。

这一趋势同样发生在海外。有消息称微软正在使用其 Azure 云服务把 OpenAI 的强大的语言生成模型引入政府机构,这些模型包括 OpenAI 最新、最先进的大型语言模型(LLM)GPT-4以及 GPT-3。

然而,从国内发布政企大模型的各大厂商的动作来看,并未有较多的落地案例。背后的原因有很多,一是产品发布时间短,无法及时得到较大反馈;二是由大模型引起的AI热潮还处于爆发期,政企对于合作厂商的选择还需考量。

除了这些因素之外,几个关键的问题是,这些厂商针对政企客户发布的AI产品,真的是政企所需要的吗?再或者,于政企而言,其需要什么样的AI产品与服务?

一、政企市场,“观望”AI

“我们接触的客户都在探索这方面的内容,政企会有这方面的诉求。”某业内人士告诉产业家,“但对于AI大模型在政企领域的应用,大家都处于观望+探索的阶段。

在国内,政企普遍体量大、业务复杂、定制化要求高,有着沉重的IT建设包袱,各部门、业务之间难以协同,数据壁垒也难以打破,这使得政企的数字化转型困难重重。

而大模型可以把人与人、人与机器之间的交互过程数据完整的沉淀下来,让它自主学习进步,持续演进。杜绝了过去的烟囱式建设,降本增效的同时还能推动政企数字化进程。

这种技术应用的趋势,推动着诸多厂商开始将自身的TOG产品与大模型结合。

不过客观来看,当下虽然深耕AI产业链的玩家众多,但在政企领域,出于对算力、行业专业度、数据安全、国产化等各方因素的考量,厂商难以给出合适的AI解决方案。

AI大模型作为数字化的新基建,如何赋能行业仍需不断探索、实践。很多企业也在不断进行新的尝试。

周鸿祎曾在微博上发文表示,“大型企业或者政府要私有化大模型。即在加入公有GPT知识和能力的基础上,再训练一个私有的GPT,只给企业自己或客户使用。”

与周鸿祎有相同见解的,还有新华三安全产品研发总监韩小平。

“政企大模型一方面数据不能出域;一方面需要结合其业务场景数据进行喂养训练,生成实际的业务场景App。”

他认为,政企大模型技术本身其实不是唯一考量的因素,更重要的是对用户业务的理解。政企AI服务,行业Know-how仍是关键,没有政企业务服务经验的厂商,难以结合大模型设计出个性化的解决方案。

两人都将政企AI大模型的落地方式瞄准了私有化。

二、私有化,会是一个好的选择吗?

“全面禁止使用ChatGPT”这句话时不时就会喜提科技榜热搜,最近一次的主角是三星。

具体源于三星允许半导体部门的工程师使用ChatGPT参与修复源代码问题。 但在过程当中,员工们输入了机密数据,包括新程序的源代码本体、与硬件相关的内部会议记录等数据。

起初三星全面禁止使用ChatGPT,自3月11日开始才部分开放给DS部门使用,却没想到在短短时间内就传出机密外泄。

诸如此类机密数据泄漏事件,层出不穷。

在海外市场,苹果、三星、摩根大通、花旗银行等知名企业都曾明确表示,禁止或限制员工在工作场合使用ChatGPT等大模型产品。

事实上,大模型的底层逻辑是将行业数据标注出来进行深度学习,训练出专注于某一行业的垂直模型。这也意味着,企业的数据要集成到通用大模型的数据池中。

然而,政企的数据大多涉及商业机密、个人隐私等问题,对数据安全要求甚高。

所以,数据不出域,成为关键。而私有大模型无疑是政企的必选项。

不过,私有化意味着需要政企客户自己收集数据进行训练。一般情况下,AI决策的及时性和准确性,取决于数据质量、数量以及算力。这意味着输入预训练模型的数据维度、数量越多,质量越高,才能真正发挥大模型真正价值。

一个有争议的点是,专业厂商打造的私有模型,比起通用大模型的能力,能否满足政企需求。

3月30日,彭博社创始人布隆伯格发布了一片论文,即BloombergGPT: A Large Language Model for Finance。

在论文中,介绍了其以模3630亿token的金融领域数据集以及3450亿token的通用数据集训练出来的金融大语言模型。并进行金融领域评估与通用领域评估。

结果显示,在金融领域任务上,该模型综合表现最好;在通用任务上,该模型的综合得分同样优于相同参数量级的其他模型,并且在某些任务上的得分要高于参数量更大的模型。

这意味着,基于专业领域语料训练的大模型,在领域内的理解要超过通用大模型。

一个启示是,在其他特定领域,也可以开发专用的大语言模型,并且效果可能比通用大模型更好。

然而,这个评估实验的结论仍无法代表所有行业,有些问题仍需要被正视,例如中外金融数据维度、质量其实有着较大的差距,该金融模型作为第一个行业模型,更换不同维度、质量的数据,能否保持其结论的准确性,还未得知。

另外,除政务系统、城市大脑以及金融等数据敏感的政企场景,其他终端场景,通用大模型的语料数据仍有很大优势。

所以,对于政企而言,其需要的AI服务是能在保证数据安全的同时,还可以能集成通用大模型作为能力补充。

三、政企大模型,亦需“群战”

术业有专攻,大模型能力同样如此。

在政务AI大模型应用方面,周鸿祎曾直言,预测未来中国不会只有一个大模型,每个城市、每个政府部门都会有自己的专有大模型。

信创化的浪潮下,全技术栈的国产化已经成为服务政企客户的准入门槛。所以对于政企而言,信创生态能力成为其选择厂商的重要标准。

目前来看,能实现全技术栈国产化的AI大模型厂商屈指可数。能否吸引更多信创伙伴成为关键,取长补短,或将实现双赢。

此外,在国产化的基础上,不同的场景应用,也需要与不同的厂商合作,例如互联网云厂商在终端软件应用的优势;运营商的网络优势;华为在芯片、系统上的优势。

除了基于客户需求的合作,还有来自算力等资源稀缺所带来的压力。

AI新一轮热潮袭来,服务器需要配备大量GPU/NPU/FPGA/ASIC等芯片以支持高算力,但就目前来看,算力不仅价格高昂且资源紧张。

目前,支撑包括ChatGPT大模型在内的95%用于机器学习的芯片都是英伟达的A100(或者国内使用的替代产品A800),该芯片的单价超过1万美元。此外,英伟达最新一代的H100芯片的性能也远超A100,但价格也更高,约合25万元人民币。

而在取长补短的AI大模型产业生态下,将大幅度杜绝模型的重复搭建、实现数据的重复利用,大大节约算力资源利用率。同时还可以减少政企客户的AI部署成本。

所以,对于布局政企大模型的厂商而言,在私有化的前提下,通过开源、API接口等形式,以通用大模型和客户或自身集成的数据,帮助客户调教模型,形成定制化的AI产品,或将推动政企大模型快速落地。

一些厂商也正在验证了这种路径的可行性。

例如中国电科面向党政企,提供“通用智能模型大循环 + 行业智能模型小循环”双循环、“模型训练 + 测试评估 + 场景精调 + 可信增强”四阶段的行业应用新范式。

再比如,新华三面向政企发布的百业灵犀LinSeer既支持“私域大模型+新华三ICT基础架构”的模式保障数据安全,也支持“客户自选大模型+新华三ICT基础架构”的模式满足多种需求。

政企AI服务的走向逐渐清晰,即政企或许更需要“自助餐”式的服务模式。客户可以选择适合自身需求的芯片、模型技术方、数据集成方、软件厂商等。

经历过多次寒冬的AI,能否抓住这次时代的机遇,仍需时间来验证。

作者:斗斗;编辑:皮爷 

来源公众号:产业家(ID:chanyejiawang),专注深度产业互联网内容

本文由人人都是产品经理合作媒体 @产业家 授权发布,未经许可,禁止转载。

题图来自Unsplash,基于 CC0 协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
海报
评论
评论请登录
  1. 目前还没评论,等你发挥!