大模型的_张量,作为一种科研方法

0 评论 280 浏览 0 收藏 9 分钟

TPU、张量与深度学习的奥秘,为何让非科班出身的同学如此困惑?本文从张量的本质出发,通过生动的情感关系案例,层层拆解多维数据结构的核心逻辑。你将看到标量如何升级为张量,以及这背后隐藏的AI训练与贝叶斯统计的深刻联系,最后揭示工具与目的在认知维度上的无限迭代。

有很多非计算机专业的同学想转入到AI行业,他们经常问我一个比较多的问题:

CPU,我知道,是一个芯片。GPU,我也知道,是一个大显卡。那么TPU是啥东西呢?

今天要说一下TPU,TPU的全称是Tensor Processing Unit,中文名为张量处理单元,是谷歌(Google)专为深度学习计算而自己设计的专用集成电路(ASIC)。

同学们紧接从网上查阅了很多资料,也没有太搞清楚。于是继续就会问:那么张量又是什么东西呢?

定义

标量:储存【数值】的【量】

张量:储存【规则】及其【数值强度】的【量】

张量的意义:当【结果】不是由一个原因决定,而是由【多种因素 × 多种角度 × 多种关系方式】共同决定时,用来把这些关系一次性说清楚的方式。

张量是:一种为了统一的高度综合归纳的抽象方法论

举例

我的一个男学生小明,他喜欢上了班上一个女同学小红。

我作为一个研究人员,我非常的好奇,于是我想:【研究一下小明为什么会喜欢小红?他是怎么喜欢上小红的?】

注意:这句话拆解一下,本质的含义是:我想对小明喜欢小红的【喜欢因素】和【喜欢原因】之间的关系进行研究。

即:将2个人之间的【喜欢关系】进行梳理,逻辑量化。

0阶张量(标量)

研究问题:小明有多喜欢小红?对喜欢程度打分

结果分数:喜欢程度=[80分 ]

得分分析:这只是个标量(数值),但是为啥是 80分?当前的信息是解释不了小明喜欢的原因和因素的关系。

备注:关系=[“1、有哪些前置影响因素?” , “2、这些因素之间的相互影响程度?”]

1阶张量(向量)

研究问题:喜欢程度可能是由3个因素决定的,且要对每个因素的评分

结果分数:喜欢程度=[性格:40,外貌:25, 价值观:15 ]

得分分析:现在分析出喜欢是“哪些方面因素叠加”的,

但是这些因素不只是“单向作用”的,比如:

【性格】影响【长期喜欢】

【外貌】影响【第一印象】

【价值观】影响【是否愿意结婚】

2阶张量

研究问题:这些【喜欢因素】中,每个因素,背后又有那些影响因素呢?是在“哪个场景 / 阶段 / 角度”下起作用?

举例子,我继续把可能因素拆解为:初见、相处、长期承诺

结果分数:

得分分析:这可以表达的不是“喜欢多少”,而是哪个因素,在什么情况下,以多大方式起作用

3阶张量

分析问题:【小明的判断】本身,可能还受其他因素的影响?

例如:他当天心情、朋友评价、社会压力、时间变化……

因此需要加一维:

以此类推……总结

张量不是“多维数组”,而是:用来表达【多种因素多种条件下共同决定结果】的关系容器。

一个事物的某一属性就是一个【单元】。其量的变化,不只是在这个属性【单元本身】之内自发变化的,一定是有外界其他因素影响决定的。

就好比一个人的头发长度变化,不是【头发长度】自发的变化,而是有外界因素影响的。于是这就形成了【单元网络】。

而【每个单元】及其背后的背后的【前置影响因素】的【得分】是多少,泽关键在于:背后的【前置影响因素】对他的影响程度是多少?这个就是【权重】。

而这个【权重】,则需要研究人员准备大量数据,去研究一下,即:做科学的统计。这就是【训练】的本质。

因此【训练】可以说是一种实验研究方法。

到这里,有些同学可能会想到一个伟大的统计学家:贝叶斯。

是的类似于【贝叶斯定律】研究的内容:【影响因素】的背后的【影响因素】的概率关系。

迭代工具论

在AI时代,我可能最不想聊的就是技术,而是一些夸夸其谈、没有逻辑关系的、且形而上的观点:

从张量和贝叶斯中,我们可以得出一组规律:我么可以把研究对象看做一个为了达到某种研究【目的】的【单元】,而实现这种【目的】,则需要【工具】。

但是:【工具】与【目的】作为一种基础【单元】,在研究复杂问题时候,会涉及到不同的维度,维度越多,问题越复杂。那么【工具】与【目的】在不同维度上,是一直在相互迭代转化的。

以生火做饭为例:

锅、水、面粉是工具,【馒头】是目的,

而馒头又可以作为工具,而【填饱肚子】是目的,

而填饱肚子又可以作为工具,而是【补充糖原】是目的,

而糖原又可以作为工具,而是【继续工作】是目的,

…..

以此类推。

本文由 @St.Zy_I 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自Unsplash,基于CC0协议

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 目前还没评论,等你发挥!