AI产品经理需要了解的数据标注工作入门

5 评论 44440 浏览 277 收藏 10 分钟

本文作者@Jasmine ,文章主要分享我们该如何在对AI行业一无所知的情况下,快速了解到它的流程运作,并找准机会转行。

Hi,我是@Jasmine,一位AI产品经理。在正式内容之前,我想跟大家简单分享一下我的经历:我大学本科不是IT相关,甚至在我工作之前,我没有做过任何与互联网相关的实习工作。

而现在我能负责公司的重点项目,证明了进入AI行业并不是你们想象中的那么困难。直至今天,我仍在这条道路上不断学习,也希望有更多的朋友给予我指点。

现在我就来说说,如何在对AI行业一无所知的情况下,快速了解到它的流程运作,并找准机会转行。

一、简单了解AI应用范围

(上图,来自智能玩咖)

AI的应用领域非常非常广,上图只是大家相对熟悉的几个,而且每一个领域用到的算法都不一样。有很多想转型的产品,第一个考虑的点就是:不懂技术就做不了AI,我是不是学完算法才能入行?

其实不是。

大家可能知道:

  1. 不仅算法重要,很多时候数据可能更重要;有保质保量的数据,才可能有好的训练效果。
  2. 数据可分为两种类型:“被标记过”的数据和“未被标记过”的数据。什么是标记呢?意同“贴标签”,当你看到一个西瓜,你知道它是属于水果。那么你就可以为它贴上一个水果的标签。算法同事用“有标签的数据”去训练模型,这里就有了“监督学习”。

重点就是这里:只要是跟“监督学习”沾边的产品/技术,比如图像识别、人脸识别、自然语言理解等等,他们都有一个必走的流程——

不断地用标注后的数据去训练模型,不断调整模型参数,得到指标数值更高的模型。

二、数据处理流程拆解

1、数据标注

数据的质量直接会影响到模型的质量,因此数据标注在整个流程中绝对是非要重要的一点。

1)一般来说,数据标注部分可以有三个角色

  • 标注员:标注员负责标记数据。
  • 审核员:审核员负责审核被标记数据的质量。
  • 管理员:管理人员、发放任务、统计工资。

只有在数据被审核员审核通过后,这批数据才能够被算法同事利用。

2)数据标记流程

  • 任务分配:假设标注员每次标记的数据为一次任务,则每次任务可由管理员分批发放记录,也可将整个流程做成“抢单式”的,由后台直接分发。
  • 标记程序设计:需要考虑到如何提升效率,比如快捷键的设置、边标记及边存等等功能都有利于提高标记效率。

3)进度跟踪:程序对标注员、审核员的工作分别进行跟踪,可利用“规定截止日期”的方式淘汰怠惰的人。

4)质量跟踪:通过计算标注人员的标注正确率和被审核通过率,对人员标注质量进行跟踪,可利用“末位淘汰”制提高标注人员质量。

2、模型训练

这部分基本交由算法同事跟进,但产品可依据需求,向算法同事提出需要注意的方面;

举个栗子——

背景:一个识别车辆的产品对大众车某系列的识别效果非常不理想,经过跟踪发现,是因为该车系和另外一个品牌的车型十分相似。那么,为了达到某个目标(比如,将精确率提高5%),可以采用的方式包括:

  1. 补充数据:针对大众车系的数据做补充。值得注意的是,不仅是补充正例(“XXX”应该被识别为该大众车系),还可以提供负例(“XXX”不应该被识别为该大众车系),这样可以提高差异度的识别。
  2. 优化数据:修改大批以往的错误标注。

产品将具体的需求给到算法工程师,能避免无目的性、无针对性、无紧急程度的工作。

3、模型测试

测试同事(一般来说算法同事也会直接负责模型测试)将未被训练过的数据在新的模型下做测试。

如果没有后台设计,测试结果只能由人工抽样计算,抽样计算繁琐且效率较低。因此可以考虑由后台计算。

一般来说模型测试至少需要关注两个指标:

  • 精确率:识别为正确的样本数/识别出来的样本数
  • 召回率:识别为正确的样本数/所有样本中正确的数

举个栗子:全班一共30名男生、20名女生。需要机器识别出男生的数量。本次机器一共识别出20名目标对象,其中18名为男性,2名为女性。则

  • 精确率=18/(18+2)=0.9
  • 召回率=18/30=0.6

再补充一个图来解释:

(来自mousever)

而且,模型的效果,需要在这两个指标之间达到一个平衡。

测试同事需要关注特定领域内每个类别的指标,比如针对识别人脸的表情,里面有喜怒哀乐等分类,每一个分类对应的指标都是不一样的。测试同事需要将测试的结果完善地反馈给算法同事,算法同事才能找准模型效果欠缺的原因。同时,测试同事将本次模型的指标结果反馈给产品,由产品评估是否满足上线需求。

4、产品评估

“评估模型是否满足上线需求”是产品必须关注的,一旦上线会影响到客户的使用感。

因此,在模型上线之前,产品需反复验证模型效果。为了用数据对比本模型和上一个模型的优劣,需要每次都记录好指标数据。

假设本次模型主要是为了优化领域内其中一类的指标,在关注目的的同时,产品还需同时注意检测其他类别的效果,以免漏洞产生。

三、产品工作补充

产品经理的工作,不止是产品评估——除了流程控制,质量评估,还有针对分类问题,由产品经理制定边界;这是非常重要的,直接影响模型是否满足市场需求。

产品制定分类规则:例如,目的是希望模型能够识别红色,那产品需要详细描述“红色”包含的颜色,暗红色算红色吗?紫红色算红色吗?紫红色算是红色还是紫色?这些非常细节的规则都需要产品设定。

如果分类细,那么针对某一类的数据就会少。如果分类大,那么一些有歧义的数据就会被放进该分类,也会影响模型效果。分类问题和策略问题道理是一样的,都需要产品对需求了解得非常深刻。

以上内容,都只是AI行业一个小领域内可梳理的工作内容。

总之,针对刚刚入行的朋友,如果没有算法基础、没有工程基础,可考虑在流程、平台等职责角度做过渡;在工作内容中不断总结学习,往自己最终的方向目标不断前进!

 

作者:黄钊hanniman,图灵机器人-人才战略官,前腾讯产品经理,5年AI实战经验,8年互联网背景,微信公众号/知乎/在行ID“hanniman”。

本文由 @Jasmine  原创发布于人人都是产品经理。未经许可,禁止转载。

题图来自PEXELS,基于CC0协议

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. AI产品经理到底干什么的,现在还没搞清楚。请指教。

    来自广东 回复
  2. 受益,谢谢,打赏,哈哈

    来自广东 回复
  3. 把数据分析做到专家级··· 66666

    来自广东 回复
  4. AI产品哪里都要黄老师呀,厉害 😳

    来自北京 回复
  5. 高等数学、线性代数、统计分析,都不是强项,经常遇到瓶颈

    来自北京 回复