微信首次预警AI工具风险

见实
2 评论 3776 浏览 0 收藏 5 分钟
🔗 产品经理专业技能指的是:需求分析、数据分析、竞品分析、商业分析、行业分析、产品设计、版本管理、用户调研等。

微信首次对部分AI工具发出预警,因其涉嫌违法违规获取和利用用户数据,可能带来隐私泄露、诈骗等风险。微信安全中心发布公告,强调将坚决打击此类行为。

于五一长假前晚(4月30日晚6时),微信发出一则公告,首次就部分AI工具涉及违法违规获取或利用微信终端用户数据发出预警。

这则由微信安全中心发布的名为“针对违规获取及利用微信终端用户数据行为的打击公告”显示,“有部分第三方工具以‘AI 管理用户微信聊天记录’等名义,绕过微信安全技术措施,违法违规获取或利用微信终端用户数据”,并因此表示,将会对此进行打击。

其中所指,或是近期市场上部分被用来提效的AI工具。这也是微信在发出的公告中,首次提及AI工具、智能体字样。

根据提示,这些工具以提供一个看似安全的工具/服务,诱导用户授权使用,从而获取数据,而这些行为,可能将微信终端用户数据用于非法用途或造成数据泄漏。

这些工具,或通过注入类型服务(服务提供方在提供服务的同时,通过代码注入或者智能体提示词注入的方式获取登录设备上的聊天记录等用户数据),或通过转储类型服务(服务提供方在账号授权后对设备进行监听或者录屏,并转储语音沟通、聊天记录等用户数据)。

不论哪一种,微信提示都会带来诸多风险,包括泄露用户隐私,聊天记录中如包含用户身份、位置、支付等敏感信息,可能被不法分子用于信息倒卖或精准诈骗,危害人身、财产安全等。

于公告中,微信也明确表示,会持续坚决打击各类违规获取、利用微信终端用户数据的行为。

去年6月时,微信旗下企微团队曾发出相似公告(参考阅读:字少事大!企业微信公告严厉打击“外挂”行为),其中明确提及:

企业微信持续严厉打击“外挂”行为,对于开发“外挂”软件、提供“外挂”服务的个人及公司,我们将采取包括诉讼在内的一切法律手段,维护合法权益。

当时前后时间中,有部分“外挂”团队因此被起诉,也引起了多家团队为此切割服务,将被打击的功能和服务从自身业务中剥离。

昨晚(4月30日)这一则公告中,微信虽未明确提及打击方式,参照去年6月前后行为推测,使用这些工具的商家或会被封禁账号、限制某些能力。对于开发团队,或还会有可能面临相似诉讼风险。

值得留意的是,当下市场中,采用AI工具或智能体来进行运营提效,已经是诸多行业在采取方式,有不少涉及1对1聊天、1对多聊天(微信群)的场景。这一需求吸引了许多创业团队/服务商推出对应服务。

因此,这则公告背后,会带来不少的关注和波动。可能长假期间,许多团队将无法休假,转而开始讨论应对之策。

本文由人人都是产品经理作者【见实】,微信公众号:【见实】,原创/授权 发布于人人都是产品经理,未经许可,禁止转载。

题图来自Unsplash,基于 CC0 协议。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 那些做聚合聊天的管么?

    来自天津 回复
  2. 正常人都知道AI这些东西不能够上传一些比较私密的一些东西,因为他是根本不安全的

    来自广东 回复
专题
69512人已学习25篇文章
作为产品经理的你,需要了解哪些内容,用正确的姿势去拥抱互联网金融市场的变化?
专题
43231人已学习17篇文章
谈到互联网产品,我们不得不谈的就是它的盈利方式,这也是产品人经常会被问到的问题。
专题
13810人已学习12篇文章
用户调研作为产品人员最常用的工作方式,相信各位一定不会陌生。但如何提高用户调研的有效性却是一直困扰大家的问题。本专题的文章分享了用户调研的方法论。
专题
16292人已学习12篇文章
对于产品经理来说,做用户调研是一项很重要的过程。本专题的文章分享了如何做好用户调研。
专题
18574人已学习13篇文章
AI产品经理的核心目的是通过AI技术创造和优化产品服务,丰富技术知识可以让自己在工作中拥有更多话语权。本专题的文章分享了AI产品经理需要掌握的AI技术。