我的设计AI变丑了!——不稳定的AI的信任危机

0 评论 911 浏览 0 收藏 7 分钟

Pixso AI的审美突变让设计师从惊艳到惊吓,专业版升级后竟遭遇LOGO设计质量断崖式下跌。从参数调整到训练数据污染,AI产品的"随机崩溃"现象正在摧毁用户信任基础。本文通过真实案例揭示AI工具静默升级带来的行业困境,探讨为何"设计变丑"背后是比技术缺陷更致命的信任危机。

上次用Pixso AI设计小程序时,虽然经历了“导出危机”,搞得差点功亏一篑,但是我对这个AI的审美实在是过于信任,一有需求,仍然第一时间找它。

因为它的审美是这样的, 请看它设计的找房网站LOGO:

1月14日 Pixso AI设计的LOGO

于是我这次毫不手软地花了298升级到了专业版。

但是这个惊艳就变成了惊吓————这跟我一个月前用的是同一个AI???

还是设计一个找房网站LOGO,它给我的方案是这样的:

2月10日做的方案1

(⊙o⊙)…应该是偶然失误吧,再来一次

2月10日做的方案2

不甘心,再来一次:

2月10日做的方案3

好吧,我绝望了,不仅毫无美感,不知所云,甚至充满低级错误,文字和图形都叠在一起了。

我又去找客服问:我现在用AI做出来的方案变丑了,你们是不是换了底层大模型?

客服说:这个我不知道啊。

我自己又上网查了一圈,Pixso用了哪家大模型,是否换了大模型。只查到23年Pixso接入文心一言的新闻,所以很可能利用了文心一言的语言能力,用自己的海量设计数据训练出的模型。

所以问题可能是:

  1. 给大模型的输出调了参数?
  2. 最近的训练数据污染,导致审美崩塌?

AI设计变丑和“DeepSeek变冷淡了”

不禁想到前阵子的一个热搜,#DeepSeek变冷淡了#,用户纷纷反馈deepseek说话变得冷漠凶巴巴的,还带着“登味”。终于引发了官方回复,说是调整了参数,目的是为了提高性能。

总之,让人很慌。

我们习惯了软件时代,例如App平台,会要求每一次迭代都要更新版本号,都声明做了哪些修改。而且每一次变更都清楚知道哪一行代码引起的。

而现在的Ai公司似乎都默认静默升级,除非有大版本升级,有宣传需要才会发布版本更新说明。而且其他变动,无论是参数调整,还是增加了新的训练,对用户来说都是黑盒。

在传统软件中,我们都默认软件的更新是正向的,这个版本有bug,下个版本就修掉了,这个版本没有的功能,下个版本就加上了。如果更新声明中,有觉得不可以接受的内容,还可以拒绝升级。

但是Ai产品不一样了,除了你不知道是不是偷偷更新了,甚至开发团队自己都不知道这次更新是好是坏,有没有什么隐藏问题。

也就是说,在与对话之前,我并不知道今天跟我对话的AI,还是不是昨天那个AI。不知道今天要跟我对话的AI是天才还是笨蛋。

就像我这次,付完钱,输完prompt,设计结果生成那一刻,才发现服务我的“符合我审美的资深设计师AI”换成了“完全业余的外行画图员”。

我很想呼吁AI要建立行业标准,就像传统应用一样,强制公开更新内容,让用户自主同意更新才能更新。但是事实是,即时这样,还是不能解决信任问题。

AI的终极风险:“随机崩溃”(Random Collapse)。

最近关于AI的新闻是,AI 安全研究机构 Anthropic发布的研究说,AI的风险不像科幻电影里演的,某天AI突然产生自我意识,觉醒了,开始反抗人类了。而是“随机崩溃”(Random Collapse),也就是一贯靠谱,已经取得你信任的AI,某天突然胡说八道,一本正经给出了个完全错误的答案。

他的可怕之处在于“随机”发生。所以我这次遇到的设计AI变丑事件,有可能并不是AI更新造成的,只是随机出现了不被认可的答案。程序的开发者们,甚至无法找到造成变丑事件的原因,测试们也无法复现问题,所以也无从下手解决。

但是随机变丑又确确实实会在客户手中发生,严重影响客户的信任。当使用越是深入,随机崩溃的概率就越大,造成的影响也越大。

最后的感慨:

AI 设计变丑了,不是审美的问题,是信任的问题。当工具开始随机退化,我们离真正的生产力革命,还有一段充满不确定性的路要走。

ps,我跟Pixso客服表示,当下的AI没有达到我的预期,非常爽快地给我退了款。

ps2,上一次让我差点崩溃的时刻,看看这篇:

AI设计很好看,但是我导不出来——谈AI的“最后一公里”困境

本文由 @Cassie 原创发布于人人都是产品经理。未经作者许可,禁止转载

题图来自Pixabay,基于CC0协议

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 目前还没评论,等你发挥!