热搜词:

大神Karpathy炮轰复杂UI应用没有未来,Adobe首当其冲,网友:不提供文本交互,就是在阻挡AI浪潮

在人与 AI 高度协同的时代,只有大量复杂 UI 界面的应用将会被淘汰。

大神 Karpathy 给出了对于应用程序未来的预言,并特别点名 Adobe、CAD 将首当其冲。

△  ngmi 是 not gonna make it 的缩写

这样说的原因,Karpathy 解释,只有复杂的 UI 界面而不提供文本交互,就无法和大模型形成有效的人机协同。

换言之,这类软件没办法满足准专业用户的 " 氛围式编程 " 需求。

按照应用当中 UI 和文本含量的不同,Karpathy 还给一些常见的应用划分出了四个 " 风险等级 "。

其中提到的部分软件,长这样:

Karpathy 还补充,虽然 AI 在 UI 界面操作上也会取得进步,但开发者如果守株待兔,照样不会有好的发展。

只有 UI 界面 = 没有未来?

Karpathy 的这番犀利言论,一经发出就引发了广泛的讨论。

支持者 Karpathy 的人表示,仅仅依赖复杂的可视化 UI,而没有可脚本化的后端的产品,本质上是在筑起高墙,阻挡 AI 的浪潮。

还有人表示,现在 Agent 的水平已经与人类相当,所以软件开发者要同时考虑人类和 AI,甚至是只考虑 AI。

看到有人如此强调后端接口的地位,有网友直接给出灵魂拷问——

UI 界面到底还值不值得做?

有人解释,使用文本交互不等于消灭 UI,但 UI 应当构建在 " 文本 " 之上,能够在用户交互操作和文本之间形成一种转换机制。

反对 Karpathy 观点的人则认为,Karpathy 提到的几个 " 高风险示例 "(Photoshop、CAD 等)本身都是面向专业用户的,甚至专门有学校教授这些软件的使用。

在他看来,这些应用与普通的软件不可同日而语,苹果同时保留 Logic Pro 和 Garage Band(都是音乐创作软件)也是这个原因。

还有人认为,VSCode 等(以文本交互形式的)应用并非适合所有人,那既然总要有一个适应,为什么不能让 AI 来适应人类的操作方式呢?

但无论支持还是反对,想要让应用程序和 AI 之间更好协作,人们可能还需要更加规范的语言和软件框架。

" 非专业人士对编程存在认知偏差 "

同一天,Karpathy 还发了另一则推文,讨论了 " 验证差距 "(verification gap)。

这则推文是在其他博主帖子的基础之上进行补充的,原帖内容大概是这么说的:

研究人员必须对 AI 生成内容的相关知识足够了解,才能判断是否正确,这就是针对评估和幻觉有大量研究的原因,但是 " 验证是人工智能用户瓶颈 " 这一概念,尚未得到充分讨论。

他还表示自己非常支持 Karpathy 提出 " 氛围式编程 ",但同时也认为 AI 的纯文本输出非常难以验证。

Karpathy 称这是一篇 " 非常好的帖子 ",然后借用了 GAN 的工作过程补充说,几乎所有创造性工作中,生成和判别这两个阶段都是交替进行的。

而判别的过程,的确在不同创作媒介中难度不同,具体来说,Karpathy 认为图像最容易,文本更难,最难的则可能是音频。

进一步地,Karpathy 批判了现在大模型编程中 " 重生成轻判别 " 的模式:

你可以说,在编程中,大模型已经几乎将生成阶段压缩到了即时的程度,但在 " 判别阶段上几乎没有任何改进。

人仍然需要盯着结果,判断它们是否正确。

这正是我对 LLM 编程最大的批评:它们总是随意输出大量代码,复杂程度不一,仿佛第二阶段(验证)根本不存在一样。

得到这么多代码并不是好事,反而令人畏惧。

最后,Karpathy 又补充,非专业人士实际上对编程工作也存在认知偏差。

Karpathy 说,非专业人士以为编程就是写代码,但其实不是,编程的本质实际上是盯着代码看,类似大模型的判别过程。

如果只是让 " 写 " 代码变得更快,却没有减少 " 思考代码 " 的负担,那整体编程速度显然不会有明显提升。

而 Karpathy 自己也在研发一种 AI 辅助编程工作流,其中一项关键工作就是减少验证负担。

在回复当中,Karpathy 认同将文本视觉化是一种可行的方式,但像目前 Cursor 当中的视觉形式非常糟糕,他设想将整个代码库布局在二维画布上,让程序员可以通过各种 " 镜头 " 来查看代码。

话说回来,你认为未来的应用,应该是什么样子的呢?

参考链接:

[ 1 ] https://x.com/karpathy/status/1930354382106964079

[ 2 ] https://x.com/karpathy/status/1930305209747812559

—  完  —

 量子位 AI 主题策划正在征集中!欢迎参与专题365 行 AI 落地方案,一千零一个 AI 应用,或与我们分享你在寻找的 AI 产品,或发现的AI 新动向。

也欢迎你加入量子位每日 AI 交流群,一起来畅聊 AI 吧~

一键关注 点亮星标

科技前沿进展每日见

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法!