Kang

关于 Andrej 和 Dwarkesh 对谈的记录

· 10 min read

寻找一个合适的应用场景

在对谈中,他们聊到了关于模型应用的问题。他觉得呼叫中心是个例子,在未来,呼叫中心的人工系统是极有可能被模型替代的,原因是在于它包含「固定的流程」和「相似的任务」,特定的能够在系统中被正确的处理并完成。除此之外,他抽象出了一些特点,具有这些特点的任务是适合用大模型来替代的。以下是我记录下的要点:

  • 排除外部的因素:没有外部的因素的干扰,这样就减少模型犯错的可能,像是稳定的工厂流水线需要特定的厂房,模型系统也是一样。
  • 足够封闭:类似上面的一点,也是尽可能减少系统外部的干扰。
  • 数字化:这也很好理解,因为大模型是基于 token,我们不能说用大模型去烘烤面包。
  • 80% AI / 20 % 人工:这点比较反常。我们是希望模型能够百分百的取代人类,完成彻底的自动化,不过从真正的工程实践角度看,几乎所有的系统都没有办法避免 20% 的人类部分。我们可以减少它们,但绝不能消除它们。对于一些黑天鹅事件或是非常诡异的全新状况,只有人类才能妥善的搞定。

顺着他的总结,我其实一直也在想,什么样的用例适合来使用大模型来替代,换句话说就是寻找需求。我能想到的一个可能的,并且在实际工作中遇到的是测试结果总结:每天的例会中,都需要有人查看所有环境中的所有测试结果,并且与历史的结果比对,将新出现的或者比较奇怪的测试结果分享出来,最后询问其他人的意见和想法。

这个例子中,它首先满足了数字化和足够封闭的特征,至于排除外部因素的干扰则并没有完成实现,因为服务系统的上下游关系和配置非常复杂,依赖关系也并不简单,但受到外部的干扰是属于小概率事件,在这里可以暂时性的忽略。最后的 8/2 关系也算符合,虽然现在都是有我们来完成,但像测试结果的历史比对,发现新冒出来的错误测试,以及测试的报告汇总还有初步的成因分析,大模型都可以完成。至于那些非常异常的结果,直接可以人工干涉进行分析。

如果要是真的能实现了,又能省下一位程序员每天半小时到一小时左右的时间了。

我需要知道自己在干什么

Andrej 使用模型非常有主见。他知道什么是好的代码,也知道自己要的结果是什么。模型所做的,就是把他脑子里具体的东西给实现出来。如果恰巧模型实现不了,他也足够有能力自己来实现。

有一种方法可以度量我们使用模型的方式:一端是完全不用,认为 AI 完全是邪恶的产物,或完全遵守 old school 的作风。另一种是完全使用,即便我一点代码都不懂,但是我所有功能全让他实现。

所有人都在用同一套模型并且遵循同一种度量方式,所以使用模型的方式很大程度上映射这个人的经验和性格。AI 不会因为输入错误的信息就会产生正确的结果。

因此,正如 Andrej 所说,知道自己要做什么,自己有强烈的主见和意志去实现一个东西,这样核心的东西属于自己是十分重要的。自己实现这个核心,而 AI 只是作为辅助,去帮我完成我已经知道的那些事情。

这在另外一方面也说明了 AI 的局限性,那就是它不知道我的局限性在哪里。类似于它无法告诉我不知道什么,缺少什么。我作为使用者,只能对着它生成的文字发呆,仿佛已经理解学习到了什么,但这就是一种幻觉。我并没有掌握这些,以前更没有经历过这些。

所以我使用它的态度同样是乐观却比较谨慎,以防止它把我给训练成傻子。

我得消费原文

在这这段采访出来之后,我的社交媒体的时间线上就充满了有关内容的视频片段,感受分享以及总结。带有人味的感想还好,但是 AI 总结实在是太无聊了。几乎是一致的结构,段落还有内容,唯一区别的是说法各有不同,可能是每个人用的 prompt 有不同。这里面有些讽刺,AI 总结最多的还是一段关于 AI 深刻洞见的长视频,实属是倒反天罡。

在我花了一些时间看完了整段采访之后,我很确切的是那些总结对我一点价值都没有,有时甚至还有负面影响,影响了我对原视频的印象和理解。在原视频里,除了大段关于 AI 的主题,还有许多和学习与理解知识相关的内容。这些内容很具体,比如他们会聊会如何处理一段值得学习的代码片段,从使用它开始,关注每一个功能块,以及每个功能块的关系,抓住事情的主线。换句话说,它对我来说很有兴趣,但对你来说可能不是,对模型来说则更不是了。如果你全看模型总结,你获得是一个幽灵帮助你总结出来的所谓精华,它甚至都不是一个真实人的想法。在从总结,到最后发布总结的整个链条中,唯一存在的人性可能就是这个账号主人的口味和选择,而往往这样的选择中都带有广告。

作为人类,我会理解我们不会倾向于喜欢二手的东西,比如二手烟之类的。但是我们天天却摄入海量的二手需求,二手观点,二手信息。有时甚至还不是二手的,而是经过层层包浆后的产物。它们全是 digital 的,都以二进制方式传递,因此非常具有欺骗性。

为了能够确保多一些真实且富有个性的内容能传递出来,我需要消费原始的内容。

关于学习

他们描述了学习物理的好处,即通过系统性的训练可以获得一种能力,用它可以迅速把握一个领域的精髓和核心,通过抽象建立模型,去除暂时无用的噪音。一个使用数学的比喻就是泰勒展开一个新的知识领域,然后只留下其一阶和二阶,最精华的部分,有稳定的频率的基波。

从内容上,从理解一个模块出发,提出问题,然后再抛出另外一个模块,能够巧妙的解决当前模块存在的问题,从而引发学生的啊哈时刻,然后逐渐拓展成一个简练和牢固的系统。当最基础的系统出现了之后,剩下的一切无非就是对效率的优化。大部分我们使用的系统或工具,都经过了无数优化的洗礼,变得极其复杂,以至于我们从外部观察完全无法理解。


原版视频

翻译视频

感谢您的阅读!您的支持是我的动力。

如果您喜欢这篇文章,不妨请我喝杯咖啡。 ☕️