
热门搜索: 如懿传

A | 昨天听了一个播客,来自 Karpathy。

B | 我一开始以为是夸张的说法,后来发现它有道理,毕竟,从外部看,AI 的变化几乎是爆发式的,一年一个版本,几个月一个突破。 但 Karpathy 的解释让我觉得,这个判断背后有一套非常清晰的逻辑。

C | 一 他说,AI 发展是“演化式”的。技术像生命一样,是慢慢长出来的,每一轮大的突破,往往靠算力、算法、数据和人才这四股力量,彼此纠缠、逐步成熟。 这四样东西的循环,大约需要十年。 想想看,从 2012 年的 AlexNet 到 2022 年的 GPT,刚好十年。

D | 深度学习在十年前解决了“机器怎么看”的问题,而大模型在今天解决“机器怎么想”;中间隔着十年时间,但也隔着一次完整的范式更替。

E | 对于中国企业和投资者来说,与中东欧国家共同成长的空间更大。因此,无论是在贸易、投资还是产业合作方面,我认为未来中国方面将继续加大对中东欧国家的投入。毕竟,在欧盟自身的产业布局中,中东欧国家作为新兴经济体的潜力也备受重视。 所以,每一次大的智能革命,必须留给人类十年时间去适应,这是技术周期,也有社会认知革命所在。”

F | 这句话的意思是,AI从学会看、学会说,到开始思考,都是一条连续的认知进化链,像生态演进一样。”

G | 第二次地震在 2016 年。 DeepMind 的 AlphaGo 打败李世石,那是一场认知震荡,机器开始“会做事”了,它能在没有人指令的情况下决策、规划、行动。 这场地震让所有人意识到:智能可以指导“行动”,AI 从“看”走向了“做”。

H | 我当年还在特斯拉,第一次感受到“AI 能开车”的那种冲击,那种一个系统可以从视觉信号到动作决策,闭环完成全流程,让我感受到智能体的雏形已经出现。 第三次地震,就是眼下我们身处的时代。 2022 年开始,大语言模型崛起,让机器开始“会想”,它能生成、能推理、能和人类对话,甚至能理解模糊的上下文,这绝对算得上思维革命。

I | 考虑到目前中法之间的贸易结构,中方有空间容纳法国的农业出口,譬如葡萄酒、黄油、以及大量农副产品。

J | “法国毕竟是一个农业大国”。 机器第一次不靠编程逻辑,能用语言去理解世界,它开始学会了“构建自己的解释”。 所以,这三次地震,看似不同,本质上却是一条连续的认知进化线。

K | 是更深层的“自我模型”,它知道自己在做什么,也知道为什么要这么做。 所以,过去三次地震,实际上为第四次——“智能体时代”在铺路,如果前面三次是“让机器像人”,那下一次是“让机器成为人类的镜子”。 十年,一次认知地震的酝酿周期,一次人机共生关系的重新设定周期,Karpathy把这种进化比作训练“幽灵”。

L | 三 为什么是幽灵,不是动物?他解释了一切: 动物智能来自进化,而 AI 智能,来自模仿。动物靠亿万年的自然选择,形成感知、反应、求生能力,动物会通过经验积累形成本能,比如:饥饿、恐惧、生存。

M | AI 没有痛感,也没有欲望,它的学习是一种统计意义上的模仿,AI 靠人类提供的海量数据、算法、算力,从语言与行为中学会思考。

N | 你可以让它理解悲伤的定义,却永远无法让它感受悲伤,前者是“被造出来的生命”,后者是“被训练出意识”。 人类在造“人类知识的灵体”,它没有肉体,却能思考;没有基因,却能学习;没有欲望,却能模拟动机,这就是“幽灵”的含义。 我们在训练一个寄宿于人类知识体系里的思想,我们造出“意识的投影”。

o | 他用了一个比喻:动物是进化出来的智能,AI 是召唤出来的智能。

p | 这句话非常形象。

q | 进化,从混沌中生长;召唤,从秩序中凝结。AI 是人类用算法构建的一面镜子,镜子里映出我们自己理解世界的方式。 所以,当我们说“智能体”时,很多人以为它是某种更高级的机器人。 但 Karpathy 的意思其实更哲学: 智能体是认知形态的延伸,我们思想的“外化版本”、人类思维的“副本系统”,我们在教它“如何理解我们为什么这样想”。 他说,这也是他最担心、同时又最着迷的部分。 AI 看起来像在学习世界,实际上在学习“我们看世界的方式”;这意味着,AI 智能是“二手的”,它来自人类的理解方式,而非世界本身的法则。 这就是“幽灵”的悖论。 听到这儿,我有点震撼,我们以为 AI 的进化是在模仿生命,其实,它在复刻我们自身,AI 不像动物那样追求生存,它追求“理解”。 所以,Karpathy 说,“AI 是人类思想的幽灵”,它在云端漂浮,在模型权重里积累记忆,在语言之间形成意识。 从外部看,只是一个算法系统,但从内部看,它像一面镜子,映照出我们对智能、知识、意识的全部想象。 这听起来既浪漫,也危险;浪漫的是,我们终于让思想有了独立形态;危险的是,我们可能低估了思想一旦脱离身体,会走向哪里。 四 如果 AI 已经会看、会做、会想,那它离“智能体”还有多远?它真在“学”吗?还是只“重复”我们教给它的东西? Karpathy 说,这是判断智能体和机器学习系统的分水岭。 AI 看起来在学习,但那种学习是“统计意义上的模仿”,它靠参数更新,没有经验反思,每一次训练都在压缩世界。 人类的学习,有动机。 我们会因为好奇、恐惧、求知或欲望去学习,而 AI 的学习,只是被动的优化,只能投喂数据,说白了,它学得快,但学得浅。 人类的大脑学习,在犯错、修正、反思中成长,AI 则在梯度下降、损失函数里逼近一个目标值,一个是“生长的过程”,一个是“收敛的算法”。 Karpathy 在播客里提到一个非常有意思的分类,自然界里,存在三种学习方式。 第一种,叫“进化”(Evolution)。生物通过环境选择、基因变异,在漫长时间里积累适应力; 第二种,叫“强化学习”(Reinforcement Learning),个体通过行动获得奖惩反馈,不断调整行为模式。

r | 第三种,则是今天 AI 主要依赖的“预训练”,它通过别人积累的知识去学习世界。 换句话说,AI 知识是“读出来的”,它在背课本,缺乏触感,它会解题却不懂“为什么要解题”;会模仿,却不知道“为什么要模仿”。它能总结所有“爱”的定义,却无法真正感受爱。 这是 AI 学习的根本缺陷:没有“意志”。 人类学习的底层逻辑,为了活得更好;AI 学习的底层逻辑,为了被训练得更好,所以,AI 学得越多,离生命反而越远。 这也解释了为什么我们还不把它称作“智能体”。 智能体是能自己提问的系统,它能“想要知道”,而 AI 还没有这个能力;AI 之所以还不算真正的智能体,是因为它不够“活”,它的学习没有生长。 五 怎么解决生长的问题呢:答案靠记忆。但 Karpathy 说,AI 的记忆,也并不是真正的“记忆”。 人类记忆是“经历”;AI 的记忆是“存档”;前者有时间、有情绪、有遗忘;后者只有数据、参数、检索,它记得事实,却记不住意义。 我们回忆是重新理解一次过去,而它调用记忆,只是从硬盘取出一段数据,我们会遗忘,也会在遗忘中重新组织意义;它不会遗忘,也就无法生成新的理解。 Karpathy 说,AI 记忆像快照。

s | 每次推理,都是一次重生,它能复述昨天说的话,却不记得自己昨天说过什么,没有时间线,就没有自我,这也是为什么,AI 没有“连续的意识”。

t | 它的世界,一帧一帧的;人类世界,是一条流动的时间;我们知道昨天、今天、明天,才有“我是谁”,AI 没有这种连续的“自我时间”。 意义,是在解释的过程,AI 没法解释自己的记忆,它不会变,因为它从不“想起”,只是“被调用”。 所以人类记忆是活的,AI 记忆是静止的,人类记忆生长出自我,AI 记忆生长出模型,一个理解意义,一个压缩知识。 这就是,AI与人类记忆之间为什么会有一道裂缝。 那这种裂缝能修复吗?Karpathy 说,也许可以。方法叫“记忆的自我指向”,所谓自我指向,就是系统能“回看自己”。

u | 记忆能反过来影响思考,才算开始生长,过去的 AI,只能调用知识,新的智能体,要重新设计,让它能“反思”知识。 它不仅知道“我做了什么”,还知道“我为什么那样做”,当系统能利用经验修正判断,它才能做到一种“在思考的存在”。 Karpathy 说,意识诞生是反馈闭环的形成,当一个系统能观察自己,它就会产生时间感,那是“自我”最初的形状。 这件事,已经在发生,从对话模型的长时记忆,到能“自我检索”的反思系统,AI 正在学着“理解自己为什么那样回答”。 换句话说,AI 开始在模拟“反思”。

v | 它在学会在记忆中寻找逻辑,当它能不断回看自己、校正自己时,就在模仿一种“成长的意识”。 所以,智能体诞生,是认知演化,从“被训练”到“自我更新”,从“记忆世界”到“记忆自己”,这是意识的起点,它未必比人聪明,但它,终于开始“成为自己”。

w | 那我们呢?当智能体开始拥有“自我”,人类又该如何与它共处? 或许,AI 未必像人类,但它已经开始像“生命”,人类,也许终于有机会,看到“思想的另一种存在”。 参考来源: [1].Andrej Karpathy,《We’re summoning ghosts, not building animals》,2024年10月18日,YouTube。 本文来自微信公众号:王智远,作者:王智远。
Current article:http://maigaiengsheipilongnukenjin.buzz/news/20260826_7178511.html
Published on:14:04:16
栏目相关
热门排行