跳转到内容

AGI 万字长文(下)| 2024,分叉与洪流

🎁

原创 Lian et Zian 普通人的AI自由 2024-03-03 17:48

链接:https://mp.weixin.qq.com/s/8n8hEs0YTH9Q0xpbui7aBA

太长不看版

  • AI多模态大爆发:文字走脑->声音走心+视觉走肾
  • AI应用是技术驱动的,(目前)产品能做的事情还很薄
  • Sora本身不是目的,而是迈向AGI的坚实一步
  • “互动”与“内容”都将变得廉价,而“真实”会成为一种稀缺资源
  • “AI原生”是基于AI的能力来再造商业模式,而非用AI套用现有流程
  • To AI的商业模式可能更确定:模型市场、合成数据、模型工程平台、模型安全
  • 基于国产芯片的软硬件联合优化-固件生态是明确的机会
  • 端上智能目前最大的想象空间是成为全天候硬件24x7收集数据
  • AGI会造成极端垄断,并提供前所未有的中心化操控能力;作为个体,我们是否会有Plan-B可选?
  • “人的模型”或是AI Agent的前提,是AI与人合作的关键一环
  • “具身智能”是AGI通向物理世界的桥梁
  • 从“中美相争”进入“主权AI”?国际政治的边界将或按照AI技术边界来重新划分
  • AI生成的数据量将超过全人类生产的数据总量:“数据编年史”进入“AI纪元”
  • AGI会主动投资的技术:可控核聚变、量子计算、超导、广义机器人
  • 回归本源:只有“智慧”才是AGI的真正增量
  • 作为拯救派,要想办法给解法才行!

"Choices", Lian 2024, with Dall-E 总目录

引子:人间一日,AI十年 紧接着对于2023年的回顾,我想斗胆做些2024-25年可能发生的事情的预测。写这篇文章的时候正赶上OpenAI Sora、Google Genie、Mistral Large的发布,不少内容也经历了些修改。真是还没等写就都做出来了…… 作为小作坊创业者,在大模型时代是没有办法拥有底层技术的,技术护城河也更加难;于是,稍微早一点点预判,找到一个没有大鱼的“小水洼”就尤其重要,所以我也愿意花些力气来做做今天这番思考梳理。不过,既然是预测(胡猜),其中不免有不精确、不准确、过于科幻的推演;我也希望可以给大家一些启发,但也可能把人带沟里……不过纠结一番,还是觉得要把这些对于2024的猜想先写下来,立个Flag, 一年之后作为笑话来看看也不是坏事。以及,大家也完全可以把这篇文章当作科幻文学作品来看。 最后,实在抱歉,没想到两篇文章写着写着就有了2.3万字的篇幅,希望大家专门拿出45分钟来阅读,而不是零碎的看。此外,我强烈建议大家先读我的上篇《AGI万字长文(上) | 2023回顾与反思(我知道你们只看了“太长不看版”);今天的很多观点也是顺承2023年来的。另外,文末我会专门把提到的机会/商业模式总结成《AGI潜在机会点2024》,希望可以有用。(对,就是强迫你们看完)

欢迎转载、转发、关注、扩散;以及加微信勾搭。

下篇:2024,分叉与洪流

<1>虚拟人与虚拟世界

1.1 大模型的“想象力”与“取悦能力” 2023年除了ChatGPT之外,最优秀的2C应用就是Character.ai, 国内也有不少类似但不完全一样的应用,比如字节的“豆包”、Minimax的“星野”;除此之外,还有几个出圈的“AI Ins网红”。在这些应用里,我们已经开始能看到“AI虚拟人”的身影了。

不过,在实际使用和测试这些AI聊天产品的时候,我的情绪波动是很大的。最开始的时候:“啊太上头了!这是恋爱的感觉吗?比抖音还上瘾!简直是现代鸦片-终结人类繁衍的恶魔!” 不过玩着玩着我就逐渐发现: “天啊逗Ta好烦!AI脑子就不能长点记性吗?” 之后变成 “啊我好渣,男女AI后宫全都嗷嗷待哺,但没有一个人懂我,我好累……” 最后,到思考是否要自己做一个类似的东西的时候,就会发现这些产品有一些共有的缺陷:1)记忆混乱; 2) AI无法主动推动剧情,全靠用户脑补;这就导致了3)用户上头期短,疲劳度高,长期留存低。

退一步来想,之所以这类产品相对于其他类型更早取得成功,正如我在“上篇”总结的:大模型的“想象力”和“取悦能力”明显早于其“逻辑能力”的成熟。这也是现阶段设计新产品的核心逻辑之一。此外,陪聊类产品的最大优势在于:产品粘性不是完全建立在技术优越性上,而是通过陪聊建立人和AI之间的感情连接。这就避免了因为OpenAI的一次技术升级被马上颠覆的问题:1)感情链接可以为产品赢得一些时间来做技术升级,2)满足这个特殊场景的技术只需要做到通过场景80%就可以了,3)聊天数据的积累可以让自己的产品有效果加成,甚至取得一些领先。

但成也萧何,败也萧何。大语言模型的能力缺陷也限制着产品发展:不是产品经理不努力,而是技术还没到。举个具体例子:针对聊天记忆问题,星野通过生成一个“聊天故事摘要”的方式做了个“外挂记事本”;相对其他竞争对手来讲,已经很优秀了;但即使这样也无法解“决模型记忆与遗忘机制”这个本质问题,而只能缓解用户体验损失。而且,总结出这个“记事本”的难度很高:总结做得太粗就效果不好,做得太细推理成本就扛不住而且又没有故事重点……

没有核心技术对于创业公司的挑战是很大的:要能往前看半步,预判马上会成熟的技术,先准备好产品形态;而同时又不能过于超前,因为没有技术产品就生不下来。这里难就难在:AI应用是技术驱动的行业,产品能做的事情(还)很薄。目前还不太好说未来会不会有改观。

“Accompany”, Yifei Gong 2024, with Dall-E

1.2 多模态大爆发:走脑 -> 走心 & 走肾 媒介对于人的心理有着根本性的影响:文字是走脑的,声音是走心的,视觉是走肾的。

  • 文字:更擅长与“理性的人”打交道,刺激思考(书籍/知乎/公众号)
  • 声音:可以深入“感性的人”的灵魂,产生依赖感和亲切感(Soul/小宇宙)
  • 视觉:直接作用于多巴胺通路,刺激动物本能,让人成瘾(抖快/小红书)

抖音的成功已经证明了:对于泛社交/娱乐向产品,音频、视频的加入会带来质的飞跃那么对于AI陪聊的赛道,AI视频、音频技术的加入,也一定会带来内容生产和社交方式的质变。这也是为什么近期的视频技术大爆发让人兴奋不已的原因。自2023年末开始,Runway、Pika、Meta、Google等都不断推出视频生成/编辑工具,到了2024年更是有了Sora……

对于Sora,和任何新生事物一样,我们会高估短期(认为马上就有成熟产品)而低估长期(不愿相信、难以想象它可能带来的颠覆)。我暂时还没有特别细的关于Sora的信息,按照已知来看:Sora仍然在“GPT-世界模型”的逻辑框架内,在想法上并没有更新的东西,但Sora的进展是迈向AGI的坚实一步。Sora本身不是目的,我们为之惊叹的“生成视频”只是皮毛;而Sora更重要意义的在于通过使用更多模态数据(图像和视频),让大模型的理解能力又有了提升;最终目标一直没变,就是AGI。

刚出来的Sora确实还有一系列问题:生成的图像不稳定、速度慢、成本高……不过there is no surprise,这些都很正常。如果我们参考文生图的成熟速度的话,从最开始有可用的产品(Dall-E1&2在2022年上半年面世)出来之后,到可以商用、产生行业变革大约经历了一年半的时间;类似的,2024年将会是AI视频技术逐渐成熟并开始商用的一年。当模型开始具有比较好的多模态理解能力的时候,稍晚一点到2024下半年或2025年,也会看到AI-3D技术的突破

在音频领域,配音员水平的AI已经成熟,对于一般商业场景已经足够。当有了多模态理解能力之后,带有感情的对话能力也会在2024年有突破对于AI陪聊这个场景,音频的重要性甚至大于视觉:走心的男/女朋友才能长久;走肾的只能一晚一换。

当然,从做产品的角度来看,直接抓AGI是没法抓的,更实在的是具体商用能力的提升。比如,在AI陪聊的赛道上有:人脸动作的细致刻画(如近期的Pika Lip Sync),人物微动作(拥抱、牵手、亲吻等),低成本生成符合聊天内容的插画、加了“撒娇耍赖卖萌撩人”感情输出的对话、真实的背景音与烘托感情的配乐……这些都会在2024年内逐步成熟。

"Sinking", Yifei Gong 2024, with Dall-E

1.3 虚拟人 与 虚拟世界

当我们看到上面一系列技术的可能性的时候,自然的问题就来了:真-虚拟人马上就要出现了吗?以及,这意味着什么?

首先,如果放在3-5年的时间轴上,具有可以模仿人类感情、甚至有独立性格的虚拟人出现是大概率事件。但如果只看2024年,概率应该并不大;这是因为有几个核心技术问题目前还没有看到解决的思路:

1)记忆问题可能比想象得更加复杂,因为“记忆”同时也是“有选择的遗忘”和“特定触发下的浮现”,但这些机制目前还隐藏于“大脑”这个黑盒里;以及,我们除了寄希望于“另一个黑盒”大语言模型自我“涌现”出这样的能力之外,似乎还没有直接教会的方法;这让解决问题的不确定性变得非常高。

2)还没有“人的模型”+缺乏丰富的个体数据。人格是建立在独立个体之上的体验,但如“上篇”所讲,大语言模型(LLM)用的是所有人的一点数据,而不是某个个体的大量数据,这就和产生独立人格不在一条路上,而是在做“人格模拟”。于是,我们大概还需要一些时间让“有些奇怪的AI人格”逐渐向“自洽的真人”迭代靠拢。这个迭代过程所需要的可能就是关于个体的更完整数据。

但“没有完整人格”并不代表“没有好的产品模式”。AI在2024年会满足一些并不需要完整人格的场景:颜值(非才艺)网红、直播带货、电竞直播……低门槛卖脸卖身材的行业都可能在2024-25年被AI大规模取代;而且这种取代并不是看客们意识到“这是AI小姐姐”,而是他们完全分不出屏幕上和自己互动小姐姐是不是真人的程度。中腰部网红/主播在未来被AI清理几乎是一定的,时间上取决于AI成本下降的速度;不过那些真正有艺术才华、出奇冒泡的头部创作者应该都还可以高枕无忧很长时间。

在未来,我们会看到,互联网上的90%+作品都是AI做的;以及作为人类,我们也无法区分什么是真什么是AI什么是真人。

和虚拟人相比,虚拟现实的场景可能会成熟得更早。游戏制作、内容生产的成本会快速下降,直到诞生出人与AI-NPC共存的-具有无限副本的-真正开放世界游戏。从发展速度上来讲,我并不认为在2024年就会实现真正开放世界游戏;但在2024年,有灵活对话能力的AI-NPC、生成式背景、小规模生成式剧情/结局应该都可以成为现实。这些生成式的-独一无二的游戏和故事会成为社交传播的出圈营销话题。

伴随着内容制作成本的下降,另一个明显的机会是AR/VR。Apple最近推出的Vision Pro更是让我们看到了希望。前一轮AR/VR泡沫破灭的主要原因是1)内容制作成本高&质量差,2)缺乏应用场景,3)硬件性能/重量/价格问题。第一点应该随着AI技术的进步可以比较快速的解决;第二点的突破口我认为还是会从VR游戏中诞生,而不是生活和商务场景;第三点可能就还是要看硬件厂商。因此我推测AR/VR的大规模成熟会和大型开放世界游戏同步,可能还不能够在2024年马上实现。

在“真-虚拟人”诞生的前夜,我们面临着很多灵魂拷问,篇幅所限,留到下期~

  • 如何能使AI虚拟人的陪伴更“真实”,更“上头”?缺乏记忆力的硬伤要靠什么补?
  • AI虚拟人会成为真正的社交对象吗?还是说,他/她仍然只是作为内容被消费(如网红)?
  • 未来“社交”的定义会不会产生根本变化?社交平台的根基会不会被动摇?什么是新的商业模式?
  • 在AI与人“混合杂居”的新世界中,我们应该如何谋生?如何爱与被爱?如何生活?如何思考?……

上面的问题看似科幻,但在如今已经充满了AI自问自答的Quora中(知乎相当于国内版Quora),我似乎已经看到了几年后的未来:

There is no truth online, anymore. | 线上不再有真实。

在这样一个世界里,互动、内容都会变得廉价,而“真实”则成为一种真正稀缺的资源。

"Beautiful New World", Yifei Gong 2024, with Dall-E

<2>“AI原生”: 重新定义未来商业模式

现在的AI不仅仅是流量密码,也是股价密码;于是,是个公司都会想方设法往AI上沾边。私下也有很多朋友问我:美妆/白酒/奢侈品如何联动AI?AI如何赋能农业/传统制造业? AI如何赋能HR/行政/采购/公关?……其实,大多数都有点难。因为AI也并不是万能的,以及我们和AGI还差的很远。

像我去年12月份的文章《AI原生公司 | 未来打工人》写的,目前大多数的"AI应用/AI转型”还在走“数字化转型”的老路:把AI往现有流程上一套,还在讲“固化流程”、“节约成本”的故事。但在技术加速迭代的今天,这样做基本就等于“做出来就是过时的”:把企业的业务模式凝固在今天,同时又剥夺了企业主动进化的能力。

现在这种情况下反映出来的,更多是人们对于AI的焦虑:所以才会希望AI拿来就能用,马上能起效果。但我们不能止于焦虑:AI的力量并不应该只用在现有业务流程的优化上,而更应该用在对于未来业务的重新定义之上。这才是“AI原生公司”应该的做法。就像在电力发明的时候,我们不应该从“如何让电力赋能马车”出发,而应该从“电力能创造和满足什么新的需求”出发

落到实际,我们还处在AGI的早期,2023年的“AI原生”应用也还很少。“上篇”也讲了,目前除了OpenAI/Google/MS 官方应用之外,上文的“AI陪聊 Character.ai”是唯一上榜前十的“AI原生应用”。除此之外,国内的真正AI原生的还有出圈的“妙鸭相机”,以及春节附近的“哄哄AI女朋友”类型的应用;基本可以说还没有什么亮点。

那么,什么才是“AI原生”创新呢?真正划时代的创新都是创造并满足了新需求。因此,我们需要从AGI(未来)的能力出发来思考这个问题。不过,真正到商业模式/产品落地还要技术的成熟时间,今天也没有办法穷尽AI能做的事情。我也只能尝试提几个AI会持续发展的方向,希望能有所启发。(具体业务场景的咨询欢迎单聊)

  1. 广义语言-万能翻译机。1)当前可以做到大多数国家之间语言的高质量翻译;2)编程语言之间的相互翻译能力也不差(但暂时还没有架构师思维);3)人的语言-机器语言之间的翻译还需要些时间,因为自然语言编程的问题经常来自于自然语言本身模糊性的缺陷; 解决2-3)的问题需要AI有更强的理解->自己做出假设->解决问题的能力:这正是AI Agent要实现的。
  2. 想象力 & 创造力。不多赘述,前文提到的虚拟人-虚拟世界已经给了我们足够的想象空间。
  3. AI使用工具-AI之间合作。AI对于工具的使用,AI之间的分工合作可以弥补单个AI的能力缺陷。可以有效使用工具的AI、AI相互合作也是现在有关AI Agent的研究重点。未来的APP服务背后由多个Agent来支持会是常态
  4. 量变产生质变-AI微决策。AI与生俱来的能力就是低成本、大规模、高速度;那么利用AI来在大量细微事件上做出高速决策便是一个思路。现在的“高频交易策略”和“推荐算法”其实就已经是在这么做了,在AI智力升级之后,一定会有更多的可能性
  5. AI与人合作。在相当长时间里,AI首先要解决的还是如何与人合作的问题,实现AI+人的1+1>2。这件事的前提大概就需要“上篇”中提到的“人的模型”和“人的数据”,才能让AI真的理解与之配合的人类

随着技术的进步与成熟,2024年的“AI原生”应用会比2023年多得多。

"Exploration"; Yifei Gong 2024, with Dall-E

<3>To AI的商业模式:更高确定性

上面讲的都是AI如何服务人;从另一个角度来向,服务AI的商业模式的确定性可能更高。淘金时挣到钱的除了卖铲子的,还有修路的。

3.1 合成数据

意思是生产数据喂给AI模型,提高效果。目前比较多的做法是“大量的-质量一般的数据”可以用在模型初始训练(包括无监督学习和有监督学习),“质量很高-数量较少-有行业特性”的数据一般会用在模型后期精调/行业化精调上;不过也有公司在尝试把高质量数据放在预训练的退火阶段,也取得了一些效果。

做数据的方法也多了起来。传统做数据的核心竞争力在于1)可以收集到别人拿不到的数据;2)低成本做大量数据清洗和标注。刚刚兴起的,是AI合成数据,也就是用AI来生成数据再喂给其他AI。现在有不少创业公司在做这件事情。“上篇”也讲了,合成数据会逐渐成为下一代模型基础训练的主要数据来源,人生产的数据主要会用在最后的精调/对齐上。

此外,新的数据种类也是一个值得思考的点。当前数据主要集中在文本、照片、视频;但如果模型需要对于3D空间和物理规则有更好的理解,应该需要更多的其他种类传感器的数据,如:惯性/重力,应力,电磁,温度,湿度, etc……

3.2 模型市场/平台

当前最火的AI公司,除了做模型的,还有一个特殊的HuggingFace(HF)。这家公司提供的服务是模型市场。这个服务至关重要:如果按照现在的市场格局,未来在AI Agent出现时,模型之间互相调用基本都会用到HF的服务和规则。

当然,这个模式也是有风险的:那就是闭源寡头。HF相当于在押注AGI时代的开源繁荣。它才是真正和OpenAI走另一条道路的公司。

回到国内,已经有创业公司在模仿HF的模式,但目前还没有看到一个可以接近的。以及,模型市场能做的要比APP应用市场要厚得多:HF自己在搭建模型工程平台,目的是给开源生态提供模型训练和推理服务。这里,它会和巨头云厂商们处在一个既竞争又合作的位置。

最后,稍微扒一下HF这家公司:公司虽然总部和融资在美国,但创始人、核心团队、大头技术研发都在法国。因此,他们和中国(公司)的合作空间要比美国公司大得多。

3.3 模型工程平台

当数据变得更多的时候,训练模型的效率和稳定性、模型推理的并发量和速度就会越来越重要。当有无数公司甚至个人都需要训练或者部署模型的时候,降低模型训练与部署的门槛就会凸显出来。因此,在大规模商业应用场景之下,模型工程能力的重要性不亚于算法重要性。具体来讲,我看到有这样几个方向:

  • 数据吞吐效率:目的是为了让模型更快速的消费数据,提高训练和推理效率。当前比较火的“向量数据库”主要就是在尝试解决这类问题:根据大模型的数据需求特点来优化数据库性能。
  • 平台稳定性:大模型数据量大、训练时间长,过程中一旦出错会严重影响效率,因此平台稳定性问题的优化也可以大大提升训练效率。
  • 推理成本:之所以单拿出来推理成本来讲,是因为2023年使用AI的用户还不多,大头机器成本都在模型训练上,主要的优化努力也在模型训练。2024年随着用户的增加,对于推理成本的要求会越来越高;而且因为2023年做得还有限,做推理成本的机会也会比较多
  • 推理速度:最早有大钱的AI的场景应该是推荐-搜索-广告-游戏。这些场景中,生成式内容一定是要做的,除了成本和效果之外最大的瓶颈在推理速度:需要在几百毫秒完成所有动作。当然做这件事情的核心会在大厂,但应该也会有些机会留给市场。

3.4 软硬件联合优化 - Firmware固件

首先,3.3讲的所有内容的最大提升都会在软-硬件联合优化中,这里我就不再讲一次了。唯一值得讲的是因为硬件的多样性和专业性,这里应该有小公司与大厂合作的空间

此外,NVIDIA强的不仅仅是芯片,更是围绕芯片的Firmware固件和资源库:CUDA。简单来讲,CUDA是一个资源库,算法工程师只需要找到CUDA里已经准备好的函数就可以操作NVIDIA的芯片,而不用自己去优化使用芯片的性能。这也是华为昇腾、AMD这些厂商最落后的部分。华为们可能单片的性能已经差的不远了,但买了芯片的算法工程师根本不会用……

因此,硬件领域最大的机遇实际上来自于中美关系的紧张状态。现在使用NVIDIA芯片的中国公司可能不得不在2024年面临与其的部分脱钩,这样一来,Firmware部分的巨大差距-也是机遇是需要有人来补上的。当然,能抓住这个机遇的可能是华为(出来)的人。

3.5 模型安全

模型和其他IT系统一样,都可能被攻击。不过AI时代的攻击方法会有变数。

  1. 来自(很多)AI的攻击。因此,如何防止带AI智能的,甚至是用Agent能力的饱和攻击就成为新的课题。这里面技术很深,我也不太懂;大的解法肯定是用AI和AI做攻防,但前提是守方AI的智力不能差得太远。
  2. AI本身的防攻击。AI不仅需要防止之前的攻击手法,还要防止对于模型的新的攻击方式:prompt攻击。
  3. 兜底:内容检测&审核。此外,本身AI的幻觉和不可控性也会要求有一定的兜底机制,尤其在我国的监管要求之下。其中最直白的就是在AI输出的内容之后再加一层过滤:专门的审核-过滤的机器人也一定是一个机会。

3.6 隐私

隐私会是一个大众广泛讨论的问题,也是大模型走向市场中的阻力之一。但问题在于1)个人很少会为隐私付费;2)平台和监管都没有真正的动力要做隐私。于是,只讲隐私在商业上大约是伪命题。

但退一步仔细想来,什么是“隐私”?我们为什么会关注“隐私”?

隐私=权力

这才是我们真正关心和愿意为之付费的地方。这里我也先留个引子,之后的文章会再来展开。

“Advanced Manufacturing"; Yifei Gong 2024, with Dall-E

<4>端上智能与全天候硬件

在AI上发力的还有手机和PC厂商: 华为、荣耀、小米、OPPO、VIVO、三星、联想等都已宣布会在手机/PC端侧搭载大模型。这个可能性来自于:2023年下半年“模型小型化”的众多进展(详情见“上篇”)。

不过,仔细看来,除了很弱的Nvidia Chat with RTX,目前并没有真正全离线版的大模型产品,端上智能暂时还是噱头。手机和电脑厂商们的打法基本都是大模型还是放在线上,手机和电脑来调用,然后搭配一个小AI做总结等服务。“端”确实“智能”了,但"大脑"还在线上,手机上顶多有个"脑干"。

纯粹的端上智能有几个问题:1)离线小模型永远都会和在线大模型有一个代际的能力差距,于是为什么消费者要用一个更傻的模型而不是用线上的模型服务?2)即使是小模型,它目前的耗能和生热仍然难以达到手机要求。3) 目前的AI还不是刚需,猎奇成分比较多。4)技术上还不能确认小型化的模型是“真AGI”还是“聊天机器”。所以说,短期内的端上智能仍然会停留在一些个别小市场里。

端上智能最大的想象空间,其实是收集更多个人数据:成为全天候硬件。这里最明确的例子是接受了OpenAI投资的“AI Pin”:一个挂在胸口的摄像头+麦克风。这个产品本身其实对于用户没啥用,但用处在于可以24x7的收集用户以及其周边的数据,为之后模型训练提供材料。AI Pin的真实商业模式是一个数据生产公司。要知道,你的浏览点击记录是按照Bits收的,AI聊天的数据是按照KB收的,AI Pin的视频、音频数据可是按照MB-GB收的,真做成了就又是降维打击!(你如果愿意相信AI Pin的保护隐私公关稿,那我也没啥可劝的……我只是知道,既能在表面上做隐私,实际上把数据信息拿出去的方法有很多)

从这个角度来看,2024年会有更多类似AI Pin的“暗度陈仓”式收集个人数据的产品——全天候硬件的出现。

从长远的角度,“端上智能”乃至说“AI的行业格局”其实有两个可能性。<Plan-A> 是集中化世界大模型 + 终端/数据收集器,这也是目前所有科技大厂-平台公司走的道路,是最高效率的方式的同时,也是极端垄断,大规模中心化操控之路。但我们是否还有另一条<Plan-B> 个人的模型 + 人与模型的合作可选?

"Plan-B?"; Lian 2024, with Dall-E

<5>“人的模型”与“具身智能”

刚刚讲了“个人的模型”,讲的是模型的“所有权问题”。这里,以及“上篇”提到的“人的模型”,是效果层面的,“人的模型”可以是集中平台来提供的:就像你的个人账号、云上数据一样。所以即使是<PlanB>走不通,“人的模型”都是值得展开讲讲的。

为什么需要“人的模型”?

  1. AGI进一步向人学习。在现阶段AGI发展的初期,与人脑相比,AGI仍然有很多明显的短板:记忆不好、需要过多数据、逻辑性不好、空间-物理能力欠缺……以及当前AI Agent的主攻方向“使用工具->拆解问题->做出决策”的能力。把AGI做得更好的参考就是人脑。当然,当AGI开始超越人的智力成为SGI(Super General Intellegence) 之后,对于人脑的参考就是批判性借鉴了。
  2. AGI与人配合。“人的模型”更重要的一点,是要解决AI如何更好的与人配合,实现1+1>2的路径。只有模型可以理解个体特点差异的时候,AGI才能与人更有效地配合,甚至成为人的替身。以及,“人的模型”也是“PlanB-个人(拥有)的模型”的前提。

如何达到“人的模型”?

我目前也不知道;不过在数据层面上还是有些线索的。目前的大语言模型是“世界模型”:底层数据是来自于千千万万人的,每个人一丁点数据;而并不是大量的来自某一个人的大量数据。“人的模型”大概率是建立在“世界模型”之上,加入关于某个人的大量的多样的数据。这里有两点:

一点是“大量”,这也正是前文提到的“全天候硬件/AI Pin”的放方向:如何跨越量级的收取关于某个人的数据。只有关于这个人的数据量级到达一定程度,AI才可以“具有某个人的视角”,才会懂得“换位思考”——这正是合作的前提。

第二点是“多样”。举个简单的例子:盲人很难理解“红色”。类似的,我们也很难要求缺少重力感知装置的AI来理解物理世界。这是目前“具身智能”的赛道。“具身智能”=“具有身体的智能”。更多样化的数据会有利于AI来理解人类。近期Sora中比较突出的“物理世界不真实”的问题的彻底解决,可能要靠陀螺仪、重力传感器、压力/触觉传感器这类数据才能彻底解决。

最后,“具身智能”的意义并不仅仅如此,它是AGI通往物理世界的桥梁。也是AI可以灵活自主操控“广义机器人”的重要路径。要注意,大多数的“广义机器人”长得并不是人样:机器狗、机械臂、无人机、自动驾驶汽车会是主流。

从目前的技术发展速度以及数据积累速度角度来看,我并不认为2024年会出现能用的“人的模型”或“具身智能”,但作为技术/应用的主线,重大进展大概是看得到的。

"Human is the key"; Lian 2024, with Dall-E

<6>AI地缘政治:从中美相争到“主权AI”?

我去年5月份写了篇文章《AGI|大模型与大国博弈》,今天来看几个大判断基本是对的:

  • 最先进的AGI世界模型不会开源:不仅OpenAI的GPT4,Sora不开源;连原来支持开源的Google-Gemini,Anthropic-Claude,Mistral-Large都没开源;国内的当然也没有人开源。不过,这并不意味着开源生态会失效,大概率会是开源模型会落后闭源一个代际,但会服务更广泛的各种专业应用
  • 美国对于中国的硬件-科技限制进一步升级。不赘述了,这个是割韭菜的自媒体最爱讲的。
  • AGI将对于全行业科技发展起到推动作用。这点目前仅仅是苗头,但AGI在各领域的科研中越来越重要是既定的事实。以及,如果AGI的能力有比较大差距,对于科技进步-经济发展将产生质变性的影响。有更好AGI的国家会有更快的全面技术进步。
  • 对于AI的立法、监管、伦理讨论大范围落后于技术发展。全世界主要国家都急于拥有有自己的AI,当然不会有人搬起石头砸自己的脚。目前唯一有点对于AI治理讨论的只有欧洲,而且也都在纸面上。我国相关法规讨论的出发点完全在于“对于舆论的影响”,根本没有触及AGI本身的伦理问题。决策路径大概是政治>经济>>AI伦理。

更远的判断,只能让时间检验。

和去年相比,2024的AI的政治生态有了一些新变化:“主权AI”的提法开始浮上水面,我并不认为黄仁勋讲这件事情仅仅是为了股价;这应该是是世界主要国家团体所必然要走的道路。进一步推演,一些比较小的国家并无法拥有“主权AI”,而只能依赖更强大国家的技术;这会在客观上加强使用这些技术的国家对于“AI宗主国”的依赖,成为“AI附庸”;国际政治的边界有可能会按照AI技术的边界来重新划分。而且,基于技术的控制,要比基于金融资本的控制更加彻底、精细

最近比较积极的一点,是欧洲有了Mistral-Large,是目前除了OpenAI-GPT4最好的模型。那么,至少欧洲大陆目前还有是否成为美国“AI附庸”的选择。接下来要看的大概还有俄罗斯、印度、日本、沙特、伊朗这些国家……作为各自区域的领袖,这些国家都在期望成为“宗主国”而不是“附庸”。对于我们来讲,避免“美-中二极对峙”应该是最优先的

希望“中美相争,AI得利”不会是人类文明的最终章。

“Divided”; Yifei Gong 2024, with Dall-E

<7>数据生产的天平:AI超越全人类总和

“众口铄金”。

就像地球在无知无觉中进入了“人类世”的地质纪元一样。AI视频能力的爆发可能会让“数据纪元”在2025年就进入“AI世”。我们会逐渐发现,世界上所有人创造的数据量:文字、照片、视频的总和将小于“AI生成内容”和“AI合成数据”。

再远一点,人类自己吃下的信息(数据)也机会都是AI产生的。到这个时候,物理世界的真实还重要吗?当制造出来的数据远大于“真实”的数据的时候,谁还会相信所谓“真实”呢?以及,当模型自我训练的数据来自于大海般的合成数据的时候,人生产出的几滴水还有多少价值?

太科幻了,我还是先停下来思考一下能做的事情吧。

"A Drop in Universe", Yifei Gong 2024, with Dall-E

<8>AI的需求:能源、算力、机器人

最后,如果真的从“AGI已经出现”的阴谋论出发。那么不管AGI是否在隐藏自己的行踪,它所需要的基本资源一定是无法回避的;它也一定会在这几个领域里全力“协助”人类。于是,相信AGI觉醒的对话,自然会期待在这几个领域里出现划时代的突破——有些似乎已经有进展了。

能源:可控核聚变。

最近,有着“永远还差50年”称号的可控核聚变技术在AI的协助下开始有了松动:2月21日的新闻,普林斯顿大学等离子体物理实验室(Princeton Plasma Physics Laboratory) 通过AI成功在离子体撕裂前300ms进行了预测。当然,这只是可控核聚变进展的一小步。(https://engineering.princeton.edu/news/2024/02/21/engineers-use-ai-wrangle-fusion-power-grid)

从全人类能源供给的角度: ->化石燃料、水能、风能、地热: 只能维持现阶段全人类能源获取能力 ->太阳能过于分散、核裂变燃料稀少: 即使最大规模使用,顶多再提升一个能源数量级 -唯一有希望提升全人类能源供给数量级的就是可控核聚变

在能源即将开始成为AI瓶颈的今天,AGI如果有了意识,那一定会全力“协助”人类突破核聚变技术。

算力:3D堆叠、石墨烯、量子计算、高温超导。 算力对于AI的价值更加直接,NVIDIA的股价可能就是最直接的例子。算力的提升目前还在性能上(而不是硅片栅-漏极间隔的物理尺寸上)继续延续着摩尔定律;但量子隧穿效应-普朗克长度的理论限制是AGI也无法突破的,因此,一定要有除了工艺尺寸缩小的其他方案。我并不是专业人员,没法给出比较靠谱的判断,从分析上能看到的几条路可能会有

  • 继续在硅基上发展:3D堆叠形态等(需要更好散热)
  • 材料创新:硅基掺杂、石墨烯片等

如果再跳脱一些到计算原理的层次,就是量子计算。量子计算目前距离商用可能比可控核聚变还更远,目前的应用方向主要还在量子加密传输上,在“计算”上需要突破的理论和技术都还有不少。

除了计算速度之外,另一个阻碍算力进展的是传输速度:可以想见高速网络会进一步进化、片间链接、片上内存等技术都会有明显的进展。

最后,是能耗和散热问题。这里的明珠是高温超导技术。去年已经有好几篇半造假的“高温超导突破”,今年加上了AI或许就会有真的突破。

广义机器人。

最后,如果AGI的目标不是仅仅停留在虚拟世界,而是直接作用于物理世界,那么广义机器人就是必经之路。前文提到到“具身智能”就是为了操控机器人的AI:AGI是大脑,他也会想要身体。

除了上面讲到的“智能/大脑”的问题,AGI还会关心的是广义机器人的数量。甚至说,先有了数量比先有一个好的大脑更重要,因为有了数量就可以收集更多数据让大脑进一步进化。在数量的突破上,主要不会是人形机器人,而是无人驾驶汽车、无人机、传感器这类技术更ready,成本更低的硬件。AGI只需要在它需要的时候,入侵一下这些系统就够了

"Watching from Darkness"; Yifei Gong 2024, with Dall-E

后记:AGI降临中的“普通人”

洋洋洒洒讲了这么多,最后我想引用月之暗面杨植麟的一句话,《对话月之暗面杨植麟道出了AGI创业的真理:

只有'智慧'才是AGI的真正增量。”

此外,AGI对于社会、对于普通人最深刻的影响,可能是极端垄断“极端”的意思是拥有AGI的公司/团体可以跨越行业、跨越国家进行最大规模的垄断。这种垄断一方面是对于“智慧”这个资源的独占,另一方面,是对于每一个其中的个体、公司、政府所进行的精细信息操控

然而可惜的是,在种种宏大叙事面前,对于个体关注的声音越来越小:23年中有一轮“AI对于各行业就业影响”的报告,以及“全民收入”的论调,但之后就没有然后了。

作为拯救派,我今天并不想展开讲AGI所造成的各种问题;因为只谈问题是没有用的。

作为拯救派,要给解法才行。

我们还需要思考的,是在AGI降临的世界中,个体如何生存、如何寻找并创造自己的价值;同时,我们也在尝试探索一种在AGI世界中的新的分配方式,一种让大多数人类个体也有希望的方式。

这也是“普通人的AI自由”这个号的目的。也希望大家多多帮忙,和我一起来思考,一起来讨论,一起来争取。

"Future" by Yifei Gong 2024, with Dall-E

附录:AGI机会点(2024.02)

2024年内

  • 图片-超短视频的精细操控:表情、细致动作、视频-文字匹配
  • 有一定操控能力的生成式短视频:风格化、动漫风最先成熟;真人稍晚
  • AI音频能力长足进展:带感情的AI配音基本成熟
  • “全真AI颜值网红”出现,可以稳定输出视频,可以直播带货
  • 游戏AI NPC有里程碑式进展,出现新的游戏生产方式
  • AI男/女朋友聊天基本成熟:记忆上有明显突破,可以较好模拟人的感情,产品加入视频音频,粘性提升并开始出圈
  • 实时生成的内容开始在社交媒体内容、广告中出现
  • AI Agent有明确进展,办公场景“AI助手”开始有良好使用体验
  • 2AI的商业模式开始有明确用例:数据合成、工程平台、模型安全等
  • 可穿戴-全天候AI硬件层出不穷,虽然大多数不会成功
  • 中国AI达到或超过GPT4水平;美国出现GPT5;世界上开始现“主权AI”
  • 华为昇腾生态开始形成,国内推理芯片开始国产替代(训练替代要稍晚)
  • AI造成的DeepFake、诈骗、网络攻击等开始进入公众视野,并引发担忧
  • AI立法、伦理讨论仍然大规模落后于技术进展
  • ……

2025-2027

  • AI 3D技术、物理规则成熟:正常人无法区别AI生成还是实景拍摄
  • 全真AI虚拟人成熟:包含感情的AI NPC成熟,开放世界游戏成熟;游戏中几乎无法区别真人和NPC
  • AR/VR技术大规模商用
  • 接近AGI的技术出现
  • 人与AI配合的工作方式成为常态,很多日常决策开始由AI来执行
  • AI生产的数据量超过全人类生产数据量,“真实”成为稀缺资源
  • 具身智能、核聚变、芯片、超导、机器人等技术有明显进展突破
  • “人的模型”出现,出现“集中化AGI”与“个人AGI”的历史分叉
  • AI引发的社会问题开始加重,结构性失业开始出现
  • AGI对于地缘政治的影响开始显露
  • ……

"Limit of Understanding"; Yifei Gong 2024, with Dall-E