来源指南
后成你这个自带气质好的,那我们今天等一下就把时间交给后成。这个题目其实是前两天在卓越新闻的亚洲新闻论坛的一个闭门活动上后成分享过,然后我在现场听了以后就觉得非常值得做给更多人看,不管是录影还是现场。因为其实很完整地讲了,我觉得是帮大家补了很重要的一课啦。那具体的课就请后成自己来讲吧。
好的好的,那我觉得给大家介绍一下中国的AI。但我觉得其实我也不算insider,因为中国AI真正快速发展的时候我已经离开了。刚才有人提到中国在课堂上做的那个「学生是不是专心听讲的AI」,但那个跟今天要讲的有点不同,因为那是视觉识别的AI,可能是reinforcement learning的。但今天我们讲的AI其实是个很大的议题,今天我们要讲的就是LCH language model,也就是现在最流行也最重要的large language model这种AI形式。
那么AI在其他国家呢,其实都是一个产业问题或者一个技术问题,但今天我主要想给大家说的是:在中国,它不是一个产业问题,也不是一个技术问题,而是一个国家形态的改变。那么这个原因呢,也是因为L model最后有AGI这个愿景,就是通用人工智能的愿景,而且现在其实有点越来越接近这个愿景。你会发现它不像过去的reinforcement learning的AI,你必须训练它去做什么事情它才具备什么能力,现在的large language model其实是有泛用性的能力,对吧?
你能发现随着模型参数的增长,它会发展出各种不同的能力。那么在这种情况下,中国当然意识到它有非常广泛的用途:在经济、税收、军事、社会管控等各个领域,都能有非常广泛的应用。所以说,这个东西在中国是一个国家形态的问题,而且这个国家形态问题就是国家顶层意志需要灌注的。但这具体是什么意思?我们以后会细讲。以及它跟其他国家以产业或技术角度来看的AI有什么区别?这就是我们今天要讲的第一个问题。
第二个问题当然就是,如果它仅仅是一个中国国内的问题,会让中国的极权变得更加恐怖,那么这可能是一个中国人应该去关心的问题。但是对于中国现在的地缘政治态势来讲,它也是一个会外溢的问题。所以这也是我们一会儿会探讨的话题:中国的AI因为所谓的「AI diffusion」,现在中国的AI因为开源的原因,其实在全世界扩展很快,很多南方国家使用中国的AI来做所谓的主权AI。像马来西亚在用,然后新加坡是用阿里的那个模型来做主权AI。再加上不只是中国模型的扩展,中国芯片的扩展、数据中心的扩展等等,也会成为一个很大的治安和地缘政治的问题。
最后我们来讲台湾在这个交叉点可能的情况。当然,台湾比如说肯定是AI认知作战的最前线,是最受到冲击的国家。但台湾本身也是半导体,尤其是服务器机器最主要的供应商对吧?所以这也是一个台湾刚好在交叉点上的国家的一个状况。
好,我们就先来讲啊,就是中国的AI到底在做什么这个问题。那么中国的AI呢,最显眼的其实是几个模型对吧?DeepSeek模型和最近的智谱GLM的5.2,这是最近大家关注最多的。所以说大家谈到中国的LM模型的问题呢,更关心的是模型问题。但在我看来呢,它其实绝对不仅仅是模型问题,它是一个比模型范围大得多的国家意志的问题。所以在这个层面之上呢,中国并不是在做模型,我管它叫「全战AI」国家,就是FUSAC的AI国家。
那么我们来讲啊,你看美国比如最近有很多新闻,像是Elon Musk的xAI把它的算力租给其他公司,最近微软也把自己的算力要租给其他公司,还造成了不小的股市震动。那么在美国呢,你看像是这种数据中心是企业在建,那么主要的电力也是需要企业自己去解决,各州政府或者地方政府自己去解决。那么基本都是商业公司在推动这个事项,几个很大的商业公司在推动,这是美国的方式。那对中国的方式呢?一会儿我会给大家详述啊,就是一个国家意志从上到下。我们能看到的模型这一层,已经可以说是这个产业的最末端、最贴近市场的部分。看上去有民营的参与,但实际上在往这个产业的上端走,几乎全是国家控制。所以对于中国来讲,AI就是一个国家产业,而且一会儿我们会看到,它还不只是一个有L模型之后才有的国家产业,它是从原来的国家控制系统之上慢慢长出来的一个自然延伸,是这么一个问题。
好,那我们就来看什么叫这个「FUSAC AI」国家。这就是FUSAC AI国家:从芯片到算力,到数据,到人才,到模型,到应用,到国家的应用场景,是一个这样的状况。那么说到这个FUSAC,我觉得现在也一定会有人要问一个问题:中国的AI到底强不强?中国的AI厉害不厉害?这是了解中国AI一个逃避不了的问题。所以我也会逐层来给大家讲。
从最下面芯片来讲啊,那么芯片其实也是大家很关注的一个领域。中国现在因为受到美国的制裁,所以说中国开始去发展自己的芯片。
么发展自己芯片这件事,其实在 L 模型之前,中国投入的相对比较少,尤其是比较高端的芯片。中国之前有比较好的成熟制成芯片,就 28 纳米左右的成熟制成芯片发展比较好。那么这类芯片发展比较好呢,是因为用到像是互联网、通信、新能源汽车、手机等等领域,是这些产业的一个延伸。那么在这些产业呢,最核心的芯片是那个——手机里面的芯片是所有芯片里面最简单的芯片,对吧?
比如说麒龙啊或者其他的芯片厂商,苹果自己定制的芯片都是最尖端的。那中国过去在没有被禁运的情况之下,其实就是用比如说小米用骁龙的芯片,华为以前也只采购高通或联发科的,像台湾的芯片公司。那么之后是华为被禁运之后,华为开始做自己的手机芯片。所以华为曾经有一年半左右的手机制造断档,那么断档之后华为推出了自己的手机芯片,是14纳米、14纳米工艺折叠成七纳米制成的。因为中国现在最先进的光刻机掌握到14纳米,就是中芯国际的这个光刻机。所以华为用他们现在把它总结为一个基础物理定律了,当然那个是营销为主的,就是所谓的「套定律」。套定律就是用这个物理折叠的方式来减少晶源与晶源之间的距离,所以说把它折叠作为七纳米叠层的方式来做。所以它代表了中国现在能够达到的芯片制程的最先进水准。所以最开始这个技术呢,是中芯国际来做手机芯片的。那么在进入这个AI Lang Model时代之后呢,中芯国际就用同样的方法来做这个AI的算力和训练。因为这样的原因,还一度导致去年华为的手机出货量大跌,就是因为所有这些芯片产能都用来做AI算芯片,就是升腾910C等等的。那么今年呢,如果大家关注的话,华为手机前几个月的销量暴涨,原因就是因为它的产量开始上升,说明中国生产七纳米(他们那个七纳米制程)芯片的能力其实在增加。所以可以说现在中国可以说比较成熟地掌握了这个七纳米的芯片。OK,这是中国现在已经做到的。那么做到这步呢,其实也蛮厉害的。
那么像制普GM5.2号称全部使用中国的芯片,但是呢这个我觉得要打一个折扣啊? 因为中国公司都号称自己能够全部使用所谓的「中国芯片」,但是比较业内的消息呢,其实运算的时候不可避免地要用各种各样的芯片,甚至这些英伟达的芯片可能都不在中国,可能在卡塔尔、马来西亚、新加坡等的算力中心。他们有很多这个数据出口性地进入中国,再加上也有很多这个「chip smuggling」,就是有很多的芯片走私。最开始是东南亚,最近还有新闻说日本也开始有这个AI server走私回中国的情况。所以这些中国那个真的很夸张。他之前有一个之前做传统外贸业的人,他专门走私英伟达的高端芯片,但由于他太高调,直接在机场把自己的那个很大的行李箱打开说:「你看,我们为国家获得最先进的芯片!」但就算他不这样做,也是有渠道会知道这种情况的。但是就由于那个公司这么高调地在机场说:「干,我们为祖国带回美国禁运的芯片!」然后让这个成为一个大家都公开的一个话题。
好,这是芯片的情况。但是呢,芯片这个事情现在中国其实也是整个AI的全栈系统里面最不乐观的一个点。因为从华为现在所掌握的只有七纳米嘛,因为像台积电已经做了两纳米。从这个情况之上,至少从现在他们的这个roadmap来看,一直到2028年,华为和美国的差距其实在拉大。因为华为去年是910C,今年到950这个产品线,到2028年他们能做到——按照现在的roadmap——能做到960,就到这个地步了。它其实960依然是一个七纳米的芯片,是在一定程度上的优化。但是英伟达这边从Blackwell架构,下一代是做Rubin,再往下。其实从到2028年末,中国跟美国的前沿芯片的差距是在拉大的。所以在这个时候呢,中国在芯片领域再做另外一件事。如果大家关注新闻的话,去年路透社有一篇报导,中国深圳有一个公司,他们租了写字楼一整层,然后买了不知道从……
哪里走私了一台阿斯麦的 EUV 光刻机?他们在那里做逆向工程。然后那个报道写得神乎其神,说同一所大学里面招了一批大学生实习生,每人旁边摆一台摄像机,把阿斯麦里面的镜头拆掉,看谁能装得回去。然后有一个摄像机去录每个人把它拆开再装回去的过程,做逆向研发。但我觉得这个新闻呢,听上去里面的事情肯定是有的,但很多细节很不合理。就比如说,他们买一些二手镜头,然后拆开,每个人摆一个上去装回去。很多业内的人说,用这个方法我估计是装不回去的,这个逆向工程很难。但是这个是肯定是真的,而且我们后来知道,那个就是华为的一家公司。
所以整个华为现在他的生态很特殊,他既是英伟达,也是苹果,也是芯片设计公司,也是光刻机公司,也是阿斯麦。所以他本身就是中国国家意志的一个灌注。华为在中国一直是一个很特殊的企业,大家可能都知道,中国有国有企业和民营企业。华为名义上是一家民营企业,而且是一家没有上市的民营企业。但是在美国人眼里,华为就是典型的“居民量用”公司,就是本质上任正非本身就有一定的军方背景。那华为以前又是中国做通信技术的,就是华为既是英伟达,又是阿斯麦,又是苹果,又是爱立信,又是诺基亚。他本身还做五G芯片嘛,整个五G通信技术都是华为和中兴。所以华为本身就是中国特殊的国有意志和国有体制的一个产物。也就是说,中国的国有体制不仅是这家公司是国有公司,他纳入国有体制,中国国有体制也控制大量的民营企业,各种方式。我今天这里不细说了,只给大家举个例子。
达闼科技(Depsek)是一个典型的民营公司,以前根本就是做量化投资的,跟AI是没有关系的,会利也有关系了,因为量化投资本来就是AI的嘛。 那么这个公司以前做量化投资的,因此掌握了大量的英伟达的显卡,因为他们以前就是用上一代的Reinforcement Learning的AI做量化投资。因此这个公司掌握了很厉害的,从硬件层面上去榨干英伟达显卡能力的这种绕过大型机器编程的能力。所以这家公司技术很强,后来这个公司做了这个DeepSeek。那DeepSeek强了以后,我们讲到这个模型再说啊。但Anyway,这家公司是一家纯私人公司,他的公司CEO梁文峰现在也是中国首屈一指的大富豪。
但是有一个很有意思的点,从2025年开始,中国有大量的跟民营企业相关的会议,还有各种技术型的会议,跟美国企业家的会议,梁文峰全部没有参加。案例说他是现在中国最受瞩目的民企家,原因就是因为梁文峰的个人行程已经完全受浙江省委公斤的控制。如果谁想见梁文峰,要通过浙江省委办公厅的审核才可以。所以梁文峰的个人行程已经是至少是省委的资产。大家知道在Musical.ly不是最开始卖给Facebook,后来被中国商务部收回了吗?
从那之后,中国开始对芯片领域的尖端人才实施出国控制。因为在中国,一般国有体系的人,像公务员、医生、教师啊,你的护照是不能拿到自己手上的,是由公家在管。如果你要出国,你需要申请。比如我带家人去日本旅行一趟,去年因为这个原因还因为是去日本旅行,他们不通过。但总之,护照不能拿。但现在最尖端的AI公司的工程师护照也是如此。所以说,相当于他们是民营企业,但是进行了国家的管理。那么在一般的国家,股权、产权是核心,对吧?没有产权就没有管理。但中国当然不是如此了,就算没有产权,国家行政权也可以对一个企业有非常非常深的管理。那华为就是个好例子。这就是芯片层面啊。所以华为号称希望在2028年到2030年攻破这个EUV光刻机。如果成功的话,中国的芯片制程就能够从其他名次往下提升。如果不能成功,要么跟美国能够谈条件,能够有办法买到英伟达的先进制程;要么呢,这就会成为中国整个大模型最大的一个障碍,就是没有办法获得最先进的训练芯片。这个障碍在哪里?我们讲到模型再来讲。好,这是第一点。
第二就是算力部分。算力部分呢,刚我们讲啊,美国各个公司建自己的算力中心,甚至马斯克要把它建到太空上去,然后可能自己用或租给别人。那么中国的算力中心呢?在AI时代之前,就是一个国家项目,甚至他有一个听起来很奇怪的词汇叫「东数西算」。中国过去有一个词叫「南水北调」,就是北方比较缺水,南方像长江流域——你们可能都学过中国地理啊——南方长江流域雨水比较丰沛,所以国家挖了很多大管道、大的运河系统,把南方的水调到华北地区去。这是一场生态灾难,也是一个社会治理的灾难,有机会再分享。所以中国愿意做这个事情。
什么叫「东数西算」呢? 就是中国东部啊,像上海、浙江、江苏等,是经济的核心,也是整个经济活动的核心。但是呢,他的数据中心可能需要第一需要电力,第二需要大面积的厂房用地。那么中国西部呢,经济比较欠发达,但是电力比较便宜,然后包括比如说像四川这样的省份——我就是四川的——像四川这样的省份水电资源比较丰富,就接近电的发地。像中国比较大的光伏电厂也是在新疆这种比较地广人稀的地方。所以中国就想啊,把这个数据中心建到西部去,把东部的数据「东数西算」,就是这样的概念,完全由国家控制。
所以从之前啊,中国的大型数据中心就几乎全是国有和国家建造。那么到大模型时代更是如此。中国现在80%的算力全部都是国家控制和国有单位控制。所以说,像这些公司,如果像任何中国的公司,比如豆包啊,任何在中国国内做面向民用的AI产品,是需要大量的运算芯片的,那么很多的都是租用国有的运算芯片。所以这也是国家认为一定要牢牢控制在自己手里,推动国有去建设的一个东西。当然,所有这些建设听上去都是非常厉害的控制政策,但背后呢,可能都有经济的动因,因为建设机站也是一个基础设施建设项目,对吧?所以他像中国不管是建机场啊、高铁、高速公路也一样,那么对地方政府来讲,这是一个可以赚钱的项目。所以中国做基建就是这样啊。
好,所以这是算力层面,算力层面的都是国家主导。那么再往上一层是数据层面,对吧?
AI 不管是训练还是调用,都需要大量的数据。中国对于数据的控制早在 AI 之前就已存在。大家可能听过这个案例,但未必了解细节:中国有一个类似 Uber 的叫车平台叫「滴滴」(Didi),在美国上市的第二天就被中国政府约谈,APP 随后从市场下架。当时有一种说法认为,打车数据属于「国安数据」——掌握了打车数据,就能通过大数据分析政府大院的打车订单流向、频率等信息,甚至可能推断出敏感情报。至于滴滴为上市是否向美国证监会披露了如此详细的打车数据,作为会计公司可能很难确认,但无论如何,中国当时认为此类数据外流风险极高。因此,大约从 2015、2016 年开始,中国便将数据安全视为重中之重。滴滴事件发生在 2019 年,此后中国进一步强化了数据管理,成立了国家数据局,各省也相继设立数据局,负责将所有社会运转及信息系统中的数据纳入国有化和国家管理范畴。然而,这种管理在对外数据开放时仍面临诸多问题。需要指出的是,中国有意愿推进这些项目,但实际完成质量则是另一回事。
大家知道,AI 数据处理是一个专业领域,甚至有专门的公司(如 Scale AI)被 Meta 收购,专注于 AI 数据处理。能被 AI 系统有效利用的数据,并非简单收集即可,必须经过复杂的数据清洗和筛选流程。从我的角度看,中国目前对社会数据的管理仍较为粗放,尚不具备高效调用的能力。但无论如何,中国确实有这样的主张和计划。例如,中国企业难以出海,很大程度上也与数据问题相关。
台湾可能对此感受最深,比如高德地图。 高德地图能以极高频率向中国服务器回传信息,本身就构成安全风险。这是一个严重的隐患。中国的数据层面已全面国有化,若未来能实现高效调用,将成为中国 AI 发展的优势之一。因为 AI 训练和应用离不开高质量数据,而中国庞大的人口基数能产生海量数据。然而,中文数据在全球互联网中的占比仍然较低,甚至不及某些语种。尽管中国人口众多,但整体文化水平和经济发展限制了普通网民的数据生产能力。此外,防火墙也进一步压缩了国际数据流通。
接下来谈人才。数据之外,人才也是关键。预计到 2026 年,中国已有 700 多所高校开设人工智能专业,这一规模在其他国家难以想象。例如,许多国家的公立高校可通过行政意志开设 AI 专业,但优质私立高校的专业设置则由学校自主决策,涉及复杂的商业和学术考量。而中国高校体系中,顶尖院校几乎均为公立,即使是所谓的「三本」院校,其专业设置也受国家政策影响较大。
实际上呢,在野蛮教育局的严格管控下,中国只要教育部在比如2025年的学科规划中新设立AI,那么国家又在推AI。现在中国很明显在推AI,那么各个高校当然也会闻风而动。中国的高校和政府是有非常紧密关联的,不是学者,而是高校管理者,比如高校的党委书记等等,他是一个政商传门。他可能今年在这,比如大家都知道陈吉宁嘛,以前是清华大学的校长,现在是上海的市委书记。立法区还跟他见面,很多人认为他是未来中国的接班人,有这种说法了。但这个不重要,就是中国的顶尖高校是有跟着政府的政策导向走的关系。所以这些学校当然都会闻风而动,因为这是政治正确嘛。如果这个学校领导未来在政治生命上要更进一步的话,就需要贴近国家来培养人才。那么这种培养有没有用呢?
有,比如说中国的互联网产业相关比较发达,对吧?
这跟中国互联网的人才多是有关系的。那么,这些学校未必培养了高精尖的人才,但确实一个产业内部也不只需要高精尖人才。就比如互联网这个产业,需要大量的基础程序员——水平好的去更好的公司,水平不好的也去中型公司。所以中国这一波是AI的人才大爆发,那之前呢就是信息科技、Computer Science的人才大爆发。那么,这个人才大爆发与中国整个互联网领域的发达是有关系的,包括电动车也是一样。从2015年进入所谓的国家战略行业后,中国的理工科院校都在开设汽车制造和汽车电气化的专业,因此带来了中国在汽车领域有比较多的人才。
所以这种人才国家战略呢,我不会说它完全没有,但至少到目前为止,AI的顶尖人才肯定还是在美国对吧? 不管是前沿的研究还是理论,都是产自于像你们明明该叫矽谷(Silicon Valley)的公司,中国叫矽谷,就是矽谷的公司啊、矽谷的产业啊等等。所以现在基本情况是,中国应该拥有比美国数量更多的人才。中国每年AI领域的毕业生应该在7万到8万左右,这是一个很大的数字。那么,这些人才能够对很多问题都有用,但是最尖端的人才在美国。当然,中国也会尝试去挖角很多美国人才回来,像腾讯刚刚挖了OpenAI的一个视觉部门负责人,腾讯做视觉AI的研究。
但由于最近中国要求AI人才上交护照等行动,其实对于挖角美国人才是有显著减缓作用的。因为根据我对矽谷那边的了解,很多人愿意回中国的AI公司倒不是报效国家,而是因为第一,工资真的很高——就像他们挖台积电的工程师一样,都是三倍工资、三倍薪资;挖OpenAI也是一样,翻三倍、翻四倍。而且中国企业的资源也确实蛮多的,所以很多人愿意做。但是如果要限制人生自由,比如回了中国就再也出不了国了,加上这样的限制,很多人可能就未必愿意。所以最近我觉得挖角速度可能比以前会稍微慢一点点。但是中国现在本土人才慢慢起来了,这也是一个争夺战。
好,所以人才这部分,中国一样是国家一直主导国有院校体系等等的这么一个大的人才池。这也是好的。以上就四部分呢,可以说是全国范围的。再往下两个部分呢,慢慢民营企业就开始多起来了,民营企业的参与开始逐渐增多。
第一个是模型领域。模型领域主要是民营企业对吧?像DeepSeek、阿里巴巴、智源等等的公司。因为说实话,这些就是中国比较有活力的互联网公司嘛。中国跟美国不一样,美国除了Meta和Google两个本来就是巨头平台性公司之外,没有自己的模型。其他像Anthropic和OpenAI都是从原来比较前沿的AI公司分拆出来的。但中国呢,几乎每一个互联网公司都是平台公司。所以你会发现,中国的小米是做手机起家的,有自己的AI;美团是做外卖起家的,有自己的AI模型;阿里什么都做,腾讯也有自己的AI。那DeepSeek只有DeepSeek和月之暗面(Moonshot)、智谱(Zhipu)是比较新的,其他只要是传统比较大的互联网公司也都有自己的AI。
所以中国实际上AI模型比美国还多对吧?美国基本上是Gemini、Anthropic、OpenAI和X.AI这四家,法国有一个Mistral。那中国可能有七八个模型,甚至更多——华为有这些模型,叫什么「盘古」;前两天中国有一个非常高调的互联网商人叫周鸿祎,他之前是做360的……
病毒的杀毒软件起家的,与比木马更像木马的反木马软件起家的一家公司,它号称自己推出了比 Anthropic 的 Fable 5 更厉害的前沿模型。但显然,除了它自己,没有人相信——它自己也不相信了。不过,中国的 AI 模型公司非常非常多。那么 OK,大家就回答一个问题:中国现在那么多模型的能力,应该是大家很好奇的话题啊。这个 GM5.2 来势汹汹啊,很多 benchmark 上也说它好像真的很厉害。但我会觉得呢,其实差距还是非常大的。也就是说,中国的模型都有一个特点——所有的模型公司都有这个特点。这个特点呢,除了阿里之外,因为阿里的算力资源比他们多很多,阿里是个巨无霸企业。那么除了它,像 DeepSeek 和智谱(包括月之暗面、Moonshot)都有一个共同的特点,就是这些模型很会做所谓的有程序性验证的任务,也就是有标准答案的任务:数学题、物理题、编程题、世界知识等等。那么这些东西呢,是比较容易通过 post-training 完成的。
给大家简单介绍介绍 AI 嘛。AI 的训练很简单,就是比如我说这句话,那么 AI 就能不能猜出下一个字是“说”?不是一个语言、一个数学证明、一个软件程序操作,比如打开 GitHub,先点这里再点这里。那么 AI 呢,它是一个 token generator,对吧?它就是 predict 下一个 token 是什么,大概是这样一个东西了。那么这个东西呢,就是 AI 通过海量数据“喂养”,用几万亿的参数来达到一个很高的 prediction rate。也就是说,我可以 predict 下一个 token 是什么。所以 AI 的基本逻辑就是这样。
那么这里面有一个非常重要的概念,大家今天要记住啊。这个是一个叫 generalization 能力,对吧?就是泛化能力。这个很重要。泛化能力呢,就是说这个 base model,因为这样的训练方式,它写文章也蛮厉害,给你算命也蛮厉害,做数学题也可以,做别的也可以。这就是 base model 的能力。但 base model 出来之后呢,你还可以做 post-train,就是后训练。比如后续训练,你就给它一堆物理题去做,给它一堆编程题去做,或者你就真流(真流这个是真的),你就拿美国模型的结果去给它,让它去实现这个结果,做 post-train。那么 post-train 你想,最好 train 的其实就是这些有标准答案的,对吧?
不管你是用别人的真流出来的结果做标准答案,还是用物理题的结果做标准答案,抑或是用一个编程结果做标准答案,中国这些公司在这些任务上表现都不错,而且这也蛮有价值的。本来现在 agentic coding 就是最有商业价值的 AI 应用对吧?所以那个 制谱 5.2 呢,做 agentic coding 确实挺厉害。那么 Epsi 也是一样,他们来做这些任务呢,都会比较厉害。但是这些模型最大的问题就是泛化能力很差。就比如说,你们看他们的 benchmark,他们在 agentic coding 或者长时间的任务执行上,像 制谱 5.2 的 benchmark 都不错,但是幻觉就是中国模型的最大问题啊。不管是 DeepSeek 还是 智普 2 的幻觉都非常严重,然后只要偏一点点社会场景,表现就很差。那么这个呢,比如说如果 AI 要用于法律、AI 要用于社会或者 AI 用于商业的 planning,那么这种就会遭遇问题。
所以说,因为大家现在对 AGI 的想象就是通过参数不断扩大,它的泛化能力不断增强,最后有一个强力 AI 什么都可以做,包山包海。这个大家已经体会到了。最开始我们做 AI 的图像生成,比如说 Stable Diffusion 对吧?得用一个特别训练的模型。但后来发现啊,这个基础模型用它同样的 token generator 逻辑,像现在的 Open Image 2,生成图就很不错了。包括 J 那个 Ban Pro 对吧?后来发现音乐也是这样,原来用同样的逻辑也可以来做音乐。那么现在其实大家知道这个 agentic tools 都一样。本来 Cloud Code 和 Codex 是 OpenAI 最开始这种东西,只能这个逻辑只能用来做编程对吧?现在 Codex 已经改名,它就叫 GPT Codex,已经说了这个东西不光用来做编程,其实你干什么都可以用它来做。
所以说,这就是模型的泛化能力。对于 large language model 来说,泛化能力就是很重要。但中国恰恰就差在泛化能力。这个呢,跟芯片短缺是极有关系的。因为模型的参数够大,训练时候投入的资源和时间够多,才能获得这个泛化能力。中国现在不就卡在这个芯片之上吗?
所以不得不使用真流和后训练(包括不是后训练)包括用模型的 reasoning,就这个 time computer 的能力来完成这些东西。所以呢,这是中国比较大的缺乏。所以现在 AI 很热闹啊,就是中国的模型因为便宜嘛,所以说确实能够占据一些要求比较低的 C 端市场。像美国今年上半年的这个潮流叫 token maxing,就是每个公司都在比哪个组的 token 烧得快,说 minimum 这个组用 AI 用得厉害。但是我记得 Uber 到 4 月份就烧完了整一年的 token 预算,所以到今年 6、7 月份,美国公司都在逆转这个 token maxing,觉得好像再这么烧下去经济效率很差,所以各开始部署一些 local 的中国模型,就是把一些比较简单的任务交给中国模型去做,这样可以节省大量的成本。所以呢,这确实是正在发生的事情。所以最近两个月,随着这个 DeepSeek V2 和 GLM-4,中国的开源模型的下载量和使用量在上升。但是呢,而且这个 diffusion 的风险是真实存在的。但这个距离网上的经典问题还差几个月,我就觉得都还没到问这个问题的时候。就是说,你现在说中国有一些达到了 Opus 4.7 的水平,那是在 agentic coding 的领域,它的 base model 距离真的 base model 差距还是非常非常大的。所以说,我觉得现在还没有到真的能够问“还差几个月”这个问题的时候。
好,这是模型这一层。再往上一层就是中国的天下了。刚才有人讲到这个 C-end Dance 2 对吧?那中国在应用层那就是最厉害。原因就是因为刚才我讲了,中国是全世界可能国内的计算机市场和网络服务市场最大的国家。包括刚刚提到的 AI 短句,这也是中国走向全球的一个“劣币驱逐良币”的超大产业。那么,中国确实无人能出其右。中国既有最多的计算机人才,又有 9 亿、10 亿网民了,现在 10 亿网民的超大市场,而且还有非常高的产业集中度,就几个大公司。所以中国能够烧得出来,因为这些都跟生态相关嘛。像 Ced 能够做得出来,和 TikTok 本身的这个生态、这个短视频生态、短影音生态,是有非常大的联系的。所以在应用这一层呢,中国现在其实是非常非常有优势的。但我也必须说,这有问题。就像 step of diffusion 会慢慢被其他淘汰,那么现在从 text 到图片已经有模型做出的能力,但从 text 到 video 还需要复杂的产品设计。但没人说不好,比如下一代,比如到 GPT-7 就从 text 到 video 成为 base model 自动化输出的能力。到那一步,CD 的技术积累也就清零了。所以现在中国在这个基础之上做 AI 应用,确实有这样的困境。也就是说,如果 AI base model 所谓的 scaling law——就是参数越大能力越强——已经停下来了,好,那这是做应用的好时机对吧?
未来 base model(基础模型)可能不会有很大的进展,那么将基础模型的能力转化为商业应用能力就是一个好时机。但如果当前阶段是基础模型快速发展的时期,那么现在做应用就未必是最好的时机,因为你现在做的应用说不定是未来基础模型自带的能力。就像 Stable Diffusion 等模型,虽然现在仍有一定优势,但市场份额确实大幅缩减。如果你做的应用未来基础模型本身就具备,那么就没有必要再去追求所谓的 AGI(通用人工智能)了,对吧?所以这是应用层面的问题。
应用层面的中国确实是最多的。中国无论是 AI 软件还是 AI 硬件,都有突出表现。比如 AI 眼镜,深圳的 AI 眼镜那天在会上,唐凤也佩戴了一款,同样是中国深圳的产品。现在除了 Magic Leap(Ma)这家公司之外,其他几乎都是中国(尤其是深圳)的 AI 眼镜产品,且做得非常国际化,质量也很好。但 Magic Leap 的产品仍存在不少问题。因此,中国在 AI 硬件和应用层面具有显著优势。这不仅因为中国软件生态不错,制造业生态更是强大,对吧?这也是产业链的优势所在,未来可能成为一个非常重要的领域。
所以全面战略性的 AI 竞争就是如此。我们可以看到:从底层芯片、算力、数据到人才,全都是国家政策主导、国家推进的。到了模型应用层面,可以说是纯市场化的;但到了模型层面,现在已经完全国家意志化了。 比如我们刚才提到的对深度学习模型本身的控制、对 AI 人才的控制、对 AI 技术出口的限制等,这层面也是国家主导的。这与其他国家形成了明显差距。
我们可以从这个角度来看美国:美国芯片是全球合作的产物,芯片生产依赖台积电,台积电的光刻机来自荷兰,芯片设计公司如 AMD 和 NVIDIA(英伟达)等,最终芯片的集成由英伟达完成。包括美国国防承包商(如 Palantir,简称 P 公司)甚至推出了自研的 AI 解决方案——自定制芯片、自定制服务器,基于 Google 的 Gemini 4 模型开发。他们的逻辑是:使用大公司的模型或中国的模型都不安全,甚至硬件交给第三方也不安全。因此,Palantir 提供一整套解决方案,从软件到硬件全部自研。
在美国,整个 AI 产业完全是商业主导的事件,甚至 AI 人才培养也是商业推动的。比如美国各大高校的 AI 实验室(如 AI Lab),不都是由大公司资助的吗?美国的“旋转门”机制,就是高校科学家与 Google 等公司的 AI 实验室之间的人才流动。这与中国完全不同。比如模型和应用层面,中国更是全产业链布局。
因此,对于美国和其他国家来说,现在越来越多的国家开始强调“主权 AI”,因为 AGI 与国家安全高度相关。 但其他国家无论从政治体制还是能力上,可能都不具备中国这种从头到尾一以贯之的能力。对中国来说,这是一个绝佳的机遇。
在这种情况下,中国和美国形成了一种相互制约:中国最擅长的是基建,不缺电但缺芯片;美国最擅长的是芯片,但由于各种法规限制,现在缺电。双方都卡在对方最擅长的领域。因此,现在很多人在讨论:AI 竞争到底是中国先解决芯片问题,还是美国先解决电力问题?但我认为,解决电力问题无论如何还是更方便一些,对吧?
` 标签中:
以上是我对于中国AI产业形态和里面各个环节的一个描述。接下来呢,会提到中国的国家形态变化这个下一个话题。所以我觉得可以先停在这里一下,因为这个信息量蛮大的,对吧?大家可能这也是一个可以单独做一个单元的话题,就“中国AI长什么样?中国AI厉害不厉害?”这样的话题。
我想问这个话题大家有没有什么想问的或想探讨的?我们现在可以先探讨一下,探讨结束之后再进入下一部分,不然可能就会忘记他们的应用端。
他们的应用端有可能比如说广泛到开始外溢去使用国外服务吗?都不用会不会现在全世界的基础AI应用很多都是中国的?比如text to audio(文本转音频)这个东西,现在最前沿的是中国一家叫B公司开发的,这些都是开源软件,在GitHub上就可以下载的。所以说应用的外溢已经发生了。像商业级的视频应用,CD是一个电影级的,但基本商业应用是中国一家叫「Clean」的公司。不管是做x to image(文生图)还是text to video(文生视频),都做得非常好,现在基本也是他在做。所以实际上现在很多基础的AI应用,中国已经在好多领域是垄断地位了。
所以在全局上面,最上面的应用外溢是可以的,但下面的基础对于中国国家来说不太对,因为应用这一层离商业最近,离国家安全最远,对吧?尤其是一些纯粹的娱乐性应用或产业性应用。所以这部分已经外溢了,因为除了中国之外,全世界其他国家投入的能力少很多。比如中国做CD或者做我刚才讲的「Clean」,或者怎么样,像OpenAI或者其他公司可能只是一个小的lab,可能三四个人当作业余项目在做,但中国可能就直接几十个人上去就把这个东西做出来。所以他的迭代速度是其他国家很难匹敌的,这么多人力和成本去做。但原因也是因为中国的国内市场够大,所有这样的应用都有商业模式能够收得回钱。所以中国的应用生成和应用扩散速度是最快的。
那模型他们希望扩大吗? 当然是这样的,他既然是免费开源,他就是要扩大对吧?不然他做闭源不就好了吗?
所以中国现在的模型策略就是:我不够厉害,但是我便宜,而且我可以本地部署,所以我来做开源。但是这里有一个debatable的地方啊。中国当然认为这可能会造成一种技术依赖,因为你今天用了 DeepSeek,因为你今天用了 DeepSeek,所以你未来就一直用我 DeepSeek 下去,用到我逼你也继续用我,用到我非得跟中国的芯片搭配用,你也继续用我,这不就锁定了吗?
但是现在能不能实现这样的锁定?到现在呢,我觉得还没有。由于开源 AI,尤其是 open weight(权重开源 AI)有一个问题:当别人本地部署做本地训练后,其实跟你的服务器就算从网络上都已经切断了,它甚至跟你的服务器没有任何 HTTP 的交互,它就彻底变成了别人去用的一个东西。所以这个在多大层面上能做技术锁定呢?我觉得不一定。
第二,那么如果哪天Scaling Law真的减缓了,导致 OpenAI 要下大力气做一个开源模型,对 OpenAI 有多大障碍?我看也很难讲对吧。OpenAI 也有这个叫 OS 的开源项目,Google 有 Gemma,再加上美国的 Meta 最近不太行啊,但 Meta 要做这个,他过去是开源的王者,现在要赶上来。所以说,从一个非常前沿的闭源模型转向一个不错的开源模型,从技术上呢,其实没有任何障碍,跟中国做的一样,就是拿一个前模型做一个小点的参数的去留它,变成一个更小的模型。所以中国这个路径能不能实现这样的技术锁定和技术路线的依赖(dependency),我觉得还是一个要继续看下去的事情。
另外一个呢,就是这个也很有问题:AI 是个很烧钱的事情,你做开源模型,你没有商业模式,别人从 Hugging Face 上下载了署到本地,这就是白送嘛。所以中国阿里旗下最新的 Qwen 3.7 Max 已经是闭源模型了。所以对于这种大企业,他可能也需要慢慢闭源化,因为 AI 真的很烧钱,尤其对于阿里这种要做自己机房的公司,完全走开源这件事从商业上其实是不合理的,就是当公益项目在做,这个可能不是 AI 发展的最佳路径,因为 AI 是一个高度资本密集型的领域,可能也不是一个最好的方式。
所以说,我觉得中国很明显在走一个开源的路,在前沿模型差距比较大的时候去占领市场。但是我们也知道,如果一个企业要占领市场,你可能需要有所谓的护城河对吧?
就是你的产品有不可替代的能力,才能够真的守得住。中国现在这样的东西能不能守得住?我觉得要打一个问号的。但虽然现在在最近一两年,中国的最前沿的开源模型在最广泛的商业——就是AGI应用(注:根据语境推测为 “AGI 应用”,若非请确认)方面还是很厉害的,所以它确实能够占据可观的市场。但这个市场能不能长期持续下去,其实我觉得要打一个问号。甚至我觉得很多中国公司也在想,如果真的在 base model 上赶不上的话,其实有很大的问题。
但现在这个就卡在芯片上,是很麻烦的事。大和什么别的关于这个……对中国是电力非常……对。但因为这是国家意志去做的一些事情,它会不会因为当这个国家继续扩张在 AI 上面,继续扩张到 1000 路(注:根据语境推测为 “1000 亿参数” 或类似规模,若非请确认),这个电力会影响到民生用电?会有这样的状况吗?
嗯,在中国比较难,因为中国现在已经处于电力比较富裕的状态。是这样的,因为中国电力不是为了 AI,是为了做新的开发电(注:推测为 “开发新能源”),所以中国的光伏呀、风电啊都建得非常非常厉害,所以导致很多省的传统火电已经是做调峰用了。就比如今天是个阴天,所以说光伏发电不足,我把火电机组开机来补一下。所以中国现在的电力富裕情况是比较高的,而且新的电力建设还在疯狂推进。中国虽然开始做这个光伏和风电了,但应该是 25 年吧,中国的煤电厂——就是化石能源电厂——是全世界第二到第八名加起来总和都不如。所以中国的化石能源发电依然在非常疯狂的全国建设之中。所以说在电力方面,中国应该不会产生影响民用电力的情况,像美国就有嘛。比如美国东部有些电网因为 AI 导致民用电价上涨,在中国比较难。
但它会不会影响某些地方瞬时的工业电价? 有可能,因为中国工业电价和民用电价是两套系统。中国对民用电的补贴是非常多的,优先程度也很高。但中国有时候比如说,你听到中国拉闸限电是限的工业电,而且中国现在也在做电网的市场化改造。因为不做改造,国家每年投钱,中国财政又比较差,所以最近也在想做电网的市场化改造。那做市场化改造的话,工业电价就会有浮动价。那有没有可能未来有可能?是可能的,但我觉得短期至少还不会冲击到。
那我们如果下载了中国的开源模型,然后建自己的 AI 的话,这样子有参与到中共政权对人民的压迫吗? 没有没有,这个完全没有,不用担心啊。这个不会,甚至你的 fine-tuning 和后训练也不会帮助他们,也不会回传给他们让模型训练更好,这个不会。所以说我觉得大家如果比如说,你有个电脑,你有一个很简单的任务,比如说改错字啊什么的,你想本地部署一个模型或者 DeepSeek(注:根据语境推测为 “DeepSeek”)去做这个,这个大家不用有道德负担,完全可以去做。
他的模型的 bias 到哪一层?有什么风险? 我们一会讲到啊。就是他可能不会参与到中共在国内压迫人民,但可能会向你输出一些中国的 bias,这个是可能的。但如果只是改错字的话,应该没有这个问题啊。
好的,我们往下。那么既然这是一个国家工程啊,就是为什么有这个国家工程,以及它会怎么改变中国这个国家?那我们就大家说,它改变中国之后,会怎么影响中国这个风险的外溢,就会成为一个问题对吧?那么中国现在为什么要这么强大的、强力的来推这个 AI 国家呢?
是因为中国要解决很多问题。第一,作为A国,中国现在国内的内需很差,很多传统产业像房地产啊、基础设施等都很差,中国需要新的经济增长点。半导体、集成电路、AI是中国要用来解决经济问题的。第二呢,中国非常清楚自己苦于依赖,比如依赖美国的芯片被美国卡脖子,中国要用西方卡其他国家对吧?所以中国非常明白,产业链依赖和商品依赖是一个国家能力很重要的一环,你可以把它武器化去影响其他国家,包括市场依赖也一样。所以中国意识到,接下来不是一个全球化的时代,而是一个比依赖、将依赖武器化的时代。因此,中国也非常希望既要解决依赖问题,又要创造新的依赖,那么成为地缘政治一个非常重要的点,这是要点。
第三呢,中国的军事,大家都知道,很多时候批评说你们中国军这么久没打过仗,没有任何实际的战争经验,要是跟美军打起来,你们怎么会有实战能力呢?中国觉得这话有道理对吧?尤其是基本的军人训练,这个也不好说,上战场这个政治体制,可能习近平来想,我下面的政委到底对他的士兵有多大的控制力,其实我也很难讲。那这个无人机、无人狗是不是好一点?只要中央军委下命令就可以去攻击,这个听上去很不错啊。所以作为军事缺口呢,AI确实也能够对整个这种自上而下的人力体系提供一些支持。包括中国现在财政很差,如果有AI公务员,岂不是也解决一些问题?这个不是空想,中国现在很多区域已经有了AI的公务员体系。所以说,对于解决公务员躺平,就是公务员的不作为等情况,也会想用AI,是不是AI公务员可以做得比较好?诶,我刚提到了什么?
哦,对,当然还有就是中国——应该是从2030年开始,整个劳动人口会下降,新的劳动人口也会,而且是非常快速地下降。中国的新生儿从2017年的1300万到去年的600万,就是这么短的时间,新生儿直接从1300万跌到600万。所以之后的劳动力,包括新的消费者,也是个问题。所以如果机器人能做好的话,包括AI的agentic workflow也会解决问题。所以说,中国是一个危机重重的国家。我们早上跟洪长聊到这个,台湾跟中国的财政状况,会觉得台湾的财政的宽裕程度是中国政府非常羡慕的。所以中国是一个真的治理欠账很多的国家。所以中国政府会认为AI也许可以解决很多问题,这是他的一个突破口。
第二呢,就是确实会提升中国的国家能力。第一个呢,就是社会可见度。大家都知道,中国是全世界监控摄像头密度最高的国家,这是毫无疑问的。它本来社会可见程度就已经非常高了,更不用说互联网监控。中国有一个中国的微信(WeChat),你们可能都知道啊,那个软件是全透明的,中国人都知道它全透明到即便是两个人一对一的聊天,那个聊天内容……呃,我的亲身经历啊。当时是上海,就是中国2022年有非常恐怖的这个“动态清零”,2023年初“动态清零”解除之后,到4月份是上海封城一周年,所以他们想自己去找一个淘宝的厂印一个文化T恤,什么“Survive SH2022”之类的。他们俩刚刚聊这个事,还没有执行啊,两个人在微信聊说:“我们是不是要做一个文化衫?”哇塞,半个小时后警察就打电话过来了,说:“来一趟,写个保证书,保证你不要做这样的事情,保证你不要印这样的东西。”所以当天我们就确定,哦,就算是一对一的聊天也是00透明,而且响应速度快到这个地步。所以这肯定不是背后招了1千万人在后面看,就肯定是AI在后面用语义的方式去做这个分析啊。所以它会导致一种非常非常高的社会可见程度。那么AI会让社会可见程度更高。大家也知道,中国过去为了做互联网监控,有非常复杂的这个敏感词系统,对吧?比如说里面跟习近平和习近平的假名相关的敏感词应该就是三四百,跑不掉的。但是过去这个方法呢,你用敏感词,我就改一个词,比如说“64”不能讲,我就说“68减4”,我就说“58+6”,就绕开了。那么现在有了AI之后呢,确实就可以不用再做敏感词了,因为AI是有语义的阅读能力,它能够通过上下文来判定敏不敏感。那么这个呢,就会让监控体系又上一个台阶,对吧?所以这个社会可见度呢,对国家来讲确实会强大得多,在各个领域都会。
第二就是行政执行。我们讲啊,中国公务员人数相当庞大,中国财政供养的人口应该在1.2亿的规模,这是一个非常非常恐怖的规模。那么倒不说他人数会削减,中国应该除非国家形态有很大的变化,中国应该很难看到什么“削减公务员”或者“裁员”。但是呢,因为财政不多,所以公务员待遇很差,大家知道吗?
就是如果一个公园奖金不发,一个给我发12个月工资,你要让我每天为你工作十个小时,估计也很难了。就中国人也是很普通的城市居民而已。那么在这种情况下,整个行政执行能力确实是很大的问题。中国从疫情之后一直在讲要遏制躺平现象,所谓的干部躺平现象就是这个。那么现在有这个智能体干部,可能只要供电就不会躺平,对吧?所以这也是一个方法。
第三个是预测预警。如果大家关注中国新闻的话,中国最近可能最近20多天,哇塞,那个灾难数量大到难以预计,还不光是天灾自然灾,还有各地工厂爆炸。最近有三个工厂爆炸,就是中国进入到一个安全的高发期。这很正常,本来中国的建筑质量就一般,那么过去不管是厂房还是楼房,可能建设的高峰其实从08年4万亿经济刺激到18年,就是从16年搞货币化,反正这个周期吧,这十几年是中国基建的高峰期。那么这里面的很多建案其实质量都不一定好,所以说可能到10年的阶段会进入到一个这些所有建筑内东西的一个安全高发期。那么这个呢就会形成可用的社会预警,对吧?如果没有AI,这么大的国家你怎么知道哪里会出问题?那有AI呢,就能够起到一定的效果。而且这个呢,我觉得一般国家来用也很正常,对吧?但中国的AI预警有更多,而且已经实现的有一个很恐怖的例子啊,就是中国有一个地方,应该是湖北水利的一个地方,他们说不是江长州、长州说呢,根据AI的预警分析啊,提前预警某企业可能引发员工集体讨薪,公安局和劳动监察部门啊提前介入约谈企业,督促制定整改计划。所以还可以预测人的行为,知道这个企业可能会出现这个欠薪问题,所以提前可以介入。
当然我必须说啊,我不相信这条报道的,我觉得这是AI公关稿。我没有觉得现在AI厉害到这个地步,就从理论上能做到,但中国的那个数据的质量和使用AI部门的负责程度,我觉得要精确到这个地步,应该还有很长的路要走。
你说的也对,因为我觉得在长州,你可能进十个企业有八个企业都有潜在的问题,对吧?所以你蹲出任何一家都可以收,可以写对吧?这个洞察是对的,因为就在长州这样地方,欠薪问题应该是非常非常广泛的,要增加安全经费的。
对对对,这个应该是对,应该是没有任何问题的。好,这预警也是中国的一个国家能力。
最后一个就是中级国家能力。之前中国有一个企业家大家都知道叫马云,马云曾经说过一句话,说这个计划经济不是不可行的,过去的问题是我们数据少,这个运算能力少,但是有了AI之后为什么不可以做计划经济,对吧?
所以说,这成为了中国的一个终极愿景:我们终于可以摆脱什么新自由主义经济的桎梏了。有了AI的加持,我们的政治制度和经济制度成为最好的经济制度。这个事情呢,其实蛮有挑战的。现在很多其他国家,像尤其是美国社会思考经济问题之后,他们也都在想,是不是中国这种社会模式具备一定的合理性等等。其中有一个就是政府对于经济更深的控制和计划性,这个包括产业政策。当然我必须说啊,日本和美国现在的产业政策和中国的产业政策虽然都叫产业政策,但是完全不同的两个东西啊。他是完全不同的,这个有机会我们也可以继续讲。那么这也会成为中国可能计划调度国家会认为更好的点,因为现在中国这个计划经济说太远了,但中国现在有这么一个东西。因为中国过去的各个建设都是各个省在建设里面产生大量的重复建设、浪费和债务问题,所以中国从2019年开始把各个省的项目的财政权利和事情的审批权往中央收,往发改委和财政部收,但遇到很大的问题。这么一收,各个省的建设、医院大减。那么现在我觉得有可能用AI的方式,我们可以在财政部和发改委中间用AI的方式来做。反正我的人手不足,我用AI帮我规划,因此我可以用AI命令你:贵州要在这建个这个,江苏要在那建个那个。这是不是一个新的方法?这也是中国未来可能要获得的一个国家能力。
所以在这个情况之下呢,我就管这个叫第二次可见性革命。这个问题是值得严肃讨论的,因为大家都知道,现代国家是马克思·韦伯所讲的理性官僚体系发展所建立的。那么理性官僚体系运作的基础就是户籍啊、地图啊、统计啊、档案啊。过去的中央政府都没有那么大能力,必须用非常下沉的地方权利的方式来管理。那么有了这个户籍、统计、地图、档案,导致一个政府可以管理比过去大得多的地方,对吧?这是第一次的现代化国家的建立,也是因为第一代的通信技术革命——电报啊等等的建立、电话等的建立、铁路啊等等建立来实现的。这是第一代。那第二代就是AI国家了。确实沿著这个技术思路往下,AI对于数据的控制能力、分析能力、命令能力、调度能力,确实是沿著户籍、统计、地图、档案官僚及组织上的下一步。所以中国呢,一定就是瞄准的这个去的。但这里没有问题对吧?这种极端的效率听上去很不错,但会产生很多别的问题。
我给大家举一个最近台湾的例子啊,韩国和台湾共同的例子。韩国最近地方选举一个争议,因为他们要把票运到这个中心去电子点票,那么很多地方还出现了票少的问题,对吧?所以很多韩国人说还是台湾这个选举制度好。大家知道台湾这个选票制度被人认为是一种比较手工的制度,就是每个人必须回到户籍投票,然后大家就维持那个票点站,大家接棒40一起看著,然后票站一张一张拿出来,用化政治的方式去点,那么来做。也就说,台湾有没有科技实力和财政实力把选举电子化,像柯文哲讲的「一人下载APP在手上点不就好了」吗?你在全世界任何地方你点一下,这个票率还没有,没有什么点票时间,应该计时就能封票的那一刻选举结果就可以出来,对吧? 为什么不这样做对吧?因为这样做没有信用嘛!因为一旦进入电子系统,选举系统是非常非常重要,需要全民的信任才可以维护。败选方结果的关键不是让胜选方说我赢了,是让败方心服口服说我确实输了。那一到电子,你看当川普有机会选票多的点票系统就出问题了,对吧?
所以说,一个社会不要走向这边,其实是有很多社会对它的 pushback 的。也就是说,社会为了自己的信用和自己的能力等等,不一定要实现国家的效率最大化。那国家效率最大化的话,很大程度上是要削减社会的 social capital。这会削减社会对这些问题一定的可控性和可见性。所以说,那么这听上去好像蛮好的,从第一代现在国家到 AI。但对我来讲呢,这就是那种「反乌托邦」美丽新世界那样的,它一定会有很多的问题。但中国为什么能这么做呢? 因为中国就是一个社会对政府制约最少的一个国家。 所以中国尤其在经济比较不好的时候,会非常疯狂而激进地推进新科技,这是一定的。就在三天前刚刚召开的中共中央会议,习近平就说「形势催人,也逼人」,而且「行」意思是经济很差了,形势催人也逼人。所以说结论就是要继续加大力度推进新科技的使用。所以说,中国不管是各种无人车、无人飞机、AI 等等,一定会在政府包括药物领域——大家知不知道中国是现在全世界像 MRA 把关药物几乎最新的国家?一是因为中国人口多,二是因为中国的伦理限制最少,所以中国找到市场药源是最容易的。所以说,这是一种激进的新技术。那我觉得中国现在随著经济的问题,会成为一个非常激进地使用新技术的国家。那么这种激进的新技术,不仅会影响中国内部的运营状况和社会治理,同样我觉得它也会产生一定程度的外溢问题。这个外溢的根本逻辑是这样的:中国过去的能力更加偏向禁止性的能力,比如在网上给你查号,你要发言,找公安局给你打电话让你禁止发言,包括有个企业去禁止你这么做。那么国家行使禁止性权力的原因,其实是行政能力的边界对吧? 我给大家举一个例子,很有意思的例子。 大家知道——你们应该学过中国古典——秦朝,抱歉我要道歉,我要「支援」,但他是有意的。秦朝有一个法叫「连坐法」,大家都知道吧?我要犯法,诸连九族全部杀死;或者我在一个坊里面,一个居住单元,我要越狱逃跑了,这个坊的所有人都要受罚。为什么呢?就是因为国家没有能力监控到每一个人,所以连坐制度其实是为行政能力不足做补充。这个东西不需要清朝,我们回到 2022 年的上海。上海当时有,包括全中国有非常疯狂的要把人关进方舱医院隔离的措施。当时有所谓的「次密接」,就是这里有个病患,跟这个病患一家的人是密切接触者,最恐怖的是跟这个病患同住一个小区的所有人都是次密接触者,要把他们全部抓去关。这造成了很大的社会冲突。为什么要连坐到这个地步呢?
其实是因为这个疾病检测不到位嘛。假设有个新冠检测方法,直接刺一下手就立马能知道有没有感染,就没有必要「连坐」了嘛。所以「连坐」呢,包括这种禁止性的扩大化,就是中国过去这个极权被最多人理解到的恐怖的部分,其实是行政能力不足的一种补丁。但是 AI 在某种程度上解决了这个问题。就像我们刚才讲的,过去啊,可能比如说一个地方春节之前欠薪现象极其严重,政府要做的呢,就是派警察去厂房里看著工人不要闹事。但现在可以提前介入企业,说你们是不是要给工人发钱?他从这种一刀切的、广泛的禁止性能力,转向一种生产性的能力,就是我可以提前介入,我可以提前预测,我可以采取种种积极的行为去做。但是积极的行为更恐怖对吧?非积极的行为,比如说我举个例子啊,比如现在是我在网上不能说政府不好,那我必须这样做。那未来会不会给某些人,比如说我在塑料产业工作,塑料产业最近的风险比较多,我突然打开我的微信弹出一条:「你必须转发这条消息到朋友圈,因为只有你转发这条朋友圈,你的社会网络在塑料产业,所以这样的好消息发布出来可以提高塑料产业的政策信心。」就变成了一种生产性的能力去做。那么这只是一个例子而已啊。这种生产性的能力越来越多,其中一个典型的例子呢,就是中国有一个很恐怖的系统,叫金税四期(金色的金,税务的税,四期)。
那么中国当然包括到现在也有一种税收能力,也有种税收方法,就是地方财政不行。在民主国家听到简直匪夷所思啊,就是税务人员会和警察一起去,比如说你这个企业,说你今天就交五十万,不管你今年什么情况,你今天必须交五十万。如果你今天不交五十万,我就让消防来查你的消防情况,让你开不了工、关门,对,就让你关门。所以说这叫摊派式的税收。比如政府发现我们今天有 1500 万的缺口,那就要找 30 家企业,每家收 50 万,我们就找这个市比较好的 30 家企业,每家收 50 万,把这个库填上。这是过去的方法。那么现在的方法,我猜大家都有一个想像:你们有没有想过,如果全国每个人给我一块钱,我岂不是又变成一个千万富翁对吧?在过去就是不可能的,现在在金税四期之下,它就变得可能。所以中国如果能从每个企业多征收一点,汇集到财政上,岂不是一笔大钱?这个已经实现了。中国从去年到今年,在这么糟糕的经济状况之下,这两年个人所得税竟然每年都以 12% 上涨。那你说是因为中国这两年人的收入上涨了吗?我看可能是相反的情况。但为什么个人所得税涨这么多呢?就是因为征收的强度增加了。而且这个征收啊,金税四期是 AI 驱动的,但未必是垃圾的 model,可能是 reinforcement learning。它是因为中国有另外一个优势,就是我说的,这是我们看国家掌控数据的好处。在台湾,每一个人的金流不是国家权力掌控的对吧?要是的话,柯文哲的案子还会是麻烦吗?
就不会——你要去了解是很难的。但中国呢?比如说,我是个企业家,我有个企业账户,企业账户的金流和我个人银行账户的金流,国家是完全掌控的。所以说,假设我要逃一个税,我有一笔钱不想走企业的账,我个人来打给我的员工,那在其他国家要查这个东西是蛮麻烦的,在中国纯自动机器自己就知道。所以中国企业家过去各种各样透过金融体系支付的成级 proxy 去避税逃税的方法,在这个 AI 之下呢,就完全能够完全掌控,甚至可以自动带扣,就变成一个非常自动的、能从每个人账户里拿一块钱的一个东西,但它是通过税收的方式。所以这就是走向一个非常强大的生产性能力的一个部分。那么这个呢,会让中国成为一个完全没有盲区的这么一个国家。当然啊,听上去这是一个非常厉害的点啊,但是我也认为呢,这个有非常非常巨大的风险,因为这个系统越集中,这个系统的决策越中心化,整个 BIOS 在系统里传导就越恐怖。就 2022 年的动态清零就是这样一个非常恐怖的系统性 BIOS。那么假设国家认为征税 47% 听上去很不错对吧?说不定这两年中国民营经济这么差,就是因为你从每个人账户里拿一块钱的方法。那么整个系统性的 BIOS,其实也许过去也不用,也许了你都能看得到。中国最近这两年规模以上民营企业的利润大减,这个就会影响新的招聘,影响新的投资,影响经济的活力。从国家来讲好像是挺不错的,但是这种 AI 的打击力,是不是社会分配的一个大 bug?一个非常大的 BIOS。中国本来在政府和社会分配上就有非常巨大的问题,那过去社会还有一点点能力用自己的方法来扭转这个分配的漏洞,那么 AI 其实是在加大国家的 BIOS。那么这个 BIOS 对政府今年的财政有好处,对国家来讲却是个很大的坏处。所以说,听上去这个很有能力啊,但我也认为它是最脆弱的,它会系统性地放大中国中央行政权的 BIOS,让这个行政权过去可能要积累 20 年才会产生的大问题和大的社会不平衡,如果有 AI 的介入又强力执行的话,会在非常短的时间内到来和积累到。所以这本身呢,听上去是很强的能力,是真的,但本身呢也会导致脆弱。
所以最后呢,它是跟这个哈耶克问题的一个对撞。这个哈耶克问题非常值得拿出来讲,这也是现在在这个 AI 治理情况之下,每个人都可以去思考的一个问题。就有一个说法很有意思,哈耶克说了一个知识问题:我们平时想,知识是像这个店里的这些知识啊,是这些书籍的知识,是知识。哈耶克认为这些不是知识,真正的知识是价格。哈耶克认为,全社会最重要的知识就是价格,就是一个东西多少钱,因为一个东西多少钱才会决定人们的购买行为。而哈耶克认为呢,价格一定是一个非常分散的东西,不同的地方有不同商品的价格,才会出现贸易对吧?也就是说,价格是人们所需要的最重要的知识,而价格知识一定要快速变动才好,因为供需的原因嘛。因为马上总结来说,我这波有点枯燥了,因为价格知识是社会资源分配的核心。我为什么要把这个钱投到这个公司来?因为这个公司未来好,但是现在股权又低,所以我要买它,这跟买股票一样嘛。有些新的公司,比如台湾最近大家疯狂地买进这个无人机的股票,虽然说这个预算还没有下来,但大家看到了这是现在国际的趋势,我们要大举进入对。那么因此,哈耶克认为呢,知识就应该分散,因此社会秩序用个词叫「扩展秩序」(extended order),就是在分散的知识的情况之下,由各个人来用购买行为做决策,实现的社会调配。这个是哈耶克——支持自由主义的大师嘛。
他是从哲学层面上来论证自由主义的,那么现在中国这个国家模式呢,其实是跟他相反的。中国希望能够借用看上去对所有知识——那么也包括这些知识——中国的知识、各地的油库的余额啊、这个粮食的价格等等,来形成一个中央决策。如果哈耶克还在的话,哈耶克肯定认为这都不是通往奴役之路了,这应该是通往坟墓之路。一个国家用这种方法来做决策,不只不会高效率,还会产生甚至比中国过去社会模式更严重的资源错配,这是一种终极的系统性资源错配,这个可能是个更严重的情况。
当然反方也会说,我们也很聪明啊,为了遏制这样的资源错配,我们有新的 agent 可以来做 check 啊,可以去做分散化决策啊,为什么不可以呢?那分散化决策也有统一的 agent 来管理啊,这不是也可以吗?这也是一个可以思考的方向。所以说,它未必是单向的好,这是形态问题。那关键就来了,那我们就看以上都是中国人自己的问题啊,这应该由中国人自己来好好操心。那大家要操心什么呢?
大家要操心的就是这个外溢的问题,就中国这样的 AI 决策和 AI 到底会怎么样去外溢? 这个外溢是存在的。第一,工具的外溢。你看刚才有人提,比如说如果我用中国的 AI,它会不会对我产生影响,对吧?我觉得呢,这个都不用那么操心,就像高德一样,我用高德的导航会不会让我开到田里去?我觉得应该是不会了,甚至可能会更好用。但是所有高德的数据汇总起来,中国知道这是一个风险。那 AI 一样,假设所有台湾人都用豆包,那中国介入台湾政治选举的能力直接上一个数量级,对吧?
每一个人用豆包,你说豆包会不会给我错误的资讯,让我本来有个疾病,因为用豆包结果最后我出了大问题?我觉得应该也不会。但如果台湾所有人都用豆包——豆包是字节跳动的一个 AI——那么你们所有人如果你们用豆包的 APP,对吧?你们收到什么话题,他是不是就一定会知道?这个中国你相信他百分之百会知道啊。那么透过这些所有这些 prompt 的分析,那对于台湾社会情绪是不是一个高于媒体监督的、一个非常终极的掌控能力,对吧?因此,对于每个个体来讲,这个风险好像没有很大,但是分散查询的汇集会成为系统级的风险。所以说,不管是 AI 的使用啊、小红书啊等等,都会有这样的问题。从个体角度来使用,你说会不会让我的生活受到很大影响?其实都还好,但是这个数据汇集起来会是一个非常非常大的风险。所以这是分散查询的风险。
第二个,资料路径的风险。你看台湾已经禁止了 Deepseek 的使用,对吧?是政府机关,普通人还是可以用的。但是如果你使用一个架构,它有没有用 Deepseek 的 API?这个你不知道。也就是说,如果我把 Deepseek 部署到本地,确实风险比较小,但如果我是借 Deepseek 的 API,我的所有 prompt 中国还是会知道啊,尤其如果你用一个中国的云去接这个云的 API,他还是会知道啊。所以说,政府去封锁一个 APP 的使用会容易一点点,但比如说假设啊,假设我——任何人嘛——一个美国人在这里建立一个 AI 公司,说我出了一个 AI,这个是在台湾本土出的公司,你用我的 AI,结果它的 AI 里面一大部分是 Deepseek 的 API,这不是一样吗?对吧?
你封住了一个 APP,你没有封住背后的 API 的部分,你没有封住这个日志的部分等等。所以 AI 的风险是一个很分层的风险,可见部分的控制是比较容易控制的,但不可见的控制部分——比如说,呃,假设啊,台湾这边政府采购了一个 AI 系统,这个 AI 系统是一个美国的承包商,那这个美国的承包商背后这里面到底用了哪些 API 和哪些构成?
如果没有这样的控制力和检验的话,说不定像我们刚才讲的,现在不做 token maximum,他们一些基础任务完全是用的 deep 的 API,甚至用的是中国建在马来西亚的云服务商的云服务,那这些数据就基本权给中国了,对吧?
所以这本身这个资料路径也是一个非常大的问题。从这里呢,就可以说一下中国的海外伺服器的扩散,因为这里面很大的动因呢,来自于这个芯片限制。因为芯片限制的原因,中国在国内没有办法获得最先进制程的芯片,所以说像阿里这样的公司在东南亚——就是东盟国家和中东国家——有大量的伺服器建设,大到什么地步呢?3000 亿人民币的投资,就是 1.5 兆新台币的投资,到这个地步。所以说这个不是一个小规模的海外伺服器建设,是一个巨量的海外伺服器建设。这些伺服器会成为马来西亚的基础设施,会成为卡达的基础设施,也会成为这里面有些套装公司可能就能够采购美国的先进芯片,会成为他们自己来运算和训练模型的。所以中国现在在海外做运算中心这个事情是一个非常大规模的事情,不是一个尝试,已经是一个产业级的超级大项目,甚至成为了中国「一带一路」新的明星项目。这个跟目的地政府合作都非常的有效,对吧?比如说非洲国家,难道不要跨越这个「数位鸿沟」吗?「数位红利」美国人不愿意帮你们,我帮你们,我们在你们非洲这个国家来设置数据中心,我来帮你培训人才等等的建立。所以说这个也是一个资料路径,背后也有中国的影子。这就是刚我们讲的,因为中国整个 AI 生态系统(food stack),所以他从各个层面之上都可以对外扩展。你们也知道中国的人才输出吧?中国的「一带一路」不只是给你钱,中国也有人才。就比如说,你这个国家你的电厂缺乏人才,我们帮你培养全套的人才。所以在很多拉美国家和非洲国家,甚至他们开始学中文,因为要跟中国的工程师对接。那么这些呢,都会形成这个技术路径的锁定。所以中国是有国家能力在对外作这样的扩张,那么这样的扩张呢,都会产生各种各样路径的风险了。对,所以就是资料路径的风险。当然还有这个便宜,是它现在最大竞争力,因为它 open way,它非常便宜,所以很多人因为成本的原因使用它。但这一步呢,我觉得其实是有这个技术方案去隔绝这样的风险的。
当然还有资料污染。资料污染是现在台湾社会比较关注的,就是因为 AI 的使用是很不利于小语种的。包括如果你就算用现在的 OpenAI,如果是一个香港人,你跟他讲粤语,你会发现那是一种很奇怪的粤语,那个不是纯正的粤语。我不知道你们有没有试过,比如说你跟 OpenAI 讲闽南语,他能够怎么回?我是没有这个判断力,但我猜你讲的事非常糟糕的,不是闽南语,对吧?所以 AI 这个东西本身对于资料的比例是非常敏感的,对于大权重中的资料是非常非常敏感的。所以说很多国家如果有语言的问题,它其实那么 AI 的资料污染也是一个非常大的问题。那么这点呢,我可以来讲一讲这个资料污染啊,也就是说,其实在我看来呢,资料污染是一个比较容易解决的问题。我的什么意思呢?
我认为它不需要到 base model 去解决,因为大家也知道这个 base model 其实是不管语言的最早版本的一些 AI。经常你会发现结果里生成了一些额外的内容,阿拉伯语的内容最严重。比如你看最开始有这个 OpenAI-001 的时候,它不是有个 reasoning 的 chain 吗?你打开能看它怎么思考的,哇,那里面什么语言都有,同一句话里面各种语言的夹杂。所以对于 AI 来讲,它本身不管什么语言,对吧?只要在深度这一步跟所谓的 alignment 对齐,这部分有语言的规范。因此,我觉得如果我们需要比较好的繁中的语料和语音,其实不需要到 base model,它可以是在 fine-tune 的阶段或者在 post-training 的阶段去解决的问题。所以说从这个角度来看,它还是一个比较容易的问题。
但中国的 AI 偏见(bias)是这样的:现在有很多这样的测试,我自己也尝试做一些测试。因为大家知道这个 AI guardrail 很多是在 base model 训练之后的,所以说有一个东西叫 jailbreak,就是越狱。我们通过一些 prompt 的方法或者别的方法来绕过它的 guardrail。过去的 DeepSeek V3 上个版本啊,其实是很容易让它回答出关于六四的问题的。就是你用 jailbreak,它其实是能够说“六四大屠杀”,它能跟你说这个中国是个极权国家,习近平是个极权的国家元首,他很不好等等。那么中国也意识到这个问题了,所以慢慢慢慢地向 base model 扩展。但这有问题,你让 base model 有特定方向的 bias 是很困难的,因为很有可能你最后成功地让 base model 知道“哦,习近平不是独裁者,中国是一个民主国家”,你发现模型也变不好了,因为那个灌输的问题嘛。就是你很难让 base model 真的有一个非常特定的偏见,这是非常非常难的。那也就是说,如果让 base model 有这个偏见,你需要预审查的资料,所有资料里面沾这个“民主”的全部不能给,那你得损失多少的训练数据?
所以这个权衡是非常困难的,对吧?
你到底能训练多少 base model?这是个问题。所以说,在这些最显眼的领域啊,这些领域可能我们都能 jailbreak,让 AI 告诉你说这个“64”是怎么回事。但是在有些领域,是更容易渗透到 base model 的。比如你问他这个国家发债这件事好不好,可能中国的 AI 在 base model 层面就会给出与 OpenAI 完全不同的回答。因为中国确实在 base model 的训练之上采用国内的资料比较多。你也知道,中国内的资料有几个在讨论流亡、在讨论民主的?但国内的资料有多少在讨论新员好不好、官府厉不厉害、国家发展模式该怎么样、政府主导好不好、中央政府行不行、反腐是什么东西?这种语料的数量是非常非常庞大的。
所以真正的偏见不会出现在“谁是小波”“什么是64”“中国是不是独裁国家”这种在简中也没有的信息上。但是关于国家经济发展模式、什么是人权、发展权更重要等等、什么是言论自由、西方怎么样、美国必须怎么样,这种语料是非常丰富的。那么这些 bias 是真正可能进入 base model 的。也就是说,你就算下载到本地 open weight,你 fine-tune 也改不了,或者能改了,但你需要让它跟你重新做 alignment,这就是很麻烦的事情了。
所以说,这种的语料污染和偏见的扩展,其实比最简单的政治敏感性的东西要严重,对吧?也就是说,如果非洲国家全部假设非洲国家全部用 DeepSeek,所有人都用,说不定一代人之后对于经济的想法是不一样的。这个是很麻烦的一个问题,甚至其他国家都是有可能的。好,所以这是工具层的外溢。
那么第二层呢?中国的外溢,当然又涉及到认知战的外溢。这个就是台湾更其冲的了,但这个大家也非常熟悉:认知战啊、进入选举啊,再加上平台的封锁啊。中国的 AI 再加上中国本身的这个平台,它的操作能力是非常非常强力的,包括基础设施。这个基础设施很值得讲了。就是大家知道今年初为什么美国不把那个 Anthropic 最新的 F 模型直接发布?因为它是一个很强大的信息攻防工具,它非常善于找出系统漏洞。所以如果这个被普通人拿去用,那岂不是全世界的央行都要被它“功课”,钱都被它搬走,对吧?
所以 F 模型先出了一个 Glass Wing 计划。Glass Wing 计划就是授权 Anthropic 先把这个模型给大的金融机构和科技公司用,你们花半年去跑你们的系统,看看哪些漏洞,用 F 模型把这些漏洞都补上,然后再开放给民间用,来承担这种可能的风险。万一民间拿去攻击怎么办?
那问题又来了,这半年台湾有没有接入?
如果这半年台湾没有接入台湾的电网系统等技术设施,Fable 5 检查跑一遍,中国现在还没有 F。哦,假设中国今年下半年有了和 Fable 5 在网路攻击方面同等水平的模型,这是一个多大的风险对吧?这跟过去的骇客效率就完全不一样了,这就是 another level。本来中国骇客就是很大的问题,什么「飓风行动」等等,每年都在全世界尝试攻击技术。那如果台湾没有当然好,现在还没有 F5,所以台湾现在可以好好去做这个技术检查,有没有漏洞。但这个很重要,这是个赛跑的工作,就是你补漏洞的速度和中国开发出同等攻击的速度有多快。因为这个网路攻击大家要注意哦,如果中国比如发现了这个漏洞,它不一定现在就要攻击对吧?它就存在那里,它不断地去尝试看你修没修,你没修的话,如果真的有问题,它就会用那个发起攻击。你到那个时候才知道,哦,原来它找到了我基础设施的漏洞,这是很大的问题。所以说要用很快的速度把基础的漏洞补起来,这是个非常重要的事情。这是基础设施,大家还有的压力。大家知道每天都在监控有多少船、有多少飞机在绕台海,在控制,包括现在中国已经控制到了台海东侧海域对吧?那么对中来的戒备也会大幅上升。但如果未来这一切都有无人机化和无人舰艇化,是不是就会更容易?
而且你们有没有想过,这样其实压力会更小呢? 你就说两国的军队如果又摩擦产生人员伤亡,是一个非常严重的事件。就比如说假设台湾的军舰跟中国军舰在海上发生碰撞,造成了人员伤亡,这很可能是一个开火的点对吧?如果是两个无人舰艇撞到一起都爆炸了,社会会不觉得好接受一点?如果社会觉得好接受一点,灰是不是更灰了?那我无人舰艇开到你的领海,是不是比有人舰艇要好一点点?是不是觉得啊,如果这样开战的话,他算是挑衅啊?不,有人看见我开,不好像可以,那只是无人舰艇开到领海边缘。如果我第一集的话,是不是就算是我挑衅?
对吧,所以如果这种情况呢?因为没有人员伤亡,又会再挥一点、再挥一点呢?对于现在中共的策略当然是更有利的,因为他是改变现状的人嘛,他是来做「push」的人,所以这会产生压力的问题。所以这些呢,都是可能整个社会需要去思考、去尝试解决的问题。这是AI带来的一些风险。
好,当然最后就是我刚讲的这个「秩序外溢」。那么南方全球南方(Global South)就是使用了中国的资料格式,建了中国的数据中心,中国培训你的AI人才,慢慢当然这就是一整套。所以说真正能够现在我们考的是「model diffusion」,我就认为中国的「model diffusion」能力未必那么强,但是人才基础设施建设的「diffusion」是最恐怖的。就中国的model现在我觉得还没有强到可以真正卡住技术路线,但是「deep seed」克出一批人去赞比亚去培训、培育当地的人才,然后中心国际去建个厂,然后在你们本地生产数据中心,这个是真正的「dependency」。这个比model的dependency要更严重,所以这是一个治理范式的转移。
当然,因为治理范式很简单,就像这些国家如果采用了中国的摄像头——海康威视的中国也给你说:「我海康威视有一个软件版本。」就像你买了特斯拉,买特斯拉的基础FSD自动驾驶很容易对吧?你买了海康威视的摄像头,他会说:「我们有一个监控,可以人脸识别,你买不买?」你买了中国的AI、中国的机房,是我们机房,有一个言论监控,可以帮助你们分析新闻、监测舆情,你买不买?所以这非常顺滑,从硬件到软件到application,是一个很顺滑的过程。那赞比亚如果有了中国的机房、中国的硬件,那最后中国那个公司说:「我们再给你出口一个监控系统。」这是一个非常顺滑的治理范式的外溢。这个已经在伊朗等国家发生了,就中国能看到从华为到监控系统到社会治理的外溢,在什么阿塞拜疆、中亚国家,这个已经实现的一个东西。
好,当然啊,刚才我们说这个系统会不会产生问题?有没有误判的外溢? 假设啊,中共最后觉得习近平——因为本来将军也都没有了嘛——习近平觉得靠他们做决策好像不太靠谱,我们搞一个军队大模型、中央军委大模型来做作战决策,中央军委大模型来判断哪天最合适、美军会不会介入。那这个习近平说:「我都信不过这个大模型,我看不错。」那么这个大模型的误判会不会成为国家级的误判?因为大家不要小看啊,中国的国家政策误判还少吗?那中国过去的国家政策误判不就是官僚系统的「BIOS」的误判吗?
那么,但 AI 有没有可能让他的判断更精准也是有可能的,我也没有把话说死。但是一个有偏见的 AI(BIOS AI)会不会带来更大的误判风险?因为中央政府没有制约的决策就是误判的天然温床嘛。那么越是这样,越到电子化判断,那种误判风险其实很大。会不会哪天只是因为 AI 告诉他“主席今天就是最好的时间通过我的这个运筹”,听起来很像玄学算命啊——通过运筹帷幄的预算,今天你看因为还有 40 天美国中期选举啊,就两天后海上台风怎么样,对等国际油价最新的状况,今天最合适。这会不会成为一种误判的诱因?当然也是存在的。
好,那么我们就说到最后了。但最后这个我只能提出我的一点点啊,因为我也没有对台湾的状况有完整的那么大的了解。所以说这个应该还是要看台湾社会来决策该怎么应对这个问题啊。
第一个呢,就是我刚才讲的应对这个数据路径的风险。所以说对于 AI 的风险,不只是模型的应用,还有 API 基础设施等的风险都非常重要。所以数据路径本身的治理是非常重要的。
第二就是第二就是繁中料的主权。当然我刚才已经讲了,它不是一个——也就是说繁中料主权和主权 AI 是两回事。你可以没有主权 AI,但是有料主权,因为它是一个可以在 post-training 就完成的东西。
第三个就是可行的 AI 供应链。这个我跟这个南方替代选项一起讲啊。这个呢,我觉得台湾现在有最大的优势来做这件事情,因为整个 server 是台湾主要出口的,就 AS Server,台湾是全世界占据统治地位的。而且现在呢,日本有一个公司给出了一个替代性的选项。你看现在大家提主权 AI 都是在说“我要有一个我的 AI”,但如果你要有个你的 AI,你可能绕不过中国的开源 AI,因为你自己从头 train 一个 base model,这个不可能,这个钱不是给得了的。但如果你要拿中国的主权 AI 改呢,你就想我刚刚提那些 base model 的 bias 对吧?你用得就很不舒服。
那日本有个公司给出了一个全新的方向,就是日本的公司叫 Sakana AI,它的模型叫 Fusakana FKU。这个 Sakana 是个什么模型呢?它是一个 R 模型,是个路由模型,就是它可以判断什么任务用什么模型做比较好。它可以接很多好的模型,它来判断,而且它判断的 routing 不是成本考量。在某些 benchmark 上比 GPT-4 还要厉害,只是某一些啊。就是 Sakana FKU 做的事情呢,是“我是一个专家,我知道哪些任务用哪些 agentic 拼到一起效果会更好”,所以它就是做这么一个模型。我觉得这个模型是一个很全新的思路,就是说我们解决本来很多国家做主权 AI 就是为了解决 open 的 dependency 对吧?
因为当川普现在就是做对全世界的 model 禁运啊,比如 GPT-5.6 延迟了一个月发布,GPT-5 延迟了大概本来就延迟了大半年发布,第二天不就又下了吗?又推出了一个月才上架。那么很多国家就会认为,那如果美国哪天突然有个风险,会不会 GPT-5.5 和 GPT-4.8 就是我们长期能用到的最好的人?网上都用不了。但后来这个还好没有发生啊,但未来可不可能发生?可能有一天美国突然发现,从此以上这些模型全部就是不出口的了,那么其他国家就会很紧张。那过去很紧张,你就要拿中国开源模型去训练自己的模型。但有 Sakana 这个路线之后呢,你可以用一种另外的方式解决模型依赖对吧?
你可以用多个模型路由(routing)的方式来解决,比如这个 OpenAI 不能出口了,你这里面还有什么 Mistral 或者 Anthropic 等等来替代,包括你可能自己主训练一个,它没有那么厉害也无所谓,你用路由的方式来解决这个依赖问题。而且这带来一个另外的空间:台湾能不能用「Perplexity」的方式向南方国家提供一个主权 AI 的选项?因为台湾是 AI 服务器最大的服务商,如果台湾有服务器、有运行中的模型,那么其他南方国家可不可以用这种方式获得可控的主权 AI,而且是非红色供应链的?这是不是对他们有个更好的选项?我觉得这个是非常非常可能的。这样的技术路线呢,能让台湾获得成本和数量上的优势。
而且我认为呢,我也不认为现在所有南方国家都舒服地愿意被中国建立这种依赖,大家也不愿意。但问题就是呢,现在其实没有很好的替代方案,导致很多国家不得不让中国从电厂到服务器到模型全部来做。如果能够提供这样的替代选项呢,我觉得这个 AI 供应链,不管从产业的领域还是从地缘政治的领域,都会成为一个可控的替代方案,对吧?
对,甚至如果直接跟 SC 合作,是不是对台日关系也有好处啊?
对,这是一个当然还有一个就是这个认知任性的制度化了。就是因为认知作战将比过去恐怖一个等级,就是过去你们已经发现了,其实在 Twitter(简称「推特」)上已经有了对吧?在推特上出现了很多空帐号,这些空帐号彼此联系在某些话题之上,这个能力是过去手作阶段的认知做不到的。那么有了 AI 之后,我也讲过,AI 不一定要写出一段话让台湾人一看就接受「一国两制」了,这也不太可能。但 AI 可以生产数量非常庞大的中庸内容来影响这个社会。我在《著心》也讲到啊,我觉得这些中庸的 AI 内容它能够起的效果,并不是让你喜欢中共或怎么样,它能起到的最大效果是让你怀疑你现在的社会和体制,它创造的是政治虚无主义和政治怀疑论。而政治虚无主义和政治怀疑论就足够让人做出倾向中国的选择。
所以说,我觉得真正的认知任性不是说他们去中国旅行觉得上海好棒棒,这个不一定是最核心的问题。我觉得真正的问题是本土的政治怀疑论和政治虚无主义,让你觉得这个社会很糟糕、经济很糟糕、决策很糟糕、政治很无聊、蓝绿恶斗、一切都是谎言、政客很自私,反正就是这些,可能是对这个社会影响最深的。而这个呢,是 AI 擅长的。我觉得 AI 可能未必能让大家都觉得中国很好,但是让大家基于既有的这种情绪结构,产生更深的政治怀疑和政治虚无主义,是非常可能的。所以这种社会任性的制度化,我觉得是一个不管是通过教育的方式,还是透过国家级的事实查核(fact-check)机制,可能都需要去做的。
好,其实我要讲的大概就是这些。所以说不好意思啊,这是我之前那个 PPT 没改,所以第一句话你们都没有听到过。对,这是之前那个 PT 的。OK,所以说中国的 AI 是一个国家的选择,这个国家认为呢,就是 AI 终于可以突破过去认为经济发展会带来民众对于产权和社会权利的提升,最终会影响中国的政治体系。那么 AI 可以透过中心化的决策,一举解决这个经济自由化的问题,用控制来取代信任,来完成社会治理。那么这个治理风险呢,也会外溢,而这个外溢呢,台湾就是它的最前线和首当其冲的地区。所以这是一个需要去思考的事情。
大家有没有什么想交流的?
(掌声)我们先掌声感谢一下,你喝口水,会干货满满。我们大概到 12 点 14 分,最晚可能 12 点 15 分或 20 分,因为他还有下一场,三点钟要赶到。对,然后——
你有头盔吗? 哦好好,你可以骑摩托车。我带他吗?我突然想到我拖了个行李箱,所以说没有,还是给他点中间休息的时间。对对对。
大家如果有任何问题的话,或者是任何想讨论跟反馈的,可以举手有吗?
谢谢那位老师非常精彩的分享。我想问的是,刚刚讲到关于制度化认知的问题,还有之前提到为什么在选举制度上,我们不选择一个更新的科技做法,其实是基于信任。那我觉得在AI时代,这个信任的结构会重新被定义,需要有一些新的做法介入。但是这些新的做法有可能在一开始的时候会破坏掉我们原来以为或认为拥有的自由权利或支配权。比如说在平台上,像是社交媒体的机器人帐号的问题,我一直在思考一件事:是不是我们其实至少必须要——因为现在在网路空间(cyberspace)里面,其实没有办法辨识对方到底是谁,这件事是完全无法识别(identify)的。
这有一个比较历史性的脉络:当初网路开始的时候,大家认为是一个乐土,而乐土保障网路上自由的基础就是匿名化。嗯,但在现在这个状态下,是不是我们至少必须要知道谁是真人、谁是机器人?再来,有没有可能透过一些技术的方式,至少能够辨识,比如说你是成年人还是未成年人,或者有人提到辨识你是台湾人或是哪一个国籍的人?比如说像Anthropic,他们非常积极——在我看来啦——在美国实施出口管制之前,就已经不愿意对中国使用者提供服务了。
想问您对这些做法和可能性的看法?
我觉得这本身是一个很重要的方式,这个方式解决的是用技术去做身份判断。但我觉得这对于社会运作有两个难点:第一,这个身份判断是平台知晓还是社会公众知晓的问题,对吧?
比如说这个机器判断这是个中国人的账号,虽然他的 IP 因为各种微偏 IP 在台湾,但你标志是个中国人。那么中国其实已经做了这个实验,就是中国从 2022 年开始做了归属 IP 标识。所以在中国,找这地方就做了,你只要一点开就能看到他是上海人、他是北京人、他在哪。这个东西按照中国的经验啊,不仅没有解决信任问题,反而产生了新的地点偏见和基于地点偏见的攻击。比如是个上海账号,就说你们这群就是卖国贼啊,你们在上海,当之无愧这问题不爽了,就是他很轻易地变成了这么一种结构去做。
那我当然觉得这些不是没有用的啊,像 X 刚刚也做了归属地之后,马上发现了大批伊朗和中国的账号。过去你看以为是美国人,一点开都是在中国,一点是在伊朗。但是这个问题我觉得第一只解决这一时刻的问题,因为对方马上会通过 VPN 的 routing,让他显示在伊朗、显示在中国。就是他要模仿一个在台湾的账号,从技术上没有那么难,他只要能找到一个本地机房做 VPN 跳转就可以。
那么 Anthropic 那个方式投入了很多资金,它不只是 VPN 地理位置,再加上使用时段、使用方式、语言,一个非常综合的判断。它能做这个判断的原因是因为 Anthropic 对于使用者的所有内容有百分之百的控制。从这个角度来讲,Anthropic 是一个像中国一样对所有内容有控制的公司,因此才能够做到。我比较不认为任何国家政府能够对 Threads 的数据控制到那个地步,因此要求 Threads 能够做出像 Anthropic 一样,透过五到六个不同的信息来做的归属判断,这是一个难题。
但我会觉得呢,有另外一个东西我觉得是蛮重要的,但是我也只能提出这个问题,我不觉得它有任何解决的方案。看 AI 能不能帮助,或者国人能不能帮助?
我觉得这个 AI 认知作战是建立在既有的认知作战的一个结构背景之上来完成的。就是每个人——这是我在昨天说的——每个人在自己的 Threads 上都有一个独特的 context。也就是说,我们每个人的 Threads 信息流都不一样。也就是说,同样一条新闻啊,比如说某个政治人物被判有罪,它就是一个 fact 出现在一个信息流里面,但不同人理解方式是完全不同的,取决于上下两条是什么。如果上下两条是「司法迫害」「什么独裁」,你可能对这个问题是这个看法;上下两条是别人整理的图卡和懒人包,他做了什么,你对他是另外一种理解。所以说,对于每一个单个的事实,你的理解方式是 AI 为你塑造的这个信息流来决定的。那么所有这些平庸的内容导致的认知作战成果,是在强化这个「bias」对吧?
强化这个信息流本身的 text 越深,AI 就可以把它放大得更快。因为就算没有 AI,社会上也有很多内容在生产,本来就有这么多用户在创造大量内容,只是 AI 可以让它变得更多,可以锁定这个 context,并且能够通过你的浏览行为锁定推荐算法。但这本来就是问题所在——AI 在强化它。那么反过来说,AI 有没有任何可能帮我们打破这个 context,打破这个 thread 信息流所锁定的,或者 Facebook、YouTube 的推荐机制所构成的所谓「information bubble」(信息茧房)的 context?
如果 AI 能够帮助我们打破这个 context,从这个层面上来看,它就可以帮我们抵御那种平庸的认知作战的影响。因为那种平庸信息能够实现认知效果,就是依赖于既有的 context 才能发挥作用。我举个简单的例子:假设长辈的 LINE 群里每一条关于「中国军舰有多厉害」的内容,LINE 都有个官方标识说「这是 A 程的」「这是美国的军舰」,那么这个作用就会大减。也就是说,强制性的 fact check 是打破这个 context 的一种方法,它在每一个点上给予你一个参考。
但这还只是 fact check。如果有别的方式呢?假设我刷了很多跟柯文哲相关的信息,一周之后系统给我弹出一个提醒:「关于你点赞了十次的这个话题,在你的信息流里从来没有出现过这三个内容。」这可能会非常影响你对这件事的判断。这目前还带有科幻性质,但现在的技术一定能实现。不过,这样的提醒会不会其实对各方都有用?它用 AI 来帮你打破这个 context,因为 AI 是可以帮助你看到这些盲点的。
甚至我觉得,这个功能根本不需要联系到平台对吧?假设你用 Chrome 浏览器,是不是一个 Chrome extension(浏览器插件)就可以实现这个功能?从技术上来说,这是完全可行的。所以我想的是,过去要通过信息的辨识(比如像 Hoaxy 这样完整掌握所有信息)才能实现,现在的国际大公司比较难做到,但有没有可能跳出来一层,去帮助大家打破这个 context 的能力?如果有这个能力,或者有这个方向的可能性,我觉得是一个值得思考的问题。
我可以稍微分享一下,其实在 AI 之前,台湾的公民科技社群就做过类似的 extension。那种做法是一个外挂程序,但后来发现的问题是:它会一直跳出提醒,然后你会发现大部分的信息其实都是 misinformation(错误信息)。所以我觉得,有了 AI 之后,这个问题可以解决。因为过去的程序非常死板,做出的反应很机械;有了 AI 之后,response 的 temperature(灵活度)或者比例是可以调整的,它可以解决「装了这个 extension 之后浏览器就没法用」的问题——比如可以设定「毒性高于 80% 才弹出提醒」,或者每天总结一下,不用每条都 fact check,而是给你一个 summary:「你今天看了 2000 条信息,其中有这些值得注意的点。」这样就不会让人对这个世界彻底失去信心。
谢谢!我现在变成您的粉丝了。
刚才从第一章在讲,就是中国的 AI 发展技术,从不同的面向去讨论它跟世界比较起来,处于什么样的阶段。但后面提到对于资源的依赖性,然后它向外输出跟影响社会的方式,可能以前是「可见」的,现在则是让它变成「可预测」且「可以生产」的。
这种转换好像这个讨论已经慢慢偏离——就是他好像已经无关乎说现在中国的 AI 技术发展到什么样的程度。他只要是现阶段的现况就已经实现,然后可能已经有一些我们很需要从现在开始准备,然后可能花很多时间去调整跟演绎的任务是需要去做的。
那我会反过来想问的是说,我有两个问题: 第一个是在现在,如果我们已经从现在的技术就可以看到有些任务是需要调整的,那我们现在持续去关注说中国的这个技术发展到什么样的程度,是否除了单纯的关心技术本位的这种发展之外,还可以去讨论我们关注它的技术革新——比如说晶片的研发或是数据、算力等的技术进程到什么样的程度,它跟现实社会有什么样的关系?
第二个问题是从刚刚的讨论里面,我记得有一个蛮重要的,是“犯错”的这个能力。中国做得比较不好的,他可以给出很多标准答案,但是好像比如说有一些预测计划经济要怎么跑这种,蛮需要“犯错”能力的,他没有一个标准答案。那在你刚刚举的后续的这些转换的例子当中,哪些是用“犯错”的就能做到,哪些是 base model 就能做到?就是我想知道哪些是 base model 现在就已经实现了?
对第一个问题,这是一个很难的问题,因为 AI 现在对社会的改变其实从 2023 年到现在才三年时间,所以到底会怎么深度地冲击这个社会,对于我们来讲都是一个新的命题,更不用说它还在非常快速地发展对吧?比如到 AGI 会怎么样,真的很难讲,到时候整个社会是不是人类形态都要改变都有可能。所以说,未来 AI 有哪些发展会带来哪些冲击,是一个最难预测的问题。
比如我们提到一个 milestone,就是当中国具有类似 Fable 5 样的网络攻击能力,这是一个 milestone。应对这个 milestone,你需要做什么?所以我觉得对 AI 很难做一个宏观预测对吧?比如说什么时候到 AGI,或者到一个准 AGI 阶段,对社会带来的冲击,这个是非常非常难的。所以我会觉得从社会、从未来学的角度,这是一个非常有意思的话题;但从社会治理的角度,我觉得会比较适合通过各种议题来看,比如作战、基础设施风险、军事等等。通过这些领域呢,其实都会更容易对未来有一些预测。比如,如果要让前线的无人机和无人艇的能力再上一个台阶,就需要边缘运算芯片的能力足够好。就比如当我们发现我们压缩到一个 70 亿参数的模型都能够达到现在比如 4.6 的能力,那上一个巨大的台阶,未来无人机你可以发射出去时再不用管他,他自己在战场上寻找最高级的目标去打。这个就——你只负责把 200 万个无人机打到天上去之后,他自己来做就行了。那从这个角度来讲,OK,我们就能预测关键是边缘运算芯片的发展对吧?
所以,我觉得从整体上比较难,但深入到各个不同的细节领域就比较容易找到一个 MST 来做。因此,我会觉得接下来的问题可能是在各个细节的治理领域或应用场景去做这样的预计会好一些。
第二个问题就是「泛化」是 base model 的一个能力,这个能力也叫「正则性」。意思就是它最后要实现的东西,我们用同一个 prompt 让 base model 跑,就算跑十次,它生成的内容是差不多的。就算不是数学题,比如康德写过什么、他的康德思想是什么,它生成的内容也应该是差不多的。这就是有非常稳定的正则性,以及它有比较好的泛化能力。这就像刚刚讲的,越是综合性的任务,比如中国经济的规划、海上作战的方针,越是需要超出单一固定答案的。像 coding 还算是收得比较紧,而且有非常多的编程数据能够给出比较好的答案。即便如此,现在国外公司比如说要生成一个新的产品,这个产品的 planning、技术架构还是让 Fable 来写,中国来写里面的一个单一的组件。那组件就更是有标准答案的,甚至都是有完整的组件可以去复制的。所以说,如果中国这个模型的 base model 比较差,它在综合性应用上会产生很大的障碍,因此导致这些模型在社会上要广泛应用的想像力会下降。你可以想像,它生产一个民政局官员的 agent,专门来审你的户口(不是护照),比如说户口是不是要给你发新的,这个可能还行。但你再往上一层,到民政局的官员怎么去规划这个户籍政策,我觉得用中国的 base model 可能就会远弱于用 Fable 5 或者用 GPT-5.6 去做,对吧?但 GPT-5.6 刚刚出来这两天,问题还挺大的,它可能还不如 5.5。我觉得这当然会极大地影响我们刚才讲到那些偏未来的、直接把它用作非常高等级的社会治理的功能,是会有很大问题的。这是它的 base model 会带来的障碍。
对,是的。最多两个问题,如果还有的话,大家可以讨论。没了吗?
那我可以问一下,进入你怎么看——早上拍个对话,不好意思呢,因为刚刚讲了很多外溢。那对中国、中共自己的体制和他们政权的影响呢?哦,对,这个是真的,也是很多人的讨论:互联网到底加强了中共的控制,还是弱化了中国的控制?对吧?他对于互联网的控制,他可以监控社会,可以有更好的洗脑或者对内的认知作战;但同时,它也让一个地方的灾害全世界、全国人都知道,也有更好的串联。那白纸革命当时,我是怎么知道白纸革命的呢?
所以我在一个群里,别人发了那个地方的视频,一下三四个,然后发现对吧?如果你会想,没有互联网的话,这种集合在中国几乎是不可能的,就可能要到很大的规模才能够达到那种博弈的信号。但有了视频之后,三四个人就能做到。所以这也是他在治理上的一个很大的问题。再加上很多软性的对政府的抱怨,也是没有办法用这个监控器完全杀掉的。所以现在很多关心中国现在国内互联网环境的人,其实也能看到现在并不是一个大家非常满意、对党没有什么抱怨的环境。相反,现在是一个大家抱怨特别特别严重的一个环境。这种抱怨,你甚至很难拿互联网的监控技术把它全部删掉,也能上啊。经常你能看到,中国比如微博,就中国的X上面,有一个下面,比如说这个内容非常火,但只有100条评论,你就知道删了嘛。所以光看到这条只有120条评论,对于首练的中国网民就已经说明问题了。这个问题源深柢固。
所以这个东西,互联网是带来了很大这种风险的。那AI也一样对吧?AI其实是一个能力扩展的社会,在中国已经发生了。中国最近封VPN封得挺厉害的,但不是因为不想让人上网,是信息安全的原因。那过去人只能买一个现成的VPN服务,自己搭一个VPS是挺难的。但现在在中国内很多人找到了搭VPS的方法,就是问一下AI。那么让AI导致很多人进一步掌握了更advanced的翻墙手段。那么这就是一个……更不用说,我很难想象他要是有些别的什么想法啊,可能会产生一些能力。
我再说一个最近也有人在尝试做的一个东西,我觉得很好。中国有很多人在生活中无法得到司法和行政的任何帮助,他只能上网喊冤。那过去上网喊冤的人,由于他自己的文化程度和文字能力、视频能力,他是很难制作出具有传播力的上网喊冤内容的。但如果现在有人在尝试,我们做一个skill,我们把这个skill直接给大家,大家把自己的喊冤内容告诉这个skill,这skill可以帮你生成30秒版本、一分钟版本、两分钟版本的,以及运镜和剪辑。你就照那个做,那所有喊冤内容的传播率会上一个台阶对吧?那么这个对于上访气,那么这个也会成为一个很大的问题。也就是说,AI有很多能力,也可以帮助社会获得能力,这是肯定的。
嗯对,所以在这一点上,就像互联网到底是对他的统治更有利还是不利?我觉得AI会带来更大这种冲突和张力。
我有一个follow up的问题,就是因为上就是你提到AI可以AI公务员嘛。上次你还提到一个数据,说什么2027年70%的对,2027年中国的政务系统的entic覆盖率到70%,2030年要到90%,就所有公务员的任务都要有对应的agent去做。对,我就想知道这件事情,因为我觉得习一上台以后已经有一个很大的对,就权力向上集中,本质上对共产党的力量是削弱的,因为权力向金字塔集中,让整个金字塔的上半阶层的力量都在削弱。那AI显然会让这个上层,就金字塔的人,至少觉得自己有极大的、更大的权利,且就是一个就像你说的极端的情况,绕过整个军队,一个按钮就可以推动那个发动战争等等。但是问题在于,他对中国的官僚系统,包含党员在内有一亿人嘛,对,就是非常庞大的这个人口,整个的能动性进一步降低和躺平,或者瘫痪,或者是被架空。这个对他的整个治理结构,难道不是很大的挑战吗?
对我觉得就是很大的挑战,因为呃这个管理的治理有两个方式嘛。第一个是你给他一个目标,他怎么完成目标,他自己去想;第二个是你不给他目标,你直接规定他的动作——我给你这个目标,不止你要这样,你还必须按这个、这个、这个、这个来做。这是中国的,或者说是习近平的一个非常重要的执政思路吧,就是他是做细节管理的,他很喜欢做特别勤,他特别喜欢做非常细的动作管理,就是你不只要完成这个目标,你还必须用这个动作去完成。
那么,agentic就是一个被包裹在技术里的动作了。比如说,未来的一个财政局的人审预算,我不是我没有审预算就省一笔这个支出,你还非得拿这个agentic来省这个支出。那个人就越来越变成一个——他从这个工作上既不能获得足够的现金激励,也不能够获得足够的自主性。那么,我觉得官员躺平或者整个管理的生态都会有很大的变化。其实本来中国从他的2.0时代,就可能16年之后、17年之后,官员的生态就已经在发生非常非常大的变化了。就是大家会觉得:一是监察更厉害,二是没有自主权,又没有足够激励的情况下,中国最近发生这么多事,其实我觉得跟基层治理的能力变弱有很大的关系啊。不然的话,在现有财政之下,不至于搞得风烟四起,全国各地都在出生产安全问题。我觉得跟这个基层的治理失序有关系。
因此,我觉得刚才平说的就是个很大的问题:就是你可以把agentic部署下去,但是在社会的物理这个层面依然需要人去做。那么,如果你用人去做——比如中国,你都很难想,中国是个恐怖的国家。中国为了解决物理层面的问题,给很多这个街头的环卫工人发那种GPS手环,如果你长期站在一个地方不动的话,他会报警,就是你必须动起来,多恐怖。那么,有了AI之后,你可以知道这种监控能力会成指数级的增强,那可能官员也一样——你发现如果电脑鼠标不动,他就开始想对鼠标动手。但这种我想说的是,这个东西非但不能让那个环卫工更努力地工作,他会产生应对这种监控方式的hacking手段,他就一直甩手,或者无目的地走动来解决这个问题。那么,同样,我觉得任何一个管束手段都会产生一种反制其管束手段的、其实对治理能力有更大伤害的内耗和动作消耗方式。
那么,有了70%的agent覆盖,我觉得他们要么激进地就干脆别让人做了,就多让agent做;如果要让人在如此情况下非要配合那个agent来做,再加上中国又是一个千头万绪、各个地方的情况其实不太一样的一个社会,只会更糟,只会让末端的行政治理更糟糕。他会发现这个agent其实根本跟我们现在的现实不符合,但我还非得按这个agent的方式来做,所以就会产生很多行政上的——要么做得非常过分去匹配那个agent,要么就有一定要绕过那个agent的、消耗能更高的方式。其实2022年的动态清零就是这样,全国都要按照未建模的那个方式来做,每一个末端执行都卡在那个框架之内,又和那个框架完全不一样。对,这就是可能未来用agent会产生的方法吧,会产生困境吧。
好的,接下来我刚刚后面讲的那个情境,其实我认为尤其在中国的概率恐怕是很高的啦。嗯,比方说,其实我知道在台湾其实已经也有一些人,有一些HR透过一些这样的系统的软件在收集一些data。当然,它后面还是会回到一个问题,就是刻舟求剑的问题,就是说,对你假设做错一个决定,你做了一个犯法的决定,那请问……
是谁要被抓去关?在我们的法律里面,终究要有人被抓去关。但这是从执法者的角度,大家可以理解这件事情,而且有机会可好。但是把这件事情拉到中国的时候,它就不是一个可以透明或者是很理性的状态,它变成这两者之间的力量会出现巨大的差距。
所以我可以相信,刚刚不管是从他的监控角度,甚至他可以拿AI来做各种直接的决策,因为他就算做错决策也不负代价。但在台湾的话,你在面对很多公民的权利、面对劳工的尊严问题上面,你是要付出代价的,你是要被追溯的。这两者之间其实是在一个我觉得很流动的权力状态上面,有着巨大的差别。
不过我的确刚刚主要还是在讲这件事情,还是觉得如果今天从台湾和中国之间,在我们要保护自己、防卫的状态下,的确现在可能我们在思考AI可以在这些空间应用的情况下,思考的层次恐怕还是差距非常大。
听起来有点像我想echo一下,如果中国政治要写本书的话,就可以写《避免负责的艺术》,这绝对是一个普遍现象。而且政府越要负责,越避免负责。
我举一个简单的例子:当五管(五年终身追责制)啊,政府为了避免银行放贷产生各种问题,所以搞了终身追责制。什么意思呢? 我现在是银行贷款员,我放了一笔贷款出去,即使我两年之后从这家银行辞职了,做别的事情了,这笔贷款五年之后出了问题,还是要找我负责。那么在这种情况下,如何行使这个避免负责的艺术呢? 我就把款贷给政府相关的公司,政府都兜底的民营企业。贷款好,我也不会贷给你,谁知道你五年之后会出问题?这个政府修地铁的公司再糟糕,已经早就资不抵债了,他要贷200亿,我还是贷给他,因为这个公司估计不太会出问题,对吧?因为他是政府的。所以这就是在这种免责的情况下,会产生非常荒唐的决策。这个在中国讲的无处不在啊。
所以如果加了agent(智能体),就像洪部长说的,确实啊,他就算加了agent,他也会说你这个人必须做最后的签字人,你要负责。那我猜也会产生跟agent协作的避免负责的艺术,应该是一个很荒谬的情况。因为责任和自主性是一个硬币的两面嘛,如果你没有自主性,就意味着不是负责,而是背锅。所以你那个叫甩锅的艺术,甩锅的,因为本来这个锅就不该我背,应该是上面的这个人背。但上面的人背太多了,对吧?他不肯负责,就变成我背。中国现在就是这个状况,对,真的是。
好的,至于这个不要太悲观。好的,我们那我们就再次掌声感谢一下后,谢谢!然后刚才在讲的过程中不断提到有一些点以后可以下次展开讲,我都有记下来。我们也许可以开一个系列的课程,我很乐意和大家分享。对对,我们希望后老师每个月都来。好的,然后就谢谢大家。我们大家如果有什么问题,也许再给后成五分钟。