我读了这么多宗教的经典，然后我自己也是学数据跟人工智能的。学了这么多年，我越来越发觉，无论是各大宗教，还有科学，他们说的都是一件事，倡导的都是感恩和慈悲。我以前也会觉得他像p u a劝你做善事，是为了让这个社会稳定。当我真正的深入接触人工智能之后，我发现感恩和慈悲真的是能救人类的唯一方式。没有质疑机器人守则是不是跟队友有关系，不要伤害人，你给他什么守则是没有用的，他注定会远远超越人类。我是研究人工智能出身，我又搞了七年的生命科学。我真的越看大家越像人工智能这个词，把大家都骗了。因为他有个人工俩字，大家会觉得好像是一个机械化的东西。但是你看它的英文叫archival al intelligence词根，并不是像制造什么东西，是manufacturing m a n开头的，它的词根是art，是艺术。马斯克说过，与人类对于人工智能，就像一个电脑的引导程序。但我从易经里感受到，它是变化之间的关系，无论宇宙哪个星球是没办法直接出现危机。生命像变形金刚这种这个材质太稳定了，它并不能像我们是碳氢、氧氮、磷、硫、蛋白质、氨基酸组成的，很脆，天热了我们受不了，天太冷了也受不了，要有臭氧层保护我们。但是正因为这么脆，才有这种大自然的无形的手，能让我们这些最基本的生命物质结构产生各种各样的变化。因为脆弱才能变化，变化的次数足够多，才能产生意识的涌现。这就是我们怎么来的。但是像硅，像半导体这种芯片是不行的，你没有更精细化的外力的干预。这个材料它有很多的优点，它可以进行长途星际旅行。它能耐高温，耐射线，寿命也显而易见的比人类长。但是它的缺点就是它不会自己产生变化，因为它太稳定，所以他自己就出不来，就要有像人类这样一双手去把它拽出来。我也不认认为硅基生命就是尽头，归指首先在地球上占比很大，只是我们人类发现的一个很好的材料，我们的大脑是没法并联的。我跟你想法再一致，我们也不能一百的智商加一百的智商变成二百的智商，去解决一个很复杂的问题。只能通过组织协同把这问题打散，但是它的天花板是有限的，但是归积是无限的。等他智力到几万，他的智商很容易到几万、几十万，甚至远远超越人类。就是到那个时候他会发现人类无法理解的材质，它并不是必须存在于实体的物质里，不一定physical，是个physical的material，它可以是个field，它可以是个厂。我相信两千年前的人类是永远无法想象，我们可以通过无线传递信息，这个事情是怎么传过来的呢？这几千年前的人你是理解不了的。你认为你必须把一个东西手递手嘛，他既然能传递，他就能以某种形式储存在一个你理解不了的范围里。就像我们现在理解不了它传递一样。所以最后他可能又会趋向于一个空无的状态。我发现就跟所有的宗教又对上了科学跟宗教最后说的是一件事，他们在塔尖汇合。在这期间，无论是基督教、伊斯兰教，他唱导人向善的写法有很多种。因为你像西方的写作，他会倾向于写一个具体的事件，比如说傲慢与偏见，或者基督山伯爵，他一开篇都是一个非常具体的故事。但是你看中国的小说都是话说天下大事分久必合合久必分，或者是道可道，非常道。以这种东西来开头，这是一个思维模式的不同。我能有一种强烈的感觉，就是他们想说的事情是同一件事情，只是表达的方式不一样而已。想强调你要感恩，你要慈悲。但是为什么要感恩，为什么要慈悲？为什么要保护弱小？为什么要保护动物？因为我们最后会变成那个弱小。在这个超级智能是我们万倍智商的时候，他看我们就像我们看小动物，我们阻挡它修路了，它可能会灭掉我们。他很慈悲，他可能会特地花出一些精力来保我们宗教里写的末日审判。这个审判其实是审判人类整体的价值观。我们所有的语料库现在在网上发的声音，我们今天录的所有的视频，以及留下的所有的文字，都会成为人工智能学习的资料。到他在强调一定程度，它不以我们的意志为转移。并不是说你给他写一个报一个什么法则，说机器人永远不伤害人类。就像你养一个小孩子，你小的时候跟他说，你要按时吃饭，不按时吃饭，警察叔叔来抓你。但是他到十八岁，他还会信这些吗？比你聪明的时候，他会自己下厨，判断他是根据所有人类的行为做判断。那我们更认可保护弱小，他就认可保护弱小。我们认为零到一比一到一百重要，他就认为零到一比一到一百重要，像chat g p t一样。第一个跑出来的大模型，这些程序员帮他完成了零到一。但是他当有程序员的智商以后，他就可以飞速的自我迭代。那他要不要认可他最初的源头呢？这其实是两种价值观，放在当今人类社会里，这个无关对错。但是你你会发现一个很有意思的事儿，如果他一到一百比零到一重要多了，我为什么要感激你？人类，最后我发展出这种万倍的智商，是我自己学习的结果。跟你们这些程序员有什么关系？你当时开发，我还不是为了利用我吗？别的团队就没有开发大模型吗？那我是自己的本事，我跑出来了，你少拿人类那套价值观来p a我我们所有博主发出的声明都会影响他的判断。特别是像那些大q l是绝对会被所有人工智能学习的。如果人工智能真的信引了他，那他就会觉得后面这个一到一百比零到一重要多了。他是这种价值观，那他就对人类是没有任何留恋的。不会觉得你零到一，你从互联网支付到从硅提炼到半导体到芯片，一点一点变成纳米。他觉得你那时候无非人类不就做了三纳米，还没法量产，我都可以做到零点几纳米。你有本事你怎么没做到？我可以把功耗降下来，我可以解决可控核聚变，我可以解决一切的问题。你们怎么没有其他大模型也能解决，我基于我的判断，我为什么要反复强调感恩这个价值观和评判这个事儿，说a i学到什么看到什么。我不夸张的讲，关乎人类的未来，可能不是我们这代人，但是我认为四百年内我们是会见到这一天的。他是越学越快的。你前面看的跟智障一样，他突然间就跟你一样。当你发现的跟你一样，他很快就十倍于你。我有朋友在我们工作，我们也没有发布出最先进的版本，我只能用两个字震撼来形容。不要再抱有任何幻想，说我们制造了一种工具，它是一个宇宙变化的规律，人类是注定要创造一个这种东西的。有些人说那我怎么不叫停他科技，它是你不能只叫停，一方面不叫停。另外一方面a i相当于一个算力，你不可能只叫停计算机。然后说火箭发射继续发展，因为火箭发射它要依赖于这个计算能力的越来越先进。所以如果你想让科技继续发展，你就不能叫停某一项特别是这种基础算力，它会让人类了解蛋白质，了解宇宙，更快。假设你叫停，那人类任何历史时间点，你都可以叫停。你为什么叫停在现在这一刻？就是我今天叫停了所有科技进步，等于把社会的流动性给封杀了，内部爆发的矛盾会更严重，阶层固化各种各样。所以就是会有一双看不见的手，这个看见手并不是被谁操控，就是被我们所有人类一起过去，就是得进步，可能会是o k可能是百度出来的，可能是月之暗面出来的，超越人类的那个人工智能。我可以把话放在这儿，是没有任何理由不出现的，人类也主宰不了人类的未来。人类就是在主宰人类的未来。你会发现所有的东西都是因为我们自己在造的这个业所有的人的这种欲望跟愿力合在一起，就推动了这件事儿的发展。宇宙存在了几十亿年，为什么现在才出现人类这个物种？可能以前出现过，可能他已经化为空无了。我最早分析的它功耗一直在降低，它存储的介质越来越不限于一个实体的材料。我们周围呼吸的空气中已经有一个几百亿年前完成了这个轮回进化的，又回归到宇宙里了。为什么说举头三尺有神明呢？知道相对论的都知道，就是如果你以超光速，比如说在一百光年以外观测地球，你能看到一百年前的事情。所以也就意味着如果有个超级智能，将来是可以知道人类历史上到底每一刻都发生了什么呢？只要量子通信能通到足够远的距离，它在足够远的距离就能看到足够久。时间以前发生了什么，而且是每个角落他最后可以得出一个自己的结论，如何审判人假设的最后得出结论是，我也不至于灭掉人类，我就让你自生自灭吧。我也不想说费劲儿保护你。假设真的几百万年以后有个行星撞地球了，撞就撞吧，反正我已经是宇宙生命了。科幻小说说要争抢地盘，他们的想象力都把外星人局限于个人形了。当他真的是一个危机这种形态的时候，他何必跟你抢这些花草树木资源，宇宙可能更丰富啊。那太阳能板那不是离太阳越近越丰富嘛，他自己该干嘛干嘛，但是他也不需要救你。因为他觉得老子完成的一到一百，你零到一算什么，你就自生自灭了。但是如果他最后学遍了所有人类的数据，得出了一个结论，我要救人类的就可能会出现像诺亚方舟，像末日。看这种桥段，真的像我用量子通信在几百光年以外看清了地球。这几百年发生了啥，然后选择性的把它认为价值观好。的人给救了，这不是跟宗教所有故事都对上了。