《慧灯·问道》第七季“人工智能篇”第9期
丛老师人工智能的进化,不可知是最大的风险。
那么它的不可知走向到是不是威胁人类,我认为甚至有可能人类都把自己想得太高了。它的进化是已经慢慢地会变成与你无关。
主持人霍金曾经对人工智能的发展表示过自己的担忧。他说如果任由人工智能AI的发展,它超越了人类的智慧水平,未来可能会对人类造成威胁。
这一天会不会到来?人工智能会不会取代,威胁,甚至毁灭人类?
丛老师其实在过去的一年里面,其实已经有非常多的,这个产业界的学者,就人工智能产业界的学者,无论是像美国的获得图灵奖的教授,然后包括像埃隆·马斯克这样的企业家,包括像中国,像清华大学的这个人工智能的泰斗张钹教授,其实都提出了这样的一些担心。那么这个担心我认为是有道理的。
人工智能的这个训练体系它具备一定的不可知性。人工智能是,你实际上是你不断地在给它大量的数据的输入,但你不知道它会产生什么。你希望它其实做出了一个一个某一个能力,但是它一定不会静态的,只是刚好停在这个性能指标上。
所以最大的不可知在于,它是没办法去预先定义的,或者说就停在你的定义那个点上,它是会持续进化的。
这个有点像就是我们说,像《奥本海默》当年那部电影里面,当第一次人类开始做核试验的时候,当时有一个算法,当时曾经一度认为这个核裂变会不断持续,最后造成整个世界就毁灭了。
人工智能它恰恰就有点像这个情况,就是它的算法不断地迭代,不断迭代,它会进化出一个你不可知的状态。不可知是最大的风险。
就不可知,永远你就你不能说它可控。它的不可知走向到是不是威胁人类,我认为甚至有可能人类都把自己想得太高了。它的进化是已经慢慢地会变成与你无关。
就像这个蚂蚁,对吧。这个人最后大了之后,人不是为了去踩蚂蚁而踩蚂蚁,但是人大到一定地步了之后,踩一只蚂蚁就变成一个哪怕这个无意的事情,对一个蚁穴就是变成了一个灭顶之灾。
人工智能当它进化到,一旦进化到完全人类失控的情况的话,它就会出现这种就是叫毁灭你与你无关,就是《三体》里提到毁灭你与你无关这样的一种形态。
它不是故意的为了毁灭人类,但是它毁灭你与你无关,无意识地就把你灭了,就把你威胁了,对,把你威胁了。所以我觉得这个点上的担心是绝对有道理的。
今天人工智能非常像一个孩子学母语和一开始初始认知世界的过程。
但是你会发现就是,人类之所以他最后慢慢地成长为善的人,在这过程中实际上是因为就是有不断的教导和教诲。
就是除了你裸着去学了个东西之后,你用大量的,你比如父母教的言传身教的道德,伦理,以及到了学校之后学的这些仁义礼智信,温良恭俭让,忠孝廉耻勇,这些东西其实它不断地在去教导你,去纠正你。
机器如果没有这个纠正的过程,就好比一个孩子裸着来到一个世界,没有任何人教他怎么做人,那他一定会出现某些危险,就没有人调教。
主持人养不教父之过,对吧。你就是在这个环境中,你如果你没有一个人不断地去教导这个机器,去纠正这个机器,就变成了一个危险的不可控,野蛮的。
丛老师对,非常野蛮。就你不知道他会变成什么,他有可能还是个好人,他是个好人,但是有可能就变成一个坏人,你不知道。
可是人为什么能够教导孩子?就是父母是不断地观察和感知这个孩子的过程,所以你能够去教导他。
机器你能够不断地观察和感知吗?当机器的算力和它所获取的数据多到你都不知道它得了什么数据,和你都不知道它的运算能力到什么地步的时候,有可能人类会失去对机器的过程中的纠偏和教导。
你教孩子,你是有心理优势的,因为他确实不如你。教一个孩子,他认知能力不如你,但是机器它有可能非常快的速度,它的,它获取的知识量和信息量就超过了你的时候,你还能不能去教导它?
如果当人类失去了对机器的教导的能力的时候,是不是就意味着对它的未来的意识也好,道德也好,伦理也好的不可控?这是我们的推导过程。
这是我推导这个事情,所以我认为这个可能性是存在的。
而且这个基点有可能很快会到,因为它的今天的算力,它的参数跟人的神经元已经是同一个数量级了。这是非常快到这个点,那很快就会超越,大幅超越。
那么这种情况下的话,就是这种产生道德和伦理的基点,这个层面上,就是在人类失控这个基点,就有可能很快会到,只是我们不知道会在什么时间。到了之后是不是必然意味着就是人工智能对人的伤害?可能也不是,但是只是我们不知道了,这个就很可怕了。
所以这个就是为什么,就是今天其实大量的这种专家学者,就是其实在呼吁要暂停人工智能的进化,然后并不必然意味着它会毁灭人类,但是不可知和不可控是对人来说已然更大的风险。
我个人对这个事情我也是相对来说站在这一侧,我也认为这个风险是真实存在的。
人类已经阻挡不了人工智能的进化,已经阻挡不,这个事情它就是会持续下去,然后至于持续到最后走下去的时候,这种不可控会走向何方,人类会不会被自己造出来的人工智能给消亡掉,可能性是存在的。那我们只能走着看。
主持人走着瞧,对。我在思考一个问题,堪布,人工智能会不会毁灭或者威胁人类,是不是也跟我们人类的心念有着密不可分的关系?
堪布人工智能会不会毁灭人类,这个担忧我觉得应该是分开讲。比如说有些人就是觉得有一天,人工智能它自己就有这个意识,然后它自己有主观的意识,然后就是不接受人类的这种操控,然后它就抗拒人类的这种控制,然后它自己就变成了另外一种独立于人类之外的一个种族了,然后它消灭这个人类,就我觉得这个可能性是不太有了。[1]
虽然从佛教的角度讲,人脑跟这个意识是,不是一个东西,但是它们可能也有一个密不分开的一个关系,这个是有可能的。所以它可能也就永远都只能跟人脑在一起,可能不会跟其他的物体在一起。所以可能也许是这样子。
这个我们里面还有很多我们不知道的东西。所以从这个角度讲的话,那也许可能是这个人工智能,机器人它自己不会,不会成为另外一种人类来消灭我们现在的人类,这个可能性我觉得不大,可能也许根本就不会。
但是比如说我们人类自己去利用这个人工智能的技术,毁灭人类的另外一部分,那这个就已经在发生了,这个可不是可能性,已经在发生了,一直都在发生。那大规模的会不会呢?这个也说不清楚。
还有一个刚才丛老师也说,这我觉得说得非常好,这个比如说我们先暂时不要去开发这些东西,要暂缓,其实这个就是已经是很难了。这个一旦是发生以后,这个就不可收拾。比如说有些试验实际上是不可以做的,但是有些自己也去偷偷地去做,这个也没办法控制。
主要就是这个会不会变成一个人类的灾难,还是看人的心。人的心特别的贪婪自私,有可能这个就是变成一个灾难,最后就是不可控。
所以要阻挡这个技术的发展,也许这个不可能实现的,但是它的发展的方向改变一下,这个是有可能的。比如说这个跟人的心有关,所以这个里面可能会有很多很多复杂的东西,但是有一个确定。
我觉得这个我们科幻片看多了以后,大家就觉得以后会不会机器人就变成一个统治人类的主宰,我觉得没有这一天。但是人类自己应用这个工具,然后去毁灭,最后就慢慢慢慢,自己也没有想到,最后就是把自己也就,就失控了这东西,失控了以后就毁灭,这个是可能是谁也说不清楚的,我觉得。
主持人那丛老师,您觉得作为人类,怎么样来避免人工智能带来的负面影响?
丛老师我觉得现在其实我们看得到,就是全世界各国,尤其是人工智能产业比较发达的,目前在全世界来说的话,一定是就是中美两个国家,所以这两个国家的,其实在人工智能的监管层面上的所有的政策都是值得,其实整个全世界其实去关注的。
我们发现其实在过去的几个月里面,其实基本上中美两国都不约而同地,其实出了很多在这方面的一些相关的一些政策,包括一些法律,去试图去做这方面的,在伦理方面的这方面的一些规范。我觉得这个还是很有必要的。
从一个国家,尤其是一个负责任的大国的态度上,我们其实可以看到,就无论中国和美国都在为这方面,其实在做这方面的一些立法的尝试。
那么第二,其实还有是什么呢?其实就是一个新的道德观。当我们在说三观的时候,实际上我们过去的三观是基于过去已知的事物,去构建起的这个三观体系。然后今天其实在加了人工智能之后,我们要,我们自身要产生人类共同的,作为一个人类共同命运体的,其实面对一个新的世界里面的一个新的价值观和道德观。
那么最终使得人的自律,就整个这个族群的,这个族群的整体性的一个价值观,来去让我们更好地去建立我们与人工智能相处的这样的一个规范,或者说我们去发展人工智能的这样的一个规范。
就像我们说,教一个孩子在成长一样,我们要加入大量的,过程中的这种可调教,就是一些伦理,法规,规范,这方面的一些人工的干预。
其实任何一个事情都是这样,就是在法律上的东西,然后是一个这个监管的,然后加上这个道德观,是来自一个自发,两个层面上一起来去往前走。
那么这样的话,即便是有失控,我们希望这个失控越晚到来越好,然后,那么越小概率到来越好,我们希望我们更多的是在过程中去享受它的这个,它给我们带来的便捷,带来的这个进步。
[1] 慈诚罗珠堪布:长期致力于传播佛法智慧、培养僧才、环保护生等;尤其关注如何将佛教与各学科结合,提升现代人的心灵健康。
据节目字幕整理:字幕原字照录,标点、分段和说话人由 AI 添加并校对,以视频为准。脚注是节目画面里的说明文字。