书书小说网

手机浏览器扫描二维码访问

第309章 开个价吧补昨天的一章6837今天还会写一章（第4页）

马斯克沉吟：“我和拉里此前曾经是很好的朋友的，但在这方面我们的观点并不相同，他不同意对人工智能加以限制，更不同意放慢研发进度。”

方豫笑了笑：“所以，你说的不具备任何可操作性。

即使我同意了你的意见，古狗不同意，其他公司不同意。”

“不提你刚刚说的那个全球性的AI安全组织，只说你前面提到的暂停研发，都是做不到的。”

“毕竟谁也不知道停止研发半年，会不会就被其他不遵守这个共识的企业所超越。”

“古狗不会同意，FB不会同意，那么多的AI研究者都不会同意。”

“而且，就算这些公司都同意了，那些没有丝毫名气，甚至刚刚注册和还没注册的AI初创企业呢？”

“大模型谁都可以训练，谁都可以堆参数，你的想法并没有从根本上降低AI发展带来的风险。”

“在大模型领域，我的预测是，每一年，大模型都会以十倍以上的参数量增长，直到达到人类电力所能提供的极限。”

“没有人会接受，自己一年时间，就落后对手十倍以上的性能差距。”

“我相信迟早会有你说的这样的组织出现，也相信其中会有所有的AI大企业。”

“但绝不会是现在，而是在第一次AI军备竞赛告一段落的时候才会出现。”

“并且，我也不认为这种组织的出现会真正对AI的安全起到多大的作用。”

“这种组织的出现，我认为反而会扩大AI风险。”

“这个所谓的安全组织看似接管了所有的AI风险，但它却不可能有真正降低AI风险的能力，反而约束了组织之外真正有效的AI风险管控措施。”

“组织建立在规则之上，组织规则一旦形成，就很难改变，更难以响应AI的发展速度所带来的新机遇和新风险。”

“没有任何组织的进化速度能赶上AI的进化速度。”

“就像ICANN，建立之初，所有人都认为需要有一个机构来管理互联网的域名分发。

但实质上，目前ICANN的存在，已经构成了互联网最大的风险，并且严重阻碍了全球互联网的健康发展。”

“最有意思的是，ICANN甚至完全没有解决成立之初认为它们应当解决的问题，否则也不会有。sucks这种勒索域名的存在了。”

马斯克眉头紧皱，打断道：“我始终认为，做点什么总比什么都不做要好。

你对ICANN的抨击我能够理解，我也赞同在风险人类可承受的前提下，给与新技术最大程度的自由度。”

“但AI不同，AI如果失控带来的破坏力，已经超越了人类可承受风险的极限。

过去一百年间，唯一能和其相提并论的，只有核武器。

试想一下，如果六十年前没有缔结核不扩散条约，可能我们人类社会在五十年前就已经灭亡了。”

方豫点点头：“你说的很对埃隆，我很赞同。

但是，请注意，核不扩散条约当时只牵涉五个国家，仅仅只是这五个国家，从提出到达成协议，就用了四年时间，而生效，又用了两年。”

“你觉得，面对AI这种全球企业和个人都在参与的事情上，需要多久的谈判才能达成一致？”

“而且，更不能忽略的一点是，核武器的威胁是迫在眉睫的，当时包括当政者在内的所有人类，都在被核武器所威胁，限制核武器是当时人类的共识，而AI则不是。”

“换句话说，你说的这个方法，在不知道有没有效果的同时，也不具备任何的可行性。”

“除非，明天就爆发出一场智械危机，这时候人类才能吸取教训。”

“对了，你可以收购波士顿动力，然后自行引爆一场AI危机，说不定能起到一些作用。”

听了方豫的话，马斯克心头火起：“你的意思是，什么都不做，坐看人类毁灭吗？”

方豫眨了眨眼，一脸的无辜：“你怎么知道我们没有做事情？我只是说你控制AI风险的方法从根本上就是错的。

依据你经常说的第一性原理，控制AI风险，不应该从AI大模型技术本身来着手吗？”

技术本身？

马斯克不由得愣了一下。

“你是说，后门？通过底层的后门来做AI的最终防火墙？”

马斯克只是略作考虑，便摇头道，“后门的存在，会造成更大的风险，即使初期AI无法发现，也存在被第三方滥用的必然。”

“而且，当AI进化到具备自我意识后，必然能找到修补后门的办法，这并不是一个好办法。”