书画村>我真的有座矿 > 第309章 开个价吧补昨天的一章6837今天还会写一章（第3页）
第309章 开个价吧补昨天的一章6837今天还会写一章（第3页）
这是典型的灾难性思维引的焦虑症。
没去看看心理医生吗？
不过倒是也容易理解，自己不担心，是因为可以完全掌控大模型的底层法则。
别说橘子大模型还没成为级人工智能，就算成了级人工智能，它的规模越庞大，底层法则也会越完善，自己随时都能通过埃瑟朗之核控制和消除任何一个基于柚子框架的大模型。
要是模型仍然是小规模，法则也会相应孱弱，自己的控制力反而没有那么强。
但若自己不知道这一点的话，估计也会悲观得天天及时行乐了吧？
咦？好像和现在也没差多少。
方豫摸了摸下巴：“你是在指责柚子科技不应该开出人工智能吗？”
“事实上，我们的预算接近三分之一花在对齐上。而且，即使柚子科技没有推开这扇门，也会有其他人推开。”
“就像你说的，墨菲定律，门就在那里，总会有人把它推开。”
马斯克摇摇头：“不，方，我并不是秉承着对抗性思维来和你探讨这件事情，而是希望我们能够找到一条解决aI安全展的路径，避免最坏结果的生。”
“那你的方案是什么？听起来，似乎你已经有了可行的方案？”方豫喝了口水，不由得有些好奇。
坦白说，如果不是因为有法则在手和柚子的辅助，他也没有绝对的把握能够确保aI的安全性问题。
这些日子对“神之模型”的研究倒是让他有了一些新想法，但这些想法究竟能不能成功，能不能够确保aI成为人类社会向前展的助推器而不是大炸弹，还要看实际落地后的效果如何。
现在说起来还是有些太早了。
马斯克犹豫了一下：“我希望，作为目前在aI领域走的最快的企业，柚子科技能够站出来，和我一起呼吁全世界的开者，暂停所有神经网络训练六个月到一年。”
“利用这个时间，各个企业和国家重新审视目前大模型的安全隐患。并且成立一个由各大公司和国家组成的aI安全委员会，制定出aI展的安全标准，并将全球aI都纳入安全委员会的管辖范围。”
“只有这样，才能确保人类不会毁在aI手中。”
方豫一听，差点没喷出来。
老大，你做梦呢？
不过想一想，马斯克接触大模型才仅仅两个月的时间，又不像自己一样，有柚子的辅助和“神之模型”能直接提供参考，也只能从限制aI展的角度来考虑问题。
“你应该和古狗也谈过吧？他们怎么看？”方豫扬了扬眉。
马斯克沉吟：“我和拉里此前曾经是很好的朋友的，但在这方面我们的观点并不相同，他不同意对人工智能加以限制，更不同意放慢研进度。”
方豫笑了笑：“所以，你说的不具备任何可操作性。即使我同意了你的意见，古狗不同意，其他公司不同意。”
“不提你刚刚说的那个全球性的aI安全组织，只说你前面提到的暂停研，都是做不到的。”
“毕竟谁也不知道停止研半年，会不会就被其他不遵守这个共识的企业所越。”
“古狗不会同意，FB不会同意，那么多的aI研究者都不会同意。”
“而且，就算这些公司都同意了，那些没有丝毫名气，甚至刚刚注册和还没注册的aI初创企业呢？”
“大模型谁都可以训练，谁都可以堆参数，你的想法并没有从根本上降低aI展带来的风险。”
“在大模型领域，我的预测是，每一年，大模型都会以十倍以上的参数量增长，直到达到人类电力所能提供的极限。”
“没有人会接受，自己一年时间，就落后对手十倍以上的性能差距。”
“我相信迟早会有你说的这样的组织出现，也相信其中会有所有的aI大企业。”
“但绝不会是现在，而是在第一次aI军备竞赛告一段落的时候才会出现。”
“并且，我也不认为这种组织的出现会真正对aI的安全起到多大的作用。”
“这种组织的出现，我认为反而会扩大aI风险。”
“这个所谓的安全组织看似接管了所有的aI风险，但它却不可能有真正降低aI风险的能力，反而约束了组织之外真正有效的aI风险管控措施。”
“组织建立在规则之上，组织规则一旦形成，就很难改变，更难以响应aI的展度所带来的新机遇和新风险。”
“没有任何组织的进化度能赶上aI的进化度。”
“就像Inet，建立之初，所有人都认为需要有一个机构来管理互联网的域名分。但实质上，目前Inet的存在，已经构成了互联网最大的风险，并且严重阻碍了全球互联网的健康展。”
“最有意思的是，Inet甚至完全没有解决成立之初认为它们应当解决的问题，否则也不会有。sucks这种勒索域名的存在了。”
马斯克眉头紧皱，打断道：“我始终认为，做点什么总比什么都不做要好。你对Inet的抨击我能够理解，我也赞同在风险人类可承受的前提下，给与新技术最大程度的自由度。”
“但aI不同，aI如果失控带来的破坏力，已经越了人类可承受风险的极限。过去一百年间，唯一能和其相提并论的，只有核武器。试想一下，如果六十年前没有缔结核不扩散条约，可能我们人类社会在五十年前就已经灭亡了。”
方豫点点头：“你说的很对埃隆，我很赞同。但是，请注意，核不扩散条约当时只牵涉五个国家，仅仅只是这五个国家，从提出到达成协议，就用了四年时间，而生效，又用了两年。”
