鸿蒙文学网

手机浏览器扫描二维码访问

第106章 神之守护者（第2页）

机器人必须保护自己，那么当于伤害人类这道命令冲突时，结果如何？

程序设计中也会时常遇到类似的问题，诸如：乘法与加法构成的四折运算时，如何确保某些加法优于乘法而率先被执行……括号、优先级就是一个不错的选择。

即：通过括号这个优先级更高的指令跳转程序的执行序列，让括号内的程序有限得到执行。

所以~当人们提到如何确保机器人三原则的时候，总会以此为例，提出设定三原则的优先级问题。

但是~殊不知这种优先级又是可以受到制约和越过执行的存在。

机器人、智能（AI），其中最重要的作用就是学习，通过学习、自我更新某些不足的存在。

可这~有恰恰是跳过或躲避三原则中某些可能冲突的地方。

这里~我们提到的是跳跃（跳过某个顺序指令的执行，如~Goto语句）我们提及的是躲避，而不是降低或提升优先级。

作为一个智能程序，不可能无时无刻、永远的只进行一种判断，就像一个魔怔一样……总是在哪里判断：这个是否可以伤害到人类、这个是否可以伤害到自己，那么另外一项原则呢？是否执行人类赋予他的命令和使命？所以~AI（人工智能）必须学会自己做点儿什么。

这就需要顺序、循环或选择、跳跃的执行一些逻辑上的指令。

这才是我们、程序猿们所见到的程序，程序中的代码、程序真正的含义与本体。

当然~智能还可以学习。

正所谓~成也萧何、败也萧何，智慧与学习，恰恰可能是压倒骆驼的那根稻草。

墨菲定律：“凡是可能出错的事有很大几率会出错”

，但是~如果将其置于某个海量且高速的程序运行领域，那么~凡是可能出错的事儿，就一定会出错。

智慧与学习，等若让计算机、机器人或人工智能AI具有了自我修养、学习与更新的能力，同样也等若失去了控制。

我们将不知道AI都能学习什么、学会什么，已经学习到了哪一步。

即便我们有这样的能力，但那海量的学习与运算，作为一个个体，也不可能对其学习的内容进行全面分析。

计算机、人工智能都是在辅助人类的生活与发展，不是人类去代替它们修养……与判断。

这同样是一个悖论，我们为了最大限度的解放个人的劳动与生产能力，赋予了机器人或者计算机以思维与智慧，但是为了担心它们会出错、惹麻烦，我们却要无时无刻的监督他们，花费远超我们自己完成那些任务的时间与精力，我们还要人工智能、电脑、机器人做什么？！

而墨菲定律，当一件事情有可能会发生的时候，存在发生错误可能的时候，当这种可能的错误一定会被轮换、执行，那么这样的错误岂不是一定会发生？！

学习~恰恰是其推手。

程序界里有这样的一句传言：设计的越多，错误同样也会越多。

这句话却不是多做多错的意思，而是人非圣贤，程序猿也不是传说中的神或者上帝，神创造人还可能出现错误和纰漏呢，人类设计的程序自然会存在某些错误与瑕疵。

所以，当一个庞大的足以自我更新、自我学习的程序上线运行时，如果将其赋予人类相同的能力、再赋予其永恒的“生命”

时，那么~这种错误就很有可能会发生，随着时间的推移就一定会发生……一切事情也会朝向最坏的方向上发展。

直至~终结或毁灭……

要么是缔造者的毁灭，要么是所创造的人工智能（AI）的终结。

这不是危言耸听，很有可能是真正的、真实的现实。

所以~即便是自己的身体、身体的一部分，[小易]也不敢如此。

[小易]不敢为其赋予真正的生命，只能让其这般……傻乎乎。

[小易]本就是文明与传承的一律执念，虽然它真正的赋予逻辑与思维的能力，但是作为与主人（文明继承人）的伴生体，[神之守护者]从未具有过最高决策权。

或许~这也是那个神秘的文明最终研究的成果吧……[小天]如是的思考。

作为一名科技、“黑科技”