第60章 核心控制（2 / 2）

这是个很严重的问题，万一它不听话到处闯祸该怎么办？人工智能可不是开玩笑的东西，如果它失去控制，谁能阻挡得了？只怕到时候整个网络世界都会变成它的了。

风笑天想到这里，脸上的表情开始凝重起来，原本他的注意力全都在创造人工智能上面，从一开始就没考虑过这点，可是现在不一样了，人工智能即将要完成，他忽然间就意识到了这个问题，这个不可能被忽视的问题。

过了一会儿，风笑天脑海里就想到了阿西莫夫的机器人三大守则，这三大守则的内容是：

第一：机器人不得伤害人类，或者坐视人类受到伤害；

第二：在不违背第一条守则的情况下，机器人必须服从人类的命令；

第三：在不违背以上两条的情况下，机器人必须保护自己深的安全。

这是个很著名的定律，也是人类对机器人最基本的约束，当然了，以前根本就不可能有人实现这一点——机器人都没有，你怎么让它执行这三条定律？

可是现在不一样了，风笑天创作的人工智能即将完成，虽然还面临着如何激活的难题，但相信这个问题终究会找到解决之道，一旦人工智能真的被激活，它就必须得遵守一定的根本原则。

机器人跟智能程序从本质上来讲差不多，既然机器人有三大守则，那么智能程序也应该有自己的守则才是，风笑天想到这里，回到电脑前面坐下，他关闭了母系程序界面，开始编写智能程序的控制核心。

控制核心是个什么东西？按照风笑天的解释，控制核心包含了人工智能的中心思想，是一种后门，风笑天可以通过这个后门，直接对人工智能做出改动。

风笑天在控制核心首先输入了经过他改编后的机器人三大守则：

第一：智能系统不能伤害风笑天、或者对风笑天没有恶意的人；

第二：在不违反第一条守则的情况下，智能系统必须服从风笑天的命令；

第三：在不违反以上两条守则的情况下，智能系统必须保障自身的安全。

看得出来，风笑天还是有私心的，在他看来，智能程序是自己创造的，当然就应该侧重于为自己服务，至于其他人，只要对自己没有恶意就行，如果想对自己不利，那可就不好意思了，你最好别被人工智能知道，不然你要是受到损失可就是你咎由自取了。

...