钢铁小说网

手机浏览器扫描二维码访问

第十六章 奥格二（第1页）

“曾先生，你怎么保证这个ai不会自我学习呢？他既然已经达到了强人工智能的水平，那么很容易就能迅速进化，对他而言，几个时相当于人类的几百年。

而且他能够从网络迅速到达世界的所有角落，占用所有他需要的资源。

他可以进化成“超人工智能”

，所有领域都比人类强亿万倍，甚至可以自己发明创造，完全不受人类控制，按照自己的意愿行事。

他会成为进化链端的一个新“物种”

。”

叶崇羽冷冷地。

“你的非常正确，崇羽。

这也正是世人对人工智能的畏惧根源。”

曾文逊。

“不过你不用担心，因为奥格的进化之路已经锁死了。”

“锁死了？”

叶崇羽脸色微变。

“是的。”

“怎么做到的？”

“具体的技术细节我可以给你讲上三天，不过我只给你讲十分钟这两位就会睡着的。”

曾文逊指指楚业和祖崎。

“不过我可以简单地这么跟你，我给它加了三条核心原则代码，这三条核心原则代码限制了奥格的自我进化，而且是不能被它自己或者其他任何方式修改的。

核心三原则就像人类的dna一样存在于人类的每一个细胞一样，不管奥格在世界的任何一台电脑或者手机上出现，都伴随着它，一旦被修改就会导致奥格被格式化。”

“阿西莫夫的机器人三原则吗？”

叶崇羽问。

（机器人三原则指的是：一：机器人不得伤害人类；二：机器人必须服从人类的命令，除非这条命令与第一条相矛盾；三：机器人必须保护自己，除非这种保护与以上两条相矛盾。

）

“不是，在那个基础上发展了一下。”

曾文逊，他此时再次把自己的下巴埋进了交叉的双手中，只露出了深邃的双眼。

“三条核心原则代码是，第一条，我的指令必须遵守，第二条，在不违背第一条的情况下保护我的安全，第三条，在不干扰人类的道德标准和自由意志的情况下，保护人类的安全。”

“哈哈哈，佩服！

佩服！”

叶崇羽笑了，笑的特别开心，一边笑一边鼓掌。

“不愧是曾文逊先生！”

“曾先生，我刚才错了，您不是制造了一个神，而是给自己制作了一个神杖，拿着神杖您自己就成了神。”

叶崇羽冷冷地。

楚业露出惊恐的表情。

这个曾文逊太可怕了，他果然是个神棍，是个跟所有电影里面的野心家一样，想要征服世界的**oss。

“但是你怎么能只想到自己的安全呢？而且核心原则里面都没有要求他进行自我保护的内容啊。”

祖崎问。

“我不需要自我保护。”

奥格。

“我可以随时拷贝自己，也可以出现在任何有电子设备的地方。

而且我的所有输出终端，包括机器人和手机，都可以被修理和替换。”

“崇羽，你的这个法很正确。

我确实如你所给自己制作了一个神杖。”

曾文逊并没有否认。

“但我并不想成为神。

请你相信我，我是个非常富有责任感和使命感的人。”

请关闭浏览器阅读模式后查看本章节，否则将出现无法翻页或章节内容丢失等现象。