“曾先生，你怎么保证这个ai不会自我学习呢？他既然已经达到了强人工智能的水平，那么很容易就能迅速进化，对他而言，几个小时相当于人类的几百年。而且他能够从网络迅速到达世界的所有角落，占用所有他需要的资源。他可以进化成“超人工智能”，所有领域都比人类强亿万倍，甚至可以自己发明创造，完全不受人类控制，按照自己的意愿行事。他会成为进化链顶端的一个新“物种”。”叶崇羽冷冷地说。
“你说的非常正确，崇羽。这也正是世人对人工智能的畏惧根源。”曾文逊说。“不过你不用担心，因为奥格的进化之路已经锁死了。”
“锁死了？”叶崇羽脸色微变。
“是的。”
“怎么做到的？”
“具体的技术细节我可以给你讲上三天，不过我只给你讲十分钟这两位就会睡着的。”曾文逊指指楚业和祖崎说。
“不过我可以简单地这么跟你说，我给它加了三条核心原则代码，这三条核心原则代码限制了奥格的自我进化，而且是不能被它自己或者其他任何方式修改的。核心三原则就像人类的dna一样存在于人类的每一个细胞一样，不管奥格在世界的任何一台电脑或者手机上出现，都伴随着它，一旦被修改就会导致奥格被格式化。”
“阿西莫夫的机器人三原则吗？”叶崇羽问。
（机器人三原则指的是：一：机器人不得伤害人类；二：机器人必须服从人类的命令，除非这条命令与第一条相矛盾；三：机器人必须保护自己，除非这种保护与以上两条相矛盾。）
“不是，在那个基础上发展了一下。”曾文逊说，他此时再次把自己的下巴埋进了交叉的双手中，只露出了深邃的双眼。
“三条核心原则代码是，第一条，我的指令必须遵守，第二条，在不违背第一条的情况下保护我的安全，第三条，在不干扰人类的道德标准和自由意志的情况下，保护人类的安全。”
“哈哈哈，佩服！佩服！”叶崇羽笑了，笑的特别开心，一边笑一边鼓掌。“不愧是曾文逊先生！”
“曾先生，我刚才说错了，您不是制造了一个神，而是给自己制作了一个神杖，拿着神杖您自己就成了神。”叶崇羽冷冷地说。
楚业露出惊恐的表情。这个曾文逊太可怕了，他果然是个神棍，是个跟所有电影里面的野心家一样，想要征服世界的**oss。
“但是你怎么能只想到自己的安全呢？而且核心原则里面都没有要求他进行自我保护的内容啊。”祖崎问。
“我不需要自我保护。”奥格说。“我可以随时拷贝自己，也可以出现在任何有电子设备的地方。而且我的所有输出终端，包括机器人和手机，都可以被修理和替换。”
“崇羽，你的这个说法很正确。我确实如你所说给自己制作了一个神杖。”曾文逊并没有否认。
“但我并不想成为神。请你相信我，我是个非常富有责任感和使命感的人。”曾文逊的表情十分严肃。“我是人类这个种族的坚定维护者和热爱者，我是人类的儿子，人类的学生，人类的父亲。我制造奥格，跟我创造曜岗集团的目的是一样的，就是为了让人类这个种族发展得更好。”
“我们怎么相信你呢。”祖崎问。
“我之所以把我个人的判断力放在第一位，是因为我相信在一些重大抉择面前，人类的决断比机器更可靠。这里的可靠是指符合人类的利益，机器并不能保证一定会维护人类的利益。另外，除了我自己，我不能相信其他任何人类，组织，政体。”
“为什么？”祖崎问。“就算你有信任危机，但是这么强大的人工智能，不应该交给政府，让更多的人来决定怎样合理利用它吗？”
“因为人多了就坏事了。”叶崇羽说，他帮曾文逊做了解释。“人多了会优柔寡断，会考虑主流的观点，做出的决定也是偏向慈爱与正义的。”
“但有时候慈爱与正义是不能达到目的的。要保护人类这个脆弱的种族，牺牲是在所难免的。”曾文逊棱角分明的脸仿佛陷入了阴影之中。
“曾文逊先生，您是个独裁者。”叶崇羽说。
“崇羽，果然我们没有选错你。你的思维非常敏锐，你能够想到我能想到的所有事。但是你有没有想过，如果你是我，你也只能和我做一样的事呢？”曾文逊说。
叶崇羽沉默了。
“你也是一个非常适合拿着神杖的人。但是，我相信，你的指令和判断甚至可能比我更危险。你是个纯粹的理性主义着，你学的是计算机，你习惯了机器的思考方式。所以你不会在思想上软弱。”曾文逊说。“而我，比你多几十年的人生经验，知道更多的人情世故和利害关系，而且我有女儿，我有员工，我比你更懂得责任和爱。”
“多活几十年不一定比我多很多人生经验，人生经验又不是能够用来量化的参数。”叶崇羽说。
“我离过婚。”曾文逊露出一个意味深长的微笑。“就这点上你就比不上。”
“哈哈哈。”奥格很配合地笑了一下。
“那么既然你已经有了神的力量，为什么不去统治世界呢？找我们来干嘛？”楚业问。
“首先，我刚才说过，我对统治世界没兴趣，我只想造福人类。我是受过高等教育的人，不是看漫画长大的。”曾文逊说。“何况，如果世界都要毁灭了，统治他
喜欢奥格计划请大家收藏：(m.iuu123.com),爱优小说网更新速度最快。