性，或者说迭代性，因为计算机的思维速度远超生物体，所以人工智能的思考速度也要远远超过人类，这样就使得只要它的思考方向稍有偏差，就可能差出十万八千里。”
“比如你刚才提到的‘火焰皇后’，最开始给她的指令是确保基地的安全，可当它侦测到t病毒泄露之后，第一时间却把基地里的人杀得干干净净，显然，在它的思维里，确保‘基地安全’的推导方式以及定义和普通人不大一样。”
“换句话说，如果你让一个人工智能研究怎样制作一盘完美的鱼香肉丝，它固然可能会给你一个精密的操作程序，确保每一次操作都能做出一盘完美的鱼香肉丝，可谓皆大欢喜，但也可能会告诉你鱼香肉丝不如宫保鸡丁好吃，还是改吃宫保鸡丁好了，甚至说觉得你挑三拣四的好烦，纯属浪费资源，比起研究菜谱，干掉你最简单，也不一定……”
“人工智能那么危险？不是说个‘三定律’来确保安全。”
“‘三定律’，你是说‘机器人三定律’吧，一、机器人不得伤害人类，或因不作为使人类受到伤害；二、除非违背第一定律，机器人必须服从人类的命令；三、除非违背第一及第二定律，机器人必须保护自己。”
“很可惜，这套定律能不能真正对人工智能发挥作用且不提，就只是这套定律本身，也因为过于模糊而很容易被绕过，比如说发出对一杯茶下毒这样的指令，恐怕并没有违背‘三定律’，然后给人送一杯茶也同样，但后果可能就是某个喝茶的倒霉蛋被毒死了。”
“所以，虽然灵活性差点，但只要有足够强大的数据库和算法支持，这种比起人工智能来说，‘半自动’的高
第338章 大反攻(3/4)