、除非违背第○法则,机器人不得伤害人类,也不得因为不采取行动而使人类受到伤害。
其他两个法则也必须做类似修正。你明白吗?”
丹尼尔满怀期待地停下来,谢顿接口道:“明白。”
丹尼尔继续说:“问题是,哈里,个人容易指认,可以随手指出来。们不难看出什会、什不会伤害个人——至少,相对而言并不困难。但什是人类整体呢?在们提到人类整体时,们指是什?们怎样才能定义对人类整体伤害?个行动方针如何才会对人类裢体有益无害,们又如何分辨?首先提出第○法则那个机器人死——变得永远停摆,因为他被迫进行项他感到会拯救人类整体行动,却又无法确定它会拯救人类整体。当他停摆之际,他将照顾银河责任留给。
“从那时候开始,直努力尝试。尽可能做最小干预,仅靠人类自己判断什是
过头。早先,必须阻止芮喜尔将帝国转变成封建式无z.府状态。可以迅速扭转人心,但结果很可能是场血腥叛乱。男人毕竟就是男人——而卫荷将领大多数是男人,想在任何男人心中挑起对女性仇恨和潜在恐惧,其实不必花太大工夫。这也许是个生物学问题,,身为个机器人,无法全然解。
“需要做只是增强那种感觉,好让她计划自行崩溃。即使做得仅仅多出厘米,也会失去想要——次不流血接收。要只是让他们在战士来到时不要抵抗,如此而已。”
丹尼尔顿下,仿佛在斟酌他遣词用字,然后又说:“不希望讨论和正电子脑相关数学,它在理解之外,不过假使你花上足够心思,它也许并未超过你能力范围。无论如何,还是受到‘机器人三大法则’支配。传统上它们以文字表述——或是很久以前曾经如此。它们内容是:
、机器人不得伤害人类,也不得因为不采取行动而使人类受到伤害。
二、除非违背第法则,否则机器人必须服从人类命令。
三、在不违背第法则及第二法则情况下,机器人必须保护自身存在。
不过,两万年前有个……个朋友,另个机器人。他和不同,不会被误认为人类。但拥有精神力量是他,而且是经由他,才获得自己精神力量。
在他感觉中,似乎应该有个比三大法则更具般性规定。他称之为第○法则,因为○在前面。它内容是:
机器人不得伤害人类整体,也不得因为不采取行动而使人类整体受到伤害。
然后,第法则必须变成:
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。