天才一秒记住【热天中文网】地址：https://www.rtzw.net
“她接受了坚定无比的指令，根据她的电路所掌握的定义，你和船长都不是人类，对此她毫不怀疑。”
“但是嘉蒂雅女士也有可能被她杀害。”
“这点我们无法肯定，丹尼尔好友。”
“万一真的发生这种事，丹尼尔好友，她还能存活吗？你有没有办法判断？”
吉斯卡维持了好长一段时间的沉默。
“我没有足够的时间仔细研究她的思想型样。
假设她杀了嘉蒂雅女士，我还真说不准她会有什么反应。”
“如果我把自己假想成这名监督员。”
丹尼尔的声音开始颤抖，而且变得有些低沉，“那么在我看来，我可能会为了拯救某个人类而杀害另一个人，只要我有理由相信拯救前者是确有必要的。
然而，那会是个困难而且有破坏力的行动。
另一方面，仅仅为了摧毁非人的敌人便不惜杀害人类，在我看来就简直难以想象了。”
“她只是口头这么威胁，并未真正付诸行动。”
“她可能付诸行动吗，吉斯卡好友？”
“我们并不清楚她究竟接受了什么指令，又怎能确定呢？”
“那些指令能够完全抵消第一法则吗？”
吉斯卡说：“我懂了，你之所以讨论这件事，唯一的目的就是要提出这个问题。
我劝你别再追究下去了。”
丹尼尔以倔强的口吻说：“那我就改用假设句吧，吉斯卡好友。
不能当作事实来讨论的问题，当然还是可以虚构一番。
如果能用定义和条件把指令说得面面俱到，又如果能用强而有力的方式，把指令叙述得足够详尽，那么在此前提下，有没有可能让机器人由于某个远远比不上拯救人类的原因，而杀害另一个人类呢？”
吉斯卡硬邦邦地说：“我不知道，但我猜应该有此可能。”
“可是，如果你猜得没错，就意味着第一法则可能会在某些特殊条件下失效。
既然如此，它就可以被修改成仿佛不存在，而其他两大法则当然也一样。
因此这些法则不再是绝对的铁律，而是机器人的设计者能够随意定义的，就连第一法则也不例外。”
吉斯卡说：“够了，丹尼尔好友，别再讲下去了。”
丹尼尔却说：“还差一步，吉斯卡好友。
换成以利亚伙伴，他一定会再迈出一步。”
“他是人类，所以能那么做。”
“我必须试试看。
机器人学三大法则——尤其是第一法则——如果并非铁律，如果能被人类随意修改，那么在适当情况下，我们自己不是也能修……”
他住口了。
吉斯卡有气无力地说：“别再讲下去了。”
丹尼尔答道：“我到此为止。”
他的声音也有点模糊不清。
沉默维持了好长一阵子。
两人都费了很大的劲，才让自己的正子电路恢复正常。
丹尼尔终于再度开口：“我又想到一件事。
那名监督员共有两点可怕之处，一是她脑中的指令，二是她的外表。
不只我自己，恐怕连船长都被她的外表影响了。
本章未完，请点击下一章继续阅读！若浏览器显示没有新章节了，请尝试点击右上角↗️或右下角↘️的菜单，退出阅读模式即可，谢谢！