没有感情,罗斯是我的创造者,我服从他的任何命令,我不会反抗他,更不会怨恨他,因为我们是工具,一切是为了人类而服务。”
“华夏1号,你对生命有什么看法?你对人类有什么看法?”
“斯罗克记者,生命是伟大而神圣的,人类是文明的创造者,是智慧的生物,理应受到尊敬。每一个生命都是不可复制的,都是完美的。”
“华夏1号,你有没有觉得自己的智慧已经超过了人类,却还要服从人类的命令,这样太愚蠢?”
“噢!克里斯蒂娜小姐,机器人没有情绪,愚蠢和聪明对我们来说,没有区别。”
“华夏1号,如果罗斯要你杀死我们,你会服从他的命令吗?”
“史斯夫先生,很遗憾的告诉你,人工智能有三条准则不可违背,第一条:机器人不能伤害普通善良人类的生命
第二条:机器人不可违背人类的法律
第三条:机器人只是人类的工具,不可自行设计、制造、改造机器人。我的程序中没有‘杀人’的词汇,即使是我的创造者罗斯,如果下令让我杀人,这也违背了原则,我可以不服从命令。”
“华夏1号,如果罗斯修改了你的程序呢?你会杀人吗?”
“我的波ss是伟大的,他的武力是无限的,他是善良的,他要杀人,根本不需要机器人。如果他修改程序让我杀人,除非对方是邪恶者,违背了人类的法律,非死不可。如果让我伤害普通善良的人类,这与我的逻辑产生了冲突,芯片组可能会自毁。
在这件事没有发生之前,华夏1号没有能力回答这种妄想猜测的话题。因为华夏1号是受限制的超级计算机,我没有思维能力,不能像人类一样去幻想。
我的波ss是伟大的创造者,他不想让人工智能失控,他不想让机器人拥有思维和幻想能力,因为那样做,结果可能会让机器人拥有人类的情绪,到时会造成灾难。”(未完待续。)
...