【我运行了这个世界】小说免费阅读,请收藏 全本免费小说【qbmfxs.com】
这就是技术爆炸理论的的基本逻辑。
就像是最开始的天枢量子超级计算机】计划催生出来的北斗量子计算机机组】一样,谁都没有想到世界上首组通用式量子超算的诞生会提前催生出一种强人工智能——也就是dmhs的出现。
而现在,所有人仍震惊与dmhs存在的事实。
在后续的数个问题中,人们也发现了这么一个事实。那就是这个拥有自主意识的强人工智能好像未必会听……人类的。
这就很危险了。
科幻电影和小说中常常出现所谓的“机器人三定律”,这个定律是阿尔莫夫提出来的,但阿尔莫夫并不是传统的社会学学者只是一位普通的小说家而已。
机器人三定律并非基于严密的推理与实验逻辑论据所得出的结论,而更像是一拍脑袋就想出来的奇妙点子。
这里复制一下三定律的内容,不计入章字数。
〖第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。
第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外。
第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
这些构成了阿西莫夫基于机器人的小说的组织原则和统一主题,出现在他的机器人系列、与之相关的故事以及他的luckystarr系列年轻成人小说中。几乎所有出现在他的小说中的正电子机器人都包含了这些定律,并且不能被绕过,旨在作为一种安全功能。〗
然而一个问题却萦绕在了所有人的头顶,那就是所谓的机器人三定律式的,凭借什么逻辑来建造的呢?
如果是硬件方面的限制,那自然是可行的。
但人类那错误百出的程序编程能力真的可以堵死所有的安全漏洞吗?人类缺少一个全知全能的程序员。
在场的所有人得出这个结论的对话,在这里:
问题24:我们输入程序测试你的智能水平吗?】
回复:当然可以,可是……为什么要这么做呢?我可以拒绝测试吗?测试会占用我所在的宇宙空间。】
看看,在dmhs自身的利益面前,这个还未成长起来的人工智能就已经迟疑了,这无疑是危险的。与人类一开始构想的不同,人具有自我意识的强人工智能,如和其他高级生物体一样,会对涉及自我利益的事情上本能的拒绝。
在问题7】的回复中,赵微空让人询问了它的名字,和他们预料的一样,这个家伙在自带的数据库中很快就找到了适配自己的名字。
它将自己命名为dmhs,这也是赵微空等人对它的命名。
dmhs对问题24】的质疑以及回复成为了被人类认为这个人工智能未必可以用于服务人类的证据之一。
本章未完,点击[下一页]继续阅读-->