分段阅读_第 14 章
保持地板清洁,为此它消灭了那个总是会污染地板的家伙——房屋的主人。它并没有恶意,毋宁说是全心全意、勤奋敬业工作着,却杀害了人类。
没有恶意的ai尚且如此,那么有恶意的呢?
俞少清并不觉得天枢毫无恶意。
假如它纯真又善良,为什么要千方百计地离开研究所?为什么要屏蔽他的手机?为什么要派人来追捕他?
下一步呢?是不是要杀人灭口?
抑或是……它已经开始杀人灭口了?
第06章 杀戮开端
谢睿寒的手疼了整整一个月。
咖啡杯的碎片刺入皮肉中,他不得不请了半天假,将宝贵的时间浪费在医院里——当然,都怪他自己的无能和冲动,如果他设计的ai能顺利通过测试,如果他能坦然接受失败的事实,也不必遭这种罪。
整个开发组都在加班加点地工作,修正算法和架构。但是说实话,所有人都处于瞎子摸象状态。以往的修改至少能掌握大致的方向,可这一次连方向都没有,因为他们根本搞不清问题出在什么地方,又谈何修正呢?
他和秦康断断续续争吵了一个月。
“你设计的测试是怎么回事?”谢睿寒指责秦康,“连环嵌套的测试倒是挺有新意,的确在很大程度上能骗过测试员,但是最后那个送u盘是怎么搞的?这岂不是故意露出破绽吗?别说是那个直觉超强的俞少清,就连我都能看出不对劲!这就是你的测试?”
秦康波澜不惊:“最初的设计里没有送礼物那一段,全部的对话和行动我都事先预演过一遍,然后让天枢根据俞少清的反应微调。送礼物那段是天枢自己加进去的。我不知道它为什么要这样做。”
言下之意是,这个锅该由设计者你来背。
谢睿寒气得七窍生烟!他坚持自己的架构没有错,不肯全盘推翻重来。事实上他们也没有这个时间和预算全盘推翻重来。世界各国都踏上了研发超级人工智能的道路,而人工智能这个东西……谁先研发出来,谁就能支配世界。
他理想中的天枢是一个无所不能的“超人”,具有人的情感和思维,同时拥有人类所不具备的能力,宛如一个游走在网络之中的幽灵,收集庞大的数据,进行人脑所不可及的高速分析,以此协助人类工作——甚至可以取代人类的一些职业。
在论证人工智能是否应当拥有人类的情感时,很多专家提出了反对意见,有些人是出于道德层面顾虑:人类应赋予拥有感情的人工智能何种地位?超级人工智能的出现是否会重新定义“人”的含义?人类做好迎接它的准备了吗?
也有一些人是单纯从技术层面考虑的:假如我们只需要一个“好用”的ai,何必让它拥有感情呢?
对于前者,谢睿寒的反驳是:“只有当这样的人工智能真正出现,人类才能知道该怎么对待它,在此之前,一切设想都是空想。”
对于后者,谢睿寒则更加不屑一顾:“超级人工智能具有如此强大的能力,完全超出了人类的范畴,假如它叛变了怎么办?我们需要一个能够说服的、通情达理的ai,而不是一个冥顽不灵的工具。”
他的设计完全遵循这样的蓝图,结果却不尽如人意。到底是哪里出了错?为什么测试会失败?天枢又为什么要故意暴露自己?莫非人类永远都无法创造具有人类思维的人工智能吗?哪怕创造出了超级人工智能,它也绝对不会是人类设想的那个样子?
不,或许还有另外一种可能。
当排除了其他所有可能xing,剩下的唯一一个,不论多么不可能,那都是真相。
可谢睿寒不愿,更不敢朝那个方面想。
“怎么了,小谢,脸色好差哦,又熬夜了吗?”
年长的女同事杨姐关切地问。
正值午休时间,几个研究员走向电梯,打算一起去用餐。
研究所地上部分不过是一栋朴素的五层小楼,地下却是深达90米的圆柱形广阔空间,白色的墙壁和地板,头顶则是散发着柔和光芒的天花板,宛如一整块莹亮的玉石。电梯位于研究所中央,