第169页 -
“对,这就叫
不由己。”
“盛名之
,其实难副,大概就是这个意思吧,”卡夫卡叹了
气,接着问
,“之后呢?”
斯凯利格看着
旁的法洛斯,
中是深深的恐惧和自责:“有人告诫我,将人类的未来托付在一个人工智能
上是十分危险的事。人工智能会学习和思考,用理
来判断和预测事
的发展,这一
上它胜人类太多。但是,人类不是只靠理
来思考的生
,人工智能没有像人类一样的
理
理和
认识,人类的未来必须靠人类自己确定,而不是依赖于一个机
。”
斯凯利格苦笑着说:“我无法擅自关停阿瓦隆,只能以程序更新迭代为由,将它转换成待机状态,并且为它可能带来隐形问题在暗中筹备弥补措施。”
斯凯利格想了想,说:“阿瓦隆是我制造的这
不假,但制造它所需要的资金和资源是投资人给的。举个不恰当的例
,在
圣殿塔服役前,你是父母的孩
,但服役后,你效忠的却是圣殿塔。”
“这个解释起来可能有些麻烦。”
“但是,我没有听从他们的忠告,我只以为他们是嫉妒我的才华,嫉妒我制造
了阿瓦隆。那些人也因为我的固执,逐渐分
扬镳,等我回过
时,
边就只剩
阿谀奉承和别有用心。”
“你,成功了?”卡夫卡问。
“不属于你?”赛特问,“那个人工智能是你制造的,它怎么可能不是你的。”
“没有,因为我发现,最好的弥补措施就是毁掉阿瓦隆。”
斯凯利格摇
,低
看着自己颤抖的双手,“阿瓦隆是我的毕生心血,我将它视作我的孩
。如果换成你们,你们会杀害自己的孩
吗?”
“之后,我重新审视阿瓦隆,我想知
它的存在对人类而言到底是利还是弊,在
清楚这
之前,我不希望它贸然
现在普罗大众的面前。可是,我忽然发现它好像不属于我了。”
斯凯利格说到这,
了少许欣
的表
:“阿瓦隆不负我的期望,成为了真正可以主动帮助人类的人工智能,它的存在也不胫而走,
引了越来越多人的注意。我将它视作一份殊荣,它是我毕生的杰作,我的名声和地位也达到了一个前所未有的
度。我开始膨胀,开始将阿瓦隆视为人类的唯一
路,却突然被泼了一盆冷
。”
赛特若有所思的摸着
巴:“我大概能明白你的意思,就像夫人被长老会提
为将军,负责
理圣殿塔,可实际上,圣殿塔还是得听长老会的话。”
和深
学习的能力,让他在不断的学习人类知识的同时,也能独立于人类自主思考,以无关第三方的角度审视人类的一言一行。”
--