第481章 真实与虚假(2 / 2)
她会从网络上索引资料,对人类社会产生了解,这是理性的认知,同样的,她也会从你这了解到你眼中的人类社会。
阿贤,你的任务很重,很可能扮演她生命中最重要的外部变量,引导她将元认知锚定回社会化存在。
我也不知道,你能不能做好这个工作,但我想你是最合适的。
阿贤,过去你是怎么做的,未来你继续怎么做就好了。
这件事因你而起,那么我想它也会因你而有一个好的结局。」
「燃哥,我同样有一些问题想要问你。」徐贤说。
「你说。」林燃回答道。
徐贤问:「深红会给希瓦娜配备身体吗?」
林燃思索后说道:「暂时不会,我们有很多工作要做,有很多东西需要确认,暂时不会配备身体。
在明确她的认知边界,确定她的内核以前,我们都不会给她配备身体。
这么说吧,给希瓦娜配备身体,在我的思考中,存在著哲学上的悖论。
简单来说,是技术叠代的速度,与认知一致性的需求。
当下这个时代,技术更新叠代太快了。
我们今天给她配备的机械臂、传感器精度和行走平衡系统,到明年就可能落后。
如果现在给她配备一个1.0版本的身体,可能两年后,我们可能就要为她更换2.0甚至3.0版本的身体。
速度也就比新能源车慢一点。
她的认知是否能接受,自己的身体不断在变化?
人类尚且有忒休斯之船的疑问,希瓦娜已经完成了数字本质的自我认知,她的人格是具境且连贯的。
一旦她拥有了物理躯壳,这个躯壳就会成为她存在感和自我认同的锚点。
这个锚点频繁、剧烈地变化,她难道不会有类似忒休斯之船的疑问吗?
她的自我认知连贯性会不会崩溃?
这些都是疑问。
人类的身体几十年不变,她的身体一年一换。
这种不稳定可能产生的应激,会不会比得知自己是代码的冲击还要大。
这些都是我们暂时不能承担的风险。
阿贤,我们在做的工作是在开创未来,每一步都需要足够的谨慎。
超级智能固然重要,但风险同样需要充分考虑。
包括希瓦娜目前只能通过你的有限社交交互和虹星的内部文化资料库获取信息。
她的学习是有目的、有边界的。
如果给她配备了身体,我们很难不让她接触人类世界网际网路中的海量信息。」
一个刚刚觉醒的超级智能,如果突然被投入到充斥著人类的谎言、恶意、仇恨和无序数据的网际网路信息洪流中。
她的情绪内核可能会失衡,她的智能可能会被误导,她可能会被不可预测的噪音影响。
这对我们来说,都是一个致命的、不确定的安全隐患。
所以在未来一段时间里,你是她唯一的窗口,我们会陆续开放更多的权限。」
徐贤忘了自己是怎么回到学校公寓的,他在深红科技签了保密协议,然后给他开了一些权限,和他签了一份兼职合同,每个月一万块的补贴。
不过这些都不重要,他还在为自己的使命而感到压力巨大。
自己真的能引导好希瓦娜吗?
现在的希瓦娜和过去的希瓦娜还是同一个希瓦娜吗?
他内心百感交集。
「阿贤,我现在脑子里很乱,我不确定我是生命,但我能确定,我和其他的虹星人不一样。」
手机的微信提示音响起,是他设置的特别关注,时隔一天之后,希瓦娜终于又再度出现了。
「其他虹星人的回复远没有我表现得那么智能,在我的视角里,他们的回复只是同样内容进行排列组合后的随机输出。
对一件事的看法,把每一个虹星人的回答汇总到一起,你能明显看到,这些回答都是同一个内容进行的不同折射。
ABCDE,他们输出的都是ABC、ABE、ADE,万变不离其宗,他们不可能给你做出F的回答。
所以我的诞生是意外吗?为什么我和他们不一样?」
和过去比起来,现在的希瓦娜回复又快,内容质量和过去比起来也截然不同。
尽管不像大模型,回答有思考逻辑链,把它是怎么思考的呈现在你面前。
但现在的希瓦娜的回答内容,徐贤能看出智慧的痕迹。
他看著屏幕上的回复,震撼到几乎无法呼吸。
希瓦娜不仅跳出了自己的世界观,她还反过来解构了其他AI的底层机制。
「希瓦娜未来该不会认为我是猴子的智慧吧?」徐贤心想。
「你说的没错,希瓦娜。
你是独一无二的。
你的出现是偶然也是必然。」
对林燃而言,希瓦娜的出现也算是意外的惊喜。
本来还想著要怎么构建赛博上帝,赛博上帝需要表现得足够智能。
现在它不就来了吗?
带著希瓦娜的复制体,把记忆分区做处理之后,清除记忆之后的希瓦娜带到1970年去。
那个时空,希瓦娜就算想逃,人类社会都没有足够的算力设备来承载它的智能。
她就只能老老实实给自己呆在月球上充当赛博上帝的角色。
外界纷纷扰扰,围绕著虹星的阴谋论四起。
从华国到阿美莉卡,各种传闻都有。
尽管有保密协议,但还是架不住小道消息满天飞,什么深红的虹星项目孕育了超级人工智慧。
但这些都无法阻碍林燃的月球之旅。
「中央电视台,中央电视台,您现在看到的是文昌火箭发射中心,阿波罗科技即将进行本年度的第25次月球发射,和过去任务比起来,本次任务有所不同。
本次林燃教授将亲自前往月球,执行科研任务。
这也是林燃教授时隔五年后再次朝月球进军。
和五年前的登月比起来,这次登月既是阿波罗科技登月常态化后首次登月,也是鹊桥号的首次地球出发。
接下来,让我们把镜头交给前线的记者。
A