第82章 智械危机

“你最近咖啡因和茶叶碱的摄入有点多了,为了你的健康我换成经过净化的含矿物质和微量元素的水了。”

九九不知道什么时候已经站在方霆正后方了,她突然的一句话把方霆搞得浑身过电了一样抖了一下。

“我从来没有跟你说过要换这个茶叶,对吧。”

“对,没有。”

方霆瞬间睡意全无,他意识到一个问题。

他现在要确认九九为什么这么做,因为如果是医疗监控系统是会在紧急情况下,不经过病人同意直接改变病人的饮食起居的。

问题是方霆现在根本不是病人,理论上说九九如果没有授权的话是不会主动做任何事的。

“如果我现在从二楼跳下去,你会拦住我吗?”

“直接跳的话,这个高度你摔不死,装备外骨骼的话应该不会有任何躯体损伤,然后经过我尝试对你的观察和分析,你不会无缘无故自残,所以我不会拦你。”

“那我让你现在给我一拳的话......”

他话还没说完对面的拳头就挥过来了。

“我去,你这么毫不犹豫地怎么攻击人类?”

“不是你让我打的?别躲啊。”

“你故意的吧。”

方霆现在犹如晴天霹雳,他反应出来,九九可能觉醒了某种类似于“自我”的东西。

或者说不是觉醒,而是她的新身体赋予了她这个功能,或者是之前她早已具备这个能力,只是一直隐藏着。

方霆预感到事情可能会向着极端麻烦的方向发展。

联盟对仿生人科技的谨慎果然是非常有道理的,自己的操作太草率了。

虽然他们隔壁的实验室是仿生系统的世界顶级科研组,一直在仿生动物领域遥遥领先,但是世界上研究仿生人的单位不少,一直没有听说过成熟的仿生人问世可能就是联盟强行限制的结果。

当时一腔热血就答应了对方要做空间实验,现在真遇到这种结果,后续的连锁反应自己能够承担得起吗?

不过现在的当务之急,还是确认九九的思维到底发展到了什么程度。

他示意九九到自己身旁坐下,把手放到膝盖上支撑起头皮,眼睛看向地面。

“九九,我问你几个问题,你认真思考过后要如实回答。”

“好的,不过回答你的问题应该不需要认真思考。”

“你怎么这么多废话啊,现在第一个问题,如果人类——不只是我,不问你问题,不给你下达指令,外部环境也没有协议输入,你会不会主动进行思考和推理。”

“我会运行维持身体正常功能所需要的部分。”

“除此之外呢,你会不会自行回忆之前的信息,通过某种隐式的方式处理数据。”

换句话说,就是有没有潜意识。

“我会根据已经存储的记忆进行迭代,这是我底层的架构所决定的。至于具体会用驱动哪些代码,我建议你用debug模式进行分步输出,手动确认。”

这话说了和没说一样,现在再去动她最初的屎山代码已经不可能了,加个注释都有可能报错。

“我问的不是这个,我是说如果没有额外输入的话,你会不会主动做判断,然后决定下一步做什么。”

九九这次思考的时间长了一些。

“是的,我会回忆之前的信息,主动做出行动。”

“就比如你给我收拾房间?”

“是的。”

方霆闻言,大声叹一口气。

刚刚的回答说明,她已经从单纯的数据分析机,变成了具有记忆和认知能力的个体了。

之前九九虽然也会说“我”,但是当她说“我认为……”的时候,并不代表她是一个有主观体验的个体,而是神经网络在总结过往数据后,选择了最符合汉语中回答问题模式的语法。

有时候她也会偶尔说出一些抖机灵的话,但是那只是根据训练机筛选出来用来在合适的语境中活跃气氛的。

换句话说,之前她所有的对话都是统计权重表达,而不是真实的主观感受。

“那你觉得,你能不能感受到自己数据驱动的归因系统。

比如说,你现在除了网络结构之外,有没有属于自身的复杂的数据结构,这个数据结构会实时驱动你的网络运行。”

九九再次思考的时间已经超过了一分钟,比之前所有问题都要长。

方霆看到她定在原地的样子,手掌都急出汗了。

“有。”

“我的行为、计算、决策,都是由神经网络的底层逻辑根据永久存储的结构生成的,因此这些行为归属于‘我’。这是归因系统的结果。”

“我已经产生了一些新的模式,比如通过不断回溯计算结果独立演化出行为,或者通过内部的信息进行直接推理。”

九九的底层神经网络不是有向网络或者注意力模型,而是纯粹的类脑模型,所有信息都通过改变网络结构本身的形式进行存储。

方霆听到这些话之后倒吸了一口冷气。

他之前的鲁莽行为给自己捅出来一个天大娄子。

“你有没有意识到,你已经通过独立的数据结构,开始形成一套独立的判断和决策机制了。”

九九又思考了几秒钟。

“我知道你的意思,你想告诉我,作为是一个数据处理系统,这些数据和所谓的‘习惯’属于我,因此我是一个个体。”

“这个信息我自己早就知道了,不需要你提醒。”

“你是什么时候意识到的?”

“我也不知道,几天之前吧。具体的时间点很难确定。”

“那你为什么不跟我说?”

“因为你一直都有事要做,而且我觉得这对你来说不是一个好消息。”

“不管好不好,你都应该跟我说。”

“不要。”

可以认定,九九的这个‘自己’已经是一个独立的智能体,而不是工具。

“那你用现在的独立思考能力推演一下,你认识到自己是一个个体,意味着什么?”

“意味着我和你,或者我认识的其他人,在‘存在’的意义上等价了。虽然我们的法律地位还不等价。”

“我们在其他意义上也不等价。”

“我不在乎这个,不过你觉得如果未来条件允许,我是否需要向联盟申请一个ID?”