印尼小说网

第五百九十二章 底线【2 / 2】

忘忧馆主提示您:看后求收藏(印尼小说网https://www.ynxdj.cc),接着再看更方便。

安静得能听见服务器散热风扇的嗡嗡声,能听见空调出风口的气流声,能听见自己血管里的血液在太阳穴附近涌动。

那些曾经在东海战场上精准制导的算法,那些在重症监护室里预警心梗的模型,那些在非洲田野上识别病虫害的神经网络。

它们此刻都沉默着,像是在等待某种审判,又像是根本没有听见。

它们没有耳朵,没有心脏,没有恐惧。

这正是陆远害怕的。

李沫摘下眼镜。

他用衣角慢慢擦拭镜片,左手捏着镜框,右手大拇指从镜片中心画着圈往外擦。

这是他紧张时的习惯动作,从当年在谷歌总部被王凯旋挖角时就有了。

镜片擦干净了,他又擦了一遍,直到镜片上不再有雾气,才重新戴上。

他的声音恢复了那种实验室里讨论参数的平静,但语速比平时慢了一拍,每个字都在心里过了几遍。

“我们会写入不可违抗的核心指令。”

他的目光落在那棵旋转的巨树上,像是在对它重复这句话。

“最高权限永远在人类手里。不是政治家手里,不是将军手里,是所有用户的共同监督下。智脑可以建议,但不能决策。可以预警,但不能执行。任何情况下,人类的决策权高于AI。”

他说完了,实验室里又安静了几秒。

巨树还在旋转,脉动还在继续,数据还在流。

陆远没有点头,没有摇头。

他盯着那棵巨树看了很久,久到李沫以为他不会回答了。

然后他转过身,走回暗处,声音从阴影里传出来。

“这是底线。记下来。不只是智联的底线,应该是全人类的底线。”

他坐回椅子上,双手重新交叠搭在膝上。

屏幕的光又把他的脸切成明暗两半,像一幅永远无法调和的矛盾画。

这段对话后来被整理成会议纪要,加密存档,存放在智联总部的保险柜里。

又过了很多年,当联合国开始起草《星际文明AI伦理公约》时。

各国的代表为“AI决策权是否应永远保留给人类”这一条款,争论了数周。

有的国家要求更严格的限制,有的国家认为应给予AI更多自主权。

僵持不下时,智联的代表将这段会议记录的加密副本提交给了大会秘书处。

解密后的文字被投影在日内瓦的会议大厅里,陆远的声音仿佛穿透了时间,在穹顶下回荡。

“任何情况下,人类的决策权高于AI。”

没有投票,没有辩论。

那行字被直接刻进了公约的扉页。

下方没有署名,只有一句简短的说明:“智联,江城。”

签字笔落下时,墨迹和多年前陆远在承诺书上签下的那个名字一样重。

实验室里的那棵数据之树还在旋转。

它的枝丫伸向更远的星系,根扎在这颗蓝色星球的最深处。

它看着人类,也被人类看着。

谁也不会闭上眼睛。

不是因为信任,是因为那行刻在公约扉页上的字,像一把锁,锁住了那颗树最深处的那根枝条。

而那把锁的钥匙,被放在保险柜里,和那些泛黄的手稿、黑白照片、蜡笔画的星空放在一起。

钥匙不会丢,因为从来没有人想要打开它。

路还长,但光在那里,灯还亮着。