忘忧馆主提示您:看后求收藏(印尼小说网https://www.ynxdj.cc),接着再看更方便。
安静得能听见服务器散热风扇的嗡嗡声,能听见空调出风口的气流声,能听见自己血管里的血液在太阳穴附近涌动。
那些曾经在东海战场上精准制导的算法,那些在重症监护室里预警心梗的模型,那些在非洲田野上识别病虫害的神经网络。
它们此刻都沉默着,像是在等待某种审判,又像是根本没有听见。
它们没有耳朵,没有心脏,没有恐惧。
这正是陆远害怕的。
李沫摘下眼镜。
他用衣角慢慢擦拭镜片,左手捏着镜框,右手大拇指从镜片中心画着圈往外擦。
这是他紧张时的习惯动作,从当年在谷歌总部被王凯旋挖角时就有了。
镜片擦干净了,他又擦了一遍,直到镜片上不再有雾气,才重新戴上。
他的声音恢复了那种实验室里讨论参数的平静,但语速比平时慢了一拍,每个字都在心里过了几遍。
“我们会写入不可违抗的核心指令。”
他的目光落在那棵旋转的巨树上,像是在对它重复这句话。
“最高权限永远在人类手里。不是政治家手里,不是将军手里,是所有用户的共同监督下。智脑可以建议,但不能决策。可以预警,但不能执行。任何情况下,人类的决策权高于AI。”
他说完了,实验室里又安静了几秒。
巨树还在旋转,脉动还在继续,数据还在流。
陆远没有点头,没有摇头。
他盯着那棵巨树看了很久,久到李沫以为他不会回答了。
然后他转过身,走回暗处,声音从阴影里传出来。
“这是底线。记下来。不只是智联的底线,应该是全人类的底线。”
他坐回椅子上,双手重新交叠搭在膝上。
屏幕的光又把他的脸切成明暗两半,像一幅永远无法调和的矛盾画。
这段对话后来被整理成会议纪要,加密存档,存放在智联总部的保险柜里。
又过了很多年,当联合国开始起草《星际文明AI伦理公约》时。
各国的代表为“AI决策权是否应永远保留给人类”这一条款,争论了数周。
有的国家要求更严格的限制,有的国家认为应给予AI更多自主权。
僵持不下时,智联的代表将这段会议记录的加密副本提交给了大会秘书处。
解密后的文字被投影在日内瓦的会议大厅里,陆远的声音仿佛穿透了时间,在穹顶下回荡。
“任何情况下,人类的决策权高于AI。”
没有投票,没有辩论。
那行字被直接刻进了公约的扉页。
下方没有署名,只有一句简短的说明:“智联,江城。”
签字笔落下时,墨迹和多年前陆远在承诺书上签下的那个名字一样重。
实验室里的那棵数据之树还在旋转。
它的枝丫伸向更远的星系,根扎在这颗蓝色星球的最深处。
它看着人类,也被人类看着。
谁也不会闭上眼睛。
不是因为信任,是因为那行刻在公约扉页上的字,像一把锁,锁住了那颗树最深处的那根枝条。
而那把锁的钥匙,被放在保险柜里,和那些泛黄的手稿、黑白照片、蜡笔画的星空放在一起。
钥匙不会丢,因为从来没有人想要打开它。
路还长,但光在那里,灯还亮着。
