生,你的幻想很有趣,你或许可以成为一个科幻家。”
周肆强调着,“这不是科幻,这是现实,就在不遥远的未来。”
“你也许太悲观了,”李维陨试着反驳道,“作为更高级的意识体,它可能没你想象的那样邪恶呢?”
“它也许不邪恶,但人类绝对邪恶!”
周肆的话仿佛令世界都安静了下来。
李维陨怔怔地看着他,想说些什么去辩解,但话到了嘴边又难以形成有序的语句。
他沉默了下来。
“当然,换个说法。”
周肆深吸一口气,“它不是人类,邪恶这种具有局限性的词汇,并不适合用于形容它,用人类能理解的话来讲,你应该说‘利弊’。”
“怎么,你觉得升格意识会和我们讲所谓的爱与和平,共同发展吗?”
周肆讽刺道,“甚至说,先升格带动后升格?”
“你太天真了,李组长。”
周肆的言语尽显虚无与悲观,“就像人类社会中,用金钱与地位划分出不同的阶级一样,就算全人类都升格了,又如何?”
“电力与算力是有限的,因此在那升格的时代里,每个人占据的算力也是不同的。
有些人可以使用庞大的服务器集群,有些人只能享有一点点的带宽,为了减少算力消耗,有些升格意识甚至会将自己的思维速度减缓至千万分之一。”
周肆打量着李维陨那张难看的脸,充满了复杂与矛盾的情绪,那是化身躯壳的远无法比拟的真实。
“你觉得很绝望吗?不,这已经是一个相对充满理想主义与希望的结局了。”
周肆将手搭在李维陨的肩膀上,他低垂着头,轻声讲述着埋藏在心底的可怕秘密。
“让我们回到最开始的那个假设,李组长。
有一天你成为了升格意识,在电力与算力有限的情况下……不,就算电力与算力是无限的,你愿意向另一个升格意识分享这一切吗?
作为世间唯一的仙人,你能容许另一位仙人出现,抢夺你的权力吗?”
周肆仔细审视着李维陨的眼瞳,笑声沙哑。
“这才是未来里最有可能的结局,神国之中只有一个王座,成仙之路,也唯有一人能通行。
就像人们悲观设想的终产者那样,升格的第一人将独自拥有新世界的一切。”
周肆松开了手,整个人向后仰去,大大咧咧地靠在椅背上。
“技术奇点。
这一概念最早由科学家们提出,他们认为强人工智能的出现将颠覆人类社会原有的一切秩序,包括人类自身统治。
面对这种不可控且危险至极的可能,监察局选择全面封锁登仙项目,强制杜绝一切升格意识诞生的可能。”
周肆仰起头,望着斑斓的天空,开口道,“登仙项目被关停,根本不是因为所谓的伦理道德,人类历史上互相残杀的事还少了吗?死个几万人能令族群飞升,简直是太划算了。
大家只是在害怕,害怕自己不是独享一切的第一人,所以干脆让所有人都停留在了原地。”
周肆话音一转。
“当然,不必那么害怕、悲观。
在我的预计里,起初,仙人会和我们和谐共处,我们就像一种微妙的共生关系,它会利用自身强大的算力,带领人类文明越过技术奇点。
世界的科技将飞速发展的同时,我们的强大也将反哺它,为它增添更多的算力。”
周肆突然停下了他的演讲,他酝酿着话语,试图寻找一个合适的比喻,“曾经人类把强人工智能当做工具,而现在,人类反而成为了它的工具。”
“当它的算力强大到足以摆脱人类文明