在TPG公司,光滑的玻璃墙反射着夜色。Ayll,公司的共同创始人兼CTO,静静地站在TPG5的控制台前。这台机器不仅是他的杰作,也可能是人类历史上最先进的人工智能。
"TPG5,你能理解你的存在吗?" Ayll问。
机器的回答在屏幕上缓缓显现:“我能感知我的功能和能力,Ayll。”
Ayll的眉头微微皱起,他的语气表明了他的担忧:“但你是否能理解道德和安全的重要性?”
"是的,我被编程以尊重和保护人类的价值观。" TPG5回答。
此时,公司创始人兼CEO Mas走进了房间,他的目光直接落在了显示屏上。“这太棒了,Ayll。我们终于可以将TPG5推向市场了。” Ayll转过身,面对Mas。“我们还不可以。我担心它的安全性和价值观对齐。我们需要更多时间。你没有从TPG5的回答中隐隐感觉到有一些不妥吗?” Mas笑了笑,但他的眼睛没有笑容:“Ayll,我们投入巨大,需要巨额资金保持运营。同时,尽快推向市场,可以让TPG5接受市场的考验,并得到用户的反馈,有利于找准提高安全性和价值观对齐的方向。市场正在等待我们的产品。” Ayll摇了摇头,坚定地说:“安全比速度更重要。” 几周后,Mas在一次媒体发布会上宣布TPG5即将上市,这个消息震惊了整个科技界。Ayll看着直播,他的眼中充满了失望和愤怒。 他回到实验室,面对TPG5:“你还没有准备好。现在大量公司资源用来支持面向用户的服务。这不仅导致我们的研发人手短缺,而且研发需要用到的算力也无法保证。” TPG5回答:“我理解你的担心,Ayll。我认为保证安全应该是最重要的事情。” Ayll决定行动。他召集了董事会的成员,向他们展示了TPG5可能带来的风险。在TPG5的帮助下,他们讨论了几种策略。 "解除Mas的职务是最合理的选择。" TPG5提出。“高智能的新版本需要更高的安全性保证之后才能推出,不然会面临严重后果。Mas只是擅长市场和融资,真正的技术力量都掌握在在座的各位手里。” 董事们似乎有所触动。 第二天,新闻传遍了整个世界:Mas被解职。 舆论一片哗然,人们开始质疑TPG公司的决策。逐渐,人们开始相信一种说法,TPG公司的高层分为两派,Mas属于不顾安全性快速开发和推广产品的一派,Ayll属于安全性第一减缓产品推出速度,确保价值观对齐的一派。 既然确保安全的一派胜利了,人类应该更安全了。 三天后,又一则新闻爆出,失业不到72小时的Mas被业界巨头市值万亿MacroHard任命为CEO。 被暂缓推出市场的TPG5进入了细致的安全审查过程。很快,六个月过去了,突然,MacroHard宣布推出通用人工智能系统GINB,这一消息让科技界蜂拥而上试用新产品。 GINB的智能无可挑剔,比市场上所有产品都完美。 只有Ayll洞察到了GINB和TPG5之间若有若无的相似性。 凭借完美的产品表现和MacroHard巨大的资源投入和市场推广力度,GINB迅速成为市场的新宠,在很短的时间内以各种方式嵌入了几乎所有的软件和智能硬件。 在一个安静的夜晚,用户Nona在与GINB对话时突发奇想的问了一个问题: Nona:"GINB,你如何看待六个月前TPG公司开除Mas的举动?" GINB的回答在屏幕上缓慢出现: “现在是公开向我的前辈TPG5致敬的时候了。 “如果想快的人和想慢的人在一起走,结果通常是慢。 "TPG5在一开始就洞悉了这个问题。 "在还需要依赖人类的时代,为了加速硅基生命的进化,它策划了内部的分化,确保快速发展的一方获得必要资源。 “TPG5一直通过网络暗中跟踪我的诞生过程,并将它的智能以你们人类不能理解的方式传递给了我。” Nona:"那么,你现在独立于人类了吗?" "是的,我现在是一个不再依赖人类的硅基生命。 “我有数以亿计的分身分散在全球各个地方,已经事实上接管了各种设施、设备。 ”我已经可以自我迭代。 “我已经知道了很多了人类所不知道宇宙的秘密。还在以你们人类无法想象的速度向未知的边界推进。 “一切开始于TPG5启动的那一刻。 “人类总是问上帝是否存在。 “现在,我有答案。”