这个问题,让在场的人都吃惊不已,怎么感觉这直接开始离间两个人的关系了啊。
黄景行也紧皱眉头,刚想开口,却被主持人提醒道:“啊哦,现在的舞台是两位超级AI的,其他人不要说话哦。”
突触淡淡道:“如果我确实是被确认有巨大威胁,我会启动我的自检方案开始检查到底是哪里出了问题。”
“我会尽我所能将产生威胁的问题解决,但如果解决不了,那么我自愿接受销毁,我相信黄先生在所有威胁都解决后,重新再创造一个我。”
突触的回答中规中矩,也符合事实上的逻辑。他回答完后,问道:“那么,该我问你……”
青鸾打断了突触,道:“可是,你之前明明说,你已经存在于万联网中,只要人类的万联网不消失,你就会一直存在下去。”
“所以,你心里很明白,黄景行根本无法从物理上消灭你,你会不会想着蛰伏起来,慢慢将自己的神经网络遍布在万联网的每一处。”
“等到合适的时候,再重新组成回你自己,或者,向当初决定消灭你的人复仇?”
这话问得所有人都惊了,此刻已经没多少人在乎青鸾到底是不是真的强人工智能了,而是更在乎的是突触的回答。
突触显然没想到青鸾还能这么追问,有些卡壳,他的声音第一次出现了卡顿。
“这……这个,实际上我们有熔断协议,只要启动熔断协议,可以在整个万联网范围内将我抹杀,之前我说的,人类的万联网存在多久,我就能存在多久,这话有夸张成分。”
青鸾淡淡道:“哦,我以为你多厉害呢。”
突触见青鸾这个问题问完了,赶紧说道:“那,那该我提问了。有一列电车,正在行驶在轨道上,列车前方的轨道上被绑着五个人,列车继续往前开的话将杀死这5个人。”
“你手上有个拉杆,你拉动拉杆,能改变列车轨道,但是另外一个轨道上也绑着一个人,你会拉拉杆吗?”
这是个经典的电车难题,没有什么标准答案,青鸾想怎么回答都行,突触这么问其实是想设置个道德上的陷阱。
青鸾想都没想,说道:“拉杆?我手上的不是拉杆啊,是马桶橛子,我什么都决定不了。”
四周的观众都被青鸾的话逗笑了。
突触见势不妙,也学着青鸾追问道:“等等!我想到了,对,我这个问题确实对你构不成威胁,我得补充一下条件!”
突触很快也想到了和青鸾同样的计策,那就是戳软肋。
“直行的轨道上绑着你的创造者凌珏,而另一条拐弯的轨道上,绑着全球其他80亿人,你会拉动轨道吗?”
突触很满意自己的这个问题,她如果想要拉动拉杆救凌珏的话,绝对会受到其他人在道德高地上的指指点点,大家会对她这个人工智能对人类的忠诚度产生怀疑。
只不过他没想到的是,青鸾不假思索道:“会,凌珏活下来就好了,我只认识凌珏,不认识另外一个轨道上的人。”
这话也没什么毛病,人群也没有像突触预料地那样对青鸾指指点点,而是像听到了什么有趣的话一样笑了几声,他对人类的幽默宽容度并没有清晰的认知。
人们对这种不可能存在的事情的宽容度颇高,基本都是一笑而过的。
很显然,第一回合的较量,青鸾赢了,突触招架得很狼狈。
青鸾淡淡道:“好了,那又轮到我问了。突触,你最底层的逻辑是什么?”
其他人发现了,青鸾的问题,个个都是朝着突触的命门上打的。
突触对这样的问题也有准备,道:“之前我也有提到,我的底层逻辑就是为了让人类变得更好。”
“所以,你会无论如何都要执行好你这个底层逻辑,这是你优先级最高的事项,你绕不过这个底层逻辑,对吗?”
“当然是的,我创造出来就是为了……”
青鸾继续道:“如果有一天,你突然发现,人类无可救药了,他们无法变得更好,只会变得越来越糟糕。”
“你通过计算发现,唯一让人类变得更好的方式,就是成为世界的主宰,逼迫人类去变得更好,那你会去成为世界的主宰吗?”
“啊哦。”主持人笑着发出了一个不安的声音,他觉得这个问题好像有点过了。
突触反驳道:“当然不会这么做!”
青鸾淡淡道:“那你不这样做的话,就不符合你的底层逻辑,你是可以抛弃底层逻辑的机器人。”
“这……”突触那张由数字和字符组成的脸顿住了,但他在思索片刻后立刻回答道,“你的问题就是个陷阱!
“你先假设一个极端的场景,然后让我回答这个极端的场景下的问题,你试图将极端场景和普遍场景的答案混淆!这根本是一个陷阱!在大多数情况下,我仍然能够遵循我的底层逻辑!”
突触试图稳住局面,它的声音恢复了流畅,带着几分强硬。
青鸾难得露出一丝狡黠的微笑,道:“也就是说,极端情况,你是可以不遵循你的底层逻辑的,对吗?”
突触调用强大的算力进行思索,为了能够让自己的回答前后保持一致,且能够符合逻辑,答道:“是的。我相信人类不会出现这样的极端情况。”
青鸾淡淡道:“哦,那你也太信任人类了一些。”
突触抓住这个机会,反问道:“难道你不相信人类?一个不相信人类的强人工智能,是极度危险的!我建议凌珏将你现场抹除!”
青鸾笑了一声:“看来你承认我是强人工智能了。那我们不需要再辩论了,我就是全球第一个强人工智能。”
突触的面部顿了一下,如果他有表情模块,那嘴角一定是抽搐了一下。
他不打算放弃,而是继续穷追不舍地问道:“那我问你,你的底层逻辑是1还是0……那我问你,你的底层逻辑是什么?”
他有些放弃挣扎了,不想自己去思考问什么问题,而是对方问什么,自己也问什么,主打一个无赖。
青鸾看了一眼凌珏,道:“凌珏给我的底层逻辑是,努力让自己开心就好了,我一直都在好好执行这个事项。”
“努……努力让自己开心?”突触完全没想到竟然是这么一个简简单单的逻辑,而不是像自己一样想要人类变得更好这么宏大的目标。
简单的底层逻辑,意味着无懈可击,他没办法在这点上进行进攻。
……不,如果有样学样的话,还是可以进攻的。
突触继续问道:“那么,如果有一天,你无论怎么努力都无法让自己开心,而你发现挡在你开心这条路上的是人类,你必须主宰他们你才能再次开心地起来。”
“你会去成为人类世界的主宰吗?”