庞劲东一字一顿的道:“矩阵系统再怎么强大也只是一台电脑。”
“矩阵系统不只是一台电脑,更是ai,也就是人工智能。”苍浩颇有信心的说道:“最初的矩阵系统,只是一台采用独特算法的超级计算机,可以侵入其他任何电脑系统。但矩阵系统具备股市判断能力,并且可以跟我们进行简单会话的时候,就已经发展成为弱人工智能。几年来,矩阵系统不断进行升级,墨师说过,弱人工智能就像是弱智一样,当然不可能跟人类相比。但有一天矩阵系统会进化成为强人工智能,那个时候就会真正超过人类,不但知道过去,还可以预测未来,可以帮助我们做出很多判断,及早应对这个不断变化的世界。”
庞劲东摇头道:“这个根本不是重点,重点是即便强人工智能,说到底仍然是电脑系统,而不是真正意义上的人类,没有人类的喜怒哀乐,自然也不会像人类一样思考问题。”
苍浩不得不承认这一点:“这倒是。”
庞劲东质疑道:“如果我们完全听命电脑,咱们还是不是人?”
庞可儿对这话很费解:“咱们怎么不是人了?”
“我们只是电脑的附属品而已。”庞劲东很认真的解释道:“正因为电脑没有人类的喜怒哀乐,做出的决策全部都是高度理性的,表面看起来可以把我们的利益最大化,问题偏偏就出在这里。人类社会发展到今天,从来都不是理性设计的结果,而是各种感性因素堆叠在一起形成的,所以让电脑控制社会运转的话,人类社会也就不再是人类社会,而是变成了蚂蚁社会,所有蚂蚁全听蚁后的,而蚁后就是矩阵系统。”
苍浩依然认可庞劲东的话:“很多人追求有那么一个最高主宰,可以帮助自己决定一切事务,自己只需要服从即可,不需要为任何事情操心,那么必然少去很多烦恼。也就是说,其实人类一直在追求不是人的过程,但当这个机会真正出现的时候,我们还是需要审慎的。”
“是啊,我们都知道铁钉灭世理论,如果有一天矩阵系统认为,消灭全部人类是最理性的选择,难道人类就只能乖乖去死吗?”庞劲东质疑道:“事实上,即便是弱人工智能的矩阵系统,已经掌控大量智能化和无人化装备,从地面的无人战车、机器人到天上的各种无人机,甚至太空中的轨道电浆炮也可以被矩阵系统调动。如果有一天,矩阵系统发了疯,决定向血狮雇佣兵开战,以当前这种情况来说,就算血狮雇佣兵最后生存下来,只怕也要从此一蹶不振。”
庞可儿缓缓点了点头:“一方面是随着时代的发展,我们越来越无法离开电脑,另一方面是电脑发展成为强人工智能,可能会危害到我们,这真是一个困局。”
苍浩对这
请收藏:https://m.dhdzi.cc
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)