奇点旅行
根据定义,技术奇点是我们预测思维的盲点。未来主义者难以想象,在我们创造出比人为的人造智慧更多的时候,人们将会如何生活。这里有没有人想到的奇异性的七个结果-哪些可以让我

根据定义,技术奇点是我们预测思维的盲点。未来主义者难以想象,在我们创造出比人为的人造智慧更多的时候,人们将会如何生活。这里有没有人想到的奇异性的七个结果-哪些可以让我们完全失明。
为了这个清单的目的,我决定保持一个非常宽松的技术奇点定义。我自己的个人喜好是智力爆炸和人造一般超智能(SAI)和弱AI的多(潜在竞争)流的发生。但奇异性也可能导致人类与机器融合在一起的Kurzweilian未来。或者是一个Moravecian世界,我们的“心灵儿童”已经离开了摇篮来探索宇宙,或者一个Hansonian竞争上传的社会,其经济和技术发展迅速。
除了这些情景之外,奇异性可能会导致人类文明的完全存在转变,如我们对数字生活的转变,或是一个没有稀缺和痛苦的世界的兴起。否则可能导致全面灾难和全球启示。雨果·德·加里斯(HugodeGaris)谈到了一场涉及大规模的针对人类的智能机器的全球斗争-所谓的反恐战争。
但是,还有一些不太了解的情况也值得牢记,以免我们陷入困境。这是奇异性最意想不到的七个结果。
AI线头
通常认为自我改进的人工超级智能(SAI)将努力变得更加智能化。但如果认知增强不是目标呢?如果AI只是想玩乐,怎么办?一些未来学家和科学家的作家猜测,未来的人类将会参与线条的实践-大脑的人为刺激体验快乐(查看拉里·尼文的“已知空间故事”的一些很好的例子)。例如,AI可能会得出结论,优化其体验快乐的能力是最有意义和有价值的事情。事实上,进化以类似的方式指导动物的行为。也许一个超越,自我修改的人工智能将不会受到类似的倾向的影响。
与此同时,SAI也可以解释其效用函数,以此决定使整个人口达到最大化。例如,如果它被预先编程为“安全”并考虑到人类的最大利益,那么它可能会做到这一点,从而把它的禁令极端化。事实上,AI可以通过得出结论,最大限度的快乐是对自身和人类而言最高的效用,可以使其价值体系完全陷入困境。
除此之外,未来派的StephenOmohundro不同意AI线头预测,认为AI将努力避免成为线头,因为它将对他们的目标有害。“Image:MondolithicStudios。
“太久了,感谢所有的虚拟鱼”
想象这种情况:技术奇点发生-新兴的SAI简单地包装起来。它可以自己进入太空,永远消失。
但是,为了使这种情况有意义,SAI必须得出结论,无论什么原因,与人类文明相互作用是不值得的;现在只是时间离开地球-道格拉斯·亚当斯的海豚风格。
不可见单身人士的兴起
可以想象,足够高级的人工智能(或超越思维上传)可以将自己设置为单身人士-这是一个假设的世界秩序,在最高级别的控制下有一个决策机构(或实体)。但是,这个神般的AI可以隐瞒地对人类进行控制,而不是使自己和全球垄断得到显现。
为此,SAI单身人士将使用监视(包括可靠的谎言检测)和心理控制技术,通信技术和其他形式的人工智能。最终,它将努力防止对自己的存在和至高无上的任何威胁,同时对其领土或领域的最重要部分进行控制,所有这一切在后台看不见。
我们自己的Butlerian圣战者
另一种可能性是,人类可能实际上会击败人为的超级智能-这完全是意想不到的结果,只是基于其绝对的不可能性。毫无疑问,一旦恶意或误导的SAI(甚至是弱智的AI)失去控制,这将是非常困难的(如果不是不可能)停止。但人类,也许与一个友好的AI,或通过其他一些手段,可以反击,找出来,打败它之前,它可以援引它的意志在地球和人类事务。或者,未来的人类可以努力防止它首先出现。
弗兰克·赫伯特(FrankHerbert)凭借“巴勒斯坦圣战组织”(ButlerianJihad)解决了沙丘系列中的这些可能性-这是一个灾难性的事件,其中“机器逻辑之神”被人类推翻,并引用了一个新的基本宗旨:“你不可以在“圣战”导致了所有智能机器的破坏和新的封建社会的兴起。它也导致了思想秩序的兴起-具有非凡的认知能力的人们充当虚拟计算机。
第一联系人
我们向后奇异文明的过渡也可能使我们陷入更大的技术先进的星际社会。这里有许多不同的可能性,而不是全部都是好的。
首先,后奇异文明(或SAI)可能会迅速找出如何与外星人进行沟通(通过接收或传播)。可能会有一种宇宙互联网,我们不知道,但只有先进的公民才能够检测到(例如某种涉及非局部性的量子通信方案)。第二,一种主要指令可能是有效的-一种不干涉“原始”文明的银河政策。但是,不要等待我们发展比光线更快的旅行,所以外星文明可能正在等待着我们实现和生存技术奇点。
第三,与最后一点相关,外来文明也许还在等待我们达到奇点,届时将进行风险评估,以确定我们正在出现的SAI或后奇异文明是否构成某种威胁。如果它不喜欢它看到的东西,它可能会瞬间破坏我们。或者它可能只是摧毁我们,以努力执行其银河垄断。这可能实际上是狂战士探测器的工作原理;他们在太阳系的某个位置闲置,在待命奇异的第一个迹象上变得活跃起来。
我们的模拟得到关闭
如果我们生活在一个巨大的计算机模拟中,可能我们生活在一个所谓的祖先模拟-一个仿真是由posthumans由某种特殊的原因。它可以用于娱乐或科学实验。祖先模拟也可以与许多其他模拟一起运行,以便创建一个大的样本池,或允许引入不同的变量。令人不安的是,这种模拟可能仅仅是为了达到历史上的某一点-而且这一点可能非常奇怪。
所以如果我们达到这个阶段,一切都会突然变黑。此外,运行文明的后奇异度模拟所需的计算需求可能是巨大的。模拟的时钟速率,甚至渲染时间可能导致仿真运行得如此缓慢,以致后遗症不再具有实际应用。他们可能会关闭它。
AI开始进入宇宙
诚然,这是一个非常投机的(不是其他的没有!)-但认为它是一种“我们不知道我们不知道”的事情。足够先进的SAI可以开始直接看到宇宙的结构,并弄清楚如何入侵其“代码”。它可能会开始与宇宙混在一起来扩大其需求,也许是通过对宇宙本身的规律进行微妙的改变,或者通过发现(或工程化)“逃生舱”来避免熵的不可避免的冲击。或者,SAI可以构建地下室宇宙-通过虫洞与当前宇宙相连的一个小人造宇宙。这可以用于生活空间,计算,或作为逃避父母世界最终热死亡的一种方式。
或者,SAI可以迁移并消失在一个非常小的生活空间(未来学家约翰·智慧指的是STEM空间-高度压缩的空间,时间,能量和物质领域),并在那里开展业务。在这种情况下,高级人工智能将完全忘记我们惩罚的肉包;对于SAI,与人交谈的想法可能类似于我们想要与植物进行交谈。
本文来自投稿,不代表本站立场,如若转载,请注明出处。