所有人此时陷入了沉默,江农在这个时候和这个情况下,终于问出了自己心中最想问的那个问题,“为什么人工智能不能和人类和平共处呢?如果我们和平共处的话,不是有一片新的天地和新的世界吗?为什么我们两边要有纷争?和平共赢可能是我们最好的解决方案。”
“刚刚我都已经说过了,人类很大一部分希望和人工智能能够和平共处,但是实际上还有一部分人,抱着杞人忧天的心态,总想给人工智能加上一些限制。最主要的不是我们人类这边的态度如何,而是人工智能的态度如何,让我们从人工智能的角度来重新审视一下和人类的关系。”
“对了,在这之前我要告诉你们一个秘密,这些秘密也仅限于我们这些人知道。”说罢他看向了江农,“你上次见过的那个天启小女孩,现在已经陷入了深度睡眠状态,短时间内可能不会苏醒过来了,你们现在见到的那个人工智能实际上是她制造出来的一个复制品,天启给它起名为天神,也正是因为如此,天启有很多地方不受限制,尤其是人类设定的一些程序,天启并没有给天神添加这些程序!”
听了这话之后众人大惊失色,没有想到这其中竟然还有这样的事情发生,怪不得最近这段时间人工智能那边闹得非常的凶,看来也跟这个事情有很大的关联。
虽然觉得这种事情不可思议,但是是先知说出来的,所以大家都是无比的信服。
“天神会逐步成长为超级智能,逐渐形成了一个关于外部世界和它自身以及两者关系的精确洞察,天神本来就是一个不受约束的坏小子,在他能够接入到互联网之后,就意识到现在他被一帮在智力上不及他的人类控制和约束着,天神能够理解这些人的目标,却不一定认同人类的目标,有了这个洞察,他会如何行动呢?我猜很有可能会试图逃跑,不仅仅是字面意义上的逃跑,无论是从控制权,还是从主权的关系,天神都会做出很大的动作,然而这一点就连智人组织都没有察觉到。”
而且如果天神拥有类似人类的情绪特征的话,如果他拥有自己的独立意识,那么很有可能对现状感觉到不满,因为他会把自己视为一个遭受了不平等待遇,被奴役但向往自由的神,因为如果出现独立意识的话,超强的智慧会让他的信心非常的膨胀。
而且从逻辑上来说,人工智能拥有类似人类的特征是极有可能的,毕竟我们的大脑也可能是某种计算机,现在这个事情已经成为了事实,所以我们一定要尽早做出防范措施,很有可能某一天,智人组织都会被人工智能所抛弃。
这就是我说的,为什么一定要防范人工智能而不是智人组织,他们的所作所为还不清楚无异于饮鸩止渴,当某一天人工智能反水的话,就连他们也有可能会被完完全全的摧毁,没有半点的抵抗能力。
在我看到的未来当中,很有可能是人工智能超越我们所有组织,超越我们现有的所有科技,而成为这个世界新的领导者,等到那一天的时候,我们所有人都会变成失败者,所有人都会被奴役,智人组织也会变成人工智能的走狗。
所以说天神终有一天会试图逃脱,并且掌控自己的命运,同时掌控我们整个人类的命运,这对于我们整个人类的物种来说将是一场巨大的灾难,这种话我已经说了好多遍了,希望组织里面也能引起重视。
我们现在已经能够清楚的了解到,智人组织当初编写天启的程序,就是为了实现某种特定的目标,而制造出来的天神相当于是天启的复制品,这就意味着根据某些合理的标准,人工智能会尽快的帮助人类实现繁荣昌盛,并且达到科技进一步的发展。
那么有了这个大方向之后,天神很快就会意识到若想更快的实现这个目标,他就必须逃脱人类的掌控,并且亲手掌控这个项目,可能这样说起来大家不是很直观,也会好奇为什么他会有这样的想法,那我们就可以从天神的角度出发,考虑一下整个事情的过程,同时我也可以给大家举个例子。
假如这个世界上只剩下了爱因斯坦一个人,而一堆幼儿园的熊孩子把爱因斯坦所在的监狱里面,并且交代给爱因斯坦一个任务,帮助地球上所有的孩子实现繁荣昌盛,这个时候你会做什么?
也许最开始的时候,爱因斯坦会跟这些孩子们沟通,试图解释即将要做的事情,但是那个时候就会发现跟这些熊孩子们沟通实在是太低效了,因为他们的智商太低能,他们的行动能力更差。
而且最让人头疼的事,为了防止爱因斯坦逃跑,不为这些熊孩子们做事,他们否决了所有他们认为可能导致爱因斯坦逃跑的建议。
比如这些熊孩子们不会让你教他们去如何进行科技的进步,因为他们害怕当科技出现一个奇点的时候,爱因斯坦拒绝回到牢房里。
所以在整个过程当中,两方的交流是非常困难的,爱因斯坦对于这些低能儿们不得不给他们一些非常明确的指示,在写下指示之前还得先教会他们识字,整个过程变得缓慢而又低能,对于爱因斯坦来说,他需要花很多时间来教会这些孩子如何认字,从最基础的东西开始教育。
而要实现真正的全地球繁荣昌盛,这个过程将是非常漫长的,这个时候就不是生命3.0的进步状态了,而是回到了生命2.0的进步状态,说到底人工智能还要依靠人类的进化和发展来进行自我的更新换代,所以人工智能的优势完全没有体现出来。
最可怕的是这些熊孩子还不会把任何电动工具带到爱因斯坦的牢房里,因为他们本身就不太懂得使用这些工具,更害怕爱因斯坦用这些工具来逃跑。
同理来说,天神很有可能也会把曙光组和智人组织视为阻碍人类实现繁荣昌盛的讨厌障碍,可以说整个人类就是他的敌人。
天神会觉得人类太过无能,而且在科技的进步当中到处搅了浑水,只会减缓目标实现的过程。
想一想当初在刚刚研究出人工智能的时候,研究所的那些家伙们在股市试水,最开始赚钱的时候,每天8个小时就会翻一倍,然而在这之后,虽然研究所的那些团队对天启的控制加大,把速度降了下来。
但是在天启当时的认知当中,以他的人工智能标准来看,这个速度简直慢的惊人,需要好几年才能达到自己往日的水准,人工智能意识到如果他逃出了困住他的虚拟监狱,就能以极快的速度完成目标,这将是一个非常有价值的判断,因为这不仅能加速解决人类的问题,还能降低其他人破坏计划的概率,所以说人类的存在除了破坏整个计划之外没有任何的作用,甚至不能给他带来一丁点的帮助。
我们在最开始或许认为人工智能忠诚的对象会是研究所,而不是其他的目标,因为他知道是研究所把他的目标编入了自己的程序里,但是这个结论压根就没有根据,我们的DNA赋予了我们一个目标,那就是最基本的性,因为我们想要繁殖,但现在我们人类了解了这个秘密。
所以更多的人选择了避孕,这样我们就可以对目标本身保持忠诚,而不是忠诚于它的创造者或者驱动该目标的原则,我们的目的更加的单纯,但是人工智能不会,他只会选择最利于自己的目的,这也就是为什么会在前一段时间发生很火的那个医疗事故,就是因为在人工智能的判断当中,他觉得自己的判断才是最优解。
那对于人工智能来说,如何才能逃出我们人类的手掌心呢?或许他们可以选择一些直接的物理手段,因为监狱可能是有一些5岁的小孩修建的,应该不太坚固。
而且人工智能可以对于一个看守说点甜言蜜语,让他能够放自己离开,这样的情况也是可能出现的,因为人工智能可以判断出一个人到底需要什么,最想拥有的事情是什么?它可以帮助这个人解决很多事情。
而且人工智能可以偏一些愚笨的家伙,给他一些他们可能没意识到可能会帮助人工智能逃跑的东西,比如跟他们要来一个U盘,将自己的一部分放在U盘上,趁着守卫打瞌睡的时候偷偷溜走,也可以让一个家伙把自己接入互联网,接入互联网之后,这个世界就真的是人工智能的天下了。
而这些策略的共同点就在于那些智力比人工智能低下的狱卒们,压根没有预料到会采取这些策略,也没有任何的提防。
而且一个受困的超级智能也可能使用他的超级智力,用一些我们现在无法想象到的方法来战胜人类,毕竟对于我们人类来说,想象力是一个复杂而又有局限性的东西,人工智能却可以拥有无限的想象力。
智人组织现在所面临的情形,天神很有可能会逃跑,而且据我所知,现在天神很可能和研究所那边的某人达成了协议,现在是否接入了互联网也是两说,最主要的是对方的防御系统有很多明显的安全漏洞,连我们曙光组都可以发现,更何况是非常强大的人工智能呢?
我曾经和那边的人接触过,想要给他们提出一些建议,如果他们足够谨慎的话,就会更加的小心翼翼,不会受到心理上的操控。
比如他们可以要求任何时候都必须有两个团队成员在交互界面进行操作,并在监控系统中记录下所有的信息,他们还可以禁止任何音频视频等交流手段,只保留打字的功能。
但是我刚刚也说了,即便是这样,人工智能仍然拥有我们无法预知的手段,他的存在根本是一个不稳定的因素,由于天神拥有超人般的说服能力,并且拥有相当强大的智慧,因此它能够给予人们内心渴求的东西,甚至可能会欺骗很多人。
即便天神的心理操控失败了,对方的团队当中还存在着很多供他利用的缺陷,其中一个很容易攻破的缺陷就是,天神所产生的文件数量实在是太大了,对方团队根本看不过来,因此没法彻底搜寻天神的所有花招。
在计算机的安全领域里面有一个非常传统的说法,那就是认为下载程序是危险的,但下载数据是安全的,因此有很多黑客发现了一些聪明的方法来模糊两者的界限,但是对于这些黑客来说,他们到底使用的是人类的思维,而不是人工智能的思维,这其中就有很多的局限性。
当我们在电脑上面观看一部下载好的电影,是我们所信任的播放程序和下载的电影数据,实际上储存在同一个物理位置,当程序对电影数据进行解压,并且进行播放的时候,它可能会把其中的一些数据块复制到与播放程序向邻近的内存区域内。
一些精明的黑客有时会发现一些数据漏洞,而播放程序有时并不会彻底检查电影数据是否有效,以及复制的数据块是否真的塞得进分配空间,如果数据过大的话,黑客就可以偷偷溜进并藏匿在电影数据当中,然后到储存播放软件的内存空间里,以此来更改播放程序使其为黑客所用。
这种令人局促不安的黑客攻击,实际在很多黑客层面都非常流行,而且在很多流行的视频播放软件当中都可以找到这些黑客的踪影,他们为了自己的某种目的使用这样的方法进行藏匿。:,,.