【人类的未来就交给你了】生命3.0时代 把人类的未来交给机器有什么不好?

2019-11-09 - 人类的未来

当然,这是科幻作品中反复出现的问题。但随着AI成为科学事实,这个问题有了不同的意义,也更加紧迫。泰格马克觉得,我们应趁现在审视围绕AI展开的种种议题,以及它引致“超级智能”的可能性。

如果未来几十年可能会有极其重大的事情发生,现在就是开始准备的最佳时期。

【人类的未来就交给你了】生命3.0时代 把人类的未来交给机器有什么不好?
【人类的未来就交给你了】生命3.0时代 把人类的未来交给机器有什么不好?

携手Skype联合创始人詹·塔林(Jaan Tallinn),并凭借来自科技亿万富豪伊隆·马斯克(Elon Musk)的资金,他创立了生命未来研究所(Future of Life Institute),致力于研究人类面临的生存威胁。

研究所位于马萨诸塞州剑桥,泰格马克在该地的麻省理工学院(MIT)担任教授。牛津大学有一个与之类似的人类未来研究所(Future of Humanity Institute),创立者是同为瑞典人的尼克·博斯特罗姆(Nick Bostrom)。

【人类的未来就交给你了】生命3.0时代 把人类的未来交给机器有什么不好?
【人类的未来就交给你了】生命3.0时代 把人类的未来交给机器有什么不好?

泰格马克还动笔写起了一本书,这本书于近日出版,名为《生命3.0:人工智能时代的人类》(Life 3.0: Being Human in an Age of Artificial Intelligence)。因为写过像多重宇宙这类高度理论化的深奥概念,对于有根据但仍充满想象的观点,泰格马克可谓游刃有余。

要看清AI很难,因为它深陷迷思与误解之中。为解决这一“形象”问题,泰格马克细致地解析了AI所涉及到的概念——智能、记忆、学习、意识,然后加以解释,揭开它们的神秘面纱。

【人类的未来就交给你了】生命3.0时代 把人类的未来交给机器有什么不好?
【人类的未来就交给你了】生命3.0时代 把人类的未来交给机器有什么不好?

但在接受电话采访时,泰格马克一开口,就迫不及待地要厘清AI“不是”什么。

“我觉得,好莱坞让我们搞错了担心对象,”他说,“机器产生意识与恶意,这一点有些误导性。先进AI真正堪忧的不是恶意,而是权限。如果你有一个超智能AI,那么按照定义,它应该极其善于达到目标。但我们需要能放心地相信,这些目标与我们的目标是一致的。”

【人类的未来就交给你了】生命3.0时代 把人类的未来交给机器有什么不好?

“我不讨厌蚂蚁,但如果你让我负责建造绿色能源水力发电站,而那里正好是蚁山所在地,那只能算蚂蚁们倒霉了。我们不希望自己像这些蚂蚁一样。”

《生命3.0》远非针对AI的控诉声讨。其实,它更多地是对超级智能潜力的称颂。然而,什么是超级智能?什么是智能?泰格马克将其定义为“实现复杂目标的能力”。因此,计算机可以算是智能,但智能程度有限。

在特定领域内,计算机的信息处理能力已经远超人类。就比如国际象棋领域,现在,世界上最好的棋手也不是计算机程序的对手了。但要是换成井字棋,这个程序就百无一用,连小孩都比不过。

人类,哪怕是年幼的孩子,都具备一种广泛适用的通用智能,而计算机不论处理能力多么强大,都局限于规定的任务之内。

日本三越百货的商厦内,一位顾客对着东芝人形机器人Aiko Chihira拍照

因此,计算机的智能程度是由人类决定的。但随着我们迈入AI世纪,情况正开始改变。谷歌AI子公司DeepMind已经有计算机通过试错不断自学的例子。

到目前为止,这种能力只在电子游戏和围棋中有所展现,但拓展到其他媒体是可以想见的事。拓展到了一定程度的话,它就有可能深刻地影响我们对自身、对生命以及其他众多根本性问题的看法。

为考察这些问题,泰格马克创建了一种起到定义作用的语境,一个由不同发展阶段构成的网格。首先,他回溯到最原始的生命形式,诸如细菌等,并称之为“生命1.0”。从生物学意义上讲,这是一个十分简单的阶段。在这个阶段内,生命就是复制,适应只有靠进化才能实现。

“生命2.0”又称文化阶段,亦即人类所处的阶段:能学习,能适应不断变化的环境,并能改变环境。然而,我们还无法改变生物遗传的作用。

泰格马克用硬件和软件作了个比喻:我们可以设计自己的软件——我们“行走、阅读、协作、计算、唱歌、讲笑话”的能力——但我们的生物学硬件(脑和身体)则受制于进化过程,因此,必然受到约束。

第三个阶段,“生命3.0”,就涉及到技术了。这一阶段的“后人类”除了能重新设计“软件”,还能重新设计“硬件”。泰格马克写道,这种形式的生命是“自身命运的主宰,终于完全摆脱了进化的枷锁。”

这种新的智能将永生不朽,而且能分布到全宇宙。换言之,它还是生命,但已经“面目全非”。

然而,它还能算是生命吗?或是变成了别的东西?对于这些生物学上的概念,物理学家出身的泰格马克并不会太过多愁善感。

他是个唯物主义者,在他眼里,地球以及宇宙是由粒子组成的,它们以各种不同的排列,实现高低不等的活动水平。在他看来,会腐朽的生物学生命和自我延续的智能机器之间,并没有重大的或道德上的区别。

泰格马克为生命3.0描绘了一个有着无限可能的未来,有时,他的文字近乎奇幻,乃至洋洋得意;但他也是个理论家,试图设想大多数人都无法想象或难以接受的内容。

简而言之,我们正处在AI的早期阶段——我们已经有自动驾驶汽车、智能家居控制单元和其他自动机。但如果趋势持续下去,我们就有理由认为,总有一天——30年、50年、200年后?——计算机将企及通用智能,在各个方面比肩人类。

计算机一旦迈上这一台阶,就会开始突飞猛进,因为它们会动用前所未有的处理能力,来进一步提升处理能力。这就是博斯特罗姆在2014年出版的《超级智能》一书所陈述的观点,而随着智能(或言“达到复杂目标的能力”)的大规模拓展,其结果自然是超级智能——我们只能揣测的一个奇点。

然而,超级智能并非不可避免。很多业内人士认为,计算机永远无法企及人类智能,即便能够企及,届时,人类也已经完成生物学层面的适应。但是,超级智能要是真能实现,泰格马克认为,我们就必须认真对待了。

“如果未来几十年内会发生极其重大的事件,那么我想,现在是开始准备的最佳时期,以便让它对我们有利。要是30年前我们就开始为气候变化做准备,那该多好。”

和博斯特罗姆一样,泰格马克也认为,AI发展的事态比气候变化更加迫在眉睫。然而,如果说我们创造的是人类无论如何都无法理解的智能,那么在奇点到来之后,我们现在的准备又能起到多少作用?如果一种智能超越了我们的想象,我们又该如何管制它呢?

泰格马克承认,针对这个问题,目前没有人能给出答案,但他认为,还有很多任务是我们需要优先处理的。

“在担心超级智能带来的长期挑战之前,我们还有很多短期问题需要解决。不要因为达不到完美,就放弃追求。在任何情况下,我们都不会希望飞机撞上高山或者大楼,这一点我们都同意。当初安德烈亚斯·路比茨(Andreas Lubitz)下令飞机自动驾驶系统下降100米,计算机竟然同意了(指德国之翼航空9525号航班空难)!”

“计算机对人类目标的好坏毫无头绪。虽然凭借现在的技术,我们可以建造这样的飞机:只要驾驶员试图撞向什么东西,飞机都会进入安全模式,锁住驾驶舱,在最近的机场降落。我们今天就应当给这些机器输入这种幼儿园级别的是非观。”

在此之前,我们还有更加迫切的工作要做,泰格马克说。“如何将今天漏洞百出、可被入侵的计算机转变成可信的AI系统?这一点尤为重要。我觉得,这个社会在这方面太草率了。而世界各国的政府应该将其作为计算机科研的重要组成部分。”

他认为,放弃人工智能研究,以此防止超级智能的崛起,这种做法很不靠谱。“2017年比石器时代优越的每一个方面,都是拜技术所赐。而技术一往无前,没人说要阻止技术。问一个人是反对还是赞成AI,就好比问人是赞成还是反对火,这是非常愚蠢的。我们都喜欢火炉的温暖,也都想防止纵火事件。”

在这个例子中,“预防纵火”的任务已经落到我们头上。泰格马克指出,我们即将展开一场自动化致命武器的军备竞赛。最近,俄罗斯总统普京就表示,谁掌握AI,谁就能“统治全世界”。

去年11月,联合国展开了一场会议,探讨能否通过国际公约,像禁止生化武器一样禁止这类武器。“AI社群极力支持这一倡议,”泰格马克说。在技术层面上,“一架用于暗杀的无人操控无人机和一架亚马逊送货无人机,”两者几乎没有差别。

BAE Systems的Taranis无人操控隐形飞机原型,被称为“首驾无人操控的无人机”

“未来十年还有一个大问题,那就是工作自动化。很多领先经济学家认为,不平等现象的加剧造成了英国脱欧和特朗普当选美国总统,而不平等问题本身则受到了自动化趋势的推动。如果政府能将机器创造的财富重新分配,使所有人都能受益,那么大家的日子都会好过一些。”

在这个方面,泰格马克认为,凭借对自由市场的推崇,以及国家医疗服务体系(NHS)和福利国家的历史,英国也许能起到带头作用,充分利用企业创新,为国民谋福利。这种观点的问题在于,虽然很多AI研究都由俄罗斯和中国带头,但最主要的进展都来自美国或美国公司——而历来,美国社会对不平等问题都不是特别在意。

在书中,泰格马克称扬谷歌的拉里·佩奇(Larry Page)——地球上最富有的人之一,说他有可能成为史上最具影响力的人物:“我猜测,如果在我有生之年,超级智能数字生活能够席卷全宇宙,那会是由于拉里·佩奇的决策所致。”

他对佩奇的描述就像他对马斯克的描述——深思熟虑,真心关心人类困境。这话不假,但作为一名商人,佩奇最关心的还是利润,以及如何超越竞争对手。就目前而言,太多的决定权都掌握在科技亿万富豪的手里,而这个群体根本不能代表普通大众。

在我看来,虽然AI的直接问题本质上都是技术问题,或者说具体操作问题,但日后很多问题的本质都更偏哲学理念。泰格马克罗列了可能出现的若干种不同后果,其中既有反乌托邦极权主义,也有善意的机器统治。

“要认识到,智能就是权力,”他说,“我们能驾驭老虎,不是因为我们肌肉比老虎粗壮,或是牙齿比老虎尖利。而是因为我们比老虎聪明。地球很可能被一种更强大的力量所控制:要么是有些人借助先进AI,独掌大权,为所欲为,要么是机器智能超越人类,接过控制权。

这不一定是坏事。孩子并不介意和更加智能的人类(也就是爸爸妈妈)共处,因为父母的目标和他们的目标是一致的。AI也许还能解决人类所有的棘手问题,帮助人类实现前所未有的繁荣。”

但这样一来,人类的自我意识不就彻底改变了吗?人们将仰赖更加高级的行动者来照顾自身。人类不再是塑造这个世界的主要力量。

2016年9月,智能安保机器人AnBot(“深圳小安”)在深圳宝安机场投入巡逻任务

“没错,”他笑着说。“但当今世界的很多人本来就已经接受这个现实,而且还挺乐意。宗教信众们认为,有一种更加强大而智能的存在关照着他们。我认为,我们真正要戒掉的是这种傲慢的想法,也就是将自我价值建立在错误的人类例外主义之上。若能谦逊一点,认为还有比我们更加智能的存在,不过没有关系,我们的自我价值来自其他的东西,比如与其他人类建立深刻的情感联系,以及鼓舞人心的经历。这样的话,人类的处境会好很多。”

在这些时候,泰格马克听着不像个铁杆的唯物主义物理学家,倒像是嗑了药的“新纪元运动”教授,花了太多时间思索宇宙问题。催生这些机器的现代项目源于这样一种信念:上帝是人类发明出来的,而我们已经不需要这种发明。如果我们最终又发明出新的上帝来取代旧的,这岂不成了历史的讽刺?

泰格马克笑了。“我觉得,在AI时代,我们也需要一点幽默感和对讽刺的欣赏。我们之所以自诩为地球上最智能的生物,就是因为我们能构建这些高级的技术,而这些技术恰恰又会让我们的这种地位不保。”

通过调研与著书,比起当初在南肯辛顿博物馆外落泪那会儿,泰格马克变得乐观了许多。但这种乐观并不是因为没有担心的必要。而是他认为,要保证结果对自身有利,我们就得采取行动。他说,民众和政府一样,都得将注意力转向不远的未来,准备合适的安全工程学,并想清楚一个问题:我们想要创造一个怎样的世界?

那么,如果能在去年11月的联合国会议上发言,泰格马克会说些什么呢?

“请资助AI安全研究;禁止自动操控的致命武器;并拓展社会服务,让AI创造的财富造福所有人。”

未来的路上将一如既往地充满无法预见的后果,这些后果都是今天的作为或不作为所导致的。但采纳上述三点至少是迈出了坚实的一步,使未来不再那样堪忧。

相关阅读
  • 【人类的未来简史】畅想人类的未来作文700字

    【人类的未来简史】畅想人类的未来作文700字

    2019-11-09

    导语一个支点,撬动一个地球一份理想,辉煌整个生命。坚定自己的理想,为未来奋斗吧!以下是小编为大家精心整理的作文,欢迎大家阅读参考!世纪的钟声刚刚敲响,人类正在欢呼庆祝的时候,星际医院来了一位不速之客mdashmdash地球。

  • 【人类的未来结局】人类的未来充满无限可能

    【人类的未来结局】人类的未来充满无限可能

    2019-11-09

    《命运石之门0》的问世,自然是缘于前作《命运石之门》。在原作者志仓千代丸看来,观众基本都对《命运石之门》心怀这样的企盼,尽管历经种种磨难周折,但冈部伦太郎还是设法抵达了,能够奇迹般同时拯救红莉栖和真由理的“命运石之门世界线”。

  • 人类的未来在哪里?

    人类的未来在哪里?

    2019-11-09

    物质存在电磁力,同一种物质介质相互吸引,不是同一种物质介质相互推。多的物质会把少的物质推成圆球,因为两种物质都在推,而且同一种物质任何一点推力都一样大。推力又称为反推力反推力是很均匀的力。被推成球型的物质任何一点向外发出推力都一样大。

  • 【私有制不是人类的未来】畅想人类的未来

    【私有制不是人类的未来】畅想人类的未来

    2019-11-09

    21世纪20年代,人类社会进入了前所未有的和平发展时代。让我们看一看那时的博物馆是什么样子的吧!那时的博物馆是典型的绿色环保建筑。它通体是由玻璃建造的,高高的穹顶上是一个硕大无比的风车。配合风车一起给博物馆提供电能的。