人工智能20年后会毁灭人类?

来源 :南方人物周刊 | 被引量 : 0次 | 上传用户:zap6872
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
  近日,韩国围棋国手李世乭和谷歌人工智能系统AlphaGo对弈,成为全世界的新闻焦点。围棋一直被视为棋类运动中最为复杂的一种,复杂到其排列组合数量甚至超过了宇宙中原子数量的总和,因此任何计算机系统都无法用穷举法(计算所有可能)来战胜人类,此前计算机围棋系统与专业选手对弈时几乎不堪一击。AlphaGo系统却在半年前成功击败了欧洲围棋冠军,并且在与李世乭的对弈中连续取胜。尽管这次对弈只是围棋上的对决,然而由于围棋一直被人类棋手所垄断,计算机对决人类顶尖选手并获胜本身就具备象征意义。公众开始担心,类似电影《终结者》中的天网系统,会不会在不远的将来出现,给人类造成毁灭性的打击呢?
  
  尽管无人机和无人战车已经开始在战场上普及,大量的武装无人机甚至承担了大部分针对基地组织等恐怖组织的打击任务。美军早已成立了专门的无人机作战司令部,来统筹各军兵种的无人机使用,这一切都意味着人工智能武器正在战场上普及。然而我们必须承认一个事实——无人战争时代还未全面到来。
  从李世乭对弈AlphaGo的第四局就可以看出,电脑系统在对方出其不意的攻势之下,出现了严重的系统紊乱。当这种情况出现时,系统的错误反应可能会导致战术上非常严重的失误,进而使全局失败。围棋对弈的确需要非常复杂的计算,然而与战场环境相比,围棋恐怕仍有所不如。
  从最近美军无人机曾经多次被伊朗成功击落或者俘获就可以看出,具备一定程度自主运作的无人机平台,实际上仍存在很多并未暴露的缺陷。只有通过高强度的对抗,无人作战平台的设计者才能发现这些漏洞从而提高整体的表现。然而从现在的国际环境来看,全球缺乏与美军势均力敌的作战对手,自然无法诞生这种足以提升无人作战系统能力的复杂环境。
  在现实中,美国空军甚至认为在反恐战场上的作战设定比军演更简单。这导致相关系统无法从实战中获得压力测试的数据,也就意味着系统很可能存在一些容易被人利用的漏洞。显然美国军方对此心知肚明,尽管无人机已经被广泛应用于战争,有人作战平台依旧是战场的主力。无人作战平台暂时只是承担了“打下手”的工作,例如长期的侦察监视和针对特定目标的攻击。全面战争还需要依靠战斗机、轰炸机等有人空中力量的支援。不仅类似无人机这种机器人的作战武器成熟度不足,即使是已经相当成熟的自动化防空系统,也还需要保持人工干预的能力。此前,在历次战争中自动化防空系统都出现过误击友军的情况。
  除此之外,还有所谓自动化的末日系统。早在苏联时代,曾有计划将核反击的任务完全交由计算机系统来完成,这样即便高层全部阵亡,苏联仍旧具备核反击能力。然而苏联人并不信赖这套系统,因为当时曾经数次出现因为计算机错误而几乎导致全球核战危机爆发。无论是人工智能还是自动化计算机系统,在武器装备的应用范围一直被严格限制和管控,从设计之初就保留了足够的人工干预接口,这不仅是对其发展的担心,同时也是避免其自身可靠性出现问题的必要措施。由此可见,在10年内出现天网这种系统的概率并不高,当然10年后的情况却很难说。
  美国军方正在研究使用大量无人机进行所谓蜂群(swarm)协同作战。与过去犹如孤狼行动的无人机相比,蜂群化作战等于让一个批次的无人机,自行协同作战。这些无人机不仅能分享各自获得的情报,并且能自动分配攻击目标的先后顺序,同时在部分被击落的情况下,剩余的机组仍能够继续完成任务。这种作战模式已经不仅仅是航空动力学的问题,还涉及到非常复杂的算法和更为高级的人工智能标准。尽管现在蜂群概念主要应用于小型无人机集群,然而这种模式一旦被证明成功,必然会被应用于更为大型的无人作战平台,将对战争的发展产生深远的影响。
  蜂群无人机作战概念的出现,其实说明了一个问题,无人机现在还不具备集群攻击能力,无人作战平台的技术还很原始。当然一旦蜂群作战系统试验成功,更为接近电影《终结者》中杀人机器人的武器也就真正出现了。好在经历了苏联“自动化末日系统”的惊悚教训,各国都不会把最为关键的毁灭性武器交给计算机掌握。而且蜂群模式现在还处于测试阶段,在不玩核战争的情况下,按照现有的人工智能技术发展,20年内还是无法毁灭人类的。
其他文献
我去了一趟波罗的海三国。从华沙坐巴士,晃晃悠悠地进入立陶宛,然后走了拉脱维亚和爱沙尼亚。3个国家的语言各不相同,甚至可以说差别很大。如果非要找到某个共同点的话,那可能就是它们都曾是前苏联的卫星国。  立陶宛的Zemaitija国家公园有一个巨大的天然湖泊,还有看上去简直没有尽头的原始森林。在林间漫步时,戴着耳机,听巴赫的钢琴组曲,经过沼泽和水泊,踏着遍布苔藓的泥土,感觉从来没有如此真切地感受到过音
【美】《纽约客》9月12日  死藤是南美亚马逊流域热带雨林中的一种药用植物,有致幻作用,受验者喝下用它浸泡的液体后,意识会发生不可思议的转换,进入物理学所描绘的“平行宇宙”。在那里,受验者看到许多半人半动物的生灵,同时听到这些生灵关于“光”和“爱”的教导。在南美当地,喝死藤水是合法的,主要目的是治病以及接收来自祖先和上帝的信息。而在美国,死藤的主要化学物质早在1970年就被列入了管制药物名单,使用
戈马可以说是近二十年来才建成的,在那之前,这里只是个又小又穷的镇子。为什么会有这座城,一是因为大批卢旺达的难民涌进来;二是因为老打仗,这个那个机构全部跑来搞人道关怀。这里就像一座大火山,呆在这里,不要想未来,甚至不要想明天,你不知道熔岩什么时候又喷出、不知道仗什么时候又开打  在位于戈马城中心的Hotel de Vesailles(名为凡尔赛酒店,其实是招待所)住下的第一晚,在雾气湿重的梦境中,我
永续的生意  两年前,随同本刊记者采访吕耀东时,曾提及约访其父吕志和——曾经的亚洲首富。未果。两年后,我从记者的文字影像中,弥补了过往的遗憾,又一个绅士般的商人呈现在我的面前。  那另一个,是三年前采访过的李嘉诚先生——亚洲首富。他们二人有太多的相似之处,连吕老都说李是“老大哥兼球友”,一个87岁,一个88岁,一个首富,一个二富,同因战乱来到香港,年少辍学始做生意,凭借勤勉节俭在战后迅速成长,伴随
10年后,李安又一次来到了上海电影节。跟上次专程为《色戒》看景、寻求上海方面的帮助、小心翼翼躲避风头不同,这次的李安是挟两个小金人莅临指导,照例是要留一点真知灼见的。  他参加了看题目就知道与个人风格相左的论坛,“票房即将超美,成为‘老大’还差几件事”,这么简单粗暴的表达方式真的不适合他。现场照片中,因江湖地位而被推到正中间位置的李安,头上刚好就是“老大”这两个字,他又是一脸惯常的谦虚到甚至有点委
“第35届香港金像奖最佳女主角——春夏!”  被刘青云念到名字的时候,春夏有点懵。她的圆眼睛睁得大大的,像只无辜的兔子。她陷在座位上,一只手紧握刚拿了最佳编剧奖的导演翁子光,另一只手抓着刚拿了最佳新演员和最佳男配角的演员白只。他们上台领奖时,镜头好几次捕捉到春夏的喜极而泣,现在轮到自己,她有点不知所措。这次和她一起提名的是汤唯、杨千嬅、林嘉欣、张艾嘉,她没想到得奖的是自己。  春夏几乎是蹦着跳上领
雅顿性格热情,不拘小节,因此更容易赢得公众特别是年轻选民和女性选民的好感  9月23日进行的新西兰大选有了最终结果,工党领导人、37岁的政治新星杰辛达·雅顿(Jacinda Ardern)在得票落后的情况下,在与其他小党派的组阁谈判中取得成功,从而将成为新西兰自1856年以来最年轻的总理。而这距离她出任工党党首,也才两个多月。  按照新西兰议会民主制的选举规则,选举日当天选民要作出两个选择:选择代
近日有俄罗斯媒体报道,俄罗斯正在就提供米-35武装直升机问题与巴基斯坦进行谈判。这个消息意味着俄罗斯对巴基斯坦的武器销售禁令已经取消,此前由于俄罗斯与印度军事关系密切,俄方一直禁止对巴基斯坦军售。尽管两国在某些方面存在着一定的合作,却并非传统军贸国家。  这次俄罗斯解禁军售之后,米-35直升机是否能够顺利进入巴基斯坦军队服役呢?我对此表示谨慎的怀疑,米-35直升机是基于米-24武装直升机升级改造而
打败他们,超越他们,这似乎是不断涌现的网坛天才们的共同“宿命”  6月5日,菲利普·夏蒂埃球场的观众都屏息等待着。随着穆雷在多拍激战中失误,德约科维奇兴奋地躺在红土场上,接受潮水般的掌声。在3次与冠军擦肩而过后,他终于如愿捧起个人职业生涯第一座火枪手杯,在纪录上比肩现役的球王费德勒和纳达尔。  德约科维奇由此刷新了一连串纪录:历史上第8位成就“全满贯”的男选手;自2015年温网始,连续揽走四大满贯
30岁那年,他放下了农耕的活儿,进了制香厂,在香灰弥漫的厂房里掷了一捆又一捆香。从此生活满是紫红、褐黄和闻一辈子都不会倦的香味,“这是老人们传下来的手艺,我丢不得,永春丢不得”  老人们常说:“清明前后,种瓜种豆。” 清明一过,雨量渐渐增多,万物皆醒,对农家来说,这是一年最好的时节。但制香工人齐亮(化名)最讨厌的便是清明。雨一大,香就没法晒,工钱也少了。没活儿的时候,他靠着墙默默念出杜牧那句“清明