《流浪地球》:智能指控系统反叛的风险预警_熔火恶犬坐骑怎么获得

包晓琳

2019-06-14

跨城拼车软件哪个好《流浪地球》:智能指控系统反叛的风险预警_葬格

亿芭利

光冈

《流浪地球》:智能指控系统反叛的风险预警_熔火恶犬坐骑怎么获得

  【《流浪地球》中的“硬核”军事科技】  编者按:  行星发动机、重元素核聚变、单兵机械骨骼、加特林机枪……近日,正在热映中的国产科幻电影《流浪地球》不仅让科幻圈为之疯狂,也在军迷圈掀起波澜。即日起,《科普中国-军事科技前沿》推出系列作品,解读《流浪地球》中的“硬核”军事科技,欢迎关注。

  出品:科普中国  作者:贾珍珍(国防科技大学)  策划:赵清建  监制:光明网科普事业部  有人说,这部春节期间口碑爆棚的《流浪地球》开启了中国科幻电影的新纪元。

这种说法尽管有些夸张,但却体现出人们对国产科幻电影的美好期待。

影片以人类推动地球逃离太阳系为大背景,从一个小人物视角,展现出了平凡人在危机下的无力与脆弱,以及绝境下社会与人性的改变。

《流浪地球》中的人工智能MOSS(图片来自网络)  在影片中,空间站的人工智能——MOSS的一句台词令人影响人深刻:“让人类永远保持理智,确实是一种奢求。”这是在刘培强与MOSS产生冲突并决定要牺牲自己点燃木星时MOSS留下的一句台词。

此外,从《流浪地球》中MOSS的决策,我们还能看到人与智能指挥系统之间存在的矛盾,如为什么地震时地球发动机大面积熄火?为什么刘培强在和联合政府通讯时说“没有人类的文明将豪无意义”,却立刻被MOSS切断了通话?那么,MOSS是否真的叛逃?而一旦智能指控系统产生了自我意识,在未来战争中,这将会带来哪些影响?事实上,不少科幻电影已对智能指控系统的威胁展开了讨论。

如电影《机械公敌》中原本以保护人类为使命的机器人出现集体失序,对人类展开了残暴攻击,《西部世界》中机器人的内部系统不断进化,最终反叛并伤害人类。

  雷库兹韦尔曾提出有关人工智能的“技术奇点”理论,它的背后有两个假设:其一,虽然不同于人脑的结构,但机器人的演进也可以在某一天拥有“类人智能”,这种智能与人类智能有许多相似的特征,甚至是“自我意识”也不例外;其二,按照计算机科技发展目前遵循的“摩尔定律”或别的规律,随着计算机科技的不断发展,终究有那么一天计算机的复杂度会达到和人类一个量级的水平,到那时,类人智能或超人智能就会从机器中自动涌现出来。

按照这种假设,我们可以依据智能指控系统的特点,将其分为“人机协同”式和“机器自主”式两种类型。

  一是“人机协同”式智能指控系统,它主要通过智能化武器装备与人的充分配合来完成特定作战任务。

比如俄罗斯陆军在2016年底进行了“排级分队带机器人实弹射击”演练,当时安排了5部“平台-M”作战机器人与士兵协同配合展开攻击行动。

美军提出“忠诚僚机”作战思想,通过F-35战机飞行员对无人驾驶型F-16战机进行指挥与控制,而僚机则充当传感器、射手或诱饵,并以此设想为基础来迭代式不断探索未来空战和对地攻击新战术。

  二是“机器自主”式智能指控系统,它主要开发智能化武器装备的自主性,一旦有了这种自主性,其就能领会指挥员的决策意图,自主完成相关作战任务。

如俄军正在研发的无人机群“任务智能分配系统”,可以根据战场环境来合理分配“角色”,迅速制定并实施最优行动方案,且能自主完成“行动-评估-再行动”作战闭环。

再如美军的“蜂群战术”,通过智能化组网大量低成本无人机蜂群,接替单个高成本多任务平台,并依托多智能体的自主协同行动,从而迅速适应复杂战场环境。

  在影片《流浪地球》中,MOSS指控系统无疑属于“人机协同”式智能指控系统。

然而,由于目前人工智能技术的发展局限,智能指控系统容易在执行程序复杂的情景中出现失序,比如美军在伊拉克战场上的军用机器人失控事件。

而无论是“人机协同”式智能指控系统还是“机器自主”式智能指控系统,过度依赖人工智能无疑增强了指挥系统失控的风险性,这就如同把枪交付给了机器人,而当机器人不听从人类指挥时,枪口对准的对象将可能是战争中的任何一方。

因此,在发展军事智能化的同时,必须始终将人置于主体地位,保证人类指挥员对系统的控制权,并建立应急预警机制与意外发生时的后台程序,这些都极为必要。

  在目前已知的浩瀚宇宙中,只有一个星体演化出了智慧,这个星体叫做地球。

在目前已知的地球生态系统中,只有一个种群拥有智慧,这个种群叫做人类。

人类文明因智慧“善”用而进化,人类文明也因智慧“滥”用而毁灭。

科幻作家艾萨克·阿西莫夫曾说:“在我们这些真正无所不知的人眼中,那些自以为无所不知的人就是一个巨大的麻烦”。

人工智能向何处去?人类社会向何处去?这考验着人类的智慧。

  划重点  由于目前人工智能技术的发展局限,智能指控系统容易在执行程序复杂的情景中出现失序,比如美军在伊拉克战场上的军用机器人失控事件。

而无论是“人机协同”式智能指控系统还是“机器自主”式智能指控系统,过度依赖人工智能无疑增强了指挥系统失控的风险性,这就如同把枪交付给了机器人,而当机器人不听从人类指挥时,枪口对准的对象将可能是战争中的任何一方。

[责任编辑:赵清建]。