我们能驯服人工智能这匹马吗?

人工智能就像我们所能驯化的最强战马,而我们至今还没找到真正能束缚它的缰绳。

image
image
image

2017 才刚开年,围棋棋手们过得就有点糟心。

2016 年 12 月 29 日深夜,一个名叫 Master(p) 的账号横空出世,在围棋对弈网站弈城网上连挑多名中韩顶尖职业棋手,取得三十连胜。2017 年 1 月 2 日,Master(p) 转战野狐网,职业棋手再次纷纷赶来邀战。截至 1 月 3 日,Master(p) 已五十连胜。日本第一人井山裕太、韩国第一人朴廷桓,以及中国暨世界第一人柯洁,都败在这个神秘账号手下。

棋手们研究半晌,只得出一个结论——这货肯定不是人!理由一,它能超高强度连续作战。理由二,偶有天外飞来的怪招,与人类惯常走法截然不同。有一次是在著名“大雪崩” 定式下走了个前所未见的变化,另一次是在开局阶段就走了通常被认为是 “昏招”的点三三。当然,这两次它都笑到了最后。柯洁叹息说,“人类数千年的实战演练进化,计算机却告诉我们人类全都是错的。”

Master 最终以 60 胜 0 负 1 平的战绩横扫人类,其中包括目前中日韩的围棋 No.1 职业九段以及聂卫平、常昊等老将。随后,谷歌承认 Master 的背后正是 AI 机器人 AlphaGO。

围棋曾被视为顶级智力的试金石、AI 无法攻占的人类智能堡垒,现在这个堡垒正在陷落。我们正在制造超级智能,而并没有十足把握能控制我们将造出的东西。牛津大学哲学家尼克波斯特洛姆(Nick Bostrom) 在《超级智能》里打了个比方说,人类就像手握正在滴答作响的炸弹的孩子——而且这样的孩子不是一个,而是很多,每个人手上都拿着独立的引爆装置,每个炸弹都有杀死全部人的威力,而无人愿意放下。

因为上一次无意中放下类似“炸弹”的美洲土著人,他们的结局可不怎么好。时光倒流五百年,1532 年 11 月 16 日,西班牙殖民者弗兰西斯科·皮萨罗(Francisco Pizarro)在秘鲁的卡哈玛卡遇上了印加帝国国王阿塔瓦尔帕(Atawallpa)。皮萨罗远道而来,手下只剩 106 名步兵和 62 名骑兵;阿塔瓦尔帕则带着八万大军, 身边直接簇拥着六千名装备着棍棒、 战斧和石器的士兵。

这场会面的结果是,皮萨罗打垮了人数超过自己 500 倍的敌人,俘虏了阿塔瓦尔帕。这场战役西班牙人为什么能以少胜多?美国演化学家贾雷德·戴蒙德(Jared Diamond)将原因归功于二者:一是钢铁,二是马。 西班牙人的铁甲钢盔能有效防御,钢刀长矛又能迅速杀伤,而战马不仅能撞人踢人,它带来的冲锋力量、进攻速度、保护性和机动性更是让印加人束手无策。

但为什么印加人没有马呢?

要回答这个问题,时光得倒流一万三千年。考古研究表明,美洲的多数大型野生哺乳动物在那时就已经灭绝了,可能因为当时来到美洲的智人稍微放纵了一点点,过度捕猎也好,过度毁坏动物栖息地也好,总之,美洲在那时候就失去了潜在的可以驯化的骆驼和马。

当欧亚大陆上的人在六千年前开始驯化马的时候,美洲人则痛苦地发现,全世界的动物虽多,但真正能带来巨大利益的可驯养动物只有几种而已——首先平均重量得超过 45 千克,太小不可能骑乘。其次,必须是草食或杂食动物, 纯肉食养不起。三要生长迅速,长得太慢的大象就不够实用。四性情相对温和,不会动辄杀人。五要情绪平稳,不像羚羊那样易于受惊又难以安抚。六要愿意群居,且习惯服从首领。七要愿意在圈养中交配繁殖,没有特别麻烦的求偶过程。能满足以上全部条件的动物并不多,像马那样能成为征战利器的更是少之又少。有些机会一旦失去,就再不会有了。

而今天出现的“可驯养”的人工智能,让每个人都想把它抓到手里。

这其实已经是人类第 6 次尝试制造机器智能,前 5 次失败的原因很类似,就是只要系统基础假设中出现任何一个微小的错误,就会让最后结果谬以千里。而这一次,模仿人脑的神经网络和遗传算法成功克服了这种缺陷。新一代的人工智能不会被小错绊倒,相反,不论对错,只要得到反馈, 它就能不断学习持续成长,自发找出隐含规律,让自己的功能再上层楼。

唯一的小问题是,我们不知道它现在到底学到了什么。人工智能就像我们所能驯化的最强战马,而我们至今还没找到真正能束缚它的缰绳。

1965 年,阿兰·图灵密码破译小组的首席统计师古德将超级智能机器定义为“超越所有聪慧人类智能活动的机器”,而由于这种机器智能已经超越了人类,因此能造出比人类所设计的自身更好的机器......结果就是将出现 “智能爆发”。古德说,“第一台超智能机器将是人类创造的最后一台机器——假如这台机器足够听话还愿意告诉我们怎样控制它。”

撰文:游识猷

遗传学硕士、果壳网主笔、科学松鼠会前主编、中国科普作家协会会员。关注生物、健康、环境领域的前沿进展。

编辑:徐佳

插画:文嘉

广告 - 内容未结束请往下滚动
更多 From 世界