linda

导语：英国《卫报》本周刊文，介绍了DeepMind及其创始人和领导者德米斯·哈萨比斯。DeepMind开发的人工智能系统AlphaGo将于本月挑战韩国顶尖围棋选手李世石。人工智能能否在全球最复杂的棋战中击败人类高手，这已经引起了全球的密切关注。那么，DeepMind和哈萨比斯是如何取得了今天的成就？
　　以下为文章全文：
　　德米斯·哈萨比斯(Demis Hassabis)看起来很谦虚，但当他对我说，他的使命是“解决智能问题，随后利用这一技术去解决所有一切”时，他显得非常认真。如果这种说法来自其他人，那么毫无疑问很可笑，但放在哈萨比斯身上，情况并非如此。哈萨比斯是一名39岁的前国际象棋大师以及一名电子游戏设计师。他的人工智能创业公司DeepMind于2014年被谷歌收购，当时谷歌的出价据称为6.25亿美元。他来自一个移民家庭，拥有剑桥大学和伦敦大学学院的计算机科学和认知神经科学学位。用同事的话来说，哈萨比斯是一名“有远见的”经理。哈萨比斯也承认，他已经找到一种方式，“让科学研究更高效”。他自称正在“领导21世纪的阿波罗项目”。放在大街上，哈萨比斯相貌平平，你可能不会想再看第二眼。不过蒂姆·伯纳斯-李(Tim Berners-Lee)曾表示，哈萨比斯是这个星球上最聪明的人物之一。
　　人工智能正在包围我们，我们使用的Siri以及Android语音助手即是如此。在短期内，谷歌的产品将会从哈萨比斯的研究中受益，即使个性化、搜索、YouTube，以及语音和面部识别技术并未被标榜为“人工智能”。而从长期来看，哈萨比斯的研究意义远远不止是情感机器人和更智能的手机，而受益者也不止是谷歌，以及投入数十亿美元、招揽大批博士从事人工智能研究的Facebook、微软和苹果等其他巨头。这将使我们的梦想成为现实，甚至实现我们难以想象的应用。


　　听起来，这一项目有着远大的目标。此前，许多人工智能系统都很“狭隘”：研究者训练预先被编程的人工智能主体，使其掌握某种特定技能，仅此而已。因此，IBM的超级计算机“深蓝”能击败国际象棋大师卡斯帕罗夫，但却无法在幼儿园游戏中胜过三岁小孩。哈萨比斯希望人工智能借鉴人脑，开发出首款“通用型学习机”。这将是单一的自适应算法，具备自学能力，只需获得原始数据即可从零开始掌握某项技能。这正是生物的学习方式。
　　这就是“通用人工智能”，而“通用”是其中的关键词。在哈萨比斯看来，未来超级智能机器将可以与人类专家携手合作，解决任何问题。他表示：“癌症、气候变化、能源、基因、宏观经济、金融系统、物理学，我们正试图掌握的许多系统都变得越来越复杂。我们正遭遇信息过载，因此即使是最聪明的人才穷尽一生也难以掌握所有一切。我们要如何分析这些数据，从中获得有用信息？可以这样看待通用人工智能：这可以自动将非结构化信息转换为可操作的知识对象。我们正在开发的可能是一种针对任何问题的通用解决方案。”
　　这一通用解决方案可能还需要几十年时间才能问世，但我们距离这一目标正越来越近。2015年2月，全球顶级科学期刊《自然》杂志刊登了一篇论文，显示“自学人工智能软件”已在电子游戏领域取得了“堪比人类水平的表现”。在这篇论文中，DeepMind描述了首个成功的通用“端到端”学习系统，其中的人工智能主体，即名为Deep-Q Network的算法，搭载在一颗GPU(图形处理单元)上。这一系统学会了如何处理屏幕上的输入信息，理解这些信息，做出决策并取得预想中的结果，从而成为了Atari 2600上一系列游戏的高手。这一突破震惊了科技界。
　　上月，DeepMind在《自然》杂志上发表了第二篇论文。在如此短的时间里连发两篇高质量论文本身就是一项了不起的成就。这一次，DeepMind选择的目标不再是70后和80后们熟悉的街机游戏，而是有着2500多年历史、曾经被孔子提及的中国古老棋类游戏：围棋。围棋对弈过程中的判断分支十分巨大：围棋可能的棋型总数超过宇宙中的原子数。与国际象棋不同，仅靠暴力计算无法让计算机成为围棋高手。更棘手的是，为围棋编写评价函数也不可能。评价函数是一系列规则，能告诉我们哪一方将获胜，以及胜出多少子(多少目)。围棋更多地需要依靠棋手的“直觉”。在被问到某一手为何这样下时，职业棋手的答案通常是：“感觉这样是对的。”


　　基于明显的原因，传统计算机很难做出这样的判断。因此在很长时间里，围棋都被认为是人工智能“悬而未决的最大挑战”。大部分研究人员都预计，我们至少还要10年时间，才有望让机器去解决围棋的难题。
　　不过，DeepMind最新的人工智能算法AlphaGo已在圈内得到了一些证明。AlphaGo在去年秋季的一场保密的五番棋比赛中，以5:0完胜三度欧洲围棋冠军樊麾，而本月即将挑战全球顶尖高手李世石。在英国帝国理工学院认知机器人学教授穆雷·沙那罕(Murray Shanahan)看来，这是一项“惊人的成就”。超人类主义哲学家尼克·博斯特罗姆(Nick Bostrom)也认为，这是一个“重要里程碑”。博斯特罗姆的著作《超级智能：道路、危险和战略》认为，如果通用人工智能成为现实，那么将是一个带来无与伦比后果的事件。借用谷歌工程总监雷伊·库兹韦尔(Ray Kurzweil)的话来说，这甚至将导致历史编写的断裂。在牛津人类未来研究所的办公室中，博斯特罗姆表示，AlphaGo的成就“使过去几年机器学习领域的成果变得戏剧化”。
　　哈萨比斯也认为“这很酷”。关于AlphaGo的成就，哈萨比斯在他的办公室里接受了采访。与往常一样，他穿着普通的黑色上衣、裤子和鞋。尽管谷歌收购DeepMind给他带来了大笔财富，但他的穿着看起来就像是个实习生。“围棋是棋类游戏的顶峰，从智力深度来看也最为丰富。围棋有趣而优美，令我们激动的是，我们不仅掌握了围棋，还开发出非常有趣的算法。”哈萨比斯认为，下围棋更多的是一种艺术，而不是科学。“AlphaGo以人类的方式去下棋。这一系统按照人类的方式去学习，并且会像你和我一样，在不断练习中取得提高。”
　　哈萨比斯看起来像一名学生，但他的骄傲之情又像是一名好学生的家长。AlphaGo是他职业生涯中取得的最令人兴奋的成就。“这比任何人的想象都要好一个数量级。”他断言，“但对我们来说最重要的一方面在于，这不是一个基于预设规则的专家系统。AlphaGo能利用机器学习技术，通过自我教学去掌握围棋。最终，我们希望将这种技术应用至现实世界最重要的问题，例如气候建模，以及对复杂疾病的分析。因此最令人兴奋的是，我们可以开始想象，这一技术下一步能解决什么问题。”
　　我首次见到哈萨比斯是在2014年夏季，即DeepMind被谷歌收购的几个月之后。自那时以来，我曾见过他在多种环境下工作，并在过去8个月时间里对他进行过3次正式采访。在这段时间里，哈萨比斯从谷歌的人工智能天才逐渐成长为善于表达的沟通者，能够以深入浅出的方式向非科学家的大众介绍自己的复杂工作，以及这些工作有何重要意义。他很擅长以娓娓道来的方式去分解描述DeepMind的方法，即对传统人工智能技术和新技术的结合。以围棋为例，DeepMind结合了传统的“树搜索”方法，以及模拟大脑神经元的“深度神经网络”，并巧妙地融合了多种不同人工智能技术。
　　对于DeepQ，DeepMind将深度神经网络与“强化学习”技术结合在一起。强化学习是所有动物采用的学习方式，利用了动物大脑中由多巴胺驱动的“奖励”系统。而对于AlphaGo，DeepMind更进一步，加入了用于处理长期规划的更深层次的强化学习技术。未来，他们将整合记忆等其他功能，使所有智能模块都做好理论上的准备。“我们的路线图已经设想了应当需要多少种能力。”哈萨比斯表示，“将所有这些不同领域整合在一起是关键。因为我们感兴趣的算法能够将针对某一领域的学习经验应用至新的领域。”

　　这种学习方式听起来有些像是人类本身。粗略看下哈萨比斯的简历，你可以发现他有着广泛的兴趣，从棋盘游戏、电子游戏、计算机编程，直到认知神经科学和人工智能。但实际上，他当前的职位有着极高的专注度。这综合了他的聪明才智以及他所遵循的纪律性。哈萨比斯8岁时就编写了自己的计算机游戏，13岁时获得了国际象棋大师的称号，17岁时开发了首款引入人工智能元素的电子游戏《主题公园》，20岁时在剑桥大学计算机科学系获得了两门学科优等成绩，不久后创建了自己的电子游戏公司Elixir，并完成了关于大脑海马体和情景记忆的前沿性学术研究，最终于2011年创立了DeepMind。
　　他承认：“我很容易感到厌倦，而世界是如此有趣，有许多很酷的事可以去做。如果我是体育运动员，那么我会希望成为十项全能选手。”实际上，他保持着一项世界纪录，即5次世界智力运动会冠军。
　　体育明星的荣耀并未吸引哈萨比斯。尽管他是利物浦的球迷，喜欢观看各种体育比赛，但早在4岁他就开始学习国际象棋。在一年时间里，他就可以参加全国比赛。而在不久之后，他也进入了国际赛场。很快，他就证明自己是一名智力天才。
　　哈萨比斯出生于1976年，父亲有着希腊和塞浦路斯血统，而母亲则出身自新加坡和中国人的家庭。他是家里三名孩子的老大。作为教师，他的父母也曾拥有一家玩具店。哈萨比斯的妹妹是一名作曲家和钢琴演奏家，而弟弟则专注于创造性写作。科技并不是家中的主旋律。“很明显，我就是家中的那只黑天鹅。”他开玩笑地表示。他用国际象棋比赛赢得的奖金先后买过一台ZX Spectrum 48K和一台Commodore Amgia。他甚至将后一台设备拆开，并学会了编程。“我的父母是技术恐惧者，他们并不怎么喜欢计算机。他们就像是波西米亚人。我的弟弟和妹妹都走了文艺路线。他们没有人关注数学或科学。”他耸耸肩，“因此，是的，这有些奇怪。我也不知道，我的这种个性从何而来。”
　　在谷歌收购DeepMind时，该公司的员工约为50多人。而目前，该公司聘请了来自全球45个国家的近200人，并占据了伦敦King's Cross一栋大楼的全部六层。哈萨比斯认为，他的公司应当扎根于此，而不是在压力下搬迁至其他地方，例如加州山景城的谷歌总部。
　　“我在北伦敦出生并长大。”他提醒我，“我非常喜欢这座城市。因此我坚持留在这里：我感觉，伦敦没有任何理由无法容纳一家世界级的人工智能研究机构。我很骄傲我们能留在这里。”DeepMind办公楼的所有房间都以人类历史上的天才来命名：特斯拉、拉马努詹、柏拉图、费曼、亚里士多德、居里夫人。那么，哈萨比斯是否是某人的粉丝？“当然。”他回答，“我曾读过几遍《弗兰肯斯坦》。将这些东西记在心里很重要。”
　　大楼的一楼有一家咖啡厅，一个红砖风格、带冰箱的会客室、桌上足球游戏机，以及在任何世界级大公司都可以看到的懒人沙发。而楼顶则是一个露天平台，可以看到漂亮的伦敦风景。


　　周五的晚上，DeepMind的员工会在楼顶举办聚会，小酌几杯。一名员工表示，这已经成为一种惯例，大家都希望在更高的兴致中结束一周的工作。社交是一种固有的生活方式，而DeepMind拥有自己的跑步协会、足球队，以及棋类协会。软木墙上贴着的照片显示，某一天，所有人都在争抢公用办公桌。整个办公室采用了开放式格局。在这里，我所见到的工程师(大部分为男性)看起来健康、愉快，很酷。空气中弥漫着知识的魅力。全球最聪明的人才都争相来到这里工作。而到目前为止，即使谷歌最大的竞争对手正在人工智能领域大举挖人，但DeepMind的员工离职率仍为0。
　　“我们非常幸运。”哈萨比斯表示。他将自己的工作比作上个世纪的阿波罗和曼哈顿项目。这两个项目的目标都极具突破性，并聚集了大量最优秀的人才。“每年，在每个国家，我们都有能力吸引最优秀的科学家。我们可以招来波兰物理奥赛的冠军，可以吸引法国顶级的数学博士。我们提出的概念比我们获得的研究者更多，但与此同时，想要加入我们的优秀人才也超过了我们的容纳能力。因此，我们非常幸运。唯一的限制在于，我们能容纳多少人，同时又不影响企业文化。”
　　DeepMind的文化不仅仅是懒人沙发、免费小吃，以及屋顶酒会。哈萨比斯表示，谷歌的收购并未影响他的研究路线，而他花了“很多时间去思考DeepMind作为一种算法的效率”。他认为，DeepMind“融合了最优秀的学术氛围，以及最令人兴奋的创业文化。公司有着令人难以置信的活力和热情，以推动创造性和进步。”
　　哈萨比斯多次提到“创造性”。他指出，尽管接受的是正规科学教育，但他也“很重视创造性和直觉”。“我不是标准意义的科学家。”他很认真地表示。DeepMind发展中的关键一环被他称作“胶水思想”：能够把握多个科学领域的通识型人才“将找到结合点，迅速确定有哪些前景不错的跨学科节点”。结合适当的评判标准，这些“胶水型”人才每隔几周就会去关注工作团队的情况，并以非常灵活的方式迅速调配所需的资源和工程师。“你会有一名非常聪明的研究者，以及与学术机构不同，3到4名不同领域的人才，立即拿起指挥棒，并加以他们自己的聪明才智。”哈萨比斯表示，“这将会迅速带来令人难以置信的成绩。”于18个月前启动的AlphaGo项目就是一个完美案例。
　　每天晚上，哈萨比斯都会搭乘地铁回家，与家人共进晚餐。哈萨比斯的家位于Highgate，距离他儿时的生活地点不远。他的妻子是一名意大利的分子生物学家，专注于阿兹海默症的研究。他们的两个孩子分别为7岁和9岁。哈萨比斯常常与他们一同游戏和读书，或是帮助他们完成家庭作业。用他的话来说：“以他们各自的方式来看，他们都很聪明，但他们似乎是两个极端，分别擅长科学和创造性活动。”
　　与其他孩子的父亲类似，哈萨比斯会抱孩子们上床。而到夜里11点，许多人都准备入睡时，哈萨比斯会开始他所谓的“第二天”。与美国同事之间的电话会议总是会持续到1点。在这之后将是他的思考时间，而他的这些思考常常持续至凌晨3点或4点。哈萨比斯表示：“这段时间里，我会进行自己的思考，包括我们的研究、我们的下一挑战，或是写一份算法设计文档。”
　　他表示，这与实际编程关系不大，“因为我的数学已经退化。这更多地关于直觉思考，或是关于公司战略的思考：如何扩大规模并进行管理。这也可能关于我当天读过的一篇文章或看过的新闻，以及我们的研究如何与其建立关联。”


　　我想到了AlphaGo。AlphaGo位于谷歌强大的云计算系统中，一直在不停的练习围棋，每天的每一秒都在自我改进，因为AlphaGo学习的唯一方式就是持续前进。
　　我问：“AlphaGo是否会休息？”
　　“不，没有休息！甚至圣诞节也不休息。”
　　我感到好奇：“它是否需要偶尔停下？”
　　“或许它会喜欢这样。”哈萨比斯说。
　　那么，哈萨比斯本人是什么样？他的一名同事告诉我，“完全是个超人”。他是否有可能被“切断电源”？哈萨比斯表示：“这很难。我从不会考虑工作与生活平衡的问题，这是同一块画布的不同部分。我喜爱阅读、看电影、听音乐，但这一切都会回到我所做的工作。”哈萨比斯是一名电影爱好者。他表示，近期人工智能影片《机械姬》的导演埃里克斯·加兰德(Alex Garland)是他的好友，而他近期刚刚与美国电影制片人布莱恩·格雷泽尔(Brian Grazer)有过会面，讨论的话题正是人工智能。
　　那么他的孩子、朋友，以及日常生活是什么样？“当然，我会努力让自己接地气，否则可能会有点发疯。关于孩子，很酷的一点在于，他们是唯一能够以同样方式消磨你精力的一件事。”
　　他和朋友们之间也有着密切联系。在伦敦大学学院攻读博士学位期间，他认识了DeepMind联合创始人施恩·莱格(Shane Legg)。他和另一名联合创始人穆斯塔法·苏莱曼(Mustafa Suleyman)是儿时的伙伴。哈萨比斯在剑桥大学读本科时认识了戴夫·希弗尔(Dave Silver)，而后者教会他多种棋类游戏。20年之后，希弗尔成为了DeepMind围棋团队的主要程序员，以及近期《自然》杂志论文的第一作者。“是的，我和戴夫的故事可以追溯到很久以前。”哈萨比斯笑着说，“我们曾经梦想在一生中去做这件事。因此，19岁时的我们就已经想到，我们可以做到这一步。”

　　话锋一转，他又表示：“如果说我没有正常生活，那么也是对的。在我醒来的每个时刻，这都是我思考的问题，或许在梦里也是如此。这很有趣、很重要，也是我最有热情的一件事。”
　　从他的眼睛里，我似乎看到了类似儿童的天真的光芒。“我感觉非常幸运，我无法想象比自己工作还要更有趣的问题。我每天都会去思考这些问题。每个时刻，我都在做自己真正坚信的事。否则，生命那么短暂，为何要去做这些？”
　　如果史蒂芬·霍金、比尔·盖茨、伊隆·马斯克、杰恩·塔林和尼克·博斯特罗姆等科学巨匠对人工智能的担忧成为现实，那么人类生命可能会更加短暂。科学家的担忧包括通用人工智能被武器化，以及人工智能的发展达到“技术奇点”，从而带来的“智能爆炸”。在这种情况下，机器将可以迅速自我优化，其智能程度将超过人脑，从而脱离人类控制。


　　如果超级智能正在临近，那么我们将无法以历史作为参考，而当我们需要停止人工智能的竞赛时可能为时已晚。罗伯特·奥本海默(Robert Oppenheimer)曾有过著名论断：“在看到技术上很有吸引力的东西时，你会去做。而只有在你取得技术上的成功之后，你才会讨论应该怎么去做。”在此之后的几十年，博斯特罗姆也曾表示：“如果说有一种方式可以确保超级人工智能不伤害人类，那么我们可以制造这样的智能。但如果无法做出这种保证，那么我们永远也不应制造这样的智能。”霍金近期则表示：“人工智能的开发成功将会是人类历史上最大的事件。但不幸的是，这可能也会是最后一个大事件。”
　　对于这些观点，哈萨比斯面无表情地说：“我希望不会这样。”在他看来，公众对通用人工智能的警示掩盖了人工智能近期能带来的帮助，是完全错位的。而时间跨度是其中的原因之一。“距离人脑水平的通用智能，我们仍有几十年的差距。”他提醒我，“我们才爬上了梯子的第一级，我们只是在玩游戏。”他承认，“我们现在就应当思考一些切实的风险”，但他认为，反乌托邦科幻小说中描绘的，超级智能机器人杀死人类的场景不太可能出现。
　　他同时指出，关于如何降低通用人工智能可能的危害，DeepMind的研究处于领先。与政府部门主导的阿波罗和曼哈顿项目相比，DeepMind受到的监督较少，但该公司的运营仍相对透明。该公司计划发布自己的代码，而在被谷歌收购后，该公司的技术也不太可能被军用。哈萨比斯的团队协助了2015年在波多黎各的一次人工智能研讨会的召开，他们在一封公开信上签名，承诺将把人工智能技术用于“正当目的”，同时“避免可能的误区”。他们近期协助组织了另一场在纽约的会议，并公布了内部的道德委员会和顾问委员会。
　　“哈萨比斯非常了解人工智能的安全问题。”穆雷·沙那罕表示，“他并不幼稚，也没有采取鸵鸟策略。”“在推动关于人工智能的对话，参与研究以应对长期挑战等方面，DeepMind是业内领先者。”博斯特罗姆也表示。
　　我让哈萨比斯列出，他认为的主要长期挑战是什么。“随着这些系统变得更复杂，我们需要思考如何进行优化，以及可以进行哪些优化。”他表示，“技术本身是中立的，但这是一个学习系统，因此问题不可避免。它们会受到设计者价值观和文化的影响，因此我们需要非常谨慎地思考价值观问题。”
　　对于超级智能，他表示：“我们需要确保制定正确的目标，这其中不能有任何模棱两可之处，并需要确保执行过程中的稳定。在我们的所有系统中，最顶层目标仍将由设计者制定。这可能意味着实现目标有多种不同方式，但目标必须一致。”
　　他的口吻令人放心：“这些挑战有趣但又艰难。与所有强大的新技术一样，人工智能的应用需要符合道德伦理，并承担责任。因此，我们目前正呼吁对问题的积极讨论和研究。在事到临头时，我们将做好准备。”


　　“事到临头”是指什么？这是否意味着超级智能的出现，或是人工智能胜过人类？哈萨比斯表示：“不不不，我的意思是，在这之前。”他可能是在开玩笑，不过2011年时他的同事施恩·莱格曾表示：“我认为，人类灭亡事件有可能发生，而技术可能在这一过程中扮演一定角色。”哈萨比斯澄清道：“我的意思是，当这些系统强大到不止可以玩游戏，我们可以让它们去解决更具现实意义、更重要的问题，例如医疗，这样的情况下。届时，我们需要确保，我们知道它们的能力究竟有多么强大。这是为了避免发生机器主宰世界的情况。”
　　哈萨比斯总是面带笑意。他非常友好，而语气总是很有说服力。他所说的一切似乎都很合理，不过目前也没有人能做出判断：或许通用人工智能将一直处于我们的控制之下。然而，许多人对此表示怀疑。“很明显，如果数字智能在所有方面都远远超过人类智力，‘辅助’将不再是一个准确的词汇。”马斯克近期表示。他认为，人工智能技术的发展可以比作“召唤恶魔”。作为SpaceX、特斯拉和PayPal的创始人，马斯克也是DeepMind最初的投资人之一。不过他的这笔投资并不是为了赚钱。“我并不关心为了投资而投资。”他在加州的办公室中说，“我向DeepMind投资的唯一原因在于更好地理解人工智能技术的进步和风险。如果我们对人工智能不够谨慎，导致一些可怕的事件发生，那么你的银行帐户将一文不值。”
　　“马斯克是全球最聪明的人士之一，和他对话总是很有意思。”哈萨比斯回应称，“我认为，像他一样的人士关注人工智能是一件很棒的事，因为这表明这件事意义重大。”他仍然维持着外交辞令，但很明显令他不快的是，其他领域的科学家自认为可以自由讨论人工智能的问题。毕竟，他也没有就粒子物理的发展随意发表言论。
　　“总体而言我认为，不从事人工智能工作的人无法完全了解这一技术。他们通常没有与人工智能专家沟通过，因此思路常常跑偏，因为他们的思考基于我认为错误的前提。”哈萨比斯表示。他再次强调，DeepMind已经成立了内部的道德委员会和顾问委员会，这些委员会的成员来自多个科学和哲学领域，他们将监督通用人工智能技术未来的应用。
　　目前，DeepMind的工作仍然没有公开，而哈萨比斯也为这一决定进行了辩护。他表示：“从来没有人尝试过这一领域，因此我们首先需要做许多探索性工作。随后，我们才能通过Twitter或其他渠道公布我们的进展，让公众对我们进行二次判断。”他表示，目前DeepMind仍处于发展的最初阶段，而关注重点是“让所有人都全速向前，使我们可以在下一阶段讨论实际算法和应用。对参与其中的许多人来说，这并不是他们的核心领域。我们希望获得他们的专业性，但他们需要更好地把握最新进展。”
　　关于“全速向前”意味着什么，哈萨比斯将霍金作为了一个案例。近期，哈萨比斯和霍金在剑桥有过一次私人对话。“能见到他是一场莫大的荣幸。”他掏出自己的iPhone给我展示当时的自拍照(尽管DeepMind已被谷歌收购，但他仍是iPhone的支持者)，“我们只安排了1小时的时间，但他提出了许多问题，最终我们谈了4个小时。他错过了午餐，因此他的随从对我很不满意。”
　　哈萨比斯指出，在这次会面后，霍金再也没有在媒体上发表过“关于人工智能的煽动性言论”。最令人惊讶的是，在上月的BBC Reith讲座中，霍金并未将人工智能列为人类的潜在威胁之一。哈萨比斯表示：“聆听业内人士的介绍，了解我们实际开发的系统以及我们可以做到什么样的控制，这或许带来了帮助。如果你理解工程细节，那么人工智能看起来将更容易理解，更合理。”
　　那么他是否认为，霍金已经转变了态度？“我认为，在我们讨论的最后，他感到非常肯定。他很有幽默感。在离开之前，我问他：‘那么你的看法是什么？’他表示：‘我祝你好运，但好运别那么多。’”哈萨比斯带着轻松的微笑说，“我想，‘我会把这个当作一次胜利’。”(维金)