AI引发伦理担忧 科技巨头正在着手解决

　　权力越大，责任也越大。在机器学习与AI领域，先锋企业开始谈论创造“智能作品”时所面临的伦理挑战。

　　微软研究院总经理Eric Horvitz认为：“我们已经走到了AI拐点，随着时间的推移，利用AI保护我们是一项道德责任。”

　　Eric Horvitz与IBM、谷歌的研究人员讨论了该问题。大家普遍存在一个担忧：领先公司将软件放置在控制人类的位置上。

　　IBM研究人员Francesca Rossi举了一个例子，比如机器成为老年人的助手或者同伴。她说：“机器人必须遵守文化规范，这一规范是以文化和任务为核心的。如果你将机器人用在美国或者日本，二者的行为会存在很大的不同。”

　　这样的机器人可能离现实还有些遥远，不过AI引发的伦理问题已经出现。现在企业和政府越来越依赖机器学习系统作决策，技术上存在的“盲点”和“偏见”可能会使得部分人群受到歧视。

　　Eric Horvitz举例说，微软曾经开发一套情绪感知系统给企业使用，不过对小孩来说系统不精准，因为系统是用大量没有经过修饰的照片训练的。

　　谷歌研究人员Maya Gupta认为，产业应该更加团结一些，一起建立一套程序，确保用来训练算法的数据不会遭到曲解。Maya Gupta还说：“许多时候，这些数据是以自动化方式创造的。我们必须三思而行，必须为弱势团体制作足够多的样本，确保工作出色。”

　　过去一年，在学术与产业领域，AI、机器学习碰到了很多伦理挑战。加州大学伯克利分校、哈佛大学、牛津大学、剑桥大学都成立了项目或者机构，研究AI伦理与安全。2016年，亚马逊、微软、谷歌、IBM、Facebook合作成立一个非盈利组织，名叫“Partnership on AI”，后来苹果也加入了组织。

　　谷歌研究人员Maya Gupta鼓励大家思考一个问题：是否能够将某些决策从人类的手掌中解放出来，从而让世界更有道德?她说：“机器学习是可以控制的，是精准的，是可以用统计数据测量的。想获得更公平、更道德的结果，可能的方法很多很多。”

　　微软：想帮助企业，AI的适应性还不是很强

　　AI如果想从硅谷散播出来进入其它产业，需要的时间可能比预期更长。

　　微软研究部门副总裁Peter Lee在会上表示，对于科技巨头来说，富有价值的高端机器学习系统还不完美，企业如果想将它提供给客户使用，在灵活性、成本上还存在障碍。

　　Peter Lee称：“将机器学习和AI概念应用于企业，我们现在还处在中间点。AI技术还不是很实用，我们有一支骨干队伍，规模很小，费用很高，他们正在开发定制解决方案。”

　　在谈话中Peter Lee举了微软用AI工具帮助销售员完成交易的例子。他悲伤地说：“我最想做的就是将工具卖给世界上的其它企业。”不过现在还做不到，为什么?因为每一个新企业如果想使用必须定制，过程很麻烦。

　　要用AI开发软件，让它理解并适应特定企业的需求和条件，这可能是一个方法。不过Peter Lee指出，根据微软的经验，要让软件从真实世界中学习，现在技术还不是很成熟。

　　微软曾经开发一个聊天机器人，并且放在Twitter上，很快机器人就学会了“种族歧视”语言。微软还开发了翻译系统，它可以分析在线文本，结果它将“Daesh”译成英文之后变成了“Saudi Arabia”(沙特阿拉伯)，Daesh本来只是伊斯兰国的阿拉伯名字。

　　Peter Lee说：“机器系统如果犯错，影响是很大的。”要将会学习的软件应用于真实世界，需要人类专家的密切监督。

　　很明显，将AI服务销售给企业时还必须赚到钱。微软提供一些服务，比如它可以对图片中的人脸进行统计，将语音转化为文本。在EmTech会议上，创业公司Clarifai展示了一套工具，它可以帮助企业搜索、管理图片集和视频集，因为工具可以理解其中的内容。

　　Peter Lee认为，这些产品不会带来革命性的影响，也不会带来新利润。他说：“许多时候，在企业领域价值 的机器学习技术是定制、预制解决方案。每一个企业都是特殊的，你必须满足特定的需求、适合特定的条件。”

　　他还认为，开发软件，让它尝试不同的动作，看看哪个管用，这样的方法也许可以将行业带出盲区，目前使用的方法是让软件消化静态数据，比如文本或者图片数据。

　　“人类的智慧是无穷的，让系统理解企业流程，形成自己的策略，这种可能性是很高的。”

　　AI发展是否已经停滞不前

　　最近一段时间，虽然投入AI项目的钱很多，但是不要被外表迷惑了。Uber AI前实验室主管Gary Marcus警告称，行业的进步速度并不像许多人认为的那样快。

　　Gary Marcus指出，现在企业沉迷于静态机器学习，投资AI时关注的是企业短期目标，因此我们朝着人类等级的AI前进时受到了限制。

　　“最大的恐惧不是天网。”Gary Marcus所说的天网就是杀手AI，就像《终结者》中所说的AI一样，他还说，“AI发展进入了停滞阶段。”

　　没错，最近一段时间AI的确在技术上有一些突破，但是电脑所做的事情都很简单，要让AI具备真正的“普通智力”，还有许多障碍无法跨越。

　　OpenAI研究主管Ilya Sutskever的看法完全不同，他曾暗示，我们离强人工智能(和人类一样等级的AI)已经不远了。

　　“现在看起来很遥远，但在5年前更遥远。在开发算法时我们投入的人、付出的努力是很多的，AI的发展速度很快，很降。”

　　Gary Marcus认为，企业向AI投资可能对行业的长远发展不是一件好事。以前，行业进步很小主要是因为AI投资不足造成的，这一次却是因为投资太多导致研究人员忽视了长远目标。

　　将AI应用于商业领域是不是一件好事?Gary Marcus认为它是一把双刃剑。Gary Marcus称：“有些事情只要Uber这样的企业才能做，它们有大量的资源。问题在于企业市场关注的是短期目标，今天如何用深度学习赚到钱?这才是它们最关心的。”

　　AI无人机可以跟着你飞

　　企业家Adam Bry认为，当今的无人机缺少一个关键组件，所以不是太实用，缺少什么呢?用AI实现自动飞行。在EmTech会议上，Adam Bry通过一段影片展示了Skydio开发的无人机，Skydio正是Adam Bry创办一家公司，无人机今年就会上市。

　　Adam Bry说：“即使在企业领域，用户也会发现无人机的使用比预想的更加困难。如果你是专业操作者，可以完成一些惊艳的动作，但对于主流用户来说不太可能。”

　　Skydio的第一款产品有点像飞行机器人摄像机。从视频可以看出，当用户爬树、骑上山地自行车、踢足球时，无人机会跟着人飞。当用户走到了障碍物背后，比如低垂的树枝后面，无人机会围着人飞，或者保持安全距离并暂停。

　　为什么Skydio能够做这些事?因为它可以通过机载摄像头分析图像，然后用结果进行导航，摄像头可以拍摄360度图像。市场上的无人机主要依赖GPS、人类操纵。Skydio无人机软件可以追踪目标物，进行计算，精准到厘米，知道它是如何移动的。Skydio使用的深度学习技术与谷歌等企业所使用的技术是一样的。

　　Adam Bry指出，当人与人彼此靠近时，无人机会通过人的外表、移动情况搜集线索，解开困惑，不过他承认技术并不完美。Adam Bry说：“既然人类在区分两个人时都有困难，更别说技术了。”Adam Bry没有展示无人机的照片，也没有透露何时推出，只知道产品瞄准消费者。

　　用AI识别名人

　　Clarifai是一家计算机视觉创业公司，它开发的AI可以识别图片、视频内容，而且适合狗仔队使用。

　≥Clarifai CEO、创始人Matthew Zeiler透露，他们最近演示了技术，新技术可以从图片中识别人脸，然后匹分，这没有什么稀奇的，神奇的地方在于系统可以识别10000个名人。

　　用AI识别人脸很常见，如果想知道图片中的人脸是谁的就有些困难了，因为光照环境不同、目标人物有没有注视摄像头、有没有被其它人或者障碍物遮挡，都会给识别造成困难。

　　Nvidia深度学习芯片为医疗产业提供支持

　　Nvidia设计了强大的硬件，这些硬件可以为AI算法提供支持，正因如此，Nvidia成为AI浪潮的受益者。Nvidia将降护理和医疗市场作为技术发展的下一个大市场。Nvidia医疗保健业务主管Kimberly Powell说，公司正在与医疗研究人员合作，合作涉及多个领域，未来几年还会有更多的合作。

　　“与医疗成像有关的研究越来越多，现在，我们经常会去拜访医院供应商，拜访的频率越来越高，他们对新的AI应用很看好。”

　　机器学习技术可以用来处理医疗图像，过滤大量医疗数据。Nvidia开发的图形芯片执行并行运算时效果很好，而机器学习需要完成并行运算，Nvidia已经向学术机构、行业客户提供硬件，供深度学习研究人员使用。不只如此，Nvidia开发的深度学习专用产品越来越多，包括DGX-1计算机、用于自动驾驶汽车的系统Drive PX。

　　Powell相信，未来医疗研究中心会引进更多的Nvidia设备。她认为，这些设备可以提高诊断的可靠信，可以大大提高发展中国家的护理水平，在发现药物的过程中，深度学习也可以派上用场。

　　不只如此，深度学习还可以帮助医生发现那些极为隐藏的病症。例如，Nvidia与Mayo Clinic的神经系放射学家Bradley Erickson合作，用深度学习技术识别脑部图像。Powell说，Bradley Erickson成功找到一些与大脑疾病有关的基因。

　　纽约大学教授Gary Marcus认为，AI可能会对医疗行业造成巨大影响，比如用来治疗癌症。有些时候，人很难识别某些危险因素，但是算法却可以发现。Gary Marcus说：“在AI的帮助下我们也许可以在治疗方面取得重大进展，这可能是AI的杀手级应用。”

　　将深度学习技术应用于医疗存在很大的挑战。新方法很复杂、不透明，为什么算法会有如此特殊的诊断?医生可能不是太明白。Powell承认技术的确存在挑战，但是新的解决方法越来越多，比如，研究人员用可视化方法展示深度学习网络行为。Powell称：“这是当前研究领域的一个重大主题。”

　　用AI与量子计算机寻找新材料

　　IBM研究所科学与解决方案副总裁Dario Gil认为，AI技术可以协助研究人员寻找新材料。

　　Dario Gil指出，将机器学习软件安装在笔记本中，几秒之内就可以从研究报告中抽取关键信息，几周之内就可以通过大量研究机构创建庞大的知识图，不需要几十年。

　　到目前为止，Dario Gil并没有指出有哪些具体突破。不过他说过，IBM已经用沃森系统寻找新奇聚合物。虽然AI与计算取得了突破，不过Dario Gil却说世界上最强大的超级计算机处理起来仍然有些困难，比如预测微粒电子结构。

　　怎么办?IBM看到了量子计算的巨大潜力，量子计算可以大幅提高运算速度。

　　去年，IBM推出了新的量子芯片，本月早些时候，IBM又公布了新计划，它要建造云计算、商用量子计算系统。

　　Dario Gil说：“今年与明年，预计量子计算将会出现很大的进步，也就是量子计算机的性能会有很大提升。”

　　Otto联合创始人：10年之内AI将会在卡车上普及

　　Lior Ron是Otto的联合创始人，它是一家无人驾驶卡车开发公司，去年被Uber收购了。最近，美国财政部长Steven Mnuchin说过，至少50年至100年之内，AI不会影响美国的就业情况，而Lior Ron却认为，影响会出现，不是更晚，而是更早。

　　在会议上，Lior Ron表示，未来10年无人驾驶卡车将会在公路上流行起来。有许多企业都在开发自动驾驶汽车，和这些企业一样，Lior Ron也认为要开发出真正可以自动驾驶的汽车，不需要人干预，至少还要等一段时间。

　　Lior Ron说：“事情不会在一夜之间发生，而是会慢慢发生。”

　　例如，Lior Ron预测，最开始时完全无人驾驶的汽车会在凌晨开上公路，那时没有多少行人，然后会在白天出现，在不同的驾驶环境中出现。

　　有些人担心无人驾驶汽车可能会让司机丢掉工作，在不久的将来，Otto的技术更有可能会成为副驾驶，而不是替代人类操作者。虽然卡车可以在高速公路上自动驾驶，但在某些环境中还是需要人来操作，比如在城市街道环境中行驶。

　　Lior Ron认为，驾驶卡车是一件很累人的事，有时要工作很多个小时才能休息。如果卡车可以自动行驶，人类司机可以稍微休息一下，长途驾驶就会更安全，更有效率。

　　要让卡车自动行驶，现在还有很多的问题要解决。例如，卡车在自己的车道上行驶时周旋的空间更小。当前方出现障碍物时，卡车的反应速度也比小车慢，停车时需要更多的空间。卡车装了货物，货物的重量可能不均衡，在旅程中可能会变化，Lior Ron认为这些信息软件必须注意。

　　OpenAI介绍一种新方法 可以让机器学习变得更容易

　　OpenAI是一个非盈利研究机构，马斯克是机构的联合创始人，他还为OpenAI提供资金支持。OpenAI最近表示，它找到一套更容易使用的替代方法，可以增强机器的学习能力，玩游戏、执行其它任务时，学习的结果差不多。

　　在会议上，OpenAI研究主管Ilya Sutskever表示，新方法可以让研究人员在机器学习方面以更快的速度前进。

　　“它可以与当今的增强技术竞争，也就是与标准的学习算法竞争。新方法很简单，如此简单的方法居然很实用，真的让人吃惊。”

　　OpenAI开发了机器学习软件，它可以玩经典的“Atari”游戏。

　　Sutskever认为，要让机器学习软件完成更复杂的任务，不只是识别图片、翻译语音，找到新方法让机器学习软件玩电脑游戏、控制机器人显得相当重要。他说：“如果我们能让计算机系统自己学习，完成复杂的动作，我们就可以管它叫‘智能机器’了。”

　　Sutskever与同事测试了新方法，这种方法叫作“进化策略”，他们开发一套软件，可以玩50多种Atari游戏，包括Pong、Centipede。研究人员将新方法应用于多个处理器，只要一小时就可以训练出很强的AI玩家，如果用谷歌DeepMind去年提出的方法开发增强学习系统，再用它训练，让AI玩家达到相同水平需要一天时间。

　　测试机器人时进货策略也有优势，软件要让机器人像人一样在模拟环境中行走。尖端增强学习系统需要10小时才能获得的结果，用新方法只要10分钟。

　　事实上，新技术背后的理念早在几十年前就存在了，简单来讲，就是让学习软件尝试不同的动作，找到当中最有效的。在自然选择过程中，生物组织会主动适应环境，新技术的原理与此类似。

　　Sutskever说：“很久以来大家都知道的算法实际上比大家认为的更实用。”

　　有了进化策略技术，AI会有哪些具体的用途?他拒绝透露，只是说还要花更多时间研究，找到技术的优势与限制。不过Sutskever指出，与增强系统技术相比，完成复杂任务时进化策略法更好，复杂任务需要经过多个步骤才能得出结果。

　　正是因为这个原因，Sutskever相信进化策略可以帮助OpenAI完成目标，也就是创造所谓的“强人工智能”，软件可以根据复杂的嘲自动适应。

　　在机器学习领域，大多研究人员不怎么关注强人工智能，而是用技术解决更特殊、更狭窄的问题。OpenAI在声明中曾表示，公司的一个使命就是开发强人工智能。Sutskever指出，现在机器学习进步很快，是时候考虑强人工智能了。

　　Uber告诉我们AI商用很困难

　　为了保持领先，Uber向机器人、AI投资，不过公司遇到一些困难。

　　最近几个月，Uber先进技术集团损失了几个人才，先进技术集团设在匹兹堡，负责开发自动驾驶汽车。新AI实验室主管Gary Marcus上任几个月就离职了。由此可以看出，要让技术商用挑战很大，因为技术太复杂、太先进。

　　去年12月，Uber收购了创业公司 Geometric Intelligence，它是Marcus创办的一家创业公司，而Marcus又是纽约大学的感知科学家，之后Uber成立了AI实验室。现在Marcus还是Uber的AI顾问。

　　上周，Uber的无人驾驶汽车遭遇挫折，汽车在亚利桑那撞车。当然咯，无人驾驶汽车不需要对事故负责。

　　Uber之所以积极开发无人驾驶汽车，主要是担心未来的士产业会被摧毁。现在Uber已经加速前进，它在几个城市的公路上部署了无人驾驶汽车。可惜的是汽车表现并不完美，即使在普通环境中也不完美。

　　在工程上也有很大的挑战，例如，传感器退化自动驾驶汽车如何处理，如果公路上无人驾驶汽车太多，激光雷达等系统会互相干扰，这一问题又如何解决。

　　行业过度依赖神经网络式机器学习技术，Marcus对此提出批评，2014年他成立了Geometric Intelligence，主要目标就是寻找替代方法。

　　Geometric Intelligence希望能找到更有效的方法让机器学习。看到新的交通信号出现，人类可以快速识别，电脑不同，即使采用今天 的机器学习方法，电脑也需要几千个样本才能学会。

　　还有一些公司也在开发无人驾驶汽车，但是它们可能已经发现进步的速度比预期要慢。谷歌将无人驾驶部门分拆，成立了Waymo公司，不过公司的技术还没有商用。

   投稿邮箱：chuanbeiol@163.com   详情请访问川北在线：http://www.guangyuanol.cn/