-
日期: 2017-04-18 | 来源: 科学网 | 有0人参与评论 | 字体: 小 中 大
现在出现了一些具有独创性的策略，试图捕捉并详细解释这类系统中发生了哪些事情。2015年，谷歌研究人员修改了一套深度学习图形识别算法，使之不再识别照片中的物体，而是生成或修改这样的物体。通过反向运行这种算法，便可了解算法在识别鸟或建筑时使用了哪些特征。
这个名为Deep Dream的项目生成的图片，呈现出动物从云朵和植物中浮现的奇异效果，还有宝塔从森林或山脉中盛开的幻觉效果。这些图片证明深度学习并非完全不可理解，同时也表明这些算法把注意力集中在熟悉的视觉特征上，包括鸟嘴和羽毛。不过，这些图片也透露出深度学习与人类知觉的差异，正因如此，人工智能往往可以利用那些被我们忽略的信息。
谷歌研究人员指出，当算法生成哑铃的图像时，还生成了一个抓着哑铃的人类胳膊。这表明机器已经认定，胳膊也是哑铃的一部分。
进一步的发展是因为借鉴了来自神经科学和认知科学领域的想法。怀俄明大学助理教授杰夫?克鲁尼（Jeff Clune）已经部署了相当于人工智能的光幻觉来测试深度神经网络。2015年，克鲁尼的团队展示了如何利用某些图片欺骗神经网络，使之得出错误的结论，原因在于这些图片利用了系统所寻找的底层模式。
作为克鲁尼的合作者，詹森?尤辛斯基（Jason Yosinski）也开发了一个像插入大脑的探针一样的工具。他的工具瞄准了神经网络中的任意一个神经元，然后寻找对其激活程度最高的图片。结果出现了一些抽象的图片（就像印象派画家绘制的火烈鸟或校车），凸显出及其感知能力的神秘特性。
事关重大
但我们需要的不只是一窥人工智能的思维方式，而且这个问题并不容易解决。深度神经网络中的运算之间的相互影响才是高层次模式识别和复杂决策过程的核心，但这些运算是一片由数学函数和变量构成的沼泽。
“如果你有一个很小的神经网络，或许可以理解它。”加考拉说，“可一旦规模巨大，每一层都有数千个单元，或者总共拥有数百个层次，那就完全无法理解。”
加考拉办公室隔壁是雷吉纳?巴兹雷（Regina Barzilay），这位麻省理工学院的教授致力于把机器学习应用于医疗领域。几年前，当时43岁的她被诊断出乳腺癌。诊断本身令人震惊，但更令巴兹雷失望的是，没有人使用尖端的统计学和机器学习技术为肿瘤学研究提供帮助，或者引导病人的治疗。
她还表示，人工智能拥有很大的潜力改革医疗行业，但她也意识到，这项技术的潜力不仅局限于病例。她还希望使用更多尚未充分利用的数据，包括影响数据、病理学数据以及各种各样的信息。
在去年结束了癌症治疗后，巴兹雷和她的学生开始与麻省综合医院的医生合作开发一套系统，可以通过挖掘病理学报告来寻找那些具备研究人员感兴趣的临床表现的病人。然而，巴兹雷发现，系统需要解释自己背后的逻辑。所以，她与加考拉和一个学生增加了一个步骤：这套系统会把它认为代表某种模式的文本片段提取出来，并加以强调。
巴兹雷和她的学生还开发了一套能够通过乳房X光片找到早期乳腺癌迹象的深度学习算法，他们希望让这套系统具备一定的解释能力。“的确需要让机器和人类展开协作。”巴兹雷说。
美国军方也投资数十亿美元，希望使用机器学习来控制汽车和飞机、识别目标、过滤海量情报数据。这一领域甚至比医疗行业更期待透明的算法，所以国防部将可解释性视作一大关键障碍。
美国国防部高等研究项目署（DARPA）的项目经理大卫?冈宁（David Gunning）负责一个名为可解释人工智能（Explainable Artificial Intelligence）的计划。作为该部门的一位银发老兵，他之前在DARPA负责的项目最终促成了Siri的诞生。冈宁透露，自动化已经渗透到无数的军事领域。情报分析师正在测试机器算法，希望通过大量的监控数据判断各种模式。
很多无人驾驶汽车和飞机也在开发和测试过程中。但士兵可能不会喜欢这种无法解释自己行为的机器坦克，而分析师在按照这些没有明确逻辑的信息采取行动的时候，也可能有所迟疑。“从这些机器学习天生就容易发出错误警报，所以情报分析师需要额外的帮助来明白系统为何会给出某条建议。”冈宁说。
今年3月，DARPA从学术和工业界选择了13个资助项目，纳入了冈宁的这个计划。其中一些项目会以华盛顿大学教授卡洛斯?古斯特林（Carlos Guestrin）的成果作为基础。他和他的同事开发了一种方法，可以让机器学习系统阐述其输出结果的基本原理。也就是说，借助这种方法，电脑会从数据集中自动找到一些样本，然后给出简短的解释。- 新闻来源于其它媒体，内容不代表本站立场！
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见