要分辨下一个物种可能需要多年的观鸟经验。但是，杜克大学的研究人员使用一种称为深度学习的人工智能技术，对一台计算机进行了培训，使其仅通过一张照片即可识别多达200种鸟类。
但是，真正的创新在于，AI工具还可以显示其思维方式，即使是不了解海雀企鹅的人也可以理解。
该团队通过向其喂食200种鸟类的11788张照片(从游泳鸭子到徘徊的蜂鸟)来训练他们的深度神经网络(基于大脑工作方式的算法)。
研究人员从未告诉网络“这是喙”或“这些是翼羽”。给定一张神秘鸟的照片，该网络能够将图像中的重要模式与以前看到的典型物种特征进行比较，从而找出图像中的重要模式并冒险猜测。
一路走来，它散发出一系列的热图，这些热图本质上说：“这不仅是鸣鸟，而且是带帽鸣鸟，而这里的特征(如蒙面的头部和黄色的腹部)则将其散发出去。 ”
杜克大学计算机科学博士学位学生Chaofan Chen和本科生Oscar Li以及杜克大学教授Cynthia Rudin领导的预测分析实验室的其他团队成员领导了这项研究。
他们发现他们的神经网络最多可以在84%的时间内识别出正确的物种-与某些表现最好的同行相提并论，后者并没有揭示出他们如何分辨出一只麻雀。下一个。
鲁丁说，他们的项目不仅仅是为鸟类命名。这是关于可视化深度神经网络在查看图像时真正看到的内容。
类似的技术被用来标记社交网站上的人，在监视摄像机中发现可疑犯罪分子，并训练自动驾驶汽车来检测交通信号灯和行人之类的东西。
鲁丁说，问题在于，众所周知，大多数计算机视觉的深度学习方法都是不透明的。与传统软件不同，深度学习软件无需明确编程即可从数据中学习。结果，这些算法在对图像进行分类时究竟如何“思考”并不总是很清楚。
鲁丁(Rudin)和她的同事们试图证明AI不必那样做。她和她的实验室正在设计深度学习模型，用以解释其预测背后的原因，并明确说明其原因以及提出答案的方式。当这样的模型出错时，其内置的透明度使我们可以了解原因。
对于他们的下一个项目，Rudin和她的团队正在使用他们的算法对乳房X线照片等医学图像中的可疑区域进行分类。如果可行，他们的系统将不仅可以帮助医生发现肿块，钙化和其他可能是乳腺癌迹象的症状。它还将显示其在乳房X光检查的哪个部分，揭示哪些特定特征最类似于其他患者以前见过的癌性病变。
鲁丁说，通过这种方式，他们的网络旨在模仿医生的诊断方式。鲁丁说：“这是基于案例的推理。”“我们希望能够更好地向医生或患者解释为什么他们的图像被网络归类为恶性或良性。”
该团队将于12月12日在温哥华举行的第三十三届神经信息处理系统会议(NeurIPS 2019)上发表有关其发现的论文。
这项研究的其他作者包括杜克大学的Daniel Tao和Alina Barnett以及麻省理工学院林肯实验室的Jonathan Su。
引用：“这看起来像：深度学习以实现可解释的图像识别”，陈超凡，奥斯卡·李，丹尼尔·陶，阿丽娜·巴内特，苏永康和辛西娅·鲁丁。神经信息处理系统会议的电子会议录。2019年12月12日。