本文摘要：预示着大数据，AI在沉寂了多年之后，又步入了新的高潮。

预示着大数据，AI在沉寂了多年之后，又步入了新的高潮。在这场牵涉到大部分科学的革命中，人工神经网络获释了人工智能。但科学家们找到，这一关键技术隐含着一个问题：人工神经网络就是一个“黑匣子”。

我们都告诉，无论人工神经网络有多么简单，都可以将其看做是三部分：输出层、输入层和说明了层。其中，我们通过深度自学，对神经网络展开一层一层的变换训练，以此来有效地调整神经网络各级神经元的权重。但是，这里有一个问题，除去输出和输入，我们对说明了层再次发生了什么一无所知，即对神经网络内部逻辑不道德不得而知理解。

华盛顿大学的研究生MarcoRibeiro用于过一种叫作反事实观测的方法来理解这个“黑匣子”。此方法明确就是通过给输出一点微小的变化，旋即查阅输入的变化，并记录这些变化。但是很似乎，这一方法必须上千次的操作者和尝试，而且无法协助我们全面了解人工神经网络。

而Google的另一位计算机科学家MukundSundararajan设计了一种探测器，大大减少了输出。不同于Ribeiro采行的随机输出，Sundararajan的研究创意点是引进一个空白的参照。

首先，Sundararajan输出一个零排序的数组，随后让输出数据逐步向必须测试的目标数据改变，以此通过输入变化来反过来研究内在逻辑。这里值得注意的是，随着每一步的变化，科学家们就能看见它清楚的变化轨迹，从而可以以此预测变化特征。但这仍然不能信，预测的结果依然是不存在相当大误差的。

回应，美国华盛顿州微软公司研究所计算机科学家RiChCaruana带入广义乘法模型（GAM）来对数据间的简单关系展开处置。我们都告诉，统计学中GAM就是一种基于线性重返，然后在一组数据中寻找线性趋势的方法。Caruana减少了这一过程，他再行利用机器学习来输入变化，随后将网络输入的数据输出到GAM，找到变化之间的相关性，以此来研究神经网络的内在逻辑。除此之外，在图像研究领域，还有科学家利用生成式对付网络（GAN）对神经网络展开研究，然而所有的这些希望都是尝试，普适的研究方法至今仍未得出结论。

现在，不仅科学家认识到这一问题的紧迫性，多国政府也意识到这一问题。根据欧盟的一项命令，明年所有有极大影响力的公司需向公众说明其模型的内在逻辑。此外，美国军方的蓝天研究机构国防高级研究计划署也正在向一个称作“可说明AI”的新计划投放7000万美元。

Google的机器学习研究员MayaGupta说道，硅谷的研究人员们也在企图关上AI的“黑匣子”。除了运营后操作者的准确性，所有人心中还有一个十分大的顾忌：因为不告诉它在做到什么，所以不确认能无法坚信它。预示着人工智能（AI）应用于的蓬勃之势，出于安全隐患的考虑到，神经网络内在逻辑的这一“盲点”显然急需回避。

本文来源：c7平台官网-www.unclemaks.com