“炼丹”成功后，神经网络也能对没见过的数据进行预测了~
然而，这种情况下，神经网络其实成了“黑匣子”——具有一定的功能，但看不见是怎么起作用的。
如果只做简单的图像分类，其实还好；但如果用在医学方向，对疾病进行预测，那么神经网络下的“判断”就不可轻信。
如果能了解它是怎么工作的，就更好了。
出于这种考虑，来自牛津大学的博士生oana-ariacaburu撰写了毕业论文《解释神经网络（expgdeepneuralworks）》。
在这篇论文中，她将这些“黑匣子”一个个打开，对神经网络原理进行了详细的解释。
为什么要打开神经网络“黑匣子”？
事实上，神经网络之所以起作用，最直观的原因就是，它由大量非线性函数组成。
这些非线性函数，使得网络可以学习原始数据中各种抽象级特征。
然而，也正是因为神经网络中的这些非线性函数，使得人类往往难以理解，它们是如何起作用的。
这就导致神经网络在疾病预测、信用额度、刑法等方向上“不太受欢迎”。
医生和法律相关的研究者往往更乐意采用可解释模型，例如线性回归、决策树，因为神经网络在疾病预测中的确出过问题：
人们利用神经网络预测肺炎患者的病情发展，其中一项患者特征为是否有哮喘病史。
神经网络经过训练后预测，有哮喘病史的患者死于肺炎的可能性较低。
但其实结果恰好相反，哮喘本身会给肺炎带来雪上加霜的效果。
之所以数据表明哮喘患者较少死于肺炎，往往是因为哮喘能被及早发现，所以患者得肺炎后能被及早治疗。
如果这种神经网络被应用于实践中，将会带来非常危险的结果。x33
此外，即使是神经网络，也会对男女性别产生刻板印象、产生种族偏见。
例如，调查表明，有些语料库和模型，在预测再犯时，会更“偏爱”男性。
除了错误的预测和种族、性别歧视以外，神经网络还很脆弱。
无论是对图像进行小改动欺骗分类算法、还是用语音识别瞒过nlp模型，神经网络被“爆雷”的情况也不少。
为了让神经网络应用于更多的方向，也为了让我们更好地学习它的原理，作者从两个方向对神经网络进行了解释。
2种方法解释神经网络“事后再解释”
第一种方法，称之为基于特征的解释方法，又叫“事后再解释”——因为这种方法，是在神经网络训练好后，才对其输入特征进行解释的。
这种方法针对文本的词（token）、或是针对图像的超像素（superpixels），进行“事后”解释。
目前这种方法应用较为普遍，不容易出现解释偏见，但需要验证解释方法的真实性。
这里的根本原理，是研究外部解释方法给出的解释、与模型本身生成的自然语言解释之间，是否存在相关性，而相关性具体又是什么。
在论文中，作者引入了一种新的验证方法，来判断解释方法的真实性。
让神经网络自己解释
那么，如果能让神经网络一边训练、一边“解释自己”呢？
这是论文提到的第二种方法，即在模型中植入一个生成预测解释的模块，对预测的结果进行解释。搜狐网
多云/15°
w03型127毫米狙击步枪
悲喜历史
原创·2021-08-1300:10·军事领域优质创作者
订阅
视频正在上传或视频无效，先看看其他视频吧（401）
去app观看
新型12．7毫米狙击步枪采用非自动方式，单发手动装填，配3发单排弹匣和可调两脚架。全枪长1392毫米，重12．5千克，有效射程1500米以上，初速可达850米/秒。它可发射12．7x108毫米普通机枪弹、曳光弹、穿甲弹、穿甲燃烧弹及钨芯脱壳穿甲弹等枪弹。枪身主要为合金钢结构，前、后机匣采用硬质铝合金，阳极氧化表面处理，重量轻、防腐性能好。反后坐装置采用液压制退技术，机匣上方通过皮卡汀尼导轨装有提把。
中文名：w03型127毫米狙击步枪
类型：狙击步枪
重量：12．5千克
全长：1392毫米
w03型12．7毫米狙击步枪可谓是其中的“排头兵”，它最初是为满足外贸需要而设计开发出来的。世界上许多非自动大口径狙击步枪采用的是开有侧孔的膛口制退器来减小后坐。它的工作原理是在弹丸经过膛口装置的瞬间，使大部分的火药燃气通过挡板向两侧后方喷射，由