看不懂深度学习，那你有听说过“咸鱼该怎么腌制吗”？

2023-09-09 14:47:50

说到深度学习是个黑匣子，这说法一点也不为过。

一个数据科学家费尽九牛二虎之力搭出一个深度学习模型，其具体机制他不一定完全搞得明白，他只知道这个模型有用，甚至是很有效。而且深度学习已经到了那样的成熟程度，我们很多时候，确切来说是大多数时候，不用真正明白具体机制就能用这个技术做很多事情。就像我们使用汽车那样。

这不免让人有一种奇妙的穿越感。1994 年《神经漫游者》上映，就在里面描写了一个未来世界，人们可以使用一种叫做“模拟器”的电子神经接口设备，将自己的意识完全上传到电子设备中，从而能够在网络空间里实现“数字永生”。那时候很多人看到这句话不禁感叹，这什么黑科技，太不可思议了。

可是谁能想到，30 年后，我们真的做出来了。但它可不是在意识上，而是在计算上。现在深度学习的应用，某种程度上就类似于我们把算法、模型这个“意识”上传到了机器中，让他们可以替我们思考、替我们做事。

黑匣子一词最初源于航空领域，它的本意是形容那种可以承受较大过载并且内部装有精密仪器和资料的黑色匣子，比如飞机上的驾驶舱语音记录器，上面会记录下飞行员在飞行过程中所有的对话。我们当然无法直接观察到飞机驾驶员的驾驶行为，但可以通过这个黑匣子来了解飞机驾驶员在飞行过程中所做的一切。

深度学习，特别是其中最具代表性的深度神经网络技术，由于它黑箱式的特点，被称为深度学习的黑匣子。我们输入一组数据，得到一组结果，如果得到的结果是错误的，我们甚至无法得知是什么原因造成的。这对我们来说，是一个不小的麻烦。因为很多深度学习模型的应用场景都是决策性的，比如自动驾驶、信用评分、医疗诊断等，这些领域都非常需要深度学习模型具有良好的可解释性。

近年来，学术界和工业界都在探索和提出各种各样的方法来解释深度神经网络。大致而言，主要分为两类：

基于后验的方法。这种方法假设模型已经训练好，然后通过某种手段来解释模型的决策过程。比如，我们可以通过可视化技术来观察模型是如何处理数据的，或者通过特征重要性分析来了解哪些特征对模型的决策起着关键作用。
基于先验的方法。这种方法在训练模型之前就考虑如何让模型更具可解释性。比如，我们可以使用具有可解释性结构的模型，或者在训练过程中加入正则项来鼓励模型学习更简单的决策规则。

当然，我们可以拿咸鱼腌制这个问题来学习理解这些方法。

就拿腌咸鱼来说，我们都经历过，你也肯定知道这是一个复杂的过程。

步骤一：挑选新鲜的鱼。这个没什么好说的，就像你买任何东西一样，首先要买到好的原料，才能做出好的成品。

步骤二：将鱼清洗干净。这很好理解，就像我们做任何菜之前，都要先把菜洗干净一样。

步骤三：将鱼切成小块。这也是为了腌制入味，就像我们做红烧肉之前，也要先把肉切成小块一样。

步骤四：加入盐、糖、酱油、料酒等调味料。就像我们做任何菜一样，腌咸鱼也需要加入各种调味料，以增加咸鱼的味道。

步骤五：将鱼块放入容器中，腌制一段时间。这一步非常关键，腌制的时间越长，咸鱼的味道就越浓。

步骤六：将腌制好的鱼块取出，晾晒或烘干。这样可以去除咸鱼表面的水分，使咸鱼更加耐储存。

现在，我们如何将深度学习中的一些基本知识加入这个腌制咸鱼的流程中呢？让我们一步一步分解一下这个过程。

第一步：挑选新鲜的鱼。这很简单，我们可以使用计算机视觉技术来识别鱼的新鲜程度。

第二步：将鱼清洗干净。这也可以使用计算机视觉技术来完成。

第三步：将鱼切成小块。这可以使用机器人技术来完成。