OpenAI发布机器学习模型神经元视觉化工具Microscope

OpenAI发布了机器学习模型神经元视觉化工具Microscope，可系统性地视觉化数种常见模型的神经元，而这将有助于研究人员对于模型的可解释性研究。OpenAI提到，就像是生物学家经常专注研究几种模式生物（Model Organism）一样，目前Microscope的初始版本，仅包含了9个经常受研究的视觉模型，以及对这几个模型特别有用的数种视觉化技术，接下来还会扩展应用其他模型以及技术。

神经网络由成千上万个神经元组成，神经元交互作用才能使神经网络发挥功能，为了理解这些神经元的运作，OpenAI视觉化这些交互作用，并且对外共享观察结果。研究人员可以利用Microscope来验证猜测，像是当研究人员假设InceptionV1 4c:447汽车侦测器，是由轮胎侦测器4b:373以及窗户侦测器4b:237所组成，便能透过Microscope快速探索这些神经元，验证假设正确性。

OpenAI解释，Microscope建构于位置以及技术两个概念之上，位置就像是显微镜的朝向，而技术就是固定其上的镜头，显微镜操作者可以利用特定的镜头看向特定的位置，也就是说，Microscope让研究人员可运用不同的技术，深入了解不同位置的神经元。

机器学习模型由节点图构成，节点与节点间以边相连接，每个操作都包含了数百个单元，这些单元就类似大脑的神经元，OpenAI提到，目前Microscope的大多数技术，只能使用特定的分辨率，像是特征视觉化只能指向单一单元，而不能为父节点。OpenAI使用的视觉化功能，包括功能视觉化、DeepDream、资料集范例以及合成调校曲线，未来OpenAI还会加入更多的视觉化技术。

目前这项工具还无法应用在自定义模型中，OpenAI解释，要视觉化这些模型，产生数百万个图像和底层资料，需要大量的分散式作业，现在执行此操作的工具无法释出，因为都和其他基础设施混杂在一起，不过，用户可以取用Microscope用来视觉化模型的底层技术lucid函式库。