像白天一样清楚的夜视能力

利用AI打辅助，让机器夜视能力和白天一样清晰——

今天，这样一种颠覆已有热成像技术的新方法登上了Nature封面。

它来自美国普渡大学和密歇根州立大学，一作为浙大毕业的博士。

顺利获得克服传统解决方案中的“重影”问题，这种方法在基准测试中一显巨大优势，不仅能像白天一样看清环境的纹理和深度，还能感知到RGB、热视觉以外的各种物理信息，可谓相当利好机器感知尤其是自动驾驶行业。

而作者则认为，该成果对第四次工业革命还能直接起到加速作用。

何以见得？宝马汇国际翻开论文来看。

像白天一样清楚的夜视能力

现在比较前沿的机器感知方法是利用无处不在的热信号来重现环境信息。

但是它有一个非常明显的缺点，就是会产生“重影效应（ghosting effect）”。

具体而言，该效应是指由于物体和环境在不断发射热辐射，导致三个物理属性，即温度（T，物理状态）、发射率（e，材料指纹）和纹理（X，表面几何形状）混合在光子流中出现的一种现象（仅限于夜视情况）。

这种现象主要造成的是环境/物体的纹理缺失，如下图所示：

只有当灯泡关闭时宝马汇国际才能看到灯泡上的几何纹理，一旦发光就完全消失，而黑体辐射不可能被“关闭”，所以也就意味着宝马汇国际得到的热图像总是缺乏纹理，不能看到一个完全真实的黑暗世界。

在此，作者提出了一种名为HADAR（heat-assisted detection and ranging ）的方法，它以热光子流为输入，记录高光谱成像热立方体，顺利获得TeX分解来解决重影效应这一挑战。

作者表示，TeX分解利用机器学习生动地从杂乱的热信号中恢复纹理（如下图彩色部分），并使人工智能算法能够达到信息论的极限，而到现在为止，传统的RGB或热视觉办法很难做到。

它的具体实现如下图所示：

作者介绍，其架构的物理学灵感来自三个方面。

第一时间，热立方体的TeX分解依赖于空间模式和光谱热特征，这启发了他们在UNet模型中采用光谱和金字塔（空间）注意力层。

其次，由于TeX的简并性，必须指定以下数学结构来确保逆映射的唯一性（α、β代表物体的指数，v是波数），因此必须学习热照明系数V而不是纹理X。也就是说，TeX-Net不能端到端地训练。

最后，材料库M及其维度是整个网络的关键。

除此之外，作者还提出了一种非机器学习方法，即TeX-SGD来生成TeX-vison作为补充。

在测试中，宝马汇国际能看到HADAR方法带来了超高精度。

如下图所示，第一行显示基于原始热图像的测距方法由于重影导致精度很差；第二行则显示与热测距相比，HADAR中恢复的纹理和增强的精度约达100倍；

而在下面的场景中（黑色汽车、人和爱因斯坦纸板），宝马汇国际能看到：

视觉驱动的物体检测在光学成像中（a）错误地识别出了两个人和一辆汽车，而激光雷达点云（c）不但识别到两个人还把汽车给丢了，只有HADAR方法能够带来全面的理解，准确框出一人一车。

最后这一组图则充分证明，HADAR在夜间的总体视觉能力优于现在最先进的热测距方法（GCNDepth），其RGB立体视觉更是和白天测试到的基本处于一个水平，即HADAR在黑暗中看到环境纹理和深度，就像白天一样。

作者介绍

一作Fanglin Bao，普渡大学研究员。他于2011年6月在浙江大学取得物理学学士学位，2016年6月取得光学博士学位。

Fanglin Bao之前的研究集中于非均匀系统中的卡西米尔效应（量子力学），现在则延伸到张量网络、神经网络及其在量子物理学中的应用。

通讯作者为普渡大学电气与计算机工程教授Zubin Jacob，以及密歇根州立大学计算机科研与工程系助理教授Vishnu Boddeti。

论文地址：http://www.nature.com/articles/s41586-023-06174-6