基于零差梯度提取的物理系统原位梯度下降方法及其在纳米电子器件中的应用

《Nature Communications》：Gradient descent in materia through homodyne gradient extraction

　　本刊编辑推荐：针对物理神经网络(PNN)训练过程中模型依赖性强、能耗高、噪声敏感等问题，荷兰特温特大学研究团队提出了一种基于零差检测的梯度提取方法(HGE)。该方法通过给系统参数施加特定频率的正弦扰动，利用锁相放大原理并行提取梯度信息，在硅基硼掺杂纳米电子器件(RNPU)中实现了抗1/f噪声的梯度下降优化。实验表明HGE相比有限差分法(FD)将梯度方差降低两个数量级，并成功应用于布尔逻辑门和三维球体分类任务，为材料自主学习系统开发提供了新范式。

　　

在人工智能飞速发展的今天，深度学习模型已在图像识别、自然语言处理等领域展现出强大能力。然而，这些模型的训练过程需要巨大的计算资源和能源消耗，特别是基于反向传播算法的数字实现方式存在显著能效瓶颈。这种局限性催生了对专用硬件的需求，从神经形态CMOS、光子张量核心到各种基于非常规材料的系统。但如何在这样的物理系统中实现高效学习，仍是一个重大挑战。现有方法如人工进化、平衡传播或代理建模通常复杂且缓慢，难以满足实时、低功耗的应用需求。

传统物理系统训练方法可分为基于模型的优化(MBO)和无模型优化(MFO)两类。MBO方法需要外部计算机和系统数学模型，无法实现自主学习；而MFO方法中的梯度自由优化(GFO)如遗传算法计算成本高，零阶优化(ZO)方法如有限差分(FD)和同时扰动随机逼近(SPSA)则对噪声敏感，特别是在1/f噪声占主导的物理系统中表现不佳。这些限制严重阻碍了物理神经网络在边缘计算等场景中的应用，迫切需要一种能够在物理系统中直接、准确、高效提取梯度信息的新方法。

针对这一挑战，发表在《Nature Communications》上的研究提出了一种创新的零差梯度提取(HGE)方法。该方法灵感来自锁相放大技术，通过给系统参数施加特定频率的正弦扰动，并行提取梯度信息，实现了在物理系统中的原位梯度下降优化。

研究团队主要采用了以下关键技术方法：首先设计了基于零差检测的梯度提取理论框架，通过正弦扰动和参考信号混频实现噪声抑制；其次利用可重构非线性处理单元(RNPU)作为实验平台，该器件基于硅中硼掺杂原子网络，具有八端子结构；通过频率域并行化技术实现多参数同时优化；最后通过布尔逻辑门和三维球体分类任务验证方法有效性，实验在77K低温环境下进行。

梯度提取原理与噪声抑制机制

HGE方法的核心思想是通过频率选择性地提取系统响应。研究人员给每个可优化参数施加具有独特频率和相位的正弦扰动，通过将系统输出与参考信号混频，将目标频率分量转换到基带，再通过低通滤波提取梯度信息。与FD方法相比，HGE的最大优势在于能够将梯度提取频率从噪声较大的低频区域转移到噪声较低的高频区域。实验数据显示，在存在强1/f噪声的RNPU器件中，HGE提取的梯度方差比FD方法低两个数量级，且方差随测量时间增加而持续降低，而FD方法的方差基本保持不变。

并行化实现与频率优化

研究证明了HGE方法可并行处理多个参数，显著提高梯度提取效率。通过理论分析和实验验证，研究人员确定了最优频率间隔为40Hz，在此条件下并行提取的梯度精度与串行提取相当。对于具有7个控制参数的RNPU器件，该方法将梯度提取速度提高了7倍，且理论上可扩展至更多参数的系统。频率选择需要在测量时间约束和系统响应速度之间取得平衡，同时避免谐波干扰。

物理系统训练应用验证

在应用层面，研究团队使用HGE方法成功训练RNPU器件实现了布尔逻辑功能（包括AND、OR、XOR等门电路）和复杂的三维球体分类任务。在球体分类任务中，系统使用三个电极作为输入，四个电极作为控制参数，实现了94%的分类准确率，超越了遗传算法和代理模型方法的性能。学习曲线显示损失函数随迭代次数单调下降，表现出典型的梯度下降收敛特性。

该研究的创新之处在于将经典的锁相检测技术创造性应用于物理系统梯度提取，解决了长期困扰物理神经网络训练的噪声敏感和并行化难题。HGE方法不仅适用于纳米电子器件，还可推广至量子点设备、集成光学系统和超表面等广泛物理平台。由于该方法仅需简单算术运算和少量内存分配，未来可完全在材料系统内部实现，为真正自主学习的材料系统奠定基础。

这项技术的成功开发预示着材料智能计算的新方向，特别是在边缘计算、自适应控制和深度强化学习等领域具有广阔应用前景。未来，基于HGE的自主学习材料系统有望在无人干预环境下持续处理感知信息，实现真正意义上的环境自适应智能，为低功耗、高能效的人工智能硬件发展开辟了新途径。