记忆器以1/800的功率运行人工智能任务这些模拟大脑的设备拥有微小的能量预算和坚固的电路。蓝色发光背景下的脑形计算机布线

伊斯托克

突触神经网络服装智能机器学习

模仿神经元连接突触的忆阻设备可以作为复制大脑学习方式的神经网络的硬件。现在，两项新的研究可能有助于解决这些组件面临的关键问题，不仅在产量和可靠性方面，而且在神经网络之外寻找应用。

忆阻器，或称记忆电阻器，本质上是一种开关，可以记住它们在电源关闭后切换到哪个电状态。世界各地的科学家旨在使用忆阻器和类似的组件来构建像神经元一样既能计算又能存储数据的电子设备。这些忆阻器件可以大大减少在处理器和存储器之间来回穿梭数据的传统微芯片中损失的能量和时间。这种受大脑启发的神经形态硬件也可能被证明是实现神经网络的理想选择——人工智能系统越来越多地被用于分析医疗扫描和增强自动驾驶汽车的能力等应用。

然而，当前的忆阻器件通常依赖于具有低产量和不可靠电子性能的新兴技术。为了帮助克服这些挑战，以色列和中国的研究人员使用标准CMOS生产线制造了忆阻器件。当涉及到神经网络中最基本的乘法累加运算时，该团队构建的硅突触的产量达到100%，能效是高性能英伟达特斯拉V100图形处理单元的170至350倍。

“忆阻器是提供低能耗人工智能的一个极具前景的领域。”

科学家们使用商用闪存中使用的浮栅晶体管技术开发了新设备。传统的浮栅晶体管有三个端子，而新的元件只有两个。这大大简化了制造和操作，并减小了它们的尺寸。此外，该研究的资深作者、海法以色列理工学院电气和计算机工程副教授Shahar Kvatinsky表示，忆阻器只有二进制输入和输出，消除了对神经形态硬件中经常使用的大型、耗能大的模数和数模转换器的需求。

新设备显示出很高的续航能力，通过使用电压脉冲进行编程和擦除，运行时间超过100000次。此外，它们只显示出适度的设备间变化，预计数据保留时间将超过10年。

研究人员使用大约150个这些组件的阵列来实现一种仅使用二进制信号操作的神经网络。在实验中，它可以识别手写数字，准确率约为97%。克瓦廷斯基说，这项工作“只是一个开始——一个概念验证，而不是一个完整的集成芯片或大型神经网络。集成和扩大规模是一个重大挑战。”

在另一项研究中，一组法国研究人员调查了将忆阻器用于贝叶斯推理的统计计算技术，在该技术中，先验知识有助于计算不确定选择可能正确的可能性。它的结果是完全可以解释的——与许多几乎无法解释的人工智能计算不同——而且它可以在几乎没有可用数据的情况下表现良好，因为它可以结合先前的专家知识。然而，“如何用忆阻器计算贝叶斯推理并不明显，”该研究的合著者、巴黎萨克雷大学CNRS的研究科学家Damien Querelioz说。

苏黎世神经信息学研究所的神经形态科学家Melika Payvand表示，使用传统电子学实现贝叶斯推理需要复杂的记忆模式，“随着观察次数的增加，记忆模式呈指数级增加”，她没有参与这两项研究。然而，Quereloz和他的同事们“找到了一种简化的方法，”她指出。

忆阻器AI“在安全关键情况下表现出色，在这种情况下存在高度不确定性，可用数据很少，需要做出可解释的决定。”

科学家们重写了贝叶斯方程，这样忆阻器阵列就可以利用随机性进行统计分析，也就是“随机计算”。使用这种方法，阵列在时钟的每一次滴答声中都会产生半随机比特流。这些位通常是零，但有时是一。0与1的比例编码了阵列执行统计计算所需的概率。相比之下，这种数字策略使用相对简单的电路在另一项研究中，一组法国研究人员调查了将忆阻器用于贝叶斯推理的统计计算技术，在该技术中，先验知识有助于计算不确定选择可能正确的可能性。它的结果是完全可以解释的——与许多几乎无法解释的人工智能计算不同——而且它可以在几乎没有可用数据的情况下表现良好，因为它可以结合先前的专家知识。然而，“如何用忆阻器计算贝叶斯推理并不明显，”该研究的合著者、巴黎萨克雷大学CNRS的研究科学家Damien Querelioz说。

苏黎世神经信息学研究所的神经形态科学家Melika Payvand表示，使用传统电子学实现贝叶斯推理需要复杂的记忆模式，“随着观察次数的增加，记忆模式呈指数级增加”，她没有参与这两项研究。然而，Quereloz和他的同事们“找到了一种简化的方法，”她指出。

忆阻器AI“在安全关键情况下表现出色，在这种情况下存在高度不确定性，可用数据很少，需要做出可解释的决定。”

科学家们重写了贝叶斯方程，这样忆阻器阵列就可以利用随机性进行统计分析，也就是“随机计算”。使用这种方法，阵列在时钟的每一次滴答声中都会产生半随机比特流。这些位通常是零，但有时是一。0与1的比例编码了阵列执行统计计算所需的概率。与非弹性方法相比，这种数字策略使用相对简单的电路，所有这些都减少了系统的尺寸和能量需求。

研究人员在同一芯片上的30080个CMOS晶体管上制造了一个包含2048个氧化铪忆阻器的原型电路。在实验中，他们让新电路从戴在手腕上的设备发出的信号中识别出一个人的手写签名。

贝叶斯推理通常被认为是传统电子学计算成本高昂的。Quereloz说，新电路使用传统计算机处理器的1/800到1/5000的能量进行手写识别，这表明“忆阻器是提供低能耗人工智能的一个非常有前途的方向”。

新设备还可以立即打开和关闭，这表明它只能在需要时工作，以节省电力。此外，研究人员表示，它对随机事件的错误也很有弹性，因此在极端环境中很有用。Quereloz说，总的来说，新电路“在安全关键的情况下表现出色，在这种情况下，存在高度的不确定性，可用的数据很少，需要做出可解释的决定”。“例如，用于监测工业设施安全的医疗传感器或电路。”

Payvand说，贝叶斯电路的未来方向可能包括收集多种类型感官数据的机器，其中可能包括自动驾驶汽车或无人机。她指出，如果机器对基于一种意义的预测不自信，它可以通过分析不同意义上的数据来增强信心。

Payvand警告说，贝叶斯系统面临的一个关键障碍“是它们对更大问题或网络的可扩展性”。Quereloz指出，该团队已经设计了“目前正在制造”的设备的一个相当大的放大版本。他指出，他们的电路目前专门用于某些类型的贝叶斯计算，他们希望在未来创造更具适应性的设计。

在一定程度上，这两项研究都使用了随机性——Quereloz和他的同事将其用于统计分析，而Kvatinsky和他的合作者则让他们的神经网络以随机间隔对数据进行采样，以避免在对数据进行有限次采样时可能出现的错误。

惠普实验室的高级人工智能研究科学家贾科莫·佩德雷蒂表示：“这些方法与忆阻器设备的遗传随机性非常吻合。”他没有参与这两项研究。他说，尝试使用这些电子设备中的固有噪声来产生受控的随机性“而不是实现昂贵的数字伪随机数生成器”将是“非常有趣的”。