NTT 和东京大学使用受人脑启发的算法开发了世界上第一个光学计算人工智能

合作推进基于光计算的低功耗、高速人工智能的实际应用

东京 - （美国商业资讯） - #科技向善 - NTT公司 （总裁兼首席执行官：Akira Shimada，“NTT”）和 东京大学 （东京文京区，总裁：Teruo Fujii）受大脑信息处理的启发，设计了一种新的学习算法，适用于使用模拟操作的多层人工神经网络 (DNN)。 这一突破将减少人工智能的功耗和计算时间。 这一研发成果发表在英国科学杂志上 自然通讯 十二月26^th.

研究人员通过将算法应用于使用光学模拟计算的 DNN，实现了世界上第一个高效执行光学 DNN 学习的演示，有望实现高速、低功耗的机器学习设备。 此外，他们还实现了使用模拟运算的多层人工神经网络的世界最高性能。

过去，高负荷的学习计算都是通过数字计算来进行的，但是这个结果证明了可以通过使用模拟计算来提高学习部分的效率。 在深度神经网络（DNN）技术中，通过将光脉冲假设为神经元，将非线性光环假设为具有递归连接的神经网络来计算称为深水库计算的递归神经网络。 通过将输出信号重新输入同一个光路，人为地加深了网络。

DNN 技术支持高级人工智能 (AI)，例如机器翻译、自动驾驶和机器人技术。 当前，所需的功率和计算时间的增长速度超过了数字计算机性能的增长速度。 DNN技术采用模拟信号计算（模拟运算），有望成为一种实现类似于大脑神经网络的高效、高速计算的方法。 NTT 和东京大学之间的合作开发了一种适用于模拟操作 DNN 的新算法，该算法不假设理解 DNN 中包含的学习参数。

所提出的方法通过改变基于网络最后一层的学习参数和期望输出信号（误差信号）的误差的非线性随机变换来学习。 这种计算使得在光电路等事物中更容易实现模拟计算。 它不仅可以用作物理实现的模型，还可以用作机器翻译和各种 AI 模型（包括 DNN 模型）等应用中的尖端模型。 这项研究有望有助于解决与人工智能计算相关的新问题，包括功耗和增加的计算时间。

除了检验本文提出的方法对特定问题的适用性，NTT还将推动光硬件的大规模和小型集成，旨在为未来的光通信建立高速、低功耗的光计算平台。网络。

支持本研究：

JST/CREST 支持了部分研究结果。

杂志刊物：

杂志： 自然通讯 (网络版：26月XNUMX日)

文章标题：采用仿生训练方法的物理深度学习：物理硬件的无梯度方法

作者：中岛光政、井上胜马、田中贤治、国芳康夫、桥本俊和、中岛航平

术语解释：

1. 光路：使用电子电路制造技术将硅或石英光波导集成到硅晶片上的电路。 在通信中，光通信路径的分支和汇合是通过光干涉、波长复用/解复用等方式进行的。
2. 反向传播（BP）方法：深度学习中最常用的学习算法。 在向后传播误差信号的同时获得网络中权重（参数）的梯度，并更新权重以使误差变小。 由于反向传播过程需要对网络模型的权重矩阵进行转置和非线性微分，因此很难在包括生物体大脑在内的模拟电路上实现。
3. 模拟计算：表达真实价值的计算机 利用光的强度和相位、磁自旋的方向和强度等物理量，根据物理定律改变这些物理量进行计算。
4. 直接反馈对齐（DFA）方法：通过对最后一层的误差信号进行非线性随机变换来伪计算每一层误差信号的方法。 由于不需要网络模型的微分信息，只需并行随机变换即可计算，因此与模拟计算兼容。
5. 储层计算：一种在隐藏层中具有循环连接的循环神经网络。 它的特点是在称为储层的中间层中随机固定连接。 在深层油藏计算中，信息处理是通过多层连接油藏层来进行的。

NTT和NTT徽标是NIPPON TELEGRAPH AND TELEPHONE CORPORATION和/或其分支机构的注册商标或商标。 所有其他引用的产品名称是其各自所有者的商标。 ©2023日本电讯公司

联系我们

斯蒂芬·罗素

有线通信®

对于 NTT

+1-804-362-7484

[电子邮件保护]