但是神经网络很大，而且它们的计算是能量密集型的，所以它们对手持设备来说不是很实用。大多数依赖神经网络的智能手机应用程序只是将数据上传到互联网服务器，由互联网服务器处理数据并将结果发回手机。

现在，麻省理工学院的研究人员已经开发出一种特殊用途的芯片，可以将神经网络的计算速度提高三到七倍，同时将功耗降低94%到95%。这使得在智能手机上本地运行神经网络，甚至将其嵌入家用电器中变得可行。

“一般的处理器模型是，在芯片的某些部分有一个存储器，在芯片的另一部分有一个处理器，当你做这些计算时，你在它们之间来回移动数据，”Avishek Biswas说，他是麻省理工学院电子工程和计算机科学研究生，他领导了这种新芯片的开发。

“由于这些机器学习算法需要如此多的计算，这种来回传输数据是能源消耗的主要部分。但是这些算法所做的计算可以简化为一个特定的运算，称为点积。我们的方法是，我们能否在内存中实现这种点积功能，这样你就不需要来回传输这些数据了?”

比斯瓦斯和他的论文导师、麻省理工学院工程学院院长、Vannevar Bush电气工程与计算机科学教授Anantha Chandrakasan在一篇论文中描述了这种新芯片，比斯瓦斯本周在国际固态电路会议上发表了这篇论文。

回到模拟

神经网络通常是分层排列的。网络一层中的单个处理节点通常会从下一层的几个节点接收数据，并将数据传递给上一层的几个节点。节点之间的每个连接都有自己的“权重”，这表明一个节点的输出在下一个节点执行的计算中所起的作用有多大。训练网络就是设置这些权重的问题。

从下一层的多个节点接收数据的节点将把每个输入乘以相应连接的权重，并将结果求和。这个运算——乘法的求和——就是点积的定义。如果点积超过某个阈值，该节点将通过具有自己权重的连接将其传输到下一层的节点。

神经网络是一个抽象概念:“节点”只是存储在计算机内存中的权重。计算点积通常涉及从内存中获取权重，获取相关数据项，将两者相乘，将结果存储在某处，然后对每个节点的输入重复操作。考虑到神经网络将有数千甚至数百万个节点，这是大量需要移动的数据。

但这一系列操作只是大脑中发生的事情的数字近似，在大脑中，信号沿着多个神经元在“突触”或神经元束之间的间隙相遇。神经元的放电速率和通过突触的电化学信号与数据值和权重相对应。麻省理工学院研究人员的新芯片通过更真实地复制大脑来提高效率。

在芯片中，节点的输入值被转换成电压，然后乘以适当的权重。只有组合电压被转换回数字表示并存储以供进一步处理。

因此，该芯片可以一步计算多个节点的点积——原型机一次16个节点，而不是每次计算都在处理器和内存之间穿梭。

要么全有要么全无

这个系统的关键之一是所有的权值不是1就是-1。这意味着它们可以在存储器内部作为简单的开关来实现，要么关闭电路，要么打开电路。最近的理论研究表明，只用两个权重训练的神经网络应该不会失去多少准确度——大约在1%到2%之间。

比斯瓦斯和钱德拉卡桑的研究证实了这一预测。在实验中，他们在一台传统计算机上运行了神经网络的完整实现，并在他们的芯片上运行了等效的二进制权重。他们的芯片的结果通常在传统网络的2%到3%以内。