充满膜的晶圆。
在UCL的研究人员发现一种提高大脑启发式计算系统准确性的方法后,极其节能的人工智能现在更接近现实。
该系统使用电子系统创建人工神经网络,其能效至少是传统晶体管人工智能硬件的1000倍,但直到现在更容易出错。
现有的人工智能是极其能源密集型的——训练一个人工智能模型可以产生284吨二氧化碳,相当于五辆汽车的终身排放。用电子元件取代组成所有数字器件的晶体管,这是一种2008年首次制造的新电子设备,可以减少一吨二氧化碳,相当于下午的驱动产生的排放物。
由于 memrist 器比现有的计算系统节能得多,因此它们可能会将大量计算能力打包到手持设备中,从而消除连接到 Internet 的需要。
这一点尤其重要,因为由于数据需求不断增加以及数据传输能力难以超过某一点,预计未来对互联网的过度依赖将成问题。
在发表在《自然通讯》上的新研究中,UCL的工程师们发现,通过让神经网络的几个子组协同工作并平均计算它们,可以大大提高精度,这意味着每个网络的缺陷都可以通过去掉。
Memristor 被描述为"具有内存的电阻器",因为它们记得即使在关闭后流经的电荷量,在十多年前首次构建时,它们被认为是革命性的,这是电子元件中一个补充电阻器、电容器和电感器的"缺失链路"。此后,它们已经用内存设备进行商业制造,但研究小组表示,它们可能在未来三年内用于开发人工智能系统。
阿德南·梅奥尼奇博士拿着一个装满电子学的晶圆。
Memrists 提供大大的提高效率,因为它们不仅在 1 和 0 的二进制代码中运行,而且同时在 0 和 1 之间的多个级别上运行,这意味着可以在每个位中打包更多信息。
此外,记忆器通常被描述为一种神经形态(大脑启发)的计算形式,因为像在大脑中一样,处理和记忆是在同一个自适应构建基块中实现的,与当前在数据运动中浪费大量能量的计算机系统形成鲜明对比。
在这项研究中,Adnan Mehonic博士,博士生多维达斯·乔克萨斯(UCL电子与电气工程)和来自英国和美国的同事在几个不同类型的记忆器中测试了新方法,发现它提高了所有这些方法的精度,而不管材料或特定的记忆素技术如何。它还对可能影响测量器准确性的许多不同的问题起作用。
研究人员发现,他们的方法将典型人工智能任务的神经网络精度提高至与传统数字硬件上运行的软件工具相当的水平。
这项研究的主任Mehonic博士说:"我们希望有更多的通用方法,改善不是设备级,而是系统级的行为,我们相信我们找到了一个。我们的方法表明,当涉及到元,几个头比一个更好。将神经网络排列成几个较小的网络,而不是一个大网络,可以提高整体精度。
Dovydas Joksas进一步解释说:"我们从计算机科学中借用了一种流行的技术,并应用在了数学家的语境中。成功了!利用初步模拟,我们发现,即使简单的平均可以显著提高记忆神经网络的精度。
这项研究的合著者、UCL电子与电气工程教授Ton tony Kenyon教授补充道:"我们相信,现在是我们多年来一直在研究的机械师在物联网设备和边缘计算这个更具能源可持续性的时代发挥主导作用的时候。