德国创业公司突破传统晶体管限制，降低20倍的能源消耗

darthracer · 2024-2-27 08:51

Semron 3D AI芯片设计示意图。

一家德国创业公司Semron正在开发一种名为“3D堆栈”的芯片，以便直接在智能手机、耳机、VR头戴式设备和其他移动设备上运行人工智能模型。

由德累斯顿工业大学工程系毕业生Kai-Uwe Demasius和Aron Kirschen共同创立的Semron芯片使用电场而非传统处理器的电流来进行运算，Kirschen声称此举可提高能源效率并降低生产成本。

Kirschen在接受采访时表示：“由于预期人AI算资源将出现短缺，许多依赖于这些能力的商业模式的公司面临着生存风险——例如，那些训练自己模型的大型初创公司。我我们技术的独特功能将使我们能够达到当今消费电子设备芯片的价格点，尽管我们的芯片能够运行先进的AI，而其他公司则不能。”

Semron的芯片使用一种称为“记忆电容器”的特殊组件进行运算，Demasius和Kirschen在2016年（成立Semron四年前）就为此提交了初步专利。大多数计算机芯片都是由晶体管制成，与电容器不同，晶体管无法存储能量，它们只是充当“开/关”开关，控制电流的通过与否。

Semron的记忆电容器由传统半导体材料制成，利用化学中称为电荷遮罩的原理工作。记忆电容器通过一个“遮罩层”控制顶部电极和底部电极之间的电场。遮罩层反过来由芯片的内存控制，该内存可以存储人工智能模型的不同“权重”。(权重基本上充当模型中的旋钮，在模型训练和处理数据时控制和微调其性能。)

电场方法将芯片等级的电子移动降到最低，进而降低了能量消耗和热量。Semron旨在利用电场的散热特性将多达数百层的记忆电容器放置在单个芯片上，大大提高运算能力。

Kirschen补充道：“我们利用这个特性作为一个平台，在固定硅面积上部署数百倍的计算资源。你可以想象它就像就像一个封装中有数百个芯片一样。”

在2021年发表在《自然电子期刊》的一项研究中，Semron和马克斯普朗克微结构物理研究所的研究人员成功训练了一个计算机视觉模型，其能源效率超过3,500 TOPS/W，是现有技术的35到300倍。TOPS/W是一个有点模糊的指标，但结论是记忆电容器可以大大降低人工智能模型训练时的能量消耗。

目前，Kirschen表示Semron仍处于“产品前”阶段，并且几乎没有收入。通常，芯片创业公司最困难的部分是大规模制造和获得有意义的客户群，尽管不一定按此顺序。

对Semron来说更加困难的是，它在像Kneron、EnCharge和Tenstorrent这样的定制芯片企业中面临着激烈的竞争，这些公司总共筹集了数千万美元的风险资本。与Semron一样，EnCharge也在设计使用电容器而非晶体管的计算机芯片，但使用不同的基板架构。

然而，拥有11人团队的Semron计划到今年年底将团队扩大到大约25人，已成功吸引来自Join Capital、SquareOne、OTB Ventures和Onsight Ventures等投资者的资金。迄今为止，这家创业公司已筹集到1000万欧元（约1081万美元）。

SquareOne合伙人Georg Stockinger通过电子邮件表示：

“计算资源将成为21世纪的“石油”。随着大型语言模型占据世界，摩尔定律接近物理极限，未来几年计算资源将会出现巨大瓶颈。缺乏对运算基础设施的访问将大大降低公司和整个国家的生产力和竞争力。Semron将通过提供一种专门用于运算人工智能模型的革命性新芯片来解决这一问题，成为解决方案的关键要素。它打破了传统基于晶体管的运算典范，并将特定运算任务的成本和能源消耗降低至少20倍。”

德国创业公司突破传统晶体管限制，降低20倍的能源消耗

浏览过的版块