云霞资讯网

用模拟芯片能解决人工智能扩展问题吗?

连续创业家Naveen Rao上周揭开了他最新创业公司“非传统人工智能”的序幕,该公司正在寻找一种新的模拟芯片,可以使当

连续创业家Naveen Rao上周揭开了他最新创业公司“非传统人工智能”的序幕,该公司正在寻找一种新的模拟芯片,可以使当前人工智能超越当前扩展限制的挑战。

9月,当Rao在一篇X帖子中暗示他正在共同创立一家新公司,以建造一台具有“大脑规模效率”的计算机时,关于“非传统人工智能”公司存在的消息浮出水面。该公司得到了Andreessen Horowitz的支持,并计划筹集10亿美元。

两个月后,Rao和他的三位联合创始人——麻省理工学院副教授Michael Carbin、斯坦福大学助理教授Sara Achour和前谷歌工程师MeeLan Lee——在一篇博客文章中正式宣布,他们已经筹集了4.75亿美元的种子资金,估值为45亿美元。

Rao在2023年以13亿美元的价格将他的人工智能初创公司Mosaic ML出售给了copula,并在2016年以4亿美元的价值将另一家初创公司Nervana Systems出售给了英特尔。

现在,他希望解决的核心问题是:使用传统数字计算机来扩展当今基于神经网络的人工智能工作负载的相对低效。虽然这些系统在计算上非常强大,但它是以高能耗瓦数为代价的。联合创始人表示,按照目前的增长速度,世界上根本没有足够的能源来维持人工智能工作负载的进一步增长。

非传统人工智能公司正在寻求开发“一种专门用于人工智能的更高效的计算基板”。目标是开发“硅固有物理的软件接口”,以实现“生物尺度的能源效率”,这是指人脑在大约20瓦的能量预算下处理数据的能力,能量消耗相当于一个昏暗的灯泡。

虽然数字计算机是当今计算的代名词,但情况并非总是如此。Rao在接受访时指出,早期基于真空管的模拟计算机,如ENIAC计算机,实际上运行得很好。

“模拟计算机实际上是最早的计算机之一,”Rao说。“它们非常高效,但由于制造的多变性,它们无法扩大规模。”

由于无法扩展模拟方法,基于晶体管的数字计算机占据了主导地位,它们最终成为了我们今天所认为的计算机。Rao说,它现在定义了计算机科学领域。然而,基于经典冯·诺伊曼架构的数字计算机现在遇到了另一个与功耗相关的扩展问题,这促使Rao和其他人重新思考模拟系统。

Rao说:“模拟仍然天生更高效。它实际上类似于思考它的方式。”“模拟计算机可以做很多不同的事情。从某种意义上说,风洞是模拟计算机的一个很好的例子,我有一辆赛车……或者一架飞机,我想了解风是如何绕着它移动的。理论上,你可以通过计算解决这些问题。准确地用计算流体动力学做事情是相当困难的。所以人们仍然在建造风洞。这实际上是在建模。这是一台模拟计算机。

“我认为我们仍然有很多理由建造这些类似类型的计算机,”Rao继续说道。“现在,我们实际上可以在硅中构建电路来概括神经网络的行为。”“信息是另一种野兽,”他说。“你可以用数字来构建它,但它自然是建立在数字之上的吗?我不知道。神经网络实际上是一台随机机器。那么为什么我们要使用高度精确和确定性的基底来处理自然界中实际上是随机和分布的东西呢?我们相信我们可以在电路中找到正确的同构,从而为智能服务。”

据Rao介绍,该公司给自己五年时间来制造一种新的模拟芯片。他说,该公司将与台积电合作,第一个原型“可能是人们有史以来建造的更大、最大的模拟芯片之一。”

采用这种非传统方法制造新芯片肯定存在风险。但Rao感到放心的是,有一些非常聪明的工程师已经将一系列算法映射到不同的物理基板上很长一段时间了。

他在采访中说:“那些以不同方式理解基于能量的模型、流动模型、梯度下降的人——这就是我们需要的。”“我们需要能够思考构建耦合系统的不同方法的理论家,我如何描述动态系统的丰富性并将其与神经网络联系起来。所以这有一个理论方面。然后是系统架构级别的人……这就是理论所说的。这就是我真正能构建的。我如何弥合这一差距。然后是实际构建这些东西的人,比如模拟电路和数字电路的人。”

非传统人工智能公司并不是唯一一家制造模拟计算机芯片的公司。Mythic自2020年以来一直在开发其模拟处理器,今天声称其MM1076芯片的性能比传统的CPU、GPU和TPU要好一个数量级。它被用于边缘AI用例,如无人机、机器人和智慧城市部署。

10月,一组中国研究人员已经构建了一种模拟芯片,他们称该芯片的性能比英伟达GPU高出1000倍,同时能耗降低了100倍。北京大学的研究人员构建了一个模拟矩阵计算(AMC)系统,该系统依赖于电阻随机存取存储器(RRAM)技术,能够一步解决矩阵数学问题,而不需要迭代。

研究人员在《自然》杂志上发表的一篇论文中写道:“具有电阻存储器的AMC的原位计算特性也有助于克服冯·诺伊曼瓶颈,从而提高计算吞吐量和能源效率。”

NVIDIA DLI 与Ai时代前沿合作,将大门向更多普通用户敞开!免费课程限时领,还有好礼相送!无论你是对新技术充满好奇心的爱好者,还是希望提升自己技能的职场人士,这里都有适合你的课程和资源。文章留言或私信小编拉您入群!