AMD在与Cerebras达成协议几周后，又收购了Taalas这家初创公司，旨在提升即将推出的Helios机架规模系统的推理能力。Taalas专注于设计用于推理工作负载的芯片。

Taalas的独特之处在于，他们将AI模型直接“烘焙”进硅芯片中。AMD已经签署了收购Taalas的最终协议。

Taalas通过将特定AI模型硬连线到单个晶体管中，消除了所谓的“内存墙”现象，即GPU在等待数据到达后才处理数字。这一创新得益于一种专有的数字架构，能在单个晶体管中存储4位数据并执行数学运算。

Taalas的HC1芯片拥有共享硬件块，这些硬件块能够为量化的4位模型权重预先计算所有16种可能的产品。由于每个可能的数学结果已经在芯片上实时发生，单个晶体管实际上并不进行数学运算，而是作为物理路由器。

具体来说，AI模型中的每个特定权重由单个“掩模ROM”晶体管表示。在制造过程中，通过蚀刻微观物理线将该晶体管物理连接到16个预先计算的产品线之一。数据流经芯片时，晶体管只需选择正确的预先计算的数学通道，并将其传递给加法器。这样，Taalas的HC1芯片每秒能为每个用户生成16000到17000个令牌。

这种方法与Groq LPU有些相似，Groq LPU使用小的隔离SRAM池，并将AI模型权重直接硬烘焙进SRAM，完全绕过了内存缓存的概念。

AMD宣布了收购Taalas的最终协议。真正的问题在于这项技术在机架中的位置，而不是它是否作为独立产品发货。它是解码加速器吗？推理分为两个具有相反特性的阶段。