在 AI 芯片领域，存储墙与功耗墙一直是制约大语言模型推理效率的核心瓶颈。传统架构需要不断从外部 DRAM 或 HBM 读取权重数据，导致带宽受限、功耗激增。Taalas 提出了一种激进的技术路线：将 LLM 权重直接「印刷」到芯片的晶体管中，用掩模只读存储器（Mask ROM）替代传统的权重存储方案，实现存储与计算的深度融合。这一物理实现工艺究竟如何工作？其工程挑战与量产可行性又如何？本文将深入解析这一底层技术细节。
掩模只读存储器召回结构：权重硬编码到金属层
Taalas 将其核心技术称为「掩模只读存储器召回结构」（Mask ROM Recall Fabric），其核心思想是将量化后的模型权重直接硬编码到芯片的金属层和晶体管布局中。与传统的可编程存储器不同，ROM 位在流片阶段就已确定，更换模型意味着需要重新流片 —— 具体而言，Taalas 声称只需更换顶层金属掩模即可在约 60 天内完成新模型的部署。这种设计从根本上消除了权重搬运的能耗与延迟，因为权重从一开始就被固定在硅片的物理结构中。
在具体实现上，Taalas 的第一代 HC1 芯片采用台积电 N6 制程，集成了约 530 亿个晶体管，用于承载和处理约 80 亿参数的 Llama 3.1 8B 模型（量化至 3-6 位权重）。每个参数对应一个物理晶体管结构，模型被逐层布局在芯片上，形成一条从输入到输出的数据流通道。这种布局方式的直接后果是：权重永远不需要离开其所在位置，矩阵乘法运算直接在权重存储区域完成。
单晶体管权重存储与乘法一体化架构
Taalas 最具颠覆性的创新在于其「单晶体管权重 + 乘法」单元设计。传统 AI 加速器将存储与计算分离，需要独立的 SRAM 或 DRAM 存储权重，再将数据传输到 MAC（乘累加）单元进行处理。Taalas 则在同一个晶体管中同时实现了权重存储与乘法计算功能。
具体技术原理如下：每个晶体管的物理特性（如阈值电压、沟道长度等）被配置为代表一个量化权重值（例如 4 位）。当输入激活信号以数字形式进入该晶体管时晶体管的导电特性决定了信号的放大或衰减程度，从而在阵列层面自然形成乘累加运算。整个过程完全依赖数字逻辑技巧，而非模拟计算，因此避免了模拟信号处理面临的噪声与精度问题。
当 token 嵌入向量进入芯片后，它首先被驱动到第一层的晶体管阵列中，矩阵乘法在权重所在位置就地完成，无需将权重 fetch 到独立的 MAC 单元。产生的激活值通过短距离片上互连和流水线寄存器传递到下一层的硬连线阵列中，逐层推进直到产生最终的 logit 输出。整个推理过程中，权重无需离开芯片一步，这从根本上消除了外部存储带宽的瓶颈。
物理布局与晶体管资源分配
从晶体管资源分配的角度分析，HC1 芯片的 530 亿晶体管并非全部用于权重存储。Taalas 在芯片上同时集成了 SRAM 用于 KV 缓存存储，以及适配器电路（LoRA 风格的微调结构）。这意味着用于存储 80 亿权重的晶体管数量约占总数的一个相对较小的比例，其余晶体管用于计算逻辑、互连网络和缓存。
这种物理布局带来了显著的性能收益：由于权重与计算单元的极致亲密性，数据移动距离被压缩到纳米级别，理论上面可以实现极高的计算能效比。但硬币的另一面是：芯片的物理结构与特定模型架构强绑定 —— 如果模型架构发生改变，或者需要更新权重（如微调后），就必须重新流片。Taalas 通过仅修改顶层金属层来降低这一成本，但模型迭代的灵活性仍然受到物理实现的根本约束。
工程挑战：热密度、良率与模型迭代
将数十亿个晶体管用于存储单个模型权重，而非传统意义上的计算逻辑，首当其冲的工程挑战是热密度管理。传统芯片设计中，计算单元与存储单元通常分区布局，热源相对分散。而在 Taalas 的架构中，权重存储区域同时也是计算活跃区域，热源高度集中在芯片的特定区域。如何在有限的功耗预算内有效散热，成为物理实现中必须解决的问题。
其次是良率挑战。掩模只读存储器的一个特性是一旦制造完成就无法修改，任何一个晶体管层的缺陷都可能导致整个芯片失效。当晶体管数量达到数百亿级别时，即使使用成熟的 N6 制程，晶圆良率仍面临考验。Taalas 需要在模型压缩（使用更少晶体管）与模型精度之间寻找平衡点，同时也需要与台积电紧密合作优化制程工艺。
第三个挑战是模型迭代的灵活性。尽管 Taalas 声称 60 天可以完成一次新模型部署，但对于需要频繁更新的应用场景（如持续学习的模型），物理掩模方案的响应速度仍然受限。此外，模型更新只能通过重新流片实现，这意味着无法像传统 GPU 那样通过软件更新快速修复模型缺陷或安全问题。
量产可行性分析
从制程选择来看，Taalas 选择台积电 N6（6 纳米）节点而非更先进的 N3 或 N5，具有多方面的考量。N6 是相对成熟的制程，良率曲线更为平坦，成本效益更高，同时能够提供足够的晶体管密度来承载大规模权重阵列。对于一家初创公司而言，在首款产品上选择成熟制程是合理的风险控制策略。
从商业路径来看，Taalas 的芯片定位于特定模型（ Llama 3.1 8B）的极致推理性能，而非通用 AI 加速器市场。这种专用芯片策略降低了软件栈的复杂性 —— 模型架构已知、权重固定、优化目标明确。但也意味着其市场空间受限：只有当客户需要运行特定模型且对吞吐量与能效有极致要求时，Taalas 的方案才具备不可替代性。
综合来看，Taalas 的物理实现工艺代表了 AI 芯片架构的一次激进创新，其核心价值在于通过将权重嵌入晶体管来消除存储墙与数据移动开销。然而，热管理、良率控制与模型迭代灵活性构成了主要的工程障碍。在量产可行性上，选择成熟制程降低了技术风险，但专用芯片的市场定位也限制了其潜在规模。未来能否在保持性能优势的同时解决这些工程挑战，将决定这一技术路线能否从概念验证走向大规模商业部署。
资料来源：The Next Platform、SiliconANGLE、Hacker News