人工智能进入我们的世界看似突然且意想不到,但EDA已经悄悄地采纳它十多年。变化在于,随着大型语言模型(LLM)日益强大,以及将其应用于更具挑战性的多物理问题的需求,这一概念现在变得更加显眼。
人工智能日益重要的两个根本性转变。首先,热量正成为更大封装尺寸和更高集成度的障碍。因此,权力,热成像而机械则紧密结合于用于建筑材料的物理特性。其次,左移——即希望在流程更早获得更好信息以便做出更明智决策的愿望——正与自上而下的设计实践相结合。这两项变化都将物理影响引入了建筑决策,如2.5D和3D组件的楼层规划、分区和集成选择。
这正是人工智能可以发挥作用的地方,而且它从两个方向上发挥作用。其中之一是EDA工具,使这些工具更强大、更灵活。另一个是工具之外,为工程师提供有用的数据。虽然它们可以共存,但这些方法使用了不同形式的人工智能。此外,人工智能还可以通过构建合适的可执行设计和验证模型,将所有这些数据串联起来,作为物理设备的抽象。这些用例可能有助于改进方法论,从而更高效地实现更好的设计。
【编者注:在EDA语境下讨论人工智能时,“模型”一词会让人混淆,因为它用于不同的领域。第一种是人工智能模型,比如大型语言模型。推理引擎利用它来基于训练好的模型给出答案。第二种是EDA模型,可以作为设计或验证(DV)框架的一部分。该系统使用响应刺激的执行引擎,可能使用也可能不使用人工智能。当使用AI模型来抽象EDA模型时,情况尤其复杂。我们已尽力澄清这一点。]
是在室内还是室外?有多种因素会影响人工智能的应用。它可以用来替代或增强工具内已有的算法,也可以更具代理性,像工程师一样驱动工具。“人工智能存在于外部的一个优势是我们可以实现工具中立,”阿米特·古普塔说,恶习西门子EDA定制集成电路部门总裁兼总经理。“然后AI可以调用内部创建的工具,或者第三方工具。AI层在智能调用工具并迭代这些工具。那么,为什么我们要把人工智能放进工具里?当我们在求解器层面将它们结合时,优势在于通常有更多的知识和信息可以训练人工智能。你可以因此获得性能提升。”
其他人也同意。Synopsys产品管理高级总监Anand Thiruvengadam表示:“我们认为人工智能是工具的伙伴,是一种增强而非替代或替代的手段。”“我们没看到工具被排除在外。工具总是在流程中,尤其是在签字时。我们认为工具作为护栏存在的必要性。你可以让AI做很多前端工作。你可以让AI做大量预测、优化等,但最终你总需要一个工具在环中签字。”
智能人工智能则将此带向了不同的方向。Arteris首席市场官Michal Siwinski说:“智能人工智能作为一个概念的好处在于,你可以把它看作是人类——只是人工的。”“你基本上赋予它更高的自由度去执行特定任务,然后根据不同权衡层级协调这些任务协同工作。你愿意给予多少自由度,取决于环中人会继续参与过程。你没有一个工程师部门可以让一个人专注于绩效,另一个专注于面积、吞吐量或整体进度。你基本上有这样一个小团队——只是AI代理对人类代理,他们各自有自己的专业领域。”
在这方面进展迅速。Partcl联合创始人兼首席技术官Vamshi Balanaga表示:“需要进行大量工具迭代。”“例如,工具设置和基于测试平台或PPA结果的RTL更新,最好通过代理来调用工具,类似于当今人类的行为。目前,特工们在这方面还不算擅长,但随着工具被修改以增强推理能力,他们会越来越好。”
这能让更多工程师更容易构建可用的流程。Cadence战略与新业务集团总监Rob Knoth表示:“它在前端价值巨大,比如你可能想从规范到RTL、SystemC,或者将上一代设计的规范过渡到下一代设计。”“我怎么能创造衍生产品来满足这个新市场?这是一个丰富且重要的行业,基于LLM的人工智能、生成式人工智能、代理人工智能拥有巨大的展示价值的机会。那是它天生擅长的游泳池,也极具价值。”
在某些情况下,将人工智能集成到工具中也能带来很大价值。“历史上,我们外部使用人工智能用于一个应用,”西门子的古普塔说。“然后我们做了一些基准测试,看看通过将AI与求解器本身结合能获得的优势。通过将其与求解器结合,我们实现了2倍到30倍的性能优势,而求解器直接向AI传递的信息是API无法获得的。”
内心争论往往基于你试图解决的问题。Partcl的Balanaga说:“与物理过程的连接越深,神经网络在工具中需要越紧密集成。”“既然物理设计工具正在解决这些复杂的三维优化问题,将我们训练好的模型深度集成到优化器中,帮助我们找到更好的解决方案,是有意义的。”
抽象需求需要新的模型向左移动。这些模型需要具备适当的细节和执行性能。“我们当然可以在晶体管层面处理这些物理和多物理问题,”Gupta说。“行业已经这样做很长时间了。这从工艺设计套件(PDK)开始。这些工具包能提供晶体管性能的信息,比如IV曲线。然后我们利用机器学习和强化学习从这些数据构建数值模型,进行预测并处理这些多物理问题。”
这些抽象开始影响流程的许多方面。“在优化方面,决策至关重要,通常会使用某种模型,”弗劳恩霍夫IIS自适应系统工程部高级混合信号自动化组经理Benjamin Prautsch说。“例如,目前有研究新的优化方法,绕过涉及3D电磁求解器的昂贵仿真。它们使用经过合理数量且昂贵的初始模拟训练的网络。使用这些训练好的设计模型,优化过程显著加速,从而获得更好的整体结果。然而,必须强调,初始仿真和培训的投资应与节省的比例保持良好。”
在过去几年里,大型语言模型(LLM)成为了焦点。“直接应用大型语言模型(LLM)并不会带来太大进展,”巴拉纳加说。“语言模型并不适合处理需要编码到专业AI模型中的详细物理信息。使用人工智能处理接近物理的问题需要谨慎处理,而且注入领域知识融入模型设计和培训中。”
EDA专用领域模型仍在不断发展。Synopsys的Thiruvengadam表示:“目前这些模型相当强大,基础模型及其所具备的知识也在不断进步。”“基础模型具备某些功能,并且有一种方法可以定制这些基础模型。这正是在EDA的背景下,他们需要根据其特定领域和上下文定制LLMs。这就是提高该领域响应准确性的方式。”
这并不像听起来那么简单。“当人们谈论物理人工智能时,他们是在从生成式和代理型人工智能的角度来谈论它,”古普塔说。“历史上,它始于能够很好地理解语言的大型语言模型。现在,正在投入大量资金,将这一领域从语言模型扩展到物理模型,并能够处理除语言之外的其他领域。”
已经取得了一些成功。“多物理意味着跨越多个物理领域的问题,而如今的大型语言模型并不适合处理这些问题,”Normal Computing的产品工程负责人Arvind Srinivasan说。“历史上,我们通过仿真解决了这些问题。现在人们正尝试将物理嵌入AI训练中。AlphaFold是黄金标准:它结合了强化学习、物理约束和仿真。它之所以有效,是因为你可以快速拒绝无效的蛋白质折叠。在硬件中,运行完整仿真需要数小时,所以你无法获得那种快速的奖励信号。这是一个大问题。”
EDA可以使用哪些相关的设计和验证模型?“人工智能正在实现语言与数学结构之间的联系,”Fraunhofer的Prautsch说。“这可以是一个约束图,这在EDA中很常见。AI很可能会作为需求转化为结构,或其初步部分或约束,并且恶习反过来确认。”
随着现有算法需要更加关注多物理问题,我们有机会评估AI辅助的优势。Balanaga说:“位置感知门大小是一个非常接近物理学的问题,但正是深度神经网络在解决方面展现出潜力的问题类型。”“该模型所做的工作相当于数十年来手工调优的启发式算法。我们的理念与AlphaGo的做法相呼应,后者通过发现更优的决策过程,超越了手工调优的专家系统。解决方案是合成数据与强化学习的结合。”
AI生成模型半导体设计的基石 利用晶体管抽象来提供门级模型。这些模型具有足够的精度和更高的仿真速度。向左移动需要在开发流程的各个阶段实现明智决策的抽象,这需要大量新模型。但模型的创建和验证成本很高。这促使许多人开始依赖人工智能来创建必要的模型,这些模型既可以用传统引擎执行,也可以像推断AI模型一样进行。
模拟验证需要快速但准确的模型。Prautsch表示:“验证将通过加速生成系统仿真所需的替代模型来支持。”“这对于实现系统级建模非常重要,尤其是在AMS中乏味仿真可以被基于人工智能的替代模型所取代。”
EDA一直使用数据驱动的方法,比如模拟退火。“生成式AI的真正区别在于,你可以用过去的模拟数据作为非常大型模型的训练数据,以改进下游模拟,或者定制大型语言模型,将庞大规格转化为物理约束,”Normal的Srinivasan说。“但如果验证AI生成的RTL或测试计划所需的时间和自己制作一样长,那你就没有节省任何时间。AI无法取代那些审查它生成材料并不能真正减轻工作量的领域。”
这项技术正在逐渐普及。“你可以拿一个设计,然后在该设计上训练模型,”Ansys(现为Synopsys一部分)电子与半导体业务部门总监Rich Goldman说。“但你需要大量数据。成千上万个数据点构成扫描的一部分。你对设计做些修改,运行以获得结果,然后再稍微调整一个参数,然后再进行扫描。这就是你的训练数据集。一旦你训练了这个AI模型,这需要很长时间,你就将其应用到设计中,几乎能即时得到结果。所有这些需要数周甚至数月的运行,你都能即时获得。你可以将其应用于许多不同的设计、许多不同的迭代,得到最佳设计。这不会给你100%准确的结果,但至少能达到90%到95%的准确率。”
小型语言模型(SLMs)在这方面有帮助,因为它们可以针对特定问题进行定位,从而降低成本并降低模型的复杂性。但从FP32缩小到FP16及以下,也引发了关于结果准确性的一些疑问。
“你想从更大的模型中提炼知识,注入“它被压缩成更小的模型,同时也能修剪权重,”ChipAgents首席执行官William Wang说。“所以你可能用8位来存储权重,而不是用16位。一切都被压缩了。有很多知名算法可以压缩权重并使其变小,但你也需要达到一定的精度水平。”
EDA中数据稀缺性使情况更加严重。“与人工智能相关的最重要问题之一是获取足够的训练数据,使LLM的质量达到可信的水平,”Breker验证系统首席执行官Dave Kelf表示。“我们现在看到SLM和其他技术的应用以解决数据稀疏问题,正是这种思维推动了AI的实际应用。将AI专业知识与EDA经验结合,对于优化这些新技术的使用至关重要。”
强化学习可以从更小的数据集开始。“要进行强化学习,你需要两样东西,”巴拉纳加说。“对于位置感知门大小调整的问题,你需要一个能够预测的模型——例如,更好的门尺寸集合,以及一个运行非常快的时序分析引擎环境。训练过程在这个循环中进行,模型在大量合成网表上探索各种不同的门尺寸。诚然,这不如拥有大量带有优化门尺寸的网表效率,但没有这些数据,我们必须花费计算来生成数据。”
这会影响准确性。“随着抽象层次的提升,自然语言成为下一层抽象,扎实底层计算的基础非常重要,”Cadence's Knoth说。“你无法进入另一层抽象,而不相信你脚下实际发生的事情的准确性。否则,这种抽象会失去准确性,你的效果也会降低,最终结果也不会像它本可以有的那样吸引人。”
关于准确性的问题在AI模型中很常见。“人们在估计和相关性之间容易混淆,”Arteris的Siwinski说。“如果能有完全相关的内容当然很好,但很多事情会随着工作量而变化。你在系统层面做一些事情,希望它能与实现方式一一对应。我们在架构层面权衡中建立了物理感知的概念,基本上通过布局和路线计算获得足够的信息,了解布局、拥堵、阻塞以及线路长度计算,同时理解电力的影响。通常,前端团队会做点什么,后端团队会说,'这行不通。'我们正努力建立足够多的关怀和关键绩效指标,确保早期不能违反。这只是个近似,但已经足够好了。流程的前半部分不仅仅是创造一些幻想、无法实现的东西。”
信任,但要核实。“英伟达展示了他们能够利用替代模型大幅加速图形渲染,”诺斯说。“这些挑战与我们签署时面临的类似。当你看到这张图片时,你相信它吗?这一切都遵循基于物理的原则,所以我认为我们不能排除人工智能在计算中的作用,但这并不改变第一原理的重要性。基于物理的算法,实际计算这些内容,将是互补的。即使是那些替代模型,推断很多像素,也需要计算种子来进行推断。”
人工智能贯穿整个流程在软件行业,人工智能现在被期望负责编写代码。“如果部落在设计师专业知识和工具专业知识方面的知识能够被记录下来,那么你就有能力从中学习,”Thiruvengadam说。“这就是大型语言模型的力量。我们所需要的只是以一种能够被大型语言模型(LLM)吸收的方式捕获这些知识。这样LLM就能完成很多工作。你可以问模型或生成应用,'对于这个特定规格,合适的模拟架构或拓扑是什么?'LLM会提供一个架构推荐,附带示例和大量其他辅助资料。”
还有人希望看到AI帮助制定规范和需求。“挑战在于你有成千上万个需求,很难在其中发现逻辑错误,”普劳奇说。“这项任务通常是语言对逻辑,或者语言对某些数学表示,而这正是人工智能的一个甜蜜点。”
关键是它必须与工程师沟通。斯里尼瓦桑说:“当人们询问推理时,他们通常指的是可解释性——人类可以验证的输出。”“大型语言模型不像人类那样推理。他们做变压器解码。但如果你限制他们输出带有步骤的计划,这看起来像推理,对人类来说变得可行。这并不是真正的推理。它是对我们展示输出方式的限制,以便人们能够与它们互动。重点是设计人机协作,而不是让机器像我们一样思考。”
快速演进鉴于各种人工智能创新的速度,显然行业将看到EDA工具和代理型AI工具的快速改进,这些工具可以帮助工程师减轻工具迭代带来的繁重任务。“每天都有新技术和新能力陆续发布,”古普塔说。“我们一直在评估利用这些新技术在底层发展的机会,以加快进度。EDA是独一无二的。我们需要加快速度,跟随行业与基础技术的同步。我们将继续看到人工智能能力进入我们工具的速度持续增长。”
工程师的角色也将随之改变。“我们期待人工智能能够让团队构建更多芯片,”Balanaga说。“我们预计先进智能体与改进工具的结合将大幅提升设计能力,这将使人类精力转向前期细致定义架构规范。之后,AI将处理大部分后续任务,而人类则作为协调者,解决设计意图中的任何歧义。”