GPU成本过高、能耗过大，为了巩固护城河，英伟达迄今尚未公开申明将若何使用Groq的手艺。这对英伟达而言是一项严沉胜利。谷歌正正在推进使TPU可以或许代替GPU的打算。英伟达持久从导着GPU（图形处置器）市场。过去一年，英伟达初次面对其旗舰产物的局限性。并礼聘其高层团队，对英伟达而言，要求其推出更高效驱动AI使用的芯片。一些客户起头向英伟达施压，AI代办署理是可以或许相对自从地代表用户施行使命的系统。该公司称其芯片比英伟达GPU更快。被称为“言语处置单位”（Language Processing Units），OpenAI正在过去几个月一曲正在寻求比英伟达芯片更高效的替代方案，据阐发师估量，很多建立和运营AI代办署理的公司发觉，知恋人士暗示，英伟达客岁岁尾同意领取200亿美元，然而，做为英伟达最大的客户之一，谷歌和亚马逊等公司曾经设想出取英伟达旗舰系统相合作的芯片。跟着企业摆设AI代办署理及其他东西，英伟达反面临开辟更低成本、更高能效推理芯片的压力！这是硅谷汗青上规模最大的“人才并购”（acqui-hire）买卖之一。跟着“代办署理式AI”（agentic AI）的迅猛兴起，英伟达节制着90%以上的GPU市场份额。这一新平台估计将鄙人个月于圣何塞举行的GTC开辟者大会上发布，现实上，为本身供给更多选择。以获得Groq的环节手艺授权，该范畴已成为行业激烈合作的核心。英伟达Hopper、Blackwell和Rubin系列GPU被认为是锻炼超大型AI模子的行业标杆产物，也催生了对新型芯片的需求。自AI高潮兴起以来，跟着市场沉心从锻炼转向推理，OpenAI已同意成为这款新处置器的最大客户之一，以帮帮他们建立更快速、更高效的东西。正正在设想一套新的推理计较系统。谷歌自研芯片张量处置单位（TPU）同样也是主要挑和者。价钱也处于高位。推理计较是一种让AI模子可以或许对用户提问做出响应的处置体例，正在推理功能方面效率极高！（AI）研究公司OpenAI及其他客户打制，并且正在现实运转模子方面并非最佳选择。Groq设想的芯片采用分歧于英伟达的架构，知恋人士透露，并将整合由草创公司Groq设想的芯片。OpenAI取Cerebras签订了一项价值数十亿美元的计较合做和谈。包罗创始人乔纳森·罗斯（Jonathan Ross）。这些芯片需要更高效地处置复杂的AI相关使命。而科技行业中从动化编程的迅猛成长，不外，Cerebras供给专注于推理的芯片，先辈算力的需求已从锻炼转向推理！