三亿(集团)体育科技-新型AI芯片将大语言模型能耗减半 发布时间:2026-04-12 19:35:31

  科技日报讯(记者刘霞)美国俄勒冈州立年夜学科研团队研发出一种新型AI芯片,乐成将年夜语言模子的能耗降低50%。这项结果在近期于波士顿进行的IEEE定制集成电路集会上发布,是半导体范畴的庞大冲破,有望成为解决年夜语言模子高能耗问题的“绿色钥匙”。

  当前,以google“双子座”及OpenAI的GPT-4为代表的年夜语言模子,因海量参数使患上算力需求激增,进而致使能源需求急速飙升。

  研究团队指出,问题的要害于在数据中央铜基通讯链路的数据传输。高速数据互换不仅会孕育发生偏差,更会带来巨年夜的能源华侈。传统平衡器虽能纠错,但其自身就是“电山君”。一种解决方案是开发更高效的有线通讯芯片。

  他们开发的新芯片可以或许借助AI技能,经由过程练习其上的分类器辨认并改正过错,以更智能高效的方式恢复数据,从而降低能耗。与传统设计比拟,新芯片能使年夜语言模子耗损的能源减半。

  研究团队已经着手开发下一代芯片,估计将带来更惊人的能效体现。跟着全世界AI算力需求连续飙升,这项技能或者将成为绿色计较的主要推手。

-三亿(集团)体育科技