大模型兴起导致算力紧张?专家呼吁——国产AI芯片系统应练好“内功”

“大模型训练需要大量数据,因此对算力的要求很高。”在日前召开的首届“AI Tech Day(人工智能科技日)”峰会上,中国工程院院士、清华大学计算机科学与技术系教授郑纬民介绍,自去年12月份以来,大模型需要的AI芯片涨价一倍,国外芯片“一卡难求”。

原标题:国产AI芯片系统应练好“内功”

“大模型训练需要大量数据,因此对算力的要求很高。”在日前召开的首届“AI Tech Day(人工智能科技日)”峰会上,中国工程院院士、清华大学计算机科学与技术系教授郑纬民介绍,自去年12月份以来,大模型需要的AI芯片涨价一倍,国外芯片“一卡难求”。尽管国内数十家公司在AI芯片研制和生产方面取得了很大进步,但国产芯片尚未受到市场的广泛青睐。

对此,与会专家呼吁,解决算力难题,应重塑大模型算力生态,助力国产AI芯片系统练好“内功”。

加强底层研发,提升国产AI芯片“包容力”

“如果基于国外芯片编写的软件能够很容易移植到我们的国产芯片系统上来,用户就会感觉到国产芯片好用。”郑纬民认为,但由于生态建设不完备,目前国产芯片在大模型训练相关软件移植方面表现不太顺畅,因此需要进一步加强底层研发,做好包括编程框架、并行加速、通信库在内的软件研发工作。

“为了发展AI芯片的生态体系,一些国际大企业甚至可以放弃一些高利润的项目和方案。”英博数科CEO周韡韡介绍,营造生态需要发动整个行业的创新力量,例如国际企业曾通过主动开源部分软件的底层代码、让利给基于芯片的软件开发者,形成以AI芯片为核心的算力体系。

相较于芯片本身的硬件性能提升,郑纬民认为,通过营造生态,提升国产AI芯片的“包容力”更加急迫。“如果算力生态做得非常好,即使国产芯片的硬件性能只有国外性能的60%及以上,大家也会喜欢用。”郑纬民说,但如果算力生态没做好,新型软件跑不起来、软件移植不顺畅,即便硬件性能达到国外的120%,照样难以转变为有效算力。

为凝聚行业力量、改变当前的大模型算力生态,英博数科联合百川智能、中国计算机学会、清华大学等单位共同成立北京AI创新赋能中心技术委员会。作为该技术委员会的顾问,清华大学电子工程系教授汪玉表示:“在大模型领域,我们将同时从软件侧和硬件侧方面开展联合优化。在打造通用型人工智能服务平台的同时,推动高性能计算领域智能芯片和高模态电路关键技术的研发。”

共建基础生态,推动现有算力融合创新

“大模型兴起之前建设的算力,相对而言利用率较低,跟不上现阶段大模型对算力指数级发展的需求。”艾瑞咨询产业数字化研究院负责人徐樊磊介绍,为提升整体算力效率和满足差异化需求,应建立支撑大模型万亿量级参数计算的“智算中心”。“智算中心”可利用现有高质量数据中心,通过提升组网能力、协同能力、软硬件适配能力等实现部署。当前,“万卡”级别的智算中心正在主要节点城市发展起来。

与会专家认为,推动现有算力融合创新将进一步提升当前算力使用效率。“1万块卡(AI芯片)应该怎么连?是不是每块卡和其他9999块直连?如果这样,中间的连接将需要1万乘以9999个连接卡,成本将非常高。”郑纬民说,通过最有效的连接支持模型并行、数据并行等不同的要求,是融合创新的关键。

大模型背后运行的是更加复杂的网络架构和智能算法。如何在降本增效的同时,促进大模型算力使用门槛的降低?“‘云’模式是打通供需不对称、达成算力普惠的有效路径。”周韡韡表示,通过共享、共融集结现有算力,万卡平台及配备高效网络交互机制的大模型训练与推理平台,可以开放给大企业、小微企业共用。通过搭载数据迁徙、训练数据库等工具,云平台等基础生态的搭建有望让算力像水和电一样随取随用。

THE END
免责声明:本站所使用的字体和图片文字等素材部分来源于互联网共享平台。如使用任何字体和图片文字有冒犯其版权所有方的,皆为无意。如您是字体厂商、图片文字厂商等版权方,且不允许本站使用您的字体和图片文字等素材,请联系我们,本站核实后将立即删除!任何版权方从未通知联系本站管理者停止使用,并索要赔偿或上诉法院的,均视为新型网络碰瓷及敲诈勒索,将不予任何的法律和经济赔偿!敬请谅解!
相关阅读
  • 存储芯片涨价逐步向下传导 刺激下游厂商积极备货

    存储芯片涨价逐步向下传导 刺激下游厂商积极备货

    在经历了此前的下行周期后,存储芯片市场价格开始上涨。截至目前,部分型号存储芯片的价格较年内谷底上涨10%至50%不等。行业景气度的回升,让存储芯片行业上市公司迎来了机构的密集调研。近日,江波龙、佰维存储等多家上市公司在接受调研…

    2分钟前
  • 端侧AI创新周期开启,瞄准AI芯片的ICG能否成为下一个ARM?

    端侧AI创新周期开启,瞄准AI芯片的ICG能否成为下一个ARM?

    近期,半导体设备业者表示,台积电至年底整体产能利用率也缓步回升,预估2024年上半年应可重返80%。当中,台积电的AI 芯片客户纷纷表示接受该公司在 2024 年再次涨价的决定,这些客户包括 AMD 旗下的赛灵思、亚马逊、思科、谷歌、微软和…

    2分钟前
  • 紧抓“智电化”转型机遇 加速推动国产芯片上车应用

    紧抓“智电化”转型机遇 加速推动国产芯片上车应用

    “中国汽车的高速‘智电化’发展为汽车芯片产业带来机遇。”汪凯表示,一辆燃油车的芯片数量可能是300多颗,一辆智能汽车搭载700-800颗芯片,而新能源智能汽车的使用数量可能在1000-1500颗,需求增加推进了国产汽车芯片的发展。

    3分钟前

栏目精选

  • 快讯 紧抓“智电化”转型机遇 加速推动国产芯片上车应用

    紧抓“智电化”转型机遇 加速推动国产芯片上车应用

    “中国汽车的高速‘智电化’发展为汽车芯片产业带来机遇。”汪凯表示,一辆燃油车的芯片数量可能是300多颗,一辆智能汽车搭载700-800颗芯片,而新能源智能汽车的使用数量可能在1000-1500颗,需求增加推进了国产汽车芯片的发展。

    3分钟前
  • 快讯 年度满分旗舰 自研芯片加持 vivo X100究竟有何实力?

    年度满分旗舰 自研芯片加持 vivo X100究竟有何实力?

    来到年底,许多手机厂商都开始逐渐发力了,这也是因为高通、联发科这些芯片厂商发布了新的SOC芯片。100这个数字特别重要,象征着满分、圆满,意义非凡。今天给大家介绍的vivo X100就是一款年度满分旗舰手机产品!接下来,小编就带大家再…

    5分钟前