甩英伟达几百条街？Etched AI开创新技术将Transformer架构直接“烧录”到芯片中

2023-12-19 10:43 来源:站长之家

美国芯片初创公司Etched AI近日宣称，他们成功开创了一项新的技术，将Transformer架构直接“烧录”到了芯片中，创造出了世界上最强大的专门用于Transformer推理的服务器。据称，这项技术可以运行万亿参数的模型，甩英伟达几百条街。

官网地址:https://www.etched.ai/

该服务器具有多项功能，包括实时语音代理，能够在毫秒内处理成千上万的词;更好的编码与树搜索能力，可以并行比较数百个响应;多播推测解码功能，实时生成新内容;支持未来的万亿参数模型，只需一个核心，支持全开源软件栈，可扩展至100T参数模型;还具备高级解码技术，包括光束搜索和MCTS解码。

此外，每个芯片还配备了144GB HBM3E，支持MoE和转换器变体，为服务器的高性能提供了有力支持。这一突破性技术的问世，将为Transformer架构的应用带来新的可能性。

THE END

相关阅读

芯片制造商Qorvo将出售部分中国工厂立讯精密接盘

美国威讯联合半导体有限公司(Qorvo)周一宣布，公司已达成最终协议，将把中国北京和德州的组装和测试设施出售给立讯精密。这笔交易的财务条款尚未披露，预计将于2024年上半年完成。威讯联合半导体将苹果公司列为其客户之一，并受益于iPhon…

1分钟前
苹果在自研Wi-Fi 7芯片预计iPhone 17 Pro系列采用

据外媒报道，外界普遍认为，在与高通之间因专利授权费而起的法律大战后，苹果在2019年，也就是他们与高通和解的那一年，就开始自研调制解调器，以减少在这一关键部件上对高通的依赖，增强对核心部件的掌控能力。

14分钟前
当年被逼"有所作为"，现在中国人正"重塑"芯片产业

为低调开售最新机型Mate60系列和折叠屏手机MateX5在全球科技领域引发了海量的关注和讨论，在经历3年来自美国的技术打压和制裁后，中国是否已在高级制程芯片领域突破了封锁、取得了巨大的进步？

17分钟前