地表最快AI 芯片发布,哈佛辍学的本科生挑战英伟达
日期:2024-06-27 作者:小天
来源:www.txunda.com
人气:506
这个 Sohu不是搜狐,而是一款可以在毫秒内处理成千上万个字的搜索引擎。在lama70B模式下,每秒可以处理50多万个 tokens。这意味着什么?也就是说,他可以在2秒钟之内,把一本《圣经》写出来,也可以用一年的时间,写出15兆个积分。
根据 Etched的官方网站, Sohu将 Transformer体系结构整合到硬件级,是第一个专门针对 Transformer模式而开发的 ASIC (ASIC)。这就是 Sohu的独特之处,它极大地提高了性能。与英伟达的H100相比, Sohu的计算速度提高了八到十倍。一台拥有8颗 Sohu处理器的服务器,将会代替160台英伟达的H100 GPU,这是一款全新的高性能处理器。
天津天迅达科技有限公司
如果您需要相关服务,可以找天津天迅达科技有限公司,我们的业务有Web开发、iOS APP、Android APP、微信开发、HTML5开发等,天迅达——您身边的App个性化定制专家!
在程序设计中, Sohu能利用蒙特卡洛树的方法,同时产生上百个对应的解,从而得到最佳解。不管是声音助手,还是智能客户服务, Sohu都可以在微秒之内对成千上万的文字进行解析。同时, Sohu也支持多种猜测译码,能够快速地产生新的内容。该芯片采用台积电4 nm制程制程,采用144 GB的HBM3E高带宽记忆体,单核单核。与英伟达的B200 GPU相比, Sohu在速度上有了很大的提升,而且成本也更低。
短短两年时间,Etched 从零开始成长到现在这番模样,实在是一个「奇迹」。Etched 的创始人 Gavin Uberti 和 Chris Zhu 都是华裔,他们二人也都有着丰富的背景。加文·乌伯提和朱克斯·朱都在哈佛大学读过学士学位。但是,因为某些原因,她们决定暂时停学一年,然后去奥托奥做实习生。
那时候,两人的工作都是在 ApacheTVM上进行开源编译,以及对微核的开发。但是,在实际操作过程中,他们却发现 Arm指令集的某些设计是非常没有效率的,这导致了他们的生产力低下。“这是一个没有办法解决的问题,”加文说,“每当我工作的时候,我都要处理它,它使克里斯和我感觉我们需要改进。”
就在他们思索着该怎么解决这一难题的时候,他们忽然想到了一种可以用这种方法来制造人工智能的加速器。所以他们决定退学哈佛,成立了一家以 LLM为核心的人工智能芯片创业企业 Etched。Gavin Uberti认为,通用的通用型设计不可能为其带来性能上的突破,因此他们开发了一种基于 Transformer体系结构的专用加速器。
加文·乌伯蒂曾经说过:
要把精力集中到一个单独的体系结构上,让一个芯片去完成人工智能的运算,这样的话,这个目标就太大了,所以我们需要为英伟达提供更多的功能,而不是像现在这样。当前的主流人工智能产品,包括 ChatGPT, Claude, Gemini, Sora等,都是在 Transformer框架下开发的。作为世界上第一款 ASIC芯片, Etched在这场报告会上的表现,还是引起了不少人的注意。
6月25日, Etched公司宣布其首轮融资1.2亿美元。该轮融资是纽约风险投资公司 PrimaVenture Partners和 Positive Sum风险投资公司联合投资的。此外,该公司还拥有一支实力雄厚的天使投资团队,其中有风险资本家彼得·希尔, GitHub CEO托马斯·多姆克,无人驾驶公司 Cruise的共同创办人凯尔•沃格特,还有 Quora公司的共同创始人 Charlie Cheever,
早在2022年成立时, Etched就预见到了 Transformer的未来将会是主流。“我们正在把最大的赌注押在人工智能上。”如果我们下的赌注是正确的,那么索霍将会改变这个世界。所以我们才敢赌。
以上所有设计图和部分文字均来自网络,如有侵权,请call我删除,感谢~
天津天迅达科技有限公司经过多年来对APP、小程序、以及网站建设的探索,已经帮助每一个客户快速开发出属于自己的APP、小程序、网站,是万千企业之选。
标签:天迅达科技 天津APP开发 天津网站建设 网站建设
根据 Etched的官方网站, Sohu将 Transformer体系结构整合到硬件级,是第一个专门针对 Transformer模式而开发的 ASIC (ASIC)。这就是 Sohu的独特之处,它极大地提高了性能。与英伟达的H100相比, Sohu的计算速度提高了八到十倍。一台拥有8颗 Sohu处理器的服务器,将会代替160台英伟达的H100 GPU,这是一款全新的高性能处理器。
天津天迅达科技有限公司
如果您需要相关服务,可以找天津天迅达科技有限公司,我们的业务有Web开发、iOS APP、Android APP、微信开发、HTML5开发等,天迅达——您身边的App个性化定制专家!
在程序设计中, Sohu能利用蒙特卡洛树的方法,同时产生上百个对应的解,从而得到最佳解。不管是声音助手,还是智能客户服务, Sohu都可以在微秒之内对成千上万的文字进行解析。同时, Sohu也支持多种猜测译码,能够快速地产生新的内容。该芯片采用台积电4 nm制程制程,采用144 GB的HBM3E高带宽记忆体,单核单核。与英伟达的B200 GPU相比, Sohu在速度上有了很大的提升,而且成本也更低。
短短两年时间,Etched 从零开始成长到现在这番模样,实在是一个「奇迹」。Etched 的创始人 Gavin Uberti 和 Chris Zhu 都是华裔,他们二人也都有着丰富的背景。加文·乌伯提和朱克斯·朱都在哈佛大学读过学士学位。但是,因为某些原因,她们决定暂时停学一年,然后去奥托奥做实习生。
那时候,两人的工作都是在 ApacheTVM上进行开源编译,以及对微核的开发。但是,在实际操作过程中,他们却发现 Arm指令集的某些设计是非常没有效率的,这导致了他们的生产力低下。“这是一个没有办法解决的问题,”加文说,“每当我工作的时候,我都要处理它,它使克里斯和我感觉我们需要改进。”
就在他们思索着该怎么解决这一难题的时候,他们忽然想到了一种可以用这种方法来制造人工智能的加速器。所以他们决定退学哈佛,成立了一家以 LLM为核心的人工智能芯片创业企业 Etched。Gavin Uberti认为,通用的通用型设计不可能为其带来性能上的突破,因此他们开发了一种基于 Transformer体系结构的专用加速器。
加文·乌伯蒂曾经说过:
要把精力集中到一个单独的体系结构上,让一个芯片去完成人工智能的运算,这样的话,这个目标就太大了,所以我们需要为英伟达提供更多的功能,而不是像现在这样。当前的主流人工智能产品,包括 ChatGPT, Claude, Gemini, Sora等,都是在 Transformer框架下开发的。作为世界上第一款 ASIC芯片, Etched在这场报告会上的表现,还是引起了不少人的注意。
6月25日, Etched公司宣布其首轮融资1.2亿美元。该轮融资是纽约风险投资公司 PrimaVenture Partners和 Positive Sum风险投资公司联合投资的。此外,该公司还拥有一支实力雄厚的天使投资团队,其中有风险资本家彼得·希尔, GitHub CEO托马斯·多姆克,无人驾驶公司 Cruise的共同创办人凯尔•沃格特,还有 Quora公司的共同创始人 Charlie Cheever,
早在2022年成立时, Etched就预见到了 Transformer的未来将会是主流。“我们正在把最大的赌注押在人工智能上。”如果我们下的赌注是正确的,那么索霍将会改变这个世界。所以我们才敢赌。
以上所有设计图和部分文字均来自网络,如有侵权,请call我删除,感谢~
天津天迅达科技有限公司经过多年来对APP、小程序、以及网站建设的探索,已经帮助每一个客户快速开发出属于自己的APP、小程序、网站,是万千企业之选。
标签:天迅达科技 天津APP开发 天津网站建设 网站建设
相关资讯
- 数字孪生:现实世界的身外化身 2024-12-06
- 微信公众号全面“今日头条化”,自媒体将迎来“第二春”? 2024-12-04
- 优质长视频的破圈效应 2024-12-05
- 奶茶行业的裂变营销 2024-12-03
- 浅浅分享下支付产品经理如何写全局性的需求文档以及工作流程 2024-12-02
- “麦学”爆红:一场精心策划的营销盛宴 2024-11-29
- 如果遇到麦琳式的领导,怎么办? 2024-11-28