🆕最新资讯🆕
MLPerf最新GPT大模型推理测试放榜了！中国AI芯片公司墨芯再次获得世界第一的荣誉，其性能超越了英伟达H100，最高可达1.8倍。随着ChatGPT等AIGC应用的兴起，算力成为了最先受益的产业，而墨芯的成绩为大模型算力方案带来了创新方向。此次测试中，墨芯S30计算卡在大模型GPT-J（60亿参数）上取得了第一的成绩，无论是单卡、4卡还是8卡模式。墨芯的成功再次证明了稀疏计算技术在大模型时代的关键作用。稀疏计算可以加速大型语言模型的计算，并在GPT等大模型参数庞大的情况下显示出明显的优势。墨芯的稀疏计算方案不仅解决了算力瓶颈问题，还为AI的持续发展开辟了新空间。墨芯的成绩为企业提供了可行的大模型算力方案，同时也为业界带来了新的启示，大模型的发展与应用有望迎来更广阔的施展空间。MLPerf是国际AI性能基准测试中最具权威性和影响力的组织，旨在及时跟踪和评估迅速增长的AI计算需求和性能。
来源：http://weixin.sogou.com/weixin?type=1&s_from=input&query=%E6%96%B0%E6%99%BA%E5%85%83
原文链接：https://aixinjiyuan.com/951.html，转载请注明出处~~~
评论0