MLPerf放榜,中国AI芯片公司再获世界第一!大模型推理三项冠军,性能超越H100
摘自新智元

MLPerf最新GPT大模型推理测试放榜了!这家国产算力公司再拿世界第一,性能最高可达1.8倍英伟达H100。

随着ChatGPT等AIGC应用掀起大模型浪潮,算力层作为基础设施,成为最先受益的产业。
然而,算力需求大、费用昂贵等问题,已成为企业落地大模型的普通痛点,更可能制约AI向前发展:大模型参数日益增长,而算力供给瓶颈迫在眉睫,二者形成巨大矛盾。
如何探索更好的大模型算力方案,是业界共同关注的焦点。
近日,全球权威测评MLPerf 公布最新推理测评结果,这是MLPerf首度引入GPT大模型推理测试,参与热度再创纪录,收到了来自英伟达、英特尔、谷歌、高通等企业提交的13500多项性能结果。
在MLPerf Inference 3.1中,墨芯人工智能(Moffet AI)S30计算卡在大模型GPT-J(60亿参数)上,单卡、4卡、8卡的算力均获得第一。

这是墨芯在MLPerf上连续第三次卫冕。
此前墨芯曾在MLPerf Inference 2.0与2.1上,连续两届获得第一。

墨芯S30计算卡

墨芯的成绩,为大模型算力方案带来了可行的创新方向。
事实证明:结合AI模型与计算平台的软硬协同创新,能够释放更大的算力潜力。这也再度印证:以稀疏计算为代表的创新技术,将是大模型时代算力发展的关键。
墨芯参加的是MLPerf开放分区,据主办方MLCommons介绍,该分区旨在鼓励创新。因此参赛者可以通过软硬协同等方式,探索对算力的提升。
在MLPerf中的GPT-J大模型上,与4nm制程的H100纯硬件加速方案相比,12nm制程的墨芯S30计算卡通过「原创的双稀疏算法+硬件协同」方式,取得了高达1.8倍的优势。
本次测评的GPT-J模型是生成式AI模型,墨芯S30计算卡在8卡、4卡、单卡模式下,性能分别为170.59,91.57,23.28 (Sample/s),达到英伟达H100性能的1.6倍、1.8倍、1.8倍,展现出墨芯产品在AIGC类任务上的能力。

三度夺冠,大模型算力率先「交卷」,软硬协同持续创新——墨芯的产品实力数次经过MLPerf的严格检验,也探索出大模型算力发展的新路径。
稀疏计算——大模型「潜力股」获得市场认可

墨芯接连的优异成绩,主要得益于基于稀疏化算法的软硬协同设计。
在大模型时代,稀疏计算的重要性不言而喻:AI模型大小与其稀疏化潜力成正比。
也就是说,当模型越大,算法上有更大稀疏的可能性,稀疏计算可加速的幅度也越高。对于一般大型语言模型,稀疏计算可带来数十倍加速。
墨芯独创的双稀疏算法,结合软硬协同设计,使墨芯Antoum®芯片成为全球首款高稀疏倍率AI芯片,支持高达32倍稀疏——这也正是墨芯在本次MLPerf中创新纪录的关键。
模型越大,稀疏计算的优势越明显——尤其是在GPT等大模型参数动辄上百亿、千亿的现状下,这使得墨芯的护城河更为稳固。
墨芯的产品实力与稀疏计算的大势所趋,也获得了业界的认可:墨芯商业化进程接连取得重要突破,助力企业加速AI应用。
就在近日,墨芯正式成为支持Byte MLPerf的供应商之一。

当前,墨芯AI计算平台已能够支持不同参数级别的大模型,包括 BLOOM, OPT, GPT-J,LLaMA,StableDiffusion等。
同时具有高吞吐、低延时、低功耗等特点,缓解算力之困,真正为企业带来「好用」、「用得起」的大模型算力方案。
带来根本性的算力变革,稀疏计算助力大模型发展

墨芯的稀疏计算方案不仅能够缓解当前的算力难题,也为AI的持续发展打开新的空间。
稀疏计算减少了AI模型的计算量,这意味着能让大模型既在参数量上跃升若干个数量级的同时,又不产生过大的计算量,大模型参数增长与算力瓶颈的矛盾有望从根本上得到解决。
同时,由于计算量的减少,大模型的高算力需求、高功耗、高费用等痛点,也一并得到解决,实现「多赢」效果。

墨芯Antoum芯片:全球首款高稀疏倍率AI芯片,支持高达32倍稀疏
连续三届MLPerf的优异成绩,不仅是对墨芯产品实力的证明,也为业界带来新启示:在稀疏计算等技术的助力下,大模型的发展与应用有望迎来更广阔的施展空间,加速AIGC等应用在各行各业遍地开花。
关于MLPerf

MLPerf由图灵奖得主大卫•帕特森(David Patterson)联合谷歌、斯坦福、哈佛大学顶尖学术机构发起成立,是权威性最高、影响力最广的国际AI性能基准测试,以对迅速增长的AI计算需求与性能进行及时的跟踪测评。

#专家称福岛排核污水威胁海洋核安全## 【专家:福岛核污染水排海挑战全球海洋治理、威胁海洋核安全】9月11日,日本福岛核污染水第一阶段排海结束。8月24日以来,已有约7800吨核污染水被排入太平洋。

刚过去的两周,日本首相岸田文雄、美国驻日大使伊曼纽尔相继玩起“吃播”,在镜头前大啖号称产自福岛县近海的生鱼片,力挺核污染水排海。刚结束的二十国集团领导人峰会也被日方当成“洗白”核污染水的平台。

然而,一场场公关秀打消不了各国民众和科学家的担忧。9月8日,逾百名日本民众正式起诉日本政府和东京电力公司(东电),要求停止核污染水排海。

8月31日,世界权威学术期刊《科学》(Science)刊发社论文章,呼吁重视海洋健康,文章部分内容对福岛核污染水排放做出回应,并指出“利用海洋作为无数废物的倾倒场的情况仍在继续。这是不可原谅的。”

广西大学海洋学院副院长林武辉近日对观察者网表示,福岛核污染水排海不只是科学问题,还涉及环境伦理、全球海洋治理、海洋核安全等诸多问题。日方的行为可能对今后国际上更多有毒有害物质的排海管控带来挑战,不利于全球海洋治理和海洋可持续健康发展。

“没有先例、覆水难收,更需谨慎”

据共同社报道,东京电力公司11日表示,福岛第一核电站计划首次排放入海的约7800吨所谓“ALPS(多核素处理系统)处理水”已经排完。在8月24日启动的排海过程中,设备和运用方面“没有出现大故障”,周边海水和鱼类所含放射性物质氚的浓度“未发现异常”。

东电称,在确认“处理水”的放射性物质浓度及检查设备后,最早将于本月下旬开始第二次排放,同样计划排放约7800吨。

截至8月24日,福岛第一核电站内存放的逾134万吨核污染水中,只有约3成达到了所谓“处理水”的标准,即水中除氚之外的62种放射性核素以及碳-14的浓度降低至日本国家标准以下。另有约7成核污染水尚不符合“排海标准”,需要“再净化处理”。

国际社会对ALPS的安全性、有效性与稳定性始终存有疑虑。美国伍兹霍尔海洋研究所海洋放射化学家肯·布塞勒(Ken Buesseler)认为,一些“高度令人担忧的元素”比如铯-137和锶-90清除难度大,且ALPS也尚未“被证明始终有效”。

布塞勒9月6日出席美国波士顿公共广播电台(WBUR)节目时再次强调,他认为日方没有公布足够充分的证据来说明核污染水储存罐中含有哪些物质,以及净化系统是否可靠。

布塞勒指出,福岛核事故已经发生12年,在经过ALPS处理后依然有三分之二核污染水的放射性核素浓度超标,“他们既然没能证明可以在12年内净化这些水,为什么要假设他们可以在未来30年内能够净化这些水呢?”

日本广播协会(NHK)称,鉴于“处理水”排海预计将持续30年左右,日本政府和东京电力公司如何在长时间内保证安全性,以及秉持高度透明的态度发布相关信息将受到考验。

国际原子能机构(IAEA)总干事格罗西近日表示,IAEA作为国际组织可以代表国际社会监测日排海活动,额外要求其他国家参与对日监测,就如同要求各国均参与对伊朗核设施保障监督。

中国外交部发言人毛宁9月12日回应,国际原子能机构秘书处目前所谓的对日监测,没有机构理事会授权,未经成员国充分讨论,只是秘书处向日方提供的技术咨询和支持活动,缺乏国际性、独立性。

毛宁指出,7800吨核污染水已经排入海洋,但国际社会迄今仍然不了解国际原子能机构秘书处的具体监测安排。国际社会要求建立一个邻国等利益攸关方充分实质参与、长期有效的国际监测安排,就监测的核素种类、频率、地点、范围、报告等制订详细方案。日本和机构秘书处都应该以严肃、负责的态度作出回应。

日本政府一直试图用IAEA的评估报告来为自己“正名”,但在广西大学海洋学院副院长林武辉看来,IAEA的报告主要是根据日本提供的一部分数据进行评估,且仅针对日本单方面采集的少量核污染水样本开展实验室间比对分析,在百万吨核污染水面前,只能用“管窥蠡测”来形容。此外,日方关于福岛核污染水处理的信息也不够透明,特别是IAEA并没有审查ALPS是否真正发挥作用,更无法判断ALPS能否切实降低排海核素总量。

据东电此前发布的消息,8月31日在福岛第一核电站“处理水”排放口附近取样的海水检测出氚浓度为每升10贝克勒尔,是启动排海后首次达到可测出的浓度下限。过去5年在福岛第一核电站近海检测到的氚浓度为每升0.4至2.8贝克勒尔。对于氚浓度明显升高,东电承认是受到“处理水”排海的影响,但宣称“在安全上完全没有问题”。

IAEA也在9月8日发布新闻稿,称8月24日启动排海以来,IAEA对福岛第一核电站附近的海水进行首次独立采样分析,样本的氚浓度低于日本的安全限值。

值得一提的是,无论是东电还是国际原子能机构,均只强调了检测样本中氚的浓度,而未提及其他放射性核素的情况。

人为向海洋排放核事故污染水没有先例,也没有公认的处置标准。即便日方认为其稀释后的核污染水所含有的放射性核素浓度已达到“安全标准”,但水中放射性核素的总剂量并没有改变。根据东电的计划,福岛核污染水排放将持续30年左右,随着这些核素在海洋中不断累积,对海洋环境和人类健康可能造成的影响难以估计。

林武辉长期专注于海洋放射性核素测量、示踪及海洋核安全评估,是我国首批参加日本福岛核事故后西太平洋放射性调查的人员之一。据他介绍,核素入海后,会经历复杂的物理-海洋生物地球化学过程,可以归纳成两种途径。第一种是“随波逐流”,即核素进入海洋之后,会随着洋流或水文动力过程,被动迁移扩散至全球海洋。

第二种是“搭乘便车”,即核素进入生物体内,随着生物洄游传播扩散,可能通过海产品摄入这一途径,对人类健康构成一定威胁。“IAEA报告也提到,食用海产品是人类摄入核素的重要途径。”林武辉说。

“长期排放,覆水难收。对于核污染水排海这种没有先例的事件,在长期低剂量生物辐射效应尚无科学论断的前提下,更需要谨慎评估。”林武辉表示。

“把海洋当成废物倾倒场,不可原谅”

8月31日,世界权威学术期刊《科学》以《海洋健康的未来》为题刊发社论文章,指出尽管各国承诺通过包括《联合国海洋法公约》和《防止倾倒废物和其他物质污染海洋公约》及其《1996年议定书》在内的国际协议来保护海洋健康,但由于各国和行业发现漏洞来规避有关规则,导致遵守和执行力度不足。因此,利用海洋作为无数废物的倾倒场的情况仍在继续。这是不可原谅的。

布塞勒和夏威夷大学马诺阿分校凯瓦洛海洋实验室主任罗伯特·里士满(Robert Richmond)是这篇文章的作者,他们也是都是太平洋岛国论坛(PIF)去年3月委任的核问题独立专家小组成员。该小组一直对福岛核污染水排海方案抱有质疑。

社论文章特别提到福岛第一核电站有争议地排放了含有放射性核素的水,并指出,认为海洋吸收污染物的能力是无限的,同时仍然能够生产丰富的食物并支撑复杂的生态系统,这种想法是错误的。

文章写道,尽管海洋容量巨大,在“可接受标准”范围内的污染物浓度似乎很小,但许多有毒物质,即使浓度很低,也会在细胞、有机体、种群和生态系统层面引起亚致死反应,从而影响生态系统的结构、功能和服务。而且,由于污染物在组合时的作用不同,对海洋生物来说,含有多种污染物的“汤”往往比单个污染物有更大影响。

那么,在福岛核污染水排海之后,我们还能放心吃海产品吗?对此林武辉表示,我国公众暂时不必过分担心海产品的安全,也没必要购买核辐射检测仪。“国家一直在定期评估核辐射的影响,保障公众安全。自从2021年4月13日日本公布核污染水排海计划以来,我国生态环境部门、卫生疾控部门、海关等投入了大量人力和物力,一直在密切关注和开展中国及周边海域、海产品、食品等放射性测量工作。”

但林武辉提醒,在可选择的前提下要避免食用来自日本东部海域的海产品。

海关总署已于8月24日发布公告,自24日(含)起全面暂停进口原产地为日本的水产品(含食用水生动物)。同一天,市场监管总局也宣布,严禁食品生产经营者采购、使用原产地为日本的水产品(含食用水生动物)加工食品、制作餐食或进行销售(含网络销售)。

“核污水排海不只是科学问题”

林武辉表示,海洋作为公共产品,是全人类的宝贵财富,需要全球共同参与治理和维护。福岛核污染水排海可能对今后国际上更多有毒有害物质的排海管控带来挑战,不利于全球海洋治理和海洋可持续健康发展。

值得一提的是,近期美国也发生了两起与“核废水”排放有关的争议。但与受到核事故影响而产生的福岛核污染水有所不同,美国这两座核电站是在退役过程中处理积攒的“核废水”。

其中,位于美国马萨诸塞州的皮尔格林(Pilgrim)核电站于2019年永久关闭并开始退役进程。美联社2022年4月报道,皮尔格林核电站内还有超过100万加仑(约合3790立方米)的“核废水”有待清除,核电站拥有者霍尔台克国际公司考虑将其排放至临近的科德角湾,因为“这可能是最便宜的选择”。此举遭到当地居民、环保界和政界人士的强烈反对。

当地时间7月24日,马萨诸塞州环境监管部门发布裁决草案,拒绝了霍尔台克国际公司将“核废水”排入大海的请求。

此外,同样为霍尔台克国际公司所有、2021年4月被永久关闭的纽约州印第安角(Indian Point)核电站,原本计划自今年9月起,在两年之内向哈德逊河排放约130万加仑(约4921立方米)“核废水”。这一计划直接促使纽约州出台“拯救哈德逊河”法案,限制向哈德逊河排放任何与核电厂退役有关的放射性物质。

纽约州媒体“highlands current”称,尽管联邦监管机构表示,此类“核废水”中的放射性核素浓度远低于法定限值,且印第安角核电站过去几十年来都在例行排放“核废水”。但反对者认为,即使排放的影响可以忽略不计,民众对“辐射河”的认知也可能损害当地经济和产业价值。

至于将来如何处理这些“核废水”,霍尔台克国际公司的一名发言人对纽约市媒体“City Limits”表示,公司将考虑就地存放、转移至他处、蒸发或结合多种方式,也可能会向州法律提出挑战。

“福岛核污染水排海不只是一个科学问题,还涉及环境伦理、全球海洋治理、海洋核安全等诸多问题。”林武辉指出,“在社会高度关注核污染水排海的背景下,涉核舆情也可能引发经济社会级联效应,未来这些都应该引起我们高度重视,并做好预案措施。”

华为与苹果的竞争,是中国与美国的对抗

昨天晚上看了一些关于中国华为Mate60Pro与美国ⅰPhone15发布的视频。对比之下,尽管ⅰPhone15采用了最新的3纳米A17芯片,还有什么首次采用了钛合金机身,还有什么“灵动岛“功能……但对比之下,华为Mate60Pro在美国商务部长雷蒙多访华时的8月29日,默默却凌空炸裂式地推向中国和全球市场,成了最大的赢家。

必须清醒地看到,苹果公司目前仍是世界上市值最高的科技公司,我们中国、华为等一系列企业、产业和科研机构还需要不断努力奋斗。在一场中美手机巨头硬刚的第一战中,从整个过程和细节来看,苹果市值跌了1.72%,3500亿人民币蒸发了。最重要的是华为Mate60Pro综合性能更好,价格更低,华为这一战,中国赢了,胜了,而这只是开始!

没错,中国必须开始学会一步步追赶并战胜美国,一场又一场、一场接一场地打败美国。中国科技、中国企业、中国百姓、所有的中国人、咱们中国,以点带面,团结一致,一步步追赶、赶超美国,不但是中国勇气,更是中国气魄!太解气了,太自豪了,中国加油、加油、加油!
我在这众多关于讲述华为和苹果新手机之争的有关视频中,看到了有一位条友讲的宏观大局感、大局观非常好,难得清醒,一股清流,见图一。

华为Mate60Pro手机的横空出世,实际上是以华为公司为先锋的中国一系列科技企业的集团冲锋。因为此手机背后有90%以上的自主设计、加工和生产,而ⅰPhone只有60%左右。这是表面问题下的重中之重,因为内涵是,现代中国从来就是集中攻关、办大事的社会主义中国。在中国所有的相关科技公司的集团攻关和大力协作下,打破美日韩荷等国的全面封锁,最终战胜它们,这才是中国最大、最重要的成功经验和强大底气。

战斗,战役,战争,一个接一个,一场接一场,只要、只有全中国团结起来,中国可以战胜任何人、任何敌人❗加油、加油、加油,中国。中国,加油,加油,加油!


发布     👍 0 举报 写留言 🖊   
✋热门推荐
  • 《吉星高照》(原名《天官赐福》)开机,这部与《皓衣行》交替住在热搜的耽改剧再次成为网络焦点,但开机后第一波反馈却相当尴尬。[委屈] 有网友感叹这部剧想要靠丑出圈
  • #杭州博妍美医美诊所# 这个周末两天唐医生诊所有点儿小忙,尤其是今天下午,粉丝宝宝们要等至少1个多小时才能做上治疗,唐医生也是忙滴连中饭都来不及吃[笑cry]不
  • #减肥打卡# Day 9 今晚加班 到六点50 七点25到家 35开始运动 八点16结束运动 好佩服自己一点也不浪费时间哈哈哈[鼓掌] 批评自己的是早上带的
  • 【#车牌丢了?来这找找# 】郑州暴雨过后,一些被水流冲掉的车牌陆续被民警和群众捡到。目前,交警二大队共收集到车牌号44个,其中同一个车号为豫AQ925W的车牌号
  • 【有福气的人,都有这三种特征,遇到可深交】 有人说:“与智者同行,你会不同凡响;与高人为伍,你能登上巅峰。” 人,无法决定自己出生的起点与高度,但可以选择和谁在
  • 晚上看完电影就十点多了,然后开着小毛驴回家,在路上看到一个小妹妹蹲在地上发呆,我走过去又倒车去找她,劝她跟我一起去喝奶茶。 才17岁的小姑娘呢,看到她我想到了自
  • #科科图书角# 《傲慢与偏见》 【书摘】骄傲多半不外乎我们对我们自己的估价,虚荣却牵涉到我们希望别人对我们的看法。 【简介】小说描写了小乡绅班纳特五个待字闺中的
  • 【捉迷藏】由霍建华扮演男主角的一家住在一栋高级公寓中,事业有成的他,生活幸福安逸。一天,他听闻自己的哥哥失踪数月,下落不明。心怀隐秘的他来到哥哥所在的公寓,发现
  • 那他到底是出于什么心思呢?他觉得很复杂,很奇怪,竟然深奥到让他这样聪明的人都不懂,所以,他觉得自己必须要探究个明白,否则以后会时刻影响着他。他不喜欢被人影响。“
  • 【温州相亲1505号女嘉宾】成熟稳重的小姐姐,期待着那个能看中她心里软肋的他出现~#温州相亲##瑞安相亲##泰顺相亲##文成相亲##永嘉相亲##乐清相亲##平阳
  • 今天的七夕不是两个人的约会,是全家人的开心~ 从收到花开始,杜明阳就开始说合照吧合照吧我要发朋友圈… 不是我不想出镜,是陶白白说我这礼拜会长痘的预言在我脸上实现
  • 怎样选到好耳机,有这几种方法: 一是看代言人。大部分的耳机都有代言人,有的耳机代言人很著名,那么不用想耳机超贵 ,选择淘店:美丽通信 店里庞龙代言的耳机就不错,
  • 十神七杀特性详解 六亲方面:代表女命之偏夫,男命之儿子。 七杀意义及其特征: 如果一个人有过人的精力,而加于其身的任务,法令,责任却都是
  • #头号博主说##科普##空中交通管制科普# 飞机在天上飞行,必须按照一定的航路进行飞行,航路也就相当于地面上的公路了。 尤其是在机场上空,飞机的密度最大,有起
  • 【绘就时代新画卷——宁夏吴忠市高质量发展工作纪实】宁夏回族自治区吴忠市地处黄河之滨,宛如一颗“塞上明珠”镶嵌在宁夏平原。吴忠市先后荣获“全国双拥模范城”“全国绿
  • 刚看到群里有人分享的,我看了一眼就被雷的不轻,女足观赏性不强,先天缺陷?男排打得太快看不清楚,所以观赏性不强? 我整个人都被雷懵了,吹的都没边了,你怎么不说男的
  • 本周展览推荐 EGG画廊【正在展出】-《余光》 6月20日,艺术家冯志佳的首次个展《余光》在EGG画廊展出 开幕时间:2021年6月20日下午15:00-
  • 【国内到货】5.3补款 6.3截止补款(家姐除外) 7.4截止囤货 关键字:hoone home、家姐、peach drop、love in motion、L
  • 秋天的第一杯奶茶…秋天的第一顿美食,秋天第一次逛街,…。南京清零已经两天了[拳头]! 疫情还在, 病毒以后可能会和人类共存, 所以我们每天都要好好吃饭 好好睡觉
  • 【孩子的4万元学费丢了!成都地铁警方帮群众找回上学钱】#成都身边事# 近日,成都市公安局轨道公交分局民警接到一名学生小张和家长报警求助,说自己不慎将装有学费和生