#香山调试直播# 香山芯片调试目标完成！
记录一些流水账：
2021年6月22日，香山在RISC-V中国峰会上第一次亮相，这是当时公开的国际上性能最高的开源RISC-V处理器核设计，受到国内外的很多关注，如今在GitHub上已有近2500个Star，250多个Fork。虽然我们的报告是中文的，但却有不少英文报道，甚至还有来自俄罗斯的关注。可以说，香山成为国际上最受关注的开源芯片项目之一。
2021年7月15日，第一代香山“雁栖湖”流片。但接下来由于受到全球芯片产能影响，我们不得不经历漫长的等待期。因为许久没有回片后的消息，有一些关注香山的朋友发来小心翼翼的询问：“香山是不是流片失败了？”流片失败，就是指香山无法点亮，也就意味着它就是一块石头。
2022年1月20日，等待了整整半年，香山终于回片了。硬件调试存在很大不确定性，很可能1个bug就会需要耗上1-2个月才能解决。而硬件问题解决不了，软件调试就会受到影响。尽早发现硬件问题，此时的香山就如同刚从医院拿回来的一份尚未打开的检查报告——面对它心中充满忐忑，不知道结果是好是坏。如果要等春节假期结束后才能看报告，这个年我们会过得心里很不踏实。另外，还存在一个不确定性，就是疫情防控。前段时间北京出现疫情，导致不少同学无法回家。但另一方面，由于冬奥会、两会等一系列活动，如果其他地方出现疫情，也可能导致离京后一段时间内甚至整个2月不能返京，那就会再空耗一个月。
我们希望能尽早消除一些不确定性，否则过年心里也不踏实。时间，对于香山调试非常宝贵。于是，香山团队的多位小伙伴（徐易难、李作骏、王诲喆、勾凌睿、张紫飞、蔺嘉炜、李乾若、甄好）决定留在北京攻关调试，加上唐丹和我，组成了一支攻关调试小分队。其中有几位是因为老家疫情而留在了北京，也有本来就是北京人，除了这些这些线下的小伙伴，还有全国各地的老师和同学一起在线参与。
1月26日开始，采用香山枫叶红底色的主板陆续从深圳寄到北京。此前，1月22-24日，深圳团队的蔡晔老师、刘彤、何伟等已经在深圳焊好主板，完成了初步的调试，包括系统时钟、串口、Flash等，验证IO通路正确。
1月29日，调试攻坚战正式打响了。调试过程一开始出乎意料地顺利，虽然有些小曲折，但都很快解决。到1月30日，我们取得了不错的战果：
•CPU频率从24MHz切到1GHz；
•DDR4-2400初始化成功，并稳定运行；
•Linux正常启动进入Shell；
•CoreMark成功运行，5.3分，与仿真完全一致。
1月30日晚上，收到了中国科学院大学公共管理学院刘继安老师的消息，是她和博士后徐艳茹希望观摩香山调试。晚上9点，徐博士先来到了调试现场，拍了几张照片，然后便跟我们说，她春节也不能回去过年，希望能全程观摩香山的调试过程。我们觉得应该很快就可以结束调试了，便欣然答应。但任何事情都不要高兴太早！
1月31日，大年夜。就在我们认为可以“牛年事、牛年毕”，可以在牛年就能跑出SPEC CPU2006分值、初步完成调目标时，现实狠狠地打了我们的脸——在运行SPEC CPU2006时，DDR4-2400稳定性存在问题，会导致返回数据出现随机错误。DDR是芯片调试过程最麻烦的问题，看来我们终究还是要面对。
我们分头吃年夜饭。下午2点，唐丹老师回家和家人一起吃了顿年夜饭；下午4：30，唐老师又过来和我们一起吃了一顿年夜饭，然后回到调试作战室放松：春晚，PS5，瓜子……晚上7点，我再回家和家人又吃了一顿年夜饭。一个难忘的大年夜！
大年初一到初三，大家休息了三天。
初四，重新整装上阵。内存专家李作骏全力攻占DDR稳定性问题，其他人全力配合。全志D1-H项目负责人孙彦邦提到当时在全志时DDR调试也是难点，他推荐了在Linux下的memtester来测试内存。
初五，徐易难很快便在Linux下编译好memtester，并开始测试。初步测试访存确实不稳定，内存在作Bit Flipping时会出现8KB数据不正确。于是开始尝试修改CPU频率，1GHz提高到1.1GHz，1.26GHz，但都不稳定；那就给CPU降频，降到800MHz、600MHz，似乎访存稳定性好一些，但还是会随机出错。
唐丹老师查看DDR PHY手册，发现PHY和DIMM的VRef配置不同步，修改后稳定性得到改善，但memtester还是会出现随机访存出错，只是出现概率降低了。但是，哪怕概率再低，也不可接受——对于理论上1GHz频率下每秒可运行60亿条指令的香山来说，哪怕是亿分之一的随机出错概率，也意味着每秒会出现几十次访存数据错误，这是不可接受的。我们必须要把访存调稳定。
初六，大家继续尝试——修改DDR Trainimg参数，修改Linux启动时内存容量，改变DDR供电电压……始终无法消除DDR访存的随机出错问题。我们怀疑DDR信号完整性问题，希望看一下DDR信号的眼图。开始一通打电话借设备，我们借到了一台DDR逻辑分析仪。这这台设备和HMTT很像，也是插在DIMM槽，但它内部提供高频采样时钟，可以直接抓DDR访存数据信号。我们花了半天的时间研究如何使用，当搞清楚后，发现在DDR-2400配置下采不到预想的信号。晚上9点多，打电话给设备代理商，被告知这台设备采购时没有选支持2400的模块，现在还支持DDR-1600。燃起的希望又熄灭了。
初七，唐丹老师又开始打一轮电话，又向郝沁汾老师借来一台示波器。有人建议看一下电源是否稳定，波动幅度是否太大，可以换一下精密电源。唐老师、徐易难立刻开始测试电源稳定性，发现真的会出现上下60-80mV的波动。那时，看到这个几十毫伏的波动，似乎大家心里涌出一丝欣喜，希望这就是DDR访存不稳定的问题所在。唐丹马不停蹄地区采购精密电源，不幸的是在换电源后，我们使用最多、相对最稳定的一块板卡“牺牲”了——烧了！来不及难过，立刻又切换到另一块板卡开始测试起来。结果有点沮丧，换了精密电源后依然无法消除访存随机性问题。
李作骏通过对DDR信号进行仿真，发现DDR DQS信号的ODT参数设置存在问题，同时把所有的访存性能相关的参数调到最保守设置。大家又寄希望于这次DDR参数修改。
此时，于是另一条调试网卡的战线开始启动，由王诲喆担任主攻手：测试网卡时钟信号、调整GMAC频率，设置设备树，修改驱动——网卡很快就被识别出来了，能看到网卡能收包了，但是问题是不能发包。
初八，跑了一个晚上的memtester，连续运行了12个小时，只有一个访存出错。这次稳定性得到了极大的提高，但还没有彻底解决，运行SPEC CPU依然出错。这时，大家决定尝试一下将DDR降频到1600。DDR-1600配置下，李作骏又对DDR Training做了优化，调高了Refresh Burst数量，激动人心的时刻发生了——之前跑不过的SPEC CPU应用都能跑完了！DDR访存稳定性问题终于解决了！
从初八开始，勾凌睿便开始用SPEC CPU2006程序烤机，香山频率设置为1GHz，DDR设置为1600，连续几十个小时的运行，再也没有出现过错误了。当然，这并不是最终目标，我们知道DDR访存性能对整个香山芯片的性能至关重要，接下来我们还继续优化DDR性能。
另一条战线，王诲喆仍然在调试网卡。在香山上用tcpdump能看到从另一台机器发过来的网络包，对比发送端的wireshark，内容正确。但是发送始终存在问题，ping依然不通。
初九，跑了一天的SPEC CPU，再也没有出错了，大家开始期待香山的SPEC CPU 2006分值了。网卡调试那边，手动修改了mac地址后，香山能收到ping，但是发送依然有问题。
初十，在修复了一个串口驱动小问题后，终于得到SPEC CPU 2006分值了，香山在1GHz频率、DDR-1600配置下，分值为5.97。这个数字对于香山来说，是一个里程碑。但我们知道，这并不是香山的真实性能，因为这是把DDR-2400降频为DDR-1600后得到的结果，从数据来看，很多访存密集型应用性能受到了很大的影响。如果把DDR进一步优化，香山性能还将进一步提升。我们根据Roofline模型推演访存性能优化目标。
正月十二，王诲喆也终于将网卡调通，香山功能基本完备。有了网络，大家就可以远程访问香山了。
正月十五，李作骏对DDR-1600时序进行了初步优化，之前受DDR访存的应用性能得到了大幅提升，比如bzip2-liberty的运行时间从483s降到了265s。这也意味着SPEC CPU2006分值即使在DDR降频的情况下还可以有很大的提升。
至此，历时近3个星期的香山攻关调试取得了圆满成功。香山调试直播完毕。
衷心感谢所有关注和支持香山的朋友！后续我们仍然会向大家介绍香山后续的性能优化进展。
—————
图1：调试攻关任务清单完成！
图2：与DDR访存稳定性战斗
图3：稳定运行SPEC CPU2006程序
图4：网卡正常工作
图5：SPECCPU 2006分值与对应配置
图6：Roofline模型推演访存性能优化目标
图7-9：香山调试现场
记录一些流水账：
2021年6月22日，香山在RISC-V中国峰会上第一次亮相，这是当时公开的国际上性能最高的开源RISC-V处理器核设计，受到国内外的很多关注，如今在GitHub上已有近2500个Star，250多个Fork。虽然我们的报告是中文的，但却有不少英文报道，甚至还有来自俄罗斯的关注。可以说，香山成为国际上最受关注的开源芯片项目之一。
2021年7月15日，第一代香山“雁栖湖”流片。但接下来由于受到全球芯片产能影响，我们不得不经历漫长的等待期。因为许久没有回片后的消息，有一些关注香山的朋友发来小心翼翼的询问：“香山是不是流片失败了？”流片失败，就是指香山无法点亮，也就意味着它就是一块石头。
2022年1月20日，等待了整整半年，香山终于回片了。硬件调试存在很大不确定性，很可能1个bug就会需要耗上1-2个月才能解决。而硬件问题解决不了，软件调试就会受到影响。尽早发现硬件问题，此时的香山就如同刚从医院拿回来的一份尚未打开的检查报告——面对它心中充满忐忑，不知道结果是好是坏。如果要等春节假期结束后才能看报告，这个年我们会过得心里很不踏实。另外，还存在一个不确定性，就是疫情防控。前段时间北京出现疫情，导致不少同学无法回家。但另一方面，由于冬奥会、两会等一系列活动，如果其他地方出现疫情，也可能导致离京后一段时间内甚至整个2月不能返京，那就会再空耗一个月。
我们希望能尽早消除一些不确定性，否则过年心里也不踏实。时间，对于香山调试非常宝贵。于是，香山团队的多位小伙伴（徐易难、李作骏、王诲喆、勾凌睿、张紫飞、蔺嘉炜、李乾若、甄好）决定留在北京攻关调试，加上唐丹和我，组成了一支攻关调试小分队。其中有几位是因为老家疫情而留在了北京，也有本来就是北京人，除了这些这些线下的小伙伴，还有全国各地的老师和同学一起在线参与。
1月26日开始，采用香山枫叶红底色的主板陆续从深圳寄到北京。此前，1月22-24日，深圳团队的蔡晔老师、刘彤、何伟等已经在深圳焊好主板，完成了初步的调试，包括系统时钟、串口、Flash等，验证IO通路正确。
1月29日，调试攻坚战正式打响了。调试过程一开始出乎意料地顺利，虽然有些小曲折，但都很快解决。到1月30日，我们取得了不错的战果：
•CPU频率从24MHz切到1GHz；
•DDR4-2400初始化成功，并稳定运行；
•Linux正常启动进入Shell；
•CoreMark成功运行，5.3分，与仿真完全一致。
1月30日晚上，收到了中国科学院大学公共管理学院刘继安老师的消息，是她和博士后徐艳茹希望观摩香山调试。晚上9点，徐博士先来到了调试现场，拍了几张照片，然后便跟我们说，她春节也不能回去过年，希望能全程观摩香山的调试过程。我们觉得应该很快就可以结束调试了，便欣然答应。但任何事情都不要高兴太早！
1月31日，大年夜。就在我们认为可以“牛年事、牛年毕”，可以在牛年就能跑出SPEC CPU2006分值、初步完成调目标时，现实狠狠地打了我们的脸——在运行SPEC CPU2006时，DDR4-2400稳定性存在问题，会导致返回数据出现随机错误。DDR是芯片调试过程最麻烦的问题，看来我们终究还是要面对。
我们分头吃年夜饭。下午2点，唐丹老师回家和家人一起吃了顿年夜饭；下午4：30，唐老师又过来和我们一起吃了一顿年夜饭，然后回到调试作战室放松：春晚，PS5，瓜子……晚上7点，我再回家和家人又吃了一顿年夜饭。一个难忘的大年夜！
大年初一到初三，大家休息了三天。
初四，重新整装上阵。内存专家李作骏全力攻占DDR稳定性问题，其他人全力配合。全志D1-H项目负责人孙彦邦提到当时在全志时DDR调试也是难点，他推荐了在Linux下的memtester来测试内存。
初五，徐易难很快便在Linux下编译好memtester，并开始测试。初步测试访存确实不稳定，内存在作Bit Flipping时会出现8KB数据不正确。于是开始尝试修改CPU频率，1GHz提高到1.1GHz，1.26GHz，但都不稳定；那就给CPU降频，降到800MHz、600MHz，似乎访存稳定性好一些，但还是会随机出错。
唐丹老师查看DDR PHY手册，发现PHY和DIMM的VRef配置不同步，修改后稳定性得到改善，但memtester还是会出现随机访存出错，只是出现概率降低了。但是，哪怕概率再低，也不可接受——对于理论上1GHz频率下每秒可运行60亿条指令的香山来说，哪怕是亿分之一的随机出错概率，也意味着每秒会出现几十次访存数据错误，这是不可接受的。我们必须要把访存调稳定。
初六，大家继续尝试——修改DDR Trainimg参数，修改Linux启动时内存容量，改变DDR供电电压……始终无法消除DDR访存的随机出错问题。我们怀疑DDR信号完整性问题，希望看一下DDR信号的眼图。开始一通打电话借设备，我们借到了一台DDR逻辑分析仪。这这台设备和HMTT很像，也是插在DIMM槽，但它内部提供高频采样时钟，可以直接抓DDR访存数据信号。我们花了半天的时间研究如何使用，当搞清楚后，发现在DDR-2400配置下采不到预想的信号。晚上9点多，打电话给设备代理商，被告知这台设备采购时没有选支持2400的模块，现在还支持DDR-1600。燃起的希望又熄灭了。
初七，唐丹老师又开始打一轮电话，又向郝沁汾老师借来一台示波器。有人建议看一下电源是否稳定，波动幅度是否太大，可以换一下精密电源。唐老师、徐易难立刻开始测试电源稳定性，发现真的会出现上下60-80mV的波动。那时，看到这个几十毫伏的波动，似乎大家心里涌出一丝欣喜，希望这就是DDR访存不稳定的问题所在。唐丹马不停蹄地区采购精密电源，不幸的是在换电源后，我们使用最多、相对最稳定的一块板卡“牺牲”了——烧了！来不及难过，立刻又切换到另一块板卡开始测试起来。结果有点沮丧，换了精密电源后依然无法消除访存随机性问题。
李作骏通过对DDR信号进行仿真，发现DDR DQS信号的ODT参数设置存在问题，同时把所有的访存性能相关的参数调到最保守设置。大家又寄希望于这次DDR参数修改。
此时，于是另一条调试网卡的战线开始启动，由王诲喆担任主攻手：测试网卡时钟信号、调整GMAC频率，设置设备树，修改驱动——网卡很快就被识别出来了，能看到网卡能收包了，但是问题是不能发包。
初八，跑了一个晚上的memtester，连续运行了12个小时，只有一个访存出错。这次稳定性得到了极大的提高，但还没有彻底解决，运行SPEC CPU依然出错。这时，大家决定尝试一下将DDR降频到1600。DDR-1600配置下，李作骏又对DDR Training做了优化，调高了Refresh Burst数量，激动人心的时刻发生了——之前跑不过的SPEC CPU应用都能跑完了！DDR访存稳定性问题终于解决了！
从初八开始，勾凌睿便开始用SPEC CPU2006程序烤机，香山频率设置为1GHz，DDR设置为1600，连续几十个小时的运行，再也没有出现过错误了。当然，这并不是最终目标，我们知道DDR访存性能对整个香山芯片的性能至关重要，接下来我们还继续优化DDR性能。
另一条战线，王诲喆仍然在调试网卡。在香山上用tcpdump能看到从另一台机器发过来的网络包，对比发送端的wireshark，内容正确。但是发送始终存在问题，ping依然不通。
初九，跑了一天的SPEC CPU，再也没有出错了，大家开始期待香山的SPEC CPU 2006分值了。网卡调试那边，手动修改了mac地址后，香山能收到ping，但是发送依然有问题。
初十，在修复了一个串口驱动小问题后，终于得到SPEC CPU 2006分值了，香山在1GHz频率、DDR-1600配置下，分值为5.97。这个数字对于香山来说，是一个里程碑。但我们知道，这并不是香山的真实性能，因为这是把DDR-2400降频为DDR-1600后得到的结果，从数据来看，很多访存密集型应用性能受到了很大的影响。如果把DDR进一步优化，香山性能还将进一步提升。我们根据Roofline模型推演访存性能优化目标。
正月十二，王诲喆也终于将网卡调通，香山功能基本完备。有了网络，大家就可以远程访问香山了。
正月十五，李作骏对DDR-1600时序进行了初步优化，之前受DDR访存的应用性能得到了大幅提升，比如bzip2-liberty的运行时间从483s降到了265s。这也意味着SPEC CPU2006分值即使在DDR降频的情况下还可以有很大的提升。
至此，历时近3个星期的香山攻关调试取得了圆满成功。香山调试直播完毕。
衷心感谢所有关注和支持香山的朋友！后续我们仍然会向大家介绍香山后续的性能优化进展。
—————
图1：调试攻关任务清单完成！
图2：与DDR访存稳定性战斗
图3：稳定运行SPEC CPU2006程序
图4：网卡正常工作
图5：SPECCPU 2006分值与对应配置
图6：Roofline模型推演访存性能优化目标
图7-9：香山调试现场
有时候真的觉得不是我太消极颓废
是真的看见行动了依然没有结果看多了
（所以每当历史人物出现，看到那些努力了才换来希望的人，都忍不住泪流）
当疫情和宿舍联系在一起，并且上了热搜
好像都没有几个人说这一幕很熟悉
不熟悉吗？
一样的奇葩操作
一样的来自最会上网的青年人群的激愤
然后，难道我还要期待会有不同的后续吗？
说来难过，在南京待过的两年真的很开心，也一直觉得苏州是个很棒的地方……
是真的看见行动了依然没有结果看多了
（所以每当历史人物出现，看到那些努力了才换来希望的人，都忍不住泪流）
当疫情和宿舍联系在一起，并且上了热搜
好像都没有几个人说这一幕很熟悉
不熟悉吗？
一样的奇葩操作
一样的来自最会上网的青年人群的激愤
然后，难道我还要期待会有不同的后续吗？
说来难过，在南京待过的两年真的很开心，也一直觉得苏州是个很棒的地方……
男朋友陪我来的萍乡，待了48小时不到，昨天情人节没有陪我过完，下午看完电影他就回去了，因为今天要带他妈妈去杭州复查，没有办法，只能理解。
13号14号这两天，只要一想到等他回去了，我一个人孤零零在宿舍的情景，并且以后肚子慢慢变大，还是要一个人，眼泪就“唰”地流出来，一直在哭。真的很舍不得，抱着抱着就会哭出来。
这是我们看的第一部电影，之前还没在一起时他总说带我去看电影，我都推辞掉了。其实他一点都不喜欢看这种爱情题材的，但是我很早之前就在期待了，结果两个人在看的时候中途都睡了一会。虽然电影没有期待中好看，但是和他在一起就很快乐。
好像真的越来越依赖他了，不想分开。
13号14号这两天，只要一想到等他回去了，我一个人孤零零在宿舍的情景，并且以后肚子慢慢变大，还是要一个人，眼泪就“唰”地流出来，一直在哭。真的很舍不得，抱着抱着就会哭出来。
这是我们看的第一部电影，之前还没在一起时他总说带我去看电影，我都推辞掉了。其实他一点都不喜欢看这种爱情题材的，但是我很早之前就在期待了，结果两个人在看的时候中途都睡了一会。虽然电影没有期待中好看，但是和他在一起就很快乐。
好像真的越来越依赖他了，不想分开。
✋热门推荐