扬言「吊打」英伟达的AI芯片公司，快被现实打趴了（中）
源自：包永刚AI科技评论
2、起个大早，赶了个晚集的「早鸟」
说来有趣，有产品但还要抢融资的公司A此前面临过一次融资危机，公司的两次动荡为这家公司的前景蒙上一层阴影。另一家起个大早的AI芯片初创公司B早早准备好产品，却被困在了软件里，先发优势消耗殆尽。
两家起了大早赶了晚集的AI芯片公司，一个从公司经营的维度，另一个从产品的维度，展现了大芯片创业的巨大挑战。
两次动荡，前途未卜
A公司成立很早，2018年就发布了首款产品，占据了先发优势，但这家公司的前员工向雷峰网透露，在公司发布首款产品的一年多之后，融资一直处于B轮，融资进度跟不上研发需求，于是开始缩减业务、欠薪、裁员，连CEO也被“裁”了。
A公司的前员工透露，“那次的大变动，公司只保留了芯片团队，公司管理层和业务大洗牌。不过融资也只是公司动荡的其中一个因素，实际是各种因素的共同作用。”
业界的说法是，这家公司的CEO和联合创始人在技术路线上理念不合，联合创始人和投资人一起让CEO出局。
创始人被踢出局的戏码算不上新鲜，但不幸的是公司的关键人物变动似乎成了这家公司的“劫”。
A公司在第一次动荡之后重整旗鼓，发布了新产品，迎来新的掌舵人，正当一切都重回正轨之时，再次遭遇动荡。
“A公司新任CEO气焰有些嚣张，声称某公司的项目势在必得，2022年能落地2亿的项目。”多位AI芯片业界人士都向雷峰网提及。
但这位经验丰富的CEO还没实际创造2亿的营收就遭遇了调查。
“一时间，香饽饽CEO好像成了烫手山芋，不说2亿，不知道A公司今年能不能实现几千万的营收？”这成了同行会关注的话题。
每代产品不同样，没有高质量落地项目
A公司因为人的因素没能占尽先机之时，B公司被局限在了创始团队的认知里。
“软件做的真的太差，客户没办法用起来，自然难落地。”几位B公司前员工以及业内同行都如此评价。
软件没做起来，是因为硬件设计也有问题。
“B公司的芯片迭代到了第三代，但每一代芯片架构思路都在变，甚至首席架构师都不同，设计出的硬件微架构也有很大的不同，硬件架构没有延续性，就算软件的工程师再努力，软件也难以复用，每一代产品软件就像是从零开始。”了解B公司的马超（化名）说：“另一方面，B公司没有能真正掌控整个软件栈的技术大牛。”
一位B公司的前员工透露，公司没有业界顶尖的大牛，软件团队的人背景虽然都还不错，但就背景差不多造成了相互看不上，怎么可能做出好产品。当然，公司请过一个业内某技术领域的高手，但面对AI芯片这么大一摊子软件，估计也很难把控，待了一个多月两个月就离开了。
对于这种情况，几位业界人士有一些共识，这家公司的创始人确实是有深厚积累的芯片专家，但毕竟不是芯片架构方面的专家，有局限性也很正常。但这家公司的创始团队中没有软件的大牛，外部招来的人即便能力再强，也很难被“接纳”，在核心管理团队中没有话语权，也很难发挥合力做出好产品。
没有高效、好用的软件，也是B公司的投资人虽然购买了少量芯片测试，但没能通过灰度测试，进入大规模采购环节的关键原因。当然，B公司也拿到了政府项目，订单金额不小，但实际能不能产生真实利润都存疑，算不上高质量、可复制的落地项目。
其实，目前国内AI云端芯片公司大部分创始团队都是有深厚的芯片从业背景，在对软件的理解和重要性的认知上有明显的局限。
一位国内AI芯片公司软件的负责人直言：“CEO和CTO都听不懂我的工作。一些国内AI公司创始人对软件的认知，相比领先的国际大公司，我认为有十几年的差距。”
那么，AI芯片的软件到底难在哪？
被AI软件栈困扰的AI芯片公司负责人陈俊（化名）指出，一方面，AI芯片的软件是从零开始，具有天然的复杂性，与CPU不同，各家的AI芯片计算架构和指令都不同，从编译器到库再到框架的适配，都不像CPU一样有开源可以复用的东西。
另一方面，AI的软件生态实际上就是英伟达生态，但英伟达的软件生态，尤其是CUDA相关的核心部分都是闭源、封闭的，想要将自家的软件与英伟达的生态兼容的难度可想而知，想要短期内自己建立一个新的AI生态，无异于痴人说梦。
最后，云端AI推理应用的多变性。目前AI的算法和模型仍然在快速发展和迭代，好不容易实现了图像分类ResNet 50模型的优化，新的语言模型BERT模型又开始流行，自然语言处理模型又开始越变越大，BERT的各种变形枝繁叶茂，这也增加了AI芯片软件的开发难度。
尤其是编译器相关的开发难度，以及针对不同模型不依赖手工优化，仅通过编译器完成自动化性能优化的模型泛化能力，这个能力的缺失几乎成了大多数AI芯片停留在“送测”而不能获取订单的核心原因。
这些是所有英伟达的挑战者面对的技术难题，同时还有人才的挑战。
马超和大多数AI芯片的从业者有相同的观点，“要打造一个完整易用的AI软件栈，必须要有一个不仅熟悉驱动、固件等基础软件，既能够从上向下看，也要能从下往上看，对整个AI软件生态有全面认识，有足够经验和能力的软件大牛。”
“AI芯片火起来之前，在国内做编译器是个非常冷门的职业。”陈俊说：“编译器是AI芯片软件栈中重要的部分，国内芯片相关软件人才非常匮乏。”
源自：包永刚AI科技评论
2、起个大早，赶了个晚集的「早鸟」
说来有趣，有产品但还要抢融资的公司A此前面临过一次融资危机，公司的两次动荡为这家公司的前景蒙上一层阴影。另一家起个大早的AI芯片初创公司B早早准备好产品，却被困在了软件里，先发优势消耗殆尽。
两家起了大早赶了晚集的AI芯片公司，一个从公司经营的维度，另一个从产品的维度，展现了大芯片创业的巨大挑战。
两次动荡，前途未卜
A公司成立很早，2018年就发布了首款产品，占据了先发优势，但这家公司的前员工向雷峰网透露，在公司发布首款产品的一年多之后，融资一直处于B轮，融资进度跟不上研发需求，于是开始缩减业务、欠薪、裁员，连CEO也被“裁”了。
A公司的前员工透露，“那次的大变动，公司只保留了芯片团队，公司管理层和业务大洗牌。不过融资也只是公司动荡的其中一个因素，实际是各种因素的共同作用。”
业界的说法是，这家公司的CEO和联合创始人在技术路线上理念不合，联合创始人和投资人一起让CEO出局。
创始人被踢出局的戏码算不上新鲜，但不幸的是公司的关键人物变动似乎成了这家公司的“劫”。
A公司在第一次动荡之后重整旗鼓，发布了新产品，迎来新的掌舵人，正当一切都重回正轨之时，再次遭遇动荡。
“A公司新任CEO气焰有些嚣张，声称某公司的项目势在必得，2022年能落地2亿的项目。”多位AI芯片业界人士都向雷峰网提及。
但这位经验丰富的CEO还没实际创造2亿的营收就遭遇了调查。
“一时间，香饽饽CEO好像成了烫手山芋，不说2亿，不知道A公司今年能不能实现几千万的营收？”这成了同行会关注的话题。
每代产品不同样，没有高质量落地项目
A公司因为人的因素没能占尽先机之时，B公司被局限在了创始团队的认知里。
“软件做的真的太差，客户没办法用起来，自然难落地。”几位B公司前员工以及业内同行都如此评价。
软件没做起来，是因为硬件设计也有问题。
“B公司的芯片迭代到了第三代，但每一代芯片架构思路都在变，甚至首席架构师都不同，设计出的硬件微架构也有很大的不同，硬件架构没有延续性，就算软件的工程师再努力，软件也难以复用，每一代产品软件就像是从零开始。”了解B公司的马超（化名）说：“另一方面，B公司没有能真正掌控整个软件栈的技术大牛。”
一位B公司的前员工透露，公司没有业界顶尖的大牛，软件团队的人背景虽然都还不错，但就背景差不多造成了相互看不上，怎么可能做出好产品。当然，公司请过一个业内某技术领域的高手，但面对AI芯片这么大一摊子软件，估计也很难把控，待了一个多月两个月就离开了。
对于这种情况，几位业界人士有一些共识，这家公司的创始人确实是有深厚积累的芯片专家，但毕竟不是芯片架构方面的专家，有局限性也很正常。但这家公司的创始团队中没有软件的大牛，外部招来的人即便能力再强，也很难被“接纳”，在核心管理团队中没有话语权，也很难发挥合力做出好产品。
没有高效、好用的软件，也是B公司的投资人虽然购买了少量芯片测试，但没能通过灰度测试，进入大规模采购环节的关键原因。当然，B公司也拿到了政府项目，订单金额不小，但实际能不能产生真实利润都存疑，算不上高质量、可复制的落地项目。
其实，目前国内AI云端芯片公司大部分创始团队都是有深厚的芯片从业背景，在对软件的理解和重要性的认知上有明显的局限。
一位国内AI芯片公司软件的负责人直言：“CEO和CTO都听不懂我的工作。一些国内AI公司创始人对软件的认知，相比领先的国际大公司，我认为有十几年的差距。”
那么，AI芯片的软件到底难在哪？
被AI软件栈困扰的AI芯片公司负责人陈俊（化名）指出，一方面，AI芯片的软件是从零开始，具有天然的复杂性，与CPU不同，各家的AI芯片计算架构和指令都不同，从编译器到库再到框架的适配，都不像CPU一样有开源可以复用的东西。
另一方面，AI的软件生态实际上就是英伟达生态，但英伟达的软件生态，尤其是CUDA相关的核心部分都是闭源、封闭的，想要将自家的软件与英伟达的生态兼容的难度可想而知，想要短期内自己建立一个新的AI生态，无异于痴人说梦。
最后，云端AI推理应用的多变性。目前AI的算法和模型仍然在快速发展和迭代，好不容易实现了图像分类ResNet 50模型的优化，新的语言模型BERT模型又开始流行，自然语言处理模型又开始越变越大，BERT的各种变形枝繁叶茂，这也增加了AI芯片软件的开发难度。
尤其是编译器相关的开发难度，以及针对不同模型不依赖手工优化，仅通过编译器完成自动化性能优化的模型泛化能力，这个能力的缺失几乎成了大多数AI芯片停留在“送测”而不能获取订单的核心原因。
这些是所有英伟达的挑战者面对的技术难题，同时还有人才的挑战。
马超和大多数AI芯片的从业者有相同的观点，“要打造一个完整易用的AI软件栈，必须要有一个不仅熟悉驱动、固件等基础软件，既能够从上向下看，也要能从下往上看，对整个AI软件生态有全面认识，有足够经验和能力的软件大牛。”
“AI芯片火起来之前，在国内做编译器是个非常冷门的职业。”陈俊说：“编译器是AI芯片软件栈中重要的部分，国内芯片相关软件人才非常匮乏。”
好像又回到了当时异地恋的时候 舍不得陈哥周日往回走 只能周一不到五点就往回赶
这应该是结束异地恋以来陈哥要出去最久的一次 一般都是出去两三天 试不大着的陈哥又回来了
这次陈哥出去八天 啊 心里一半开心一半忧虑
开心晚上终于可以肆无忌惮的玩手机无论到几点了 也开心白天可以随便出去窜陈哥也管不了了 忧虑没人照顾我给我洗衣服打扫卫生了[苦涩] 而且陈哥才出发三个多小时我就开始想他了
这应该是结束异地恋以来陈哥要出去最久的一次 一般都是出去两三天 试不大着的陈哥又回来了
这次陈哥出去八天 啊 心里一半开心一半忧虑
开心晚上终于可以肆无忌惮的玩手机无论到几点了 也开心白天可以随便出去窜陈哥也管不了了 忧虑没人照顾我给我洗衣服打扫卫生了[苦涩] 而且陈哥才出发三个多小时我就开始想他了
論我有多忙，我人生中還沒這麼忙過，每件事都得按表走，多一天都會出大事的哎
我學校的課還是一到五都有課的，就是趁著空堂跟回家的時候把銀土日圖趕完，還有趕比賽的短漫（我又要參加比賽了，希望不要再投稿大便給人笑了）
11/20以前有兩次大考、一次證照考試、一週期中考，要畫五張賀圖，一篇八頁短漫，要死了
12月後才會有空，到時候才會再趕工防身術的短漫，還有約稿，希望寒假能把本子放淘寶上賣，想拿實體本的人能拿到是我最希望的，雖然我不明白網上能看為什麼還要實體本（是我不夠浪漫了！）
我學校的課還是一到五都有課的，就是趁著空堂跟回家的時候把銀土日圖趕完，還有趕比賽的短漫（我又要參加比賽了，希望不要再投稿大便給人笑了）
11/20以前有兩次大考、一次證照考試、一週期中考，要畫五張賀圖，一篇八頁短漫，要死了
12月後才會有空，到時候才會再趕工防身術的短漫，還有約稿，希望寒假能把本子放淘寶上賣，想拿實體本的人能拿到是我最希望的，雖然我不明白網上能看為什麼還要實體本（是我不夠浪漫了！）
✋热门推荐