#粤嵌星计划，粤嵌我来了
两种常见的网络模型：
OSI七层模型：
应用层 开发特定的应用程序需要用到其中的部分协议（HTTP、FTP、telnet）
会话层 建立会话，对数据加密，解密
表示层 数据的封装，解析（HTTP、FTP、telnet）
传输层 解决数据在网络中传输的问题（tcp协议和udp协议）
网络层(ip层) 解决路由（最优路径）问题（ip协议）
数据链路层开发网卡的驱动，需要深入了解这个层次的协议
物理层网络接口，真实的网卡
TCP/IP模型（由OSI七层模型演变而来）：
应用层(把应用层，会话层，表示层三个合并)
传输层
网际层
网络接口层(把数据链路层和物理层合并)
两种常见的网络模型：
OSI七层模型：
应用层 开发特定的应用程序需要用到其中的部分协议（HTTP、FTP、telnet）
会话层 建立会话，对数据加密，解密
表示层 数据的封装，解析（HTTP、FTP、telnet）
传输层 解决数据在网络中传输的问题（tcp协议和udp协议）
网络层(ip层) 解决路由（最优路径）问题（ip协议）
数据链路层开发网卡的驱动，需要深入了解这个层次的协议
物理层网络接口，真实的网卡
TCP/IP模型（由OSI七层模型演变而来）：
应用层(把应用层，会话层，表示层三个合并)
传输层
网际层
网络接口层(把数据链路层和物理层合并)
大芯片面临的共同挑战（上）
原创 Chaobowx 软硬件融合
最近一直思考：何谓“大芯片”？大芯片的标准是什么？CPU、GPU、AI、DPU以及HPU等各种超大规模的大芯片，其底层逻辑到底是什么？
于是有了这篇文章的思考，抛砖引玉，与大家讨论。
1 什么是大芯片？
1.1 依据操作系统标准来划分
这样，我们对大芯片就可以有一个最直观的标准：
需要支持操作系统和虚拟化（虚拟化包括虚机、容器、函数等不同层次虚拟化）；
需要支持虚拟化资源切分；
需要支持系统、资源和性能隔离；
需要支持软件跨硬件平台，包括硬件接口抽象和热迁移等。
大芯片，需要把很多传统软件层次的能力在硬件层次进行支持。如可编程性、扩展性、适应性、软件跨平台和高可用等。
1.2 各类引擎/处理器的作用
上图是在计算机（服务器）上运行的系统的功能层次划分，大体上分为两个层次：
支撑应用的基础设施层，比如网络、存储、虚拟化、文件系统、数据库等；
应用层。应用层也可以再划分。很多应用性能敏感，需要通过硬件加速。因此，可以把应用再划分为两部分：
应用可加速部分，相比基础设施，应用可加速部分的更新变化会更大，因此需要一些相对灵活弹性的加速平台，如GPU、FPGA等，而ASIC等则不是很合适。
应用不可加速部分，应用多种多样，应用本身还会经常性的优化更新，因此只适合CPU这样的足够通用灵活的运行平台。
CPU
如果整个系统对性能的要求不高，CPU可以胜任。那么最好的做法就是，不管是基础设施层还是应用层可加速部分和不可加速部分，统统都放在CPU中完成。
然而，由于基于CPU的摩尔定律失效，CPU逐渐无法胜任系统的所有计算任务，引发了连锁反应。所以才有了上面图中的三个分类，以及针对性的各种硬件加速平台。
不管如何优化改进，CPU作为最核心的处理引擎（可能是独立CPU芯片，也可能是嵌入式CPU Core），依然扮演着最核心的作用。
未来，CPU主要负责应用层不可加速部分的计算以及整个系统的控制和管理。虽然CPU最终不是计算的主力，但它依然是管理和控制的核心。
GPU
GPU比较适合应用层的弹性加速，一方面因为GPGPU的通用计算能力，在场景覆盖和性能提升方面很好的达到了平衡。再加上CUDA等开发框架/生态的加持，使得GPU成为应用层可加速部分当之无愧的主力运行平台。
DPU
DPU定位基础设施层的（加速）处理，如虚拟化、网络、存储、安全以及IaaS服务融入等。DPU需要很多ASIC/DSA层次的加速引擎，以及嵌入式CPU的协同，来更好的做好基础设施层的工作，以此来更好的支撑CPU和GPU的上层工作。
DPU可以说是整个系统中的“老黄牛”，做的是最辛苦最艰难的事情，但其价值体现却低于CPU和GPU。目前DPU面临的困境主要体现在：
做的事情非常复杂。受性能需求的约束，需要把业务逻辑变成电路，DPU的开发其难度和工作量（相比CPU和GPU）非常的高。
其价值又相对较低。DPU通常定位成CPU的助手，负责卸载CPU的一些繁重的相对价值含量低的工作。因此，其价值定位低于CPU和GPU。
被动协同。DPU需要协同CPU和GPU的工作，但这些协同通常是被动的。DPU具体落地需要CPU和GPU的“参与”，这使得DPU具有非常大的落地门槛。
客户需求差异性和业务迭代，需要DPU尽可能的贴近用户需求，把用户的深层次需求融入到芯片。但这样做，会导致场景碎片化，DPU能覆盖的场景偏小。而大芯片的研发成本又非常的高，场景覆盖不足以撑起一颗芯片的商业化落地。
AI芯片
AI芯片，也称为AI-DSA，和GPU处于同一位置，一般来说，在小小的服务器物理空间里，加速卡通常只有一种类型，也即AI和GPU是互斥的关系，大家共同竞争同一个物理卡槽。
CPU+xPU的异构计算通常分为三类：
CPU+GPU、CPU+FPGA和CPU+DSA。
如果对通用性要求高，对覆盖场景要求高，则通常选择GPU。比如AI训练场景，虽然GPU并不是效率最高的平台，但目前AI训练算法更新迭代很快，比较适合GPU这样的平台，而不是AI-DSA。
如果对性能要求高，并且算法相对确定，则比较适合DSA架构，比如一些编解码的VPU。以及AI推理场景。
FPGA则介于两者之间。
AI-DSA虽然用途很广，并且性能敏感，但云、边缘以及自动驾驶等超级终端场景，是更加综合性的场景，AI是计算加速的领域之一，因此，独立的AI芯片其落地规模必然是远少于GPU这种更加灵活弹性的计算平台的，也更少于CPU和DPU的落地场景规模。
HPU
HPU是超异构处理器（Hyper-heterogeneous Processing Unit），把CPU、GPU和DPU的功能再集成在一起，是一个功能综合的融合芯片：
Chiplet封装技术的成熟，使得多种架构混合的超异构计算成为可能，为超异构处理器HPU提供了很好的工艺和封装基础。
包括企业服务器、边缘服务器以及存储服务器等诸多场景，占到整个服务器规模的90%左右，这类服务器场景相对轻量的计算，集成的单芯片足够。
而云计算的业务服务器，是绝对重量的场景，需要CPU、GPU和DPU三类独立芯片组成大系统。这类场景只占服务器规模的10%左右。
超异构计算需要创新的架构：需要明确的是，HPU不能是简单的CPU、GPU和DPU三者集成，而是要重新优化整个系统的数据交互，让交互更加充分并且高效（更高的带宽，更低的延迟等）。
原创 Chaobowx 软硬件融合
最近一直思考：何谓“大芯片”？大芯片的标准是什么？CPU、GPU、AI、DPU以及HPU等各种超大规模的大芯片，其底层逻辑到底是什么？
于是有了这篇文章的思考，抛砖引玉，与大家讨论。
1 什么是大芯片？
1.1 依据操作系统标准来划分
这样，我们对大芯片就可以有一个最直观的标准：
需要支持操作系统和虚拟化（虚拟化包括虚机、容器、函数等不同层次虚拟化）；
需要支持虚拟化资源切分；
需要支持系统、资源和性能隔离；
需要支持软件跨硬件平台，包括硬件接口抽象和热迁移等。
大芯片，需要把很多传统软件层次的能力在硬件层次进行支持。如可编程性、扩展性、适应性、软件跨平台和高可用等。
1.2 各类引擎/处理器的作用
上图是在计算机（服务器）上运行的系统的功能层次划分，大体上分为两个层次：
支撑应用的基础设施层，比如网络、存储、虚拟化、文件系统、数据库等；
应用层。应用层也可以再划分。很多应用性能敏感，需要通过硬件加速。因此，可以把应用再划分为两部分：
应用可加速部分，相比基础设施，应用可加速部分的更新变化会更大，因此需要一些相对灵活弹性的加速平台，如GPU、FPGA等，而ASIC等则不是很合适。
应用不可加速部分，应用多种多样，应用本身还会经常性的优化更新，因此只适合CPU这样的足够通用灵活的运行平台。
CPU
如果整个系统对性能的要求不高，CPU可以胜任。那么最好的做法就是，不管是基础设施层还是应用层可加速部分和不可加速部分，统统都放在CPU中完成。
然而，由于基于CPU的摩尔定律失效，CPU逐渐无法胜任系统的所有计算任务，引发了连锁反应。所以才有了上面图中的三个分类，以及针对性的各种硬件加速平台。
不管如何优化改进，CPU作为最核心的处理引擎（可能是独立CPU芯片，也可能是嵌入式CPU Core），依然扮演着最核心的作用。
未来，CPU主要负责应用层不可加速部分的计算以及整个系统的控制和管理。虽然CPU最终不是计算的主力，但它依然是管理和控制的核心。
GPU
GPU比较适合应用层的弹性加速，一方面因为GPGPU的通用计算能力，在场景覆盖和性能提升方面很好的达到了平衡。再加上CUDA等开发框架/生态的加持，使得GPU成为应用层可加速部分当之无愧的主力运行平台。
DPU
DPU定位基础设施层的（加速）处理，如虚拟化、网络、存储、安全以及IaaS服务融入等。DPU需要很多ASIC/DSA层次的加速引擎，以及嵌入式CPU的协同，来更好的做好基础设施层的工作，以此来更好的支撑CPU和GPU的上层工作。
DPU可以说是整个系统中的“老黄牛”，做的是最辛苦最艰难的事情，但其价值体现却低于CPU和GPU。目前DPU面临的困境主要体现在：
做的事情非常复杂。受性能需求的约束，需要把业务逻辑变成电路，DPU的开发其难度和工作量（相比CPU和GPU）非常的高。
其价值又相对较低。DPU通常定位成CPU的助手，负责卸载CPU的一些繁重的相对价值含量低的工作。因此，其价值定位低于CPU和GPU。
被动协同。DPU需要协同CPU和GPU的工作，但这些协同通常是被动的。DPU具体落地需要CPU和GPU的“参与”，这使得DPU具有非常大的落地门槛。
客户需求差异性和业务迭代，需要DPU尽可能的贴近用户需求，把用户的深层次需求融入到芯片。但这样做，会导致场景碎片化，DPU能覆盖的场景偏小。而大芯片的研发成本又非常的高，场景覆盖不足以撑起一颗芯片的商业化落地。
AI芯片
AI芯片，也称为AI-DSA，和GPU处于同一位置，一般来说，在小小的服务器物理空间里，加速卡通常只有一种类型，也即AI和GPU是互斥的关系，大家共同竞争同一个物理卡槽。
CPU+xPU的异构计算通常分为三类：
CPU+GPU、CPU+FPGA和CPU+DSA。
如果对通用性要求高，对覆盖场景要求高，则通常选择GPU。比如AI训练场景，虽然GPU并不是效率最高的平台，但目前AI训练算法更新迭代很快，比较适合GPU这样的平台，而不是AI-DSA。
如果对性能要求高，并且算法相对确定，则比较适合DSA架构，比如一些编解码的VPU。以及AI推理场景。
FPGA则介于两者之间。
AI-DSA虽然用途很广，并且性能敏感，但云、边缘以及自动驾驶等超级终端场景，是更加综合性的场景，AI是计算加速的领域之一，因此，独立的AI芯片其落地规模必然是远少于GPU这种更加灵活弹性的计算平台的，也更少于CPU和DPU的落地场景规模。
HPU
HPU是超异构处理器（Hyper-heterogeneous Processing Unit），把CPU、GPU和DPU的功能再集成在一起，是一个功能综合的融合芯片：
Chiplet封装技术的成熟，使得多种架构混合的超异构计算成为可能，为超异构处理器HPU提供了很好的工艺和封装基础。
包括企业服务器、边缘服务器以及存储服务器等诸多场景，占到整个服务器规模的90%左右，这类服务器场景相对轻量的计算，集成的单芯片足够。
而云计算的业务服务器，是绝对重量的场景，需要CPU、GPU和DPU三类独立芯片组成大系统。这类场景只占服务器规模的10%左右。
超异构计算需要创新的架构：需要明确的是，HPU不能是简单的CPU、GPU和DPU三者集成，而是要重新优化整个系统的数据交互，让交互更加充分并且高效（更高的带宽，更低的延迟等）。
经济参考报：‘用云量’激增下的数字经济热度
中部地区、三四线城市快速扩张 传统行业数字化转型加速
今年一季度，平台工业企业上云数增长11.16%，其中，中小企业上云数增长12%，平台累计连接设备近140万台。这是《经济参考报》记者日前从一家跨行业跨领域工业互联网平台获悉的企业上云新进展。
多方数据印证了近年来企业上云加速的趋势。腾讯研究院的数据显示，仅在2021年一季度，全国数字化转型指数（基础设施层、平台层和应用层的指数加权平均）达到307.26，同比增长207.4%，全国“用云量”（云计算指数）增长量达57%。
正如“用电量”是工业生产的“风向标”，透过“用云量”这个相对陌生的新指数，可以一窥当前数字经济发展趋势。
长期关注云计算的腾讯研究院研究员白惠天认为，“云”是数字经济的重要“基础设施”，“用云量”反映出数据在“云”上存储、输送、加工、应用等全过程中的投入量和消耗量，折射出数字经济的活跃情况，“当下中国数字化增长动能整体强劲，数字化转型长期增长的趋势没有变化。”
深挖“用云量”在不同地区的变化及内在结构特征，可以看出当前数字经济发展的新动向。
从区域看，中部地区和三四线城市迸发数字化新势能。以2021年一季度为例，在上海、北京、深圳“用云量”大幅领先、稳居“数字一线城市”的同时，中部地区“用云量”增速同比翻了一番。河南、湖北、湖南数字化转型指数规模和增速均位列全国前十。
在2020年至2021年之间，中原城市数字化转型指数增速达到350%，长江中游城市数字化转型指数达到315%。三四线城市在数字化指数上同比增长314%和344%。
“全国用云量同比增长率呈现中部最高、西部次之的特征，反映出中西部地区在数字化转型方面正在加速追赶东部地区。随着数字化转型由东部向中西部加速扩散，数字普惠将助力全国数字经济一体化发展。”白惠天说。
而细观不同类型城市的“用云”结构，不同发展阶段、不同产业基础的城市，产业数字化发展的重点及路径各有不同。数据显示，一线城市汇聚更多数字原生行业的用云需求，电商、文创、游戏等整体用云占比超过78%；二线城市传统行业上云最突出。
从行业看，传统产业数字化酝酿新的增长点。数据显示，2020年至2021年之间，传统行业的数字化转型呈现高速增长态势，增速排名前十的行业中，广电、医疗、制造、教育、零售和能源等传统行业占据6席。
以工业领域为例，工信部最新数据显示，目前具有一定影响力的工业互联网平台超过150家，连接工业设备超过7800万台（套），服务工业企业超过160万家。
这背后是不少企业加快向云端迁移业务、拥抱新机遇的主动选择。“数字化让企业能够以更高的效率、更低的成本实现更加精准和专业的服务。”苏州明志科技股份有限公司董事长吴勤芳告诉《经济参考报》记者。
在这个深耕高端铸件的企业里，生产线上平均每30秒就有一个高铁制动阀下线，而周围几乎看不到操作工人。“通过数字化生产改造，人工成本减少了三分之二，人均产出却翻了三倍以上。”吴勤芳说。
“传统产业有着较长的产业链条和丰富的应用场景，其数字化驱动实体经济转型升级纵深推进，为实现高质量发展拓展新空间。”北京交通大学副教授、中国高端制造业研究中心执行主任朱明皓说，以制造业为例，随着数实融合的不断普及和深化，云边端设备研发日益成熟，企业上云的便捷性提高，释放数字技术对经济发展的放大、叠加和倍增效益。
在白惠天看来，从用云量规模与增长排名前十的行业看，数字原生的电商和数字内容仍是当前用云大户，但以政务、医疗、制造业为代表的市政服务及传统行业加速上云，为催生新产业、新业态、新模式起到了重要作用。
从趋势看，智能化成为新的需求增长方向。2021年一季度“赋智量”（人工智能指数）同比增长93%，明显高于云计算指数的57%。
这样的增长体现在企业实实在在的生产需求里。在恒逸集团浙江双兔新材料有限公司，一位已经工作了15年的化纤产品质检女工如今告别“人眼+放大镜”的重复劳动，变为人工智能数据标注师。“原来的普检变成了机器筛查后的复检，单个丝锭的检验时间可以缩短到2.5秒，检验效率相比人工质检提高70%。”企业生产工人告诉《经济参考报》记者，现在智能设备学会了辨别产品缺陷，生产效率大幅提升。
不止制造业，医疗、教育、零售、能源……越来越多的行业将智能化嵌入全链条，积蓄产业变革的动力。
“尽管大部分行业和企业仍在摸索适合自己数字化、网络化、智能化发展的道路，但新一代信息技术对数字经济的赋能作用已经非常明显。”中国信通院政策与经济研究所副所长孙克对《经济参考报》记者表示，经过多年的知识积累和实践探索，云计算、人工智能等新技术呈现大规模应用的趋势，依托我国制度优越、产业基础扎实和市场潜力巨大的三重优势，数字经济将迎来更广阔的成长空间。
中部地区、三四线城市快速扩张 传统行业数字化转型加速
今年一季度，平台工业企业上云数增长11.16%，其中，中小企业上云数增长12%，平台累计连接设备近140万台。这是《经济参考报》记者日前从一家跨行业跨领域工业互联网平台获悉的企业上云新进展。
多方数据印证了近年来企业上云加速的趋势。腾讯研究院的数据显示，仅在2021年一季度，全国数字化转型指数（基础设施层、平台层和应用层的指数加权平均）达到307.26，同比增长207.4%，全国“用云量”（云计算指数）增长量达57%。
正如“用电量”是工业生产的“风向标”，透过“用云量”这个相对陌生的新指数，可以一窥当前数字经济发展趋势。
长期关注云计算的腾讯研究院研究员白惠天认为，“云”是数字经济的重要“基础设施”，“用云量”反映出数据在“云”上存储、输送、加工、应用等全过程中的投入量和消耗量，折射出数字经济的活跃情况，“当下中国数字化增长动能整体强劲，数字化转型长期增长的趋势没有变化。”
深挖“用云量”在不同地区的变化及内在结构特征，可以看出当前数字经济发展的新动向。
从区域看，中部地区和三四线城市迸发数字化新势能。以2021年一季度为例，在上海、北京、深圳“用云量”大幅领先、稳居“数字一线城市”的同时，中部地区“用云量”增速同比翻了一番。河南、湖北、湖南数字化转型指数规模和增速均位列全国前十。
在2020年至2021年之间，中原城市数字化转型指数增速达到350%，长江中游城市数字化转型指数达到315%。三四线城市在数字化指数上同比增长314%和344%。
“全国用云量同比增长率呈现中部最高、西部次之的特征，反映出中西部地区在数字化转型方面正在加速追赶东部地区。随着数字化转型由东部向中西部加速扩散，数字普惠将助力全国数字经济一体化发展。”白惠天说。
而细观不同类型城市的“用云”结构，不同发展阶段、不同产业基础的城市，产业数字化发展的重点及路径各有不同。数据显示，一线城市汇聚更多数字原生行业的用云需求，电商、文创、游戏等整体用云占比超过78%；二线城市传统行业上云最突出。
从行业看，传统产业数字化酝酿新的增长点。数据显示，2020年至2021年之间，传统行业的数字化转型呈现高速增长态势，增速排名前十的行业中，广电、医疗、制造、教育、零售和能源等传统行业占据6席。
以工业领域为例，工信部最新数据显示，目前具有一定影响力的工业互联网平台超过150家，连接工业设备超过7800万台（套），服务工业企业超过160万家。
这背后是不少企业加快向云端迁移业务、拥抱新机遇的主动选择。“数字化让企业能够以更高的效率、更低的成本实现更加精准和专业的服务。”苏州明志科技股份有限公司董事长吴勤芳告诉《经济参考报》记者。
在这个深耕高端铸件的企业里，生产线上平均每30秒就有一个高铁制动阀下线，而周围几乎看不到操作工人。“通过数字化生产改造，人工成本减少了三分之二，人均产出却翻了三倍以上。”吴勤芳说。
“传统产业有着较长的产业链条和丰富的应用场景，其数字化驱动实体经济转型升级纵深推进，为实现高质量发展拓展新空间。”北京交通大学副教授、中国高端制造业研究中心执行主任朱明皓说，以制造业为例，随着数实融合的不断普及和深化，云边端设备研发日益成熟，企业上云的便捷性提高，释放数字技术对经济发展的放大、叠加和倍增效益。
在白惠天看来，从用云量规模与增长排名前十的行业看，数字原生的电商和数字内容仍是当前用云大户，但以政务、医疗、制造业为代表的市政服务及传统行业加速上云，为催生新产业、新业态、新模式起到了重要作用。
从趋势看，智能化成为新的需求增长方向。2021年一季度“赋智量”（人工智能指数）同比增长93%，明显高于云计算指数的57%。
这样的增长体现在企业实实在在的生产需求里。在恒逸集团浙江双兔新材料有限公司，一位已经工作了15年的化纤产品质检女工如今告别“人眼+放大镜”的重复劳动，变为人工智能数据标注师。“原来的普检变成了机器筛查后的复检，单个丝锭的检验时间可以缩短到2.5秒，检验效率相比人工质检提高70%。”企业生产工人告诉《经济参考报》记者，现在智能设备学会了辨别产品缺陷，生产效率大幅提升。
不止制造业，医疗、教育、零售、能源……越来越多的行业将智能化嵌入全链条，积蓄产业变革的动力。
“尽管大部分行业和企业仍在摸索适合自己数字化、网络化、智能化发展的道路，但新一代信息技术对数字经济的赋能作用已经非常明显。”中国信通院政策与经济研究所副所长孙克对《经济参考报》记者表示，经过多年的知识积累和实践探索，云计算、人工智能等新技术呈现大规模应用的趋势，依托我国制度优越、产业基础扎实和市场潜力巨大的三重优势，数字经济将迎来更广阔的成长空间。
✋热门推荐