1.1 AI 1.1.1 AI1.1.2 AI 1.2 AI 1.2.1 1.2.2 1.2.3 AI 1.2.4 2.1 2.2 3.1 3.2 3.2.1 3.2.2 3.2.3 3.2.4 3.2.5 3.3 3.3.1 3.3.2 3.3.3 AI 3.4 3.5 01010203030508091114172122222323242425262729323.5.1 3.5.2 3.5.3 3.5.4 AI 3.5.5 3.5.6 4.1 AI 4.2 4.3 4.4 4.5 4.6 4.7 4.8 4.9 4.10 5.1 5.2 5.3 5.4 5.5 1 2 3233343536373941434547495154565759626469727979011AIArtificial IntelligenceEfficientNetTop50298.7%96%RNN-T96.8%94.17%BERT90.9%82%AIAIAIAIAIAI2019AI598.62020-202434.8%AI5G5GAI[a] FixEfficientNetImageNet with extra-training data[b] BiLSTM RNN-TThe LibriSpeech dataset[c] Megatron-BERTRACE03VR/AR5GAIAI+AIAI2025AI86%80%AIAIAIAIAIAIAIAIAI20126AI3004BERT, GPT-3TFLOPSPFLOPSEFLOPSAIAIAIAIAIAI05••••••• +Fine tuning••••••••NPU • •API AIAI06AIAIAI07AIAIAIAIAIAIAIAIDSADomain Specific ArchitectureAIAIAI08APIAIAPIAIAPIAIAIAIAIAIAIAIAIAIAIAIAIAIAIAIAI09AIAIAI5001:10AI72%AIAI0.410.080,090.130.17AIAIAIAI10112AICANNCompute Architecture for Neural NetworksAI12OEMODMIHVC&SIISVXaaSMindSporeTensorFlow/PyTorch/CANNNPUModelArtsHiAI ServiceMindXFusionDirector/SmartkitsMindStudio13AIAIAI14 AI CANNMindStudio AIMindSporeMindXModelArtsHiAIIaasPaas, SaaSAI15Atlas AIAtlasAtlasAIAIMindSporeAITensorFlowPyTorchCaffeMindSporeAIAIAIAI16173AI3-118AIMindX EdgeMindX EdgeMindX DLMindStudioFusionDirector/SmartkitsModelZooModelZooModelZooSDKSDKSDKHiAI Service/MindSporeModelArts TensorFlow/PyTorchCANNAscendCL///KernelNPU Driver19Atlas320 TFLOPS FP16Atlas256P1024P FLOPS FP16ResNet-50ImageNet25.9sAtlas88 TOPS INT880 AtlasAIPUE(Power Usage Efficiency)<1.1E512 TOPS/WAI MindXModelArtsHiAIMindXSDKSDKSDKISVAIAIMindSporeMindSpore20CANNMindStudioAscendCLAscend Computing LanguageCANNAscendCLAIAIAPIAscendCLAIAIMindXAIMindX DLMindX EdgeModelArtsHiAI ServiceMIndX ModelZooSDKModelZooSDKSDKISVAIAICANNAI21MindSporeAIMindSporeAIAIAIAtlasAIAtlas 200 AIAtlas 200 DK AIAtlas 300 AIAtlas 500Atlas 800 AIAtlas 900 AIAtlasAtlasAtlas 200 AIAIAtlas 300 AIAIOEM/ODM22AINPUNeural Processing UnitNPUAI16*16*163D Cube409616MACIPAI22TOPS INT811 TFLOPS FP168WAIIT320 TFLOPS FP16SoCAICPU CoreDVPPTask SchedulerHost CPUHCCSPCIe 4.0RoCE v2Scale OutScale Up��������23�������������������������������������������� Atlas 200 AI ��������3000�����������������������22TOPS INT8 ����������������������������������������� AI ���� Atlas 300I �������3000/3010����������������� 88 TOPS INT8������ 80 ���������������� 2 ��������������������������� Atlas 300T �������9000��������������������������������������� 320 TFLOPS FP16 ������������������������������������� 3/4 �� PCIe �������������������������� AI ���������������������� ������������������������������� Atlas 500�������������������������������������������������������������������������������������� �����...
