主要要点如下：

一、软件

1. Apache Spark——用于加速云数据处理

2. RAFT 加速库——用于向量数据库加速  合作方: FAISS，milvus，redis

3. cuOpt——加速调度和进化算法，用于运营和调度  合作方：AT&T，德勤，埃森哲等

4. Triton——IDC推理服务  合作方：美国运通、微软等

5. 重点：CV-CUDA——计算机视觉用加速库

6. 重点：VPF——视频处理用加速库

7. Parabricks——用于端到端基因组分析的AI模型加速库

8. Holoscan——实时传感器处理系统软件库

9. 重点：cuLitho——计算光刻库  合作方：台积电，ASML

二、硬件

1 Grace Superchip——900G低功耗芯片到芯片缓存一致接口（2个可构成一个1U服务器），适合云计算

2 BlueField——加速数据中心操作系统和基础设施软件

3 重点：H100 GPU——搭载Transformer引擎，为Transformer模型架构进行特化

4 DGX H100超级计算机——8个H100通过NVLINK Switch相连，通过400Gbps延迟的Quantum InfiniBand进行网络连接  合作方：微软Azure，并用于openAI相关训练

5 OVX服务器——针对Omniverse进行了优化

6 Ada RTX GPU——用于新一代工作站

三、云业务和大数据服务：

1 DGX Cloud——云服务平台

2 重点：AI Foundation——生成式AI模型训练和云服务，分为Nemo（文本），Picasso（图像）和Bionemo（生物医药用）三种

3 重点：One Architecture平台——四种推理平台：L4（视频工作用）、L40（图片渲染和图像文本转换）、H100 NVL（针对LLM）和Grace-Hooper（针对推荐系统和向量数据库）

4 重点：Omniverse（联合微软office365组合）——工业数字化平台 合作方：亚马逊、奔驰和宝马等（Omniverse Cloud在Azure上托管）