典型案例分享

案例一:AI基础设施服务服务能力

        某省IDC中心建设千卡高端算力集群(128 台8卡H100算力服务器),

协同产业界、学术界、研究单位,三方联合评测并出具权威报告,打造联合认证的新型算力中心标杆。主要工作内容如下:

  1. AI基础设施建设第二阶段的完整全量测试
  2. AI基础设施建设第二阶段的大模型完整全量部署及调优测试
  3. AI基础设施建设第三阶段的集群算力运营维护系统软件的支持

关键技术特点:

  1. 完成集成基础算力测试,集群平台能力测试及大模型训练+推理、训练性能及稳定性测试
  2. 采用全自动化测试工具,在1周时间内完全全部测试,可测试验证集群通信效率,MFU,token/s效率等
  3. 通过信通院权威认证,并根据测试结果,给出权威报告的测试。

相关性能评测关键数据:

  1. 针对H100 GPU集群LLM训练效率测试
  2. 大规模AI训练集群NCCL测试
  3. GPFS集群存储性能测试

相应测试内容如下图所示:

集群系统运营运维管理软件系统能力如下图:

案例二:AI行业应用平台服务

美国华人牙科协会Dental Bot项目

    • 构建华人牙医协会构建医疗和问答智能系统
    • 构建1 个医疗及问答大模型系统
    • 构建1个 L1级本地向量知识库
    • 构建1个智能体整体技术框架
    • 集成大模型,并对大模型进行微调

实现技术:

  • 实现智能体技术体框架
  • 医疗系统本地向量知识库构建
  • 集成业界主流大模型
  • 实现大模型LoRA +Prompt-Tuning微调
  • 构建牙医协会医疗与问答系统智能体

整体技术框架如下图:

同时已完成AGI开发⼯具箱原型(https://octops.ai),⽀持SaaS以及私有化部署

某研究机构机理模型服务项目

  • 实现科技研发由“经验指导实验”的传统模式向“理论预测、实验验证”的新模式转变,构建三个AI4S模型
    • 构建分子链结构-表面性能关联分析模型
    • 构建分子链结构-力学性能分析关联分析模型
    • 构建聚合反应条件与聚合物产量及聚合物性能关联分析模型

实现技术:

  • AI4s基础AI模型
  • 深度学习算法 + 时间序列算法+AutoML算法实现
  • 实现薄膜电晕表面性能分析、薄膜力学性能分析、聚丙烯高通量数据分析、聚合条件与产率及聚合物性能分析