技术展示
Technical Demonstration
超动力(北京)科技有限公司
报名类型: 新一代信息技术        项目名称:应用于大模型推理的算网一体的的AI超算服务器
报名分类
新一代信息技术 
公司/团队名称
超动力(北京)科技有限公司 
项目名称
应用于大模型推理的算网一体的的AI超算服务器 
公司/团队简介
超动力科技成立于2023年4月,主创团队来自于前华为研发/营销/管理等方面的资深人员,团队成员均有超过20年以上的行业经验。CEO有14年华为工作履历,历任华为国内分公司和大客户事业部总经理、海外地区部CFO,在华为曾领导200+团队取得全球领先的经营绩效;是大数据独角兽企业的市场总裁;有过成功的AI方面的创业经验;擅长战略洞察和高绩效管理,在大数据、AI领域有着广泛的人脉;CTO曾担任华为数据通信产品管理团队(PMT)的核心成员,长期主持华为数通产品规划,并多次代表华为出席国内外顶级峰会;曾担任极路由技术总监、海尔集团北京聆风科技CEO、北京数真科技CTO,致力于AI在各垂直行业的落地工作。他对无损以太网、集群通讯、机器视觉、深度学习、神经网络、大模型、嵌入式人工智能(清华大学出版国内第一部嵌入式AI专著)等有着广泛而深入的研究应用和积累,在相关领域拥有数十篇发明专利。研发VP是前华为研发部门智能网关产品的PDT开发代表,曾主导了多个大型通讯设备和系统的开发;华为出来创业后曾涉及到通讯设备以及机器人的研发,拥有机器人算法专利。他对于有竞争力的软硬件产品方案设计研发有着独到的见解,在搭建和管理研发团队方面有着非常成功的实践经验。 
技术产品介绍
超动力小超算AI服务器,面向大模型AIGC以及元宇宙等场景提供超低功耗 、高性价比、灵活易扩展的推理计算系统。 大模型推理业务中,计算资源的采购成本和功耗占到了其成本的比例80%以上,那么如何降低采购成本,如何降低运行功耗,是大模型能否真正实现商业落地的关键问题。我们整体的目标就是采用创新性的架构和解决方案实现计算资源在采购尤其是在日常运营能耗方面的大幅度的成本和支出的降低。 超动力小超算服务器相比传统的AI服务器,在同等算力输出的情况下,降低了百分之七十的建造成本,降低了百分之八十的运行功耗,能够为大模型的商业化落地运营提供有竞争力的计算解决方案和产品。 我们基于超算架构和算网一体的技术方案研发了AI超算服务器, 本方案采用颠覆性架构和前沿技术,通过系统级的软硬件优化,把计算能力不那么强的SOC芯片(每片功耗不到5W既可以提供48T的整形计算能力,算耗比很高)通过无损以太网替代昂贵的NVswitch/IB专用通讯方案搭建高性能计算集群。其关键技术包括如何在嵌入式设备上进行大模型推理、如何把并行计算和硬件架构进行映射实现高速的集合通信、如何实现在多个嵌入式设备之间实现基于以太网的超低时延、无丢包,无拥塞的数据通信,最终实现端到端的计算效率提升释放SOC单元的计算潜力。 本产品方案具备较高的技术门槛,有十二个月左右的技术领先性;目前公司已经完成主要的技术验证和产品原型设计以及芯片选型,在投资到位的情况下,六个月即可进行规模交付 ,能够快速实现商业价值和股东的投资回报。 
技术产品展示图
  • 图片1
  • 图片2
  • 图片3
  • 图片4
  • 图片5