欧洲杯体育且完毕与 Kubernetes 生态的原生和会-开云「中国内陆」官方网站 更高效、更智能、更环保

欧洲杯体育且完毕与 Kubernetes 生态的原生和会-开云「中国内陆」官方网站 更高效、更智能、更环保

欧洲杯体育

大模子时间的来临,让 GPU 算力成为了比黄金更稀缺的硬通货。但是,一边是企业对算力的饥渴,另一边却是算力资源的奢靡。由于阑珊高效的编造化管制器用,全球 GPU 的平均运用率经常徜徉在 10%-20% 之间,大批的显存与算力在“静态分派”的模式下处于闲置情状。

36氪近日获悉,异构算力编造化、高效治愈管制平台「密瓜智能」(Dynamia.ai)完成天神轮融资,本轮由复星创富领投,拙朴老本和种子轮投资东谈主跟投。据悉,天神轮融资金额为数千元东谈主民币,资金将主要用于 HAMi 开源生态开拓及异构算力治愈平台的产业化落地。

异构算力的“碎屑化”困局

跟着国产算力与各样化 AI 芯片的不断发展,企业里面算力环境呈现出愈增加元与复杂的特征。不同架构、不同厂商的 GPU 与 AI 加快芯片在兼并基础设施中并存,使算力资源在管制、治愈与使用层面靠近新的挑战。

在本色落地过程中,企业精深需要应付异构算力资源难以结伴治愈、资源分享适度不及以及算力运用率不高档问题,这也成为现时 AI 基础设施开拓中恭候惩办的关节要领。密瓜智能的中枢突破点在于其发起并主导的 CNCF(云原生揣摸打算基金会)开源容貌 —— HAMi。当作全球惟一专注异构算力编造化的 CNCF 容貌,HAMi 的想法是成为算力治愈边界的“结伴话语”。

算力分派

异构算力池化:从“静态独占”向“动态解耦”

密瓜智能通过 HAMi 构建了一套深度编造化与池化管制体系,完毕了算力资源与物理硬件的深度解耦 。其中枢时期智力体当今以下维度:

细粒度切分与显存超卖:复古将单枚 GPU 的显存与算力进行精度达 1/10 以致更小的切分,并引入“显存超卖(Over-provisioning)”机制,确保多个高并发任务在资源分享时互不干与,大幅进步单卡承载密度 。 跨厂商异构联符合配与动态 MIG:已完成对 NVIDIA、华为昇腾、沐曦、摩尔线程、寒武纪、海光、燧原等 9 种以上芯片的适配,并复古 动态 MIG(Multi-Instance GPU) 天真成就,使不同架构算力能插手兼并资源池标准化管制 。 自动掸性扩缩容与优先级机制:复古显存自动掸性扩缩容及 OOM 阻难,配合任务优先级霸占机制,确保中枢业务在资源孔殷时赢得优先保险 。 云原生零侵入与高性能 Turbo 模式:通过 高性能 Turbo 模式 优化治愈适度,且完毕与 Kubernetes 生态的原生和会。用户无需修改代码,即可在出产环境中完毕算力的自动感知与分派 。

在顺丰科技的应用案例中,密瓜智能完毕了在仅有的 6 张 GPU 上见效部署了 19 个测试劳动,正本需要 19 张卡才能脱手的任务,当今检朴了 13 张卡,资源适度进步了 2 倍以上。而在越南 AI 学习平台 PREP EDU 的案例中,面对 RTX 4070 与 4090 混装的复杂异构环境,HAMi vGPU治愈智力加上PREP EDU的Devops团队对其使命经过进行了大批优化,完毕了GPU集群痛点减少50%,GPU基础架构优化了90%。

除了开源的家具外,密瓜智能还提供企业级的付费家具,企业诞生仅一个季度内,便赢得了200万元的家具订单公约,并赢得了 AWS 推理芯片的主动适配复古。

在本色应用中,HAMi 当作开源容貌,已被多家企业与开发团队用于异构 GPU 资源分享与治愈场景。 在顺丰科技的应用案例中,完毕了在仅有的 6 张 GPU 上见效部署了 19 个测试劳动,正本需要 19 张卡才能脱手的任务,当今检朴了 13 张卡,资源适度进步了 2 倍以上。而在越南 AI 学习平台 PREP EDU 的案例中,面对 RTX 4070 与 4090 混装的复杂异构环境,HAMi vGPU治愈智力加上PREP EDU的Devops团队对其使命经过进行了大批优化,完毕了GPU集群痛点减少50%,GPU基础架构优化了90%。

算力治愈

在此基础上,密瓜智能围绕 HAMi 打造了面向企业客户的买卖化家具与时期劳动,为企业在出产环境中落地异构算力治愈提供更完善的工程智力、相识性复古与捏续运维保险。面前,公司已与多家企业客户开展付费谄媚,逐渐鞭策从开源容貌到企业级惩办决议的买卖化落地。

从开源基因到买卖闭环

密瓜智能中枢独创团队长久深耕云揣摸打算、云原生及 AI 基础设施边界。CEO 张潇曾在云原生边界头部企业DaoCloud担任容器团队施展东谈主;结伴独创东谈主CTO李孟轩曾任第四范式异构算力时期施展东谈主。两位独创东谈主均是 Kubernetes 中枢孝敬者及多个 CNCF 容貌的贵重者(/长久参与 Kubernetes 及 CNCF 生态相关开源容貌)。频年东谈主工智能发展赶紧,云原生基础设施还是成为 AI 时间的首选,容器管制当作构建云原生平台的基石,还是发展成为推动东谈主工智能应用落地的关节时期。密瓜智能团队围绕异构 GPU 资源分享与结伴管制地方张开探索,并在此基础上创立了密瓜智能,推动相关智力向工程化与企业级场景落地。

密瓜智能独创东谈主见潇示意:“在算力自主化的大配景下,异构算力池化时期不仅是进步适度的器用,更是国产芯片插手主流出产环境的‘终末一公里’。就算是拿了融资,算力治愈和生态开拓需要的亦然‘耐烦老本’。咱们不追求激进的短期买卖化,而是坚捏通过开源社区 HAMi 建立行业的‘事实标准’。咱们的愿景是让异构算力像水电一样,因为开源而变得简单好用,实在构建起全球向上的算力治愈生态,赋能 AI 产业的高效落地。”

投资东谈主不雅点:

复星创富投资奉行总司理叶丽娟示意,异构将成为算力市集的长久模式,不管是GPU照旧新式算力芯片,是AI最遑急的底座,密瓜智能在AI大生态中不成或缺地聚集算力端与应用端,为客户极猛进度进步算力适度,检朴不菲的算力成本。开源的 HAMi 已建立起颇具边界的开发者与用户生态——这沿途径也与AI行业开源化、协同化的发展趋势高度契合。HAMi 提供的天真、弹性、按需且可靠的编造化时期,省略完毕算力的高效切分与治愈,显耀进步算力运用率,从而为全球客户带来极具竞争力的投资答复率(ROI)。

拙朴投资总监陈敏洁在与密瓜智能的疏导中提到,在上一代以CPU为中枢的云揣摸打算时间,降生了像VMware这么的编造化巨头。如今到了以GPU为中枢的 AI 智算时间,AI任务负载对算力的需求与底层硬件分派格式之间也相通存在广宽的错配,编造化是通向AI普惠的中枢钥匙。

国产算力多元异构各抒已见的近况,也赋予HAMi 开源更深入的兴味兴味,开源不再仅仅心扉,而是生计发展的必需欧洲杯体育,是对现时算力次序的重塑。HAMi 念念要冲破硬件的藩篱,让算力成为像水一样唾手可得的环球基础设施,匡助多元异构芯片与全球生态共振。在这一趋势中,HAMi 有望成为异构算力治愈编造化的全球通用标准。