异构算力开源社区HAMi举办首届沙龙，将发布新版

克日，AI异构算力开源社区 HAMi 首届线下沙龙胜利举行，并发布将于25年1月正式宣布 HAMi 2.5.0版本。新版本将支撑mig、mps等多种算力切分形式，并优化 WebUI 治理才能及易用性。HAMi 是基于第四范式 vGPU 等异构算力技巧打造，并与道客、睿思智联结合发动的一款异构算力治理开源东西，实现对硬件集群平台化治理、算力资本共享、按需调配跟疾速调理，可无效晋升 AI 算力资本应用率跟盘算履行速率，最多可节俭 80% 硬件本钱，晋升 5-10 倍GPU综合应用率。HAMi 重要功效包含：主流算力安排及治理：片面适配国产/非国产算力，支撑英伟达、华为昇腾、海光、寒武纪、天数智芯、沐曦、摩尔线程等差别范例算力集群的混杂安排、同一调理跟治理，并助力利用情况的国产化安稳逐渐替换。算力高效复用：经由过程虚构化技巧，实现“一卡多用”，即多个义务可能共享统一张显卡，经由过程算力资本的高效复用，晋升硬件应用率，下降算力本钱。精致化资本治理：以设定的显存值或按比例调配GPU资本，确保义务应用的显存资本不会超越调配数值，满意企业对算力资本的精致化治理需要。算力切分精致至1%，显存切分以M兆为单元。别的，可依据装备范例与利用负载机动分配资本设置，确保高优先级营业失掉稳固资本。现在，HAMi 已在云厂商、年夜型数据核心等超40家企业中利用。此次沙龙中，科年夜讯飞也作为资深用户代表，分享了 HAMi 在科年夜讯飞星斗 MaaS 平台中的利用实际：咱们应用 HAMi 的 GPU 虚构化跟池化才能，在 AI 练习及微调等多场景中实现了年夜范围义务的机动调理，并年夜幅进步了异构算力资本应用率，处理了义务顶峰期的算力瓶颈成绩。HAMi 开源半年来，Github 下载量已冲破15万次，吸引了来自华为、SAP、星环科技、道客等多家企业的开辟者参加社区奉献，实现了与 Volcano 等多个著名社区名目的无缝集成。与此同时，在开辟者及开源社区的鼎力支撑下，HAMi 接连成为 CNCF Landscape 及 Sandbox 代表名目，相干技巧结果被 KubeCon 2024 Euro跟 KubeCon 2024 HK收录。欢送更多开辟者参加 HAMi 社区，独特推进异构算力治理技巧的开展。 　　申明：新浪网独家稿件，未经受权制止转载。 -->