• 登录/注册

登录失败,用户名或者密码错误


登录

首页  > 快讯

DeepSeek宣布开源MLA解码核FlashMLA,GitHubstar超1700

10月前
【DeepSeek宣布开源MLA解码核FlashMLA,GitHubstar超1700】在上周DeepSeek宣布本周将是开源周(OpenSourceWeek),并将连续开源五个软件库后。今日,DeepSeek宣布开源了开源周首款用于Hopper GPU的高效型MLA解码核——FlashMLA。新浪科技注意到,在GitHub上,目前该项目已经收获了超过1700star,并且拥有62个Fork。MLA是DeepSeek V2-V3系列大模型最为重要技术创新,主要用于减少推理过程的KV Cache,进而降低推理成本。据DeepSeek介绍,FlashMLA是Hopper GPUs的有效MLA解码内核,可针对可变长度序列进行优化,目前主要发布包括:1、 BF16;2、块大小为64 的分页kvcache。在基准测试性能表现上,FlashMLA在英伟达H800 SXM5 GPU上可实现3000 GB/s 的内存速度以及580TFLOPS的计算上限。(新浪科技)

最新快讯搜索

降息 涨停 汽车 中信证券 新能源 中国 美国大选 A股 股票交易异常波动 广交会 茅台 deepseek 理想汽车 新能源汽车 黑神话 房贷 稀土 AI 小红书 资产重组 上证指数 智能驾驶 中信建投 贵州茅台 越南 st 比特币 半导体 上交所 OpenAI 特朗普 以旧换新 阿里 宁德时代 腾讯控股 哪吒汽车 中国平安 动力电池 投票 大选 茅台酒价 曲江文旅 悟空 江淮汽车 泸州老窖 存量房贷利率 破净 寻呼机 白马股 贝莱德 弹匣电池 AI模型公司 中芯国际 绝地求生 存量房贷 三连板 四连板 3000点 电池回收 黑神话:悟空 北汽蓝谷 蔚来 破净发 今日收评 瑞幸咖啡 三元电池 润和软件 无人潜水器 连板股 AI出海 蜀道装备 欣旺达 存量房贷下调 孚能科技