• 登录/注册

登录失败,用户名或者密码错误


登录

首页  > 快讯

DeepSeek宣布开源MLA解码核FlashMLA,GitHubstar超1700

1年前
【DeepSeek宣布开源MLA解码核FlashMLA,GitHubstar超1700】在上周DeepSeek宣布本周将是开源周(OpenSourceWeek),并将连续开源五个软件库后。今日,DeepSeek宣布开源了开源周首款用于Hopper GPU的高效型MLA解码核——FlashMLA。新浪科技注意到,在GitHub上,目前该项目已经收获了超过1700star,并且拥有62个Fork。MLA是DeepSeek V2-V3系列大模型最为重要技术创新,主要用于减少推理过程的KV Cache,进而降低推理成本。据DeepSeek介绍,FlashMLA是Hopper GPUs的有效MLA解码内核,可针对可变长度序列进行优化,目前主要发布包括:1、 BF16;2、块大小为64 的分页kvcache。在基准测试性能表现上,FlashMLA在英伟达H800 SXM5 GPU上可实现3000 GB/s 的内存速度以及580TFLOPS的计算上限。(新浪科技)

最新快讯搜索

中国 比特币 涨停 汽车 新能源 OpenAI 新能源汽车 小红书 AI 中信证券 宁德时代 降息 贵州茅台 茅台 房贷 智能驾驶 A股 中国平安 阿里 腾讯控股 中信建投 越南 黑神话 稀土 st deepseek 股票交易异常波动 半导体 上交所 特朗普 资产重组 北汽蓝谷 美国大选 曲江文旅 上证指数 以旧换新 理想汽车 蔚来 贝莱德 破净 投票 大选 中芯国际 欣旺达 悟空 存量房贷 黑神话:悟空 动力电池 电池回收 孚能科技 哪吒汽车 存量房贷利率 三连板 江淮汽车 无人潜水器 瑞幸咖啡 广交会 泸州老窖 蜀道装备 四连板 寻呼机 连板股 润和软件 存量房贷下调 今日收评 AI模型公司 白马股 茅台酒价 破净发 3000点 绝地求生 弹匣电池 三元电池 AI出海