首页 - 科技 > DeepSeek完美收官：开源劳苦功高的3FS！

DeepSeek完美收官：开源劳苦功高的3FS！

发布于：2025-02-28 作者：凹凸曼 阅读：31

在不舍与兴奋中，我们迎来了DeepSeek开源周第五天。今天DeepSeek开源的项目是：Fire-Flyer文件系统，即3FS。

DeepSeek完美收官：开源劳苦功高的3FS！

据了解，3FS是一个高性能并行文件系统，它是所有Deepseek数据访问的助推器，能应对AI训练和推理工作负载的挑战。

它利用现代SSD和RDMA网络提供共享存储层，能简化分布式应用程序的开发，具有以下主要特性：

1、分离式架构：结合了数千个SSD和数百个存储节点的网络带宽，使应用程序可以不受位置限制地访问存储资源

2、强一致性：实现了链式复制与分配查询(CRAQ)协议，确保数据的强一致性，简化应用程序开发

3、文件接口：提供基于事务性键值存储(如FoundationDB)支持的无状态元数据服务，使用通用的文件接口，无需学习新的存储API

4、多样化工作负载支持

4.1  数据准备：高效组织数据分析管道的输出和管理大量中间结果

4.2  数据加载：支持计算节点间的训练样本随机访问，消除预取或打乱数据集的需求

4.3  检查点保存：支持大规模训练的高吞吐并行检查点保存

4.4  推理KVCache：提供比基于内存缓存更具成本效益的替代方案，同时提供高吞吐量和更大容量

另外，3FS的核心性能指标表现在聚合读取吞吐量上，具体体现就是在由180个存储节点组成的集群中，可实现  6.6 TiB/s 的聚合读取吞吐量。

在基准测试表现中，在25节点集群的 GraySort 基准测试中，吞吐量可达 3.66 TiB/分钟；在单客户端节点的 KVCache 查找峰值吞吐量超过40 GiB/s。

尤其值得一提的是，3FS对于V3和R1中训练数据预处理、数据集加载、嵌入向量搜索和KV Cache查找等工作，都立下了汗马功劳，可谓功高盖主！

网友们表示，3FS和Smallpond为AI数据处理设定了新基准，将改变数据处理的游戏规则。这对于AI演化来说，相当于从自行车升级到了高铁！大家说，3FS牛不牛！

DeepSeek完美收官：开源劳苦功高的3FS！

DeepSeek完美收官：开源劳苦功高的3FS！


二维码

扫一扫关注我们

版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件至 3941001135@qq.com举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。

上一篇：显卡救星来了！NVIDIA新驱动上线：解决RTX 50/40/30黑屏变砖!

下一篇：微软Win11 24H2出现超奇怪Bug！两种语言混合显示!

相关文章

客服QQ：3941001135

客服邮箱：3941001135@qq.com

二维码

本站部分文字及图片均来自于网络，如有侵权请及时联系删除处理

Copyright © 2023 本站技术支持0571YP技术支持 苏ICP备2024129037号-1