返回 登录
0

【百度】近期开源的大数据处理平台“全家桶”

近期百度将支撑核心搜索引擎的基础架构平台逐渐开源,包括:
1. 百度文件系统BFS(https://github.com/baidu/bfs
一个支持跨集群、跨地域部署的实时分布式文件系统。
2. 分布式数据库Tera(https://github.com/baidu/tera
存储万亿量级超链、网页的结构化数据库。
3. 集群操作系统Galaxy(https://github.com/baidu/galaxy
数据中心级机器管理、资源调度系统。
4. 分布式协调服务Nexus(https://github.com/baidu/ins
基于Raft协议实现的高性能分布式协调服务。
5. 分布式计算框架shuttle(https://github.com/baidu/shuttle
基于Galaxy的MapReduce计算框架。
6. 网络通讯框架sofa-pbrpc(https://github.com/baidu/sofa-pbrpc
基于protobuf的轻量级rpc框架。

评论