BytePS 高性能分布式深度学习训练框架开源项目

BytePS是字节跳动开源的高性能分布式深度学习训练框架，官方宣称BytePS在性能上颠覆了过去几年allreduce流派一直占据上风的局面，超出目前其他所有分布式训练框架一倍以上的性能，且同时能够支持Tensorflow、PyTorch、MXNet等开源库。

BytePS通过实现一个通用的抽象层，抽象层可以被各种通用框架引用，实现了同时支持多个框架的可能性，因此能够支持Tensorflow、PyTorch、MXNet等行业主流训练框架。