Rain Rust 实现的分布式计算框架开源项目

我要开发同款
匿名用户2018年07月06日
51阅读
开发技术Rust
所属分类大数据、其他
授权协议MIT

作品详情

Rain是一个Rust实现的轻巧且强大的分布式计算框架,适用于处理大规模的基于任务的管道。

Rain旨在降低分布式计算世界的入门门槛,目的是提供一个轻巧而强大的分布式框架,该框架具有直观的PythonAPI、简单的安装和部署以及顶层的深入监控。

功能特性

数据流编程:Rain中的计算被定义为任务的流程图(flowgraph)。任务可以是内置函数,Python/C++/Rust代码,也可以是外部应用程序,短而轻或长时间运行且繁重。该系统旨在将任何代码集成到管道中,合理分配其资源需求,并处理非常大的任务图(taskgraphs),通常是数十万个任务。

易于使用:Rain设计之初就考虑到要易于部署,从单节点部署到大规模分布式系统和数千个核心的云。

Rust核心:Python/C++/RustAPI。为了安全和高效,Rain采用Rust编写,并为Rain核心基础架构提供了高级PythonAPI,甚至支持开箱即用的Python任务。Rain还提供了用C++和Rust编写自己的任务的库。

监控:支持在线和postmortem监控。

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论