分布式計算系統：Go Glow

jopen 10年前發布 | 13K 次閱讀 Go Glow 分布式/云計算/大數據

Glow 是使用 Go 編寫的易用分布式計算系統，是 Hadoop Map Reduce，Spark，Flint，Samza 等等的替代品。

Glow 的目標是提供一個庫，可以在并行線程或者分布式集群機器中進行更簡單計算。

安裝：

go get github.com/chrislusf/glow
go get github.com/chrislusf/glow/flow

簡單示例：

package main
import (
    "flag"
    "strings"
    "github.com/chrislusf/glow/flow"
)
func main() {
    flag.Parse()
    flow.New().TextFile(
        "/etc/passwd", 3,
    ).Filter(func(line string) bool {
        return !strings.HasPrefix(line, "#")
    }).Map(func(line string, ch chan string) {
        for _, token := range strings.Split(line, ":") {
            ch <- token
        }
    }).Map(func(key string) int {
        return 1
    }).Reduce(func(x int, y int) int {
        return x + y
    }).Map(func(x int) {
        println("count:", x)
    }).Run()
}

分布式計算系統：Go Glow