bazzi91666666
V2EX  ›  问与答

分布式计算?小白求大佬指点

  •  
  •   bazzi91666666 · Sep 14, 2021 · 1545 views
    This topic created in 1750 days ago, the information mentioned may be changed or developed.

    比方说我数据库有 1 亿条数据,现在需要取每条数据出来经过一些运算,将得到的结果保存进去。 我可以手动的写 3 个脚本,每个脚本各取 3 分之一的数据放到 3 台服务器来运算。 我在想是不是有什么引擎框架(spark?)之类的可以让我只写一个脚本,可以让 master 将计算任务发送给各个服务器上的 worker,各 worker 自己取适量的任务来执行?

    1 replies    2021-09-14 17:06:50 +08:00
    misaka19000
        1
    misaka19000  
       Sep 14, 2021
    可以
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5462 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 37ms · UTC 07:40 · PVG 15:40 · LAX 00:40 · JFK 03:40
    ♥ Do have faith in what you're doing.