Spark   

67 引用  •  44 回帖  •  588 关注  •  10 浏览
   发帖    关注

Spark 是 UC Berkeley AMP lab 所开源的类 Hadoop MapReduce 的通用并行框架。Spark 拥有 Hadoop MapReduce 所具有的优点;但不同于 MapReduce 的是 Job 中间输出结果可以保存在内存中,从而不再需要读写 HDFS,因此 Spark 能更好地适用于数据挖掘与机器学习等需要迭代的 MapReduce 的算法。

  • 动态分区表
    1 引用 • 2 回帖
  • 数据挖掘
    16 引用 • 23 回帖 • 2 关注
  • dag
    1 引用 • 7 回帖
  • rdd
    6 引用 • 2 回帖
  • Kafka

    Kafka 是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。 这种动作(网页浏览,搜索和其他用户的行动)是现代系统中许多功能的基础。 这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。

    22 引用 • 34 回帖 • 161 关注
  • checkpoint
    2 引用
  • 默认
    5 引用 • 21 回帖