Spark Structured Streaming: output Mode 输出模式(append,update,complete)

  • complete,把所有的DataFrame的内容输出,这种模式只能在做agg聚合操作的时候使用,比如ds.group.count,之后可以使用它
  • append,普通的dataframe在做完map或者filter之后可以使用。这种模式会把新的batch的数据输出出来,
  • update,把此次新增的数据输出,并更新整个dataframe。有点类似之前的streaming的state处理。
点赞

发表评论

电子邮件地址不会被公开。必填项已用 * 标注