包含标签 Flink 的文章

Flink系列-第32讲:Flink 和 Kafka 整合时间窗口设计

我们在第 31 课时中讲过,在计算 PV 和 UV 等指标前,用 Flink 将原始数据进行了清洗,清洗完毕的数据被发送到另外的 Kafka Topic 中,接下来我们只需要消费指定 Topic 的数据,然后就可以进行指标计算了。 Flink 消费 Kafka 数据反序列化 上一课时定义了用户的行为信息的 Java 对象,我们现在需要消费新的 Kafka Topic 信息,并且把序列化的消息转化为用……

阅读全文

Flink系列-第31讲:Kafka 模拟数据生成和发送

第 29 课时讲过,在计算 PV 和 UV 的过程中关键的一个步骤就是进行日志数据的清洗。实际上在其他业务,比如订单数据的统计中,我们也需要过滤掉一些“脏数据”。 所谓“脏数据”是指与我们定义的标准数据结构不一致,或者不需要的数据。因为在数据清洗 ETL 的过程中经常需要进行数据的反序列化解析和 Java 类的映射,……

阅读全文

Flink系列-第30讲:Flume 和 Kafka 整合和部署

Flume 概述 Flume 是 Hadoop 生态圈子中的一个重要组件,在上一课时中提过,它是一个分布式的、高可靠的、高可用的日志采集工具。 Flume 具有基于流式数据的简单灵活的架构,同时兼具高可靠性、高可用机制和故障转移机制。当我们使用 Flume 收集数据的速度超过下游的写入速度时,Flume 会自动做调整,使得数据的采集和推送能……

阅读全文

Flink系列-第29讲:项目背景和实时处理系统架构设计

从这一课时开始我们进入“Flink 实时统计 PV、UV”项目的学习。本课时先介绍实时统计项目的背景、架构设计和技术选型。 背景 PV(Page View,网站的浏览量)即页面的浏览次数,一般用来衡量网站用户访问的网页数量。我们可以简单地认为,一个用户每次打开一个页面便会记录一次 PV,也就……

阅读全文

Flink系列-第28讲:TopN 热门商品功能实现

本课时主要讲解 Flink 中的 TopN 功能的设计和实现。 TopN 在我们的业务场景中是十分常见的需求,比如电商场景中求热门商品的销售额、微博每天的热门话题 TopN、贴吧中每天发帖最多的贴吧排名等。TopN 可以进行分组排序,也可以按照需要全局排序,比如若要计算用户下单总金额的 Top 10 时,就需要进行全局排序,然……

阅读全文

Flink系列-第27讲:Flink Redi Sink 实现

我们在第 12 课时“Flink 常用的 Source 和 Connector”中提过 Flink 提供了比较丰富的用来连接第三方的连接器,可以在官网中找到 Flink 支持的各种各样的连接器。 此外,Flink 还会基于 Apache Bahir 发布一些 Connector,其中就有我们非常熟悉的 Redis。很多人在 Flink 项目中访问 Redis 的方法都是自己进行实现……

阅读全文

Flink系列-第26讲:Flink 中的聚合函数和累加器的设计和使用

我们在第 08 课时中提到了 Flink 所支持的窗口和时间类型,并且在第 25 课时中详细讲解了如何设置时间戳提取器和水印发射器。 实际的业务中,我们在使用窗口的过程中一定是基于窗口进行的聚合计算。例如,计算窗口内的 UV、PV 等,那么 Flink 支持哪些基于窗口的聚合函数?累加器又该如何实现呢? Flink 支持的窗口函数 我……

阅读全文

Flink系列-第25讲:Flink 中 watermark 的定义和使用

第 08 课时我们提过窗口和时间的概念,Flink 框架支持事件时间、摄入时间和处理时间三种。Watermark(水印)的出现是用于处理数据从 Source 产生,再到转换和输出,在这个过程中由于网络和反压的原因导致了消息乱序问题。 那么在实际的开发过程中,如何正确地使用 Watermark 呢? 使用 Watermark 必知必会 Watermark 和事件时间……

阅读全文

Flink系列-第24讲:Flink 消费 Kafka 数据业务开发

在上一课时中我们提过在实时计算的场景下,绝大多数的数据源都是消息系统,而 Kafka 从众多的消息中间件中脱颖而出,主要是因为高吞吐、低延迟的特点;同时也讲了 Flink 作为生产者像 Kafka 写入数据的方式和代码实现。这一课时我们将从以下几个方面介绍 Flink 消费 Kafka 中的数据方式和源码实现。 Flink 如何消费 Kafka Flink 在和 Kafka 对接的过……

阅读全文

Flink系列-第23讲:Mock Kafka 消息并发送

本课时主要讲解 Kafka 的一些核心概念,以及模拟消息并发送。 大数据消息中间件的王者——Kafka 在上一课时中提过在实时计算的场景下,我们绝大多数的数据源都是消息系统。所以,一个强大的消息中间件来支撑高达几十万的 QPS,以及海量数据存储就显得极其重要。 Kafka 从众多的消息中间件中脱颖而出,主要是……

阅读全文

最近文章

福利派送

分类

标签

360搜索 58同城 AB测试 AFM模型 AI AIGC AILab AI平台 AKF架构 ANN AOF AOP AQS ASR AUC AdaBoost AdaDeltaW AdamW AdvancedFeaturesOfNetty Airbnb Alink AnnotationFormatterFactory Announcement ApacheFlink AresDB Augur AutoML Automaton BERT BI BI平台 BPR Bagging Bandits BigGAN CNN CRF CTR CTR模型 CTR预估 CV CVPR ClickHouse ConcurrentProgramming Condition DDD DDD实战 DIN DKN模型 DMP平台 DPP DRN DSP DSSM DeepFFM DeepFM DeepFM模型 DesignPattern DevOps DevOps Dgraph Doris Druid Dubbo EE问题 ELK ELMo ESSM ETL Embedding EncodingSpecification Epoll FFM FFM模型 FM FM模型 FST FTRL Faraday Feed流 FixMatch FixedBitSet Flink FreeWheel FullGC GAN GBDT GBDT+LR融合 GBM GC GNN GRU4REC Git Google GraphScope Ha3 Hbase Hologres Hystrix IM IOTechnologyBase IRGAN IT博士 IT移民 Iceberg ImageNet Impala InnoDB IntBlockPool IoC JDBC JDK js JanusGraph java JavaScript KBQA KV存储 Kubernetes LDA LSTM LSTM网络 LambdaMART LearningExperience Linux LruCache Lucence MKR模型 MLflow MMoE MRR Milvus MoE Mock Monorepo mysql Mybatis NDCG NER NIO NIPS NLP Netty Netty主要组件源码分析 Netty多协议开发 Netty技术细节源码分析 Netty编解码 nextjs nextjs OCR OKR OPPO PageRank Parser PersonalExperience Pinot PlaceholderResolver Printer PropertySource Pulsar Push系统 Q&A Que2Search Query扩展 Query理解 R-Tree RMI ROC RPC RTree reactjs Redis RippleNet rocketmq SD SHAP SIGAI SPI SVM Sentinel Serverless SimCLR Softmax Spring Spring5新特性 SpringBoot SpringBootBatch SpringCloud SpringMVC SpringSecurity SpringTransaction Spring整体脉络 Spring源码故事(瞎编版) Stable Diffusion Stage TCP粘拆包 TFServing TX TensorFlow Tomcat Topk Transformer TurboSearch Typora UX WebRTC Wide&Deep Word2vec XDL XDeepFM XGBoost XLNet Yoo视频 YoshuaBengio ZeroSearch Zookeeper abtest android apache apollo architectureDesign basic boosting checkpoint clazz cluster collection concurrentCoding css cto docs elasticsearch flutter format game github gitlab go golang graphql hadoop java JDBC js kafka lab linUCB方法 lucene message mvc Mybatis mysql nacos nexp nextjs nifi node2vec nodejs npm olap one-hot oss python pytorch query纠错 react reactjs reactor Redis region registry remote rocketmq RPC scala select sharding skleam solr spark sqllit storm storybook tailwind trace vivo vuejs web web3 一致性 丑小鸭定理 业务 业务线 个性化推荐 个性化海报 中关村 中文分词 中文纠错 主题建模 书籍 事件驱动架构 事务 亚马逊 交叉验证 人工智能 人机问答 供应链 依存句法分析 信息检索 信息流推荐 倒排索引 倒排表 假设检验 全文索引 全民K歌 全链路压测 公平锁 关系 兴趣 内容挖掘 内容理解 决策树 冷启动 出轨 分层实验 分布式 分布式事务 分布式系统 分布式锁 分词 创业 加权融合 北京 区块 区块链 协同记忆网络 协同过滤 协方差 单元测试 博士 博士offer 压测 原则 双塔模型 反作弊 反欺诈 反脆弱 变量 召回 召回率 可观测性 可解释性 合约 后厂村 向量召回 向量检索 向量索引 吴恩达 命名实体识别 响应式编程 商汤科技 回归模型 因果分析 图像检索 图像识别 图数据库 图灵平台 图片翻译 图计算 在线学习 坐标回归 基于Netty开发服务端及客户端 基础支持层 增量学习 多多 多模态 多目标优化 大数据 大数据开发 头条 奥卡姆剃刀 学习 学习资料 学习资源 学会提问 实体识别 实时推荐 实时数仓 实时数据 实时日志收集 实时计算 实验平台 容灾体系建设 对比学习 对话系统 小城市 小米 小米搜索 小群效应 工作 布隆过滤器 帮帮 年轻人 广告 广告系统 序列标注 建模调参 开源数据集 开源项目 异常检测 异步IO 张嘉佳 强化学习 归一化 待分类 微服务 微软EXP 微软亚洲研究院 思维 性能优化 情感分析 意图识别 房租 技术 拆分 招聘 拼多多 持续交付 持续集成 损失函数 排序 排序模型 排队 推理系统 推荐 推荐理由 推荐系统 推送平台 提问的智慧 搜索 搜索广告 搜索引擎 搜索排序 搜索架构 搜索系统 支持向量 支持向量机 数仓体系 数仓平台 数据中台 数据仓库 数据分析 数据分析平台 数据同步 数据平台 数据指标 数据挖掘 数据治理 数据湖 数据科学 数据结构 数据集 数据驱动 文字识别 文摘 文本分类 文本情感分类 文本挖掘 文本纠错 文本表征 新闻推荐 方法论 日志架构 日志检索 时序特征挖掘 智慧物流 智能合约 智能客服 智能物流 智能语音 智能问答 智能预警 服务 机器学习 机器学习爱好者 机器学习面试题 机器翻译 机器视觉 机器阅读 条件随机场 架构 架构师 标签 标签平滑 标签识别 标签选择 校招 样本 核心处理层 检索引擎 槽位识别 模型剪枝 模型压缩 模型融合 模型评估 模型部署 模型预估 模式匹配 模式识别 正则化 注意力机制 洋码头 流批一体 消息队列 深度 深度兴趣网络 深度学习 深度树匹配 深度树检索 混排 混沌工程 火焰图 热点挖掘 熔断降级 爬虫 爱奇艺 牛顿-莱布尼茨 物流 特征工程 特征平台 特征系统 猜你喜欢 用户建模 用户画像 电商搜索 白兔 百度 相关系数 真话 矢量语义 知乎架构 知识图谱 知识增强 知识蒸馏 短文本解析 短视频 短语抽取 短语挖掘 碧桂园 神经网络 神马搜索 离线计算 秒杀架构 秒杀系统 程序人生 程序员 稳定性规范 空间索引 窗口函数 端上智能 端智能 算法 类协同训练 类目识别 粗排 索引 线程 线程池 缓存 网络图 置信度 美团 美团大脑 美团点评 职场 联邦学习 腾讯技术 腾讯音乐 自动化测试 自动驾驶 自然语言处理 色情识别 花椒直播 苞谷 蚂蚁金服 规则平台 规则引擎 视频推荐 计算广告 计算机视觉 认知 讨论区 记忆建模 记忆网络 论文 评价指标 评测指标 词向量 词嵌入 词权重 语义分割 语义匹配 语义检索 语义模型 语义理解 语言模型 语音内容识别 语音识别 谷歌面试 贝叶斯个性化排序 贝壳找房 贝壳智搜 货币化 起步 趋势科技 路径规划 软实力 边缘计算 达摩院 迁移学习 过拟合 逻辑回归 逻辑思维 采购 重叠实验框架 重排序 重构 金融 银汤匙 链表 链表求交集 阿里 阿里云 阿里妈妈 阿里小蜜 阿里达摩院 陈薇 陌陌 降纬打击 随机变量 零拷贝 面经 面试 项目管理 预估引擎 预训练 领域设计 领域驱动 风控 风控系统 高可用 高并发 高斯热图 高维数据索引 黄峥 黑盒模型

友情链接

其它