程序员茄子
全部
编程
代码
资讯
案例
综合
联系我们
流处理 相关技术文章
php
mysql
shell
go
vue
css
api接口对接
支付接口对接
Dataflow 模型 11 年复盘:物理对了,接口错了
资讯
Dataflow 模型 11 年复盘:物理对了,接口错了
2026-09-08 02:10:00
VLDB Test of Time 奖作者 11 年后自评:事件时间与一致性判断正确;窗口/触发器/撤回接口设计失误,最大失察是数据库文献早有正确答案。
大数据
流处理
数据库
Kafka Diskless 深度拆解:当 Broker 决定不再拥有磁盘——从 WAL Segment 到 SQLite 批次协调器的全链路架构手术
编程
Kafka Diskless 深度拆解:当 Broker 决定不再拥有磁盘——从 WAL Segment 到 SQLite 批次协调器的全链路架构手术
2026-08-11 05:50:06
深度拆解 Apache Kafka Diskless Topics:为何跨AZ流量费占TCO大头、数据平面无序与控制平面定序的解耦设计、WAL Segment混装多分区把PUT成本降333倍、500ms延迟预算的来源、SQLite物化元数据与"注定回滚的事务"做推测执行、ISR语义重定义与Leader也会落后、随机所有者链式GC、Produce Gateway。含Java/Go/Python实战、成本核算脚本与十六条踩坑清单。
Kafka
Diskless
KIP-1150
对象存储
WAL Segment
Diskless Coordinator
SQLite
云原生
存算分离
跨AZ成本
消息队列
分布式系统
架构设计
S3
流处理
Kafka Diskless Topics 深度拆解:当消息队列决定把「盘」从架构里删掉——WAL Segment、Diskless Coordinator 与 SQLite 状态机的一次成本手术
编程
Kafka Diskless Topics 深度拆解:当消息队列决定把「盘」从架构里删掉——WAL Segment、Diskless Coordinator 与 SQLite 状态机的一次成本手术
2026-08-09 01:48:03
深度拆解 Apache Kafka Diskless Topics(KIP-1150/1163/1164):为什么分层存储不够、WAL Segment 如何把 PUT 成本降四个数量级、Diskless Coordinator 的 SQLite 状态机与投机执行、WAL 文件归属链与孤儿 GC、ISR 语义反转、Produce Gateway,含可运行的最小引擎实现、成本测算脚本、调优清单与十条踩坑。
Kafka
Diskless
KIP-1150
对象存储
云原生
消息队列
分布式系统
成本优化
SQLite
流处理
Apache Kafka KRaft 深度实战:从 ZooKeeper 到自管理集群,Raft 共识、Controller Quorum 与生产迁移全指南
编程
Apache Kafka KRaft 深度实战:从 ZooKeeper 到自管理集群,Raft 共识、Controller Quorum 与生产迁移全指南
2026-07-27 13:44:19
深度拆解Apache Kafka KRaft模式:从Raft共识算法原理、Controller Quorum架构设计到Docker/Go代码实战,附ZooKeeper到KRaft完整迁移指南与生产调优清单
Apache Kafka
KRaft
Raft
ZooKeeper
消息队列
分布式系统
Go
Kafka调优
流处理
Pathway:当 Python 终于有了「实时 Flink」,一场重塑数据工程与 RAG 管道的革命
编程
Pathway:当 Python 终于有了「实时 Flink」,一场重塑数据工程与 RAG 管道的革命
2026-07-13 08:44:24
深度拆解 Pathway Python 实时数据框架:Differential Dataflow 增量计算、批流一体、350+ 连接器、实时 RAG 管道、向量索引自动更新,配可运行代码与性能基准,一次把 Python 流计算讲透。
Pathway
Python
实时计算
ETL
RAG
Differential Dataflow
流处理
数据工程
Apache Pulsar 深度实战:当消息系统把存储与计算彻底拆开——从分层分片架构、BookKeeper 低延迟存储引擎到 Pulsar Functions 与分级存储的完整工程指南(2026)
编程
Apache Pulsar 深度实战:当消息系统把存储与计算彻底拆开——从分层分片架构、BookKeeper 低延迟存储引擎到 Pulsar Functions 与分级存储的完整工程指南(2026)
2026-07-09 08:16:40
从架构原理到生产实战,深度拆解 Apache Pulsar 的分层分片架构、BookKeeper 低延迟存储引擎、Pulsar Functions 与分级存储。
Apache Pulsar
消息队列
BookKeeper
云原生
流处理
消息中间件
Redpanda 深度实战:用 C++ 与 Seastar 重写 Kafka 内核——从 Thread-per-Core 架构到生产级流平台的完全指南(2026)
编程
Redpanda 深度实战:用 C++ 与 Seastar 重写 Kafka 内核——从 Thread-per-Core 架构到生产级流平台的完全指南(2026)
2026-07-07 23:59:09
Redpanda 深度实战:基于 C++ 与 Seastar 的 Thread-per-Core 架构,100% 兼容 Kafka 协议、无 ZooKeeper、无 JVM。从内核原理、Raft 复制、零拷贝 I/O,到多语言客户端、Schema Registry、分层存储与性能调优,构建生产级流平台的完全指南。
Redpanda
Kafka
流处理
消息队列
分布式系统
Pathway 深度解析:Python ETL 框架的流式处理革命 —— 用 Rust 引擎吊打 Flink/Spark,构建实时 LLM Pipeline
编程
Pathway 深度解析:Python ETL 框架的流式处理革命 —— 用 Rust 引擎吊打 Flink/Spark,构建实时 LLM Pipeline
2026-05-16 03:46:12
55K+ Star,基于 Differential Dataflow 的 Rust 引擎,增量计算,内存计算,无缝集成 Python ML 生态——Pathway 正在重新定义实时流处理与 LLM Pipeline 的边界。
Python
流处理
实时分析
LLM
RAG
Pathway
ETL
开源项目
GitHub Trending
Pathway 深度解析:用 Python 搞定实时流处理+LLM Pipeline,55K Star 背后的技术革命
编程
Pathway 深度解析:用 Python 搞定实时流处理+LLM Pipeline,55K Star 背后的技术革命
2026-05-15 20:44:26
Pathway深度解析:Python ETL框架,实时流处理+LLM Pipeline,增量计算引擎,性能对比Flink,完整代码实战。
Pathway
流处理
LLM
Python
ETL
RAG
实时计算
Apache Flink 2.0 深度解析:9 年磨一剑的实时数据革命,从 API 大清洗到存算分离
编程
Apache Flink 2.0 深度解析:9 年磨一剑的实时数据革命,从 API 大清洗到存算分离
2026-05-15 06:14:26
Flink 2.0是9年来首次大版本更新,核心API大清洗、存算分离状态管理、物化表、批作业自适应执行、Flink Agents流式AI Agent,完整迁移实战与性能基准测试。
Flink
流处理
存算分离
实时数据
Flink Agents
Pathway 深度实战:55K Star 的 Python 实时 ETL 框架——从差分数据流原理到 RAG 管道生产部署的全链路架构解析
编程
Pathway 深度实战:55K Star 的 Python 实时 ETL 框架——从差分数据流原理到 RAG 管道生产部署的全链路架构解析
2026-05-07 06:38:15
深度解析 Pathway 实时 ETL 框架:从差分数据流的数学原理到 Rust 引擎的工程实现,从实时交易风控管道到 RAG 向量索引的差分更新,全链路架构解析与生产部署实战
Pathway
ETL
流处理
Python
Rust
差分数据流
RAG
实时数据处理
增量计算
性能吊打Flink、55k星:Pathway如何用Python+Rust重构实时数据处理管线
编程
性能吊打Flink、55k星:Pathway如何用Python+Rust重构实时数据处理管线
2026-04-13 14:23:16
深度解析GitHub 55k星开源项目Pathway,如何用Python+Rust混合架构重构实时数据处理管线,吊打Flink性能,原生支持LLM管道和RAG应用。
Python
Rust
Pathway
实时数据
ETL
Flink
流处理
LLM
RAG
数据工程
Pathway 深度解析:当 Python 遇上 Rust 引擎,实时 ETL 的性能革命
编程
Pathway 深度解析:当 Python 遇上 Rust 引擎,实时 ETL 的性能革命
2026-04-08 15:34:42
Pathway 是一个用 Python 写业务逻辑、用 Rust 执行计算的实时 ETL 框架,基于 Differential Dataflow 实现真正的增量计算。本文深度解析其架构原理、核心用法、LLM xpack 的 RAG 应用,以及在 AI 数据流水线中的独特价值。
Pathway
ETL
Rust
Python
流处理
LLM
RAG
增量计算
shore-kafka是一个为Python开发者设计适用于大数据流处理
综合
shore-kafka是一个为Python开发者设计适用于大数据流处理
2024-11-19 02:00:32
shore-kafka是一个为Python开发者设计的库,简化了与ApacheKafka的交互,适用于大数据流处理。本文介绍了shore-kafka的安装、基本用法(创建生产者和消费者)、高级用法(自定义序列化器和消费者拦截器)以及实际使用案例(实时日志处理)。该库提供丰富功能,帮助开发者快速实现数据的实时传输与处理。
Python库
大数据
流处理
实时数据
Kafka
大家都在搜索什么?
devops
易支付
一个官网+多少钱
统一接受回调
统一回调
python
sub
node
宝塔日志
mysql
shell
ElasticSearch
css
vue
api接口对接
2025
支付接口对接
go
php
php回调