#book-notes

會變的工具 —— 一直換、越來越簡單 當紅框架 託管服務 新平台 明年的工具 ↑ 三年後可能沒人用 ↓ 押三十年不太會錯 不變的地基 源頭 擷取 儲存 轉換 服務 暗流 安全 · 資料管理 · 編排 · 軟體工程 · DataOps

資料工程的未來:工具會變、地基不變,讀《Fundamentals of Data Engineering》Ch.11(完結)

· tech · 約 3 分鐘 · 📚 Fundamentals of Data Engineering 讀書筆記 #11

十一章走到這裡,最後一個問題:資料工程的未來會長怎樣? 書的答案既讓人安心、又有點反直覺 —— 工具會一直變、而且越來越簡單;但底下那套生命週期與暗流,不會變。 這一篇,也是這個系列的完結。 這章把整…

#data-engineering#book-notes

敏感資料 PII・金流… 當資產 · 價值 分析洞察 訓練 ML 模型 支撐決策 當負債 · 風險 外洩 合規罰款 勒索軟體 信任崩壞 每一筆敏感資料都同時是這兩面 —— 所以:只收該收的、該刪就刪

最該重視卻最被忽略的一章:安全與隱私,讀《Fundamentals of Data Engineering》Ch.10

· tech · 約 4 分鐘 · 📚 Fundamentals of Data Engineering 讀書筆記 #10

走完服務,生命週期還有一條貫穿全程的暗流沒單獨講:安全與隱私。書把它排在很後面,卻直說這是最重要、也最常被忽略的一章。而它最反直覺的第一句話是 —— 安全主要是「人」的問題,不是「工具」的問題。 大多…

#data-engineering#book-notes#security

建模好的資料 Warehouse · Lakehouse 商業分析 BI・儀表板 嵌入式分析 產品內給客戶看 機器學習 特徵・訓練資料 Reverse ETL 回灌 CRM・廣告平台

資料的最後一哩:服務給分析與 ML,讀《Fundamentals of Data Engineering》Ch.9

· tech · 約 4 分鐘 · 📚 Fundamentals of Data Engineering 讀書筆記 #9

前面幾章一路走過源頭、儲存、擷取、建模 —— 但這些辛苦,只有在有人真的拿去用的那一刻才變現。這章講生命週期的最後一站:服務(Serving)。而它的第一原則,只有兩個字。 書把話講得很重:沒人會用他…

#data-engineering#book-notes#data-serving

正規化 Normalized orders customers products 少重複・寫入一致 但查詢要多次 join 反正規化 · 寬表 one big table(寬表) 重複多,但查詢少 join 適合欄式倉儲分析 OLTP 交易(寫多) OLAP 分析(讀多)

把資料變好用:查詢、建模與轉換,讀《Fundamentals of Data Engineering》Ch.8

· tech · 約 5 分鐘 · 📚 Fundamentals of Data Engineering 讀書筆記 #8

資料擷取進來、存好了,接下來的問題是:怎麼把它變成真正好用的東西? 這章給了三支柱 —— 查詢(Query)、建模(Modeling)、轉換(Transformation)。它們合起來,把「一堆原始資…

#data-engineering#book-notes#data-modeling

批次 Batch 小時 ~ 天 定時/定量・成熟(預設) 微批次 Micro-batch 秒 ~ 分 每一小批處理一次 串流 Streaming 毫秒 ~ 秒 逐筆事件・即時 高延遲・低複雜・便宜 低延遲・高複雜・貴 每往即時走一步,就多付一分複雜度與成本

把資料搬進來:批次還是串流?讀《Fundamentals of Data Engineering》Ch.7

· tech · 約 5 分鐘 · 📚 Fundamentals of Data Engineering 讀書筆記 #7

源頭生出資料、儲存準備好接,中間那條把資料搬進來的動作,就是這章的主角:Ingestion(擷取)。它是生命週期的第二站,也是最多人一上來就糾結「要不要即時」的地方。這章最該先想清楚的一句話是 —— …

#data-engineering#book-notes#ingestion

↑ 越上面:越快、越貴、容量越小 CPU 快取~1 ns RAM 記憶體~100 ns · 揮發 SSD~0.1 ms HDD 磁碟(轉盤)~10 ms 物件儲存(S3 / GCS)~100 ms · 超便宜 封存 / 冷儲存分鐘~小時 · 最便宜 ↓ 越下面:越慢、越便宜、容量越大

資料要存在哪:儲存的階層與抽象,讀《Fundamentals of Data Engineering》Ch.6

· tech · 約 7 分鐘 · 📚 Fundamentals of Data Engineering 讀書筆記 #6

上一篇講資料從源頭生出來。生出來之後第一件事就是:存去哪? 這章談儲存 —— 而它最反直覺的一點是:儲存不是「一個東西」,而是一整條從奈秒到小時、從天價到白菜價的階層。 看懂這條階層,後面所有「該放哪…

#data-engineering#book-notes

源頭系統 — 別人擁有、會自己改變 應用資料庫(OLTP) API / SaaS 檔案 / 日誌 IoT / 感測器 訊息佇列 / 串流 你的邊界 Ingestion 擷取 你的生命週期從這開始 下游

資料從哪來:源頭系統與資料生成,讀《Fundamentals of Data Engineering》Ch.5

· tech · 約 6 分鐘 · 📚 Fundamentals of Data Engineering 讀書筆記 #5

前四章在講大方向 —— 生命週期、架構、選技術。從這章開始,書一階一階走進生命週期的每個環節。第一站是最前面、也最容易被工程師輕看的一段:資料到底是怎麼、在哪裡被生出來的? 這章最該記住的一句話是 —…

#data-engineering#book-notes

易變的表層 — 框架・函式庫・當紅工具 當紅框架 新潮工具 函式庫 平台 SDK 會隨潮流來來去去 → 設計成可抽換 不變的地基 物件儲存 · SQL · 網路 · Unix / bash

技術到底該怎麼選:讀《Fundamentals of Data Engineering》Ch.4

· tech · 約 5 分鐘 · 📚 Fundamentals of Data Engineering 讀書筆記 #4

上一篇講架構(why);這一章接著問:在那個架構底下,技術(how)到底該怎麼選? 這章最該先釘進腦袋的一句話是 —— 先有架構,才選技術,不是反過來。 工具是手段,被架構的取捨牽著走;一上來就問「要…

#data-engineering#book-notes

雙向門(可逆) 現狀 新方案 回得來 → 決策可以快 單向門(不可逆) 現狀 新方案 ✕ 回不去 → 決策要慎重

好的資料架構怎麼設計:讀《Fundamentals of Data Engineering》Ch.3

· tech · 約 4 分鐘 · 📚 Fundamentals of Data Engineering 讀書筆記 #3

上一篇給了生命週期的全貌(資料在做什麼);這一章問的是 —— 怎麼把承載它的系統設計得「好」? 這章最反直覺、也最該記住的一句話是:好的架構不是一張固定的藍圖,而是一個「用權衡換取彈性與可逆」的決策過…

#data-engineering#book-notes#architecture

Generation 生成 Ingestion 攝取 Transformation 轉換 Serving 服務 Storage 儲存(橫跨中間三階段) Undercurrents — 撐起整條生命週期的六條暗流 Security 安全 Data Management DataOps Data Architecture Orchestration 編排 Software Engineering

資料工程生命週期:讀《Fundamentals of Data Engineering》Ch.2

· tech · 約 4 分鐘 · 📚 Fundamentals of Data Engineering 讀書筆記 #2

上一篇給了定義,這一章給的是全書的骨架 —— 資料工程生命週期(data engineering lifecycle)。這本書最有價值的貢獻,就是用這個框架把「資料工程在做什麼」講清楚:五個階段 + …

#data-engineering#book-notes#lifecycle

AI / 深度學習 學習・最佳化(A/B、ML) 彙整・標註(分析、指標) 搬運・儲存(pipeline、ETL) 收集(紀錄、感測、外部資料) ML / AI 資料工程

資料工程是什麼:讀《Fundamentals of Data Engineering》Ch.1

· tech · 約 4 分鐘 · 📚 Fundamentals of Data Engineering 讀書筆記 #1

我開一個新系列,讀 Joe Reis 與 Matt Housley 的 Fundamentals of Data Engineering。這本書最大的價值,是把「資料工程」這個常被講得很模糊的職能,收…

#data-engineering#book-notes