案例01|預算報表:把橫向報表重塑為月份/費用類型/成本類型/金額平面資料表

案例02|藥物試驗:178 位病患的資料清理與鈣指標驗證

案例03|SFO 機場調查:移除 Q7ALL/Q9ALL/Q10SAFE 的無效代碼與空白

案例04|SBA 小企業貸款:用 R 建立核准年份、還款期間、放款與還清指標

核心表格

核心主題 主要觀點/方法 實務用途 重要條件/限制/延伸
垃圾進、垃圾出 分析品質直接受原始資料品質限制 把資料清理與塑形視為正式分析工作 原書指出資料科學家/分析師最多可能花約 80% 時間進行資料準備
資料清理循環 匯入、合併、標準化/正規化、補建缺漏資料、去除重複、驗證、補充資料 系統化建立可分析資料集 通常需要多輪清理與驗證,而不是一次完成
平面資料表 第一列是變數名稱;每欄一個變數;每列一筆同類型觀測;資料區內沒有空白列/欄 讓 Excel 與多數分析工具安全讀取資料 報表容易閱讀,不代表其結構適合分析
資料塑形 把交叉表、報表與摘要版面轉成以資料列為主的分析結構 樞紐分析、統計工具與 R/Jamovi 分析前處理 應保留原始資料,並做轉換前後勾稽
資料清理 修正轉錄錯誤、無效代碼、缺漏/無意義值與資料不一致 避免錯值污染統計結果 不能憑直覺猜測模糊錯值;必要時回查原始紀錄
資料字典 定義變數名稱、資料型別、代碼與各值含義 辨識合法值、類別代碼與缺漏值規則 數字形式的代碼不一定是可直接計算的數值測量
工具選擇 Excel 適合小型/中型資料的人工清理;R 適合大型資料與可重複轉換 依資料規模與可重現需求選擇工具 工具不同,但保留原始資料與驗證轉換結果的原則相同

資料準備本身就是分析工作

原書以「垃圾進、垃圾出」開場,強調資料準備不是正式分析之前的雜務。若原始資料有錯、結構不適合分析,或特殊代碼被誤讀,即使後面的統計公式完全正確,結論仍然可能錯誤。

原書指出,資料科學家與分析師的工作中,最多約 80% 可能花在資料準備,包括清理、塑形與轉換。

資料清理循環

原書圖 3.1 把資料準備描述成循環,而不是一次性的線性步驟。典型工作包括:

每完成一輪處理,都應重新檢查資料內容與結構,直到足以支援後續分析。

平面資料表:分析資料的基礎結構