案例01|預算報表:把橫向報表重塑為月份/費用類型/成本類型/金額平面資料表
案例03|SFO 機場調查:移除 Q7ALL/Q9ALL/Q10SAFE 的無效代碼與空白
案例04|SBA 小企業貸款:用 R 建立核准年份、還款期間、放款與還清指標
| 核心主題 | 主要觀點/方法 | 實務用途 | 重要條件/限制/延伸 |
|---|---|---|---|
| 垃圾進、垃圾出 | 分析品質直接受原始資料品質限制 | 把資料清理與塑形視為正式分析工作 | 原書指出資料科學家/分析師最多可能花約 80% 時間進行資料準備 |
| 資料清理循環 | 匯入、合併、標準化/正規化、補建缺漏資料、去除重複、驗證、補充資料 | 系統化建立可分析資料集 | 通常需要多輪清理與驗證,而不是一次完成 |
| 平面資料表 | 第一列是變數名稱;每欄一個變數;每列一筆同類型觀測;資料區內沒有空白列/欄 | 讓 Excel 與多數分析工具安全讀取資料 | 報表容易閱讀,不代表其結構適合分析 |
| 資料塑形 | 把交叉表、報表與摘要版面轉成以資料列為主的分析結構 | 樞紐分析、統計工具與 R/Jamovi 分析前處理 | 應保留原始資料,並做轉換前後勾稽 |
| 資料清理 | 修正轉錄錯誤、無效代碼、缺漏/無意義值與資料不一致 | 避免錯值污染統計結果 | 不能憑直覺猜測模糊錯值;必要時回查原始紀錄 |
| 資料字典 | 定義變數名稱、資料型別、代碼與各值含義 | 辨識合法值、類別代碼與缺漏值規則 | 數字形式的代碼不一定是可直接計算的數值測量 |
| 工具選擇 | Excel 適合小型/中型資料的人工清理;R 適合大型資料與可重複轉換 | 依資料規模與可重現需求選擇工具 | 工具不同,但保留原始資料與驗證轉換結果的原則相同 |
原書以「垃圾進、垃圾出」開場,強調資料準備不是正式分析之前的雜務。若原始資料有錯、結構不適合分析,或特殊代碼被誤讀,即使後面的統計公式完全正確,結論仍然可能錯誤。
原書指出,資料科學家與分析師的工作中,最多約 80% 可能花在資料準備,包括清理、塑形與轉換。
原書圖 3.1 把資料準備描述成循環,而不是一次性的線性步驟。典型工作包括:
每完成一輪處理,都應重新檢查資料內容與結構,直到足以支援後續分析。