本案例依原書 8.3.7 附近的 Model Training/Baseline 描述整理。
呈現研究如何 Fine-tune GPT-based Model、避免 Overfitting,並與 ARIMA/XGBoost 比較。
原書指出 GPT-based Model 以 Textual/Tabular Data Fine-tune,使用 Rolling Time-split Validation、Regularization、Early Stopping;實作包含 Hugging Face Transformers、TensorFlow、PyTorch、Scikit-learn、Pandas、NumPy,並在 NVIDIA Tesla V100 GPU Server 上測試。
| 面向 | 原書內容 | 用途 |
|---|---|---|
| Validation | Rolling Time-split | 降低 Temporal Leakage |
| Overfitting Control | Regularization、Early Stopping | 提升 Generalization |
| Optimization | Hyperparameter Optimization | 改善模型設定 |
| Baseline | ARIMA、XGBoost | Structured Forecast Comparison |
| Compute | NVIDIA Tesla V100 | GPU-enabled Experiment |
Excel 可管理 Train/Validation Window、Metric、Model Version;AI 可協助比較 Error Pattern,但不能用 Future Data 回看訓練期間。
原書指出 ARIMA/XGBoost 在 Structured Data Prediction 上相對穩定,但面對 Social Media Text 等 Unstructured Data 表現較弱;Hybrid Model 在 Accuracy、MAE、F1 等指標整體改善。
若 Market Data 有時間順序,Random Split 可能造成不合理的 Future Leakage;Rolling Time-split 更接近實際部署情境。
請建立 Time-series Model Evaluation Plan,使用 Rolling Time-split,並將 ARIMA、XGBoost、GPT-based、Hybrid 的 Structured/Unstructured Data Performance 分開比較。