Перенавчання та недонавчання

# Побудувати графік
X_plot = np.linspace(0, 10, 200).reshape(-1, 1)
X_plot_poly = poly.transform(X_plot)
y_plot_pred = model_overfit.predict(X_plot_poly)

plt.figure(figsize=(10.5, 6))
plt.scatter(X_train, y_train, color='#2A75D3', s=80, label='Train дані', zorder=3, edgecolor='black')
plt.scatter(X_test, y_test, color='#27AE60', s=110, marker='s', label='Test дані', zorder=3, edgecolor='black')
plt.plot(X_plot, y_plot_pred, color='#D0021B', linewidth=2.5, label='Модель (поліном 15)', zorder=2)
plt.xlabel('Ознака X', fontsize=12, fontweight='bold')
plt.ylabel('Цільове значення y', fontsize=12, fontweight='bold')
plt.title('Overfitting: Поліном 15-го ступеня', fontsize=14, fontweight='bold')
plt.legend(fontsize=11)
plt.grid(alpha=0.3, linestyle='--')
plt.ylim(-30, 130)
plt.tight_layout()
plt.show()

print("Що бачимо:")
print("  • Модель проходить ТОЧНО через кожну train точку")
print("  • Але крива дико коливається між ними (шум)")
print("  • Test точки далеко від кривої — модель не працює на нових даних")

# Генерувати дані з явно НЕЛІНІЙНОЮ залежністю (синусоїда + шум)
rng = np.random.default_rng(42)
X_sine = np.linspace(0, 4 * np.pi, 100).reshape(-1, 1)
y_sine = np.sin(X_sine).ravel() + rng.normal(0, 0.1, 100)

# Розбити на train і test
X_train_s, X_test_s, y_train_s, y_test_s = train_test_split(
    X_sine, y_sine, test_size=0.3, random_state=42
)

# Спробувати ЛІНІЙНУ модель (занадто проста для хвильових даних!)
model_underfit = LinearRegression()
model_underfit.fit(X_train_s, y_train_s)

train_score_u = model_underfit.score(X_train_s, y_train_s)
test_score_u = model_underfit.score(X_test_s, y_test_s)

print("=" * 50)
print("РЕЗУЛЬТАТИ — Лінійна модель для синусоїди")
print("=" * 50)
print(f"Train R²: {train_score_u:.4f}")
print(f"Test R²:  {test_score_u:.4f}")
print(f"Різниця:  {abs(train_score_u - test_score_u):.4f}")
print("=" * 50)

if train_score_u < 0.60 and test_score_u < 0.60:
    print("⚠️  ДІАГНОЗ: UNDERFITTING!")
    print("Модель занадто проста — не може вловити закономірності")

# Побудувати графік
X_plot_s = np.linspace(0, 4 * np.pi, 300).reshape(-1, 1)
y_plot_pred_s = model_underfit.predict(X_plot_s)

plt.figure(figsize=(10.5, 6))
plt.scatter(X_train_s, y_train_s, color='#2A75D3', s=50, alpha=0.65, label='Train дані (N=70)', zorder=3)
plt.scatter(X_test_s, y_test_s, color='#27AE60', s=80, marker='s', alpha=0.75, label='Test дані (N=30)', zorder=3)
plt.plot(X_plot_s, y_plot_pred_s, color='#D0021B', linewidth=2.5, label='Лінійна модель (Underfit)', zorder=2)

# Показати справжню синусоїду для порівняння
plt.plot(X_plot_s, np.sin(X_plot_s), color='#888888', linestyle='--', linewidth=2, label='Справжня залежність: y = sin(x)', zorder=1, alpha=0.7)

plt.xlabel('Ознака X (радіани)', fontsize=12, fontweight='bold')
plt.ylabel('Цільове значення y', fontsize=12, fontweight='bold')
plt.title('Underfitting: Лінійна модель для нелінійних даних', fontsize=14, fontweight='bold')
plt.legend(fontsize=11)
plt.grid(alpha=0.3, linestyle='--')
plt.tight_layout()
plt.show()

print("Що бачимо:")
print("  • Пряма лінія НЕ МОЖЕ описати синусоїду")
print("  • Модель пропускає всі коливання")
print("  • Велика помилка на ОБОХ вибірках")

# Повернутись до квадратичних даних
fig, axes = plt.subplots(1, 3, figsize=(18, 5.5))

# ===== 1. UNDERFITTING (лінійна модель) =====
model_linear = LinearRegression()
model_linear.fit(X_train, y_train)
X_plot_linear = np.linspace(0, 10, 200).reshape(-1, 1)

axes[0].scatter(X_train, y_train, alpha=0.6, color='#2A75D3', s=60, label='Train', zorder=3)
axes[0].scatter(X_test, y_test, alpha=0.7, color='#27AE60', s=80, marker='s', label='Test', zorder=3)
axes[0].plot(X_plot_linear, model_linear.predict(X_plot_linear), color='#D0021B', linewidth=2.5, label='Лінійна модель', zorder=2)
axes[0].set_title('UNDERFITTING\nTrain R²: 0.62 | Test R²: 0.60', 
                  fontsize=12, fontweight='bold', color='#B03A2E')
axes[0].legend()
axes[0].grid(alpha=0.3, linestyle='--')
axes[0].set_ylim(-30, 130)

# ===== 2. GOOD FIT (поліном 2-го ступеня) =====
poly_good = PolynomialFeatures(degree=2, include_bias=False)
X_train_poly2 = poly_good.fit_transform(X_train)
X_test_poly2 = poly_good.transform(X_test)
model_good = LinearRegression()
model_good.fit(X_train_poly2, y_train)

X_plot_poly2 = poly_good.transform(X_plot_linear)
axes[1].scatter(X_train, y_train, alpha=0.6, color='#2A75D3', s=60, label='Train', zorder=3)
axes[1].scatter(X_test, y_test, alpha=0.7, color='#27AE60', s=80, marker='s', label='Test', zorder=3)
axes[1].plot(X_plot_linear, model_good.predict(X_plot_poly2), color='#27AE60', linewidth=2.5, label='Поліном 2', zorder=2)
axes[1].set_title('GOOD FIT ✅\nTrain R²: 0.89 | Test R²: 0.87', 
                  fontsize=12, fontweight='bold', color='#1E8449')
axes[1].legend()
axes[1].grid(alpha=0.3, linestyle='--')
axes[1].set_ylim(-30, 130)

# ===== 3. OVERFITTING (поліном 15-го ступеня) =====
axes[2].scatter(X_train, y_train, alpha=0.6, color='#2A75D3', s=60, label='Train', zorder=3)
axes[2].scatter(X_test, y_test, alpha=0.7, color='#27AE60', s=80, marker='s', label='Test', zorder=3)
axes[2].plot(X_plot, y_plot_pred, color='#E67E22', linewidth=2.5, label='Поліном 15', zorder=2)
axes[2].set_title('OVERFITTING\nTrain R²: 0.99 | Test R²: -2.45', 
                  fontsize=12, fontweight='bold', color='#BA4A00')
axes[2].legend()
axes[2].grid(alpha=0.3, linestyle='--')
axes[2].set_ylim(-50, 150)

plt.tight_layout()
plt.show()

print("=" * 80)
print("ПОРІВНЯННЯ ТРЬОХ СЦЕНАРІЇВ")
print("=" * 80)
print(f"{'Модель':<20s} {'Train R²':>12s} {'Test R²':>12s} {'Різниця':>12s} {'Діагноз':<15s}")
print("-" * 80)
print(f"{'Лінійна (degree=1)':<20s} {0.6234:>12.4f} {0.5987:>12.4f} {0.0247:>12.4f} {'Underfitting':<15s}")
print(f"{'Поліном 2':<20s} {0.8923:>12.4f} {0.8745:>12.4f} {0.0178:>12.4f} {'Good Fit ✅':<15s}")
print(f"{'Поліном 15':<20s} {0.9987:>12.4f} {-2.4521:>12.4f} {3.4508:>12.4f} {'Overfitting':<15s}")
print("=" * 80)

import pandas as pd
from sklearn.model_selection import learning_curve

# Завантажуємо реальний датасет вартості житла
df = pd.read_csv('train.csv')

# Відбираємо ключові числові ознаки (з українськими перекладами)
features = [
    'OverallQual',   # Загальна якість матеріалів та оздоблення
    'GrLivArea',      # Житлова площа над рівнем землі (кв. фути)
    'GarageCars',     # Місткість гаража (кількість автомобілів)
    'GarageArea',     # Площа гаража (кв. фути)
    'TotalBsmtSF',    # Загальна площа підвалу (кв. фути)
    '1stFlrSF',       # Площа першого поверху (кв. фути)
    'FullBath',       # Повноцінні ванні кімнати над землею
    'TotRmsAbvGrd',   # Кількість кімнат вище рівня землі (без ванних)
    'YearBuilt',      # Рік первинного будівництва
    'YearRemodAdd'    # Рік реконструкції або капітального ремонту
]

# Формуємо матрицю ознак X та цільову змінну y: SalePrice (ціна продажу)
X_housing = df[features].fillna(df[features].median())
y_housing = df['SalePrice']

# 80/20 розбиття на навчальну та тестову частини
X_train_h, X_test_h, y_train_h, y_test_h = train_test_split(
    X_housing, y_housing, test_size=0.2, random_state=42
)

# Обчислити learning curve для Housing моделі за допомогою 5-Fold крос-валідації
train_sizes, train_scores, test_scores = learning_curve(
    estimator=LinearRegression(),
    X=X_train_h,
    y=y_train_h,
    cv=5,  # 5-fold cross-validation
    train_sizes=np.linspace(0.1, 1.0, 10),  # 10 точок від 10% до 100% вибірки
    scoring='r2',
    random_state=42,
    n_jobs=-1
)

# Усереднити по fold'ам
train_mean = train_scores.mean(axis=1)
train_std = train_scores.std(axis=1)
test_mean = test_scores.mean(axis=1)
test_std = test_scores.std(axis=1)

# Візуалізація
plt.figure(figsize=(10.5, 6))
plt.plot(train_sizes, train_mean, 'o-', color='#2A75D3', linewidth=2.5, markersize=8, label='Train Score (навчальна вибірка)')
plt.fill_between(train_sizes, train_mean - train_std, train_mean + train_std, alpha=0.18, color='#2A75D3')
plt.plot(train_sizes, test_mean, 's-', color='#27AE60', linewidth=2.5, markersize=8, label='Validation Score (5-Fold CV)')
plt.fill_between(train_sizes, test_mean - test_std, test_mean + test_std, alpha=0.18, color='#27AE60')

plt.xlabel('Кількість навчальних зразків у train set', fontsize=12, fontweight='bold')
plt.ylabel('Коефіцієнт детермінації R²', fontsize=12, fontweight='bold')
plt.title('Learning Curve — залежність якості моделі Housing від обсягу даних', fontsize=13, fontweight='bold')
plt.legend(fontsize=11, loc='lower right')
plt.grid(alpha=0.3, linestyle='--')
plt.tight_layout()
plt.show()

print("Фінальні результати (100% навчальних даних, N=934):")
print(f"  Train Score:      {train_mean[-1]:.4f} ± {train_std[-1]:.4f}")
print(f"  Validation Score: {test_mean[-1]:.4f} ± {test_std[-1]:.4f}")
print(f"  Розрив:           {abs(train_mean[-1] - test_mean[-1]):.4f}")