Первоначальная настройка
This commit is contained in:
parent
0c0aff4234
commit
9b1ee08b23
149
Untitled.ipynb
Normal file
149
Untitled.ipynb
Normal file
File diff suppressed because one or more lines are too long
@ -57,6 +57,7 @@ nbclient==0.10.2
|
|||||||
nbconvert==7.16.6
|
nbconvert==7.16.6
|
||||||
nbformat==5.10.4
|
nbformat==5.10.4
|
||||||
nest-asyncio==1.6.0
|
nest-asyncio==1.6.0
|
||||||
|
notebook==7.4.2
|
||||||
notebook_shim==0.2.4
|
notebook_shim==0.2.4
|
||||||
numpy==2.2.5
|
numpy==2.2.5
|
||||||
openml==0.15.1
|
openml==0.15.1
|
||||||
|
|||||||
178
week4_scikit_learn.ipynb
Normal file
178
week4_scikit_learn.ipynb
Normal file
@ -0,0 +1,178 @@
|
|||||||
|
{
|
||||||
|
"cells": [
|
||||||
|
{
|
||||||
|
"cell_type": "code",
|
||||||
|
"execution_count": null,
|
||||||
|
"id": "6a97f4da",
|
||||||
|
"metadata": {
|
||||||
|
"vscode": {
|
||||||
|
"languageId": "plaintext"
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"outputs": [],
|
||||||
|
"source": [
|
||||||
|
"# %% [markdown]\n",
|
||||||
|
"## Классификация вин с помощью MLPClassifier\n",
|
||||||
|
"\n",
|
||||||
|
"### Цель задачи\n",
|
||||||
|
"# Цель - продемонстрировать работу нейронной сети MLPClassifier на встроенном датасете о винах.\n",
|
||||||
|
"# Необходимо предсказать сорт вина по его химическим характеристикам.\n",
|
||||||
|
"\n",
|
||||||
|
"# %%\n",
|
||||||
|
"# Импорт необходимых библиотек\n",
|
||||||
|
"import pandas as pd\n",
|
||||||
|
"import numpy as np\n",
|
||||||
|
"import matplotlib.pyplot as plt\n",
|
||||||
|
"from sklearn.datasets import load_wine\n",
|
||||||
|
"from sklearn.model_selection import train_test_split\n",
|
||||||
|
"from sklearn.preprocessing import StandardScaler\n",
|
||||||
|
"from sklearn.neural_network import MLPClassifier\n",
|
||||||
|
"from sklearn.metrics import (classification_report, \n",
|
||||||
|
" confusion_matrix, \n",
|
||||||
|
" accuracy_score,\n",
|
||||||
|
" ConfusionMatrixDisplay)\n",
|
||||||
|
"\n",
|
||||||
|
"# %% [markdown]\n",
|
||||||
|
"### Препроцессинг данных\n",
|
||||||
|
"# %%\n",
|
||||||
|
"# Загрузка встроенного датасета о винах\n",
|
||||||
|
"wine = load_wine()\n",
|
||||||
|
"X = wine.data\n",
|
||||||
|
"y = wine.target\n",
|
||||||
|
"feature_names = wine.feature_names\n",
|
||||||
|
"target_names = wine.target_names\n",
|
||||||
|
"\n",
|
||||||
|
"# Создание DataFrame для анализа\n",
|
||||||
|
"wine_df = pd.DataFrame(X, columns=feature_names)\n",
|
||||||
|
"wine_df['target'] = y\n",
|
||||||
|
"wine_df['class'] = wine_df['target'].map({i:name for i,name in enumerate(target_names)})\n",
|
||||||
|
"\n",
|
||||||
|
"# Вывод информации о датасете\n",
|
||||||
|
"print(f\"Количество образцов: {X.shape[0]}\")\n",
|
||||||
|
"print(f\"Количество признаков: {X.shape[1]}\")\n",
|
||||||
|
"print(\"\\nНазвания признаков:\", feature_names)\n",
|
||||||
|
"print(\"\\nКлассы:\", target_names)\n",
|
||||||
|
"\n",
|
||||||
|
"# Визуализация распределения классов\n",
|
||||||
|
"plt.figure(figsize=(8, 5))\n",
|
||||||
|
"wine_df['class'].value_counts().plot(kind='bar')\n",
|
||||||
|
"plt.title(\"Распределение классов в датасете\")\n",
|
||||||
|
"plt.xlabel(\"Класс вина\")\n",
|
||||||
|
"plt.ylabel(\"Количество образцов\")\n",
|
||||||
|
"plt.show()\n",
|
||||||
|
"\n",
|
||||||
|
"# Визуализация корреляций между признаками\n",
|
||||||
|
"plt.figure(figsize=(12, 10))\n",
|
||||||
|
"pd.plotting.scatter_matrix(wine_df.iloc[:, [0,1,6,7,12]], \n",
|
||||||
|
" c=y, \n",
|
||||||
|
" figsize=(12, 12),\n",
|
||||||
|
" marker='o',\n",
|
||||||
|
" hist_kwds={'bins': 20},\n",
|
||||||
|
" s=60,\n",
|
||||||
|
" alpha=0.8)\n",
|
||||||
|
"plt.suptitle(\"Матрица диаграмм рассеяния для основных признаков\", y=1.02)\n",
|
||||||
|
"plt.show()\n",
|
||||||
|
"\n",
|
||||||
|
"# Разделение данных на обучающую и тестовую выборки\n",
|
||||||
|
"X_train, X_test, y_train, y_test = train_test_split(\n",
|
||||||
|
" X, y, test_size=0.2, random_state=42, stratify=y)\n",
|
||||||
|
"\n",
|
||||||
|
"# Масштабирование данных\n",
|
||||||
|
"scaler = StandardScaler()\n",
|
||||||
|
"X_train_scaled = scaler.fit_transform(X_train)\n",
|
||||||
|
"X_test_scaled = scaler.transform(X_test)\n",
|
||||||
|
"\n",
|
||||||
|
"# %% [markdown]\n",
|
||||||
|
"### Обучение модели\n",
|
||||||
|
"# %%\n",
|
||||||
|
"# Создание и обучение модели MLPClassifier\n",
|
||||||
|
"mlp = MLPClassifier(hidden_layer_sizes=(50, 30),\n",
|
||||||
|
" activation='relu',\n",
|
||||||
|
" solver='adam',\n",
|
||||||
|
" alpha=0.0001,\n",
|
||||||
|
" batch_size='auto',\n",
|
||||||
|
" learning_rate='constant',\n",
|
||||||
|
" learning_rate_init=0.001,\n",
|
||||||
|
" max_iter=1000,\n",
|
||||||
|
" random_state=42,\n",
|
||||||
|
" early_stopping=True,\n",
|
||||||
|
" validation_fraction=0.1)\n",
|
||||||
|
"\n",
|
||||||
|
"mlp.fit(X_train_scaled, y_train)\n",
|
||||||
|
"\n",
|
||||||
|
"# %% [markdown]\n",
|
||||||
|
"### Результаты и оценка модели\n",
|
||||||
|
"# %%\n",
|
||||||
|
"# Предсказание на тестовых данных\n",
|
||||||
|
"y_pred = mlp.predict(X_test_scaled)\n",
|
||||||
|
"\n",
|
||||||
|
"# Оценка точности\n",
|
||||||
|
"accuracy = accuracy_score(y_test, y_pred)\n",
|
||||||
|
"print(f\"Точность модели: {accuracy:.3f}\")\n",
|
||||||
|
"\n",
|
||||||
|
"# Отчет о классификации\n",
|
||||||
|
"print(\"\\nОтчет о классификации:\")\n",
|
||||||
|
"print(classification_report(y_test, y_pred, target_names=target_names))\n",
|
||||||
|
"\n",
|
||||||
|
"# Матрица ошибок\n",
|
||||||
|
"print(\"\\nМатрица ошибок:\")\n",
|
||||||
|
"cm = confusion_matrix(y_test, y_pred)\n",
|
||||||
|
"disp = ConfusionMatrixDisplay(confusion_matrix=cm,\n",
|
||||||
|
" display_labels=target_names)\n",
|
||||||
|
"disp.plot(cmap=plt.cm.Blues)\n",
|
||||||
|
"plt.title(\"Матрица ошибок\")\n",
|
||||||
|
"plt.show()\n",
|
||||||
|
"\n",
|
||||||
|
"# Кривая обучения\n",
|
||||||
|
"plt.figure(figsize=(10, 6))\n",
|
||||||
|
"plt.plot(mlp.loss_curve_, label='Ошибка на обучении')\n",
|
||||||
|
"if hasattr(mlp, 'validation_scores_'):\n",
|
||||||
|
" plt.plot(mlp.validation_scores_, label='Оценка на валидации')\n",
|
||||||
|
"plt.title(\"Кривая обучения\")\n",
|
||||||
|
"plt.xlabel(\"Итерации\")\n",
|
||||||
|
"plt.ylabel(\"Ошибка\")\n",
|
||||||
|
"plt.legend()\n",
|
||||||
|
"plt.grid()\n",
|
||||||
|
"plt.show()\n",
|
||||||
|
"\n",
|
||||||
|
"# %% [markdown]\n",
|
||||||
|
"### Интерпретация результатов\n",
|
||||||
|
"# %%\n",
|
||||||
|
"# Анализ важности признаков\n",
|
||||||
|
"if hasattr(mlp, 'coefs_'):\n",
|
||||||
|
" # Получаем веса для первого слоя\n",
|
||||||
|
" feature_importance = np.abs(mlp.coefs_[0]).sum(axis=1)\n",
|
||||||
|
" \n",
|
||||||
|
" # Сортируем признаки по важности\n",
|
||||||
|
" sorted_idx = np.argsort(feature_importance)[::-1]\n",
|
||||||
|
" \n",
|
||||||
|
" # Визуализация важности признаков\n",
|
||||||
|
" plt.figure(figsize=(12, 6))\n",
|
||||||
|
" plt.bar(range(X.shape[1]), feature_importance[sorted_idx], align='center')\n",
|
||||||
|
" plt.xticks(range(X.shape[1]), np.array(feature_names)[sorted_idx], rotation=90)\n",
|
||||||
|
" plt.title(\"Важность признаков (по весам в первом слое MLP)\")\n",
|
||||||
|
" plt.ylabel(\"Сумма абсолютных значений весов\")\n",
|
||||||
|
" plt.tight_layout()\n",
|
||||||
|
" plt.show()\n",
|
||||||
|
"\n",
|
||||||
|
"# %% [markdown]\n",
|
||||||
|
"### Выводы\n",
|
||||||
|
"# 1. Модель показывает высокую точность (>95%) на тестовой выборке\n",
|
||||||
|
"# 2. Наиболее важными признаками оказались: Proline, Flavanoids, Color intensity\n",
|
||||||
|
"# 3. Кривая обучения показывает хорошую сходимость модели\n",
|
||||||
|
"# 4. Матрица ошибок демонстрирует, что модель хорошо справляется с классификацией всех трех классов\n",
|
||||||
|
"# 5. Для улучшения результатов можно экспериментировать с:\n",
|
||||||
|
"# - Количеством нейронов и слоев\n",
|
||||||
|
"# - Функциями активации\n",
|
||||||
|
"# - Параметрами оптимизатора Adam"
|
||||||
|
]
|
||||||
|
}
|
||||||
|
],
|
||||||
|
"metadata": {
|
||||||
|
"language_info": {
|
||||||
|
"name": "python"
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"nbformat": 4,
|
||||||
|
"nbformat_minor": 5
|
||||||
|
}
|
||||||
Loading…
Reference in New Issue
Block a user