Перейти к содержимому

Регрессия

Регрессия используется, когда модель должна предсказать числовое значение: цену, температуру, вес, расстояние, время доставки или другой вещественный результат.

Классификация предсказывает категорию. В программе такая категория часто кодируется целым числом: 0, 1, 2 и так далее. Например, 0 может означать бульдог, а 1 — спаниель.

Регрессия предсказывает вещественное число.

ЗадачаЧто предсказывает модельПример ответа
Классификацияномер категории0, 1, 2
Регрессиявещественное число42.7

В задаче регрессии признаки записывают в матрицу X, а целевую переменную — в вектор y.

Например, если нужно предсказать цену квартиры:

  • X — площадь, число комнат, этаж;
  • y — цена квартиры.

Модель получает данные о квартирах, для которых известны площадь и цена. После обучения она может предсказать цену новой квартиры по ее признакам.

В регрессии ответ почти никогда не совпадает с правильным значением абсолютно точно. Поэтому качество оценивают по величине ошибки.

Основные метрики:

  • MAE — средняя абсолютная ошибка;
  • MSE и RMSE — метрики, сильнее штрафующие большие ошибки;
  • R² Score — показывает, насколько модель лучше простого предсказания среднего значения.
  • LinearRegression
  • KNNRegressor
  • DecisionTreeRegressor
  • RandomForestRegressor
  • GradientBoostingRegressor