Як разлічваецца параметр b у лінейнай рэгрэсіі (перасячэнне y найлепшым чынам)?

/ / Апублікавана ў Intelligence artificielle , EITC/AI/MLP Машыннае навучанне з Python, Рэгрэсія, Разуменне рэгрэсіі

У кантэксце лінейнай рэгрэсіі параметр b (звычайна называецца y-перасячэннем найлепшай лініі) з'яўляецца важным кампанентам лінейнага ўраўнення y = m x + b, Дзе m уяўляе сабой нахіл лініі. Ваша пытанне датычыцца ўзаемасувязі паміж Y-перахопам b, сярэдняе значэнне залежнай зменнай y і незалежная зменная x, і склон m.

Каб адказаць на запыт, нам трэба разгледзець вывад раўнання лінейнай рэгрэсіі. Лінейная рэгрэсія накіравана на мадэляванне ўзаемасувязі паміж залежнай зменнай y і адна або некалькі незалежных зменных x падганяючы лінейнае ўраўненне да назіраных дадзеных. У простай лінейнай рэгрэсіі, якая ўключае адну зменную прагназатара, сувязь мадэлюецца ўраўненнем:

    \[ y = mx + b \]

Тут, m (нахіл) і b (у-перасячэнне) - гэта параметры, якія неабходна вызначыць. Схіл m паказвае на змены ў y за змяненне адной адзінкі ст x, а y-перасячэнне b уяўляе сабой значэнне y калі x роўны нулю.

Каб знайсці гэтыя параметры, мы звычайна выкарыстоўваем метад найменшых квадратаў, які мінімізуе суму квадратаў розніц паміж назіранымі значэннямі і значэннямі, прадказанымі мадэллю. Гэты метад прыводзіць да наступных формул для нахілу m і Y-перасячэнне b:

    \[ m = \frac{\sum{(x_i - \bar{x})(y_i - \bar{y})}}{\sum{(x_i - \bar{x})^2}} \]

    \[ b = \bar{y} - m\bar{x} \]

Тут, \bar{x} і \bar{y} з'яўляюцца сродкам ст x і y значэння, адпаведна. Тэрмін \sum{(x_i - \bar{x})(y_i - \bar{y})} уяўляе сабой каварыяцыю x і y, У той час \sum{(x_i - \bar{x})^2} уяўляе сабой дысперсію x.

Формула перасячэння y b можна разумець так: раз склон m вызначаецца, у-перасяч b вылічваецца шляхам сярэдняга значэння y значэнняў і аднімання здабытку склон m і сярэдняе значэнне x каштоўнасці. Гэта гарантуе, што лінія рэгрэсіі праходзіць праз кропку (\bar{x}, \bar{y}), які з'яўляецца цэнтрамі кропак даных.

Каб праілюстраваць гэта на прыкладзе, разгледзім набор даных з наступнымі значэннямі:

    \[ \begin{array}{|c|c|} \hline x & y \\ \hline 1 & 2 \\ 2 & 3 \\ 3 & 5 \\ 4 & 4 \\ 5 & 6 \\ \hline \end{масіў} \]

Спачатку мы разлічваем сярэдняе x і y:

    \[ \bar{x} = \frac{1 + 2 + 3 + 4 + 5}{5} = 3 \]

    \[ \bar{y} = \frac{2 + 3 + 5 + 4 + 6}{5} = 4 \]

Далей разлічваем ўхіл m:

    \[ m = \frac{\sum{(x_i - \bar{x})(y_i - \bar{y})}}{\sum{(x_i - \bar{x})^2}} \]

    \[ = \frac{(1-3)(2-4) + (2-3)(3-4) + (3-3)(5-4) + (4-3)(4-4) + (5-3)(6-4)}{(1-3)^2 + (2-3)^2 + (3-3)^2 + (4-3)^2 + (5-3)^ 2} \]

    \[ = \frac{(-2)(-2) + (-1)(-1) + (0)(1) + (1)(0) + (2)(2)}{(-2) ^2 + (-1)^2 + (0)^2 + (1)^2 + (2)^2} \]

    \[ = \frac{4 + 1 + 0 + 0 + 4}{4 + 1 + 0 + 1 + 4} \]

    \[ = \frac{9}{10} = 0.9 \]

Нарэшце, мы вылічаем y-перасячэнне b:

    \[ b = \bar{y} - m\bar{x} \]

    \[ = 4 - 0.9 \ раз 3 \]

    \[ = 4 - 2.7 \]

    \[ = 1.3 \]

Такім чынам, ураўненне лінейнай рэгрэсіі для гэтага набору дадзеных:

    \[y = 0.9x + 1.3 \]

Гэты прыклад паказвае, што y-перасячэнне b сапраўды роўна сярэдняму з усіх y значэння мінус здабытак нахілу m і сярэдняе з усіх x значэнняў, якія супадаюць з формулай b = \bar{y} - m\bar{x}.

Важна адзначыць, што y-перасячэнне b гэта не проста сярэдняе y значэння плюс здабытак нахілу m і сярэдняе з усіх x каштоўнасці. Замест гэтага гэта ўключае ў сябе адніманне здабытку нахілу m і сярэдняе з усіх x значэння ад сярэдняга за ўсё y значэння.

Разуменне вывядзення і значэння гэтых параметраў вельмі важна для інтэрпрэтацыі вынікаў лінейнага рэгрэсійнага аналізу. Y-перасячэнне b дае каштоўную інфармацыю аб базавым узроўні залежнай зменнай y калі незалежная зменная x роўны нулю. Схіл m, з другога боку, паказвае кірунак і сілу адносін паміж x і y.

У практычных прыкладаннях лінейная рэгрэсія шырока выкарыстоўваецца для прагнастычнага мадэлявання і аналізу даных. Ён служыць асноватворным метадам у розных галінах, уключаючы эканоміку, фінансы, біялогію і сацыяльныя навукі. Падганяючы лінейную мадэль да дадзеных назіранняў, даследчыкі і аналітыкі могуць рабіць прагнозы, вызначаць тэндэнцыі і выяўляць сувязі паміж зменнымі.

Python, папулярная мова праграмавання для навукі аб дадзеных і машыннага навучання, забяспечвае некалькі бібліятэк і інструментаў для выканання лінейнай рэгрэсіі. Бібліятэка `scikit-learn`, напрыклад, прапануе прамую рэалізацыю лінейнай рэгрэсіі праз свой клас `LinearRegression`. Вось прыклад таго, як выканаць лінейную рэгрэсію з дапамогай `scikit-learn` у Python:

python
import numpy as np
from sklearn.linear_model import LinearRegression

# Sample data
x = np.array([1, 2, 3, 4, 5]).reshape((-1, 1))
y = np.array([2, 3, 5, 4, 6])

# Create and fit the model
model = LinearRegression()
model.fit(x, y)

# Get the slope (m) and y-intercept (b)
m = model.coef_[0]
b = model.intercept_

print(f"Slope (m): {m}")
print(f"Y-intercept (b): {b}")

У гэтым прыкладзе клас `LinearRegression` выкарыстоўваецца для стварэння мадэлі лінейнай рэгрэсіі. Метад `fit` выклікаецца для навучання мадэлі на выбарцы даных, а атрыбуты `coef_` і `intercept_` выкарыстоўваюцца для атрымання нахілу і перасячэння па Y адпаведна.

Y-перасячэнне b у лінейнай рэгрэсіі не роўна сярэдняму значэнне ўсіх y значэння плюс здабытак нахілу m і сярэдняе з усіх x каштоўнасці. Замест гэтага ён роўны сярэдняму значэнне ўсіх y значэння мінус здабытак нахілу m і сярэдняе з усіх x значэнняў, як гэта вызначана формулай b = \bar{y} - m\bar{x}.

Іншыя апошнія пытанні і адказы адносна EITC/AI/MLP Машыннае навучанне з Python:

Глядзіце больш пытанняў і адказаў у EITC/AI/MLP Machine Learning with Python

Яшчэ пытанні і адказы:

тэгі: , , , , ,