Матричная алгебра в статистике
1. Умножение двух матриц
(2*3)
(3*2)
где
(1,1) элемент = (A*G+B*H+C*I)
(1,2) элемент = (A*F+B*K+C*L)
(2,1) элемент = (D*G+E*H+F*I)
(2,2) элемент = (D*F+E*K+F*L)
2. Умножение матрицы и вектора
Даны:
и
Пример умножения матрицы и вектора:
Пример транспонирования матрицы и вектора:
Инверсия
Тогда
[ транспонировать компании - factirs М.]
def of m (Определитель матрицы) = a*d - b*c
cof actir of
смотри следующую страницу.
=
3. Транспонирование матрицы или вектора
V=
4. Инверсия матрицы (2*2) :
Предположите , что
Тогда
[транспонировать совместно действующие факторы матрицы]
->Определитель матрицы = (a*d - c*b)
->совместно действующие факторы
->транспонирование совместно действующих факторов
Так:
Пример:
[транспонирование совместно действующих факторов М]
->det of M (Определитель матрицы) = (12- 8
) = 144 - 64 = 80
->Совместно действующие факторы
->Транспонировать совместно дейстующие факторы
Так:
Наблюдение
|
obs. on |
obs. on |
obs. on |
. . . |
obs. on |
obs. on |
|
Yi |
X1i |
X2i |
|
Xki |
ei |
|
|
|
|
|
|
|
i=1 |
Y1 |
X11 |
X21 |
. . . |
Xk1 |
e1 |
2 |
Y2 |
X12 |
X22 |
. . . |
Xk2 |
e2 |
3 |
Y3 |
X13 |
X23 |
. . . |
Xk3 |
e3 |
4 |
Y4 |
X14 |
X24 |
. . . |
Xk4 |
e4 |
. |
. |
. |
. |
|
. |
. |
. |
. |
. |
. |
|
. |
. |
. |
. |
. |
. |
|
. |
. |
N |
YN |
X1N |
X2N |
. . . |
XkN |
eN |
В матричной форме:
В матричном выражении:
Так, если мы умножим , то получим:
Пример "Цены на дома"
Yi = цена дома в наблюдении ($ 1,000)
X1i = константа
X2i = # квадратных футов дома в наблюдении
X3i = # спален в доме в наблюдении
X4i = # ванных комнат в доме в наблюдения
(K — число параметров)
i = 1,2,3, . . . . , N
ДАННЫЕ
|
Цена (Price) |
|
Площадь(кв.футы) (SQFT) |
Спальные комнаты (BR) |
(Ванные комнаты ) (BATH) |
|
|
obs. |
Y |
X1 |
X2 |
X3 |
X4 |
|
e |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 |
|
Уравнение модели:
Y Y Y |
X2 |
X3 |
X4 |
Цена Площадь(кв.футы) +
Спальня
Ванна + e
В матричном представлении:
Интерпретации коэффициентов регрессии:
= предельный эффект от увеличения на единицу площади (кв.футы) на цену, принимая все остальные параметры за константы.
Мы ожидали бы > 0.
= предельный эффект увеличения площади спальни на цене, принимая другие параметры за константы.
Мы ожидали бы > 0.
Normal 0 false false false MicrosoftInternetExplorer4 = предельный эффект увеличения площади ванной на цене, принимая другие параметры за константы.
Мы ожидали бы > 0.
Оцененная модель:
+
Площадь(кв.футы) -
Спальня -
ванная
Интерпретация
: при каждом увеличении площади дома (кв.футы) на 1 фут, цена дома увеличивается на $ 154.80.
VI. Матрица суммы квадратов и пересеченные продукты:
Для модели с тремя параметрами:
Для модели k параметрами:
Подобно модели с k параметрами,
и , который является только скаляром.
Эта экспрессия может быть переписана в матричной изображении как:
VIII. Матричная алгебра: Пример дыня:
тогда:
будет (3*3)
(1,1) элемент
(1,2) элемент
(1,3) элемент
(2,1) элемент
(2,2) элемент
(2,3) элемент
(3,1) элемент
(3,2) элемент
(3,3) элемент
Таким образом:
тогда: будет (3*1)
(1,1) элемент
(2,1) элемент
(3,1) элемент
Таким образом:
тогда: будет (1*1) ->скаляр
Y'Y=(23*23)+(56*56)+(41*41)+(10*10)+(18*18)+(15*15)+(35*35)=7220
Нормальные уравнения:
-или-
Матричное изображение: (X'X) = X' Y
-или-
(X'X) = X' Y
решаем для
Если является данным ao:
тогда
испытаем:
проблемы практики
регрессия
# 2
# 3
Те же ответы как и на стр. 100
VIII. Степень согласия в многочисленной регрессии
A. R-Squared
простая регрессия: r2
многочисленная регрессия: R2
= % дисперсия в Y, которая объясняется X
также как и выше
|
итоговое изображение |
матричное изображение |
соответствующая степень свободы |
TSS |
|
|
(N - 1) |
expl. SS |
|
|
(k - 1) |
разность. SS |
|
|
(N - k) |
Вспомним: TSS = ESS + RSS
RSS . TSS = ESS
() - (
) = RSS
e.g.
истинность: Пример дыня (многочисленная регрессия).
R2= 0.94
Вспомним r2 = 0.89
B. Отрегулированное R возведенное в квадрат = R2 отрегулировано для степени свободы
RSS - остаточная сумма квадратов TSS - полная сумма квадратов
R2 - более точная мера качества подбора кривой.
Если тогда мы можем говорить, что у нас есть "хороший" подбор.
Исключая:
довольно хороший!
Хорошо, когда они близки по значению
— плохая модель
(Пока имеется отрезок, отсекаемый на координатной оси)
Но:
может быть < 0,
Но это плохо.
IX. Испытание гипотезы в модели множественной регрессии
1. Испытания с единственным ограничением
j=1,2,...k
Ha : (Или
или
)
посмотри критическая величину в t-таблице (степень свободы = N-K)
нормальные критерии существуют для брака (не отклоняйте Ho)
Resid. SS — остаточная сумма квадратов
2. Испытания с множественными ограничениями
Пример:
и
Ha : не Ho copposite Нет No
Также: or
Или оба ,
Используйте F-критерий:
Форма F-критерий =
~ Fm,N-K
m = # ограничения в Ho (# знаков )
(N-K) = степень свободы из неограниченной регрессии
RSSR = остаточная сумма квадратов ограниченной регрессии. Мы бы получили, если бы мы использовали модель без ограничений..
RSSUN = остаточная сумма квадратов неограниченной регрессии. Мы бы получили, если бы мы использовали модель, определяемую Ho.
Вспомним: , поэтому перезапишите F-статистический ao:
F статистическая точка (Point F statistic) ~ Fm,N-K
ЗАМЕЧАНИЕ:
Под простой регрессией: |
Под множественной регрессией: |
F ~ F 1, N-2 stat. |
F ~ F m, N-K stat. |
В этом примере:
Ограниченная регрессия - это такая регрессия, которая устанавливает и
Или
Неограниченная регрессия - это та, которая не излагает какие-либо ограничения.
F испытание включает 3 шага:
Шаг 1: используйте регрессию (обычные наименьшие квадраты) на полной модели (неограниченной регрессии) и вычислите остаточную сумму квадратов неограниченной регрессии.
Шаг 2: Используйте регрессию (обычные наименьшие квадраты) на ограниченной модели (ограниченной регрессия) и вычислите остаточную сумму квадратов ограниченной регрессии.
Шаг 3: Сформируйте отношение:
->посмотрите критическую величину в F таблице (расположенной в задней части текста, страницы с 810 по 815 -или- в пакете sylabus страницы, которые следуют.
F таблица: Максимальный ряд дает степень свободы для числителя (наша "m")
Левосторонний столбец дает степень свободы для знаменателя (наши "N-K")
Вероятности Остатка также даны для каждого (N-K)
Похожие материалы |