Матричная алгебра в статистике

1. Умножение двух матриц

(2*3) (3*2)

где

(1,1) элемент = (A*G+B*H+C*I)

(1,2) элемент = (A*F+B*K+C*L)

(2,1) элемент = (D*G+E*H+F*I)

(2,2) элемент = (D*F+E*K+F*L)

2. Умножение матрицы и вектора

Даны:

и

Пример умножения матрицы и вектора:

Пример транспонирования матрицы и вектора:

Инверсия

 

 

 

Тогда

[ транспонировать компании - factirs М.]

def of m (Определитель матрицы) = a*d - b*c

cof actir of 

смотри следующую страницу.

=

3. Транспонирование матрицы или вектора

V=

4. Инверсия матрицы (2*2) :

Предположите , что

Тогда [транспонировать совместно действующие факторы матрицы]

->Определитель матрицы = (a*d - c*b)

->совместно действующие факторы

->транспонирование совместно действующих факторов

Так:

Пример:

[транспонирование совместно действующих факторов М]

->det of M (Определитель матрицы) = (12- 8) = 144 - 64 = 80

->Совместно действующие факторы

->Транспонировать совместно дейстующие факторы

Так:

Наблюдение

	obs. on	obs. on	obs. on	. . .	obs. on	obs. on
	Yi	X1i	X2i		Xki	ei
i=1	Y1	X11	X21	. . .	Xk1	e1
2	Y2	X12	X22	. . .	Xk2	e2
3	Y3	X13	X23	. . .	Xk3	e3
4	Y4	X14	X24	. . .	Xk4	e4
.	.	.	.		.	.
.	.	.	.		.	.
.	.	.	.		.	.
N	YN	X1N	X2N	. . .	XkN	eN

В матричной форме:

В матричном выражении:

Так, если мы умножим , то получим:

Пример "Цены на дома"

Yi = цена дома в наблюдении ($ 1,000)

X1i = константа

X2i = # квадратных футов дома в наблюдении

X3i = # спален в доме в наблюдении

X4i = # ванных комнат в доме в наблюдения

(K — число параметров)

i = 1,2,3, . . . . , N

ДАННЫЕ

	Цена (Price)		Площадь(кв.футы) (SQFT)	Спальные комнаты (BR)	(Ванные комнаты ) (BATH)
obs.	Y	X1	X2	X3	X4		e
1 2 3 4 5 6 7 8 9 10 11 12 13 14	= +

Уравнение модели:

Y Y Y

X2

X3

X4

Цена Площадь(кв.футы) +Спальня Ванна + e

В матричном представлении:

Интерпретации коэффициентов регрессии:

= предельный эффект от увеличения на единицу площади (кв.футы) на цену, принимая все остальные параметры за константы.

Мы ожидали бы > 0.

= предельный эффект увеличения площади спальни на цене, принимая другие параметры за константы.

Мы ожидали бы > 0.

 

Normal 0 false false false MicrosoftInternetExplorer4 = предельный эффект увеличения площади ванной на цене, принимая другие параметры за константы.

Мы ожидали бы > 0.

Оцененная модель:

+Площадь(кв.футы) -Спальня - ванная

Интерпретация

: при каждом увеличении площади дома (кв.футы) на 1 фут, цена дома увеличивается на $ 154.80.

VI. Матрица суммы квадратов и пересеченные продукты:

Для модели с тремя параметрами:

Для модели k параметрами:

Подобно модели с k параметрами,

и  , который является только скаляром.

Эта экспрессия может быть переписана в матричной изображении как:

VIII. Матричная алгебра: Пример дыня:

тогда: будет (3*3)

(1,1) элемент 

(1,2) элемент

(1,3) элемент

(2,1) элемент

(2,2) элемент

(2,3) элемент

(3,1) элемент

(3,2) элемент

(3,3) элемент

Таким образом:

тогда: будет (3*1)

 

(1,1) элемент

(2,1) элемент

(3,1) элемент

Таким образом:

тогда: будет (1*1) ->скаляр

Y'Y=(23*23)+(56*56)+(41*41)+(10*10)+(18*18)+(15*15)+(35*35)=7220

Нормальные уравнения:

 

-или-

Матричное изображение: (X'X) = X' Y

-или-

(X'X) = X' Y

решаем для

Если  является данным a_o:

тогда

испытаем:

проблемы практики

регрессия

# 2

# 3

Те же ответы как и на стр. 100

VIII. Степень согласия в многочисленной регрессии

A. R-Squared

простая регрессия: r²

многочисленная регрессия: R²

= % дисперсия в Y, которая объясняется X

также как и выше

	итоговое изображение	матричное изображение	соответствующая степень свободы
TSS			(N - 1)
expl. SS			(k - 1)
разность. SS			(N - k)

Вспомним: TSS = ESS + RSS

RSS . TSS = ESS

() - () = RSS

e.g. 

истинность: Пример дыня (многочисленная регрессия).

R²= 0.94

Вспомним r² = 0.89

B. Отрегулированное R возведенное в квадрат = R2 отрегулировано для степени свободы

RSS - остаточная сумма квадратов TSS - полная сумма квадратов

R2 - более точная мера качества подбора кривой.

Если тогда мы можем говорить, что у нас есть "хороший" подбор.

Исключая: 

довольно хороший!

Хорошо, когда они близки по значению

— плохая модель

(Пока имеется отрезок, отсекаемый на координатной оси)

Но:

может быть < 0,

Но это плохо.

IX. Испытание гипотезы в модели множественной регрессии

1. Испытания с единственным ограничением

j=1,2,...k

H_a :  (Или или )

посмотри критическая величину в t-таблице (степень свободы = N-K)

нормальные критерии существуют для брака (не отклоняйте Ho)

 

Resid. SS — остаточная сумма квадратов

2. Испытания с множественными ограничениями

Пример:

и

H_a : не H_o copposite Нет N_o

Также: or

Или оба ,

Используйте F-критерий:

Форма F-критерий =

~ F_m,N-K

m = # ограничения в H_o (# знаков )

(N-K) = степень свободы из неограниченной регрессии

RSS_R = остаточная сумма квадратов ограниченной регрессии. Мы бы получили, если бы мы использовали модель без ограничений..

RSS_UN = остаточная сумма квадратов неограниченной регрессии. Мы бы получили, если бы мы использовали модель, определяемую Ho.

Вспомним: , поэтому перезапишите F-статистический ao:

F статистическая точка (Point F statistic) ~ F_m,N-K

ЗАМЕЧАНИЕ:

Под простой регрессией:	Под множественной регрессией:
F ~ F 1, N-2 stat.	F ~ F m, N-K stat.

В этом примере:

Ограниченная регрессия - это такая регрессия, которая устанавливает и

Или

Неограниченная регрессия - это та, которая не излагает какие-либо ограничения.

F испытание включает 3 шага:

Шаг 1: используйте регрессию (обычные наименьшие квадраты) на полной модели (неограниченной регрессии) и вычислите остаточную сумму квадратов неограниченной регрессии.

Шаг 2: Используйте регрессию (обычные наименьшие квадраты) на ограниченной модели (ограниченной регрессия) и вычислите остаточную сумму квадратов ограниченной регрессии.

Шаг 3: Сформируйте отношение: 

->посмотрите критическую величину в F таблице (расположенной в задней части текста, страницы с 810 по 815 -или- в пакете sylabus страницы, которые следуют.

F таблица: Максимальный ряд дает степень свободы для числителя (наша "m")

Левосторонний столбец дает степень свободы для знаменателя (наши "N-K")

Вероятности Остатка также даны для каждого (N-K)