Матричный анализ и линейная алгебра, Тыртышников Е.Е., 2005

Матричный анализ и линейная алгебра, Тыртышников Е.Е., 2005.
  Данная книга возникла в ходе чтения лекций для студентов первого курса факультета вычислительной математики и кибернетики Московского государственного университета им. М. В. Ломоносова. Ее главы появлялись почти синхронно с лекциями и становились доступными студентам благодаря интернету. После этого первоначальный текст постоянно менялся помимо исправления опечаток, автору хотелось найти такой стиль изложения, который позволил бы получить необходимые основы предмета и. в то же время, дал бы возможность наиболее заинтересованным читателям пойти дальше, иногда очень далеко вплоть до обсуждения нетривиальных приложений, которыми очень сильна линейная алгебра.

Ранг матрицы.
Размерность линейной оболочки столбцов (строк) матрицы иногда называется ее столбцовым (строчным) рангом. Поскольку столбцовый и строчный ранги совпадают, их общее значение было бы естественно называть просто рангом матрицы. Из проведенного нами доказательства этого факта вытекает также то, что это значение равно наименьшему числу матриц вида “столбец на строку”, дающих в сумме данную матрицу.
Однако, обычно дается другое определение: рангом, матрицы называется наивысший порядок ее отличных от нуля миноров. Соответствующие минор и подматрица называются базисным, минором и базисной подматрицей. В силу уже установленной эквивалентности обратимости и невырожденности, ранг матрицы равен наивысшему порядку обратимых подматриц в данной матрице. Обозначение: rankA.
Оглавление
Предисловие 1
Лекция 1 5
1.1 Линейные отображения и матрицы 5
1.2 Умножение матриц 5
1.3 Ассоциативность умножения матриц 6
1.4 Некоммутативность умножения матриц 6
1.5 Сложение матриц и умножение на число 6
1.6 Умножение блочных матриц 7
1.7 Вычислительный аспект умножения матриц 7
1.8 Хороша ли программа? 7
1.9 Метод Винограда 8
1.10 Метод Штрассена 8
1.11 Рекурсия для nXn-матриц 9
Лекция 2 11
2.1 Множества и элементы 11
2.2 Отображения, функции, операторы 11
2.3 Алгебраические операции 12
2.4 Ассоциативность и скобки 12
2.5 Ассоциативность при умножении матриц 13
2.6 Группы 13
2.7 Примеры абелевых групп 14
2.8 Группа невырожденных диагональных матриц 14
2.9 Группа невырожденных треугольных матриц 14
2.10 Подгруппы 15
2.11 Степени элемента 15
2.12 Циклические группы 15
Лекция 3 17
3.1 Система линейных алгебраических уравнений 17
3.2 Линейные комбинации 17
3.3 Линейная зависимость 18
3.4 Линейная независимость 18
3.5 Транзитивность линейной зависимости 19
3.6 Монотонность числа линейно независимых векторов 19
3.7 Базис и размерность 20
3.8 Дополнение до базиса 21
3.9 Существование базиса 21
3.10 Совместность системы линейных алгебраических уравнений 21
Лекция 4 23
4.1 Индикатор линейной зависимости 23
4.2 Подстановки и перестановки 23
4.3 Циклы и транспозиции 24
4.4 Четность подстановки 26
4.5 Единственность индикатора линейной зависимости 27
4.6 Определитель 28
Лекция 5 29
5.1 Определитель транспонированной матрицы 29
5.2 Определитель как функция столбцов (строк) матрицы 29
5.3 Существование индикатора линейной зависимости 31
5.4 Подматрицы и миноры 31
5.5 Замечание о подстановках 32
5.6 Разбиение множества подстановок на подмножества 32
5.7 Теорема Лапласа 33
5.8 Определитель блочно-треугольной матрицы 34
Лекция 6 35
6.1 Обратная матрица 35
6.2 Критерий обратимости матрицы 35
6.3 Обращение и транспонирование 36
6.4 Группа обратимых матриц 37
6.5 Обращение невырожденной матрицы 37
6.6 Правило Крамера 38
6.7 Определитель произведения матриц 38
6.8 Обратимость и невырожденность 39
Лекция 7 41
7.1 Разделение переменных и матрицы 41
7.2 Скелетное разложение 41
7.3 Ранг матрицы 42
7.4 Окаймление обратимой подматрицы 42
7.5 Теорема о базисном миноре 43
7.6 Ранги и матричные операции 44
7.7 Однородная система линейных алгебраических уравнений 45
7.8 Теорема Кронекера-Капелли 47
7.9 Общее решение системы линейных алгебраических уравнений 47
7.10 Неустойчивость ранга 47
Лекция 8 49
8.1 Исключение неизвестных 49
8.2 Элементарные матрицы 49
8.3 Ступенчатые матрицы 51
8.4 Приведение к ступенчатой форме 51
8.5 Приведение к диагональной форме 52
8.6 Эквивалентные матрицы 52
8.7 Метод Гаусса и LU-разложение 53
8.8 LU-разложение и строго регулярные матрицы 54
Лекция 9 55
9.1 Метод координат 55
9.2 Направленные отрезки 56
9.3 Отношение эквивалентности 57
9.4 Свободный вектор 58
9.5 Линейные операции над векторами 58
9.6 Координаты вектора 59
9.7 Изоморфизм и линейная зависимость 60
9.8 Коллинеарные и компланарные векторы 60
9.9 Прямая на плоскости 61
9.10 Плоскость в пространстве 62
9.11 Преобразование координат 62
9.12 Полуплоскости и полупространства 63
Лекция 10 65
10.1 Скалярное произведение геометрических векторов 65
10.2 Скалярное произведение п координаты 65
10.3 Об обобщениях 66
10.4 Ориентация системы векторов 67
10.5 Векторное и смешанное произведения 67
10.6 Векторное произведение в декартовых координатах 69
10.7 Смешанное произведение в декартовых координатах 69
10.8 Нормали к прямой и плоскости 70
10.9 Расстояние от точки до прямой па плоскости 70
10.10 Расстояние от точки до плоскости 71
10.11 Критерии параллельности вектора прямой и плоскости 71
Лекция 11 73
11.1 Линейные пространства 73
11.2 Примеры бесконечномерных линейных пространств 74
11.3 Примеры конечномерных линейных пространств 75
11.4 Базис и размерность 76
11.5 Подпространства линейного пространства 77
11.6 Сумма и пересечение подпространств 77
Лекция 12 79
12.1 Разложение но базису 79
12.2 Изоморфизм линейных пространств 80
12.3 Пространство многочленов 80
12.4 Прямая сумма подпространств 82
12.5 Дополнительные пространства и проекции 83
12.6 Вычисление подпространства 84
Лекция 13 87
13.1 Линейные многообразия 87
13.2 Аффинные множества 88
13.3 Гиперплоскости 88
13.4 Полупространства 89
13.5 Выпуклые множества 90
Лекция 14 93
14.1 Комплексные числа 93
14.2 Комплексная плоскость 94
14.3 Преобразования плоскости 95
14.4 Корни из единицы 97
14.5 Группа корней степени n из единицы 97
14.6 Матрицы с комплексными элементами 98
Лекция 15 99
15.1 Кольца и поля 99
15.2 Делители нуля 100
15.3 Кольцо вычетов 101
15.4 Вложения и изоморфизмы 102
15.5 Число элементов в конечном ноле 103
15.6 Поле частных 103
Лекция 16 105
16.1 Линейные пространства над полем 105
16.2 Многочлены над полем 106
16.3 Кольцо многочленов 107
16.4 Деление с остатком 108
16.5 Наибольший общий делитель 108
16.6 Значения многочлена и корни 109
16.7 Присоединение корня 110
Лекция 17 113
17.1 Комплексные многочлены 113
17.2 Последовательности комплексных чисел 113
17.3 Непрерывные функции на комплексной плоскости 114
17.4 Свойства модуля многочлена 114
17.5 Основная теорема алгебры 115
17.6 Разложение комплексных многочленов 116
17.7 Разложение вещественных многочленов 117
Лекция 18 119
18.1 Формулы Виета 119
18.3 Лексикографическое упорядочение 120
18.4 Симметрические многочлены 120
18.5 Ньютоновы суммы 122
Лекция 19 123
19.1 Алгебраические многообразия 123
19.2 Квадратичные многочлены от двух переменных 123
19.3 Поворот декартовой системы координат 124
19.4 Сдвиг декартовой системы координат 125
19.5 Эллине 126
19.6 Гипербола 128
19.7 Парабола 130
Лекция 20 131
20.1 Квадратичные многочлены от трех переменных 131
20.2 Декартовы системы и ортогональные матрицы 131
20.3 Метод вращений 132
20.4 Вложенные подпоследовательности 133
20.5 Диагонализация в пределе 134
20.6 Диагонализация вещественных симметричных матриц 135
Лекция 21 137
21.1 Приведенные уравнения поверхности второго порядка 137
21.2 Эллипсоид 138
21.3 Однополостный гиперболоид 138
21.4 Линейчатая поверхность 139
21.5 Двуполостный гиперболоид 139
21.6 Эллиптический конус 140
21.7 Эллиптический параболоид 140
21.8 Гиперболический параболоид 140
21.9 Цилиндрические поверхности 141
Лекция 22 143
22.1 Нормированное пространство 143
22.2 Выпуклые функции и неравенства 143
22.3 Неравенства Гельдера и Минковского 144
22.4 Нормы Гельдера 145
22.5 Зачем нужны нормы? 146
22.6 Нормы в бесконечномерном пространстве 147
22.7 Метрическое пространство 147
22.8 Пределы и полнота 148
Лекция 23 149
23.1 Множества в метрическом пространстве 149
23.2 Компактность и непрерывность 150
23.3 Компактность единичной сферы 150
23.4 Эквивалентные нормы 151
23.5 Компактность замкнутых ограниченных множеств 152
23.6 Наилучшие приближения 152
Лекция 24 155
24.1 Евклидово пространство 155
24.2 Унитарное пространство 155
24.3 Билинейные и полуторалинейные формы 156
24.4 Длина вектора 156
24.5 Тождество параллелограмма 157
24.6 Ортогональность векторов 159
24.7 Ортогональность множеств 160
24.8 Ортогональная сумма подпространств 160
Лекция 25 163
25.1 Матрица Грама 163
25.2 Скалярное произведение в конечномерном пространстве 164
25.3 Перпендикуляр и проекция 164
25.4 Ортогональные системы 165
25.5 Процесс ортогонализации 166
25.6 Дополнение до ортогонального базиса 167
25.7 Биортогональные системы 167
25.8 QR-разложение матрицы 168
Лекция 26 171
26.1 Линейные функционалы 171
26.2 Сопряженное пространство 172
26.3 Примеры линейных функционалов 172
26.4 Размерность дополнительного пространства 173
26.5 Линейные функционалы и гиперплоскости 173
26.6 Опорные гиперплоскости 174
Лекция 27 177
27.1 Линейные операторы 177
27.2 Непрерывность и ограниченность 177
27.3 Операторная норма 178
27.4 Матричная норма 179
27.5 Норма Фробениуса 180
27.6 Сохранение норм 180
27.7 Унитарно инвариантные нормы 181
27.8 Сингулярное разложение матрицы 182
Лекция 28 185
28.1 Матрица линейного оператора 185
28.2 Произведение линейных операторов 186
28.3 Переход к другим базисам 186
28.4 Преобразование подобия 187
28.5 Инвариантные подпространства 188
28.6 Ядро и образ линейного оператора 188
28.7 Обратный оператор 189
28.8 Ортогональные дополнения ядра и образа 190
Лекция 29 193
29.1 Диагонализуемые матрицы 193
29.2 Собственные значения и собственные векторы 194
29.3 Собственные векторы для различных собственных значений 195
29.4 Характеристическое уравнение 195
29.5 Алгебраическая кратность собственного значения 196
29.6 Характеристический многочлен и подобие 196
29.7 Приведение к почти треугольной матрице 196
29.8 Матрицы Фробениуса 197
29.9 Вычисление характеристического многочлена 198
Лекция 30 199
30.1 Одномерные инвариантные подпространства 199
30.2 Геометрическая кратность собственного значения 199
30.3 Матричное выражение инвариантности 200
30.4 Сужение оператора па подпространство 200
30.5 Инвариантные пространства и сдвиги 200
30.6 Треугольная форма матрицы 201
30.7 Спектральный радиус 201
30.8 Теорема Шура 202
30.9 Делители и подпространства 203
Лекция 31 205
31.1 Многочлены от матрицы 205
31.2 Корневые пространства 205
31.3 Нильпотентные операторы 206
31.4 Корневое разложение 207
31.5 Блочно диагональная форма матрицы 207
31.6 Теорема Гамильтона-Кэли 208
Лекция 32 209
32.1 Минимальное инвариантное подпространство 209
32.2 Жордановы цепочки 209
32.3 Жорданова форма матрицы 210
32.4 Индекс собственного значения 210
32.5 Жорданов базис в корневом пространстве 211
32.6 Существование и единственность жордановой формы 212
32.7 Инвариантные подпространства для вещественных матриц 213
32.8 Вещественный аналог жордановой формы 213
32.9 Вычисление жордановой формы 214
Лекция 33 217
33.1 Нормальные матрицы 217
33.2 Унитарные матрицы 218
33.3 Матрицы отражения и вращения 218
33.4 Эрмитовы матрицы 219
33.5 Эрмитово разложение 219
33.6 Неотрицательная и положительная определенность 220
33.7 Квадратный корень 220
33.8 Блочно диагональная форма вещественной нормальной матрицы 221
33.9 Блочно диагональная форма ортогональной матрицы 221
Лекция 34 223
34.1 Матрица Фурье 223
34.2 Циркулянтные матрицы 224
34.3 Алгебры матриц 225
34.4 Одновременное приведение к треугольному виду 226
34.5 Быстрое преобразование Фурье 227
Лекция 35 229
35.1 Сингулярные числа и сингулярные векторы 229
35.2 Полярное разложение 230
35.3 Выводы из сингулярного разложения 230
35.4 Сингулярное разложение и решение систем 231
35.5 Метод наименьших квадратов 231
35.6 Псевдообратная матрица 233
35.7 Наилучшие аппроксимации с понижением ранга 233
35.8 Расстояние до множества вырожденных матриц 234
Лекция 36 235
36.1 Квадратичные формы 235
36.2 Конгруэнтность 235
36.3 Канонический вид квадратичной формы 236
36.4 Закон инерции 236
36.5 Эрмитова конгруэнтность 237
36.6 Канонический вид нары квадратичных форм 237
36.7 Метод Лагранжа 238
36.8 Метод квадратного корня 239
36.9 Критерий положительной определенности 241
Лекция 37 243
37.1 Разделение собственных значений эрмитовой матрицы 243
37.2 Вариационные свойства собственных значений 244
37.3 Соотношения разделения 245
37.4 Критерий неотрицательной определенности 246
37.5 Вариационные свойства сингулярных чисел 248
37.6 Разделение сингулярных чисел 248
Лекция 38 249
38.1 Сопряженный оператор 249
38.2 Матрица сопряженного оператора 250
38.3 Нормальный оператор 251
38.4 Самосопряженный оператор 251
38.5 Минимизация на подпространствах 252
38.6 Метод сопряженных градиентов 252
38.7 Двучленные формулы 253
Лекция 39 255
39.1 Спектральные задачи 255
39.2 Непрерывность корней многочлена 255
39.3 Возмущение спектра матрицы 257
39.4 Преобразования отражения и вращения 258
39.5 Приведение к треугольному виду 259
39.6 Приведение к почти треугольному виду 259
39.7 Приведение к двухдиагональному виду 259
39.8 Вычисление сингулярных чисел 260
Лекция 40 263
40.1 Многомерные массивы и матрицы 263
40.2 Трехмерные массивы и трилинейные разложения 263
40.3 Сечения трехмерного массива 264
40.4 Примеры трилинейных разложений 265
40.5 Все не так 265
40.6 Эквивалентные трилинейные разложения 266
40.7 Единственность с точностью до эквивалентности 266
40.8 Тензорный ранг и умножение матриц 268.