Теория вероятностей и математическая статистика

МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ

Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования

Томский государственный университет систем управления и радиоэлектроники

Кафедра автоматизированных систем управления

УТВЕРЖДАЮ

Зав. кафедрой АСУ

профессор, д-р. техн. наук

___________

«28» августа 2013 г.

Теория вероятностей и математическая статистика

Методические указания по практическим занятиям и самостоятельной работе для направления

010400 – Прикладная математика и информатика (бакалавр)

Томск-2013

Теория вероятностей и математическая статистика: методические указания по практическим занятиям и самостоятельной работе студентов по направлению 010400 – «Прикладная математика и информатика» / . – Томск: ТУСУР, 2013. – 9 с.

Методические указания разработаны на основании рабочей программы и в соответствии с решением кафедры автоматизированных систем управления

Составитель: д. ф.-м. н., профессор каф. АСУ

Методические указания рассмотрены и утверждены на заседании кафедры автоматизированных систем управлениям 28 августа 2013 г., протокол № 1

© ТУСУР, каф. АСУ, 2013

© . 2013

СОДЕРЖАНИЕ

1. ОБЩИЕ РЕКОМЕНДАЦИИ

Дисциплина “Теория вероятностей и математическая статистика” входит в цикл профессиональных дисциплин.

Целью дисциплины является формирование у студентов научного представления о случайных событиях, величинах и случайных процессах, а также о методах их исследования.

Основной задачей дисциплины является усвоение методов количественной оценки характеристик случайных событий и величин, приобретение практических навыков и знаний для решения задач по теории вероятностей, случайным процессам и математической статистике.

Процесс изучения дисциплины Теория вероятностей и математическая статистика» направлен на формирование следующих компетенций:

общекультурные компетенции (ОК):

·  Выпускник должен обладать способностью владеть культурой мышления, аргументировано и ясно строить устную и письменную речь (ОК-1);

профессиональные компетенции (ПК):

Выпускник должен обладать способностью демонстрации базовых знаний естественных наук, математики и информатики, понимание основных фактов, концепций, принципов теорий, связанных с прикладной математикой и информатикой (ПК-1); Выпускник должен обладать способностью приобретать новые научные знания, используя современные образовательные и информационные технологии (ПК-2); Выпускник должен обладать способностью понимать и применять в исследовательской деятельности современный математический аппарат (ПК-3); Выпускник должен обладать способностью собирать, обрабатывать и интерпретировать данные современных научных исследований, необходимые для формирования выводов по соответствующим научным, профессиональным, социальным и этическим проблемам (ПК-7).

Знать:

основные дискретные и непрерывные распределения случайных величин и их свойства; смысл и постановку задач двух основных направлений математической статистики − испытания статистических гипотез и оценивания параметров распределений; основы методики применения статистических методов; методы статистического оценивания параметров распределений случайных величин и случайных процессов; основные методы статистической обработки экспериментальных, и имитационных данных, оценки их точности и надежности; основные понятия теории случайных процессов и их классификацию;

Уметь:

·  рассчитывать вероятности событий в типичных моделях, числовые характеристики одномерных и многомерных случайных величин по их распределениям, моменты и распределения функций случайных аргументов;

·  применять методы статистического анализа выборочных данных и случайных процессов;

·  интерпретировать результаты статистического анализа и использовать их при построении математических моделей.

Владеть:

·  практическими навыками численных расчетов оценок параметров распределений и случайных процессов;

·  практическими навыками анализа выборочных данных.

Дисциплина «Теория вероятностей и математическая статистика» относится к числу дисциплин профессионального цикла. Успешное овладение дисциплиной предполагает предварительные знания, полученные в предыдущих дисциплинах: «Математический анализ», «Дискретная математика». Знания, полученные студентами по этой дисциплине, будут использоваться при изучении курсов: «Математические модели обработки данных», «Компьютерное моделирование», «Исследование операций», «Методика планирования эксперимента»; при выполнении учебно-исследовательской и научно-исследовательской работы.

Наиболее полное изложение теоретического материала можно найти в учебнике [1] и в конспекте лекций [2]. В этих книгах достаточно полно рассмотрен материал, предложенный для самостоятельного изучения. Для более углубленного изучения теоретического материала будет полезна дополнительная литература. Необходимые рекомендации для решения задач при подготовке к практическим занятиям и при выполнении индивидуального задания можно найти в руководстве [5], а также в задачниках [6, 7]. При подготовке к контрольным работам будут полезны задачи, приведенные в учебном пособии [8].

2. СОДЕРЖАНИЕ ДИСЦИПЛИНЫ

2.1 Теоретический материал (лекции 54 часа)

Тема 1. Введение.

Предмет теории вероятностей. Виды случайных явлений: события, величины, процессы. Способы их изучения: аксиоматический и эмпирический подходы. Рекомендуемая литература.

Тема 2. Случайные события

Алгебра событий, пространство элементарных событий. Непосредственный подсчет вероятностей (классическое определение). Геометрическая вероятность. Аксиоматическое определение вероятности. Основные теоремы теории вероятностей: теорема сложения вероятностей, условная вероятность, теорема умножения вероятностей, формула полной вероятности, формула Байеса. Независимые испытания, схема Бернулли. Предельные теоремы в схеме Бернулли.

Тема 3. Одномерные случайные величины

Понятие случайной величины. Ряд распределения и функция распределения одномерной дискретной случайной величины. Распределение Пуассона. Функция распределения и плотность вероятности одномерной непрерывной случайной величины. Равномерное, нормальное, экспоненциальное и логнормальное распределения. Числовые характеристики одномерных случайных величин: начальные моменты, центральные моменты, математическое ожидание, дисперсия, коэффициент асимметрия, эксцесс, медиана, мода, квантили. Производящая функция.

Тема 4. Многомерные случайные величины

Понятие системы случайных величин. Матрица распределения двумерной дискретной случайной величины. Функция распределения системы случайных величин. Плотность распределения вероятностей. Условные законы распределения. Числовые характеристики двумерной случайной величины: кривые регрессии, условные дисперсии, ковариация, коэффициент корреляции. Энтропия, количество информации. Многомерный нормальный закон распределения. Комплексные случайные величины. Законы распределения функций от случайных величин (одномерный и многомерный случаи). Примеры построения законов распределения. Распределение функций нормальных случайных величин: распределения Пирсона, Стьюдента, Фишера. Характеристическая функция и ее свойства.

Тема 5. Предельные теоремы теории вероятностей

Значение предельных теорем. Сходимость по вероятности. Неравенство Чебышева. Теоремы Чебышева и Бернулли. Центральная предельная теорема. Роль нормального распределения в приложениях.

Тема 6. Математическая статистика

Предмет математической статистики. Генеральная и выборочная совокупности. Понятие выборки. Эмпирическая функция распределения. Полигон частот, гистограмма. Точечные оценки и их свойства: несмещенность, состоятельность и эффективность. Неравенство Крамера-Рао. Оценка неизвестной вероятности. Методы нахождения точечных оценок: метод моментов, метод максимального правдоподобия, метод наименьших квадратов. Оценки математического ожидания и дисперсии нормальной случайной величины. Интервальное оценивание. Доверительные интервалы для параметров нормального распределения. Линейные статистические модели. Метод наименьших квадратов при сглаживании результатов эксперимента. Проверка статистических гипотез. Проверка простой гипотезы против простой альтернативы: байесовское решение, Проверка простой гипотезы о параметре распределения нормальной случайной величины. Сложные гипотезы. Проверка гипотезы о законе распределения: критерии хи-квадрат и Колмогорова, принадлежность двух выборок к одному и тому же закону распределения.

Тема 7. Случайные процессы

Понятие случайного процесса. Корреляционная функция и энергетический спектр случайного процесса. Стационарные и нестационарные случайные процессы. Эргодические случайные процессы. Гауссовские и марковские случайные процессы. Спектральное разложение стационарного случайного процесса. Теорема Винера-Хинчена. Широкополосные и узкополосные случайные процессы, белый шум.

2.2 Практические занятия (72 часа)

Практические занятия предназначены для закрепления лекционного материала, обсуждения тем, предложенных для самостоятельного изучения, приобретения навыков по решению типовых задач и выполнения контрольных работ.

Темы занятий:

1.  Соотношения между случайными событиями. Непосредственный подсчет вероятностей;

2.  Геометрическая вероятность. Теоремы умножения и сложения вероятностей;

3.  Формула полной вероятности. Формула Байеса;

4.  Контрольная работа №1. Тема работы – случайные события;

5.  Ряд распределения дискретной случайной величины. Функция распределения и плотность распределения вероятностей одномерной случайной величины. Математическое ожидание и дисперсия.;

6.  Схема Бернулли. Распределение Пуассона, геометрическое и гипергеометрическое распределения. Экспоненциальный и нормальный законы распределения;

7.  . Контрольная работа №2. Тема работы – одномерные случайные величины;

8.  Функция и плотность распределения вероятностей многомерной случайной величины;

9.  Числовые характеристики двумерной случайных величин;.

10.  Контрольная работа №3. Тема работы – двумерные случайные величины;

11.  Функции от случайных величин;

12.  Характеристическая функция;

13.  Контрольная работа №4. Тема работы – итоговая работа по теории вероятностей;

14.  Первичная обработка экспериментальных данных;

15.  Оценки, их состоятельность, несмещенность. Доверительные интервалы;

16.  Вычисление оценок максимального правдоподобия;

17.  Статистическая проверка гипотез. Критерии согласия Пирсона и Колмогорова;

18.  Метод наименьших квадратов для простой линейной регрессии;

19.  Коллоквиум по математической статистике;

20.  Спектральное разложение стационарного случайного процесса.

2.3. Самостоятельная работа (198 часов)

Самостоятельная работа предназначена для проработки лекционного материала, подготовки к практическим занятиям, самостоятельному изучению тем теоретической части и подготовки к экзамену.

2.3 Темы для самостоятельного изучения

1.  Гипергеометрический и геометрический законы распределения.

2.  Двумерное нормальное распределение, регрессия.

3.  Оценки максимального правдоподобия параметров нормального, экспоненциального, пуассоновского и биномиального распределений».

4.  Доверительные интервалы для оценки параметров нормального распределения.

5.  Нормальный случайный процесс, эргодические случайные процессы и их свойства, белый шум.

2.4. Темы контрольных работ:

3. СПИСК ВОПРОСОВ ДЛЯ ПОДГОТОВКИ К ЭКЗАМЕНУ И КОЛЛОКВИУМУ

1.   Понятие события. Пространство элементарных событий. Объединение, пересечение и разность событий.

2.   Классическое определение вероятности. Геометрические вероятности. Аксиоматическое определение вероятности.

3.   Условные вероятности, зависимые и независимые события. Формула умножения вероятностей. Правило сложения вероятностей.

4.   Формула полной вероятности. Формула Байеса

5.   Испытания Бернулли (биномиальное распределение). Предельные теоремы в схеме Бернулли.

6.   Пуассоновский поток и распределение Пуассона.

7.   Дискретная случайная величина. Ряд распределения. Функция распределения вероятностей непрерывной случайной величины и ее свойства.

8.   Плотность распределения вероятностей и ее свойства. Числовые характеристики случайных величин (начальные и центральные моменты – среднее, дисперсия, коэффициенты асимметрии и эксцесса.

9.   Закон распределения функции от случайной величины.

10. Математическое ожидание и дисперсия функции от случайных величин.

11. Двумерная дискретная случайная величина, матрица распределения.

12. Функция распределения двумерной случайной величины и ее свойства.

13. Плотность распределения вероятностей системы двух случайных величин и ее свойства.

14. Законы распределения отдельных случайных величин входящих в систему случайных величин. Условные законы распределения.

15. Числовые характеристики двумерной случайной величины: кривые регрессии, условные дисперсии, ковариация, коэффициент корреляции.

16. Условные математические ожидания и дисперсии системы двух случайных величин.

17. Соотношение понятий независимости и некоррелированности случайных величин.

18. Свойства дисперсии и коэффициента корреляции.

19. Среднее и дисперсия случайной величины имеющей биномиальное распределение.

20. Функциональные преобразования системы двух случайных величин.

21. Доказать, что m1(aX+bY)=am1(X)+bm1(Y). Среднее произведения двух случайных величин.

22. С помощью аппарата характеристических функций доказать, что сумма независимых нормальных случайных величин – нормальная случайная величина.

23. Понятие характеристической функции и ее свойства. Характеристическая функция пуассоновской случайной величины.

24. Среднее и дисперсия случайной величины распределенной по закону Пуассона (использовать характеристическую функцию .

25. Нормальное и показательное распределения.

26. Двумерное нормальное распределение.

27. Центральная предельная теорема.

28. Математическая статистика. Что это за дисциплина, с решением каких задач она связана?

29. Понятие выборки и формы ее записи. Группированный статистический ряд, полигон частот, гистограмма.

30. Эмпирическая функция распределения.

31. Понятие сходимости по вероятности последовательности случайных величин. Терема Чебышева и следствия из нее.

32. Оценка неизвестных параметров закона распределения.

33. Понятие состоятельности, несмещенности и эффективности оценки.

34. Метод моментов. Оценки математического ожидания и дисперсии случайной величины. Их свойства.

35. Функция правдоподобия и оценка максимального правдоподобия. Приближенное решение уравнения правдоподобия.

36. Примеры применения метода максимума правдоподобия для оценки параметров распределения.

37. Метод наименьших квадратов оценки неизвестных параметров распределения.

38. Интервальные оценки параметров распределения. Доверительный интервал.

39. Доверительный интервал для дисперсии нормальной случайной величины.

40. Задачи статистической проверки гипотез. Понятие гипотезы. Простые и сложные гипотезы.

41. Проверка простой гипотезы против простой альтернативы. Ошибки первого и второго рода.

42. Понятие критерия согласия. Критерии согласия Пирсона и Колмогорова.

43. Понятие случайного процесса. Классификация случайных процессов.

44. Основные характеристики случайного процесса: мат. ожидание, дисперсия, корреляционная и взаимная корреляционная функции, их свойства.

45. Понятие стационарного случайного процесса в широком и узком смысле. Эргодические случайные процессы.

46. Спектральное разложение стационарного случайного процесса. Теорема Винера-Хинчина.

4. СПИСОК РЕКОМЕНДУЕМОЙ ЛИТЕРАТУРЫ

4.1 Основная литература

4.2 Дополнительная литература

4.3 Учебно-методические пособия