Уровень жизни населения Республики Башкортостан

интеллектуальный анализ данных с помощью следующих программ: StatGraphics для компонентного и кластерного анализа, See5 для разработки баз знаний с помощью построения деревьев решений, Deductor для кластерного анализа с применением нейросети и карт Кохохена, MatLab для построения нейро – нечеткой сети ...

Введение
Задание на курсовую работу
Название предметной обсласти
Исходные данные
Компонентный анализ
Кластерный анализ
Построение деревьев решений
Нейросетевой анализ данных на основе обучения с учителем
Провести нейросетевой анализ данных на основе самоорганизующихся карт
Кохонена
Анализ гибридных (нейро – нечетких) сетей
Заключение
Список литературы
Приложение 1

В данном курсовом проекте интеллектуальный анализ данных об уровни жизни населения по районам республики Башкортостан за 2012 г. методами компонентного, кластерного анализа, построения дерева решений, а также нейросетевыми методами на основе карт Кохонена и обучения с учителем.
Цель анализа – выявления закономерностей вида классификации, кластеризации и формирование правил для разработки системы поддержки принятия решений, основанной на знаниях.

218, 25, 32, 23, 49, 43, 3, 8, 17, 4, 10, 53, 12, 38, 35, 24, 42, 29, 30, 40, 7, 51, 34, 20, 50, 21, 52, 45, 41, 39, 36, 16, 14.347, 48, 37, 9, 28, 11, 46.После чего были проведены расчеты коэффициентов информативности и были получены следующие результаты для компонентов.Записаны главные компоненты с характеристикой весов признаков:ЧН – численность населения;Р – рождаемость;С – смертность;РН – рабочее население;НрН – не рабочее население;ЧМ – число мужчин;ЧЖ – число женщин;F1 = 0,440088*ЧН + 0,151811*ЧМ + 0,150264*ЧЖ + 0,440078*НрН+ 0,439932*РН + 0,434785*Р + 0,429476*С;F2 = 0,0918094*ЧН – 0,690208*ЧМ – 0,691145*ЧЖ + 0,0908738*НрН + 0,0921789*РН + 0,093168*Р + 0,109851*С;F3 = – 0,149894*ЧН + 0,00553778*ЧМ + 0,0178819*ЧЖ – 0,188054*НрН – 0,138834*РН – 0,391806*Р + 0,876944*С;Определим названия для них по формуле: , (1)где [w2 – w3] – подмножество участвующих в названии весовых коэффициентов;[w] – все весовые коэффициенты Для первой компоненты:, (2)так как K1 принадлежит интервалу [0.75; 0.95] в подмножестве [w2 ; w3], а значит, первая компонента определяется следующими коэффициентами: численностью населения, не рабочим населением, рабочим населением, рождаемостью, смертностью.Для второй компоненты:, (3) так как K2 принадлежит интервалу [0.75; 0.95] в подмножестве [w2 ; w3], а значит, вторая компонента определяется следующими коэффициентами: число мужчин и число женщин.Для третьей компоненты:, (4)так как K2 принадлежит интервалу [0.75; 0.95] в подмножестве [w2 ; w3], а значит, третья компонента определяется следующими коэффициентами: смертностью.Таким образом, из полученных расчетов можно вынести следующие правила:Для первого компонента:Если численность население большое и число нерабочего населения большое, и число рабочего населения большое, и число рождаемости большое, и число смертности большое, то кластер 2.Если численность население большое и число нерабочего населения большое, и число рабочего населения большое, и число рождаемости большое, и число смертности маленькое, то кластер 1.Если численность население большое и число нерабочего населения большое, и число рабочего населения среднее, и число рождаемости среднее, и число смертности маленькое, то кластер 3.Для второго компонента:Если число мужчин большое и число женщин большое то кластер 1.Если число мужчин среднее и число женщин среднее то кластер 2.Если число мужчин маленькое и число женщин маленькое то кластер 3.Для третьего компонента:Если число смертности большое то кластер 1.Если число смертности среднее то кластер 2.Если число смертности маленькое то кластер 3.Кластерный анализ.Теперь для нашей выборки проведем кластерный анализ, для этого выберем число кластеров, равное числу классов и получим данные о количестве данных в каждом кластере, представленных на рис. 6.Рис. 6. Окно с первичной сводкой кластерного анализа.Исходя из сводки можно вынести, следующие правила классификации, для этого нужно удалить некоторые признаки таких как «число мужчин» и «число женщин», которые не сильно отличаются для разных кластеров, поэтому правила формируются на основании остальных признаков:Для первого кластера:Если численность население среднее и число не рабочего население среднее, и число рождаемости среднее, и число смертности среднее;Для второго кластера: Если численность население маленькое и число не рабочего население маленькое, и число рождаемости маленькое, и число смертности маленькое;Для третьего кластера:Если численность население большое и число не рабочего население большое, и число рождаемости большое, и число смертности большое.Для наглядного отображения структуры кластеров построим дендрограмму, отображающей иерархическую структуру группирования объектов (рис. 7).Рис. 7. Дендрограмма кластеров.Выведем список объектов для каждого кластера в виде таблицы 3.Таблица 3 – таблица «Membership Table»RowClusterRowClusterRowCluster112424712125248332261492422725025228351261292521723025328231154193322102332113342122352131362142373151382162392172402182412192422201432212442223452232463Для вынесения правил в кластерном анализе используют диаграмму рассеивания на плоскости признаков.Первый признак «Численность населения» и «Число мужчин» (рис. 8):Рис. 8. Диаграмма рассеивания с признаками «Численность населения» и «Число мужчин».Второй признак «Число рождаемости» и «Число смертности» (рис. 9):Рис. 9. Диаграмма рассеивания с признаками «Число рождаемости» и «Число смертности».Исходя, из данной диаграммы можно выписать, номера объектов (№ районов) по всем выделенным кластерам (таблица 4).Таблица 4 – Список кластеровКластер№ района РБПродолжение Таблицы 4.11, 2, 6, 13, 15, 20, 26, 31, 47, 52, 5423, 4, 5, 7, 8, 10, 12, 14, 16, 17, 18, 19, 21, 23, 24, 25, 27, 29, 30, 32, 33, 34, 35, 36, 38, 39, 40, 41, 42, 43, 44, 45, 49, 50, 51, 5339, 11, 22, 28, 37, 46, 48Теперь для сопоставления двух методов классификации создадим сводную таблицу разбиения (таблица 5).Таблица 5 – Сравнение компонентного и кластерного анализа.№ района РБКомпонентный анализКластерный анализ111211322422512611722822933102211331222131114221511162217221822191220212122221323222422252226112712283329223022Продолжение Таблицы 5.311132223312342235223622373338223922402241224222432244124522463347314833492250225122522153225411И для анализа результатов, полученных на основе проведения компонентного и кластерного анализов, сравним их по двум показателям:По составу объектов (районов) в выделенных группах, видим, что только девять компонентов не совпадают по кластерам и классам: это Аургазинский район, Гафурийский район, Илишевский район, Краснокамский район, Стерлитамакский район, отнесенные к первому классу, но который находится во втором кластере. Давлекановский и Чишминский район, отнесенные ко второму классу, но который находится в первом кластере. Уфимский район, отнесенный к третьему классу, но который находится в первом кластере, а также Дюртюлинский район, отнесенные к первому классу, но который находится в третьем кластере.По сформированным правилам, видим, что правила компонентного и кластерного анализа совпадают.Построение деревьев решений.Разработка баз знаний при помощи построении деревьев решений в системе See5 на основе интеллектуального анализа данных уровня жизни населения по районам Республики Башкортостан за 2012 год состоит из следующих этапов:Первый этап:Подготовили данные для анализа. Подготовка данных для анализа в системе See5 предположили создание двух обязательных файлов: файла имен переменных и файла данных. Файл имен переменных содержит перечисление имен разделяющих признаков и указанием классифицирующего признака. Создаем файл в любом текстовом редакторе и сохранили его с расширением *.names (рис. 10).Рис. 10. Файл имен переменных «yroven.names».Файл данных содержит сведения об объектах (районах РБ). В файле по строкам располагаются объекты, а по столбцам признаки, в том порядке, в котором они заданы в файле имен переменных. Если значение целевой переменной находится вверху файла имен переменных, то строка начинается со значения этой целевой переменной. Затем через запятую установили значения всех остальных признаков. Создаем файл в любом текстовом редакторе и сохранили его с расширением *.data (рис. 11).Рис. 11. Файл данных «yroven.data».Второй этап:На данном этапе запускаем программу See5 и при помощи функции Locate Data загружаем в систему файл данных «yroven.data» (рис. 12) и построили классификатор Construct Classifier. Анализ полученного дерева решений производился на основе сформированного отчета в See5 (рис. 13).Рис. 12. Загрузка файла данных «yroven.data».Рис. 13. Отчет See5.В первой строке отчета о результатах дается информация, об используемой версии системы See5 и время, затраченное на создание отчета. В последующих двух строках видим, что прочтенный файл данных «yroven.data» содержит 54 объекта, каждый из которых описан 8 признаками.В следующем разделе отчета производились характеристики сконструированного классификатора, оцениваемые на обучающей выборке. Здесь мы видим, что построенное дерево решений имеет 3 ветки (size=3), а ошибка классификации составляла на 0 объектах, что составляет 0,0%.В завершающей части отчета дается таблица с детальным разбором результатов классификации. Исходя из данных этой таблицы, можно сказать, что из первого класса (class1) правильно классифицируются 11 объекта; среди объектов второго класса (class2) 36 диагностируются правильно; все объекты третьего класса (class3) классифицируются остальные 7 объекта правильно, т.е. без ошибочно.Третий этап:Преобразуем, дерево решений в набор правил (рис. 14). В ряде случаев полученное дерево решений может оказаться слишком сложным для восприятия. Рис. 14. Список правил See5.Более подробный анализ результатов классификации производится при помощи перекрестных ссылок, где отображается в левой части, которого перечислены объекты, попавшие в ту или иную ветвь дерева (рис. 15).Рис. 15. Окно задания перекрестных ссылок.Четвертый этап:В режиме консультации выполняется проверка эффективности построенной системы, где станет доступным окно задания исходных значений переменных. Результат, которого будет сформирован в виде рекомендуемого решения с коэффициентом уверенности (рис. 16).Рис. 16. Режим консультации.Нейросетевой анализ данных на основе обучения с учителем.Для следующего шага дополним нашу полную выборку еще одним столбцом, в котором указали номера соответствующие номером кластера, полученных в компонентном и кластерном анализе (таблица 6).Таблица 6 – Уровень жизни населения с дополнительным столбцом «№ Кластера».Районы№ районаЧисленность населенияРождаемостьСмертностьРабочее населениеНе рабочее населениеЧисло мужчинЧисло женщин№ КластераАбзелиловский1,0045600,00825,00579,0021975,0023046,0021009,0022253,001,00Альшеевский2,0043600,00551,00709,0021249,0021642,0022953,0025445,001,00Архангельский3,0018292,00305,00366,008841,009085,009772,0010393,002,00Аскинский4,0020486,00327,00330,009916,0010240,0011689,0012239,002,00Аургазинский5,0036226,00439,00539,0017674,0018013,0018679,0020317,002,00Баймакский6,0058028,001069,00787,0027945,0029296,0021381,0022833,001,00Бакалинский7,0028224,00376,00520,0013736,0013968,0015589,0016738,002,00Балтачевский8,0020889,00280,00406,0010650,009833,0011905,0012790,002,00Белебеевский9,00100848,001318,001281,0049106,0050461,008270,009090,003,00Белокатайский10,0019684,00311,00328,009531,009825,0010943,0011680,002,00Белорецкий11,00106408,001634,001850,0051570,0052988,0014172,0014915,003,00Бижбулякский12,0025361,00342,00411,0012339,0012611,0013598,0014401,002,00Бирский13,0062495,00841,00753,0030407,0031335,009670,0010213,001,00Благоварский14,0025805,00332,00400,0012570,0012835,0012213,0013557,002,00Благовещенский15,0049922,00831,00698,0024130,0025094,007655,008206,001,00Буздякский16,0029926,00374,00447,0014589,0014890,0014833,0016345,002,00Бураевский17,0024449,00270,00462,0011954,0012033,0013428,0014892,002,00Бурзянский18,0016641,00352,00175,007968,008498,008410,008429,002,00Гафурийский19,0033503,00537,00585,0016214,0016704,0017860,0018901,002,00Давлекановский20,0042021,00556,00515,0020454,0021052,008764,009514,001,00Дуванский21,0030959,00515,00368,0014954,0015637,0015327,0016689,002,00Продолжение Таблицы 6.Дюртюлинский22,0063934,00866,00860,0031101,0031973,0015834,0017154,003,00Ермекеевский23,0016766,00204,00279,008179,008308,0013865,0014968,002,00Зианчуринский24,0027325,00421,00377,0013241,0013707,0014522,0015569,002,00Зилаирский25,0016212,00239,00243,007867,008102,009108,009831,002,00Иглинский26,0050368,00695,00766,0024489,0025113,0021794,0023598,001,00Илишевский27,0034066,00467,00540,0016566,0016960,0017366,0018915,002,00Ишимбайский28,0090840,001180,001431,0044240,0045169,0012406,0013204,003,00Калтасинский29,0025638,00404,00457,0012415,0012766,0013970,0014911,002,00Караидельский30,0027369,00379,00439,0013305,0013625,0013650,0014644,002,00Кармаскалинский31,0050877,00673,00674,0024705,0025498,0026136,0028449,001,00Кигинский32,0018918,00249,00270,009210,009438,009529,0010296,002,00Краснокамский33,0027830,00365,00460,0013550,0013820,0012958,0014594,002,00Кугарчинский34,0030787,00472,00479,0014921,0015387,0016480,0017723,002,00Кушнаренковский35,0027181,00333,00367,0013257,0013557,0013761,0015583,002,00Куюргазинский36,0024957,00385,00422,0012093,0012442,0012277,0013310,002,00Мелеузовский37,0087150,001154,001135,0042421,0043594,0012814,0013909,003,00Мечетлинский38,0024671,00355,00364,0011980,0012327,0012261,0013343,002,00Мишкинский39,0024757,00368,00365,0012010,0012382,0013344,0013755,002,00Миякинский40,0027492,00357,00461,0013389,0013642,0015382,0016407,002,00Нуримановский41,0020667,00318,00325,0010015,0010327,0010567,0011365,002,00Салаватский42,0025910,00447,00354,0012508,0013048,0013719,0014797,002,00Стерлибашевский43,0019926,00248,00328,009715,009883,0010070,0010650,002,00Стерлитамакский44,0040836,00520,00550,0019898,0020388,0018395,0019304,002,00Татышлинский45,0024797,00362,00374,0012036,0012387,0012878,0013925,002,00Туймазинский46,00130942,001953,001610,0063518,0065814,0014802,0016121,003,00Уфимский47,0069096,00883,00744,0033665,0034687,0026742,0029609,001,00Учалинский48,0073247,001199,001006,0035242,0036999,0017377,0018272,003,00Продолжение Таблицы 6.Федоровский49,0018303,00216,00281,008935,009087,009254,0010421,002,00Хайбуллинский50,0032975,00544,00435,0015943,0016597,0015978,0017094,002,00Чекмагушевский51,0030369,00415,00481,0014757,0015131,0015705,0017326,002,00Чишминский52,0052202,00731,00698,0025370,0026134,0025294,0027369,001,00Шаранский53,0022111,00331,00361,0010724,0011026,0011810,0012684,002,00Янаульский54,0047343,00705,00756,0022966,0023621,0010843,0012018,001,00Выберем структуру нейронной сети. Так как перед нами стоит задача классификации по небольшому количеству достаточно однородных признаков, то выберем её опытным путем. В качестве входных полей выберем численные параметры: «№ района», «Численность населения», «Рождаемость», «Смертность», «Рабочее население», «Не рабочее население», «Число мужчин», «Число женщин», выходным полем является поле «Кластер».Теперь проведем обучение нашей нейронной сети, выбрав в качестве алгоритма алгоритм обратного распространения ошибки, где количество эпох равным 10000 и значение ошибки 0,005. Структура нейронной сети (8х2х1), которая имеет нейроны в слоях: входных – 8; выходной – 1; скрытый слой – 1, который имеет по 2 нейрона (рис. 17 и рис. 18).Рис. 17. Результат обучения сети (8х2х1).Рис.18. Граф (8х2х1) нейросети. Структура нейронной сети (8х2х2х1), которая имеет нейроны в слоях: входных – 8; выходной – 1; скрытый слой – 2, который имеет по 2 нейрона (рис. 19 и рис. 20).Рис. 19. Результат обучения сети (8х2х2х1).Рис. 20. Граф (8х2х2х1) нейросети.Структура нейронной сети (8х3х3х1), которая имеет нейроны в слоях: входных – 8; выходной – 1; скрытый слой – 2, который имеет по 3 нейрона (рис. 21 и рис. 22).Рис. 21. Результат обучения сети (8х3х3х1).Рис. 22. Граф (8х3х3х1) нейросети.Структура нейронной сети (8х3х3х1), которая имеет нейроны в слоях: входных – 8; выходной – 1; скрытый слой – 2, который имеет по 4 нейрона (рис. 23 и рис. 24).Рис. 23. Результат обучения сети (8х4х4х1).Рис. 24. Граф (8х4х4х1) нейросети.Видно, что сеть, состоящая из двух скрытых слоев по 4 нейрона в каждом, обучилась лучше всего: распознано 100% в обучающем множестве и 100% в тестовом, при этом скорость обучения одна из самых лучших.Сравним выводимые результаты сетей с заданными параметрами (таблица 7).Таблица 7 – Сравнение нейросетей.Сеть (8х2х1)Сеть (8х2х2х1)Сеть (8х3х3х1)Сеть (8х4х4х1)кластеркластер_OUTкластеркластер_OUTкластеркластер_OUTкластеркластер_OUT11111111111111112222222222222222222222221111111122222222222222223333333322222222333333332222222212111111222222221211111122222222222222222222222222222222121111112222222233333333222222222222222222222222111111112222222233333333222222222222222211111111222222222222222222222222Продолжение Таблицы 7.2222222222222222333333332222222222222222222222222222222222222222222222222222222222222222333333331111111133333333222222222222222222222222111111112222222212111111Здесь можно сделать неоднозначный вывод: с другой стороны. Сети (8х2х2х1), (8х3х3х1) и (8х4х4х1), выделили первый класс. Сеть (8х4х4х1) показала лучший результат и для всех остальных классов. Однако приемлемый результат уже достигается для сети (8х3х3х1). Которую можно также использовать для анализа, кроме того она имеет более простую структуру. Другая сеть (8х2х1) исправно разделила выборку на два кластера.Теперь рассмотрим объект с минимальными показателями (рис. 25).Рис. 25. Компонент с низкими показателями.Объект попал в самый «худший» класс – 2. Теперь увеличим все показатели (рис. 26).Рис. 26. Компонент со средними показателями.Новый объект перешел в средний класс – 3. Продолжим, и увеличим все параметры до максимума (рис. 27).Рис. 27. Компонент с высокими показателями.Достигли лучшего класса – 1.Провести нейросетевой анализ данных на основе самоорганизующихся карт Кохонена.Для сравнения полученных результатов при обучении с учителем проведем процесс обучения с помощью карт Кохонена, выбрав следующие параметры: количество эпох – 10000, значение ошибки меньше 0,005, скорость обучения в начале – 0,3, а в конце – 0,005 и функцию соседства Гаусса. Для начала поставим автоматическое разбивание на кластеры. Получим следующие результаты обучения (рис. 28).Рис. 28. Результат обучения самоорганизующихся карт Кохонена при автоматическом делении.После обучения получаем карты Кохонена следующего вида:Численности населения, рождаемости, смертности, рабочего населения, не рабочего населения, число мужчин (рис. 29);Рис. 29. Карты Кохонена при автоматическом разбиении на группы.Число женщин, кластер, матрица расстояний, матрица ошибок квантования, матрица плотности попадания, кластеры (рис. 30);Рис. 30. Карты Кохонена при автоматическом разбиении.Проекция Саммона (рис. 31):Рис. 31. Карты Кохонена при автоматическом разбиении (проекция Саммона).