Нейросетевые технологии

Содержание
Введение 3
1. Основные понятия нейросетевых технологий 5
1.1 Устройство нейронных сетей 5
1.2 Формальная модель нейрона и нейросети 9
1.3 Виды нейронных сетей 12
1.4 Принципы обучения 14
2. Применение нейронных сетей 18
2.1 Пример 1. Система контроля за несанкционированной деятельностью пользователей компьютерной сети 20
2.2 Пример 2. Применение нейронных сетей в системах распознвания образов 28
Заключение 33
Источники информации 36
 

После обучения нейронной сети на данных нескольких сеансов обучения с ее помощью можно анализировать деятельность пользователя в сети по информации файла аудита любого другого сеанса. В режиме тестирования на вход нейронной сети также предъявляется mкоманд, а полученное значение выхода сети сравнивается с реальной(m+ 1) -й командой. Если относительное количество правильно предсказанных команд на протяжении всего сеанса выше заданного порога, то поведение пользователя считается "нормальным", если нет — значит пользователь либо резко изменил свое поведение либо под его именем работает другой пользователь. Поскольку пользователям свойственно изменять поведение с течением времени, то в процессе работы для обеспечения адаптации к их поведению, требуется периодически дообучать сеть.Такой подход обладает следующими преимуществами:независимость от количества пользователей в системе, поскольку с каждым пользователем связывается отдельная нейронная сеть;возможность выявления тонких закономерностей в поведении пользователя благодаря использованию информации не только о статистике выполнения команд но и об их последовательности;возможность приспособления к изменяемому поведению пользователей;возможность обучения сети на реальных данных без необходимости генерировать случайно или придумывать "аномальные" данные.Для эффективного решения задачи идентификации и прогнозирования состояний компьютерной сети предлагается использовать в составе систем управления средства идентификации и прогнозирования, в основу функционирования которых положен метод, использующий аппарат теории нейронных сетей. Архитектура системы, реализующей метод управления компьютерными сетями, представлена на рисунке и состоит из семи основных функциональных блоков:Блок доступа к оборудованию – предоставляет доступ к информации о состоянии объекта по компьютерной сети.Блок поиска объектов сети – осуществляет поиск объектов компьютерной сети и воссоздания ее топологии.Блок сбора статистики – осуществляет сбор статистических данных о каждом найденном блоком поиска объекте.База данных статической информации – используется для хранения собранных данных об объектах сети.Блок нейронной сети – включает в себя нейронную сеть.Блок управления и прогнозирования– осуществляет контроль над всеми элементами системы и формирует прогноз о состоянии компьютерной сети на основе данных, получаемых с выходного уровня нейронной сети.Среда визуализации – представляет собой графический интерфейс пользователя.Данная архитектура системы управления реализует метод, позволяющий не только идентифицировать ошибку в работе объекта компьютерной сети и всей компьютерной сети в целом, как это делается в известных системах управления сетями, но и предотвратить ее появление в будущем за счет формирования прогноза и принятия решения на основе этого прогноза по управлению объектами компьютерной сети. Реализации предлагаемой архитектуры позволит повысить качество принимаемого решения по управлению компьютерной сетью, так как при формировании прогноза состояния объектов компьютерной сети и состояния компьютерной сети в целом, используется многомерные векторы, описывающих состояние каждого объекта компьютерной сети. Рисунок 2.2 Блок-схема системы прогнозирования состояния компьютерных сетей2.2 Пример 2. Применение нейронных сетей в системах распознавания образовРаспознавание образов является одним из важных шагов в обработке изображений и из немногих биометрических методов, которые обладают достоинствами, как высокой точности, так и низкого вмешательства. Самоорганизующиеся карты (SelfOrganizingMaps - SOM) представляют собой нейронные сети, обучаемые без учителя. Они используются для классификации и распознавания образов, которые могут быть использованы на многих этапах обработки изображений [1- 3]. На рисунке 2.2представлена блок-схема системы распознавания образов. На первом этапе, вычисляется 2D-DCT (двумерное дискретное косинусное преобразование) для каждого изображения, и из коэффициентов DCT (дискретное косинусное преобразование) образуются векторы признаков. На втором этапе, SOM (самоорганизующаяся карта) используется методом «Обучение без учителя» для классификации векторов на группы, чтобы распознавать объект, который во входном изображении присутствует или нет в базе данных изображений. Если объект классифицируется как присутствующий, то изображение наилучшего совпадения, найденного в базе данных обучения, отображается как результат, иначе результат показывает, что объект не найден в базе данных изображений [4,5].Рисунок 2.3– Структура системы распознавания образовDCT представляет изображение в виде суммы синусоид с различной амплитудой и частотой. Функция dct2 в приложении инструментария обработки изображений реализует 2D- DCT изображений. Одна из особенностей дискретного преобразования Фурье состоит в том, что некоторые локальные участки изображения можно охарактеризовать небольшим количеством коэффициентов дискретного преобразования Фурье. Это свойство очень часто используется при разработке методов сжатия изображений. Например, DCT является основой международного стандарта, который используется в алгоритме сжатия изображений с потерями JPEG. Название формата “JPEG” состоит из первых букв названия рабочей группы, которая принимала участие в разработке этого стандарта (JointPhotographicExpertsGroup).DCT обладает тем свойством, что для типичного изображения большинство визуально значимая информация об изображении сосредоточена в нескольких коэффициентах. Извлеченные коэффициенты DCT могут быть использованы как тип подписи, которая является полезной для задач распознавания, таких как распознавание образов и лиц [4, 5].Если есть образец, первый шаг в распознавании образов заключается в выборе набора признаков или атрибутов из всех доступных признаков, которые будут использоваться для классификации образца. Далее, исходный образец должен быть преобразован в представление, которым легко манипулировать программно. После того, как данные обработаны с целью удаления шумов, находят признаки в данных как относящиеся к соответствующему образцу. На стадии классификации данные классифицируются на основе измерений сходства с другими образцами. Процесс распознавания образов заканчивается, когда данным на основе их принадлежности к классу назначается метка. Нейронная сеть работает в двух режимах: обучение и отображение.Обучение строит карту с помощью входных примеров. Это конкурентный процесс, называемый также квантизацией векторов.Отображение автоматически классифицирует новый входной вектор.Рисунок 2.3 – Сравнение нового изображения с базой данныхРисунок 2.4 – Блок-схема распознавания образовСамоорганизующиеся карты (SelfOrganizingMaps - SOM) также известны как карта Кохонена. это одна из разновидностей нейросетевых алгоритмов. Основным отличием данной технологии от другизнейросетей, обучаемых по алгоритму обратного распространения, является то, что при обучении используется метод обучения без учителя, то есть результат обучения зависит только от структуры входных данных. SOM подразумевает использование упорядоченной структуры нейронов. Обычно используются одно и двумерные сетки. Обучение без учителяВо время обучения, нейрон с весами, наиболее близкими к вектору входных данных, объявляется победителем. Тогда веса всех нейронов в окрестности нейрона-победителя корректируются на величину, обратно пропорционально Евклидову расстоянию. Кластеры и классификаторы набора данных используются на основе набора атрибутов.Обучение изображений отображается в меньшей размерности с использованием сети SOM и матрицы весов каждого изображения, храненного в базе данных обучения. При распознавании обученные изображения восстановлены с использованием весовых матриц.Распознавание осуществляется через необученные тестовые изображения с использованием евклидово расстояния как мера сходства. Этап тестированияНа этапе тестирования, каждый входной вектор сравнивается со всеми узлами SOM и нейрон-победитель найден на основе минимального евклидова расстояния[6]. Окончательный выход системы на основе её распознавания отображает, если тестовое изображение присутствует или не присутствует в базе данных изображений.База данных изображения разделяется на два подмножества: обучение и тестирование.Рисунок 2.5 – Процесс распознавания образаЗаключениеНа данном этапе развития нейронных сетей можно сделать вывод, что применения нейросетевых технологий для решения многих задач является единственно возможным решением. Искусственные нейронные сети (ИНС) строятся по принципам организации и функционирования их биологических аналогов. Они способны решать широкий круг задач распознавания образов, идентификации, прогнозирования, оптимизации, управления сложными объектами. Дальнейшее повышение производительности компьютеров все в большой мере связывают с ИНС, в частности, с нейрокомпьютерами (НК), основу которых составляет искусственная нейронная сеть.Основные достоинства нейросетей:адаптируемость (лёгкая переобучаемость при больших потоках входных данных), а также возможность потенциального распараллеливания вычислений.способность обучаться на примерах без программирования, что позволяет отказаться от поиска каких-либо аналитических зависимостей между входными данными и результатами:обучение на неполной, противоречивой и искажённой информации;отсутствие требований выполнения условия отсутствия взаимосвязи между входными факторами, как это требуется в регрессионном анализе.К недостаткам нейросетей относятся «непрозрачность» процесса их работы и трудности интерпретации результатов, а также то, что в них, в отличие от экспертных систем с логическим выводом при анализе, приходится приводить исходные данные к цифровой форме.Среди перспективных направлений использования нейросетевых технологий можно назвать следующие:Экономика и бизнес: прогнозирование временных рядов (курсов валют, цен на сырьё, объемов продаж,..), автоматический трейдинг (торговля на валютной, фондовой или товарной бирже), оценка рисков невозврата кредитов, предсказание банкротств, оценка стоимости недвижимости, выявление переоцененных и недооцененных компаний, рейтингование, оптимизация товарных и денежных потоков, считывание и распознавание чеков и документов, безопасность транзакций по пластиковым картам. Медицина: постановка диагноза, обработка медицинских изображений, мониторинг состояния пациента, анализ эффективности лечения, очистка показаний приборов от шумов. Авионика: обучаемые автопилоты, распознавание сигналов радаров, адаптивное пилотирование сильно поврежденного самолета, беспилотные летательные аппараты. Связь: сжатие видеоинформации, быстрое кодирование-декодирование, оптимизация сотовых сетей и схем маршрутизации пакетов. Интернет: ассоциативный поиск информации, электронные секретари и автономные агенты в интернете, фильтрация и блокировка спама, автоматическая рубрикация сообщений из новостевых лент, адресные реклама и маркетинг для электронной торговли, распознавание captcha. Автоматизация производства: оптимизация режимов производственного процесса, контроль качества продукции, мониторинг и визуализация многомерной диспетчерской информации, предупреждение аварийных ситуаций. Робототехника: распознавание сцены, объектов и препятствий перед роботом, прокладка маршрута движения, управление манипуляторами, поддержание равновесия. Политологические и социологические технологии: предсказание результатов выборов, анализ опросов, предсказание динамики рейтингов, выявление значимых факторов, кластеризация электората, исследование и визуализация социальной динамики населения. Безопасность и охранные системы: распознавание лиц; идентификация личности по отпечаткам пальцев, голосу, подписи или лицу; распознавание автомобильных номеров, анализ аэрокосмических снимков, мониторинг информационных потоков в компьютерной сети и обнаружение вторжений, обнаружение подделок, анализ данных с видеодатчиков и разнообразных сенсоров. Ввод и обработка информации: распознавание рукописных текстов, отсканированных почтовых, платежных, финансовых и бухгалтерских документов. Геологоразведка: анализ сейсмических данных, ассоциативные методики поиска полезных ископаемых, оценка ресурсов месторождений. Это делает доступной технологию нейронных сетей для приложений практически любого уровня.Источники информацииГаврилов А.В. Гибридные интеллектуальные системы. - Новосибирск: Изд-во НГТУ.2013. - 164 с.Бураков, М. В. Нейронные сети и нейроконтроллеры: учеб.пособие/ М. В. Бураков. – СПб.: ГУАП, 2013. – 284 с.: ил.Елизаров А.И., Афонасенко А.В. Методика построения системраспознавания автомобильного номера // Известия Томскогополитехнического университета. – 2010. – Т. 309. – № 8. –С. 118–121.Болотова, Ю.А., Спицын В.Г. Сравнение способов обучениямодели HTM для задачи распознавания цифр // Молодежь исовременные информационные технологии: cборник трудов IXВсероссийской научно-практической конференции студентов,аспирантов и молодых ученых. – Томск: Изд-во СПБ Графикс,2011. – Т. 1. – С. 252–253.Болотова, Ю.А., Спицын В.Г., Кермани А.К. Распознаваниесимволов на цветном фоне на основе иерархической временноймодели с предобработкой фильтрами Габора // Электромагнит ные волны и электронные системы. – 2012. – Т. 16. – № 1. –С. 14–19.Костров, Б.В. Искусственныйинтеллект и робототехника /Б.В. Костров - М.: «Издательство ДИАЛОГ-МИФИ», 2012. — 224 с.Ясницкий, Л.Н. Введение в искусственный интеллект: Учебное пособие для студ. высш. учеб.заведений /Л.Н. Ясницкий. - М.: Издательский центр «Академия», 2010. - 176 с.Буй ТхиТхуЧанг, Фан НгокХоанг, Спицын В.Г. Алгоритмическое и программное обеспечение для классификации цифровых изображений с помощью вейвлет-преобразования Хаара инейронных сетей // Известия Томского политехнического университета. – 2011. – Т. 319. – № 5. – С. 103–106.Болотова Ю.А., Спицын В.Г., Фомин А.Э. Применение моделииерархической временной памяти в распознавания изображений // Известия Томского политехнического университета. –2011. – Т. 318. – № 5. – С. 60–63.Гаврилова, Т.А. Базы знаний интеллектуальных систем /Т.А. Гаврилова, И.Ф. Хорошевский. - СПб.: Питер, 2010.Тант Зин Пьо, Кочетков М.П. Обработка изображений в системах технического зрения робототехнических комплексов// Информационно - управляющие вычислительные системы:алгоритмы, аппаратные ипрограммные средства: межвузовский сборник/ Под ред. В.А. Бархоткина. - M.: МИЭТ, 2011. - 148с. С. 130-135.