| Код | 550446 |
| Дата создания | 2021 |
|
Мы сможем обработать ваш заказ (!) 13 мая в 12:00 [мск]
Файлы будут доступны для скачивания только после обработки заказа.
|
|
Тема выпускной квалификационной работы – «Применение алгоритмов интеллектуального анализа текстовых данных».
Как показывает практика текстовой аналитики, наиболее эффективными средствами повышения качества анализа текстов являются методы и алгоритмы интеллектуального анализа данных.
Применение алгоритмов интеллектуального анализа текстовых данных представляет актуальность и научно-практический интерес.
Введение.................................................................................................................. 5
Глава 1 Обзор и анализ методов и алгоритмов интеллектуального анализа текстовых данных..................................................................................................................... 7
1.1 Метод токенизации................................................................................. 9
1.2 Частота термина в документе (TF-IDF)................................................ 13
1.3 Методы стемминга и лемматизации..................................................... 15
1.4 Стоп-листинг........................................................................................ 19
Глава 2 Обзор и анализ алгоритмов интеллектуального анализа текстовых
данных................................................................................................................... 22
2.1 Алгоритмы токенизации...................................................................... 22
2.2 Алгоритм TF-IDF................................................................................. 26
2.3 Алгоритм лемматизации WordNet....................................................... 29
2.4 Алгоритмы стоп-листинга.................................................................... 31
Глава 3 Разработка программы интеллектуального анализа текстовых данных ... 35 3.1 Выбор среды разработки программы............................................................. 35
3.1.1 Интегрированная среда разработки Visual Studio + Python Tools for Visual Studio........................................................................................................... 35
3.1.2 Интегрированная среда разработки PyCharm..................................... 37
3.1.3 Интегрированная среда разработки Eclipse + PyDEv......................... 38
3.2 Реализация и тестирование программы............................................... 41
Заключение............................................................................................................ 44
Список используемой литературы........................................................................ 45
1. Библиотека NTLK [Электронный ресурс]. URL: http://www.nltk.org/ (дата обращения: 10.06.2021).
2. ВКонтакте опубликовали библиотеку для предобработки текстовых данных [Электронный ресурс]. URL: https://neurohive.io/ru/novosti/vkontakte- opublikovali-biblioteku-dlya-predobrabotki-tekstovyh-dannyh/ (дата обращения: 10.06.2021).
3. Кластеризация и классификация больших текстовых данных с помощью машинного обучения на Java [Электронный ресурс]. URL: https://itnan.ru/post.php?c=1&p=529548 (дата обращения: 10.06.2021).
4. Краткое руководство. Знакомство с интегрированной средой разработки Visual Studio [Электронный ресурс]. URL: 2019 (дата обращения: 10.06.2021).
5. Ле Мань Ха. Оптимизация алгоритма KNN для классификации // ТРУДЫ МФТИ. 2016. Том 8, № 1. С. 92-94.
6. Левенштейн В.И. Двоичные коды с исправлением выпадений, вставок и замещений символов // Докл. АН СССР. 1965. 163 (4). C. 845–848.
7. Метод TF-IDF [Электронный ресурс]. URL: https://ru.wikipedia.org/wiki/TF-IDF (дата обращения: 10.06.2021).
8. Отраднов К.К., Раев В.К. Экспериментальное исследование эффективности методик векторизации текстовых документов и алгоритмов их кластеризации. Вестник РГРТУ. 2018. № 64. С. 74-82.