Методы извлечения признаков, основанные на традиционной статистике и глубоком обучении
Боковая панель статьи
Основное содержимое статьи
Аннотация
В статье представлен теоретический и практический сравнительный анализ четырёх важных методов, связанных с извлечением признаков и сокращением размерности: дискриминантного анализа Фишера (FDA), канонического корреляционного анализа (CCA), глубокого канонического корреляционного анализа (DCCA) и глубокого многомножественного канонического корреляционного анализа (DMCCA). Подробно рассмотрены теоретические основы, преимущества и недостатки каждого метода. Кроме того, приведены возможности их применения в различных областях. Анализ показывает, что FDA эффективно используется при обучении с учителем, тогда как CCA является важным инструментом для изучения взаимосвязей между двумя источниками. DCCA расширяет классические подходы с помощью глубокого обучения, позволяя выявлять нелинейные структуры. В свою очередь, DMCCA формирует общее латентное представление для многoисточниковых данных и демонстрирует высокую эффективность в современных системах искусственного интеллекта.
Информация о статье
Это произведение доступно по лицензии Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная.
Библиографические ссылки
Niu, G. (2016). Statistic feature extraction. In Data-Driven Technology for Engineering Systems Health Management: Design Approach, Feature Construction, Fault Diagnosis, Prognosis, Fusion and Decisions (pp. 101-138). Singapore: Springer Singapore.
Sh.Fazilov, O.R. Yusupov, Eshonqulov E.Sh., Sun’iy yoʻldosh tasvirlarida superpiksel segmentlash yondashuvlari, Informatika va energetika muammolari, 6-son, 2023, 25-35-betlar
O.R. Yusupov, Eshonqulov E.Sh., Superpixel segmentation approaches for remote sensing images, Abstract of VIII International Scientific conference “Actual problems of applied mathematics and information Technologies-Al-Khwarizmi 2023”, SamSU, Samarkand-Uzbekistan, 2023-yil, 25-26-September, 292-bet
Chen, C. H. (1976). On statistical and structural feature extraction. Pattern Recognition and Artificial Intelligence, 135-144.
Sh.X.Fazыlov, O.R. Yusupov, V.V.Ganchenko, A.V.Inyutin, Perspektivы ispolzovaniya algoritmicheskix ansambley dlya analiza izobrajeniy DZZ, “Informatika va energetika muammolari” Oʻzbekiston jurnali. – Toshkent, 2023. 6-son. 3-10 betlar.
O.R.Yusupov, Algoritmlar aralashmasi strategiyasiga asoslangan algoritmik kompozitsiyasi asosida tasniflash masalalari yechish, “Intellektual tizimlarning zamonaviy muammolari” Respublika ilmiy-amaliy konferensiyasi, Jizzax Qozon Federal Universiteti filiali, 2025-yil, 18-19-aprel, 274-278-betlar
Sh.Fazilov, O.R. Yusupov, Kh.Abdiyeva, Eshonqulov E.Sh., Z. Malikov, Construction of a quasi-linear ensemble of algorithms for diagnosing tumors detected from mammography images, 2024 IEEE East-West Design & Test Symposium (EWDTS), November 13, 2024 – November 17, 2024, Yerevan, Armenia
O.R.Yusupov, Y.X.Xandamov, Transferli o’qitishda belgilarni transfer qilish strategiyalari, “Zamonaviy axborot, kommunikatsiya texnologiyalari va AT-ta’lim tatbiqi muammolari” mavzusidagi Respublika ilmiy-amaliy anjumani, Samarqand shahri, 2025-yil 25-26-aprel, 335-337-betlar
O.R.Yusupov, Eshonqulov E.Sh., Tasvirlardagi sahnani tasniflash uchun ResNet arxitekturasi asoslangan ekspertlar aralashmasi ansamblini qurish, “2-Sun’iy intellekt nazariyasi va amaliyoti: tajriba, muammolar va istiqbollar” Respublika ilmiy-amaliy anjumani, Toshkent Davlat iqtisod Universiteti, 2025-17-18-iyun, 330-334-betlar
O.R.Yusupov, Eshonqulov E.Sh., Enhancing the accuracy of remote sensing scene classification using transfer learning with densenet, SamDU Ilmiy Axborotnoma, 2025.
Sh.Fazilov; O.R.Yusupov, E.Eshonqulov; Kh.Abdieva, Z.Malikov, YUV Color Model-Based Adaptive Pansharpening with Lanczos Interpolation and Spectral Weights, Mathematics 2025, 13, 2868., https://doi.org/10.3390/math13172868
Kamilov M.M., O.R.Yusupov, Tojiboyev B.M., Ravshanov A.A., Masofadan zondlash tasvirlarini intellektual tahlil qilish uchun algoritmik ansamblga asoslangan yondashuv, Boshqaruvda raqamli texnologiyalar va sunʼiy intellektning tadbiqlari: hozirgi holati va kelajagi, Respublika ilmiy-texnik anjumani ma’ruzalar to‘plami, Toshkent, 2025-yil 5-6-sentabr, 28-36-b.
Tharwat, A., Gaber, T., Ibrahim, A., & Hassanien, A. E. (2017). Linear discriminant analysis: A detailed tutorial. AI communications, 30(2), 169-190.
O.R. Yusupov, Eshonqulov E.Sh., Masofadan zondlash asosida olingan tasvirlarda deskriptorlarni qurish usullarining qiyosiy tahlili, “Raqamli texnologiyalarning nazariy va amaliy masalalari xalqaro jurnali”, 2023 №4(6), ISSN 2181-3086, 2023-yil, 102-110-betlar. https://doi.org/10.62132/ ijdt.v6i4.142
O.R.Yusupov, Eshonqulov E.Sh.,Y. Xandamov, Quyi va oʻrta darajadagi deskriptorlar asosida masofadan olingan tasvirlarda sahnani tasniflash algoritmlari, “Raqamli texnologiyalarning nazariy va amaliy masalalari xalqaro jurnali”, 2025 №8(1), ISSN 2181-3086, 2025-yil, 102-110-betlar, https://doi.org/10.62132/ijdt.v6i4.142
Rashidov X.Sh., O.R.Yusupov, Xandamov Y.X., Relevant belgilarning qism toʻplamini tanlashning gibrid yondashuvga asoslangan algoritmi, Boshqaruvda raqamli texnologiyalar va sunʼiy intellektning tadbiqlari: hozirgi holati va kelajagi, Respublika ilmiy-texnik anjumani ma’ruzalar to‘plami, Toshkent, 2025-yil 5-6-sentabr, 73-78-b.
O.R.Yusupov, Xandamov Y.X., Umumlashgan xos son masalasida singulyar holatlarni yechishning SVD usuliga asoslangan yondashuvi, Boshqaruvda raqamli texnologiyalar va sunʼiy intellektning tadbiqlari: hozirgi holati va kelajagi, Respublika ilmiy-texnik anjumani ma’ruzalar to‘plami, Toshkent, 2025-yil 5-6-sentabr, 84-90-b.
Mika, S., Ratsch, G., Weston, J., Scholkopf, B., & Mullers, K. R. (1999, August). Fisher discriminant analysis with kernels. In Neural networks for signal processing IX: Proceedings of the 1999 IEEE signal processing society workshop (cat. no. 98th8468) (pp. 41-48). Ieee
Sugiyama, M. (2006, June). Local fisher discriminant analysis for supervised dimensionality reduction. In Proceedings of the 23rd international conference on Machine learning (pp. 905-912).
Hotelling, H. (1992). Relations between two sets of variates. In Breakthroughs in statistics: methodology and distribution (pp. 162-190). New York, NY: Springer New York.
Hardoon, D. R., Szedmak, S., & Shawe-Taylor, J. (2004). Canonical correlation analysis: An overview with application to learning methods. Neural computation, 16(12), 2639-2664.
Yang, X., Liu, W., Liu, W., & Tao, D. (2019). A survey on canonical correlation analysis. IEEE Transactions on Knowledge and Data Engineering, 33(6), 2349-2368.
Andrew, G., Arora, R., Bilmes, J., & Livescu, K. (2013, May). Deep canonical correlation analysis. In International conference on machine learning (pp. 1247-1255). PMLR.
Sun, Z., Sarma, P., Sethares, W., & Liang, Y. (2020, April). Learning relationships between text, audio, and video via deep canonical correlation for multimodal language analysis. In Proceedings of the AAAI conference on artificial intelligence (Vol. 34, No. 05, pp. 8992-8999).
Qiu, J. L., Liu, W., & Lu, B. L. (2018, November). Multi-view emotion recognition using deep canonical correlation analysis. In International conference on neural information processing (pp. 221-231). Cham: Springer International Publishing.
Wang, W., Arora, R., Livescu, K., & Bilmes, J. A. (2015, April). Unsupervised learning of acoustic features via deep canonical correlation analysis. In 2015 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP) (pp. 4590-4594). IEEE.
Somandepalli, K., Kumar, N., Travadi, R., & Narayanan, S. (2019). Multimodal representation learning using deep multiset canonical correlation. arXiv preprint arXiv:1904.01775.
Benton, A., Khayrallah, H., Gujral, B., Reisinger, D. A., Zhang, S., & Arora, R. (2017). Deep generalized canonical correlation analysis. arXiv preprint arXiv:1702.02519.
Bai, X., Yan, L., & Li, Y. (2020, September). Seizure detection using deep discriminative multi-set canonical correlation analysis. In International Conference on Machine Learning and Intelligent Communications (pp. 129-136). Cham: Springer International Publishing.
Somandepalli, K., Kumar, N., Jati, A., Georgiou, P. G., & Narayanan, S. (2019). Multiview Shared Subspace Learning Across Speakers and Speech Commands. In INTERSPEECH. pp. 2320-2324.