Класифікація низькоамплітудних компонент ЕКГ за допомогою адаптивних функцій активації нейронних мереж

Автор(и)

  • Антон Володимирович Мневець Національний технічний університет України «Київський політехнічний інститут імені Ігоря Сікорського» , Україна image/svg+xml https://orcid.org/0000-0001-5448-4045
  • Наталія Георгіївна Іванушкіна Національний технічний університет України «Київський політехнічний інститут імені Ігоря Сікорського» , Україна image/svg+xml https://orcid.org/0000-0001-8389-7906

DOI:

https://doi.org/10.20535/S0021347024120021

Ключові слова:

електрокардіографія, нейронні мережі, адаптивна функція активації, пізні потенціали шлуночків, пізні потенціали передсердь, проблема вибуху градієнтів, проблема згасання градієнтів

Анотація

Перспективним напрямом розвитку нейронних мереж для аналізу та класифікації біомедичних сигналів є використання активаційних функцій, що навчаються AAF (adaptive activation function). Внаслідок вибору цих функцій виконується адаптація до різнорідних даних, що призводить до підвищення точності класифікації. У статті розглянуто застосування AAF для класифікації низькоамплітудних компонент електрокардіограми (ЕКГ), зокрема пізніх потенціалів шлуночків (ППШ) і передсердь (ППП), важливих для раннього виявлення серцевих тахіаритмій. Для оцінювання впливу AAF на якість виявлення ППП та ППШ розроблено дві повнозв’язні нейронні мережі з різною кількістю прихованих шарів. У процесі дослідження встановлено, що використання AAF підвищує точність класифікації ППШ та ППП, а також швидкість навчання моделей нейронних мереж в порівнянні із застосуванням неадаптивних функцій активації. З метою мінімізації проблем «згасання» або «вибуху» градієнтів функції втрат, а також ефекту «мертвих» нейронів, що виникають під час навчання нейронної мережі, розроблено нову активаційну функцію, яка нормує вагові коефіцієнти, запобігаючи виникненню надмірно високих чи низьких градієнтів. Застосування розробленої функції активації призводить до збільшення швидкості і стабільності навчання нейронної мережі, а також підвищення точності розпізнавання низькоамплітудних компонент ЕКГ в порівнянні з іншими функціями активації. За допомогою розробленої AAF отримано найвищу точність класифікації для ППШ (94,7%) і ППП (91,4%). Для одночасного аналізу великої кількості активаційних функцій розроблено коефіцієнт, який дозволяє оцінювати надлишковість шарів мережі. Запропонований коефіцієнт для виявлення «вузьких місць» у нейромережевих архітектурах суттєво спрощує процес аналізу та вдосконалення нейронних мереж.

Посилання

  1. D. K. Shreyas, N. J. Srivatsa, V. H. Kumar, V. Venkataramanan, C. S. Kaliprasad, “A review on neural networks and its applications,” J. Comput. Technol. Appl., vol. 14, no. 2, pp. 46–51, 2023, doi: https://doi.org/10.37591/jocta.v14i2.1062.
  2. Z. Jiang, Y. Wang, C.-T. Li, P. Angelov, R. Jiang, “Delve into neural activations: toward understanding dying neurons,” IEEE Trans. Artif. Intell., vol. 4, no. 4, pp. 959–971, 2023, doi: https://doi.org/10.1109/TAI.2022.3180272.
  3. I. D. Mienye, T. G. Swart, G. Obaido, “Recurrent neural networks: a comprehensive review of architectures, variants, and applications,” Information, vol. 15, no. 9, p. 517, 2024, doi: https://doi.org/10.3390/info15090517.
  4. Y. Wang, A. Vinogradov, “Simple is good: Investigation of history-state ensemble deep neural networks and their validation on rotating machinery fault diagnosis,” Neurocomputing, vol. 548, no. 0, p. 126353, 2023, doi: https://doi.org/10.1016/j.neucom.2023.126353.
  5. K. V. Zaichenko, A. A. Kordyukova, D. L. Sonin, M. M. Galagudza, “Ultra-high-resolution electrocardiography enables earlier detection of transmural and subendocardial myocardial ischemia compared to conventional electrocardiography,” Diagnostics, vol. 13, no. 17, p. 2795, 2023, doi: https://doi.org/10.3390/diagnostics13172795.
  6. S. Bouraya, A. Belangour, “A comparative analysis of activation functions in neural networks: unveiling categories,” Bull. Electr. Eng. Informatics, vol. 13, no. 5, pp. 3301–3308, 2024, doi: https://doi.org/10.11591/eei.v13i5.7274.
  7. B. Çatalbaş, Ö. Morgül, “Deep learning with extendeD Exponential Linear Unit (DELU),” Neural Comput. Appl., vol. 35, no. 30, pp. 22705–22724, 2023, doi: https://doi.org/10.1007/s00521-023-08932-z.
  8. G. Wan, L. Yao, “LMFRNet: a lightweight convolutional neural network model for image analysis,” Electronics, vol. 13, no. 1, p. 129, 2023, doi: https://doi.org/10.3390/electronics13010129.
  9. D. Yang, K. M. Ngoc, I. Shin, M. Hwang, “DPReLU: dynamic parametric rectified linear unit and its proper weight initialization method,” Int. J. Comput. Intell. Syst., vol. 16, no. 1, p. 11, 2023, doi: https://doi.org/10.1007/s44196-023-00186-w.
  10. J. Inturrisi, S. Y. Khoo, A. Kouzani, R. Pagliarella, “Piecewise linear units improve deep neural networks,” 2021, uri: http://arxiv.org/abs/2108.00700.
  11. K. Biswas, S. Kumar, S. Banerjee, A. K. Pandey, “ErfAct and Pserf: non-monotonic smooth trainable activation functions,” Proc. AAAI Conf. Artif. Intell., vol. 36, no. 6, pp. 6097–6105, 2022, doi: https://doi.org/10.1609/aaai.v36i6.20557.
  12. H. Chung, S. J. Lee, J. G. Park, “Deep neural network using trainable activation functions,” in 2016 International Joint Conference on Neural Networks (IJCNN), 2016, pp. 348–352, doi: https://doi.org/10.1109/IJCNN.2016.7727219.
  13. N. Strodthoff et al., “PTB-XL+, a comprehensive electrocardiographic feature dataset,” Sci. Data, vol. 10, no. 1, p. 279, 2023, doi: https://doi.org/10.1038/s41597-023-02153-8.
  14. A. V. Mnevets, N. H. Ivanushkina, “The method of preprocessing of ECG signals for detection of atrial and ventricular late potentials,” Microsystems, Electron. Acoust., vol. 28, no. 2, p. 0, 2023, doi: https://doi.org/10.20535/2523-4455.mea.281741.
  15. S. Huang, Q. Wu, “Robust pairwise learning with Huber loss,” J. Complex., vol. 66, no. 0, p. 101570, 2021, doi: https://doi.org/10.1016/j.jco.2021.101570.
  16. J. Jachymski, I. Jóźwik, M. Terepeta, “The Banach fixed point theorem: selected topics from its hundred-year history,” Rev. la Real Acad. Ciencias Exactas, Físicas y Nat. Ser. A. Matemáticas, vol. 118, no. 4, p. 140, 2024, doi: https://doi.org/10.1007/s13398-024-01636-6.
Приклад кардіоцикла з наявним пізнім потенціалом шлуночків

##submission.downloads##

Опубліковано

2024-12-26

Як цитувати

Мневець, А. В., & Іванушкіна, Н. Г. (2024). Класифікація низькоамплітудних компонент ЕКГ за допомогою адаптивних функцій активації нейронних мереж. Вісті вищих учбових закладів. Радіоелектроніка, 67(12), 719–732. https://doi.org/10.20535/S0021347024120021

Номер

Том 67 № 12 (2024)

Розділ

Оригінальні статті

Ліцензія

Авторське право (c) 2024 Вісті вищих учбових закладів. Радіоелектроніка

Издатель журнала Известия высших учебных заведений. Радиоэлектроника (сокр. "Известия вузов. Радиоэлектроника"), Национальный технический университет Украины "Киевский политехнический институт", учитывает, что доступ автора к его статье является важным как для самого автора, так и для спонсоров его исследований. Мы представлены в базе издателей SHERPA/RoMEO как зеленый издатель (green publisher), что позволяет автору выполнять самоархивирование своей статьи. Однако важно, чтобы каждая из сторон четко понимала свои права. Просьба более детально ознакомиться с Политикой самоархивирования нашего журнала.

Политика оплаченного открытого доступа POA (paid open access), принятая в журнале, позволяет автору выполнить все необходимые требования по открытому доступу к своей статье, которые выдвигаются институтом, правительством или фондом при выделении финансирования. Просьба более детально ознакомиться с политикой оплаченного открытого доступа нашего журнала (см. отдельно).

Варианты доступа к статье:

1. Статья в открытом доступе POA (paid open access)

В этом случае права автора определяются лицензией CC BY (Creative Commons Attribution).

2. Статья с последующим доступом по подписке

В этом случае права автора определяются авторским договором, приведенным далее.

  • Автор (каждый соавтор) уступает Издателю журнала «Известия высших учебных заведений. Радиоэлектроника» НТУУ «КПИ» на срок действия авторского права эксклюзивные права на материалы статьи, в том числе право на публикацию данной статьи издательством Аллертон Пресс, США (Allerton Press) на английском языке в журнале «Radioelectronics and Communications Systems». Передача авторского права охватывает исключительное право на воспроизведение и распространение статьи, включая оттиски, переводы, фото воспроизведения, микроформы, электронные формы (он- и оффлайн), или любые иные подобные формы воспроизведения, а также право издателя на сублицензирование третьим лицам по своему усмотрению без дополнительных консультаций с автором. При этом журнал придерживается Политики конфиденциальности.
  • Передача прав включает право на обработку формы представления материалов с помощью компьютерных программам и систем (баз данных) для их использования и воспроизводства, публикации и распространения в электронном формате и внедрения в системы поиска (базы данных).
  • Воспроизведение, размещение, передача или иное распространение или использование материалов, содержащихся в статье должно сопровождаться ссылкой на Журнал и упоминанием Издателя, а именно: название статьи, имя автора (соавторов), название журнала, номер тома, номер выпуска, копирайт авторов и издателя "© Национальный технический университет Украины "Киевский политехнический институт"; © автор(ы)".
  • Автор (каждый соавтор) материалов сохраняет все права собственника материалов, включая патентные права на любые процессы, способы или методы и др., а также права на товарные знаки.
  • Издатель разрешает автору (каждому соавтору) материалов следующее:
  1. Право пользоваться печатными или электронными вариантами материалов статьи в форме и содержании, принятыми Издателем для публикации в Журнале. Подробнее см. политики Оплаченного открытого доступа, подписки и самоархивирования.
  2. Право бесплатно копировать или передавать коллегам копию напечатанной статьи целиком или частично для их личного или профессионального использования, для продвижения академических или научных исследований или для учебного процесса или других информационных целей, не связанных с коммерческими целями.
  3. Право использовать материалы из опубликованной статьи в написанной автором (соавторами) книге, монографии, учебнике, учебном пособии и других научных и научно-популярных изданиях.
  4. Право использовать отдельные рисунки или таблицы и отрывки текста из материалов в собственных целях обучения или для включения их в другую работу, которая печатается (в печатном или электронном формате) третьей стороной, или для представления в электронном формате во внутренние компьютерные сети или на внешние сайты автора (соавторов).
  • Автор (соавторы) соглашаются, что каждая копия материалов или любая ее часть, распространенная или размещенная ими в печатном или электронном формате, будет содержать указание на авторское право, предусмотренное в Журнале и полную ссылку на Журнал Издателя.
  • Автор (соавторы) гарантирует, что материалы являются оригинальной работой и представлены впервые на рассмотрение только в этом Журнале и ранее не публиковались. Если материалы написаны совместно с соавторами, автор гарантирует, что проинформировал их относительно условий публикации материалов и получил их подписи или письменное разрешение подписываться от их имени.
  • Если в материалы включаются отрывки из работ или имеются указания на работы, которые охраняются авторским правом и принадлежат третьей стороне, то автору необходимо получить разрешение владельца авторских прав на использование таких материалов в первом случае и сделать ссылку на первоисточник во втором.
  • Автор гарантирует, что материалы не содержат клеветнических высказываний и не посягают на права (включая без ограничений авторское право, права на патент или торговую марку) других лиц и не содержат материалы или инструкции, которые могут причинить вред или ущерб третьим лицам. Автор (каждый соавтор) гарантирует, что их публикация не приведет к разглашению секретных или конфиденциальных сведений (включая государственную тайну). Подтверждением этого является Экспертное заключение (см. перечень документов в Правила для авторов).
  • Издатель обязуется опубликовать материалы в случае получения статьей положительного решения редколлегии о публикации на основании внешнего рецензирования (см. Политика рецензирования).
  • В случае публикации статьи на английском языке в журнале «Radioelectronics and Communications Systems» (Издатель: Аллертон Пресс, США, распространитель Springer) автору (соавторам) выплачивается гонорар после выхода последнего номера журнала года, в котором опубликована данная статья.
  • Документ Согласие на публикацию, который подают русскоязычные авторы при подаче статьи в редакцию, является краткой формой данного договора, в котором изложены все ключевые моменты настоящего договора и наличие которого подтверждает согласие автора (соавторов) с ним. Аналогичным документом для англоязычных авторов является Copyright Transfer Agreement (CTA), предоставляемый издательством Allerton Press.
  • Настоящий Договор вступает в силу в момент принятия статьи к публикации. Если материалы не принимаются к публикации или до публикации в журнале автор (авторы) отозвал работу, настоящий Договор не приобретает (теряет) силу.