Method for Transforming Neural Networks for Use in the Context of Non-Classical Computing

Abstract

Хмельницький А.А. Спосіб трансформації нейронних мереж для використання в контексті некласичних обчислень. – Кваліфікаційна наукова праця на правах рукопису. Дисертація на здобуття наукового ступеня доктора філософії за спеціальністю 121 – Інженерія програмного забезпечення з галузі знань 12 – Інформаційні технології. – Національний Технічний Університет України «Київський Політехнічний Інститут імені Ігоря Сікорського», Київ, 2025. У дисертаційній роботі розглянуто проблему адаптації нейронних мереж до умов некласичних обчислювальних середовищ, зокрема квантових, нейроморфних та інших альтернативних парадигм. В умовах стрімкого зростання обчислювальної складності сучасних моделей штучного інтелекту та зростаючого інтересу до нових апаратних платформ постає задача розробки методів трансформації архітектур нейронних мереж, які б дозволяли ефективно переносити класичні моделі в нові обчислювальні контексти. Актуальність роботи зумовлена відсутністю формалізованих принципів інтеграції квантових перетворень у структури класичних нейронних мереж. Наявні підходи здебільшого ґрунтуються на емпіричних налаштуваннях без чіткого опису того, як параметризовані квантові операції впливають на стабільність, відтворюваність і продуктивність моделей на даних різної складності. Ситуація ускладнюється тим, що медичні набори даних є високоваріативними, містять значний дисбаланс класів і чутливі до перенавчання, що потребує пошуку стійкіших архітектур. Метою роботи є підвищення ефективності та стабільності систем класифікації зображень шляхом розробки методу трансформації нейронних мереж у гібридні квантово-класичні архітектури, придатні для використання в контексті некласичних обчислень. У роботі проаналізовано властивості типових некласичних обчислювальних систем, визначено обмеження, які вони накладають на структуру та функціональні елементи моделей машинного навчання. Для досягнення поставленої мети проаналізовано сучасні методи квантового та гібридного глибинного навчання, досліджено можливості використання квантових симуляторів у задачах опрацювання зображень, розроблено метод трансформації нейронних мереж на архітектурному, функціональному та реалізаційному рівнях, запропоновано конфігурації гібридних квантово-класичних моделей із квантовою згорткою як препроцесингом, а також експериментально оцінено ефективність гібридних моделей порівняно з класичними та проаналізовано вплив кількості квантових каналів і масштабу класичної основи на якість і стабільність класифікації. Розроблено та досліджено метод використання квантових перетворень як квантово-згорткового препроцесингу (quanvolution) для формування багатоканального представлення вхідного зображення. Масштабована архітектура HNN-QCn передбачає поєднання кількох паралельних класичних основ нейронної мережі (бекбонів), де кожен отримує окремий квантовоперетворений канал; для генерації квантових варіацій використовуються однокубітні обертання навколо осей Y, X та їх комбінації (RY, RX, RXY). Для узагальнення прогнозів, отриманих для різних квантових варіацій зображення, обґрунтовано застосування мажоритарного голосування (Majority Voting - MV) як завершального кроку формування фінального передбачення гібридної моделі. Наукова новизна одержаних результатів полягає в тому, що вперше запропоновано комплексний спосіб побудови гібридних квантово-класичних нейронних мереж, який, на відміну від наявних підходів з інтеграцією квантової компоненти в одну фіксовану архітектуру, забезпечує системну трансформацію мереж на трьох взаємопов’язаних рівнях — архітектурному, функціональному та реалізаційному. Набув подальшого розвитку метод квантового препроцесингу на основі квантової згортки, який передбачає паралельне застосування кількох однокубітних обертань для формування множини додаткових каналів, завдяки чому квантово-індуковані ознаки виконують роль регуляризатора. Вперше сформульовано критерій доцільності застосування квантового препроцесингу залежно від масштабу класичної компоненти та вперше розроблено стандартизований протокол експериментального оцінювання, що поєднує стратифіковану перехресну перевірку, прогнозування на позатренувальних блоках (Out-of-Fold) і статистичний аналіз стабільності метрик. Експериментальні дослідження виконано на еталонному наборі даних загального призначення CIFAR-10 та прикладних спеціалізованих медичних наборах даних MedMNIST (BloodMNIST, PathMNIST, DermaMNIST). Показано зростання якості зі збільшенням кількості квантових каналів: для набору даних CIFAR-10 комбінована конфігурація HNN-5QC (YW4+O1) досягла значень точності (accuracy) 0.769±0.002 при значеннях AUC_micro = 0.964±0.022 та AUC_macro = 0.969±0.001, що перевищує аналогічні показники базової моделі. Також встановлено перевагу вибору класичного бекбону: на наборі даних DermaMNIST модель з основою LCNet050 стабільно переважає модель з основою MobileNetV3Small050 за показниками AUC (ΔAUC ≈ 0.02; AUC_macro 0.9540 проти 0.9340; AUC_micro 0.9585 проти 0.9381). Встановлено, що ефект гібридизації найбільший для компактних і середніх класичних архітектур, тоді як для великих компонент він суттєво зменшується; зі збільшенням кількості квантових каналів якість зростає до діапазону QC5–QC9, після чого спостерігається ефект насичення. Одночасно зменшується міжфолдова варіативність метрик, що підтверджує інтерпретацію квантовоіндукованої ознакової надбудови як регуляризатора, який підвищує стабільність і відтворюваність прогнозів. Практичне значення одержаних результатів полягає у формалізації підходу побудови гібридних квантово-класичних моделей та створенні відтворюваного експериментального потоку робочих операцій (workflow) для систематичного добору квантових трансформацій, кількості квантових каналів і класичних архітектур під конкретні задачі класифікації зображень із підвищеними вимогами до надійності. Результати дисертації отримано здобувачем самостійно: розроблено концепцію та принципи системної трансформації нейронних мереж, архітектуру HNN-QCn і схему багатоканального кванволюційного входу, реалізовано програмні засоби та проведено експерименти. Основні положення оприлюднено на міжнародних наукових конференціях (ICAIS 2024; ICTSM, Сінгапур, 2024) та опубліковано в наукових працях, зокрема у виданнях, що індексуються в Scopus (журнали AI та Computation), і у фаховому виданні України. Дисертація складається зі вступу, чотирьох розділів, висновків, списку використаних джерел і додатка. У ній послідовно розглянуто квантові обчислення та інструменти штучного інтелекту, особливості класичних і некласичних обчислень для гібридизації, комплексний спосіб побудови квантово-класичних гібридних мереж, а також аналіз результатів експериментів з багатоканальною кванволюцією, масштабуванням архітектури HNN-QCn і впливом вибору класичної основи.