представлена полностью дифференцируемая архитектура графовой нейронной сети (GNN), предназначенная для задач декодирования каналов связи. Разработанный подход демонстрирует сопоставимую с традиционными методами эффективность декодирования для различных классов корректирующих кодов, включая коды низкой плотности проверки на четность (LDPC) и коды Боуза-Чоудхури-Хоквингема (BCH), при существенном сокращении требуемого количества итераций. Каждая итерация декодирования представлена как слой графовой нейронной сети. Суть метода заключается в замене детерминированных операций передачи сообщений в классических декодерах на адаптивные нейросетевые блоки, которые в процессе обучения самостоятельно выявляют оптимальные правила обработки данных в структуре кодового графа. В отличие от большинства существующих решений на основе глубокого обучения, предложенная архитектура обладает такими преимуществами, как масштабируемость для кодов произвольной длины и отсутствие ограничений, связанных с проблемами размерности. Экспериментальные результаты показывают значительное превосходство предложенной методики для кода BCH (63,45), достигнуто улучшение с максимальным выигрышем в области высоких SNR (4-5 дБ) по сравнению с взвешенным алгоритмом распространения доверия (BP), а для LDPC(128, 64)-кодов стандарта 5G NR преимущество достигает 36-87 %, особенно заметное при SNR > 2 дБ this paper presents a fully differentiable graph neural network (GNN) architecture designed for decoding communication channels. The developed approach demonstrates decoding efficiency comparable to traditional methods for various classes of correction codes, including low-density parity-check code (LDPC) and Bose-Chowdhury-Hockingham (BCH) codes, while significantly reducing the required numberof iterations. Each decoding iteration is represented asa layer of a graph neural network. The essence of the method is to replace deterministic message transmission operations in classical decoders with adaptive neuralnetwork blocks that independently identify optimal data processing rules inthe code graph structureduring the learning process. Unlike most existing deep learning-based solutions,the proposed architecture has advantages such as scalability for arbitrary-length codes and the absence of limitations related to dimension issues. Experimental results showa significant superiority of the proposed methodology for the BCH (63.45) code, an improvement has been achieved with maximum gain inthe area of high SNRs (4-5 dB) compared with the weighted trust propagation algorithm (BP), and for LDPC(128, 64) codesof the 5G NR standard, the advantage reaches 36-87%, especially noticeable with SNR > 2 dB
представлена полностью дифференцируемая архитектура графовой нейронной сети (GNN), предназначенная для задач декодирования каналов связи. Разработанный подход демонстрирует сопоставимую с традиционными методами эффективность декодирования для различных классов корректирующих кодов, включая коды низкой плотности проверки на четность (LDPC) и коды Боуза-Чоудхури-Хоквингема (BCH), при существенном сокращении требуемого количества итераций. Каждая итерация декодирования представлена как слой графовой нейронной сети. Суть метода заключается в замене детерминированных операций передачи сообщений в классических декодерах на адаптивные нейросетевые блоки, которые в процессе обучения самостоятельно выявляют оптимальные правила обработки данных в структуре кодового графа. В отличие от большинства существующих решений на основе глубокого обучения, предложенная архитектура обладает такими преимуществами, как масштабируемость для кодов произвольной длины и отсутствие ограничений, связанных с проблемами размерности. Экспериментальные результаты показывают значительное превосходство предложенной методики для кода BCH (63,45), достигнуто улучшение с максимальным выигрышем в области высоких SNR (4-5 дБ) по сравнению с взвешенным алгоритмом распространения доверия (BP), а для LDPC(128, 64)-кодов стандарта 5G NR преимущество достигает 36-87 %, особенно заметное при SNR > 2 дБ this paper presents a fully differentiable graph neural network (GNN) architecture designed for decoding communication channels. The developed approach demonstrates decoding efficiency comparable to traditional methods for various classes of correction codes, including low-density parity-check code (LDPC) and Bose-Chowdhury-Hockingham (BCH) codes, while significantly reducing the required numberof iterations. Each decoding iteration is represented asa layer of a graph neural network. The essence of the method is to replace deterministic message transmission operations in classical decoders with adaptive neuralnetwork blocks that independently identify optimal data processing rules inthe code graph structureduring the learning process. Unlike most existing deep learning-based solutions,the proposed architecture has advantages such as scalability for arbitrary-length codes and the absence of limitations related to dimension issues. Experimental results showa significant superiority of the proposed methodology for the BCH (63.45) code, an improvement has been achieved with maximum gain inthe area of high SNRs (4-5 dB) compared with the weighted trust propagation algorithm (BP), and for LDPC(128, 64) codesof the 5G NR standard, the advantage reaches 36-87%, especially noticeable with SNR > 2 dB
Для итеративного декодирования на графах используется новый альтернативный подход - это стохастическое декодирование. Возможность стохастического декодирования была недавно предложена для декодирования LDPC-кодов. Эта статья расширяет применение стохастического подхода для декодирования линейных блочных кодов с помощью проверочных матриц (PCM), таких как коды Боуза - Чоудхури - Хоквингема (BCH), коды Рида - Соломона (RS) и блочные турбокоды на основе компонентов кодов BCH. Показано, как стохастический подход способен генерировать информацию мягкого выхода для итеративного декодирования с мягким входом и мягким выходом Soft - Input Soft - Output (SISO). Описывается структура стохастических переменных узлов высокой степени, используемых в кодах с помощью проверочных матриц PCM. Результаты моделирования для кода BCH (128, 120), кода RS (31, 25) и RS (63, 55) и турбокода блока BCH (256, 121) и (1024, 676) демонстрируют эффективность декодирования при закрытии к итеративному декодеру SISO с реализацией с плавающей запятой. Эти результаты показывают производительность декодирования, близкую к адаптивному алгоритму распространения доверия и/или турбо-ориентированному адаптированному алгоритму распространения доверия Stochastic decoding capability has recently been proposed for decoding LDPC codes. This paper expands on the application of the stochastic approach to decoding linear block codes using parity check matrices (PCMs) such as Bose-Chowdhury-Hawkingham (BCH) codes, Reed-Solomon (RS) codes, and BCH component-based block turbo codes. We show how the stochastic approach is able to generate soft-output information for iterative decoding with soft-input and soft-output Soft-Input Soft-Output (SISO). We describe the structure of high degree stochastic node variables used in codes using PCM parity check matrices. Simulation results for BCH code (128, 120), RS code (31, 25) and RS (63, 55), and BCH block turbo code (256, 121) and (1024, 676) demonstrate the decoding efficiency on close to SISO iterative decoder with floating point implementation. These results show decoding performance close to the adaptive trust propagation algorithm and / or turbo-oriented adapted trust propagation algorithm
В данной статье представлен сравнительный анализ производительности различных алгоритмов декодирования LDPC-кодов в условиях канала с аддитивным белым гауссовым шумом (AWGN). Целью исследования является идентификация наиболее эффективных методов LDPC-декодирования, обеспечивающих надёжную передачу информации в условиях воздействия AWGN. Для проведения моделирования использовался инструмент AFF3CT, предоставляющий широкие возможности для точной настройки экспериментальных параметров и детального анализа работы декодеров. Процесс передачи данных по каналу связи включает следующие ключевые этапы: генерацию исходных данных, кодирование с применением LDPC-кодов, модуляцию (в данной работе используется BPSK), добавление шума AWGN, демодуляцию и последующее декодирование. В рамках исследования рассмотрены следующие алгоритмы LDPC-декодирования: GALA, GALB, GALE, PPBF, WBF и MWBF. В качестве метрик оценки производительности применялись показатели битовой ошибки (BER) и ошибки на кадр (FER). Результаты численного моделирования продемонстрировали, что алгоритмы BP_FLOODING и BIT_FLIPPING, реализуемые в различных декодерах, проявляют неодинаковую эффективность в зависимости от уровня шума и параметров моделирования. Анализ полученных данных позволяет заключить, что алгоритм GALE демонстрирует наивысшую эффективность при декодировании сообщений длиной 20480 бит. В условиях ограниченных вычислительных ресурсов алгоритмы с малым числом итераций, в частности на основе BIT_FLIPPING, также могут обеспечивать приемлемую производительность. Для декодирования коротких сообщений наиболее целесообразным выбором являются декодеры MWBF или GALE.
В настоящее время глубокое обучение как актуальное направление исследований дало плодотворные результаты в области обработки естественного языка, распознавания и генерации графов, например, ChatGPT и Sora. Объединение глубокого обучения с алгоритмами декодирования для канального кодирования также постепенно становится актуальным направлением исследований в области связи. В этой статье мы используем глубокое обучение для улучшения адаптивного алгоритма экспоненциальной минимальной суммы (AEMS) для LDPC-кодов. Во-первых, мы расширяем итеративную процедуру декодирования между контрольными узлами (CNs) и переменными узлами (VNs) в алгоритме декодирования AEMS в сеть распространения с прямой передачей, основанную на графе Таннера, полученном из H-матрицы LDPC-кодов. Во-вторых, для повышения эффективности обучения модели и снижения вычислительной сложности мы присваиваем одинаковый весовой коэффициент всей краевой информации в каждой итерации сети декодирования AEMS, что снижает вычислительную сложность и гарантирует эффективность декодирования, и мы называем ее общей нейронной сетью декодирования AEMS (SNAEMS). Результаты моделирования показывают, что производительность декодирования предложенной сети декодирования SNAEMS превосходит производительность обычного декодера AEMS, а коэффициент усиления кодирования постепенно увеличивается по мере увеличения длины кода. Currently, deep learning, as a hot research direction, has yielded fruitful research results in natural language processing and graph recognition and generation, such as ChatGPT and Sora. Combining deep learning with decoding algorithms for channel coding has also gradually become a research hotspot in the field of communication. In this paper, we use deep learning to improve the adaptive exponential min sum (AEMS) algorithm for LDPC codes. Initially, we extend the iterative decoding procedure between check nodes (CNs) and variable nodes (VNs) in the AEMS decoding algorithm into a feedforward propagation network based on the Tanner graph derived from the H matrix of LDPC codes. Second, in order to improve the model training efficiency and reduce the computational complexity, we assign the same weight factor to all the edge information in each iteration of the AEMS decoding network, which reduces the computational complexity while guaranteeing the decoding performance, and we call it the shared neural AEMS (SNAEMS) decoding network. The simulation results show that the decoding performance of the proposed SNAEMS decoding network outperforms that of the conventional AEMS decoder, and its coding gain is gradually enhanced as the code length increases.
Цель работы – повышение производительности декодирования квазициклических LDPC–кодов для радиорелейной системы связи на основе многослойного планирования на графическом и центральном процессорах. В перечень решаемых задач входит: реализация программной модели TDMP декодеров на базе CPU и GPU на языках программирования C++ и CUDA; внесение методов повышения производительности; анализ помехоустойчивости и производительности реализованных декодеров; сравнение производительности с аналогичными разработками. В результате работы было продемонстрировано увеличение производительности до 42-х раз на CPU и до 3-х раз на GPU, по сравнению с исходными алгоритмами декодирования, используемыми в рассматриваемой радиорелейной системе. Показано, что предлагаемые реализации декодеров для GPU и CPU обеспечивают более высокую производительность, до 8.47 раз на GPU, и до 3.25 раз на CPU, по сравнению с аналогичными работами. Реализованные в работе алгоритмы могут быть использованы как часть приемного тракта сигналов радиорелейной системы связи. Использовались открытые образовательные ресурсы поиска и анализа информации. Использовались средства автоматизации (автоматизированной) разработки MATLAB, Visual Studio. Применены языки программирования MATLAB, C++, CUDA.
В статье рассматриваются способы упрощения расчета корректирующей способности LDPC-кодов и вероятности битовой ошибки при их использовании для случая применения порождающей матрицы канонического вида. В первой части статьи дано представление о кодировании LDPC, проанализированы узловые требования к порождающим матрицам, определены основные достоинства их канонического вида, отмечены способы обнаружения битовых ошибок на приемной стороне. Предложен алгоритм оценки корректирующей способности LDPC на основе статистических розыгрышей, приведена его схема, позволяющая смягчить имеющиеся в математических пакетах ограничения размерности матриц. Представлены результаты оценки максимального количества восстанавливаемых бит при использовании LDPC с разной кодовой скоростью. The article discusses ways to simplify the calculation of the correcting ability of LDPC codes and the probability of bit error when using them for the case of using a generator matrix of canonical form. In the first part of the article, an idea of LDPC coding is provided, nodal requirements for generator matrices are analyzed, the main advantages of their canonicalform are determined, and methods for detecting bit errors on the receiving side are noted. An algorithm for estimating the correcting ability of LDPC based on statistical drawings is proposed, and its scheme is given, which allows mitigating the limitations of the matrix dimension existing in mathematical packages. The results of estimating the maximum number of recoverable bits when using LDPC with different code rates are presented.
Декодирование линейным программированием (ЛП) является альтернативой итеративным алгоритмам декодирования кодов контроля четности с низкой плотностью (LPDC). Хотя практические характеристики ЛП декодирования сравнимы с декодированием в процессе передачи сообщения, однако значительным преимуществом является его сравнительная совместимость с неасимптотическим анализом. Более того, оказывается, что существуют важные теоретические связи между ЛП декодированием и стандартными формами итеративного декодирования. Эти связи позволяют перенести теоретические новшества ЛП декодирования на итеративные алгоритмы. Отмеченные преимущества привлекли многих исследователей к использованию этого нового способа декодирования при работе с LPDC кодами. В данной статье приводится обширный обзор и обсуждение различных вопросов ЛП декодирования.