Описана модифицированная методика, основанная на «мягких» вычислениях для менее сложного в вычислительном отношении LDPC-кодера/декодера. Данная методика обучения вычислительно менее сложна, чем обычный метод градиентного обучения, и отличается высокой точностью. Для изменения H-матрицы использовались две формы вычисления в виде приближенного нижнего треугольника, а именно: систематическое кодирование методом исключения Гаусса и кодирование со сложностью, которая растет линейно с размером блока. Производительность разработанной методики сравнивается с традиционными методами с точки зрения максимальной погрешности, минимальной погрешности и вычислительной сложности. Для эмуляции кодека разработан LDPC-кодер/декодер на основе искусственной нейронной сети. Нейронная сеть имеет три слоя: входной слой, один скрытый слой и выходной слой. Количество нейронов во входном и выходном слоях зависит от размера матрицы проверки четности LDPC-кодера. Производительность предлагаемого LDPC-кодека сравнивается с производительностью обычных кодеков с точки зрения алгоритма обучения. Предлагаемый алгоритм обучения имеет умножение X-L в отличие от умножения X2 и X обычных методов. Также предлагается эффективная архитектура для того, чтобы нейронная сеть действовала как универсальный LDPC-кодек, выбирая 0/1 для установленного бита The paper describes a modified soft-computing technique for a less computationally complex LDPC encoder/decoder. This learning technique is computationally less complex than the conventional gradient learning method and is highly accurate. I used two forms of approximate lower triangle calculation to change the H-matrix, namely systematic Gaussian elimination coding and coding with complexity that grows linearly with block size. The performance of the developed technique is compared with traditional methods in terms of maximum error, minimum error and computational complexity. I developed an LDPC encoder/decoder based on an artificial neural network to emulate the codec. A neural network has three layers, namely an input layer, one hidden layer and an output layer. The number of neurons in the input and output layers depends on the size of the parity check matrix of the LDPC encoder. I compared the performance of the proposed LDPC codec with the performance of conventional codecs in terms of the learning algorithm. The proposed learning algorithm has X-L multiplication as opposed to X2 and X multiplication of conventional methods. I also propose an efficient architecture for the neural network to act as a generic LDPC codec by choosing either 0/1 for a set bit
Описана модифицированная методика, основанная на «мягких» вычислениях для менее сложного в вычислительном отношении LDPC-кодера/декодера. Данная методика обучения вычислительно менее сложна, чем обычный метод градиентного обучения, и отличается высокой точностью. Для изменения H-матрицы использовались две формы вычисления в виде приближенного нижнего треугольника, а именно: систематическое кодирование методом исключения Гаусса и кодирование со сложностью, которая растет линейно с размером блока. Производительность разработанной методики сравнивается с традиционными методами с точки зрения максимальной погрешности, минимальной погрешности и вычислительной сложности. Для эмуляции кодека разработан LDPC-кодер/декодер на основе искусственной нейронной сети. Нейронная сеть имеет три слоя: входной слой, один скрытый слой и выходной слой. Количество нейронов во входном и выходном слоях зависит от размера матрицы проверки четности LDPC-кодера. Производительность предлагаемого LDPC-кодека сравнивается с производительностью обычных кодеков с точки зрения алгоритма обучения. Предлагаемый алгоритм обучения имеет умножение X-L в отличие от умножения X2 и X обычных методов. Также предлагается эффективная архитектура для того, чтобы нейронная сеть действовала как универсальный LDPC-кодек, выбирая 0/1 для установленного бита The paper describes a modified soft-computing technique for a less computationally complex LDPC encoder/decoder. This learning technique is computationally less complex than the conventional gradient learning method and is highly accurate. I used two forms of approximate lower triangle calculation to change the H-matrix, namely systematic Gaussian elimination coding and coding with complexity that grows linearly with block size. The performance of the developed technique is compared with traditional methods in terms of maximum error, minimum error and computational complexity. I developed an LDPC encoder/decoder based on an artificial neural network to emulate the codec. A neural network has three layers, namely an input layer, one hidden layer and an output layer. The number of neurons in the input and output layers depends on the size of the parity check matrix of the LDPC encoder. I compared the performance of the proposed LDPC codec with the performance of conventional codecs in terms of the learning algorithm. The proposed learning algorithm has X-L multiplication as opposed to X2 and X multiplication of conventional methods. I also propose an efficient architecture for the neural network to act as a generic LDPC codec by choosing either 0/1 for a set bit
Информация, представленная в данной статье, направлена на уменьшение вычислительной сложности при моделировании помехоустойчивого декодера, работающего по алгоритму MIN-SUM. Основное внимание в представленной работе уделяется модификациям проверочной матрицы, в которых улучшена производительность декодирования с пониженной вычислительной сложностью. Слабым местом общепринятой модели является повышенное требование к объему памяти и вычислительная сложность. Модификации в алгоритме могут улучшить его показатели при разработке аппаратной архитектуры NB-LDPC-декодера. Приведен анализ производительности модифицированных матриц контроля по четности с точки зрения коэффициента битовых ошибок (BER) для длины кода стандарта IEEE 802.11n и 504. Описан вычислительный анализ модифицированных матриц контроля по четности. Предложен анализ эффективности нижней диагональной матрицы контроля четности (НДМ) и на основе двойной диагональной матрицы контроля четности (ДДМ) анализируются BER графиков и также оцениваются вычислительные сложности. Количество вычислений значительно меньше в НДМ по сравнению с другими матрицами. НДМ подходит для умеренной производительности декодирования с меньшей сложностью вычислений и на основе ДДМ структур. Предложенные модификации применимы для улучшения производительности декодирования с компромиссом по вычислительной сложности The information presented in this article is aimed at reducing the computational complexity of modeling a noise-tolerant decoder using the MIN-SUM algorithm. The main attention is paid to the modifications of the test matrix, in which the decoding performance is improved with reduced computational complexity. The weak point of the generally accepted model is the increased memory requirement and computational complexity. Modifications to the algorithm can improve its performance when developing the hardware architecture of a NB-LDPC decoder. In this paper, we analyze the performance of modified parity control matrices in terms of the bit error rate (BER) for the code length of the IEEE 802.11 n and 504 standards. We describe a computational analysis of modified parity-based control matrices. We give an analysis of the effectiveness of the lower diagonal parity matrix (NDM), and based on the double diagonal parity matrix (DDM), we analyzed the BER of graphs and estimated computational complexity. The number of calculations is significantly less in the NDM compared to other matrices. NDM is suitable for moderate decoding performance with less computational complexity and based on DDM structures. The proposed modifications are applicable to improve the performance of de-coding with a compromise on computational complexity
Aналитический подход к определению оптимальной функции постобработки для минимальной операции в алгоритме MIN-SUM, ранее полученный для обычных кодов проверки на четность с низкой плотностью (LDPC-коды), распространяется на нерегулярные коды LDPC. Оптимальное выражение постобработки для нестандартного случая варьируется от одного контрольного узла к другому, а также от одной итерации к следующей. Для практического использования необходимо аппроксимировать эту оптимальную функцию. В отличие от обычного случая, когда можно было бы использовать уникальную функцию постобработки на протяжении всего процесса декодирования без потери производительности битовых ошибок, для нерегулярных кодов критически важно варьировать постобработку от одной итерации к следующей, чтобы добиться хорошей производительности. С использованием этого подхода было выявлено, что качество битовых ошибок от алгоритма распространения доверия соответствует улучшению на 1 дБ по сравнению с MIN-SUM алгоритмом без постобработки. Сначала будет представлен обзор подхода и представлена аналитическая основа для оптимальной постобработки. Далее будет представлена оптимальная функция постобработки для нерегулярных кодов и обсуждены возможные упрощения. И наконец, показаны результаты моделирования и преимущества аппроксимации We extended an analytical approach to determining the optimal post-processing function for the minimum operation in the MIN-SUM algorithm, previously obtained for conventional low density parity check codes (LDPC codes), to irregular LDPC codes. The optimal post-processing expression for the non-standard case varies from one control node to another, as well as from one iteration to the next. For practical use, it is necessary to approximate this optimal function. Unlike the usual case where one could use a unique post-processing function throughout the entire decoding process without sacrificing bit code performance, it is critical for irregular codes to distinguish post-processing from one iteration to the next in order to achieve good performance. Using this approach, we found that the quality of bit errors from the trust algorithm corresponds to an improvement of 1 level compared to the MIN-SUM algorithm without post-processing. First, we provide an overview and analytical framework for optimal post-processing. Then, we present the optimal post-processing function for irregular codes and discuss possible simplifications. Finally, we show the simulation results and the benefits of the approximation
представлена полностью дифференцируемая архитектура графовой нейронной сети (GNN), предназначенная для задач декодирования каналов связи. Разработанный подход демонстрирует сопоставимую с традиционными методами эффективность декодирования для различных классов корректирующих кодов, включая коды низкой плотности проверки на четность (LDPC) и коды Боуза-Чоудхури-Хоквингема (BCH), при существенном сокращении требуемого количества итераций. Каждая итерация декодирования представлена как слой графовой нейронной сети. Суть метода заключается в замене детерминированных операций передачи сообщений в классических декодерах на адаптивные нейросетевые блоки, которые в процессе обучения самостоятельно выявляют оптимальные правила обработки данных в структуре кодового графа. В отличие от большинства существующих решений на основе глубокого обучения, предложенная архитектура обладает такими преимуществами, как масштабируемость для кодов произвольной длины и отсутствие ограничений, связанных с проблемами размерности. Экспериментальные результаты показывают значительное превосходство предложенной методики для кода BCH (63,45), достигнуто улучшение с максимальным выигрышем в области высоких SNR (4-5 дБ) по сравнению с взвешенным алгоритмом распространения доверия (BP), а для LDPC(128, 64)-кодов стандарта 5G NR преимущество достигает 36-87 %, особенно заметное при SNR > 2 дБ this paper presents a fully differentiable graph neural network (GNN) architecture designed for decoding communication channels. The developed approach demonstrates decoding efficiency comparable to traditional methods for various classes of correction codes, including low-density parity-check code (LDPC) and Bose-Chowdhury-Hockingham (BCH) codes, while significantly reducing the required numberof iterations. Each decoding iteration is represented asa layer of a graph neural network. The essence of the method is to replace deterministic message transmission operations in classical decoders with adaptive neuralnetwork blocks that independently identify optimal data processing rules inthe code graph structureduring the learning process. Unlike most existing deep learning-based solutions,the proposed architecture has advantages such as scalability for arbitrary-length codes and the absence of limitations related to dimension issues. Experimental results showa significant superiority of the proposed methodology for the BCH (63.45) code, an improvement has been achieved with maximum gain inthe area of high SNRs (4-5 dB) compared with the weighted trust propagation algorithm (BP), and for LDPC(128, 64) codesof the 5G NR standard, the advantage reaches 36-87%, especially noticeable with SNR > 2 dB
Для итеративного декодирования на графах используется новый альтернативный подход - это стохастическое декодирование. Возможность стохастического декодирования была недавно предложена для декодирования LDPC-кодов. Эта статья расширяет применение стохастического подхода для декодирования линейных блочных кодов с помощью проверочных матриц (PCM), таких как коды Боуза - Чоудхури - Хоквингема (BCH), коды Рида - Соломона (RS) и блочные турбокоды на основе компонентов кодов BCH. Показано, как стохастический подход способен генерировать информацию мягкого выхода для итеративного декодирования с мягким входом и мягким выходом Soft - Input Soft - Output (SISO). Описывается структура стохастических переменных узлов высокой степени, используемых в кодах с помощью проверочных матриц PCM. Результаты моделирования для кода BCH (128, 120), кода RS (31, 25) и RS (63, 55) и турбокода блока BCH (256, 121) и (1024, 676) демонстрируют эффективность декодирования при закрытии к итеративному декодеру SISO с реализацией с плавающей запятой. Эти результаты показывают производительность декодирования, близкую к адаптивному алгоритму распространения доверия и/или турбо-ориентированному адаптированному алгоритму распространения доверия Stochastic decoding capability has recently been proposed for decoding LDPC codes. This paper expands on the application of the stochastic approach to decoding linear block codes using parity check matrices (PCMs) such as Bose-Chowdhury-Hawkingham (BCH) codes, Reed-Solomon (RS) codes, and BCH component-based block turbo codes. We show how the stochastic approach is able to generate soft-output information for iterative decoding with soft-input and soft-output Soft-Input Soft-Output (SISO). We describe the structure of high degree stochastic node variables used in codes using PCM parity check matrices. Simulation results for BCH code (128, 120), RS code (31, 25) and RS (63, 55), and BCH block turbo code (256, 121) and (1024, 676) demonstrate the decoding efficiency on close to SISO iterative decoder with floating point implementation. These results show decoding performance close to the adaptive trust propagation algorithm and / or turbo-oriented adapted trust propagation algorithm
разработан эффективный алгоритм декодирования суммы произведений (MSPA), который не только сокращает задержку критического пути, но и улучшает использование аппаратных средств и пропускную способность декодера при сохранении погрешности алгоритма декодирования. Алгоритм min-sum (MS) и его варианты заменяют сложные вычисления контрольных узлов (CN) в SPA простыми операциями сложения и сравнения, но это приводит к потере производительности до 1 дБ по сравнению с SPA для более высоких длин кодовых слов, кодовых скоростей и степеней узла. Представлены три полностью параллельные архитектуры низкоплотностного декодера, основанные на структуре проекционной геометрии (PG) полей Галуа LDPC-кодов. Эти конструкции отличаются архитектурами битового узла (BN) и контрольного узла (CN). Схема 9-битного квантования с фиксированной точкой используется для достижения лучшей производительности при исправлении ошибок. Другим значительным вкладом этой работы является конвейеризация предлагаемых архитектур декодера для дальнейшего повышения общей пропускной способности. Эти параллельные и конвейерные архитектуры реализованы для 73-битных (скорость 0,616) и 1057-битовых (скорость 0,769) кодов PG-LDPC с регулярной структурой на программируемой логической интегральной схеме (ПЛИС) Xilinx Virtex-6 LX760. Предлагаемые конструкции также являются гибкими с точки зрения квантования, степени узла, коэффициента параллельности и длины кодового слова this paper develops an efficient sum-of-products (MSPA) decoding algorithm that not only reduces the critical path delay, but also improves hardware utilization and decoder throughput while maintaining decoding algorithm error. The min-sum (MS) algorithm and its variants replace the complex control node (CN) calculations in SPA with simple addition and comparison operations, but this results in a performance loss of up to 1 dB compared to SPA for higher codeword lengths, code rates, and powers node. Three fully parallel low-density decoder architectures based on the projection geometry (PG) structure of the Galois fields of LDPC codes are presented. These designs differ in bit node (BN) and control node (CN) architectures. A 9-bit fixed-point quantization scheme is used to achieve better error correction performance. Another significant contribution of this work is the pipelining of proposed decoder architectures to further improve overall throughput. These parallel and pipelined architectures are implemented for 73-bit (rate 0.616) and 1057-bit (rate 0.769) regular structure PG-LDPC codes on the Xilinx Virtex-6 LX760 field-programmable logic integrated circuit (FPGA). The proposed designs are also flexible in terms of quantization, node degree, parallelism factor, and codeword length
предлагается многоуровневый декодер для декодирования квазициклических низкоплотностных кодов с несколькими ребрами (QC−LDPC) с использованием графического процессора (ГП) в системах квантового распределения ключей с непрерывной переменной (НПКРК). Коды с контролем четности низкой плотности обладают отличными характеристиками исправления ошибок и широко применяются в различных системах связи. Ключевое ограничение, которое приводит к низкой скорости декодирования, связано с тем фактом, что успешное декодирование при очень низком отношении сигнал/шум требует большого числа итераций. Поэтому здесь для ускорения сходимости декодирования используется алгоритм многоуровневого распространения доверия (BP). Однако пропускная способность декодирования во время постобработки является одним из основных препятствий, возникающих в системе квантового распределения ключей с непрерывной переменной. Исходя из этой проблемы, предлагается провести оптимизацию методов хранения, которые непосредственно имеют связь с матрицей проверки четности. Оптимизация заключается в объединение подматриц, не имеющих связей между собой, и проведение параллельного декодирования некоторого количество кодовых слов с применением GPU. Для верификации методики было проведено моделирование. В ходе моделирования получены данные, демонстрирующие, что усредненная скорость процедуры декодирования LDPC-кода с тремя типичными кодовыми скоростями, т.е. 0,15, 0,06 и 0,03, достигает 57,12 Мбит/с, 48,25 Мбит/с и 35,51 Мбит/с, соответственно, при одновременном декодировании 128 кодовых слов длиной 106 без преждевременного завершения A multilevel decoder is proposed for decoding quasi-cyclic low-density multi-edge codes (QC-LDPC) using a graphics processor (GPU) in continuous variable quantum key distribution systems (NPCRCS). Low-density parity codes have excellent error correction characteristics and are widely used in various communication systems. The key limitation that leads to a low decoding rate is due to the fact that successful decoding at a very low signal-to-noise ratio requires a large number of iterations. Therefore, the multilevel Trust Propagation (BP) algorithm is used here to accelerate decoding convergence. However, the decoding bandwidth during postprocessing is one of the main obstacles encountered in a continuous variable quantum key distribution system. Based on this problem, it is proposed to optimize storage methods that are directly related to the parity check matrix. Optimization consists in combining submatrices that have no connections with each other and conducting parallel decoding of a certain number of code words using the GPU. A simulation was carried out to verify the methodology. During the simulation, data were obtained demonstrating that the average speed of the LDPC decoding procedure with three typical code speeds, i.e. 0.15, 0.06 and 0.03, reaches 57.12 Mbit/s, 48.25 Mbit/s and 35.51 Mbit/s, respectively, with simultaneous decoding of 128 code words with a length of 106 without premature completion