Cette thèse aborde le défi posé par le décodage à décision souple pour les codes à blocs courts par le biais de l'intégration de l'apprentissage automatique dans le décodage, soit par l’augmentation d’algorithmes existants, soit par approche sans modèle. Pour les approches sans modèle, nous utilisons le décodage neuronal basé sur le syndrome pour estimer le motif d'erreur le plus vraisemblable et approcher ainsi le décodage optimal. Nous montrons que l’utilisation de jeux d’entraînement bien construits par échantillonnage optimisé des exemples, combinée à de l'augmentation de données basée sur les automorphismes du code améliore considérablement la capacité de généralisation du modèle et l’efficacité de l’entraînement. Cette approche peut être complétée par des post-traitements à l’inférencepour se rapprocher encore davantage de la performance cible du décodeur optimal. Pour les approches basées sur des modèles, nous considérons un décodage par propagation de croyance (BP) augmenté, et assisté par un réseau de neurones. En tirant profit des représentations d'entrée et architectures récurrentes développées pour le décodage neuronal par syndrome, nous montrons que les nœuds variables problématiques à l'origine des échecs du décodage BP peuvent être identifiés avec plus de précision, ce qui réduit le nombre de tentatives de décodage et surpasse les règles expertes classiques. Ces résultats mettent en évidence l’intérêt d’une synergie entre connaissance structurelle des codes et apprentissage basé sur les données, dessinant ainsi une voie prometteuse pour le décodage quasi optimal des codes courts.
Cette thèse aborde le défi posé par le décodage à décision souple pour les codes à blocs courts par le biais de l'intégration de l'apprentissage automatique dans le décodage, soit par l’augmentation d’algorithmes existants, soit par approche sans modèle. Pour les approches sans modèle, nous utilisons le décodage neuronal basé sur le syndrome pour estimer le motif d'erreur le plus vraisemblable et approcher ainsi le décodage optimal. Nous montrons que l’utilisation de jeux d’entraînement bien construits par échantillonnage optimisé des exemples, combinée à de l'augmentation de données basée sur les automorphismes du code améliore considérablement la capacité de généralisation du modèle et l’efficacité de l’entraînement. Cette approche peut être complétée par des post-traitements à l’inférencepour se rapprocher encore davantage de la performance cible du décodeur optimal. Pour les approches basées sur des modèles, nous considérons un décodage par propagation de croyance (BP) augmenté, et assisté par un réseau de neurones. En tirant profit des représentations d'entrée et architectures récurrentes développées pour le décodage neuronal par syndrome, nous montrons que les nœuds variables problématiques à l'origine des échecs du décodage BP peuvent être identifiés avec plus de précision, ce qui réduit le nombre de tentatives de décodage et surpasse les règles expertes classiques. Ces résultats mettent en évidence l’intérêt d’une synergie entre connaissance structurelle des codes et apprentissage basé sur les données, dessinant ainsi une voie prometteuse pour le décodage quasi optimal des codes courts.
Contributions au décodage neuronal des codes en blocs linéaires Cette thèse aborde le défi posé par le décodage à décision souple pour les codes à blocs courts par le biais de l'intégration de l'apprentissage automatique dans le décodage, soit par l’augmentation d’algorithmes existants, soit par approche sans modèle. Pour les approches sans modèle, nous utilisons le décodage neuronal basé sur le syndrome pour estimer le motif d'erreur le plus vraisemblable et approcher ainsi le décodage optimal. Nous montrons que l’utilisation de jeux d’entraînement bien construits par échantillonnage optimisé des exemples, combinée à de l'augmentation de données basée sur les automorphismes du code améliore considérablement la capacité de généralisation du modèle et l’efficacité de l’entraînement. Cette approche peut être complétée par des post-traitements à l’inférencepour se rapprocher encore davantage de la performance cible du décodeur optimal. Pour les approches basées sur des modèles, nous considérons un décodage par propagation de croyance (BP) augmenté, et assisté par un réseau de neurones. En tirant profit des représentations d'entrée et architectures récurrentes développées pour le décodage neuronal par syndrome, nous montrons que les nœuds variables problématiques à l'origine des échecs du décodage BP peuvent être identifiés avec plus de précision, ce qui réduit le nombre de tentatives de décodage et surpasse les règles expertes classiques. Ces résultats mettent en évidence l’intérêt d’une synergie entre connaissance structurelle des codes et apprentissage basé sur les données, dessinant ainsi une voie prometteuse pour le décodage quasi optimal des codes courts.
Les communications sans fil, déjà très présentes dans notre société, soulèvent de nouveaux défis dans le cadre du déploiement de l'Internet des Objets (IoT) tels que le développement de nouvelles méthodes de décodage au niveau de la couche physique permettant d'assurer de bonnes performances pour la transmission de messages courts. En particulier, les codes LDPC (Low Density Parity Check) sont une famille de codes correcteurs d'erreurs très connus pour leurs excellentes performances asymptotiques lorsqu'ils sont décodés par l'algorithme de propagation de croyance (BP, pour Belief Propagation, en anglais). Cependant, la capacité de correction de l'algorithme BP se retrouve fortement dégradée pour les codes LDPC courts. Ainsi, cette thèse porte sur l'amélioration du décodage des codes LDPC courts, grâce notamment à des outils d'apprentissage automatique, tels que les réseaux de neurones.Après avoir introduit les notions et caractéristiques des codes LDPC et du décodage BP,ainsi que la modélisation du BP par un réseau de neurones récurrent (BP-Recurrent NeuralNetwork ou BP-RNN), nous développons de nouvelles méthodes d'entraînement afin de spécialiser le décodeur BP-RNN sur des motifs d'erreurs partageant des propriétés structurelles similaires. Ces approches de spécialisation sont associées à des architectures de décodage composées de plusieurs BP-RNNs spécialisés, où chaque BP-RNN est entraîné à corriger un type différent de motif d'erreurs (diversité de décodage). Nous nous intéressons ensuite au post-traitement du BP (ou du BP-RNN) avec un décodage par statistiques ordonnées (Ordered Statistics Decoding ou OSD) afin de se rapprocher de la performance du décodage par maximum de vraisemblance. Pour améliorer les performances du post-traitement, nous optimisons son entrée grâce à un neurone simple, puis nous introduisons une stratégie de décodage pour un post-traitement par OSD multiples. Il est alors montré que cette stratégie tire efficacement partie de la diversité de ses entrées, fournissant ainsi un moyen efficace de combler l'écart avec le décodage par maximum de vraisemblance.
Les communications sans fil, déjà très présentes dans notre société, soulèvent de nouveaux défis dans le cadre du déploiement de l'Internet des Objets (IoT) tels que le développement de nouvelles méthodes de décodage au niveau de la couche physique permettant d'assurer de bonnes performances pour la transmission de messages courts. En particulier, les codes LDPC (Low Density Parity Check) sont une famille de codes correcteurs d'erreurs très connus pour leurs excellentes performances asymptotiques lorsqu'ils sont décodés par l'algorithme de propagation de croyance (BP, pour Belief Propagation, en anglais). Cependant, la capacité de correction de l'algorithme BP se retrouve fortement dégradée pour les codes LDPC courts. Ainsi, cette thèse porte sur l'amélioration du décodage des codes LDPC courts, grâce notamment à des outils d'apprentissage automatique, tels que les réseaux de neurones.Après avoir introduit les notions et caractéristiques des codes LDPC et du décodage BP,ainsi que la modélisation du BP par un réseau de neurones récurrent (BP-Recurrent NeuralNetwork ou BP-RNN), nous développons de nouvelles méthodes d'entraînement afin de spécialiser le décodeur BP-RNN sur des motifs d'erreurs partageant des propriétés structurelles similaires. Ces approches de spécialisation sont associées à des architectures de décodage composées de plusieurs BP-RNNs spécialisés, où chaque BP-RNN est entraîné à corriger un type différent de motif d'erreurs (diversité de décodage). Nous nous intéressons ensuite au post-traitement du BP (ou du BP-RNN) avec un décodage par statistiques ordonnées (Ordered Statistics Decoding ou OSD) afin de se rapprocher de la performance du décodage par maximum de vraisemblance. Pour améliorer les performances du post-traitement, nous optimisons son entrée grâce à un neurone simple, puis nous introduisons une stratégie de décodage pour un post-traitement par OSD multiples. Il est alors montré que cette stratégie tire efficacement partie de la diversité de ses entrées, fournissant ainsi un moyen efficace de combler l'écart avec le décodage par maximum de vraisemblance.
Les systèmes quantiques ont le potentiel d'améliorer les techniques informatiques classiques de pointe, grâce à des propriétés telles que la superposition et l'intrication. Leur combinaison avec des cadres d'intelligence artificielle pourrait améliorer de nombreux domaines du traitement des données quantiques, tels que la reconnaissance automatique des états quantiques et le contrôle des dispositifs quantiques. Malgré des résultats prometteurs obtenus avec les réseaux de neurones quantiques, des défis majeurs subsistent : (i) la mise en œuvre d'architectures comportant un grand nombre de neurones et de paramètres entraînables sur le matériel quantique actuel, et (ii) l'entraînement fiable de ces modèles, où des problèmes tels que les 'barren plateau' dans les fonction de coût peuvent supprimer les gradients et entraver l'apprentissage.En effet, la résolution de tâches complexes nécessite un grand nombre de neurones densément connectés par de nombreux paramètres entraînables, ce qui est difficile à réaliser sur du matériel quantique.Dans cette thèse, nous envisageons la mise en œuvre de réseaux de neurones quantiques avec des modes bosoniques couplés. Nous obtenons un grand nombre de neurones en considérant les probabilités d'état de Fock comme caractéristiques de sortie, et des paramètres entraînables en couplant paramétriquement les modes, grâce à différents processus de mélange à trois ondes tels que la conversion cohérente de photons et le squeezing entre deux modes. Afin d'entraîner le système quantique, nous explorons deux approches : (i) le calcul par réservoir, qui contourne l'entraînement des paramètres physiques, et (ii) l'entraînement direct des couplages paramétriques par descente de gradient. La dynamique intrinsèque des modes bosoniques étant linéaire, la non-linéarité ne provient que des mesures d'états de Fock. Nous constatons que cette non-linéarité induite par la mesure est remarquablement expressive : en utilisant seulement deux oscillateurs quantiques, nous pouvons extraire un ensemble suffisant de caractéristiques non linéaires pour apprendre des tâches qui nécessitent généralement environ 20 neurones dans un réseau classique, notamment la classification de signaux sinus/carré et la prédiction de séries temporelles Mackey-Glass.Cependant, le calcul quantique par réservoir se heurte à deux limites principales : comme tous les poids entraînables résident uniquement dans le post-traitement classique des résultats de mesure, obtenir de bonnes performances nécessite de mesurer un grand nombre de caractéristiques, et son expressivité est limitée par son architecture monocouche. Pour remédier à cela, nous entraînons directement les paramètres de mélange à trois ondes; pour une simulation efficace, nous limitons la dynamique interne aux modes gaussiens et utilisons la rétro-propagation pour l'optimisation. Nous montrons que cette approche apprend efficacement : bien que le nombre de paramètres entraînables évolue linéairement avec le nombre de modes, le nombre de caractéristiques mesurées requis baisse par rapport au calcul par réservoir, l'expressivité augmente et, avec le même nombre de modes, nous résolvons des tâches plus difficiles que la base de référence du réservoir.Cette thèse a démontré que les réseaux de neurones quantiques bosoniques constituent une voie prometteuse vers un apprentissage efficace sur le plan matériel et a fourni des outils théoriques permettant de comprendre comment ils apprennent, et améliorer leurs performances. À l'avenir, l'addition dans l'Hamiltonien de non-linéarités d'ordre supérieur telles que les processus Kerr permettrait de pousser le système au-delà du régime gaussien, libérant ainsi des ressources non gaussiennes et un espace de caractéristiques effectif plus vaste. Dans une perspective plus large, il sera important d'étudier leur susceptibilité aux barren plateaus et d'identifier les conditions dans lesquelles le dimensionnement du gradient reste favorable.
Cette thèse aborde deux problèmes liés aux réseaux de points, un vieux problème et un nouveau.Tous deux sont des problèmes de décodage de réseaux de points : À savoir, étant donné un point dans l'espace, trouver le point du réseau le plus proche.Le premier problème est lié au codage de canal en dimensions intermédiaires. Alors que des systèmes efficaces basés sur les réseaux de points existent dans les petites dimensions n < 30 et les grandes dimensions n > 1000, ce n'est pas le cas des dimensions intermédiaires. Nous étudions le décodage de réseaux de points intéressants dans ces dimensions intermédiaires. Nous introduisons de nouvelles familles de réseaux de points obtenues en appliquant le contrôle de parité de manière récursive. Ces familles comprennent des réseaux de points célèbres, tels que les réseaux Barnes-Wall, les réseaux Leech et Nebe, ainsi que de nouveaux réseaux de parité.Nous montrons que tous ces réseaux de points peuvent être décodés efficacement avec un nouveau décodeur récursif par liste.Le deuxième problème concerne les réseaux de neurones. Depuis 2016, d'innombrables articles ont tenté d'utiliser l'apprentissage profond pour résoudre le problème de décodage/détection rencontré dans les communications numériques. Nous proposons d'étudier la complexité du problème que les réseaux de neurones doivent résoudre. Nous introduisons une nouvelle approche du problème de décodage afin de l'adapter aux opérations effectuées par un réseau de neurones. Cela permet de mieux comprendre ce qu'un réseau de neurones peut et ne peut pas faire dans le cadre de ce problème, et d'obtenir des indications concernant la meilleure architecture du réseau de neurones. Des simulations informatiques validant notre analyse sont fournies.
Pour des trames de longueurs n superieures ou egales a quelques milliers de bits (n > 1000), les turbocodes et les codes LDPC (Low-Density Parity Check) ou leurs variantes donnent d'excellentes performances avec une complexite raisonnable pour des implementations reel meme pour des debits tres eleves (GigaBit/s). Par contre pour les petites longueurs (n < 1000) de trames, les turbocodes et codes LDPC courts sont moins performants. En effet, pour avoir de grandes distances minimales dmin avec des codes de petites longueurs n et de grandes capacites de correction, il faut des codes dont les matrices de controle de parite soient de densite elevee et non creuse, c'est a dire avec beaucoup de 1 et tres peu de 0, comme celles des codes LDPC ou des turbocodes. La densite elevee de la matrice de controle du code conduit a des cycles courts dans le graphe de Tanner correspondant et donc rend les algorithmes type BP (Belief Propagation) inefficaces. L'objectif principal de cette these est donc de contribuer a ameliorer le decodage a decision douce des codes en bloc lineaires courts. Nos travaux se sont orientes, dans un premier temps, vers l'etude d'une classe particuliere de codes en bloc appeles codes Cortex. La construction Cortex repose sur l'utilisation de codes de base de petites longueurs assembles en etages relies par des permutations. Nous proposons une nouvelle methode pour estimer les variables cachees dans la structure afin de pouvoir effectuer un decodage iteratif entre les codes de base. Nous proposons une deuxieme methode de decodage qui ne necessite pas d'estimation des variables cachees en les dissimulant dans des equations booleennes. Dans un second temps nous avons elargi nos recherches a des algorithmes de decodage tres generaux valables pour tout code en bloc. Nous proposons dans ce cadre trois methodes de decodage basees sur des treillis-produits de complexite reduite construits a partir des lignes des matrices generatrice et de controle du code en bloc.