Nous etudions la nature de l'etat fondamental de l'hamiltonien de heisenberg antiferromagnetique quantique a temperature nulle sur les reseaux triangulaire et kagome. A partir des resultats bases sur la diagonalisation exacte de l'hamiltonien sur des echantillons de taille finie, nous presentons plusieurs arguments en faveur d'un etat fondamental ordonne pour le reseau triangulaire. Aucune signature d'un ordre magnetique conventionnel n'a ete obtenue pour le reseau kagome. Ce systeme est un serieux candidat pour un etat fondamental de type liquide de spins a temperature nulle
Nous etudions la nature de l'etat fondamental de l'hamiltonien de heisenberg antiferromagnetique quantique a temperature nulle sur les reseaux triangulaire et kagome. A partir des resultats bases sur la diagonalisation exacte de l'hamiltonien sur des echantillons de taille finie, nous presentons plusieurs arguments en faveur d'un etat fondamental ordonne pour le reseau triangulaire. Aucune signature d'un ordre magnetique conventionnel n'a ete obtenue pour le reseau kagome. Ce systeme est un serieux candidat pour un etat fondamental de type liquide de spins a temperature nulle
La recherche de phases magnétiques exotiques de la matière qui fondent même à T=0 uniquement sous l'action des fluctuations quantiques a été long et ardu, à la fois théoriquement et expérimentalement. La percée est venue récemment avec la découverte de l'Herbertsmithite, un composé formant un réseau kagome parfait avec des moments magnétiques de spin-1/2. Des expériences pionnières, mêlant des mesures de NMR, MuSR et de diffusion de neutrons, ont montré une absence totale de gel ou d'ordre des moments magnétiques de spin, fournissant ainsi une forte signature d'une phase paramgnétique quantique. Théoriquement, l'Herbertsmithite est extrêmement bien modélisé par le modèle de Heisenberg quantique antiferromagnétique pour des spins-1/2 sur le réseau kagome, problème qui n'a pas été résolu jusqu'à présent. Plusieurs méthodes approximatives numériques et analytiques ont donné différents états fondamentaux, allant des liquides de spins Z2 gappés et un liquide de spins exotique algébrique U(1) de Dirac aux liquides de spins chiraux et les cristaux à liaisons de valence. Dans cette thèse, le problème est traité dans le cadre d'une approche particule-esclave fermionique, à savoir le formalisme des fermions de Schwinger SU(2). Il est conclu qu'un liquide de spins sans gap algébrique de Dirac a l'énergie variationnelle la plus basse et peut en fait constituer un vrai état fondamental physique de liquide de spins. Une implémentation sophistiquée de méthodes numériques de pointes comme le Monte-Carlo variationnel, le Monte-Carlo fonctions de Green et l'application de pas Lanczos dans un schéma variationnel ont été utilisés. Il est montré que contrairement à la croyance habituelle, le liquide de spins de Dirac U(1) projeté en "2+1" dimensions est remarquablement robuste par rapport à une large classe de perturbations, incluant les liquides de spins topologiques Z2 et les cristaux à liaisons de valence. De plus, l'application de deux pas Lanczos sur la fonction d'onde du liquide de spins de Dirac U(1) montre que son énergie est compétitive avec celles proposées pour les liquides de spins topologiques Z2. Ce résultat, combiné avec les indications expérimentales qui pointent vers un liquide de spins sans gap pour l'Herbertsmithite, appuie l'affirmation que le vrai état fondamental de ce modèle est en fait un liquide de spins algébrique de Dirac.
A la suite d'expériences récentes menées sur un composé de spins 1/2 sur le réseau kagomé nous avons étudié le modèle de Heisenberg J1-J2, avec un échange J1 ferromagnétique entre premier voisins, en compétition avec un échange J2 antiferromagnétique entre seconds voisins. Classiquement, le fondamental est un ordre de Néel à 12 sous-réseaux non-coplanaires qui brise complètement la symétrie O(3) du Hamiltonien à T=0. La non-coplanarité du paramètre d'ordre induit une brisure de symétrie chirale qui est restaurée à température finie en même temps que les vortex Z2 du problème prolifèrent. La transition chirale est de plus en plus faiblement du premier ordre à mesure que la frustration J2/|J1| augmente. Pour des spins 1/2 les fluctuations quantiques habillent l'ordre classique sans le détruire, tant que J2/|J1|<3. En augmentant encore la frustration les fluctuations restaurent la symétrie SO(3) et on obtient une phase gappée. D'autre part, sur le réseau carré avec un échange cyclique à quatre corps nous avons obtenu la première signature d'un ordre nématique-p pour des spins 1/2.
Les systemes de spins de heisenberg antiferromagnetiques frustres et non-frustres sont etudies au moyen des methodes de la theorie quantique des champs et du groupe de renormalisation. Dans le cas de spins quantiques bidimensionnels, le phenomene de brisure spontanee de symetrie a temperature nulle est analysee en utilisant un modele sigma non-lineaire, dans sa formulation hamiltonienne et lagrangienne. Autour de cette etude, des criteres d'existence d'ordre a longue distance dans l'etat fondamental de systemes de spins frustres sont obtenus. Ils consistent, d'une part, en des predictions sur le spectre de basse energie du systeme a taille finie et a temperature nulle qui doit etre observe lorsqu'il y a brisure de symetrie dans la limite thermodynamique ; d'autre part, dans l'expression de la longueur de correlation en fonction de la temperature des systemes de spins frustres, dans un regime de parametres tels qu'il existe de l'ordre a temperature nulle. Dans le cas de spins frustres classiques, le probleme de l'universalite de la transition de phase tridimensionnelle a temperature finie est envisage. Differentes approches theoriques sont presentees et comparees: modele sigma non-lineaire, modele de landau-ginzburg-wilson. En deux dimensions, l'existence d'une topologie non-triviale dans les systemes de spins frustres est a la base d'un phenomene de deconfinement de vortex. La validite de la theorie de perturbation basse temperature est analysee
La frustration magnétique est une propriété physique faisant l'objet de très nombreuses études. Elle intervient lorsque la géométrie du système ne permet pas la minimisation simultanée des énergies locales, menant alors à une dégénérescence macroscopique. Présent dans la nature au travers de différents minéraux, dont la célèbre herbertsmithite, le réseau kagomé antiferromagnétique est un parfait exemple de système bidimensionnel frustré. Lorsqu'à cette propriété s'ajoute un champ magnétique extérieur tendant à polariser le matériau, la compétition de ces deux phénomènes donne naissance à des processus d'aimantation exotiques, tels que les plateaux d'aimantation pour lesquels la susceptibilité magnétique est nulle. Nous avons étudié le réseau kagomé avec le hamiltonien AKLT de spin 2 et le hamiltonien de Heisenberg pour les spins 1/2, 1, 3/2 et 2 sous champ magnétique. Ce travail a été effectué en utilisant des méthodes numériques appelées méthodes Tensor Network. Tout d'abord développées dans le cadre de la théorie quantique de l'information, ces méthodes, basées sur le principe d'intrication, ont très vite été utilisées en matière condensée. Elles ont permis l'étude de systèmes bidimensionnels frustrés, jusqu'alors limitée aux méthodes numériques déjà connus telles que les méthodes Monte Carlo ou encore DMRG. Nous avons été en mesure de produire les diagrammes de phases, d'une grande richesse, pour tous les modèles cités, en fonction du champ magnétique.
Les travaux présentés dans cette thèse concernent l'étude des systèmes magnétiques sous champ pour lesquels une frustration, géométrique ou due à des interactions en compétition, est présente. Nous avons pour cela considéré différents types de modèles en basses dimensions, où les effets des fluctuations quantiques sont renforcés et permettent ainsi l'apparition de nouvelles phases quantiques intéressantes. Ce travail est organisé en trois parties, chacune d'entre elles correspondant à l'étude d'un modèle particulier. Dans les deux premières, nous nous intéressons à deux modèles unidimensionnels de tubes de spin, respectivement composés de trois et quatres chaînes de spin, que nous abordons à l'aide de plusieurs techniques analytiques et numériques. Nous montrons comment, au-delà de la présence de plateaux d'aimantation, une physique riche peut émerger, avec notamment le rôle des modes non magnétiques pour le premier modèle ou, pour le second, les conséquences d'une dégénérescence continue au niveau classique sur le diagramme de phases quantiques. Dans la troisième partie, nous étudions par des simulations de Monte-Carlo Quantique un modèle possédant une anisotropie de spin sur le réseau bidimensionnel Kagomé, proposé pour la recherche de phases topologiques. Nous obtenons le diagramme de phases sur un des plateaux d'aimantation de ce modèle, et utilisons cet exemple pour discuter la pertinence de l'utilisation des entropies d'intrication comme outil d'identification de différentes phases dans des simulations numériques.
Le piégeage optique d'atomes sur réseaux optiques permet d'étudier leur comportement dans un régime de très basse température, de l'ordre du nanokelvin, sans geler le degré de liberté de leur moment cinétique. Ces méthodes récentes de piégeage offrent la possibilité d'analyser le magnétisme des phases quantiques spontanément adopté par les atomes. Dans cette thèse, nous étudions numériquement des bosons à deux états effectifs de spin, ou bosons de spin-1/2, ainsi que des bosons à trois états de spin, ou bosons de spin-1, avec deux méthodes conceptuellement différentes: une approche simplifiée en champ moyen et une méthode exacte, la méthode de Monte Carlo Quantique. Au delà de l'étude de ces deux systèmes, nous comparons une méthode en champ moyen, parfois abusivement employée, à la méthode de Monte Carlo Quantique. L'étude approfondie du système de bosons de spin-1/2 en une et deux dimensions dans la limite de température nulle montre l'influence de la dimension sur la physique de ce système. Les effets thermiques, non négligeables expérimentalement, sont aussi étudiés. Enfin, le système de bosons de spin-1 piégés sur un réseau bidimensionnel, système plus riche et plus complexe à étudier que le précédent, est étudié dans la limite de température nulle. L'étude de ces deux systèmes révèle différentes organisations magnétiques dans les phases isolantes de Mott ainsi que dans la phase superfluide, telles qu'un superfluide ferromagnétique. Des transitions de phases du premier ordre et des mouvements cohérents anticorrélés, présents dans les phases de Mott, sont aussi observés.