A la suite d'expériences récentes menées sur un composé de spins 1/2 sur le réseau kagomé nous avons étudié le modèle de Heisenberg J1-J2, avec un échange J1 ferromagnétique entre premier voisins, en compétition avec un échange J2 antiferromagnétique entre seconds voisins. Classiquement, le fondamental est un ordre de Néel à 12 sous-réseaux non-coplanaires qui brise complètement la symétrie O(3) du Hamiltonien à T=0. La non-coplanarité du paramètre d'ordre induit une brisure de symétrie chirale qui est restaurée à température finie en même temps que les vortex Z2 du problème prolifèrent. La transition chirale est de plus en plus faiblement du premier ordre à mesure que la frustration J2/|J1| augmente. Pour des spins 1/2 les fluctuations quantiques habillent l'ordre classique sans le détruire, tant que J2/|J1|<3. En augmentant encore la frustration les fluctuations restaurent la symétrie SO(3) et on obtient une phase gappée. D'autre part, sur le réseau carré avec un échange cyclique à quatre corps nous avons obtenu la première signature d'un ordre nématique-p pour des spins 1/2.
A la suite d'expériences récentes menées sur un composé de spins 1/2 sur le réseau kagomé nous avons étudié le modèle de Heisenberg J1-J2, avec un échange J1 ferromagnétique entre premier voisins, en compétition avec un échange J2 antiferromagnétique entre seconds voisins. Classiquement, le fondamental est un ordre de Néel à 12 sous-réseaux non-coplanaires qui brise complètement la symétrie O(3) du Hamiltonien à T=0. La non-coplanarité du paramètre d'ordre induit une brisure de symétrie chirale qui est restaurée à température finie en même temps que les vortex Z2 du problème prolifèrent. La transition chirale est de plus en plus faiblement du premier ordre à mesure que la frustration J2/|J1| augmente. Pour des spins 1/2 les fluctuations quantiques habillent l'ordre classique sans le détruire, tant que J2/|J1|<3. En augmentant encore la frustration les fluctuations restaurent la symétrie SO(3) et on obtient une phase gappée. D'autre part, sur le réseau carré avec un échange cyclique à quatre corps nous avons obtenu la première signature d'un ordre nématique-p pour des spins 1/2.
Transitions de phases topologiques classiques et quantiques dans les systèmes magnétiques frustrés Il est bien connu que les glaces de spins comme Ho2Ti2O7 présentent plusieurs plateaux dans leur aimantation lorsqu’un champ magnétique leur est appliqué. Le premier d’entre eux est du aux gèles des spins apicaux qui laisse une entropie extensive dans les plans de kagomé perpendiculaire au champ et isolés les uns des autres. Dans ce cas, les spins du réseau kagomé sont contraint dans leur phase K11. En utilisant le processus de fragmentation, les spins des plans mappent, en partie, sur un modèle de dimer sur réseau nid d’abeille. Ce système est étudié sous plusieurs conditions. Nous commençons par ajouter un champ magnétique dans les plans kagomé. Dans le langage de dimer, le champ prend la forme d’affinités chimiques différentes en fonction de la direction du dimer. Dans ce cas, le système présente une transition de Kasteleyn avec des corrélations critiques ajustables par la direction du champ. Ensuite nous ajoutons un terme de plaquette, qui compte le nombre de boucle de trois dimers pouvant être ajouté, conduisant à une transition BKT vers une star phase ordonnée lorsque ce terme est négatif et une transition de Kasteleyn vers une columnar phase lorsque qu’il est positif. Nous ajoutons finalement ces deux termes en même temps pour trouver un point tri critique à partir duquel la transition BKT devient premier ordre. Nous étudions ensuite une généralisation de ce modèle de dimer sur réseau diamant sous un champs qui peut être incliné, conduisant à d’autres transitions de Kasteleyn en 3D. Ce modèle peut être réalisé expérimentalement dans des pyrochlores qui satisfont, dans leur état fondamental, la règle 3-in-1-out and 3-out-1-in similaire à celle des glaces de spins comme Ho2Ir2O7. Ce modèle de dimer présente des points triples intéressant autour desquels la température tends vers zéros et l’état de plus basse énergie présente une entropie résiduelle proportionnel à celle de la glace de kagomé. Finalement nous ajoutons des termes quantiques, hors-diagonaux, sur le modèle de dimer 2D, ce qui favorise des superpositions quantiques des boucles à trois dimer autour d’un hexagone similaire à des anneaux de benzène. Ce modèle est étudié numériquement à l’aide d’un algorithme de Monte-Carlo basé sur le formalisme de Suzuki-Trotter. Nous confirmons l’existence d’une transition de premier ordre entre la star phase classique et la phase plaquette résonnante quantique. Nous ajoutons un champ conjugué au paramètre d’ordre de la star phase pour trouver un point critique quantique entre ces deux phases. Une analyse fine de la phase plaquette révèle des corrélations similaires à celle d’un liquide de Coulomb qui disparaissent en loi de puissance avec la température, ce qui indique l’existence d’un spectre d’excitations continues au-dessus d’un état fondamental ordonné. Enfin, nous étudions cette phase quantique avec un secteur topologique non zéro qui frustre l’ordre à longue portée de la star phase, laissant des corrélations rappelant un liquide quantique. Les corrélations sont présentées sous la forme de figures de diffraction de neutrons polarisés interagissant avec les spins du réseau kagomé équivalent au modèle de dimer et fragmenté pour en extraire le champ transverse émergent des dimers.
Les systemes de spins de heisenberg antiferromagnetiques frustres et non-frustres sont etudies au moyen des methodes de la theorie quantique des champs et du groupe de renormalisation. Dans le cas de spins quantiques bidimensionnels, le phenomene de brisure spontanee de symetrie a temperature nulle est analysee en utilisant un modele sigma non-lineaire, dans sa formulation hamiltonienne et lagrangienne. Autour de cette etude, des criteres d'existence d'ordre a longue distance dans l'etat fondamental de systemes de spins frustres sont obtenus. Ils consistent, d'une part, en des predictions sur le spectre de basse energie du systeme a taille finie et a temperature nulle qui doit etre observe lorsqu'il y a brisure de symetrie dans la limite thermodynamique ; d'autre part, dans l'expression de la longueur de correlation en fonction de la temperature des systemes de spins frustres, dans un regime de parametres tels qu'il existe de l'ordre a temperature nulle. Dans le cas de spins frustres classiques, le probleme de l'universalite de la transition de phase tridimensionnelle a temperature finie est envisage. Differentes approches theoriques sont presentees et comparees: modele sigma non-lineaire, modele de landau-ginzburg-wilson. En deux dimensions, l'existence d'une topologie non-triviale dans les systemes de spins frustres est a la base d'un phenomene de deconfinement de vortex. La validite de la theorie de perturbation basse temperature est analysee
La recherche de phases magnétiques exotiques de la matière qui fondent même à T=0 uniquement sous l'action des fluctuations quantiques a été long et ardu, à la fois théoriquement et expérimentalement. La percée est venue récemment avec la découverte de l'Herbertsmithite, un composé formant un réseau kagome parfait avec des moments magnétiques de spin-1/2. Des expériences pionnières, mêlant des mesures de NMR, MuSR et de diffusion de neutrons, ont montré une absence totale de gel ou d'ordre des moments magnétiques de spin, fournissant ainsi une forte signature d'une phase paramgnétique quantique. Théoriquement, l'Herbertsmithite est extrêmement bien modélisé par le modèle de Heisenberg quantique antiferromagnétique pour des spins-1/2 sur le réseau kagome, problème qui n'a pas été résolu jusqu'à présent. Plusieurs méthodes approximatives numériques et analytiques ont donné différents états fondamentaux, allant des liquides de spins Z2 gappés et un liquide de spins exotique algébrique U(1) de Dirac aux liquides de spins chiraux et les cristaux à liaisons de valence. Dans cette thèse, le problème est traité dans le cadre d'une approche particule-esclave fermionique, à savoir le formalisme des fermions de Schwinger SU(2). Il est conclu qu'un liquide de spins sans gap algébrique de Dirac a l'énergie variationnelle la plus basse et peut en fait constituer un vrai état fondamental physique de liquide de spins. Une implémentation sophistiquée de méthodes numériques de pointes comme le Monte-Carlo variationnel, le Monte-Carlo fonctions de Green et l'application de pas Lanczos dans un schéma variationnel ont été utilisés. Il est montré que contrairement à la croyance habituelle, le liquide de spins de Dirac U(1) projeté en "2+1" dimensions est remarquablement robuste par rapport à une large classe de perturbations, incluant les liquides de spins topologiques Z2 et les cristaux à liaisons de valence. De plus, l'application de deux pas Lanczos sur la fonction d'onde du liquide de spins de Dirac U(1) montre que son énergie est compétitive avec celles proposées pour les liquides de spins topologiques Z2. Ce résultat, combiné avec les indications expérimentales qui pointent vers un liquide de spins sans gap pour l'Herbertsmithite, appuie l'affirmation que le vrai état fondamental de ce modèle est en fait un liquide de spins algébrique de Dirac.
La physique de basse énergie du modèle de Heisenberg antiferromagnétique pour des spins 1/2 en deux dimensions recèle une grande variété de comportements, pour certains mal compris, lorsque l'on est en présence de frustration. Outre l'intérêt théorique que présente l'étude de ces modèles, il se trouve qu'ils décrivent de manière satisfaisante de nombreux composés réels maintenant synthétisés. Dans cette thèse, nous abordons les deux aspects de l'étude de ces modèles. D'un point de vue théorique, nous examinons ce modèle, à l'aide de techniques numériques, sur l'un des réseaux les plus frustrés : le réseau kagomé. Nous montrons comment les très fortes signatures de la frustration (existence d'un gap de spin peuplé d'un grand nombre d'états singulets) observées dans ce modèle peuvent être correctement comprises à l'aide d'états RVB (<< Resonating Valence Bond >>, Lien de Valence Résonant) à courte portée. Cette approche présente en outre l'intérêt de donner une image relativement simple de la physique de basse énergie du modèle. Bien qu'attribuées à la forte frustration de ce modèle, les propriétés du spectre du hamiltonien de Heisenberg sur le réseau kagomé n'avaient pas d'équivalent dans les systèmes analogues. Nous mettons en évidence, de manière exacte, l'existence de propriétés semblables (gap de spin et singulets de basse énergie) dans un modèle unidimensionnel de tétraèdres couplés. Nous abordons enfin les applications de l'étude numérique des modèles frustrés à l'explication de propriétés de composés réels. En effet, il est notamment possible de confronter ces résultats à des mesures de susceptibilité ou à des expériences de diffraction de neutrons. Nous examinons tout d'abord le composé CaV4O9, premier système bidimensionnel demi-rempli présentant un gap dans son spectre d'excitations. Nous montrons que l'analyse des symétries du premier état excité permet, par comparaison avec la relation de dispersion obtenue par diffraction de neutrons, de borner les paramètres du modèle, par ailleurs difficiles à évaluer par des méthodes de chimie quantique. L'analyse de la susceptibilité rend possible, dans le cas de Li2VO(Si,Ge)O4 qui est la première réalisation du modèle J_1 - J_2 sur le réseau carré, la mise en évidence de la frustration et l'évaluation de son importance dans ces deux composés.
Phases topologiques fortement corrélées Cette thèse porte principalement sur l'étude de modèles de fermions en interactions contenant un couplage spin-orbite. Ces modèles (i) peuvent décrire une classe de matériaux composés d'iridates sur le réseau en nid d'abeille ou (ii) pourraient être réalisés artificiellement dans des systèmes d’atomes froids. Nous avons étudié, dans un premier temps, le système à demi-remplissage avec l'interaction de Hubbard et un couplage spin-orbite anisotrope. Nous avons trouvé plusieurs phases: la phase isolant topologique pour de faibles corrélations, et deux phases avec des ordres magnétiques frustrés, l'ordre de Néel et l'ordre spiral, dans la limite de très fortes corrélations. La transition entre les régimes de faibles et de fortes corrélations est une transition de Mott dans laquelle les excitations électroniques se fractionnent en excitations de charge et de spin. Les charges sont localisées par l'interaction. Le secteur de spin présente de fortes fluctuations qui sont modélisées par un gaz d’instantons. Nous avons ensuite exploré la physique d'un système régi au demi-remplissage par le modèle de Kitaev-Heisenberg, qui présente une phase magnétique de type zig-zag. En dopant le système, autour du quart remplissage, la structure de bande présente de nouveaux centres de symétrie en plus de la symétrie d'inversion. Le couplage de spin de Kitaev-Heisenberg favorise alors la formation de paires de Cooper dans un état triplet autour de ces centres de symétrie. La condensation de ces paires de Cooper autour de ces vecteurs d'onde non triviaux se manifeste par une modulation spatiale du paramètre d'ordre supraconducteur, comme dans la supraconductivité de Fulde–Ferrell–Larkin–Ovchinnikov (FFLO). La dernière partie de la thèse propose et étudie une implémentation des phases topologiques dite de Haldane et de Kane-Mele dans un système avec deux espèces de fermions sur le réseau en nid d'abeille, stabilisée grâce à l’interaction RKKY médiée par l’espèce rapide et qui agit sur l’espèce lente.
Cette these etudie les diagrammes de phase et l'integrabilite de differents modeles de physique statistique classique et quantique. Plusieurs methodes numeriques sont employees ; en particulier, un critere fonctionnel pour decider de l'integrabilite est presente. Le document est organise en deux parties independantes qui sont fortement reliees par les modeles etudies. La premiere partie applique la simulation de monte carlo a des modeles a spins classiques, non integrables, pour confronter des resultats de simulation a des propositions analytiques, obtenues recemment par l'etude des relations d'inverses et du groupe de symetries de ces modeles. Nous determinons ainsi les diagrammes de phase d'un modele de potts chiral a six etats sur reseau carre et du modele de potts standard a trois etats sur reseau triangulaire avec interactions a deux et trois spins. La deuxieme partie etudie l'integrabilite de differents modeles en physique statistique. Par des methodes de la theorie des matrices aleatoires nous analysons les proprietes statistiques du spectre d'un operateur decrivant le modele (le hamiltonien ou une matrice de transfert). En utilisant les symetries connues de celui-ci, on peut operer une decomposition en sous-espaces stables de cet operateur. Nous developpons la methode par l'etude systematique d'une chaine quantique de hubbard avec un terme d'echange. Par la suite, nous l'appliquons pour la premiere fois aux matrices de transfert de modeles classiques (modele d'ising 2d, 3d, modele de potts, modele a huit vertex asymetrique)