Un réseau optique, créé par des lasers, permet de piéger des atomes refroidis à ultra-basse température. Il permet d'obtenir une contrainte comme s'il s'agissait d'un cristal idéal (un cristal sans agitation thermique). Je décris les états des particules dans un potentiel périodique (un réseau optique) à l'aide d'ondes de probabilité (physique quantique) stationnaires (théorie indépendante du temps). Le caractère ondulatoire de la matière est exacerbé à très basse température et donne lieu à des phénomènes d'interférence et de résonance particuliers.
Cette thèse s'inscrit dans la thématique des collisions et des interactions impliquant des atomes et des molécules ultrafroids de césium. Ces travaux ont un lien étroit avec les différents domaines que sont la condensation de Bose-Einstein atomique et moléculaire, les atomes de Rydberg, les plasmas froids et l'information quantique. Trois expériences sont décrites dans cette thèse. Dans la première, la caractérisation du régime de collisions élastiques dans un piège hybride optique et magnétique a été menée. Cette étude est d'une grande importance pour évaluer, dans un tel piège, les possibilités d'atteindre la phase quantique de condensation de Bose-Einstein pour l'atome de césium. Dans la deuxième expérience, un dispositif de piégeage dipolaire de molécules de césium, réalisé à l'aide d'un laser CO2, a permis d'obtenir un échantillon dense et froid de molécules, créées par photoassociation d'atomes froids. Le confinement d'atomes et de molécules a été mis en évidence et des études quantitatives de collisions froides inélastiques molécule-atome ont pu être réalisées. Une mesure de ce taux de collisions est donnée dans le manuscrit. Nous abordons, dans la troisième expérience, l'étude détaillée des phénomènes d'interactions à longue distance dipôle-dipôle qui règnent au sein d'un gaz d'atomes de Rydberg froids. Ces interactions ont été mises en évidence et caractérisées à l'aide d'une méthode originale de spectroscopie optique de haute résolution.