Cette these decrit plusieurs experiences en spectroscopie de reflexion selective lineaire et non lineaire a une interface verre-vapeur atomique de cesium. Apres un chapitre introductif suivent deux chapitres essentiellement theoriques dans lesquels nous decrivons la reflexion selective lineaire (rs), la reflexion selective modulee en frequence (rsfm) et l'interaction van der waals (atome-surface) a laquelle le signal rsfm est sensible. Dans le quatrieme chapitre nous utilisons la rsfm avec prise en compte de l'interaction vdw pour mesurer des parametres collisionnels tels que l'elargissement et le deplacement de la transition d2. Les cinquieme et sixieme chapitres comportent une etude theorique ainsi que des mesures experimentales en rsfm de la structure zeeman de la raie d2 pour le regime des champs magnetiques intermediaires ainsi qu'une etude des effets anisotropes induits par les termes quadrupolaires de l'interaction vdw. Le couplage vdw quadrupolaire est different suivant l'orientation relative entre la direction du moment magnetique et le plan definie par la surface. Nous avons cherche a observer la signature spectroscopique de cette anisotropie en rsfm. Le septieme chapitre presente une etude experimentale de la saturation et du pompage optique hyperfin de la transition d2 avec une configuration a deux faisceaux, une pompe modulee en amplitude et une sonde tous les deux en incidence normale. Dans le huitieme chapitre nous presentons la premiere observation des effets mecaniques de la force dipolaire exercee sur des atomes en cellule, due a un gradient d'intensite lumineuse forme par une onde evanescente au voisinage d'une interface vapeur de cs-dielectrique.