Depuis la première image en résolution atomique par microscopie à force atomique (AFM), les avancées de cette technique de champ proche permettent aujourd'hui de manipuler des atomes à température ambiante sur des surfaces conductrices ou isolantes. La compréhension du fonctionnement de cette machine complexe et l'optimisation des réglages des nombreux asservissements est un des objectifs de cet ouvrage. A cette fin, un formalisme analytique provenant des méthodes de l'Automatique non-linéaire sera introduit pour traiter de façon intuitive les blocs de régulation de la machine mais aussi pour traiter l'interaction pointe-surface comme une fonction de transfert. Puis, le rôle capital de la pointe et sa caractérisation seront traités à travers une méthode expérimentale simple et originale. Cette méthode se base sur l'étude des changements non-linéaires des propriétés de résonance de la sonde. Les forces conservatives électrostatiques et van der Waals seront quantifiées. Les forces chimiques seront mises en évidence en mesurant la dissipation de la sonde interagissant avec la surface. Des perspectives seront données pour améliorer la stabilité et le pouvoir de résolution en AFM.