Ce travail de thèse a été réalisé au département de génie électrique et à l Institut de génie biomédical de l'École Polytechnique de Montréal sous la direction du professeur Frédéric Lesage, Ph.D., la codirection du professeur Michel Delfour, Ph.D. du département de mathématiques et de statistiques de l Université de Montréal et la codirection industrielle de Roch M. Comeau, Ph.D., président de Rogue-Research Inc (www.rogue-research.com). Il présente certains outils mathématiques visant à analyser le signal détecté en imagerie optique diffuse et à en extraire la réponse hémodynamique. Il fait aussi l'objet de nouveaux développements mathématiques sur le problème direct utilisant une méthode d'éléments de frontière basée à partir d'images anatomiques provenant de l'imagerie par résonance magnétique permettant l'amélioration de la quantification des images optiques reconstruites. Cette étude propose également une revue de littérature globale et diversifiée renvoyant le lecteur à plusieurs concepts retrouvés en imagerie cérébrale.