La performance d'une méthode de classification est d'un grand intérêt pour le choix, la comparaison et la validation des algorithmes de classification. La lisibilité des résultats et la réduction du cout d'échec total de la classification sont d'une importance cruciale pour l'amélioration de la performance des classifieurs. Dans cet ouvrage, nous proposons principalement deux approches de résolution à travers la description d'un modèle d'optimisation métaheuristique baptisé ProSadm-HBA (ProSadm : Programmation d'un Système d'Aide au Diagnostic Médical, en conjonction avec la métaheuristique HBA : Homogeneity Based-Algorithm) et F-HBA ( Fuzzy Homogeneity Based-Algorithm). Nous avons validé nos résultats expérimentaux sur des bases de données médicales connues : Pima (Diabètes), TH (Troubles Hépatiques), AP (Appendicite). Les approches développées permettent de minimiser le nombre total d'échecs de la classification (ProSadm-HBA) tout en respectant la contrainte d'interprétabilité des classifieurs (F-HBA). Ces contributions peuvent être d'un grand intérêt pour les experts dans le domaine médical.