Le gradient topologique consiste à étudier la variation d'un critère lorsqu'on perturbe le domaine d'étude. Nous considérons ici l'approche qui a été introduite pour étudier les problèmes d'optimisation topologique, dans lequel il faut généralement trouver une forme optimale et son complémentaire dans un domaine donné [84,65,69].
Cette méthode semble particulièrement adaptée au traitement d'images, puisque de nombreux problèmes d'imagerie (tels que la classification, la segmentation, le débruitage, l'inpainting, ...) reposent sur l'identification d'un sous-domaine particulier de l'image, celui des contours.
La difficulté généralement rencontrée dans un problème d'optimisation de formes est la non différentiabilité. En effet, rechercher un domaine optimal est équivalent à rechercher sa fonction caractéristique. Plusieurs méthodes classiques ont été développées pour rendre ce problème différentiable. Nous pouvons citer par exemple les méthodes de relaxation, permettant à la fonction caractéristique de prendre toutes les valeurs entre 0 et 1, et l'approche par courbes de niveaux (ou level set) qui consiste à remplacer la fonction caractéristique par une fonction régulière qui prend des valeurs positives dans le domaine recherché et négatives en dehors [84,7,6,8,35,101].
L'optimisation topologique consiste à faire varier la fonction caractéristique de 0 à 1, mais uniquement dans des zones de taille infinitésimale. De cette façon, la variation de la fonction coût est faible quand une petite zone du domaine passe du sous-domaine recherché à son complémentaire (ou l'inverse). L'analyse asymptotique topologique permet justement d'étudier cette variation, et de dériver un gradient, dit topologique, de la fonction coût [84,65,102,101].
Au cours de ce chapitre, nous rappelons dans un premier temps les outils de base liés à l'analyse asymptotique topologique, avant d'étudier plusieurs applications en traitement d'images: inpainting (reconstruction de l'image dans une zone où elle n'était pas connue), restauration et débruitage, classification, segmentation. Par la suite, nous présentons une méthode d'accélération des algorithmes que nous avons introduite, en s'appuyant sur la transformée de cosinus discrète et un préconditionnement approprié. Enfin, nous présentons un couplage entre le gradient topologique et la méthode des chemins minimaux pour améliorer la détection des contours et éviter que ceux-ci ne soient pas connexes.