L'optimisation topologique est une méthode mathématique (et logicielle) qui permet de trouver la répartition de matière optimale dans un volume donné soumis à des contraintes. Elle se distingue notamment de l'optimisation de forme qui ne fait varier que la frontière de la pièce, qu'il faut avoir dessinée au départ.



Les méthodes d'optimisation topologiques connues à ce jour permettent d'optimiser la résistance élastico-mécanique, la conductivité thermique ou certains problèmes d'écoulement fluide.
Cette méthode issue des mathématiques a été clairement définie, expliquée et rendue exploitable pour la mécanique dans les années 2000, notamment avec l'article fondateur de Ole Sigmund.
Des logiciels d’optimisation topologique de plus en plus sophistiqués permettent aux ingénieurs d'économiser la matière possible d’un objet tout en conservant ou améliorant sa solidité ou sa souplesse (au besoin) et en tenant compte des contraintes qui s’exerceront sur lui, travail autrefois basé sur l’intuition, la méthode des essais et des erreurs ou le génie des créateurs ou des ingénieurs de fabrication.
Un exemple très simple est la réduction optimisée du nombre de rayons d’une roue de bicyclette. Jusqu’ici seules des formes simples étaient concernées, car ces logiciels sont très gourmands en calcul ou étaient rapidement limités par la complexité du travail demandé.
En , dans la revue Nature, des chercheurs d’une université danoise présentent une méthode permettant de faire ce travail pour des objets de grande taille, en améliorant la résolution possible. Une image 2D est composée de pixels alors qu’une image 3D est composée de voxels. Jusqu’à il y a peu[Quand ?], la résolution des modèles 3D optimisés était limitée à 5 millions de voxels, mais un nouveau programme optimise des objets jusqu'à 1 milliard de voxels. Ceci permet par exemple de modéliser et concevoir une aile de Boeing 777 en l’optimisant : elle se trouve allégée de 5 % et renforcée de l’intérieur par des longerons courbes et des nervures diagonales, et non plus par une structure en forme de grille. L'économie attendue est de 200 tonnes de kérosène/an. 5 jours de calculs par un superordinateur ont été nécessaires, et ce design (qui évoque l’intérieur de certains os ou l'intérieur de parties d’exosquelettes d’insectes) est actuellement « infabricable ». Cependant, les progrès de l'impression 3D pourraient bientôt le mettre à notre portée,.
Le problème général d'optimisation topologique est posé comme
où

Résoudre ce problème vise à déterminer une répartition optimale du matériau dans l'espace de conception . Le module de Young est la propriété qui quantifie la capacité d'un matériau à se déformer. Cette caractéristique doit être interpolée selon la densité (les endroits où il y a présence de matériau sont rigides, contrairement à ceux où il y a du vide). Par exemple, l'approche SIMP (Solid Isotropic Material with Penalization) utilise une loi de puissance pour déterminer le module de Young selon la densité en un point:
Le paramètre (typiquement ) pénalise les valeurs entre 0 et 1 pour obtenir un résultat binaire. est pris très près de 0 pour représenter le vide, mais non nul pour éviter les termes nuls dans la matrice de résolution de la méthode des éléments finis.
D'autres approches sont utilisées, comme la méthode RAMP, qui passe par une interpolation rationnelle.
L'annulation du gradient en un point est une condition nécessaire à l'optimalité dans un problème sans contrainte. La dérivée au sens de Gateaux permet de calculer le gradient d'une fonctionnelle dans une direction :
Une solution analytique à ce problème est difficile à obtenir. Les méthodes numériques d'optimisation comme la descente du gradient utilisent pour obtenir des designs presque optimaux. Les contraintes peuvent être prises en compte dans ces algorithmes en utilisant diverses techniques de pénalisation.
En mécanique, la résolution d'un problème d'optimisation topologique passe par la modélisation de la pièce, ou de l'ensemble de pièces, à optimiser par la méthode des éléments finis. Une méthode classique d'optimisation topologique consiste alors à considérer en tout point du volume d'optimisation une densité de matière variant entre 0 et 1. D'autres méthodes considèrent l'orientation locale du matériau (pour les matériaux non isotropes) ou même d'autres caractéristiques. Optimiser consiste généralement dans ces méthodes à minimiser l'énergie de déformation de la structure, ce qui revient à peu près à trouver la structure la plus rigide possible. On peut ainsi soit fixer la quantité de matière mise en œuvre pour mettre en avant des formes optimales, pour orienter un design et une optimisation faite par ailleurs, soit chercher directement à définir une forme minimisant la matière à mettre en œuvre pour alléger au maximum la structure, en respectant une contrainte à ne pas dépasser. En pratique, pour un résultat exploitable (car c'est un nuage de densité de matière qui est généré a priori et non pas un solide avec une frontière bien définie) il est ajouté des méthodes de pénalisation, de filtrage, et de seuillage , en particulier pour imposer les contraintes géométriques spécifiques liées au processus de fabrication (symétries, autorisation de volume creux ou non, …, plan de joint).
Les principales étapes et difficultés à franchir sont généralement les suivantes :