En théorie des probabilités, dans le cadre des processus stochastiques, un processus de Feller est un type particulier de processus de Markov.
Soit un espace localement compact et séparé (au sens de Hausdorff) possédant une base dénombrable. Soit l'espace des fonctions continues à valeurs réelles sur qui s'annulent à l'infini, muni de la norme uniforme (en) (ou norme du supremum) . D'après les résultats classiques d'analyse, , muni de cette norme, est un espace de Banach.
Un semi-groupe de Feller sur est un demi-groupe de contraction de classe C0 (en) constitué d'opérateurs linéaires positifs (en) agissant sur . Concrètement, il s'agit d'une famille d'applications linéaires de dans lui-même, possédant les propriétés suivantes :
Attention : cette terminologie n'est pas uniforme dans la littérature. En particulier, l'hypothèse selon laquelle envoie dans lui-même est, chez certains auteurs, remplacée par la condition que envoie — l'espace des fonctions continues bornées — dans lui-même. Cela se justifie pour deux raisons : premièrement, cela permet d'inclure des processus qui « arrivent depuis l'infini » en un temps fini. Deuxièmement, cette approche est mieux adaptée aux espaces qui ne sont pas localement compacts, pour lesquels la notion de « fonction tendant vers zéro à l'infini » n'a pas de sens.
Une fonction de transition de Feller est une fonction de transition de probabilité associée à un semi-groupe de Feller.
Un processus de Feller est un processus de Markov muni d'une fonction de transition de Feller.
Les processus de Feller (ou les semi-groupes de transition associés) peuvent être décrits par leur générateur infinitésimal. Une fonction appartient au domaine du générateur si la limite uniforme
existe. L'opérateur est le générateur du demi-groupe , et l'espace des fonctions sur lequel il est défini est noté . Une caractérisation des opérateurs pouvant constituer le générateur infinitésimal de processus de Feller est fourni par le théorème de Hille-Yosida. Celui-ci fait intervenir la résolvante du demi-groupe de Feller, définie ci-dessous.
La résolvante d'un processus (ou demi-groupe) de Feller est une famille d'applications de dans lui-même, définie par :
On peut démontrer qu'elle vérifie l'identité suivante :
Par ailleurs, pour tout fixé, l'image de correspond au domaine du générateur , et l'on a :