\documentclass[XUPS,XML,SOM,Unicode,francais, NoFloatCountersInSection, NoEqCountersInSection, ThmDefs]{cedram}
\setcounter{tocdepth}{2}
%\XUPScorrections
\setlength\unitlength{1cm}
\graphicspath{{xups94-04_figures}}

\let\cal\mathcal
\def\p{{\boldsymbol p}}
\def\thesubsection{\thesection.\alph{subsection}}
\def\thesection{\arabic{section}}

\DeclareMathOperator{\id}{Id}
\newcommand{\qqbox}[1]{\quad\text{#1}\quad}
\newcommand{\qbox}[1]{\quad\text{#1}}
\newcommand{\norme}[1]{\|#1\|}

\begin{document}
\frontmatter

\title{Du billard convexe aux~géodésiques~du~tore}

\author[\initial{P.} \lastname{Le Calvez}]{\firstname{Patrice} \lastname{Le Calvez}}

\address{Laboratoire Analyse, Géométrie et Applications, UMR CNRS 7539 ,
Institut Galilée, Université Paris Nord, 93430 Villetaneuse, France}

\email{patrice.le-calvez@imj-prg.fr }
\urladdr{https://webusers.imj-prg.fr/~patrice.le-calvez/}

\thanks{Journées X-UPS 1994. Aspects des systèmes dynamiques (des équations différentielles aux itérations de fonctions). Prépublication du Centre de mathématique de l'École polytechnique, 1994, et Éditions de l'École polytechnique, 2009}

\maketitle
\vspace*{-\baselineskip}
\tableofcontents
\mainmatter

La théorie des systèmes dynamiques est l'étude des propriétés qualitatives des orbites d'un flot défini par un champ de vecteurs sur une variété, ou encore de la suite des images successives d'un point par un difféomorphisme (ou d'une application de classe $C^1$). Les équations de la mécanique engendrent un flot conservatif (les transformations préservent une forme symplectique et préservent donc une forme volume). Sur une surface, les propriétés conservatives se traduisent par le fait de préserver l'aire. La dynamique des systèmes conservatifs est en général différente de celle des systèmes dissipatifs. La recherche d'orbites périodiques ou d'orbites ayant des propriétés données est une des questions fondamentales.

Nous allons exposer une méthode variationnelle d'obtention d'orbites périodiques (et d'autres orbites ayant des propriétés remarquables) pour des systèmes conservatifs, introduite indépendamment par S. Aubry et J. Mather, il y a une quinzaine d'années. Le premier travaillait en physique du solide et étudiait les configurations stationnaires d'une suite infinie de particules sur une droite, liées entre elles par un potentiel harmonique et soumises à un potentiel dépendant de la position sur la droite mais périodique. Le second étudiait une classe de difféomorphismes, que l'on retrouve souvent en systèmes dynamiques, les difféomorphismes conservatifs de l'anneau déviant la verticale.

Un cas particulier d'application de ces résultats est le problème du billard convexe, problème que G.D. Birkhoff avait déjà étudié, utilisant déjà certains arguments de la méthode; nous commencerons par étudier ce cas. Le type de résultat obtenu par Aubry et Mather se retrouve également dans un ancien travail de G.~Hedlund consacré à l'étude des géodésiques minimales sur le tore de dimension deux. V.~Bangert a montré comment les résultats de Hedlund se déduisaient en fait de la méthode d'Aubry-Mather.

Nous allons exposer cette méthode, qui est bi-dimensionnelle, et l'appliquer au cas dont nous venons de parler. Nous conclurons en indiquant comment ces résultats se généralisent en dimension supérieure: nous verrons, suivant Mather, que le problème général est l'étude des extrémales d'un lagrangien dépendant du temps~$t$ et périodique en~$t$ sur une variété compacte (les extrémales sont les courbes qui vérifient les équations d'Euler-Lagrange), dont l'action est minimale sur tout sous-segment.

\section{Le billard convexe}

Considérons dans le plan $\RR^2$ une courbe simple convexe $\Gamma$ de classe~$C^k$ ($k\geq 2$) et de longueur $1$ et définissons l'application suivante:

à chaque couple formé d'un point de $\Gamma$ et d'une droite passant par ce point, on associe le couple formé d'une part du second point d'intersection de la droite avec~$\Gamma$, d'autre part de la droite symétrique par rapport à la normale à $\Gamma$ en ce second point (voir figure \ref{lecfig1}).
\begin{figure}[htb]
\centerline{\includegraphics[height=4\unitlength]{lecalvezfig1}}
\caption{\label{lecfig1}}
\end{figure}

Notons $\TT =\RR/\ZZ$ le tore de dimension 1 et donnons-nous une paramétrisation $\gamma :\TT\to \Gamma$, $\theta \to\gamma (\theta)$, de $\Gamma$ avec $\| \gamma '(\theta) \| =1$. On peut caractériser chaque droite passant par $\gamma (\theta)$ par l'angle $r$, défini modulo $\pi$, que fait $\gamma '(\theta)$ avec tout vecteur directeur de la droite. On obtient une application $\Phi$ de l'ensemble $\TT \times \RR/\pi \ZZ$ dans lui-même, qui est bijective et qui induit l'identité sur le tore $\TT \times \lbrace 0 \rbrace$ (c'est le cas où la droite est tangente à $\Gamma$).

\begin{enonce*}{Proposition}
L'application $\Phi$ est un homéomorphisme et sa restriction à $\TT\times (\RR/\pi \ZZ- \lbrace 0 \rbrace)$ est un difféomorphisme de classe $C^{k-1}$.
\end{enonce*}

\begin{proof}
Si $\theta$ et $\theta'$ sont deux points de $\TT$ distincts, on note $R(\theta,\theta')$ l'angle entre les vecteurs $\gamma'(\theta)$ et $\gamma (\theta')-\gamma (\theta)$ et $R'(\theta,\theta')$ l'angle entre les vecteurs $\gamma (\theta')-\gamma (\theta)$ et $\gamma '(\theta')$~; si $\theta$ et $\theta'$ sont égaux, on pose $R(\theta,\theta')=R'(\theta,\theta')=0$. On obtient ainsi deux applications de classe $C^{k-1}$ vérifiant
$${\partial R \over \partial \theta'} (\theta,\theta')= {\sin R'(\theta,\theta') \over \| \gamma (\theta)- \gamma (\theta') \|}>0$$ quand $\theta$ et $\theta'$ sont distincts.

On en déduit que l'application
\begin{align*}
\Psi: \TT^2 &\to \TT \times (\RR/\pi \ZZ)
\\ (\theta,\theta') &\mto (\theta,R(\theta,\theta'))
\end{align*}
est un homéomorphisme qui envoie $\Delta =\lbrace (\theta,\theta)\mid\theta \in \TT \rbrace$ sur $\TT\times \lbrace 0 \rbrace$ et qui induit un difféomorphisme de classe $C^{k-1}$ entre $\TT^2 -\Delta$ et $\TT \times (\RR/\pi \ZZ - \lbrace 0 \rbrace) $.
On montre que
\begin{align*}
\Psi ': \TT^2 &\to \TT\times (\RR/\pi \ZZ)
\\ (\theta,\theta') &\mto (\theta',R'(\theta,\theta'))
\end{align*}
vérifie les mêmes propriétés: on obtient la proposition comme conséquence de l'égalité $\Phi=\Psi ' \circ \Psi ^{-1}$.
\end{proof}


\subsubsection*{Remarque 1}
Si $\rho (\theta)$ est la courbure en $\theta$, la quantité ${\partial R\over \partial \theta'} (\theta,\theta)$ est égale à $\rho (\theta) /2$, ainsi si la courbure ne s'annule jamais les applications $\Psi$, $\Psi'$, et $\Phi$ sont des difféomorphismes de classe $C^{k-1}$ de la variété toute entière.

\subsubsection*{Remarque 2}
L'application
\begin{align*}
h: \TT^2 & \to \RR \\
(\theta,\theta') & \mto \| \gamma (\theta)- \gamma (\theta') \|
\end{align*}
est différentiable sur $\TT^2 -\Delta$ et on a
$$ dh =\cos R'(\theta,\theta')d\theta'- \cos R(\theta,\theta') d\theta. $$
En écrivant $ddh=0$, on obtient que $\Phi$ préserve la forme volume $\omega =\sin r d\theta \wedge dr$. Le problème du billard, défini dynamiquement par l'application $\Phi$, est donc de type conservatif.

\subsubsection*{Remarque 3}
Plutôt que d'étudier $\Phi$, on peut étudier le relèvement~$F$ à l'anneau $\TT \times [0, \pi] $: c'est l'unique homéomorphisme de $\TT \times [0, \pi] $ tel que $(\theta',r' +\nobreak \pi \ZZ) =\Phi (\theta,r+ \pi \ZZ)$ si $F(\theta,r)= (\theta',r')$. L'application $F$ est isotope à l'identité (dans le cas présent cela signifie que~$F$ laisse invariant chaque bord de l'anneau et préserve l'orientation), elle induit l'identité sur chaque bord de l'anneau, enfin c'est un difféomorphisme de classe $C^{k-1}$ sur l'intérieur de l'anneau (sur l'anneau fermé dans le cas où la courbure ne s'annule pas) qui préserve une forme volume. Par le changement de variable $(\theta, s)=(\theta, \cos r)$, on obtient un homéomorphisme de $\TT \times [-1, 1] $ qui préserve l'aire.

\medskip
Voyons maintenant comment Birkhoff construit des orbites périodiques du billard (voir \cite{Bi2}).

Parmi toutes les cordes de notre courbe $\Gamma$ il y en a au moins une, joignant deux points $\gamma (\theta_1)$ et $\gamma (\theta_2)$, qui maximise la longueur. Cette corde est perpendiculaire à la tangente à $\Gamma$ en chacune des extrémités, l'ensemble $\{(\theta_1,\pi /2),(\theta_2,\pi /2)\}$ est donc une orbite de période 2 de~$F$ (voir figure \ref{lecfig2}).
\begin{figure}[htb]
\centerline{\includegraphics[height=3\unitlength]{lecalvezfig2}}
\caption{\label{lecfig2}}
\end{figure}

Parmi tous les triangles inscrits dans $\Gamma$, il y en a au moins un de périmètre maximal et celui-ci est non dégénéré (il ne se réduit évidemment ni à un point ni à un segment). Notons $\gamma (\theta_1)$, $\gamma (\theta_2)$ et $\gamma (\theta_3)$ les trois extrémités et faisons varier l'extrémité $\theta=\theta_2$. La dérivée du périmètre du triangle, fonction de $\theta$, doit s'annuler en~$\theta_2$. Comme cette dérivée est égale au signe près à $\cos R'(\theta_1,\theta_2)-\cos R(\theta_2,\theta_3)$, on en déduit que le segment joignant $\gamma (\theta_1)$ et $\gamma (\theta_2)$ et le segment joignant $\gamma (\theta_3)$ et $\gamma (\theta_2)$ sont symétriques par rapport à la normale en $\gamma (\theta_2)$. Comme on a une situation analogue en $\theta_1$ et en $\theta_3$, on en déduit que l'ensemble $$\{(\theta_1,R(\theta_1,\theta_2)), (\theta_2,R(\theta_2,\theta_3)), (\theta_3,R(\theta_3,\theta_1))\}$$ est une orbite de~$F$, de période $3$ (voir figure \ref{lecfig3}). Remarquons que l'ensemble
$\{(\theta_1,\pi - R(\theta_1,\theta_2)),\,(\theta_2,\pi - R(\theta_2,\theta_3)),\,(\theta_3,\pi - R(\theta_3,\theta_1))\}$ est également une orbite périodique de~$F$ qui correspond à la même trajectoire du billard, parcourue dans l'autre sens.
\begin{figure}[htb]
\centerline{\includegraphics[height=4\unitlength]{lecalvezfig3}}
\caption{\label{lecfig3}}
\end{figure}

En considérant le quadrilatère, le pentagone, etc., inscrit qui maximise le périmètre, on obtient de la même façon une orbite périodique (et même deux) pour chaque période $q\geq 4$.

On peut généraliser encore ce procédé et obtenir d'autres orbites périodiques. Fixons un nombre rationnel $\rho =p/q$ strictement compris entre $0$ et $1$ et écrit sous forme irréductible. Considérons la partie $X$ de $\Gamma^q$ formée des $q$-uplets $(z_1,\dots,z_q)$ tels que les $q$ arcs $z_1z_2,\dots,z_{q-1}z_q,z_qz_1$, orientés positivement, recouvrent la courbe exactement $p$ fois. Définissons une suite $(z_i)_{i\in\ZZ}$ de période $q$, à partir de notre $q$-uplet.

A chaque élément $(z_{1},\dots{},z_{q})$ de $X$ on peut associer un polygone, réunion des segments $D_{i}$ joignant $z_{i} $ à $z_{i+1}$, $i\in \lbrace 1,\dots{},q\rbrace $. Parmi tous les polygones ainsi obtenus, il en existe au moins un de périmètre maximal. Comme dans le cas du triangle, il est clair que $z_i$ et $z_{i+1}$ sont toujours distincts et que les segments $D_{i}$ et $D_{i+1}$ font un même angle $r _{i+1}\in ]0,\pi [$ avec la tangente à $\Gamma $ en $z_{i+1}$. Si $z_{i}=\gamma (\theta_{i})$, la réunion $\Xi$ des $(\theta_{i},r _{i})$, $i\in \lbrace 1,\dots{},q\rbrace $, est donc une orbite périodique de~$F$ de période $q$.

Rappelons qu'un relèvement de~$F$ à $\RR \times [0,\pi]$ est un homéomorphisme $f$ de $\RR \times [0,\pi]$ tel que $(\theta' +\ZZ, r')=F(\theta +\ZZ,r)$ si $f(\theta,r)=(\theta',r')$. Les relèvements de~$F$ se déduisent d'un relèvement donné $f$ en composant cette application par une translation du type $(\theta,r)\mto (\theta +k,r)$,
où $k \in \ZZ$. En particulier il existe un unique relèvement $f$ de~$F$ à $\RR\times [0,\pi]$ égal à l'identité sur $\RR\times\{0\}$, il coïncide alors avec la translation de vecteur $(1,0)$ sur $\RR\times\{\pi\}$.

Si $\widetilde\theta_i$ est un représentant réel de $\theta_i \in \TT$, on a $f^q(\widetilde\theta _i,r_i)=(\theta_i +p,r_i)$~: on dit que l'orbite $\Xi$ est une orbite périodique de nombre de rotation $p/q$ (pour le relèvement $f$). Il existe donc une orbite périodique de nombre de rotation $\rho$ pour chaque rationnel~$\rho$ compris entre $0$ et $1$ (si $\rho$ est égal à $0$ où à $1$ il suffit de prendre un
point d'un des deux bords).

On peut préciser la structure de ces orbites, en utilisant le fait que dans un quadrilatère inscrit dans $\Gamma$, la somme des longueurs des diagonales est strictement plus grande que la somme des longueurs de deux cotés opposés. Considérons la suite $(z^*_{i})_{i\in \ZZ}=(z_{i+k})_{i\in\ZZ}$, \hbox{$1\!\leq\! k<q$}. Le~polygone défini par le $q$-uplet $(z^*_{1},\dots{},z^*_{q})$ est égal au premier, bien que les $q$-uplets soient distincts (car $p$ et $q$ sont premiers entre eux!).

Définissons deux autres $q$-uplets $(z^-_{1},\dots{},z^-_{q})$ et $(z^+_{1},\dots{},z^+_{q})$ de la façon suivante: posons $z^-_1=z_1$ et $z^+_1=z^*_1$; posons ensuite $z^-_i=z_i$ et $z^+_i=z^*_i$ si la somme des longueurs des arcs orientés $z_1z_2,\dots,z_{i-1}z_i$ est strictement plus petite que la somme des longueurs des arcs orientés $z_1z^*_1,z^*_1z^*_2,\dots,z^*_{i-1}z^*_i$; posons $z^-_i=z^*_i$ et $z^+_i=z_i$ si elle est strictement plus grande; posons $z^-_i=z^*_i=z_i$ s'il y a égalité. Les nouveaux $q$-uplets appartiennent également à $X$, car la somme des longueurs des arcs orientés $z^-_1z^-_2,\dots,z^-_{i-1}z^-_i$ est égale à la somme des longueurs des arcs $z_1z_2,\dots,z_{i-1}z_i$ si $z^-_i=z_i$ et à $z_1z^*_1,z^*_1z^*_2,\dots,z^*_{i-1}z^*_i$ si $z^-_i=z^*_i$, et de même la somme des longueurs des arcs orientés $z^+_1z^+_2,\dots,z^+_{i-1}z^+_i$ est égale à la somme des longueurs des arcs $z_1z_2,\dots,z_{i-1}z_i$ moins la longueur de l'arc $z_1z^*_1$ si $z^+_i=z_i$ et à $z^*_1z^*_2,\dots,z^*_{i-1}z^*_i$ si $z^+_i=z^*_i$.

\Changel

Si l'on note $l_i$, $l^*_i$, $l^-_i$ et $l^+_i$, les longueurs respectives des segments associés $D_i$, $D^*_i$, $D^-_i$ et $D^+_i$, on a l'inégalité $l^-_i+l^+_i\geq l_i+l^*_i$ et une inégalité stricte dès que $z^-_i=z^*_i\not=z_i$ et $z^-_{i+1}=z_{i+1}\not=z^*_{i+1}$ ou alors si $z^-_i=z_i\not=z^*_i$ et $z^-_{i+1}=z^*_{i+1}\not=z_{i+1}$. Cette situation est donc impossible.
\Changelback

Remarquons que l'égalité $z^-_i=z^+_i=z_i=z^*_i$ est également impossible, pour tout entier $i$. En effet, nous avons quatre polygones de périmètres maximaux qui correspondent donc à une trajectoire du billard. Puisque les $q$-uplets $(z_{1},\dots{},z_{q})$ et $(z^*_{1},\dots{},z^*_{q})$ sont distincts, il en est de même des segments $D_i$ et $D^*_i$. La propriété d'angle vérifiée par $D_i$ et $D_{i+1}$ d'une part, par $D^*_i$ et $ D^*_{i+1}$ d'autre part oblige le couple $(D^-_i,D^-_{i+1})$ à être égal à un des couples $(D_i,D^*_{i+1})$ ou $(D^*_i,D_{i+1})$, ce qui contredit la propriété d'angle pour ce polygone de périmètre maximal. On déduit de ce qui précède, d'une part que les $q$ extrémités du polygone sont distinctes, d'autre part que l'application $z_i\mto z_{i+1}$ préserve l'ordre cyclique sur l'ensemble des sommets du polygone. Ceci n'est possible que si les $z_{i}$ s'ordonnent cycliquement sur $\Gamma $ comme les éléments de la suite $ip/q+\ZZ$ sur $\TT$.

Sur le dessin suivant (voir figure \ref{lecfig4}), nous indiquons dans un exemple, où $p/q=2/5$ pourquoi les $z_i$ correspondant à un polygone de périmètre maximal doivent s'ordonner cycliquement comme les éléments de la suite
$ip/q+\ZZ$ sur $\TT$. Le polygone de droite obtenu à partir des mêmes extrémités de celui de gauche, mais bien ordonnées cycliquement, a un périmètre supérieur à cause de la propriété des diagonales des quadrilatères.
\begin{figure}[htb]
\centerline{\includegraphics[height=3.5\unitlength]{lecalvezfig4}}
\caption{\label{lecfig4}}
\end{figure}

C'est la fonction $h$ qui nous a permis de construire nos orbites périodiques. L'existence de cette fonction est, comme on le verra plus tard, liée à deux
propriétés de
$F$: son caractère conservatif et la propriété de \emph{déviation de la
verticale} décrite
ci-dessous:

pour tout $\theta \in \TT$, l'application $r \mto \theta'(\theta,r)$ est
croissante,
l'image par $F$ de la verticale $\{\theta\} \times [0,\pi]$ est une courbe
qui s'enroule
dans le sens direct autour de l'anneau (voir figure \ref{lecfig5}).
\begin{figure}[htb]
\centerline{\includegraphics[height=5\unitlength]{lecalvezfig5}}
\caption{\label{lecfig5}}
\end{figure}

\section{Applications déviant la verticale}
On dira qu'un difféomorphisme $F$ de l'anneau fermé $\TT \times [a,
b]$, isotope à l'identité, \emph{dévie la verticale à droite} (\resp \emph{à gauche})
si, pour un
relèvement donné
$f:(\theta,r)\mto (\theta',r')$ de~$F$ au revêtement universel $\RR
\times [a,b]$
de $\TT \times [a,b]$, la dérivée de l'application $r\mto
\theta'(\theta,r)$ est strictement positive (négative), pour tout $\theta$
réel.

Le fait de dévier la verticale ne dépend pas du relèvement
choisi, puisque ceux-ci se déduisent les uns des autres par des translations

On dira également qu'un difféomorphisme $F$ de l'anneau infini $\TT\times
\RR$ dévie la verticale à droite si les applications $r\mto
\theta'(\theta,r)$, définies pour un relèvement de~$F$, sont des
difféomorphismes strictement
croissants de $\RR$: en d'autres termes l'image par $F$ d'une
verticale est une courbe
qui s'enroule dans le sens direct autour de l'anneau en faisant à chaque
extrémité un nombre
infini de tours.

Cette propriété de déviation de la verticale, que Poincaré avait déjà
rencontré dans l'étude
du problème à $n$ corps, apparaît très naturellement en systèmes dynamiques
et va être
fondamentale dans ce qui suit. Commençons par donner quelques exemples.

\subsection{Un exemple explicite}\label{2a}
Soit $\varphi :\RR\to\RR$ une application de classe $C^1$ et de période $1$.
Pour tout
réel $\lambda >0$, le difféomorphisme de $\RR^2$:
$$f_{\lambda} : (\theta, r)\mto(\theta +r, \lambda r +\varphi
(\theta +r))$$
relève un difféomorphisme $F_{\lambda}$ de $\TT\times
\RR$ qui dévie la verticale à droite. Remarquons que celui-ci préserve l'aire si $\lambda =1$ et qu'il la diminue si $\lambda <1$.

\subsection{Au voisinage d'un point fixe elliptique}\label{2b}
Dans les systèmes dynamiques, il est important d'étudier la structure d'un difféo\-mor\-phisme au voisinage d'un point fixe ou d'une orbite
périodique, et dans
le cas d'un champ de vecteurs, la structure du flot au voisinage d'une
singularité ou d'une
orbite fermée (ce dernier cas se ramenant d'ailleurs par une section de
Poincaré à l'étude
d'un difféomorphisme au voisinage d'un point fixe). Un certain nombre de
propriétés sont
connues dès qu'on ajoute des conditions génériques sur le difféomorphisme
ou le champ de
vecteurs (on demande au difféomorphisme ou au champ de vecteurs
d'appartenir à un
$G_{\delta}$ dense, quand on munit l'ensemble des difféomorphismes ou des
champs de vecteurs
d'une topologie naturelle), on ne précisera pas les définitions possibles
de généricité.

Ainsi, par exemple, si
$f$ est un difféomorphisme générique défini au voisinage d'un point fixe
$z$ d'une variété
$M$, les valeurs propres de $Df(z)$ sont toutes de module différent de
$1$; si $f$ est un
difféomorphisme générique préservant une forme symplectique (la généricité
est alors comprise
parmi les difféomorphismes conservant cette forme), les valeurs propres
sont toutes
différentes de $1$.

Dans le cas où $M$ est le plan $\RR^2$ et où la forme symplectique est la
forme
$dx\wedge dy$, le fait de préserver cette forme équivaut au fait de
préserver l'aire et l'orientation. Génériquement les valeurs propres de
$Df(z)$ dont le produit est nécessairement
égal à $1$, puisque le jacobien de $f$ est égal à $1$ en tout point, sont soit de la
forme
$\lambda,\mu$, où
$\lambda$ et
$\mu$ sont des réels vérifiant $0<|\lambda|<1<|\mu|$, soit de la forme
$\lambda,\overline{\lambda}$, où
$\lambda$ est un nombre complexe de module $1$ qui n'est pas racine de l'unité. Le premier
cas, dit hyperbolique, est le plus simple (existence de variétés stable et instable,
conjugaison topologique locale à la partie linéaire). Le second cas, dit elliptique, est
beaucoup plus compliqué~; nous expliquerons la dynamique dans le paragraphe 3.\enlargethispage{\baselineskip}

Le théorème
qui suit (voir Birkhoff \cite{Bi1}) exprime que dans un bon système de coordonnées,
l'application apparaît comme un difféomorphisme de l'anneau déviant la verticale
(forme normale de Birkhoff).

\begin{enonce*}{Théorème}
Soit $f$ un difféomorphisme de classe
$C^{\infty }$ défini au
voisinage de $(0,0)\in \RR^{2}$, préservant l'aire et l'orientation et tel que les valeurs propres $\lambda $ et $\overline {\lambda}$ de
$Df(0,0)$ soient sur le cercle unité et \hbox{vérifient} $\lambda
^{n}\mathbin{\not =}1$ pour $n\in \lbrace 1,\dots{},q\rbrace $. Il
existe alors un difféomorphisme $h$ de classe $C^{\infty }$, défini au
voisinage de $(0,0)$, laissant fixe ce point, préservant l'aire et
l'orientation et tel que $h\circ f\circ h^{-1}$ s'écrit sous la forme
suivante, en utilisant la coordonnée complexe $z$:\vspace*{-3pt}
$$h\circ f\circ h^{-1}(z)=\lambda ze^{2i\pi P(|z| ^{2})}+o\kern 1pt{}( |z|
^{q-1})
,$$
où $P(X)=a_{1}X+\cdots+{}a_{m}X^{m}$ est un polynôme réel de
degré $m<(q-1)/2$. \qed
\end{enonce*}

Les réels $a_{1},\dots{},a_{m}$ ne dépendent que de la fonction
$f$ et sont génériquement non nuls. Si c'est le cas, la fonction
$z\mto \lambda ze^{2i\pi P(|z|^{2})}$
laisse invariant chaque cercle $|z| =r$ et
induit sur celui-ci une rotation dépendant de façon monotone de
$r$ au voisinage de $0$. En coordonnées polaires $z=re^{2i\pi
\theta }$, la fonction $g=h\circ f \circ h^{-1}$ est définie dans un
voisinage de $\RR/\ZZ\times \lbrace 0\rbrace $ dans $\RR/\ZZ\times [0,+\infty
[$ et s'écrit
$$
g(\theta,r)=( \theta +\alpha
+a_{1}r^{2}+\dots{}+a_{m}r^{2m}+\mu _{1}(\theta,r), r+\mu _{2}(\theta,r)),
$$
où $\mu _{1}$ et $\mu _{2}$ sont des $o(|r|^{2n})$, et où $\lambda
=e^{2i\pi \alpha }$;
elle dévie la verticale (au sens local).

\subsection{Le pendule entretenu}

Écrivons l'équation du pendule entretenu:
$$\ddot \theta +\alpha \dot \theta + \sin 2\pi \theta =
p(t),
$$ où $p$ est une application de classe $C^{\infty}$ et de
période $T>0$, et où $\alpha $ est un réel positif ou nul suivant que
le pendule soit amorti ou non.

Cette équation se ramène par le changement de variable $r=\dot
\theta $, $\psi =t$, au champ de vecteurs sur $\RR/\ZZ\times \RR\times \RR/T\ZZ$ suivant:
$$\begin{cases}
\dot \theta =r, \cr
\dot r=-\alpha r-\sin 2\pi \theta +p(\psi ),\cr
\dot \psi =1.
\end{cases}
$$
Ce champ est transverse à chacune des sections $\RR/\ZZ\times \RR\times \lbrace \psi \rbrace $ et de divergence égale à $-\alpha$.
L'application de premier retour $F$ définie sur la section $\RR/\ZZ\times \RR\times \lbrace 0\rbrace $ peut s'écrire
$$F=F_{n-1}\circ \dots \circ F_{0},$$
où $F_{i}$ est l'application de passage de la section $\RR/\ZZ\times \RR\times \lbrace iT/n\rbrace $ à~la section
$\RR/\ZZ\times \RR\times \lbrace (i+1)T/n\rbrace $. On
peut montrer que les applica\-tions~$F_{i}$ dévient la
verticale à droite
dès que $n$ est assez grand, et~que~$F$ est donc la composée
d'applications déviant la verticale
à droite, diminuant l'aire dans le cas amorti, conservant celle-ci dans
le cas contraire.

L'équation d'où provient la propriété de déviation de la
verticale est l'égalité naturelle $\dot \theta =r$, on retrouvera
donc cette propriété dans d'autres équations différentielles
du second ordre à coefficients périodiques en $t$.

Nous ne nous intéresserons dans la suite qu'aux difféomorphismes conser\-va\-tifs;
on retrouve
cependant certains des résultats dans les cas dissipatifs. Rappelons
d'abord des propriétés des homéomorphismes du cercle, propriétés qui seront
fondamentales
pour la suite.

\section{Dynamique des homéomorphismes du cercle}

Commençons par définir le \emph{nombre de rotation} de Poincaré.

\begin{enonce*}{Théorème 3.1}
Soit $g$ un homéomorphisme
strictement croissant
de $\RR$ vérifiant $g(\theta+1)=g(\theta)+1$, pour tout réel $\theta$. Il existe
alors un réel~$\rho$
tel que, pour tout $\theta\in \RR$ et pour tout $k\in \ZZ$, on ait:
$$-1<g^k(\theta)-\theta-k\rho<1 ;$$
en particulier,
$$\lim_{k\to \pm\infty} {g^k(\theta)\over k}=\rho.$$
\end{enonce*}

\begin{proof}
Pour tout entier $k$, l'application $g^k$ est un homéomorphisme strictement croissant vérifiant $g^k(\theta+1)=g^k(\theta)+1$ et
l'application
$g^k-\id$ qui est périodique atteint sa borne inférieure~$m_k$ en un point
$\theta^-_k$ et sa borne
supérieure $M_k$ en un point $\theta^+_k$. On~peut toujours supposer que $\theta^-_k\leq
\theta^+_k<\theta^-_k+1$;
on en déduit, appliquant~$g^k$, que $M_k+\theta^+_k<m_k+\theta^-_k+1$, puis que $m_k\leq M_k<m_k+1$.
Si~$k$ et~$k'$ sont
des entiers strictement positifs, on déduit la relation $km_{k'}\leq
m_{kk'}\leq kM_{k'}$ de
l'égalité
$$g^{kk'}(\theta)-\theta=\sum_{i=0}^{k-1}g^{k'}(g^{ik'}(\theta))-g^{ik'}(\theta),$$
puis, par symétrie de $k$ et $k'$, l'inégalité $m_{k'}/k'\leq M_k/k$. On
obtient que
\[
\rho=\sup\{m_{k}/k\mid k>0\}=\inf\{M_k/k\mid k>0\}
\]
et que
\[
M_k-1<k\rho<m_k+1.
\]
Ainsi, pour tout $\theta$ réel et pour tout entier
$k\geq 0$, on a
\[
-1<g^k(\theta)-\theta-k\rho<1$$ et de
même$$-1<g^k(g^{-k}(\theta))-g^{-k}(\theta)-k\rho=\theta-g^{-k}(\theta)-k\rho<1.\qedhere
\]
\end{proof}

Le nombre réel $\rho=\rho(g)$, défini pour tout homéomorphisme réel
commutant avec la
translation $x\mto x+1$, s'appelle le \emph{nombre de rotation} de $g$.
Les propriétés
suivantes sont alors simples à démontrer:
\begin{enumerate}
\item
pour tous entiers $p$ et $q$, on a
$\rho(g^q+p)=q\rho(g)+p$;
\item
si $g\leq g'$, alors $\rho(g)\leq\rho(g')$;
\item
si la suite $(g_n)$ tend uniformément vers
$g$, alors
$\lim_{n\to\infty}\rho(g_n)=\rho(g)$.
\end{enumerate}

S'il existe deux entiers $p\in \ZZ$ et $q>0$ et un réel $\theta$ tel que
$g^q(\theta)=\theta+p$, alors
$\rho=\lim_{k\to\infty}g^{kq}(\theta)/kq
=\lim_{k\to\infty}(\theta+kp)/kq=p/q$;
réciproquement si $\rho=p/q$ est rationnel, écrit sous forme irréductible,
on sait que $m_q\leq p\leq M_q$ et donc qu'il existe un réel
$\theta$ tel que $g^q(\theta)=\theta+p$, par le théorème des valeurs intermédiaires
appliqué à $g^q-\id-p$.

Les applications pour lesquelles on a défini le nombre de rotation ne sont rien d'autre que les relèvements à $\RR$ des homéomorphismes de~$\TT$ homotopes
à l'identité (ou de
façon équivalente préservant l'orientation). Si $G$ est un tel
homéomorphisme, les
relèvements se déduisent les uns des autres en composant par une
translation entière.
L'élément $\rho(g)+\ZZ$ de $\TT$ est donc indépendant du relèvement $g$
choisi; on l'appelle
le \emph{nombre de rotation} de $G$. D'après ce qui \hbox{précède}, ce nombre est
rationnel si et seulement
si $G$ possède une orbite \hbox{périodique}. On~peut préciser la dynamique des
homéomorphismes du
cercle.

\begin{itemize}
\item
Si $\rho(g) =p/q $ est rationnel et écrit sous forme irréductible et si
$\theta\in {\RR}$ vérifie $g^{q}(\theta)=\theta+p$, l'orbite de ce
point définit par projection dans $\TT$ une orbite de $G$ de période $q$. Si
$\theta$ est un point quelconque de ${\TT}$, l'ensemble $\omega
$-limite (i.e. l'ensemble des valeurs d'adhérence de la suite
$(G^{n}(\theta))_{n\geq 0}$) est une orbite périodique du type
précédent, qui peut dépendre de $\theta$. Il en est de même de
l'ensemble $\alpha $-limite de $\theta$, c'est-à-dire de l'ensemble des
valeurs d'adhérence de la suite $(G^{-n}(\theta))_{n\geq 0}$.

\item
Si $\rho $ est irrationnel, les ensembles $\alpha
$-limite et $\omega $-limite d'un point~$\theta$ sont égaux et indépendants de
$\theta$. La partie
$\Xi$ obtenue
est soit ${\TT}$, soit un ensemble de Cantor; toute orbite contenue dans
$\Xi$ est dense
dans~$\Xi$.

\item
Remarquons que si $F$ est un homéomorphisme isotope à l'identité de
l'anneau ouvert ou fermé
qui laisse invariant le graphe d'une application continue $\psi
:\TT\to\RR$, la
restriction de~$F$ au graphe est conjuguée à un homéomorphisme de $\TT$
préservant
l'orientation par la projection sur $\TT$. Plus précisément, si $f$ est un
relèvement de~$F$, il existe un réel $\rho$ tel que pour tout $z$ dans le relèvement du
graphe et pour
tout entier $k$, on a $-1<p_1(f^k(z))-p_1(z)-k\rho<1$, où $p_1$ est la
première projection
définie sur le revêtement universel de l'anneau. L'élément $\rho +\ZZ$ est
indépendant du relèvement
$f$ de
$F$.
\end{itemize}

\section{Orbites périodiques des applications déviant la
verticale}
Énonçons le théorème, dû à Aubry \cite{AL} et à Mather \cite{Ma1} qui généralise la situation du
billard, où l'on
note
$p_1$ la première projection définie sur l'anneau ou sur son revêtement
universel et où l'on
note~$\pi$ le revêtement $(\theta,r)\mto(\theta +\ZZ,r)$.

\begin{enonce*}{Théorème 4.1}
Soit $F$ un difféomorphisme de $\TT\times [a,b]$ déviant la verticale à droite et préservant
l'aire, et $f$ un relèvement de~$F$ à $\RR\times [a,b]$ dont
les nombres de rotation induits sur ${\RR}\times \lbrace 0\rbrace
$ et ${\RR}\times \lbrace 1\rbrace $ sont notés respectivement
$\rho ^{-}$ et $\rho ^{+}$. Pour tout réel $\rho\in [\rho ^{-},\rho ^{+}]$, il existe un ensemble $\Xi$ tel que :
\begin{enumeratei}
\item
la restriction de $p_{1} $ à $\Xi $ est
injective,
\item
pour tous $z,z'\in \pi^{-1}(\Xi )$,
\[
p_{1}(z)<p_{1}(z')\implies p_{1}(f(z))<p_{1}(f(z')),
\]
\item
pour tout $z\!\in\! \pi^{-1}(\Xi )$ et
pour tout entier $k$, on a 
\[
-1\!<\!p_{1}(f^k(z))-p_1(z)-k\rho<1.
\]
\end{enumeratei}
De plus, si $\rho=p/q$ est rationnel, écrit sous sa forme irréductible,
l'ensemble $\Xi$ est une orbite périodique de période $q$ et on a
$p_1(f^q(z))=p_1(z)+p$ pour
tout $z\in \pi _{1}^{-1}(\Xi )$; si $\rho$ est irrationnel, c'est soit un
ensemble de
Cantor, soit le graphe d'une application continue de $\TT$ dans $[a,b]$. \qed
\end{enonce*}

\subsubsection*{Remarque 1}
La propriété (ii) signifie que
l'ordre cyclique défini par~$p_1$ sur~$\Xi$ est conservé par $F$ et que
l'on peut donc
prolonger l'homéomorphisme défini par conjugaison sur $p_1(\Xi)$ en un
homéomorphisme
préservant l'orientation de $\TT$. La propriété (iii) signifie que le
nombre de rotation
de n'importe quel prolongement est~$\rho$.

\subsubsection*{Remarque 2}
Si $F$ est un difféomorphisme de
l'anneau infini $\TT\times \RR$ déviant la verticale à droite et préservant
l'aire, on aura un résultat analogue pour tout réel $\rho$ si on suppose
une condition
supplémentaire sur $F$ que l'on va donner tout de suite. L'aire
algébrique délimitée par une
courbe simple
$\Gamma$ de classe
$C^1$ homotope à $\theta\mto (\theta,0)$ et son image par $F$ est
indépendante de la
courbe, on mesure celle-ci en intégrant sur $\Gamma$ la forme différentielle
$F^*(rd\theta)-rd\theta$ qui est fermée puisque~$F$ préserve l'aire. Dire
que l'aire est
nulle signifie que cette forme est exacte, on dira alors que $F$ est
\emph{exact-symplectique}. Si
$\varphi:
\RR\to \RR$ est une application de classe $C^1$, le difféomorphisme
relevé par
$(\theta,r)\to(\theta+r,r+\varphi(\theta+r))$ vérifiera cette
condition si et
seulement si $\int_0^1\varphi(\theta)d\theta=0$. Remarquons que si
l'application $\varphi$ est
constante égale à~$1$, il n'existe aucun ensemble du type $\Xi$. Remarquons
que si~$F$ est un
difféomorphisme de l'anneau fermé, la forme $F^*(rd\theta)-rd\theta$ est
toujours exacte.

\subsubsection*{Remarque 3}
Les ensembles définis par les seules
conditions du
théorème, s'appellent des \emph{ensembles d'Aubry-Mather} et ne sont pas
uniquement définis même
quand
$\rho$ est irrationnel. On peut d'ailleurs montrer que si $\rho$ est
rationnel, il existe au
moins deux orbites périodiques dont la réunion vérifie les conditions (i), (ii),
(iii). Cependant nous construirons nos ensembles par une propriété de
minimisation, cette
propriété supplémentaire imposera alors l'unicité dans le cas irrationnel
et génériquement
l'unicité dans le cas rationnel.

\subsubsection*{Remarque 4}
Si on applique le théorème dans le cas
du billard,
(le~fait que l'application ne soit pas différentiable au bord n'a pas
d'importance) on
obtient en plus des orbites périodiques déjà construites, des orbites qui
s'ordonnent sur la
courbe
$\Gamma$ dans le même ordre que la rotation
$\theta\mto\theta+\rho$, pour chaque
$\rho\in\TT-\QQ/\ZZ$.\enlargethispage{2\baselineskip}%

\smallskip
Indiquons une propriété, conséquence du fait que l'angle que fait l'image d'une verticale avec toute autre verticale est minoré par un nombre
strictement positif sur
toute partie bornée de l'anneau, et dans le cas infini que cette image
s'enroule un nombre
infini de fois autour de l'anneau:
\begin{enonce*}{Proposition}
Chaque ensemble $\Xi $ est borné,
et l'inverse de
la restriction de $p_{1}$ à $\Xi $, définie sur $p_{1}(\Xi )$,
est lipschitzienne; si le nombre~$\rho$ associé (le nombre de rotation) varie
dans un ensemble borné, le rapport de Lipschitz est uniforme. \qed
\end{enonce*}

On retrouve également cette propriété pour les graphes invariants~ (voir
Birkhoff
\cite{Bi3}): toute application continue de ${\TT}$ dans ${\RR}$, dont le
graphe est invariant
est lipschitzienne; là encore, si le nombre de rotation varie dans un
ensemble borné, le
rapport de Lipschitz est uniforme. Donnons quelques autres propriétés des
graphes invariants,
conséquences de la déviation de la verticale à droite et éventuellement du
caractère
conservatif de l'application (voir Herman \cite{Hn1}).

Du théorème d'Ascoli et de la propriété de continuité (3) du nombre de
rotation énoncée au paragraphe 3, on déduit que l'ensemble des applications
continues dont
le graphe est invariant, de nombre de rotation à valeur dans un compact,
est compact pour la
topologie uniforme.

Deux graphes invariants qui se rencontrent ont évidemment
le même nombre de rotation.

Si deux graphes invariants sont disjoints, le nombre de rotation de celui qui est au-dessus est strictement plus grand que l'autre; de plus il
existe au plus un
graphe invariant de nombre de rotation irrationnel donné. Enfin un ensemble
$\Xi$ donné par la
proposition situé au-dessus (\resp en dessous) d'un graphe invariant a un
nombre de rotation
supérieur (\resp inférieur) à celui-ci.

La présence de graphes invariants peut être obtenue grâce au théorème de
Kolmogorov,
Arnold, Moser. Illustrons la situation dans différents exemples.
\begin{enumeratei}
\item
Si $F$ est l'application donnée dans l'exemple
\ref{2b} du paragraphe~2, la forme normale, qui dévie la verticale, admet une courbe invariante
$r=\psi (\theta )$ pour chaque nombre de rotation dans un intervalle
$[\alpha,\alpha ']$ si elle la dévie à droite, dans un
intervalle $[\alpha ',\alpha ]$ si elle la dévie à gauche. Le
difféomorphisme aura au
voisinage du point fixe un ensemble fermé formé de graphes invariants
indexés et ordonnés par leur nombre de rotation. Cet ensemble est
non vide car il contient toutes les courbes données par le
théorème de Kolmogorov, Arnold, Moser, c'est-à-dire un
ensemble de mesure non nulle, ayant le point fixe comme point de
densité, et formé de graphes invariants, où $F$ est
différentiablement conjuguée
à une rotation de nombre de rotation diophantien, mais il contient
beaucoup d'autres courbes obtenues comme limites de celles\nobreakdash-ci.

On peut
montrer que l'ensemble
des nombres de rotation des graphes invariants est génériquement
formé uniquement de
nombres irrationnels et qu'il est donc totalement discontinu (\cite{Bi1},
\cite{Hn1}).

Ainsi,
il existe des régions annulaires délimitées par deux graphes
invariants et ne
contenant aucun autre graphe invariant, que l'on appelle des régions
annulaires d'instabilité. A un nombre de rotation rationnel
compris entre les deux nombres de rotations des bords de la région
d'instabilité correspond
une orbite périodique, à un nombre de rotation irrationnel un ensemble de
Cantor.

Les
ensembles
${\Xi}$ donnés par le théorème apparaissent donc comme le souvenir des
courbes invariantes de
la forme normale qui ont disparu. Remarquons que dans ce cas l'orbite
d'un point assez
proche de $(0,0)$ reste dans un voisinage proche de ce point.

\item
Si $\Gamma$ est une courbe convexe de classe
$C^5$ et si la
courbure ne s'annule jamais, il existe également
des courbes invariantes de
$F$ proches des bords
$\TT\times\{ 0 \}$ et
$\TT\times\{ 1 \}$ (voir Douady \cite{RDou}, Lazutkin \cite{Laz}), en
particulier, la trajectoire
d'un point dont l'angle est proche de $0$ reste proche du bord. Au
contraire si la courbure
de $\Gamma$ s'annule en au moins un point, on peut montrer qu'il n'y aucune
courbe invariante
par $F$ autre que les bords de l'anneau: l'anneau entier est une région
d'instabilité
(\cite{Ma2}).

La dynamique dans une région d'instabilité est toujours
compliquée (on peut dire
qu'elle est chaotique), ainsi génériquement il existe toujours ce qu'on
appelle des
intersections homoclines (des orbites périodiques hyperboliques dont les
variété stables et
instables s'intersectent transversalement, condition qui implique une
dynamique compliquée).
Par exemple il existe toujours une orbite dont l'ensemble $\alpha$-limite
est un bord de la
région et l'ensemble
$\omega$-limite l'autre bord.

Dans le cas du billard ceci signifie
l'existence d'une
trajectoire s'accumulant sur la courbe $\Gamma$ dans deux sens différents
(on peut même
trouver une trajectoire issue perpendiculairement de la courbe et
s'accumulant sur
$\Gamma$).

Le cas opposé au cas où la courbure s'annule en un point est le
cas où $\Gamma$
est une ellipse, il existe une courbe invariante pour chaque nombre de
rotation, et chaque
courbe correspond à une caustique définie par une ellipse homofocale.
Remarquons qu'on ne
sait pas s'il existe d'autres courbes que l'ellipse telle qu'à chaque
nombre de
rotation corresponde une courbe invariante.

\item
Dans l'exemple \ref{2a} du paragraphe 2, si
$\varphi$ est une
application de classe $C^3$, non nulle, telle que $\int_0^1\varphi
(\theta)d\theta
=0$ et si
$F_{\varepsilon}$ est l'application relevée par
$f_{\varepsilon}:(\theta,r)\mto(\theta+r,r+\varepsilon \varphi(\theta +r))$, alors
$F_{\varepsilon}$ aura des courbes invariantes pour $\varepsilon$ assez petit et
n'en aura plus
pour $\varepsilon$ assez grand (\cite{Hn1}).
\end{enumeratei}

\section{Étude des configurations minimales}
On va poser dans ce paragraphe, en nous inspirant de Bangert \cite{Ba1}, le
cadre ou
s'inscrit la démonstration du théorème 4.1.
Une \emph{configuration} est une suite bi-infinie de réels. On munit
alors l'ensemble
$\RR^\ZZ=\{\Theta=(\theta_i)_{i\in\ZZ}\mid\theta_i\in\RR\}$ des configurations de la topologie produit. On~a
la propriété suivante, qui sera souvent utilisée:
si
$(a_i)_{i\in\ZZ}$ est une suite de réels positifs, l'ensemble
$\{\Theta=(\theta_i)_{i\in\ZZ}\mid |\theta_i|\leq a_i\;\forall\,i\in\ZZ\}$ est compact.

\begin{enonce*}[remark]{Définition}
Soit $h:\RR^2\to\RR$ une application
continue. Nous dirons que le segment
$(\theta_j,\dots,\theta_k)$, $j<k$, de $\Theta=(\theta_i)_{i\in\ZZ}$
est \emph{minimal} si
$h(\theta_j,\dots,\theta_k)\leq h(\theta'_j,\dots,\theta'_k) $,
pour tout autre segment tel que $\theta'_j=\theta_j$ et $\theta'_k=\theta_k$; où on pose:
$$h(\theta_j,\dots,\theta_k)=\sum_{i=j}^{k-1}h(\theta_i,\theta_i+1).$$ Nous dirons qu'une
configuration $\Theta$ est \emph{minimale} si tout
segment de $\Theta$ est minimal.
\end{enonce*}

\subsubsection*{Remarque}
Si $h$ est de classe $C^1$ et
si $(\theta_j,\dots,\theta_k)$ est minimal, alors pour tout $i\in\{j+1,\dots,k-1\}$, on a
$${\partial h \over \partial\theta'}(\theta_{i-1},\theta_i)+{\partial
h\over \partial\theta}(\theta_i,\theta_{i+1})=0.$$

Nous nous intéresserons aux configurations minimales des applications
continues $h $ vérifiant les propriétés suivantes:

\begin{enumeratei}
\item\label{enum:i}
$h(\theta +1,\theta' +1)=h(\theta,\theta')$, pour
tout
$(\theta,\theta')\in\RR^2$;

\item\label{enum:ii}
$\lim_{\theta'\to\pm
\infty}h(\theta,\theta+\theta')=+\infty
$
uniformément en $\theta$;

\item\label{enum:iii}
$ h(\theta,\theta')+ h(\theta^*,\theta'^*)< h(\theta,\theta'^*)+
h(\theta^*,\theta')$, si $\theta<\theta^*$ et $\theta'<\theta'^*$;

\item\label{enum:iv}
si $(\theta_{i-1},\theta_i,\theta_{i+1})$ et $(\theta^*_{i-1},\theta^*_i,
\theta^*_{i+1})$ sont deux segments minimaux distincts et si $\theta_i=\theta^*_i$, alors
$(\theta_{i-1}-\theta^*_{i-1})(\theta_{i+1}-\theta^*_{i+1})<0$.
\end{enumeratei}

La condition \eqref{enum:iv} est la moins claire, car elle se définit par rapport
à la notion de segment minimal. Cette condition est nécessairement vérifiée si
$h$ est de
classe $C^1$ et si les applications
$$\theta\mto{\partial h\over
\partial\theta'}(\theta,\theta')
\qqbox{et} \theta'\mto{\partial h\over
\partial\theta}(\theta,\theta')$$ sont toutes deux strictement croissantes ou toute deux
strictement décroissantes, puisque:
$${\partial h \over \partial\theta'}(\theta_{i-1},\theta_i)+{\partial
h\over \partial\theta}(\theta_i,\theta_{i+1})={\partial h \over \partial\theta'}(\theta^*_{i-1},
\theta_i)+{\partial
h\over \partial\theta}(\theta_i,\theta^*_{i+1})=0.$$
Elle est vérifiée si $h$ est de classe $C^2$ et si
${\partial^2
h\over \partial\theta\partial\,\theta'}(\theta,\theta')$ garde un signe constant non nul; si ce signe est $<0$, la condition \eqref{enum:iii} est également vérifiée (il suffit pour cela d'intégrer
cette dernière fonction sur le quadrilatère
$[\theta,\theta^*]\times[\theta',\theta'^*]$).

Si $\Theta=(\theta_i)_{i\in\ZZ}$ est une configuration
minimale, il en est
de même de $\varphi(\Theta)=(\theta_{i+1})_{i\in\ZZ}$ et de même de
$\tau(\Theta)=(\theta_i+1)_{i\in\ZZ}$ (d'après la propriété \eqref{enum:i}). Remarquons
que les bijections $\varphi$ et $\tau$ de $\RR^\ZZ$ commutent. D'autre part,
puisque $h$ est continue, l'ensemble des configurations
minimales est fermé. Nous allons étudier d'autres propriétés, liées à l'ordre.

\begin{enonce*}[remark]{Définition}
Considérons sur $\RR^\ZZ$ la relation
suivante:
$$\Theta<\Theta' \hbox{ si et seulement si } \theta_i<\theta'_i \hbox{ pour tout } i\in\ZZ.$$
Nous dirons qu'une partie $X$ de $\RR^\ZZ$
est \emph{bien ordonnée} si elle est fermée,
remplie (c'est-à-dire invariante par $\varphi$ et $\tau$), totalement ordonnée
(deux éléments distincts de $X$ peuvent toujours être
comparés par la relation $<$) et si elle vérifie la propriété suivante: l'ensemble $X'=\{\Theta\in X\mid\theta_0\in[0,1]\}$ est compact (autrement dit la
projection de $X$ dans l'espace quotient $\RR^\ZZ/\tau$ est compact).
\end{enonce*}

\subsubsection*{Remarque}
Une
condition suffisante pour avoir la dernière propriété est l'existence d'une
constante
$C$ telle que $\theta_{i+1}-\theta_i\leq C$, pour tout $\Theta\in X$ et pour tout
$i\in\ZZ$, d'après la propriété de compacité énoncée au début du paragraphe.

\medskip
Si $X$ est une partie bien ordonnée, la projection $\Theta\mto\theta_0$ définit une bijection de~$X$ dans
une partie $Y$ de $\RR$ invariante par la translation $T:\theta\mto\theta+1$.
La dernière condition imposée à $X$ nous dit que $Y$ est fermée et que cette projection induit un homéomorphisme entre~$X$ et~$Y$. L'application conjuguée à $\varphi$ par la projection est strictement croissante et commute avec $T$, elle
se prolonge par interpolation linéaire sur chaque intervalle du complémentaire
en un homéomorphisme $f$ de $\RR$ vérifiant les mêmes hypothèses. La dynamique
sur~$X$ de l'application $\varphi$ est donc conjuguée à l'application $f$
restreinte à $Y=\pi^{-1}(Y^*)$, où $Y^*$ est une partie fermée de
$\TT$, invariante par l'homéomorphisme $F$ de $\TT$ relevé par $f$.

Appliquons maintenant les résultats du paragraphe~3.
Il existe un réel $\rho$ tel que pour tout $\Theta\in X$ et
tous entiers $i$ et $k$, on a $-1<\theta_{i+k}-\theta_i-k\rho<1$ et donc
$\lim_{k\to\pm\infty}\theta_k/k=\rho$: c'est le \emph{nombre de
rotation} de $X$.

Si ce nombre est rationnel et s'écrit $\rho=p/q$ sous forme irréductible, trois
cas sont possibles pour $\Theta\in X$:
\begin{itemize}
\item
$\varphi^q\circ\tau^{-p}(\Theta)=\Theta$;
\item
$\varphi^q\circ\tau^{-p}(\Theta)<\Theta$ et les suites
\[
(\varphi^{nq}\circ\tau^{-np}(\Theta))_{n>0}\quand(\varphi^{nq}\circ\tau^{-np}(\Theta))_{n<0}
\]
convergent chacune vers un point
fixe de $\varphi^q\circ\tau^{-p}$;
\item $\varphi^q\circ\tau^{-p}(\Theta)>\Theta$ et les suites
\[
(\varphi^{nq}\circ\tau^{-np}(\Theta))_{n\geq 0}\quand(\varphi^{nq}\circ\tau^{-np}(\Theta))_{n\leq 0}
\]
convergent chacune vers un
point fixe de $\varphi^q\circ\tau^{-p}$.
\end{itemize}

Si ce nombre est irrationnel, l'ensemble $\alpha(\Theta)$ des configurations~$\Theta'$, valeurs d'adhérence d'une suite de la forme
$(\varphi^n\circ\tau^{p_{n}})_{n\leq 0}$, et l'ensemble
$\omega(\Theta)$ des configurations $\Theta'$, valeurs d'adhérence d'une
suite de
la forme
$(\varphi^n\circ\tau^{p_{n}})_{n\geq 0}$, sont égaux et
indépendants de
$\Theta$, c'est exactement l'ensemble des configurations récurrentes de $X$ (c'est-à-dire des éléments $\Theta$ tels que $\Theta\in\omega(\Theta)$).

\begin{enonce*}[remark]{Définition}
Nous dirons que deux configurations $\Theta$
et $\Theta^*$ se croisent en $i\in\ZZ$ si $\theta_i=\theta^*_i$ et
$(\theta_{i-1}-\theta^*_{i-1})(\theta_{i+1}-\theta^*_{i+1})<0$; nous dirons qu'elles se
croisent
entre
$i$ et $i+1$ si $(\theta_{i}-\theta^*_{i})(\theta_{i+1}-\theta^*_{i+1})<0$.
\end{enonce*}

\subsubsection*{Remarque}
Si deux configurations $\Theta$ et
$\Theta^*$ se
croisent et si $\widetilde\Theta$ et $\widetilde\Theta^*$ sont
proches respectivement de $\Theta$ et~$\Theta^*$, il en est de même de
$\widetilde\Theta$ et~$\widetilde\Theta^*$ Deux configurations comparables ne
se croisent pas; deux configurations minimales qui ne se croisent pas
sont comparables (d'après la propriété \eqref{enum:iv}).

\medskip
Nous dirons qu'une configuration
$\Theta$ est bien ordonnée s'il en est ainsi de l'adhérence $O_{\Theta}$ de
$\{\varphi^q\circ\tau^p(\Theta)\mid(p,q)\in\ZZ^2\}$; nous appellerons alors
nombre de
rotation de $\Theta$ le nombre de rotation de cet ensemble. Si $\Theta$
est bien ordonnée, l'ensemble
$\{\varphi^q\circ\tau^p(\Theta)\mid(p,q)\in\ZZ^2\}$ est totalement ordonné.
Réciproquement, si $\{\varphi^q\circ\tau^p(\Theta)\mid(p,q)\in\ZZ^2\}$ est
totalement ordonné, les quantités
$\theta_{i+1}-\theta_{i}$ sont alors uniformément bornées (pour des raisons analogues au
cas des homéomorphismes du cercle, on a
$|(\theta_{i+1}-\theta_{i})-(\theta_{1}-\theta_{0})|<1$) et $O_{\Theta}$ vérifie la quatrième
condition des ensembles bien ordonnés. Cet ensemble n'est cependant pas
nécessairement totalement ordonné (on peut trouver deux suites
$(\Theta_n)$ et
$(\Theta'_n)$ convergeant respectivement vers $\Theta$ et $\Theta'$, vérifiant
\hbox{$\Theta_n<\Theta^*_n$} et tel que l'on ait
$\theta_{i-1}<\theta^*_{i-1}$, $\theta_i=\theta^*_i$, $\theta_{i+1}<\theta^*_{i+1}$). Si par
contre $\Theta$ est minimale cette situation est impossible (toujours
par la propriété \eqref{enum:iv}): une configuration minimale est bien ordonnée si
et seulement si l'ensemble $\{\varphi^q\circ\tau^p(\Theta)\mid(p,q)\in\ZZ^2\}$ est
totalement ordonné.\enlargethispage{\baselineskip}

On déduit de cette propriété et de la remarque faite plus haut que
l'ensemble des
configurations minimales bien ordonnées est fermé, le nombre de rotation
dépend alors continûment de la configuration (pour montrer la continuité, il
suffit d'utiliser la double inégalité). De plus l'ensemble des configurations
minimales bien ordonnées telles que $\theta_0\in [0,1]$ et telles que le nombre de
rotation appartient à un compact donné, est compact (il est fermé et contenu
dans un ensemble de la forme
\hbox{$\{\Theta=(\theta_i)_{i\in\ZZ}\mid|\theta_i|\leq a_i,\; \forall\, i\in\ZZ\}$}). En conséquence l'ensemble des réels
qui sont nombres de rotation d'une configuration minimale bien ordonnée est fermé.

Construisons maintenant des configurations minimales. Intéressons nous d'abord à celles qui sont ``périodiques'', plus précisément aux
configurations telles que
$\varphi^q(\Theta)$ $=\tau^p(\Theta)$, où $p\in\ZZ$ et $q>0$ sont des entiers (nous
dirons alors que
$\Theta$ est \emph{de type}
$(p,q)$). Notons $X_{p,q}$ l'ensemble des configurations de type $(p,q)$ et
posons
$h_{p,q}(\Theta)=h(\theta_i,\dots,\theta_{i+q})$, quantité indépendante de $i\in\ZZ$.

\begin{enonce*}{Théorème 5.1}
Soient $p\in\ZZ$ et $q>0$ deux entiers.
L'application
$h_{p,q}$ atteint son minimum sur $X_{p,q}$ et l'ensemble $M_{p,q}$ des points où celui\nobreakdash-ci est \hbox{atteint} est un ensemble bien
ordonné de nombre de rotation $p/q$. Cet ensemble est contenu dans
$X_{p',q'}$ et coïncide donc avec $M_{p',q'}$, où
$p'/q'$ est la représentation irréductible de $p/q$. L'ensemble
$M_{p,q}$ est exactement l'ensemble des configurations minimales de type
$(p,q)$.
\end{enonce*}

\begin{proof}
Le fait que $h_{p,q}$ atteigne son
minimum est une conséquence immédiate des conditions \eqref{enum:i} et \eqref{enum:ii} vérifiées
par $h$; de plus l'ensemble $M_{p,q}$ des points où ce minimum est atteint est
fermé, rempli, et vérifie la quatrième condition des ensembles bien ordonnés.
Si
$q=1$ deux points distincts quelconques de
$M_{p,q}$ sont clairement comparables; montrons ce résultat si $q\geq 2$.
Considérons deux points distincts $\Theta=(\theta_i)_{i\in\ZZ}$ et
$\Theta^*=(\theta^*_i)_{i\in\ZZ}$ de $M_{p,q}$ et définissons deux
éléments $\Theta^-=(\theta^-_i)_{i\in\ZZ}$ et $\Theta^+=(\theta^+_i)_{i\in\ZZ}$ de
$X_{p,q}$ par les relations:
$$\theta^-_i=\min\{\theta_i,\theta^*_i\} \hbox{ et }
\theta^+_i=\max\{\theta_i,\theta^*_i\}.
$$
La condition (iii)
vérifiée par $h$ nous donne la relation:
$$h_{p,q}(\Theta^-)+h_{p,q}(\Theta^+)<h_{p,q}(\Theta)+h_{p,q}
(\Theta^*),$$
ou l'inégalité est stricte si et seulement si les configurations se croisent entre deux éléments $i$ et $i+1$.
On en déduit d'une part que $\Theta$ et~$\Theta^*$ ne se croisent jamais entre
deux indices, d'autre part que $\Theta^-$ et~$\Theta^+$ appartiennent à $M_{p,q}$. Si $\Theta$ et~$\Theta^*$ se croisent en $i$,
les segments $(\theta^-_{i-1},\theta^-_i,\theta^-_{i+1})$ et
$(\theta^+_{i-1},\theta^+_i,\theta^+_{i+1})$ sont minimaux car $\Theta^-$ et $\Theta^+$
appartiennent à $M_{p,q}$ et $q\geq 2$. Comme ils vérifient
$$\theta^-_i=\theta^+_i
\hbox{ et } (\theta^+_{i-1}-\theta^-_{i-1})(\theta^+_{i+1}-\theta^-_{i+1})>0,$$
on a une contradiction avec la condition (iv). Ainsi,
$M_{p,q}$ est bien ordonné.

Si $\Theta\in M_{p,q}$, les inégalités
$\varphi^{q'}\circ\tau^{-p'}(\Theta)<\Theta$ et
$\Theta<\varphi^{q'}\circ\tau^{-p'}(\Theta)$ sont impossibles et les configurations
$\varphi^{q'}\circ\tau^{-p'}(\Theta)$ et $\Theta$ sont égales. On en déduit
que $M_{p,q}$ est contenu dans $X_{p',q'}$ et par conséquent que
$M_{p,q}=M_{p',q'}$.

Puisque $\Theta\in M_{p',q'}$ minimise les fonctions $h_{np',nq'}$,
pour $n$ aussi grand que l'on veut, on en déduit que $\Theta$ est une
configuration minimale. Réciproquement, si \hbox{$\Theta^*\in X_{p,q}$} n'appartient pas à $M_{p,q}$, alors
$$h(\theta^*_{0},\theta_1,\theta_2,\dots,\theta_{nq+1},\theta^*_{nq+2})<h(\theta^*_{0},\theta^*_1,\theta^*_2
,\dots
,\theta^*_{nq+1},\theta^*_{nq+2})$$
si $n$ est assez grand; ainsi $\Theta^*$ n'est pas minimale.
\end{proof}

\begin{enonce*}{Corollaire}
Pour tout réel $\rho$, il existe une
configuration minimale bien ordonnée de nombre de rotation $\rho$. \qed
\end{enonce*}

Appliquons ces résultats aux difféomorphismes de l'anneau. Considérons
un dif\-féo\-morphisme $F$ de l'anneau
$\TT\times\RR$ déviant la verticale à droite et exact-symplectique et un
relèvement
$f:(\theta,r)\mto(\theta',r')$ de~$F$. L'application
$(\theta,r)\mto(\theta,\theta')$ est alors un difféomorphisme de $\RR^2$
envoyant $(\theta+1,r)$ sur $(\theta+1,\theta'+1)$. La forme différentielle
$r'(\theta,\theta')d\theta'-r(\theta,\theta')d\theta$ définie sur la variété simplement
connexe $\RR^2$ est fermée et donc exacte: il existe une application
$h:\RR^2\to\RR$ de classe $C^2$, telle que
$$r'(\theta,\theta')={\partial h\over\partial\theta'}(\theta,\theta') \qqbox{et} r(\theta,\theta')=-{\partial h\over\partial\theta}(\theta,\theta').$$

Le caractère exact de la forme $F^*(rd\theta)-rd\theta$ définie sur
l'anneau se traduit par le fait que $h$ définit une
fonction de l'anneau, c'est-à-dire par la condition de périodicité~(i).
La condition de périodicité sur la fonction $r'$ implique
que $\lim_{\theta'\to\pm\infty}r'(\theta,\theta+\theta')=\pm\infty$ uniformément en
$\theta$: on en déduit, en utilisant \eqref{enum:i}, que $h$ vérifie \eqref{enum:ii}.
Puisque ${\partial r\over\partial\theta'}(\theta,\theta')=
-{\partial r'\over\partial\theta'}(\theta,\theta')>0$, on sait que ${\partial^2 h\over \partial\theta\,\partial\theta'}(\theta,\theta')<0$ et que $h$ vérifie également les
conditions (iii) et (iv).

Dans le cas où $f(\theta,r)=(\theta+r,r+\varphi(\theta+r))$ et où $\varphi$ est de classe~$C^1$, de
période~$1$ et d'intégrale nulle sur $[0,1]$, on a
\[
h(\theta,\theta')=1/2(\theta'-\theta)^2+\Phi(\theta'),
\]
où $\Phi$ est une primitive de $\varphi$.

Si $\Theta$ est une configuration
minimale, alors $r'(\theta_{i-1},\theta_i)=r(\theta_i,\theta_{i+1})$. On en déduit que la suite
$((\theta_i,r(\theta_i,\theta_{i+1})))_{i\in\ZZ}$ est une orbite de $f$ et la suite
$((\theta_i+\ZZ,r(\theta_i,\theta_{i+1})))_{i\in\ZZ}$ une orbite de~$F$. Si $\Theta$ est une
orbite minimale de type $(p,q)$, l'image de $O_{\Theta}$ par l'application
\[
\Theta\mto(\theta_0+\ZZ,r(\theta_0,\theta_1))
\]
est une orbite périodique de~$F$ vérifiant
les conditions \eqref{enum:i}, \eqref{enum:ii} et \eqref{enum:iii} du théorème 4.1. Si $\Theta$
est une orbite minimale récurrente de nombre de rotation irrationnel
$\rho$, l'image de $O_{\Theta}$ par la même application est une partie
invariante $\Xi$ vérifiant les conditions \eqref{enum:i}, \eqref{enum:ii} et \eqref{enum:iii} du
même théorème, son adhérence est soit un ensemble de Cantor, soit le graphe d'une
application continue, et toute orbite contenue dans $\Xi$ est dense dans $\Xi$.
Remarquons qu'à toute orbite $((\theta_i,r_i))_{i\in\ZZ}$ de $f$ est associée une
configuration $(\theta_i)_{i\in\ZZ}$ stationnaire, c'est-à-dire qui vérifie
$${\partial h \over \partial\theta'}(\theta_{i-1},\theta_i)+{\partial
h\over \partial\theta}(\theta_i,\theta_{i+1})=0.$$

\subsubsection*{Remarque}
La démonstration du théorème 5.1 n'est rien
d'autre que la
démonstration faite au paragraphe 1 dans le cas du billard,
où $h(\theta,\theta')=-\|\gamma(\theta)-\nobreak\gamma(\theta')\|$ et la condition \eqref{enum:iii} est la
propriété remarquée sur les diagonales d'un quadrilatère. Il y a cependant
deux différences. L'ensemble des configurations où la fonction est définie est
restreint, conséquence du caractère borné de l'anneau de définition. On peut
montrer le théorème 4.1 dans le cas d'un anneau borné par
une méthode analogue (en restreignant l'ensemble des configurations), on peut
également prolonger le difféomorphisme en un difféomorphisme de l'anneau infini
déviant la verticale à droite et préservant l'aire (il sera exact-symplectique),
puis montrer que les orbites obtenues sont nécessairement dans l'anneau fermé si
le nombre de rotation est compris entre les nombres de rotation des deux bords
(dans le cas du billard le prolongement naturel est le relèvement de~$\Phi$ à l'anneau infini). L'autre différence réside dans le fait que $F$ n'est
pas tout à fait un difféomorphisme. En fait, on peut démontrer le théorème
5.1 pour les homéomorphismes déviant la verticale à droite
($r\mto\theta'$ est un homéomorphisme strictement croissant): la fonction
$h$ que l'on construit de façon analogue est seulement de classe
$C^1$ mais vérifie également les conditions \eqref{enum:i}, \eqref{enum:ii}, \eqref{enum:iii} et \eqref{enum:iv}.\enlargethispage{\baselineskip}

Énonçons, sans les démontrer, d'autres propriétés des orbites minimales dans
le cas d'une application continue vérifiant nos quatre conditions. En
utilisant les segments $(\theta^-_j,\dots,\theta^-_k)$ et $(\theta^+_j,\dots,\theta^+_k)$,
définis par $\theta^-_i=\min\{\theta_i,\theta^*_i\}$ et $\theta^+_i=\max\{\theta_i,\theta^*_i\}$ pour
deux configurations minimales $\Theta$ et $\Theta^*$, on montre exactement
comme
dans le théorème 5.1:

\begin{enonce*}{Proposition}
Deux configurations minimales ont au
plus un croisement.\qed
\end{enonce*}

En particulier deux configurations minimales de nombre de rotation distincts
se croisent exactement une fois. En affinant alors ce type de raisonnement
on peut montrer la proposition fondamentale suivante.

\begin{enonce*}{Théorème 5.2}
Si $\Theta$ est une configuration
minimale et
$p,q$ deux entiers, alors $\Theta$ et $\varphi^q\circ\tau^p(\Theta)$ n'ont pas de croisement:
toute configuration minimale est donc bien ordonnée. \qed
\end{enonce*}

Toute configuration minimale a donc un nombre de rotation, celles dont
le nombre de rotation est un rationnel $\rho=p/q$ écrit sous forme irréductible
se divisent en trois groupes:
\begin{itemize}
\item
les éléments de $M_{p,q}$;

\item
des configurations telles que
$\varphi^q\circ\tau^{-p}(\Theta)<\Theta$ et telles que
\[
(\varphi^{nq}\circ\tau^{-np}(\Theta))_{n>0} \quand(\varphi^{nq}\circ\tau^{-np}(\Theta))_{n<0}
\]
convergent
chacune vers un point de $M_{p,q}$;

\item
des configurations telles que
$\varphi^q\circ\tau^{-p}(\Theta)>\Theta$ et telles que
\[
(\varphi^{nq}\circ\tau^{-np}(\Theta))_{n>0}\quand(\varphi^{nq}\circ\tau^{-np}(\Theta))_{n<0}
\]
convergent
chacune vers un point de $M_{p,q}$.
\end{itemize}

En considérant des limites de configurations minimales de nombre de rotation $\rho_n<p/q$ (\resp $\rho_n>p/q$), on peut montrer qu'il existe des
configurations $\Theta$ de second et de troisième type. Plus précisément il en
existe au moins une de chaque type vérifiant $\Theta^*<\Theta<\Theta^{**}$, si
$\Theta^*$ et $\Theta^{**}$ sont deux éléments de $M_{p,q}$ tels que
$\Theta^*<\Theta^{**}$ et tels qu'aucun élément $\widetilde\Theta$ de $M_{p,q}$
ne vérifie $\Theta^*<\widetilde\Theta<\Theta^{**}$. Dans le cas des
difféomorphismes génériques déviant la verticale et exact-symplectiques, il~n'y
a qu'une orbite correspondant à l'ensemble $M_{p,q}$, elle est hyperbolique et
la propriété précédente permet de montrer que les variétés stables et instables
se rencontrent.

Deux configurations minimales de même nombre de rotation rationnel peuvent se croiser, ce n'est pas le cas si ce
nombre est irrationnel.

\begin{enonce*}{Théorème 5.3}
L'ensemble des orbites minimales de
nombre de rotation donné $\rho\not\in\QQ$ est bien
ordonné.
En particulier, les ensembles $\alpha(\Theta)$ et $\omega(\Theta)$ sont égaux
et indépendants de la configuration minimale $\theta$ de nombre de rotation
$\rho$. \qed
\end{enonce*}

La notion de configuration minimale, ainsi que les résultats précédents, sont dus
originellement à Aubry et Le Daeron
\cite{AL}, qui étudiaient le modèle de Frenkel-Kontorova en physique des
solides. Le
problème étant d'étudier une famille de particules sur la droite réelle,
indexées
par
$i\in\ZZ$ et décrites par leurs positions $\theta_i$. Les particules $i$ et $i+1$ sont
couplées par un potentiel $\frac12C(\theta_i-\theta_{i+1})^2$, de plus chaque particule $i$ est
soumise à une force $-V'(\theta_i)$ décrite par un potentiel périodique~$V$. Pour
obtenir des configurations stationnaires sous l'effet de ces forces, il suffit
de chercher les configurations minimales définies pour la fonction
$$h:(\theta,\theta')\mto \frac12 C(\theta'-\theta)^2+V(\theta'). $$

Dans le cas où $V$ est nul, les configurations stationnaires sont toutes de la
forme $\theta_i=\theta_0+i\rho$, où $\rho$ est un réel (la distance entre
deux particules consécutive est constante); elles sont toutes minimales.
Remarquons que le problème variationnel est le même que le problème associé à l'application $f:(\theta,r)\mto(\theta+rC,r)$: toute courbe $r=\rho$ est
invariante par le difféomorphisme relevé, si $\rho$ est irrationnel, c'est
l'ensemble
$\Xi$ associé à $\rho$.

La démonstration de ces résultats dans le cas des difféomorphismes de l'anneau borné déviant la verticale
(c'est-à-dire le théorème 4.1) est due à J. Mather \cite{Ma1}. Le problème
variationnel initial considéré par Mather était cependant différent, il obtint
d'abord les orbites de nombre de rotation irrationnel. Voir également Douady~\cite{RDou}, Katok \cite{K} pour des méthodes topologiques directes d'obtention des ensembles~$\Xi$ de nombre de rotation irrationnel à partir des orbites périodiques bien ordonnées, ainsi que Chenciner
\cite{C} pour une autre présentation des résultats de ce paragraphe.

Nous verrons dans le prochain paragraphe une application plus surprenante à l'étude des géodésiques minimales du tore de dimension~2. L'étude des
géodésiques minimales du tore remonte à Hedlund~\cite{Hd}, la~plupart des
résultats que l'on exposera sont d'ailleurs dus à Hedlund ou à Morse
\cite{Mor}. La présentation que l'on va en faire, et en particulier le lien
précis qui les rattache à l'étude des configurations minimales, est due à
Bangert
\cite{Ba1}.\enlargethispage{\baselineskip}

\section{Géodésiques minimales du tore de dimension 2}

Commençons par rappeler la définition et quelques propriétés des géodésiques.
Considérons une variété riemannienne $M$ de classe $C^{\infty}$ et notons
$\|v\|_x$ la norme d'un vecteur $v$ appartenant à l'espace tangent
$T_xM$ de $M$ en $x$. La longueur $\ell(\gamma)$ d'un arc
$\gamma:[a,b]\to M$ de classe $C^1$
est donnée par $\int_a^b\|\gamma'(t)\|_{\gamma(t)}dt$ et son
énergie $e(\gamma)$ par
$\int_a^b\|\gamma'(t)\|^2_{\gamma(t)}dt$ (la
longueur est indépendante de la paramétrisation de l'arc, ce n'est pas le
cas de
l'énergie).

Un \emph{segment géodésique} est une courbe $\gamma:[a,b]\to
M$ de classe~$C^1$ qui est un point critique de la fonction énergie sur l'ensemble des arcs
de classe $C^1$ définis sur $[a,b]$, ayant mêmes extrémités~$\gamma(a)$ et~$\gamma(b)$ que~$\gamma$; c'est-à-dire une courbe vérifiant les équations d'Euler-Lagrange associées à la fonction $L:v\in T_xM\mto \|v\|_x^2$.

Une
\emph{géodésique} est un arc
$\gamma:I\to M$ de classe $C^1$, défini sur un intervalle $I$,
tel que sous segment (i.e. toute restriction à un intervalle compact)
est un segment géodésique et qui est maximal pour cette propriété (on ne
peut prolonger $\gamma$ en conservant cette propriété).

Une propriété fondamentale des géodésiques est la suivante:
pour $x\in M$ et tout
$v\in T_xM$, il existe une unique géodésique telle que $\gamma(0)=x$ et
$\gamma'(0)=v$. Plus précisément, les géodésiques sont les orbites d'un champ
de vecteurs défini sur l'espace tangent
$T(M)$ de~$M$. Une autre propriété fondamentale est le fait que la fonction $v\in T_xM\mto\|v\|_x$ est une intégrale
du flot associé (i.e. elle est constante le long des orbites).

On peut montrer que les segments
géodésiques sont les points critiques de la fonction longueur sur l'ensemble
des arcs
de classe $C^1$ ayant mêmes extrémités que~$\gamma$, qui sont parcourus à vitesse constante (i.e. $\|\gamma'(t)\|_{\gamma(t)}$ est constant). Une des
raisons pour lesquelles on préfère définir les géodésiques par rapport à l'énergie plutôt qu'à la longueur est la propriété d'unicité qu'on
vient d'écrire (due au fait que l'équation d'Euler-Lagrange se ramène à une
équation différentielle sur l'espace tangent). Le flot restreint au fibré
unitaire tangent
$T^1(M)$ formé des vecteurs de norme $1$, s'appelle le \emph{flot géodésique}. Les orbites sont les
géodésiques parcourues à vitesse constante égale à $1$ et donc paramétrées
par la longueur; on obtient les autres géodésiques par reparamétrisation
linéaire de celles-ci. Si
$M$ est compacte, il en est de même de
$T^1(M)$, et le flot
géodésique est
complet (i.e. toute géodésique est définie sur $\RR$); on a la même propriété si
$M$ est un revêtement d'une variété riemannienne compacte.

On peut définir plus généralement la longueur d'un arc
\hbox{$\gamma{:}[a,b]\!\to\! M$}, $C^1$ par morceaux, et même absolument continu.
Rappelons qu'une application $f$ de $[a,b]$ dans l'espace euclidien $\RR^n$ est
\emph{absolument continue}, si pour tout $\varepsilon>0$, il existe $\eta >0$ tels que si
$(]a_i,b_i[)_{1\leq i<\leq p}$ est une famille finie d'intervalles disjoints
deux à deux de $[a,b]$ tels que $\sum_{i=1}^p (b_i-a_i)\leq\eta$,
alors
$\sum_{i=1}^p\|f(b_i)-f(a_i)\|\leq\varepsilon$. Si
$\phi:\RR^n\to\RR^n$ est de classe $C^1$ et $\gamma$
absolument continue, il en est de même de
$\phi\circ\gamma$, on peut donc définir, en utilisant des cartes, la notion d'application absolument continue à valeurs dans $M$, la fonction
$\gamma'$ est alors définie presque partout, mesurable et
$\int_a^b\|\gamma'(t)\|_{\gamma(t)}dt<+\infty$.

Soit
$\gamma:I\to M$ une géodésique et $a\in I$. Si $b\in I$ est assez
proche de $a$, la restriction de $\gamma$ à
$[a,b]$ est en fait un minimum strict de la fonction longueur sur l'ensemble
des arcs abso\-lu\-ment continus joignant $\gamma(a)$ à $\gamma(b)$.
Plus précisément, si
$a\in M$ et si $b$ est assez proche de $a$, il existe un unique élément (à
reparamétrisation près) qui minimise la longueur parmi les
arcs absolument continus joignant~$a$ à~$b$, c'est un segment géodésique.

On peut définir une distance sur $M$ en posant
\[
d(x,y)=\inf\{\ell(\gamma)\mid\gamma\in {\cal C}\},
\]
où ${\cal C}$ est l'ensemble
des
arcs absolument continus d'extrémités~$x$ et~$y$. Si le flot géodésique est
complet, on sait (par le théorème de Hopf-Rinow), que cette borne inférieure est
toujours atteinte, et tout arc où ce minimum est atteint est un segment
géodésique et donc de classe~$C^1$ (à reparamétrisation près). Il n'y a pas
nécessairement unicité comme le montre l'exemple de la sphère plongée dans
l'espace euclidien
$\RR^3$ et munie de la structure riemannienne induite. Un tel segment
géodésique sera dit \emph{minimal}, une géodésique dont tout segment est minimal
sera dite \emph{minimale}. En d'autres termes, une géodésique
$\gamma:I\to M$ est
minimale si et seulement si, pour tout $(a,b)\in I^2$, $d(\gamma(a),
\gamma(b))=|b-a|$. Remarquons que tout segment géodésique minimal est injectif.\enlargethispage{2\baselineskip}

Si $M$ est
compact, il n'existe aucune géodésique minimale, puis\-que~$M$ est bornée pour la
distance $d$ et puisque les géodésiques sont définies sur $\RR$. On peut s'intéresser cependant dans ce
cas aux géodésiques qui se relèvent au revêtement universel en des géodésiques
minimales, c'est-à-dire aux géodésiques dont tout segment minimise
la longueur parmi les arcs absolument continus, ayant mêmes extrémités et
homotopes au segment.

On montre sans difficulté que sur une variété riemannienne $M$, l'ensemble des
points
$v\in T^1(M)$ tels que la géodésique issue de
$v$ soit minimale, est fermé. Énonçons d'autres propriétés des géodésiques
minimales (on identifiera, par abus de langage un segment géodésique ou une
géodésique, qui est une application, et son image, qui est un ensemble).

\begin{enonce*}{Proposition}
Si deux segments géodésiques minimaux
ont au moins deux points d'intersection, soit ils
s'intersectent exactement aux deux extrémités, soit ils s'intersectent sur un
segment et la réunion est un segment géodésique.
\end{enonce*}

\begin{proof}
Si la première conclusion du théorème est fausse,
quitte à restreindre nos segments $\gamma$ et $\gamma^*$, nous pouvons supposer
qu'ils ont une extrémité~$x$ en commun et que la seconde extrémité $y$ de
$\gamma$
appartient à l'image de $\gamma^*$ et est distincte de la seconde
extrémité $y^*$
de cet arc. Le segment $\gamma$ et le sous-segment de $\gamma^*$ joignant~$x$ à~$y$ ont même longueur car ils sont minimaux. L'arc obtenu en ajoutant le
sous-segment de $\gamma^*$ joignant $y^*$ à $y$ au segment $\gamma$ a donc même
longueur que le segment $\gamma^*$, il minimise la longueur et c'est donc un
segment géodésique. En particulier il est de classe $C^1$ et les dérivées de
$\gamma$ et $\gamma^*$ coïncident au point $y$. On en déduit que $\gamma$ et
$\gamma^*$ s'intersectent sur un sous-segment commun et que leur réunion est un segment géodésique.
\end{proof}

Utilisant le fait que toute géodésique est définie sur un intervalle ouvert,
comme orbite d'un champ de vecteurs,
on en déduit le résultat suivant similaire à une proposition du paragraphe
précédent.

\begin{enonce*}{Corollaire}Deux géodésiques
minimales d'une variété riemannien\-ne~$M$ ont au plus un point d'intersection. \qed
\end{enonce*}

Nous allons nous intéresser aux géodésiques minimales du plan muni d'une
structure riemannienne invariante par les translations de vecteur dans
$\ZZ^2$. Une telle structure définit naturellement une structure riemannienne sur
$\TT^2=\RR^2/\ZZ^2$ et les géodésiques minimales sont exactement les
relèvements des
géodésiques du tore qui ont la propriété suivante: tout segment minimise la
longueur parmi les arcs absolument continus, ayant mêmes extrémités et homotopes
au segment.

Le cas le plus simple est le cas de la métrique euclidienne usuelle. Dans ce cas les géodésiques qui sont des droites sont
toute minimales. Si la droite est
dirigée par un élément de
$\ZZ^2$ (i.e. si la pente est rationnelle ou infinie), la géodésique du tore
relevée est une orbite périodique, sinon (si la pente est irrationnelle), l'adhérence de la
géodésique relevée est le tore tout entier.

Nous allons construire des géodésiques minimales
par une méthode analogue à celle employée dans la démonstration du théorème 5.1.
Remar\-quons que $d(x,y)=d(x+(p,q),y+(p,q))$, pour tout $(x,y)\in\RR^2$ et tout $(p,q)\in\ZZ^2$, et que l'image par la translation de vecteur $(p,q)$ d'une
géodésique (\resp d'une géodésique minimale) est une géodésique (\resp une
géodésique minimale). Supposons $(p,q)\not=(0,0)$, nous dirons qu'un arc
continu
$\gamma:\RR\to\RR^2$ est de type $(p,q)$ s'il existe $t^*>0$ tel que
$\gamma(t+t^*)=\gamma(t)+(p,q)$ pour tout $t\in\RR$. Le couple $(p,q)$
et le réel $t^*$ sont
alors uniques. Nous appellerons longueur de l'arc, la longueur (indépendante
de $t$) du segment restreint à $[t,t+t^*]$, si celui-ci est absolument continu.
Remar\-quons que ce segment se projette dans le tore en une courbe fermée qui
définit l'élément $(p,q)$ du groupe fondamental
$\ZZ^2$ de $\TT^2$.

\begin{enonce*}{Théorème}
La fonction
longueur, définie sur l'ensemble des arcs absolument continus de type
$(p,q)$, atteint son minimum et l'ensemble $M_{p,q}$ où celui-ci est atteint est formé de géodésiques. Ces géodésiques sont toutes de type $(p',q')$, ou
$p'$ et $q'$ sont premiers entre eux et où $(p,q)=m(p',q')$, $m>0$; elles se
projettent dans le tore en une famille de courbes fermées simples disjointes
deux à deux dont la réunion est fermée. Enfin, les éléments de $M_{p,q}$ sont
exactement les géodésiques minimales de type $(p,q)$.
\end{enonce*}

\begin{proof}
Le fait que la fonction longueur sur
l'ensemble des arcs absolument continus de type $(p,q)$ atteigne son minimum et que celui-ci
ne soit atteint que sur des géodésiques se montre comme la propriété analogue
pour les arcs joignant deux points. Deux telles géodésiques ne peuvent
s'intersecter: en effet, elles devraient s'inter\-secter en au moins deux points,
à cause de la ``périodicité'', et par un
argument similaire à celui de la proposition précédente, on obtiendrait une contradiction.

Un élément de $M_{p,q}$ rencontre nécessairement son image
par la translation de vecteur $(p',q')$ et doit donc être égale à celle-ci: on
en déduit que la géodésique est de type $(p',q')$ et que $M_{p,q}=M_{p',q'}$.
La propriété d'intersection nous dit de plus que chaque élément de $M_{p,q}$
se projette dans le tore en une courbe fermée simple et que toutes ces
courbes sont
disjointes deux à deux. Le caractère fermé de la réunion provient du
fait que l'ensemble des vecteurs $v\in T^1(\RR^2)$ telle
que la géodésique issue de ce point appartient à $M_{p,q}$, est fermé et
invariant par les translations à valeurs dans $\ZZ^2$

Le fait qu'un élément $\gamma$ de $M_{p,q}$ minimise la longueur parmi toutes
les
courbes de type $(np,nq)$, $n>0$, oblige la géodésique à être minimale. Réciproquement,
soit $\gamma^*\not\in M_{p,q}$ un arc de type $(p,q)$, choisissons un point
$x$ sur $\gamma$ et un point $x^*$ sur $\gamma^*$. L'arc
formé du segment euclidien joignant $x^*$ à $x$, du segment de $\gamma$
joignant
$x$ à $x+(np,nq)$ et du segment euclidien joignant $x+(np,nq)$ à $x^*+(np,nq)$
aura une longueur plus petite que celle du segment de $\gamma^*$ joignant $x^*$
a $x^*+(np,nq)$, si $n$ est assez grand: la courbe $\gamma^*$ n'est pas
minimale.
\end{proof}

Nous remarquons dans ce théorème l'analogie entre nos géodésiques et les
configurations minimales du paragraphe précédent. Comme nous allons voir,
c'est plus qu'une
analogie.

\begin{figure}[htb]
\centerline{\includegraphics[height=7\unitlength]{lecalvezfig6}}
\caption{\label{lecfig6}}
\end{figure}

Considérons (voir figure \ref{lecfig6}). une géodésique minimale $\Gamma_0$ de type $(0,1)$ et
ses translatées $\Gamma_i$ par les vecteurs
$(i,0)$, $i\in\ZZ$, qui sont disjointes deux à deux, puis définissons
l'application continue\vspace*{-3pt}\enlargethispage{1.5\baselineskip}
$$h:\RR^2\to\RR,(\theta,\theta')\mto d(\Gamma_0(\theta),\Gamma_1(\theta')).$$

Il existe alors au moins un segment géodésique minimal qui joint $\Gamma_0(\theta)$
à $\Gamma_1(\theta')$; un tel segment est contenu, sauf en ses deux extrémités, dans
la bande ouverte comprise entre les courbes $\Gamma_0$ et $\Gamma_1$, d'après la
propriété d'intersection énoncée plus haut. Si
$(\theta_j,\dots,\theta_k)$ est un segment minimal et si $(\gamma_i)_{j\leq i<k}$, est
une famille de segments géodésiques minimaux joignant $\Gamma_i(\theta_i)$ à $\Gamma_{i+1}(\theta_{i+1})$, la réunion de ces arcs définit une courbe qui minimise
la longueur parmi les arcs absolument continus joignant $\Gamma_j(\theta_j)$ à $\Gamma_{k}(\theta_{k})$, puisque tout segment géodésique minimal joignant
$\Gamma_j(\theta_j)$ à $\Gamma_{k}(\theta_{k})$ rencontre chaque courbe~$\Gamma_i$ en
exactement un point. C'est donc un segment géodésique, c'est même l'unique
segment géodésique minimal qui joint
$\Gamma_j(\theta_j)$ à $\Gamma_k(\theta_k)$ et qui passe par les tous les $\Gamma_i(\theta_i)$ si $k-j\geq2$.

Si $\Theta =(\theta_i)_{i\in\ZZ}$ est une configuration minimale, il existe une
géodésique minimale (et une seule) qui passe par chaque $\Gamma_i(\theta_i)$.
Plus précisément, il y a une bijection naturelle entre l'ensemble des
configurations minimales et l'ensemble des géodésiques minimales qui rencontrent
chaque courbe $\Gamma_i$. Si une géodésique minimale $\gamma$ ne vérifie
pas cette
propriété (on dira que $\gamma$ est exceptionnelle), l'un des ensembles
$\gamma([M,+\infty[)$
ou $\gamma(]-\infty,-M])$ doit être contenu dans une bande délimitée par deux
courbes $\Gamma_i$ et $\Gamma_{i+1}$ pour $M$ assez grand. Comme elle n'a pas de
point d'accumulation, elle a une direction asymptotique
dans l'axe des $Oy$. Une courbe ayant au plus deux directions
asymptotiques (en $\pm\infty$), on peut choisir $p$ et $q$ premiers entre eux,
puis définir nos courbes $\Gamma_i$, de type
$(p,q)$, de telle façon que notre
géodésique cesse d'être exceptionnelle. C'est uniquement le choix arbitraire de
la famille $(\Gamma_i)_{i\in\ZZ}$ (ou plus exactement du type des éléments de
cette famille) qui lui confère ce caractère exceptionnel.

Pour appliquer les résultats du paragraphe précédent à l'étude des géodésiques
minimales, il faut encore montrer que l'application $h$ vérifie les
conditions \eqref{enum:i}, \eqref{enum:ii}, \eqref{enum:iii} et \eqref{enum:iv}.

\begin{enumeratei}
\item
L'application vérifie la condition de périodicité
puisque
\begin{align*}
d(\Gamma_0(\theta+1),\Gamma_1(\theta'+1))&=d(\Gamma_0(\theta)+(0,1),\Gamma_1(\theta')+(0,1))\\
&=d(\Gamma_0(\theta),\Gamma_1(\theta')).
\end{align*}
\item
Elle vérifie également la condition \eqref{enum:ii}
puisque
\begin{align*}
d(\Gamma_0(\theta),\Gamma_1(\theta+\theta'))&\geq
d(\Gamma_1(\theta),\Gamma_1(\theta+\theta'))-d(\Gamma_0
(\theta),\Gamma_1(\theta))\\
&=|\theta'|-h(\theta,\theta).
\end{align*}
\item
Supposons que
$\theta<\theta^*$ et $\theta'<\theta'^*$, et considérons un segment géodésique minimal~$\gamma$
(\resp $\gamma^*$) joignant
$\Gamma_0(\theta)$ à $\Gamma_1(\theta'^*)$ (\resp $\Gamma_0(\theta^*)$ à $\Gamma_1(\theta')$). Ces deux courbes doivent s'intersecter en exactement un
point, et permettent de construire deux arcs $C^1$ par morceaux~$\widetilde\gamma$
et~$\widetilde\gamma^*$, mais pas de classe $C^1$, le premier joignant
$\Gamma_0(\theta)$ à $\Gamma_1(\theta')$, le second joignant $\Gamma_0(\theta^*)$ à $\Gamma_1(\theta'^*)$, tels
que
$\ell(\widetilde\gamma)+\ell(\widetilde\gamma^*)=\ell(\gamma)+\ell(\gamma^*)$. Comme ce ne sont pas
des segments géodésiques (ils ne sont pas de classe $C^1$) on en déduit
l'inégalité voulue

\item
Supposons que $(\theta_{i-1},\theta_i,\theta_{i+1})$ et
$(\theta^*_{i-1},\theta_i,\theta^*_{i+1})$ soient deux segments minimaux distincts. On
considère un segment géodésique minimal
$\gamma$ joignant $\Gamma_{i-1}(\theta_{i-1})$ à $\Gamma_{i+1}(\theta_{i+1})$ en
passant par
$\Gamma_i(\theta_i)$ et un segment géodésique minimal $\gamma^*$ joignant
$\Gamma_{i-1}(\theta^*_{i-1})$ à $\Gamma_{i+1}(\theta^*_{i+1})$ en passant par $\Gamma_i(\theta_i)$. Ces deux segments
sont distincts et se rencontrent donc uniquement au point $\Gamma_i(\theta_i)$,
ainsi
$$(\theta_{i-1}-\theta^*_{i-1})(\theta_{i+1}-\theta^*_{i+1})\not=0.$$ Comme les dérivées au
point d'intersection sont distinctes, on a
$$(\theta_{i-1}-\theta^*_{i-1})(\theta_{i+1}-\theta^*_{i+1})<0.$$

Des résultats du paragraphe précédent, on déduit par exemple que, pour toute géodésique minimale non exceptionnelle, la pente de la droite joignant
$\gamma(t)$ à $\gamma(t')$ tend vers $\rho$ quand $|t-t'|$ tend vers $+\infty$, où $\rho$
est le nombre de rotation
de la configuration associée. Parmi les géodésiques minimales à pente
rationnelle $\rho=p/q$, il y en a de type $(p,q)$; il y en a de type $(-p,-q)$ (celles
parcourues dans le sens contraire), les autres sont
comprises entre deux géodésiques de type $(p,q)$ (ou $(-p,-q)$) et sont
asymptotes à ces deux courbes. Si la bande délimitée par deux géodésiques~$\gamma$
et~$\gamma^*$ minimales de type $(p,q)$ ne contient aucune autre géodésique minimale
de type $(p,q)$, il existe toujours une géodésique minimale asymptote en
$+\infty$ à $\gamma$ et asymptote en $-\infty$ à $\gamma^*$. Les géodésiques
exceptionnelles ont cette propriété, elles sont comprises entre deux
courbes $\Gamma_i$ et $\Gamma_{i+1}$ et asymptotes à ces deux courbes.

\begin{figure}[htb]
\centerline{\includegraphics[height=7\unitlength]{lecalvezfig7}}
\caption{\label{lecfig7}}
\end{figure}
\end{enumeratei}

Remarquons également qu'une géodésique minimale $\gamma$ est égale à $\gamma+(p,q)$ ou
disjointe de cette courbe si $(p,q)\in\ZZ^2$, elle se projette dans le tore en
une courbe fermée dans le premier cas, en une courbe simple sinon. Remarquons
également que deux géodésiques minimales distinctes de pente irrationnelle ne se
coupent jamais.
Si l'on regarde attentivement les résultats du paragraphe précédent,
on obtient le théorème suivant.

\begin{enonce*}{Théorème}
L'ensemble ${\cal M}$ des éléments $v\in T^1(\TT^2)$ tels que la géodésique issue de $v$ se relève en une
géodésique minimale $\gamma_v$ est fermé. Il~existe alors, dans l'ensemble
$S^1$ des vecteurs de norme eucli\-dien\-ne~$1$, un élément $w(v)$ tel que
$$\lim_{|t-t'|\mto+\infty}\gamma_v(t-t')/\|\gamma_v(t-t')\|=w
(v).$$
L'application $v\mto w(v)$ est continue et surjective et l'image inverse
${\cal M}_w$ de tout élément $w\in S^1$ est fermée.

Si $w$ est colinéaire à un élément de $\QQ^2$, l'ensemble des éléments $v\in {\cal M}_w$ tels que la
géodésique issue de
$v$ soit périodique est une partie fermée qui se projette injectivement sur
le tore en un
ensemble de courbes fermées simples. Si la géodésique issue de $v$ n'est pas
fermée, elle est
contenue dans un anneau délimité par deux de ces courbes et s'accumule sur l'une
d'entre elles quand $t\to+\infty$ et sur l'autre quand
$t\to-\infty$. De
telles courbes existent dans chaque anneau.

Si $w$ n'est colinéaire à aucun élément de $\QQ^2$, l'ensemble ${\cal M}_w$ se projette injectivement sur le tore $\TT^2$ et les ensembles $\alpha$-limite et $\omega$-limite de
$v\in{\cal M}_w$ pour le flot géodésique, sont indépendants de $v$. Toute orbite contenue dans l'ensemble ${\cal M}_w^*$ obtenu est dense dans ${\cal M}_w^*$;
sa projection sur le tore est soit le tore tout entier (on obtient par
projection un flot sur le tore défini par un champ de vecteurs), soit sur un
ensemble dont l'intersection avec toute géodésique fermée minimale est un
ensemble de Cantor (on obtient par projection une lamination géodésique). \qed
\end{enonce*}

Dans le cas où la métrique est la métrique euclidienne, tous les ensembles ${\cal M}_w$ se projettent bijectivement sur le tore et le flot défini
sur ce tore est engendré par le champ de vecteurs constant $w$, on a alors
l'égalité ${\cal M}_w^*$=${\cal M}_w$, quand $w$ n'est colinéaire à aucun élément de~$\QQ^2$.

Étudions un autre cas intégrable mais où les géodésiques ne sont pas toutes
minimales. Considérons dans l'espace $\RR^3$ une courbe convexe $C$ située
dans le
demi-plan d'équation $x=0$, $y>0$, et considérons le tore obtenu par rotation de
cette courbe autour de l'axe $Oz$, muni de la structure riemannienne induite
par la structure euclidienne usuelle de l'espace. Notons $(1,0)$ l'élément du
groupe fondamental défini par la courbe convexe et $(0,1)$ l'élément défini par
la rotation autour de l'axe $Oz$. Les géodésiques minimales de type
$(0,1)$ sont les relèvements de la courbe définie sur le tore par rotation du
point de $C$ le plus proche de $O$. En particulier il existe des géodésiques qui
sont asymptotes en $\pm\infty$ à cette courbe. La courbe obtenue par rotation du
point le plus éloigné est également une géodésique mais elle ne se relève pas en
une géodésique minimale. Les
géodésiques minimales de type $(0,-1)$ sont les mêmes géodésiques, mais parcourues
dans l'autre sens. On peut montrer que tous les ensembles ${\cal M}_w$,
$w\not=(0,1)$, se projettent bijectivement sur le tore, sont formés de
géodésiques périodiques si $w$ est colinéaire à un élément de $\QQ^2$, coïncident avec ${\cal M}_w^*$ sinon. En fait la symétrie du problème fait de ce flot
géodésique un
système intégrable. La dynamique est comparable à la dynamique du billard
elliptique, ou encore à celle du pendule non entretenu.\enlargethispage{\baselineskip}

Donnons maintenant un exemple où aucun ensemble $\cM_{w}$ ne se projette sur un tore (et où il y aura donc des laminations géodésiques). Supposons qu'il existe
deux petits disques $D$ et $D'$ du tore, avec $D'\subset D$ tel que la longueur
du bord de $D$ (pour la métrique riemannienne) soit strictement plus petite que
$\delta=\inf d(x,x')_{x\in D,x'\in D'}$. Aucune géodésique dont les relèvements
sont minimaux ne pourra passer dans le disque $D'$, ainsi la projection des
$\cM_{w}$ sera toujours disjointe de ce disque. On construit facilement un tel
exemple en partant d'un tore plongé dans $\RR^3$ et en ajoutant une bulle
ayant un
goulot très étroit.

\section{Ce qui se passe en dimension supérieure}

Nous allons voir, en guise de conclusion, ce qui se généralise en dimension
supérieure. Si la formulation en dimension supérieure des
résultats du paragraphe 4, n'est pas évidente, tel n'est pas le cas
des résultats du paragraphe 6. Si
$\RR^m$ est muni d'une structure riemannienne invariante par les translations à valeurs dans
$\ZZ^m$, on peut se poser les deux questions suivantes:
\begin{itemize}
\item
existe-t'il, pour tout vecteur $w\in\RR^m$ de norme euclidienne
1, une géodésique minimale $\gamma$ telle que
$\lim_{t'-t\to
+\infty}{\gamma(t')-\gamma(t)\over\|\gamma(t')-\gamma(t)\|}=w$?

\item
toute géodésique minimale a-t-elle une direction $w$?
\end{itemize}

La réponse est clairement positive si la métrique est la métrique
euclidienne usuelle, la situation est similaire au cas de la dimension deux.
Par contre elle sera fausse en règle générale: on peut construire,
dès que
$m\geq 3$, des métriques pour lesquelles, on ne peut trouver de géodésiques minimales associées à certaines directions
$w$. Cependant, il existe toujours des directions pour lesquelles de telles
géodésiques existent.

Indiquons tout de suite la différence entre la dimension deux et la dimension
supérieure. L'existence de géodésiques minimales en dimension deux est une
conséquence du théorème 6.2. Voyons si un tel théorème a son analogue en
dimension supérieure. Pour tout élément $\p =(p_1,\dots,p_m)\in\ZZ^m$, on
peut définir la notion d'arc de type $\p $. On montre de façon analogue,
que la fonction longueur atteint son minimum sur l'ensemble des arcs
absolument continus de type $\p$ et que l'ensemble $M_{\p}$ où celui-ci est
atteint est formé de géodésiques. Si
$\p '\in\ZZ^m$ est le représentant de la direction de $\p$ qui est formé de~$m$ entiers premiers entre eux, on ne peut pas montrer que les éléments de
$M_{\p}$ sont en fait de type $\p '$; en effet, contrairement au cas de la
dimension deux, une telle géodésique n'intersecte pas nécessairement son image
par la translation de vecteur $\p '$, la dimension de l'espace est trop
grande. On ne peut donc pas affirmer que notre géodésique appartient à $M_{n\p}$, pour tout entier
$n>0$, puis conclure qu'elle est minimale. C'est cette propriété d'intersection
qui fait la différence essentielle entre la dimension deux et la dimension
supérieure. Hedlund~\cite{Hd} a d'ailleurs construit explicitement une métrique
avec un élément de $M_{\p}$ qui n'appartient pas à $M_{n\p}$, dès que $n$ est
assez grand.

On peut cependant obtenir des géodésiques minimales de la façon
suivante: si la géodésique issue de $v_n\in T^1(\TT^n)$, $n>0$, se relève en
un élément de $\cM_{n\p}$, la géodésique issue de toute valeur d'adhérence de la
suite $(v_n)$ se relève en un géodésique minimale. Malheureusement, on ne
connaît pas grand chose a priori de cette géodésique. Nous expliquerons ce qui se passe
en utilisant le formalisme de Mather~\cite{Ma5}, basé sur l'étude des mesures invariantes minimales,
qui généralise les résultats sur les géodésiques montrés par Bangert \cite{Ba2}, et qui englobe également le cas des
applications déviant la verticale, nous verrons ainsi l'unité de cette théorie.
Rappelons pour mémoire que le théorème de Kolmogorov, Arnold, Moser, que nous
avons illustré en dimension deux, est un résultat d'existence de tores
invariants qui s'énonce également sur l'anneau $\TT^m\times \RR^m$, par une
condition de non-dégénérescence généralisant la condition de déviation de la
verticale. Pour une construction d'orbites périodiques sur cet anneau
$\TT^m\times \RR^m$, mais sous des conditions restreintes, voir
Bernstein, \hbox{Katok}~\cite {BK}; pour des propriétés lipschitziennes des tores
invariants, mais sous une condition de convexité plus forte (mais
nécessaire) que
la condition de non-dégénérescence, voir Herman \cite{Hn2}.

La théorie de Mather est valable sur n'importe quelle variété
compacte, nous nous limiterons au cas du tore. Considérons une application
$$L:T(\TT^m)\times\RR=\TT^m\times\RR^m\times\RR\to\RR$$ de classe
$C^2$, périodique de période $1$, c'est-à-dire vérifiant l'équation:
$$L(x,v,t+1)=L(x,v,t) \qbox{pour tout } (x,v,t)\in \TT^m\times\RR^m\times\RR.$$
Supposons de
plus que la restriction de
$L$ à tout espace vectoriel de la forme
$$T_x(\TT^m)\times\{t\}=\{x\}\times\RR^m\times\{t\}$$ est \emph{super-linéaire},
c'est-à-dire telle que
$\lim_{\|v\|\to+\infty} L(x,v,t)/\|v\|=+\infty$ (où $\|v\|$
désigne la norme euclidienne de $v$) et vérifie la condition de convexité
suivante: la matrice hessienne $\bigl({\partial L/\partial
v_i\partial v_j} (x,v,t)\bigr)_{i,j}$ est définie positive.

Un \emph{segment extrémal} est un arc
$\gamma:[a,b]\to \TT^m$ de classe $C^1$
qui est un point critique de l'action
\[
a(\gamma)=
\int_a^bL(\gamma(t),\gamma'(t),t)dt
\]
définie sur l'ensemble des arcs de classe
$C^1$ de $[a,b]$ dans $\TT^m$, ayant mêmes extrémités $\gamma(a)$ et
$\gamma(b)$ que
$\gamma$; c'est-à-dire une courbe vérifiant les équations d'Euler-Lagrange
\[
{\partial L\over\partial x_i}-{d\over dt}{\partial L\over\partial
v_i}=0,
\]
associées au lagrangien $L$. Une \emph{extrémale} est un arc
$\gamma:I\to M$ de classe $C^1$, défini sur un intervalle~$I$,
tel que sous segment est extrémal et maximal pour cette propriété. Là encore,
grâce au fait que la matrice hessienne $\bigl( {\partial
L/\partial v_i\partial v_j} (x,v,t) \bigr)_{i,j}$ est non dégénérée, on sait
que les extrémales sont les orbites d'un champ de vecteurs, dépendant de façon
périodique du temps, défini sur l'espace tangent
$T(\TT^m)$, ou de façon équivalente, d'un champ de vecteurs indépendant du
temps défini sur
$T(\TT^m)\times\TT$. Dans le cas où la fonction
$L$ ne dépend pas de
$t$ et où la restriction de
$L$ à chaque espace tangent est une forme quadratique définie positive, les
extrémales ne sont rien d'autre que les géodésiques.

On va s'intéresser comme au paragraphe 6 aux relèvements de ces extrémales,
c'est-à-dire aux extrémales du lagrangien\vspace*{-3pt}
\[
L:\RR^m\times\RR^m\times\RR\to\RR
\]
relevé que l'on notera du même nom. La fonction
$L$ étant nécessairement minorée par convexité, on peut définir également
l'action d'un arc absolument continu (éventuellement égale à $+\infty$). On sait alors (par le théorème
de Tonelli), que si
$x$ et
$y$ sont des éléments de $\RR^m$, la fonction action atteint son minimum
sur l'ensemble des arcs absolument continus définis sur $[a,b]$ tels que
$\gamma(a)=x$ et
$\gamma(b)=y$, et, si le flot est complet, n'atteint ce
minimum que sur des arcs des classe $C^1$ et donc sur des segments extrémaux
(vérifiant les équations d'Euler-Lagrange). Ces segments seront dits
\emph{minimaux} et une extrémale telle que tout segment est minimal sera dite
\emph{minimale}. On supposera dorénavant que le flot d'Euler-Lagrange est
complet, c'est-à-dire que toutes les extrémales sont définies sur $\RR$.

Nous devons faire une petite remarque. Dans le paragraphe précédent nous avons
défini les géodésiques minimales par rapport à la longueur, or nous les
définissons maintenant par rapport à l'énergie. Remarquons que les
définitions coïncident. Si~$\gamma$ est une géodésique minimisant la longueur,
on sait que pour tout
$t\in[a,b]$, on a $(b-a)\|\gamma'(t)\|=\ell(\gamma)$ et donc que
$e(\gamma)=\ell(\gamma)^2/(b-a)$. Soit
$\gamma^*:[a,b]\to\TT^m$ un arc absolument continu ayant même extrémités
que $\gamma$, on a:\vspace*{-3pt}
$$(b-a)^{1/2}e(\gamma^*)^{1/2}\geq \ell(\gamma^*) \geq
\ell(\gamma)=(b-a)^{1/2}e(\gamma)^{1/2} $$
d'après l'inégalité de Cauchy-Schwarz, ainsi $\gamma$ minimise l'énergie. Comme
tout arc qui minimise l'énergie est une géodésique, elle minimise aussi la
longueur.

Ce formalisme généralise aussi l'étude des difféomorphismes de l'anneau.
En effet J.\,Moser \cite{Mos1} a montré que si
$F$ est un difféomorphisme de l'anneau $\TT\times[a,b]$ déviant la verticale à droite et préservant l'aire, il existe une application
$L:\TT\times\RR\times \RR$ vérifiant nos hypothèses telle que l'image au temps
$1$ par le flot d'Euler-Lagrange de
$(\theta,r,0)\in\TT\times[a,b]\times\RR$ est $(\theta',r',1)$, où $(\theta',r')=F(\theta,r)$. Il y a donc une bijection naturelle entre les orbites de~$F$
et les extrémales de $L$.

Rappelons qu'à toute orbite de~$F$ est associée une
configuration stationnaire de $\RR^\ZZ$, celles qui sont associées aux
configurations minimales sont également associées aux extrémales minimales de
$L$. Une telle construction est
encore possible si
$F$ est la composée de difféomorphismes déviant la verticale à droite.\enlargethispage{2\baselineskip}

Remarquons par exemple que le problème du pendule libre entre\-tenu, défini au
paragraphe 2 est de ce type, si la fonction $p$ est d'intégrale nulle sur
$[0,1]$ (ce qui correspond au fait que $F$ est exact-symplectique). Si $P$ est
une primitive de $p$, il suffit de prendre $$L(\theta,r,t)=1/2r^2+rP(t)-1/2\pi
\cos(2\pi\theta).$$

Comme en dimension deux, on peut construire un difféomorphisme du tore en
considérant l'image au temps
$1$ par le flot d'Euler-Lagrange de
\hbox{$(\theta,r,0)\!\in\!\TT^m\!\times\!\RR^m\!\times\!\RR$} notée $(\theta',r',1)$, et en posant
$(\theta',r')=F(\theta,r)$ et un relèvement naturel $f$ défini de la même façon sur
$\RR^m$. On dira qu'une extrémale est de type
$(\p,q)$,
$\p\in\ZZ^m$,
$q\in\NN-\{0\}$ si elle vérifie
$\gamma(t+q)=\gamma(t)+\p$ pour tout $t\in\RR$. Les extrémales de types $(\p,q)$ sont
associées aux points $(\theta,r)$ tel que $f^q(\theta,r)=(\theta,r)+\p$. On peut montrer
l'existence d'extrémales de type $(\p,q)$ pour tout $\p$ et $q$, comme on l'a
fait pour les géodésiques, en minimisant l'action (entre $t$ et $t+q$) sur
l'ensemble des arcs absolument continus de type $(\p,q)$.

Introduisons maintenant la notion de mesure invariante. On rappelle que
l'ensemble
${\cal B}$ des mesures boréliennes de probabilité d'un ensemble topologique
compact $X$ est une partie convexe, compacte pour la topologie vague, de
l'ensemble des mesures complexes sur
$X$ (rappelons que la suite $(\mu_n)$ converge vaguement vers~$\mu$ si et
seulement si
$(\int_X\phi d\mu_n)$ converge vers $\int_X\phi d\mu$ pour toute fonction
continue~$\phi$).

Si
$F:X\to X$ est une application continue, l'application qui envoie
$\mu\in{\cal B}$ sur la mesure
$F^*(\mu)$ définie par la relation $F^*(\mu)(Y)=\mu(F^{-1}(Y))$ pour tout
borélien~$Y$, est une application linéaire continue (pour la topologie vague) sur
l'ensemble des mesures complexes, et qui envoie ${\cal B}$ dans ${\cal B}$. Par
le théorème de Markov-Kakutani cette application admet un point fixe dans
${\cal B}$. Ainsi toute application continue de~$X$ dans $X$ a au moins une
mesure de probabilité invariante: c'est le théorème de Krylov-Bogolioubov.

Pour
les mêmes raisons, si
$(F_t)_{t\in\RR}$ est un groupe à un paramètre d'homéo\-mor\-phismes de $X$ (i.e. un
flot), l'ensemble des mesures inva\-riantes par chaque $F_t$ est non vide. Il est
facile de voir que cet ensemble est une partie compacte et convexe de
${\cal B}$.

On dit qu'une mesure
invariante $\mu$ est \emph{ergodique}, si elle est indécomposable au sens
suivant: tout borélien
invariant par chaque
$F_t$ est de mesure $0$ ou $1$. On peut carac\-té\-riser les mesures
ergo\-di\-ques par la propriété suivante: la mesure $\mu$ est ergo\-di\-que si et
seulement si c'est un point extrémal de l'ensemble des mesures inva\-rian\-tes.

Rappelons qu'un point extrémal $a$ d'une partie compacte con\-vexe~$A$ d'un espace
topologique est un point de cet ensemble, tel~que tout segment contenant
$a$ et contenu dans $A$ admet $a$ comme extrémité; rappelons que $A$ est
l'adhérence de l'ensemble des barycentres de ses points extrémaux et en
particulier que ceux-ci existent toujours.

On caractérise également les mesures ergodiques par une propriété
dynamique, qui
exprime que la moyenne spatiale est la mesure temporelle le long de presque
toute orbite:

\begin{center}
si $\phi\in L^1(\mu)$, alors pour $\mu$-presque tout
$x\in X$ on a
\[
\lim_{t\to\pm\infty}1/t\int_0^t
\phi(F^t(x))dt=\int_X\phi d\mu.
\]
\end{center}
On peut définir de même les mesure ergodiques
invariantes d'une application $F:X\to X$, ce sont celles qui vérifient
\[
\lim_{n\to+\infty}1/n\sum_{i=0}^{n-1}\phi(F^n(x))=\int
_X\phi d\mu
\]
pour $\mu$-presque tout
$x\in X$ et pour tout $\phi\in L^1(\mu)$.

Remarquons qu'à une orbite périodique d'un flot (ou d'un homéomorphisme) est
associée naturellement une mesure invariante, uniformément distribuée, et que
celle-ci est ergodique. Ainsi, par exemple, pour un homéomorphisme de $\TT$ de
nombre de rotation rationnel, les mesure invariantes ergodiques sont exactement
les mesures portées uniformément sur les orbites périodiques; pour les
homéomorphismes de nombre de rotation irrationnel, il n'y a qu'une
mesure invariante (elle est nécessairement ergodique) et son support est
exactement l'ensemble
$\Xi$ des orbites récurrentes.

On peut compactifier notre ensemble $\TT^m\times\RR^m\times\TT$ en ajoutant un
point
$\infty$ et en posant $(x_n,v_n,t_n)\to\infty$ si et seulement si
$\|v_n\|\to\infty$. Le flot d'Euler-Lagrange se prolonge donc en
un flot sur le compactifié $X$ qui fixe $\infty$, il en est de même de
l'application
$L$ si on pose
$L(\infty)=+\infty$. On définit alors sur l'ensemble
${\cal B}$ des mesures de probabilité, la fonction action définie par l'égalité
$a(\mu)=\int L d\mu$, à valeurs dans $\RR\cup\{+\infty\}$ (cette fonction est bien
définie car $L$ est bornée inférieurement). Remarquons que chaque application
$\mu\mto\int \min(L,k) d\mu$ est continue, pour chaque entier $k>0$, et que
la fonction action, qui est la borne supérieure de ces fonctions est
semi-continue inférieurement. En particulier, l'ensemble des mesures $\mu$
telles que
$a(\mu)\leq M$ est fermé, pour tout réel $M$.

Si $\gamma$ est une extrémale de type $(\p,q)$, sa projection dans
$\TT^m\times\RR^m\times\TT$ est une orbite périodique du flot
d'Euler-Lagrange. L'action de la mesure de probabilité invariante n'est
rien d'autre que la valeur de l'action sur $\gamma$ (entre $\gamma(t)$ et
$\gamma(t+q)$) divisée par $q$. Le fait qu'il existe une mesure invariante d'action
finie, la compacité de l'ensemble~$\cM$ des mesures de probabilité invariantes
et la semi-continuité de la fonction action, nous dit que cette fonction
atteint son minimum sur $\cM$, on~note
$\cM_0\subset\cM$ l'ensemble où ce minimum est atteint. Notons que~$\cM_0$ est
une partie compacte convexe et que ses points extrémaux sont extrémaux dans
$\cM$: il existe donc des mesures
ergodiques dans~$\cM_0$. Un~des résultats de Mather est le fait que le support
$\Xi_0$ de~$\cM_0$ (l'adhérence de la réunion des supports des mesures dans~$\cM_0$) se
projette injectivement sur
$\TT^m$ et est compact (cette projection est même bi-lipschitzienne). En
particulier deux extrémales distinctes \hbox{issues} de deux points de~$\Xi_0$ ne se
coupent jamais. Un autre \hbox{résultat} est le fait que toute orbite du flot
d'Euler-Lagrange issue d'un point de~$\Xi_0$ se relève en une extrémale minimale.

On peut obtenir d'autres extrémales minimales de la façon suivante. Toute
forme différentielle $w$ de degré $1$ sur $\TT^m$ définit naturellement une fonction sur $\TT^m\times\RR^m\times\TT$
envoyant $(x,v,t)$ sur la valeur que prend $w$ sur $v\in T_x(\TT^m)$.
On la notera également~$w$. Si la forme
est fermée, l'intégrale de la forme $w$ sur un arc de
classe $C^1$ reste inchangée pour un arc proche ayant mêmes extrémités: ainsi
les équations d'Euler-Lagrange de la fonction $L$ et de la
fonction $L-w$ sont les mêmes, et les mesures invariantes également. Comme la
fonction
$L-w$ vérifie les hypothèses demandées à~$L$, on peut considérer l'ensemble
$\cM_w$ des éléments de
$\cM$ où le minimum de l'action de $L-w$ est atteint, qui a les mêmes propriétés
que l'ensemble $\cM_0$. On~notera alors
$-\alpha(w)$ la valeur de ce minimum. Rien n'indique a priori que les
ensembles $\cM_w$ sont les mêmes, nous verrons que ce n'est généralement pas le
cas. On peut montrer que si
$w=dh$ est exacte, alors $\int w d\mu =0$ pour tout
$\mu\in\cM$. Ainsi les applications $w\mto \cM_w$ et $w\mto \alpha(w)$
définissent en fait des applications $c\mto \cM_c$ et $c\mto \alpha(c)$ sur
le premier groupe de cohomologie de De Rham
$H^1(\TT^m)=\RR^m$ de~$\TT^m$.

Définissons maintenant le nombre de rotation d'une mesure inva\-riante $\mu$ d'action finie. Toute forme différentielle $w$, vue comme fonction sur $X$, est $\mu$-intégrable, si $L$ est $\mu$-intégrable, c'est-à-dire si $a(\mu)<+\infty$, car $L$ est super-linéaire. De plus comme, on l'a dit plus haut, cette intégrale est nulle si $w$ est exacte. On en déduit que l'appli\-cation $w\mto \int_X w d\mu$ définit naturellement une forme linéaire sur $H^1(\TT^m)$, et par conséquent un élément $\rho(\mu)$ du dual de $H^1(\TT^m)$ qui n'est rien d'autre que le premier groupe d'homologie $H_1(\TT^m)$ de~$\TT^m$. Cet élément est appelé le nombre de rotation de $\mu$. Si $\mu$ est la mesure définie par une extrémale périodique se relevant en une courbe de type $(\p,q)$, cet élément n'est rien d'autre que $\p/q \in\QQ^m$. Il existe donc des mesures invariantes d'action finie, pour tout nombre de rotation $\p/q\in\QQ^m$. En fait, on peut montrer que si la suite $\p_n/q_n$ tend vers $\rho\in\RR^m$, les actions définies sur les mesures invariantes correspondant aux orbites périodiques de type $(\p_n/q_n)$ que l'on a construit par minimisation, sont uniformément bornées. La fonction $\mu\mto\rho(\mu)$ étant continue sur l'ensemble compact des mesures invariantes d'action majorée par une constante $C$ (toujours par la super-linéarité), on en déduit qu'il existe des mesures invariantes d'action finie et de nombre de rotation $\rho$, pour tout $\rho\in\RR^m$. L'ensemble des mesures d'action majorée par une constante $C$ (assez grande) et de nombre de rotation $\rho$ étant compact, la fonction action atteint donc son minimum sur cet ensemble. On note ${\cal M}^{\rho}$ l'ensemble des mesures où est atteint ce minimum et $\beta(\rho)$ la valeur de celui-ci (ces objets sont indépendantes de $C$). L'ensemble $\cM^{\rho}$ est convexe et compact mais rien n'indique que ses points extrémaux sont extrémaux dans $\cM$. Cet ensemble ne contient pas nécessairement de mesures ergodiques. Nous allons voir cependant qu'il existe un nombre infini de valeurs de $\rho$ pour lesquelles ce résultat est vrai.

Il est facile de voir que les applications $\rho\mto\beta(\rho)$ et $c\mto \alpha(c)$ sont convexes. En fait par définition même de ces applications, on peut montrer qu'elles sont conjuguées deux à deux par transformation de Legendre, c'est-à-dire:\vspace*{-3pt}
$$
-\alpha(c)=\min_{\rho}\beta(\rho)-\langle \rho,c\rangle \hbox{ et } -\beta(\rho)=\min_c\alpha(c)
-\langle \rho,c\rangle,$$
où $\langle \rho,c \rangle $ désigne le crochet de dualité. Plus précisément, on a la relation\vspace*{-5pt}
$$\beta(\rho)+\alpha(c)\geq\langle \rho,c\rangle $$
avec une égalité si et seulement s'il existe un hyperplan de direction $c$ passant par $(\rho,\beta(\rho))$ et situé au dessous du graphe de $\beta$ (voir figure \ref{lecfig8}). Tout élément de $\cM^{\rho}$ appartient alors à $\cM_c$. La réunion des ensembles $\cM_c$ et la réunion des ensembles $\cM^{\rho}$ sont identiques, toute mesure dans cet ensemble sera appelée \emph{mesure minimale}.
\begin{figure}[htb]
\centerline{\includegraphics[height=5\unitlength]{lecalvezfig8}}
\caption{\label{lecfig8}}
\end{figure}

Le fait que les applications $\alpha$ et $\beta$ soient conjuguées deux à deux et à valeurs finies oblige celles-ci à être super-linéaires. L'épigraphe de $\beta$ (l'ensemble des points qui est au-dessus du graphe), qui est convexe, a alors un nombre infini de points extrémaux. Si $(\rho,\beta(\rho))$ est un point extrémal, il existe $c\in H^1(\TT^m)$ tel que $\cM^{\rho}=\cM_c$: on en déduit qu'il existe une mesure invariante ergodique de nombre de rotation $\rho$. Pour obtenir de tels nombres de rotation, il suffit de considérer, pour $c\in H^1(\TT^m)$, les points extrémaux de l'ensemble compact convexe non vide formés des éléments $\rho$ de $H_1(\TT^m)$ tels que $\beta(\rho)+\alpha(c)=\langle \rho,c\rangle $.

Le lien entre les mesures minimales ergodiques et l'allure des extrémales est donné par la proposition suivante (conséquence de l'ergodicité): si $\mu\in\cM^{\rho}$ est ergodique, il existe une extrémale minimale~$\gamma$ telle que
$$\lim_{t'-t\to+\infty}
{\gamma(t')-\gamma(t)\over\|\gamma(t')-\gamma(t)\|}=\|\rho\|,$$ et telle que
$$\lim_{t'-t\to+\infty}{ a(\gamma_{|[t,t']})\over t'-t}=\beta(\rho).$$

Dans le cas où $m=1$, les nombres de rotations des éléments de $\cM_c$ sont tous égaux, puisque le support se projette injectivement sur $\TT\times\TT$ et que les orbites ne s'intersectent pas. Les~applications $\alpha$ et~$\beta$ sont donc strictement convexes: il existe une mesure ergodique invariante de nombre de rotation $\rho$ pour tout réel.

Dans le cas où le lagrangien provient d'une application déviant la verticale, les mesures minimales ergodiques de nombre de rotation rationnel sont les mesures portées par les orbites correspondants aux configurations minimales périodiques; si~$\rho$ est irrationnel, il n'y a qu'une mesure invariante minimale de nombre de rotation~$\rho$, son support est l'ensemble d'Aubry-Mather $\Xi$ formé des orbites récurrentes.

Dans le cas du flot géodésique, on a $L(x,v,t)=\|v\|_x^2$. Chacun des ensembles
$E_{\lambda}=\{(x,v,t)\mid\|v\|=\lambda\}$ est invariant par le flot et toute
mesure ergodique est à support dans un $E_{\lambda}$. L'action d'une telle mesure est
alors égale à $\lambda^2$. L'application $h_{\lambda} :(x,v,t)\mto (x,\lambda v,t)$
laisse invariant le flot d'Euler-Lagrange et pour toute mesure invariante $\mu$ d'action
bornée, on a $a(h_{\lambda}^*(\mu)=\lambda^2 a(\mu)$ et $\rho(h_{\lambda}^*(\mu))=\lambda
\rho(\mu)$. On en déduit que l'application $\beta$ est homogène de degré deux. Les
résultats précédents s'expriment alors ainsi (\cite{Ba2}).

\begin{enonce*}{Théorème}
Il existe une norme $\rho\mto\|\rho\|_0$ définie sur $H_1(\TT^m)=\RR^m$, ayant la propriété suivante:
\begin{itemize}
\item
pour tout point extrémal de la boule unité $B=\{\rho\in H_1(\TT^m)\mid \|\rho\|_0=1\}$, il existe une géodésique minimale telle que
\[
\lim_{t'-t\to+\infty} {\gamma(t')-\gamma(t)\over\|\gamma(t')-\gamma(t)\|_0}=\rho;
\]

\item
si $\gamma$ est une géodésique minimale, alors l'ensemble des points d'accumulation de
\[
{\gamma(t')-\gamma(t)\over\|\gamma(t')-\gamma(t)\|_0},
\]
quand $t'-t\to+\infty$ est contenu dans $H\cap B$, où $H$ est un hyperplan support de $B$.
\end{itemize}
\end{enonce*}

Remarquons que la boule $B$ a au moins $2m$ points extrémaux ($B$~est symétrique par rapport à l'origine), il existe donc au moins~$m$ directions possibles associées aux géodésiques. Dans l'exemple de Hedlund, dont nous avons parle plus haut (où $m\geq 3$), il y a exactement $m$ directions possibles pour les géodésiques, la norme $\rho\to \norme{\rho}$ est de la forme $|\rho|_1+\cdots+|\rho_m|=1$. Si $m=2$ la boule est toujours strictement convexe.\enlargethispage{2\baselineskip}%

La norme $\rho\mto\|\rho\|_0$ est appelée la \emph{norme stable de la métrique}, sa valeur sur un élément $\rho=\p\in\ZZ^m$ est le réel $$\|\rho\|=\inf_n\{\ell(\gamma)/n\mid\gamma \hbox{ est un arc continu de type } n\p\}.$$


\backmatter
\nocite{*}
\bibliographystyle{jepplain+eid}
\bibliography{xups94-04}
\end{document}

