\documentclass[XUPS,XML,SOM,Unicode,francais,NoFloatCountersInSection,ThmDefs]{cedram}
\OneNumberAllTheorems
\setcounter{tocdepth}{2}
%\XUPScorrections
\usepackage{../xups07}
\graphicspath{{xups07-02_figures}}

\makeindex

\hyphenation{homéo-mor-phisme homéo-mor-phismes liné-aire liné-aires élé-men-taire déter-mi-nant loca-le-ment}


\def\theequation{-\arabic{equation}-}

\begin{document}
\frontmatter

\title[Géométrie et dynamique de \texorpdfstring{$\mathrm{SL}_{n}(\mathbb{R})$ et $\mathrm{SL}_{n}(\mathbb{Z})$}{SLRZ}]{De la géométrie et de la dynamique de\nobreakspace\texorpdfstring{$\mathrm{SL}_{n}(\mathbb{R})$}{SLR}\nobreakspace et\nobreakspace\texorpdfstring{$\mathrm{SL}{n}(\mathbb{Z})$}{SLZ}}

\author[\initial{F.} \lastname{Paulin}]{\firstname{Frédéric} \lastname{Paulin}}
\address{Département de Mathématique et Applications, UMR 8553 CNRS, École Normale Supérieure, 45 rue d'Ulm, 75230 Paris Cedex 05, France}
\email{frederic.paulin@universite-paris-saclay.fr}

\thanks{Journées X-UPS 2007. Systèmes dynamiques, groupes de matrices et applications arithmétiques. Éditions de l'École polytechnique, 2007}

\maketitle
\vspace*{-\baselineskip}\enlargethispage{\baselineskip}%
\tableofcontents

\mainmatter

Dans ce texte, formellement indépendant de deux autres textes \cite{Dal} et \cite{Cou} de ce volume, nous décrivons divers aspects (élémentaires) topologiques, géométriques et dynamiques des \emph{groupes linéaires} (c'est-à-dire dans ce texte des sous-groupes des $\GL n\RR$ pour $n\!\in\!\NN\moins\{0\}$), et de leurs actions sur divers espaces homogènes (comme par exemple le quotient $\SL n\RR/\SL n\ZZ$). Mis~à~part quelques digressions, comme la partie \ref{sec:topsl2sursl2} montrant de manière élémentaire que l'espace $\SL2\RR/\SL2\ZZ$ est homéomorphe au complémentaire du n{\oe}ud de trèfle dans la sphère $\SS_3$, l'optique de ce texte est de servir de fondations à la partie~4 de \cite{Dal} et à \cite{Cou}. Nous donnons deux preuves, l'une topologique (corollaire \ref{coro:critmahlerun}), l'autre algébrique (corollaire \ref{coro:mahler}) du critère de Mahler qui fournit une caractérisation des parties compactes de l'espace des réseaux de~$\RR^n$ (\ie des sous-groupes discrets engendrant $\RR^n$ comme espace vectoriel). Nous démontrerons dans la partie \ref{sec:hedlund} le théorème de Hedlund disant qu'en dimension~$2$, une orbite du groupe des matrices unipotentes supérieures (\ie de la forme $\begin{smallpmatrix}1 & t \\ 0 & 1
\end{smallpmatrix}$ où $t\in\RR$) sur l'espace $\SL2\RR/\SL2\ZZ$ est soit dense, soit périodique. La preuve que nous donnerons, inspirée de \cite{Ghy}, reprendra de nombreux points sur les propriétés dynamiques des sous-groupes unipotents en dimension supérieure considérés dans \cite{Cou}.

\subsubsection*{Conventions}
Dans ce texte, sauf mention contraire, tout espace vectoriel réel de dimension finie sera muni de la topologie définie par l'une de ses normes (ce qui ne dépend pas du choix d'une telle norme); toute partie d'un espace topologique sera munie de la topologie induite; tout ensemble quotient d'un espace topologique par une relation d'équivalence sera muni de la topologie quotient, dont nous ferons quelques rappels.

\subsubsection*{Notations}
Si $k\geq 2$ et $A_1, \dots, A_k$ sont des parties d'un groupe $G$, nous noterons $A_1^{-1}=\{x^{-1}\sep x\in A_1\}$ et
$$
A_1A_2\cdots A_k=\{g_1g_2\cdots g_k\sep g_i\in A_i,\, 1\leq i\leq k\}.
$$
Si $G$ est un groupe, $H,H'$ des sous-groupes de $G$, $g\in G$ et $P\subset G$, nous noterons
$$
gH\in G/H, \quad H'g \in H'\backslash G, \quad H'gH\in H'\backslash G/H,$$
$$
PH\subset G/H, \quad H'P\subset H'\backslash G, \quad H'PH\subset H'\backslash G/H
$$
respectivement la classe à droite de $g$ par $H$, la classe à gauche de~$g$ par~$H'$, la double classe de $g$ par $(H',H)$, l'ensemble des classes à droite par~$H$ des éléments de $P$, l'ensemble des classes à gauche par~$H'$ des éléments de~$P$, l'ensemble des doubles classes par $(H',H)$ des éléments de $P$. Ainsi une notation $H'PH$ désignera aussi bien une partie de $G$ qu'une partie de $H'\backslash G/H$, le contexte indiquant clairement de laquelle il s'agit.

Si $X$ et $Y$ sont deux ensembles munis d'une action à gauche (\resp droite) d'un groupe $G$, une application $f:X\to Y$ est dite \emph{$G$\nobreakdash-équi\-variante}\index{equiv@équivariant} si pour tous $x$ dans $X$ et $g$ dans $G$, on a $f(gx)=gf(x)$ (\resp $f(xg)=f(x)g$). On dit aussi \emph{$G$-invariante}\index{invariant} si l'action de $G$ sur~$Y$ est triviale.

Soit $H$ un sous-groupe d'un groupe $G$. Un élément $g\in G$ \emph{normalise}~$H$ si $ghg^{-1}\in H$ pour tout $h\in H$ ou, de manière équivalente, si $gHg^{-1}=H$. Le \emph{normalisateur}\index{normalisateur} de $H$ dans $G$ est le sous-groupe, noté $N_G(H)$, formé des éléments $g$ de $G$ qui normalisent $H$. Un sous-groupe $H'$ de $G$ \emph{normalise} $H$ si tout élément de $H'$ normalise $H$, c'est-à-dire si $H'\subset N_G(H)$.\enlargethispage{\baselineskip}%

\section{Des groupes topologiques linéaires} \label{sec:grouptop}

Nous donnons dans cette partie une introduction aux sous-groupes du groupe $\GL{n}{\RR}$, leur topologie et leurs sous-groupes discrets, ainsi qu'aux réseaux de $\RR^n$.

\Subsection{Des groupes linéaires}

Un \emph{groupe topologique}\index{groupe!topologique} est un ensemble $G$ muni d'une structure de groupe et d'une structure d'espace topologique, telles que l'application $(x,y)\mto xy^{-1}$ soit continue. Il revient au même de demander que $(x,y)\mto xy$ et $x\mto x^{-1}$ soient continues. En particulier, dans un groupe topologique $G$, la multiplication à gauche ou à droite par $g\in G$ est un homéomorphisme, car continu et d'inverse la multiplication à gauche ou à droite par~$g^{-1}$.\enlargethispage{-.5\baselineskip}

Un \emph{morphisme de groupes topologiques}\index{morphisme!de groupes topologiques} est une application entre deux groupes topologiques, qui est continue et qui est un morphisme de groupes. Un \emph{isomorphisme de groupes topologiques}\index{isomorphisme!de groupes topologiques} est une bijection qui est un homéomorphisme et un isomorphisme de groupes. Deux groupes topologiques sont \emph{isomorphes}\index{isomorphe} s'il existe un isomorphisme de l'un dans l'autre.

\begin{exems*}\mbox{}
\begin{enumerate}
\item
Pour $n\geq 0$, l'ensemble $\RR^n$ muni de l'addition et de la topologie usuelles, est un groupe topologique. Les groupes topologiques $(\RR,+)$ et $(\RR_+^*,\times)$ sont isomorphes (par l'application exponentielle).

\item
Pour $n\geq 1$, l'ensemble $\GL{n}{\RR}$ muni de la multiplication des matrices et de la topologie induite de celle de l'algèbre réelle $\M_n(\RR)$ des matrices $n\times n$ réelles, dont c'est un ouvert, est un groupe topologique. Le déterminant
$$
\det: \GL{n}{\RR}\to \RR_+^*
$$
est un morphisme de groupes topologiques.

\item
Tout sous-groupe d'un groupe topologique est un groupe topologique (par restriction d'applications continues). En particulier, les sous-groupes fermés de $\GL{n}{\RR}$ sont des groupes topologiques, dont
\begin{itemize}
\item
le sous-groupe $G=\SL{n}{\RR}$ des matrices de déterminant $1$;
\item
le sous-groupe $\bKK\index{K@$\bKK$}=\SO(n)$ des matrices spéciales orthogonales (\ie des matrices $x$ de déterminant $1$ telles que $x^{-1}={}^tx$);
\item
le sous-groupe $\bAA$\index{A@$\bAA$} des matrices diagonales de déterminant $1$ à coefficients diagonaux strictement positifs;
\item
le sous-groupe $\bNN$\index{N@$\bNN$} des matrices triangulaires supérieures à coefficients diagonaux égaux à $1$;
\item
le sous-groupe $\bPP$ des matrices triangulaires supérieures de déterminant~$1$.
\end{itemize}
Si $n=2$ (auquel cas le groupe $\bAA$ a aussi été noté $H$ dans le paragraphe~4 de \cite{Dal}), nous avons
\begin{gather*}
\bKK=\left\{\begin{pmatrix} \cos\theta & -\sin\theta\\ \sin\theta & \cos\theta\end{pmatrix}\right\}_{\theta\in\RR/2\pi\ZZ}, \qquad\bAA=\left\{\begin{pmatrix} e^s & 0\\ 0 & e^{-s}\end{pmatrix}\right\}_{s\in\RR},\\\arraycolsep3.5pt
\bNN=\left\{\begin{pmatrix} 1 & t\\ 0 & 1\end{pmatrix}\right\}_{t\in\RR}.
\end{gather*}
\end{enumerate}
\end{exems*}

Remarquons, comme le montre un petit calcul matriciel, que $\bAA\bNN$ est un sous-groupe fermé de $\SL{n}{\RR}$, qui normalise $\bNN$. Cette propriété élémentaire est néanmoins cruciale. Quand $n=2$, elle prend la forme
\begin{equation}\label{eq:anormaln} \begin{pmatrix} e^s & 0\\ 0 & e^{-s}\end{pmatrix} \begin{pmatrix} 1 & t\\ 0 & 1\end{pmatrix} \begin{pmatrix} e^s & \\ 0 & e^{-s}\end{pmatrix}^{-1} =\begin{pmatrix} 1 & te^{2s} \\ 0 & 1\end{pmatrix}.
\end{equation}

\bprop[Décomposition d'Iwasawa]\label{prop:iwasawa} Pour tout $n\geq 1$, l'application de $\bKK\times\bAA\times\bNN$ dans $\SL{n}{\RR}$, qui à un triplet $(k,a,u)$ associe le produit $kau$, est un homéomorphisme.
\eprop

Attention, si $n\geq 2$, cette application du groupe produit $\bKK\times\bAA\times\bNN$ dans le groupe $G=\SL{n}{\RR}$ n'est pas un morphisme de groupes (par exemple parce que $\bAA$ et $\bNN$ ne commutent pas dans $G$).

\begin{proof}
L'application $\Theta:(k,a,u)\mto kau$ est polynomiale, donc continue. Pour tout $x$ dans $G$, par le procédé d'orthogonalisation de Gram-Schmidt, il existe une matrice orthogonale $k$ et une matrice triangulaire supérieure à coefficients diagonaux strictement positifs~$b$ telles que $x=kb$. Comme une matrice orthogonale est de déterminant~$1$ ou $-1$, et puisque
$$
\det k=\det x\,(\det b)^{-1}>0,
$$
la matrice $k$ appartient à $\bKK$, et $b$ est de déterminant~$1$. Si~$a$ est la matrice diagonale dont les coefficients diagonaux sont ceux de~$b$, et $u=a^{-1}b$, alors $a$ appartient à $\bAA$ et $u$ appartient à $\bNN$. Donc $x=kau$, et~$\Theta$ est surjective.

Si $k,k'\in\bKK$, $a,a'\in\bAA$, $u,u'\in\bNN$ et $kau=k'a'u'$, alors $k^{-1}k'= au{u'}^{-1}{a'}^{-1}$ est une matrice orthogonale, qui est triangulaire supérieure à coefficients diagonaux strictement positifs, donc est l'identité. D'où $k=k'$ et ${a'}^{-1}a=u'u^{-1}$, qui est à la fois diagonale et triangulaire supérieure à coefficients diagonaux égaux à $1$. Donc $a=a'$, $u=u'$, et $\Theta$ est injective. Les espaces topologiques $\bKK\times\bAA\times\bNN$ et $\SL{n}{\RR}$ sont \emph{localement compacts}\index{localement compact}\index{espace!topologique!localement compact} (\ie sont séparés et tout point admet un (et donc une base de) voisinage(s) compact(s)). Comme $K$ est compact, l'application $\Theta$ est \emph{propre}\index{application!propre} (\ie l'image réciproque de tout compact est un compact). Donc $\Theta$ est un homéomorphisme.
\end{proof}

Voici une autre décomposition de $G=\SL{n}{\RR}$ bien utile. Notons~$\Scal$ l'espace vectoriel des matrices symétriques de taille $n\times n$, $\Scal_0$ son sous-espace vectoriel des matrices de trace nulle, et $\Scal_{+,1}$ le sous-espace topologique de $G$, formé des matrices symétriques définies positives de déterminant $1$. Comme un élément~$M$ de~$G$ appartient à $\Scal_{+,1}$ si et seulement si $\langle MX,X\rangle\geq 0$ pour tout~$X$ dans $\RR^n$, où $\langle \cdot,\cdot\rangle$ est le produit scalaire usuel sur $\RR^n$, le sous-espace $\Scal_{+,1}$ est fermé dans~$G$, donc est localement compact. Rappelons que l'application $\exp:\M_n(\RR)\to \M_n(\RR)$ définie par $\exp x=\sum_{i=0}^\infty \sfrac{x^i}{i!}$ est bien définie, continue et à valeurs dans $\GL{n}{\RR}$. En effet, cette série converge normalement et uniformément sur tout compact de $\M_n(\RR)$ pour la norme d'opérateur
$$
\Vert M\Vert =\max_{X\in\M_{n,1}(\RR)\moins\{0\}} \frac{\Vert MX\Vert}{\Vert X\Vert},
$$
pour $X\mto \Vert X\Vert $ n'importe quelle norme sur l'espace vectoriel $\M_{n,1}$. Cette norme d'opérateur vérifie $\Vert MM'\Vert \leq \Vert M\Vert \,\Vert M'\Vert $ pour tous $M,M'$ dans $\M_n(\RR)$. De plus, $\exp(axa^{-1})=a\exp(x)a^{-1}$ pour tous $x\in \M_n(\RR)$ et $a\in\GL{n}{\RR}$, et $\exp(px)=(\exp x)^p$ pour tout $p\in\ZZ$.

\bprop[Décomposition polaire] L'application $\bKK\times\Scal_{+,1}\to\SL{n}{\RR}$ définie par $(k,s)\mto ks$ est un homéomorphisme, dont nous noterons $g\mto (k_g,s_g)$ l'inverse. De plus, l'application $\exp:\Scal_0\to \Scal_{+,1}$ est un homéomorphisme, et pour tous $g,g'\in \SL{n}{\RR}$,
$$
k_{gg'}=k_{g}k_{g'}\quad\text{et}\quad s_{gg'}=k_{g'}^{-1}s_{g}k_{g'}s_{g'}.
$$
\eprop

\begin{proof}
\!Par diagonalisation en base orthonormée et puisque~$K$ est compact, l'application continue $\exp:\Scal_0\to \M_n(\RR)$ est injective et propre, donc est un homéomorphisme sur son image. Celle-ci est exactement $\Scal_{+,1}$, car pour tout $x$ dans $\Scal$,
$$
\det(\exp \,x)=\exp (\tr x),
$$
par diagonalisation de $x$. En particulier, l'application
$$
x\mto x^2=\exp(2\exp^{-1}(x))
$$
de $\Scal_{+,1}$ dans lui-même est un homéomorphisme, d'inverse noté $x\mto \sqrt{x}$.

L'application $(k,s)\mto ks$ de $\bKK\times\Scal_{+,1}$ dans $\SL{n}{\RR}$ est continue, d'inverse $g\mto (g(\sqrt{{}^tgg})^{-1},\sqrt{{}^tgg})$, qui est continue. La dernière affirmation est immédiate, par unicité.
\end{proof}

\bcoro \label{lemm:distsln} Il existe une distance $d$ sur $G=\SL{n}{\RR}$, induisant la topologie originelle de $G$, invariante à gauche par $\bKK$ et à droite par~$G$ (\ie $d(kxg,kyg)=d(x,y)$ pour tous $x,y,g$ dans $G$ et $k$ dans~$\bKK$), telle que, pour tout $a=(a_{ij})_{1\leq i,j\leq n}$ dans $\bAA$,
$$
d(a,e)=\bigg(\sum_{i=1}^{n}(\log a_{ii})^2\bigg)^{1/2}.
$$
\ecoro

\begin{proof}
Considérons la distance $d_\Scal$ suivante sur $\Scal_{+,1}$. Par diagonalisation simultanée des formes quadratiques définies positives, pour tous $s,s'\in \Scal_{+,1}$, il existe $g$ dans $G$ tel que les matrices ${}^tgxg$ et ${}^tgyg$ soient diagonales, de coefficients diagonaux strictement positifs $(a_i)_{1\leq i\leq n}$ et $(a'_i)_{1\leq i\leq n}$ respectivement. On pose
$$
d_\Scal(s,s')=\frac{1}{2} \bigg(\sum_{i=1}^n \Big(\log \frac{a_i}{a'_i}\Big)^2\bigg)^{1/2}.
$$
Il est facile de montrer que $d_\Scal$ ne dépend pas de la diagonalisation commune choisie, qu'elle est positive, symétrique, nulle sur et seulement sur la diagonale. Nous ne montrerons pas ici l'inégalité triangulaire (voir par exemple \cite{Ebe,BGS}). Elle induit la topologie de $\Scal_{+,1}$, et, pour tous $x,y$ dans $\Scal_{+,1}$, vérifie $d_\Scal({}^tgxg,\,{}^tgyg)=d_\Scal(x,y)$ pour tout $g$ dans $G$.

Soit $d_\bKK$ une distance sur $\bKK$, induisant la topologie de $\bKK$, qui est \emph{bi-invariante}\index{bi-invariante} (\ie $d_\bKK(kxk',kyk')= d_\bKK(x,y)$ pour tous $x,y,k,k'\in \bKK$). Une manière de construire une telle distance est la suivante. Rappelons que la \emph{norme de Hilbert-Schmidt}\index{norme de Hilbert-Schmidt} sur l'espace vectoriel $\M_n(\RR)$ est la norme définie par
$$
\Vert A\Vert _{HS}=\sqrt{\tr {}^t\!A A}= \Big(\sum_{i,j=1}^n a_{ij}^2\Big)^{1/2},
$$
où $A=(a_{ij})_{1\leq i,j\leq n }$ (c'est la norme euclidienne usuelle sur $\RR^{n^2}$). Elle vérifie, par la propriété $\tr AB=\tr BA$ de la trace et puisque ${}^tk=k^{-1}$ pour tout $k$ dans $\bKK$, que $\Vert kAk'\Vert _{HS}=\Vert A\Vert _{HS}$ pour tous $k,k'$ dans $\bKK$ et $A\in \M_n(\RR)$. Donc $d_\bKK(x,y)=\Vert x-y\Vert _{HS}$ convient, comme on le montre aisément.

En utilisant la décomposition polaire, pour tous $x,y$ dans $G$, posons alors
$$
d(x,y)= d_\bKK(k_x,k_{y})+d_\Scal(\,{}^txx,\,{}^tyy),
$$
qui est clairement une distance sur $G$ (utiliser l'injectivité de la décomposition polaire pour montrer que $d(x,y)=0$ implique $x=y$). Elle induit la topologie originelle sur $G$, car la décomposition polaire est un homéomorphisme. Il est facile de vérifier que la restriction de~$d$ à~$\bAA$ est donnée par la formule voulue.

Enfin, pour tous $x,y,g$ dans $G$ et $k$ dans $\bKK$,
\begin{align*}
d(kxg,kyg)&= d_\bKK(kk_xk_g,kk_yk_g)+ d_\Scal(\,{}^tg\,{}^txxg,\,{}^tg\,{}^tyyg)\\
&= d_\bKK(k_x,k_y)+ d_\Scal(\,{}^txx,\,{}^tyy)=d(x,y).\qedhere
\end{align*}
\end{proof}

Une autre décomposition, mais qui n'a pas une propriété d'unicité aussi forte que celle de la décomposition d'Iwasawa et de la décomposition polaire, est la suivante. Notons $\bAA_+$ le sous-ensemble de $\bAA$ formé des éléments $a$ dont les coefficients diagonaux vérifient $a_{ii}\leq a_{i+1,i+1}$ pour $1\leq i\leq n-1$.

\bprop[Décomposition de Cartan]\label{prop:decompcartan} On a $\SL{n}{\RR}=\bKK\bAA_+\bKK$. De plus, pour tous $k_1,k'_1,k_2,k'_2\in\bKK$ et $a,a'\in \bAA_+$, si $k_1ak_2=k'_1a'k'_2$, alors $a=a'$, et si les coefficients de $a$ sont deux à deux distincts, alors $k_1=k'_1$ et $k_2=k'_2$.
\eprop

\begin{proof}
Pour tout $g$ dans $\SL{n}{\RR}$, la matrice ${}^tgg$ est symétrique définie positive, donc est diagonalisable en base orthonormée, de coefficients diagonaux strictement positifs, que l'on peut supposer croissants, quitte à faire une permutation. Il existe donc $k\in\bKK$ et $a'\in \bAA_+$ tels que ${}^tgg=ka'k^{-1}$. Soit $a\in\bAA_+$ tel que $a^2=a'$. Donc
\[
{}^t(gka^{-1})(gka^{-1})=\id\quand k'= gka^{-1}\in\bKK.
\]
D'où $g=k^{-1}ak'\in \bKK\bAA_+\bKK$.

Si $k_1,k'_1,k_2,k'_2\in\bKK$, $a,a'\in \bAA_+$ et $k_1ak_2=k'_1a'k'_2$, alors il existe $k,k'\in\bKK$ tels que $ak=k'a'$, et donc ${}^t(ak)(ak)={}^t(a'k')(a'k')$, ce~qui implique que $k^{-1}a^2k={k'}^{-1}{a'}^2k'$, donc $a^2$ et ${a'}^2$ ont les mêmes valeurs propres, ce qui implique, comme $a,a'\in\bAA_+$, que $a=a'$, ainsi que la dernière assertion.
\end{proof}

Notons que les groupes topologiques $\bAA$ et $\RR^{n-1}$ sont isomorphes, et que~$\bNN$ est homéomorphe à $\RR^{n(n-1)/2}$. En particulier, si $n=2$, alors le groupe topologique $\SO(2)$ est isomorphe au groupe topologique $(\SS_1,\times)$, où $\SS_1$ est le cercle unité de $\RR^2=\CC$; et $\SL{2}{\RR}$ est homéomorphe au cylindre $\SS_1\times\RR^2$ de dimension $3$, de base $\SS_1$ et de fibre $\RR^2$.

Pour visualiser cela, considérons l'application de $\SS_1\times\RR^2$ dans $\SL{2}{\RR}$ définie par
$$
(e^{i\theta}, s,t)\mto M= \begin{pmatrix} \cos\theta & -\sin\theta\\ \sin\theta & \cos\theta\end{pmatrix}\begin{pmatrix} e^s & t\\ 0 & e^{-s}\end{pmatrix},
$$
qui est un homéomorphisme, par la décomposition d'Iwasawa.

\begin{figure}[htb]
\begin{center}
\includegraphics[scale=.9]{fig_slde}%
\caption{Surfaces de niveau de la fonction trace dans $\SL{2}{\RR}$, vue I}\label{fig_slde}
\end{center}
\end{figure}

Le dessin ci-dessus représente les surfaces de niveau de la fonction trace sur $\SL{2}{\RR}$, car $\tr M= 2\cos\theta \cosh s + t \sin\theta$, pour les valeurs de haut en bas respectivement $5,2,0,-2,-5$. La translation de $\theta$ par~$\pi$ change la surface de niveau $\tr^{-1}(\{c\})$ en $\tr^{-1}(\{-c\})$. La surface de niveau $\tr^{-1}(\{c\})$ est invariante par $(\theta,s,t)\mto (\theta,-s,t)$.

Un programme MAPLE possible est tout simplement:
\begin{small}
\begin{verbatim}
with(plots): f:=2*cos(y)*cosh(x)+z*sin(y):
implicitplot3d([f=-2,f=0,f=2,f=5,f=-5],
x=-2..2,y=0.001..3.141,z=-10..10,
grid=[20,20,20], axes=normal,
color=[yellow,cyan,red,green,coral]);
\end{verbatim}
\end{small}

Pour mieux comprendre la situation au voisinage de l'identité, notons que l'application de $\SL{2}{\RR}$ dans $\RR^3$ définie par
$$\arraycolsep4pt
\begin{pmatrix} a & b\\ c & d\end{pmatrix}\mto \left(\frac{a-d}{2}, \frac{b+c}{2},\frac{b-c}{2}\right)
$$
est un homéomorphisme de l'ensemble des matrices de $\SL{2}{\RR}$ de trace positive ou nulle sur l'ensemble des $(x,y,z)$ dans $\RR^3$ tels que $x^2+y^2-z^2\geq -1$ (en composant l'isomorphisme linéaire
$$\arraycolsep4pt
\begin{pmatrix} a & b\\ c & d\end{pmatrix}\mto \Big(w=\frac{a+d}{2},\,x=\frac{a-d}{2},\, y=\frac{b+c}{2},\, z=\frac{b-c}{2}\Big)
$$
avec la projection sur les trois dernières variables, car $w^2-x^2-y^2+z^2= ad-bc$). Pour tout $t\geq 0$, la surface de niveau $\tr^{-1}(\{t\})$ dans $\SL{2}{\RR}$ s'envoie donc par cet homéomorphisme sur la surface des $(x,y,z)$ dans $\RR^3$ tels que $x^2+y^2-z^2=t^2/4 -1$.

\begin{figure}[htb]
\begin{center}
\begin{picture}(0,0)%
\includegraphics{fig_hyperboloides}%
\end{picture}%
\setlength{\unitlength}{3158sp}%
%
\begingroup\makeatletter\ifx\SetFigFont\undefined%
\gdef\SetFigFont#1#2#3#4#5{%
\reset@font\fontsize{#1}{#2pt}%
\fontfamily{#3}\fontseries{#4}\fontshape{#5}%
\selectfont}%
\fi\endgroup%
\begin{picture}(3030,3420)(61,-4123)
\put(181,-1404){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$\tr=0$}%
}}}}
\put(76,-2799){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$\tr=5$}%
}}}}
\put(174,-3706){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$\tr=0$}%
}}}}
\put(2806,-3016){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$\tr=2$}%
}}}}
\put(1876,-886){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$z=\dfrac{b-c}{2}$}%
}}}}
\put(3076,-2559){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$x=\dfrac{a-d}{2}$}%
}}}}
\put(2776,-1809){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$y=\dfrac{b+c}{2}$}%
}}}}
\end{picture}%
\caption{Surfaces de niveau de la fonction trace dans $\SL{2}{\RR}$, vue II}\label{fig_hyperboloides}
\end{center}
\end{figure}

Notons aussi que l'application $M\mto -M$ de $\SL{2}{\RR}$ dans $\SL{2}{\RR}$ est un homéomorphisme involutif (\ie d'ordre $2$). Les deux surfaces de niveau $\tr^{-1}(\{\pm 2\})$ (les deux seules qui ne sont pas lisses) sont donc homéomorphes à un cône de révolution. Une surface de niveau $\tr^{-1}(\{t\})$ pour $|t|>2$ est homéomorphe à un hyperboloïde à une nappe. Et une surface de niveau $\tr^{-1}(\{t\})$ pour $|t|<2$ est homéomorphe à un hyperboloïde à deux nappes. Pour obtenir de nouveau $\SL{2}{\RR}$, à homéomorphisme près, prendre deux copies de l'ensemble des $(x,y,z)$ dans $\RR^3$ tels que $x^2+y^2-z^2\geq -1$, et les recoller par l'identité sur leur bord. L'involution naturelle de ce recollement (échangeant les deux copies) correspond à l'involution $M\mto -M$ de $\SL{2}{\RR}$.

\Subsection{Des sous-groupes discrets des groupes linéaires}

Un groupe topologique est dit \emph{discret}\index{groupe!discret} si sa topologie est \emph{discrète}\index{topologie!discrète} (\ie si toute partie est ouverte). Par exemple, un sous-groupe d'un groupe topologique est discret si chacun de ses points est isolé, ou, de manière équivalente si son élément neutre est isolé.

\blemm Un sous-groupe discret $\Ga$ d'un groupe topologique séparé~$G$ est fermé dans $G$.
\elemm

Ceci n'est pas si évident que cela ! D'une part la condition de séparation est nécessaire: le sous-groupe trivial $\{0\}$ du groupe topologique $\ZZ/2\ZZ$ muni de la topologie \emph{grossière}\index{topologie!grossière} (\ie où les seuls ouverts sont $\emptyset$ et $\ZZ/2\ZZ$), est discret, mais non fermé. D'autre part, la partie $\{\frac{1}{n+1}\sep n\in\NN\}$ de $\RR$ est discrète (pour la topologie induite), puisque chacun de ses points est isolé. Mais elle n'est pas fermée, puisque le point $0$ appartient à son adhérence (et ne lui appartient pas).

\begin{proof}
Soit $V$ un voisinage de l'élément neutre $e$ dans $G$ ne rencontrant $\Ga$ qu'en $e$. Par continuité de l'application $(x,y)\mto x^{-1}y$ en $(e,e)$, soit~$U$ un voisinage de $e$ tel que $U^{-1}U$ soit contenu dans $V$. Soit $x$ un point de~$G$ dans l'adhérence de $\Ga$, et montrons que $x\in\Ga$. Puisque $xU$ est un voisinage de $x$, soit $u\in U$ tel que $xu\in\Ga$. Si $u=e$, alors $x\in\Ga$, ce que nous voulions. Sinon, puisque $G$ est séparé, soit $U'$ un voisinage de $e$ contenu dans $U$, ne contenant pas $u$. Soit $u'\in U'$ tel que $xu'\in\Ga$. Alors
$$
u^{-1}u'=(xu)^{-1}(xu')^{-1}\in\Ga\cap(U^{-1}U')\subset \Ga\cap(U^{-1}U)\subset \Ga\cap V=\{e\}.
$$
Donc $u=u'$, ce qui contredit le fait que $u$ n'appartienne pas à $U'$.
\end{proof}

\pagebreak[2]
\begin{exems*}\mbox{}
\begin{enumerate}
\item
Le sous-groupe $\Ga=\SL{n}{\ZZ}$ de $G= \SL{n}{\RR}$ est discret. L'étude des sous-groupes discrets des groupes linéaires est un domaine important des mathématiques, pour lequel nous renvoyons par exemple à \cite{Rag,Mar3,Pan}.

\item
Soit $V$ un espace vectoriel réel de dimension finie. Un \emph{réseau}\index{reseau@réseau} de $V$ est un sous-groupe $\Lambda$ du groupe additif $V$ qui vérifie l'une des conditions équivalentes suivantes:
\begin{enumerate}
\item[(i)] $\Lambda$ est discret, et $V/\Lambda$ est compact;
\item[(ii)] $\Lambda$ est discret et engendre $V$ en tant qu'espace vectoriel réel.
\item[(iii)] il existe une $\RR$-base $(e_1,e_2,\dots, e_n)$ de l'espace vectoriel réel $V$ qui est une $\ZZ$-base de $\Lambda$ (\ie $\Lambda=\ZZ e_1\oplus\dots \oplus\ZZ e_n$).
\end{enumerate} En particulier, un réseau de $\RR^n$ est un groupe abélien libre de rang~$n$.

\begin{proof}
Montrons que (iii) implique (i). Soit $(e_1,e_2,\dots, e_n)$ une $\RR$-base de $V$. Il est immédiat que $\Lambda=\ZZ e_1+\dots +\ZZ e_n$ est discret dans $V$. Soit $K$ l'ensemble des $\lambda_1e_1+\dots+\lambda_n e_n$ où $\lambda_i\in [0,1]$, qui est compact dans $V$. Nous verrons dans la proposition \ref{prop:propbasetopquot}\,(1) que $V/\Lambda$ est séparé, et que $\pi:V\to V/\Lambda$ est continue. Donc $V/\Lambda=\pi(K)$ est compact.

Montrons que (i) implique (ii). Soit $V'$ le sous-espace vectoriel réel de $V$ engendré par $\Lambda$, et $V''$ un supplémentaire de $V'$. Alors l'isomorphisme naturel $V\to V'\times V''$ induit un homéomorphisme de $V/\Lambda$ sur $(V'/\Lambda)\times V''$. Comme $(V'/\Lambda)\times V''$ est compact et $V'/\Lambda$ non vide, l'image de la projection (continue) sur le second facteur, qui est $V''$, est compact. Donc $V''$ est réduit à $\{0\}$.

Montrons que (ii) implique (iii). Soit $n$ la dimension de $V$, que l'on peut supposer au moins $1$. On munit $V$ d'une norme fixée. Construisons par récurrence sur $k$ des éléments linéairement indépendants $e_k$ dans $\Lambda$ avec $1\leq k\leq n$. Soit~$e_1$ un élément de $\Lambda\moins\{0\}$ de norme minimale, ce qui est possible car $\Lambda$ est discret. Si $n\geq 2$, supposons $e_1, \dots, e_k$ linéairement indépendants, avec $k\leq n-1$, construits, et posons $V_k=\RR e_1+\dots + \RR e_k$. Le sous-groupe $\Lambda_k=\ZZ e_1+\cdots+\ZZ e_k$ est contenu dans $\Lambda$. Par l'implication (iii) entraîne (ii), l'espace $V_k/\Lambda_k$ est compact. Donc il existe $r_1>0$ tel que $V_k$ soit recouvert par les translatés par les éléments de $\Lambda_k$ de la boule $B(0,r_1)$. L'application $f:V\ra[0,+\infty[$ définie par
$$
f:v\mto\min_{w\in V_k} \Vert v-w\Vert
$$
est bien définie, car $f(v)=\Vert v-v_{\perp k}\Vert $ où $v_{\perp k}$ est la projection orthogonale de $v$ sur $V_k$, et elle est continue. Comme $\Lambda$ engendre l'espace vectoriel $V$ et puisque la dimension de $V_k$ est au plus $n-1$, il existe (au moins) un point $v_k$ dans $\Lambda\moins V_k$. On pose $r_2=f(v_k)$. Alors la borne inférieure de $f$ sur $\Lambda\moins V_k$, qui est la borne inférieure de $f$ sur le compact $\overline{B}(0,r_1+r_2)$, à cause de l'invariance de~$f$ par translations par $\Lambda_k$, est atteinte, en au moins un point, noté $e_{k+1}$. Ce point n'appartient pas à $V_k$, donc $e_1, \dots, e_{k+1}$ sont linéairement indépendants.

Alors la suite $(e_1, \dots, e_n)$ est une $\RR$-base de $V$ (car libre), et une $\ZZ$-base de~$\Lambda$. En effet, par l'absurde, si $x\in\Lambda\moins(\ZZ e_1+\dots + \ZZ e_n)$, alors, quitte à enlever à~$x$ un élément de $\ZZ e_1+\dots + \ZZ e_n$, il existe $k$ avec $1\leq k\leq n$ et $\lambda_1,\dots,\lambda_k\in\RR$ tels que $x=\lambda_1e_1+\dots+\lambda_k e_k$, $\lambda_k\neq 0$ et $|\lambda_k|\leq 1/2$. Mais alors $x\in \Lambda\moins V_{k-1}$ (en posant par convention $V_{0}=\{0\}$) et
$$
\min_{w\in V_{k-1}} \Vert x-w\Vert \leq \Vert \lambda_k e_k\Vert <\Vert e_k\Vert ,
$$
ce qui contredit la propriété de minimalité de $e_k$.
\end{proof}
\end{enumerate}
\end{exems*}

\bexer \label{exo:colonneprem} Soient $n\geq 1$ et $x\in\ZZ^n$ un élément dont les coordonnées sont premières entre elles. Montrer qu'il existe une matrice de $\GL{n}{\ZZ}$ dont la première colonne est la colonne des coordonnées de $x$. En déduire qu'il existe une $\ZZ$-base du réseau $\ZZ^n$ contenant $x$.
\eexer

\begin{sol*}
Rappelons qu'un plus grand commun diviseur (pgcd) d'une famille d'éléments de $\ZZ$ est un élément de $\ZZ$ qui engendre l'idéal engendré par cette famille dans l'anneau principal $\ZZ$, et que cette famille est première entre elle si un (tout) pgcd est inversible dans $\ZZ$.

$\quad $On raisonne par récurrence sur l'entier $k=\sum_{i=1}^n |x_i|\geq 1$. Si~\hbox{$k=1$}, alors $x$ est un élément de la base canonique de $\ZZ^n$, et le résultat est immédiat. Soit $k\geq 2$, supposons le résultat vrai au rang $\leq k-1$. Soit $x\in\ZZ^n$ de coordonnées $x_1,\dots, x_n$ premières entre elles, et de somme des valeurs absolues $k$. Quitte à permuter des coordonnées (les matrices de permutations de coordonnées sont dans $\GL{n}{\ZZ}$), nous pouvons supposer que $|x_n|=\max\{|x_1|,\dots,|x_n|\}$. Soit $p\in\ZZ\moins\{0\}$ un pgcd de $x_1,\dots,x_{n-1}$. Soit $x_n\!=\!pq\!+\!r$ avec $0\!\leq\! r\!<\!|p|\!\leq\! |x_n|$ la division euclidienne de $x_n$ par $p$. Alors $x_1,\dots, x_{n-1}, r$ sont premiers entre eux (car un nombre premier, qui les divise, divise aussi $x_1/p,\dots, x_{n-1}/p$ ou $x_1,\dots, x_{n-1}, x_n$, suivant qu'il soit~\hbox{premier} avec $p$ ou pas). Par récurrence, il existe une matrice~$A$ dans $\GL{n}{\ZZ}$ dont la première colonne a pour coefficients $x_1,\dots,x_{n-1},r$. Soient $y_1,\dots, y_{n-1}$ tels que $\sum_{i=1}^{n-1} x_iy_i=pq$. Alors en ajoutant à la dernière ligne de $A$ la combinaison linéaire de coefficients $y_1,\dots, y_{n-1}$ des $n-1$ premières lignes, le premier résultat en découle. En prenant l'image de la base canonique de~$\ZZ^n$ par la matrice ainsi construite, le second résultat en découle.\enlargethispage{\baselineskip}%

Remarquons que cette preuve reste vraie dans tout anneau euclidien, par exemple dans l'anneau des polynômes réels à une variable.
\end{sol*}

\begin{figure}[htb]
\vspace*{-\baselineskip}
\begin{center}
\begin{picture}(0,0)%
\includegraphics[scale=.85]{fig_disthauscomp2}%
\end{picture}%
\setlength{\unitlength}{2684.3sp}%
%
\begingroup\makeatletter\ifx\SetFigFont\undefined%
\gdef\SetFigFont#1#2#3#4#5{%
\reset@font\fontsize{#1}{#2pt}%
\fontfamily{#3}\fontseries{#4}\fontshape{#5}%
\selectfont}%
\fi\endgroup%
\begin{picture}(5874,3774)(1339,-8473)
\put(1501,-8311){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$\RR^n$}%
}}}}
\put(3571,-7426){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$\epsilon$}%
}}}}
\put(4032,-6860){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$0$}%
}}}}
\put(5300,-7149){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$1/\epsilon$}%
}}}}
\put(4944,-5761){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$\epsilon$}%
}}}}
\put(2851,-6668){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$\epsilon$}%
}}}}
\end{picture}%
\caption{Le réseau carré rouge et le réseau rond bleu sont $\epsilon$-proches}\label{fig_disthauscomp2}
\end{center}
\end{figure}

\smallskip
Nous avons tous en tête une idée intuitive de quand deux réseaux sont proches: c'est quand, en restriction à une grosse boule de $\RR^n$, tout point de l'un est proche d'un point de l'autre et réciproquement. Nous introduisons une topologie sur l'ensemble des réseaux de $\RR^n$, due à Chabauty \cite{Cha}, qui formalise cela. Il est aussi possible de formaliser cette idée intuitive à l'aide d'une distance (voir la proposition \ref{prop:disthaussurcomp}\,(2)), mais nous ne nous en servirons pas dans ce texte. La propriété la plus utile, et en général suffisante, de la topologie de Chabauty est la caractérisation de ses suites convergentes (voir la proposition \ref{prop:disthaussurcomp}\,(1)).

\smallskip
Si $X$ est un espace topologique localement compact, et $\F(X)$ l'ensemble des fermés de $X$, la \emph{topologie de Chabauty}\index{topologie!de Chabauty} sur $\F(X)$ est la topologie dont les ouverts sont les unions d'intersections finies de parties de la forme\vspace*{-3pt}
$$
O_K=\{F\in \F(X)\sep F\cap K=\emptyset\}
$$
où $K$ est un compact de $X$ et\vspace*{-3pt}\enlargethispage{.5\baselineskip}%
$$
O'_U=\{F\in \F(X)\sep F\cap U\neq\emptyset\}
$$
où $U$ est un ouvert de $X$. Ces ouverts permettent de dire que si un réseau $\Lambda$ est suffisamment proche d'un réseau $\Lambda_0$, alors $\Lambda$ ne possède pas de point dans un voisinage compact donné d'un point qui n'est pas dans $\Lambda_0$, et possède un point dans un voisinage ouvert donné d'un point de $\Lambda_0$.

\bprop\label{prop:propChabauty}\mbox{}
\begin{enumerate}
\item
L'espace topologique $\F(X)$ est compact.

\item
Si $G$ est un groupe topologique localement compact, alors l'ensemble $\Scal\G\F(G)$ des sous-groupes fermés de $G$ est un compact pour la topologie de Chabauty. De plus, pour tout voisinage ouvert $U$ de l'élément neutre $e$ de $G$, l'ensemble $K(U)$ des sous-groupes fermés de $G$ qui ne rencontrent $U$ qu'en $\{e\}$ est compact pour la topologie de Chabauty.

\item
Si $G$ est \emph{sans petit sous-groupe}\index{sans petit sous-groupe} (\ie admet un voisinage de l'élément neutre ne contenant pas de sous-groupe non trivial), alors l'ensemble $\Scal\G\D(G)$ des sous-groupes discrets de $G$ est un ouvert dans l'ensemble des sous-groupes fermés de $G$. De plus, $\Scal\G\D(G)$ est la réunion des intérieurs des compacts $K(U)$ où $U$ parcourt les voisinages ouverts de $e$.
\end{enumerate}
\eprop

\begin{proof}\mbox{}
\begin{enumerate}
\item
Montrons que $\F(X)$ est séparé. Soient $F$ et $F'$ deux fermés distincts de~$X$, et soit $x\!\in\! F\moins F'$ (quitte à échanger $F$ et $F'$). Comme~$X$ est localement compact et $F'$ est un fermé ne contenant pas $x$, il~existe un voisinage ouvert $U$ de~$x$ dont l'adhérence $\overline{U}$ est compacte et ne rencontre pas~$F'$. Alors $F\in O'_U$, $F'\in O_{\overline{U}}$ et $O'_U\cap O_{\overline{U}}=\emptyset$, ce qui montre le résultat.

Pour montrer la compacité de $\F(X)$, il suffit de montrer que de tout recouvrement de $\F(X)$ de la forme $\{O_{K_i}, O'_{U_j}\}_{i\in I,j\in J}$ avec $K_i$ compact de $X$ et $U_j$ ouvert de $X$, on peut extraire un sous-recouvrement fini. Soit $F=X\moins\bigcup_{j\in J} U_j$, qui est un fermé de $X$, n'appartenant à aucun $O'_{U_j}$. Donc il existe $i_0\!\in\! I$ tel que $F\!\in\! O_{K_{i_0}}$, et en particulier, $K_{i_0}\!\subset\! X\moins F=\bigcup_{j\in J} U_j$. Par compacité, $K_{i_0}$ est contenu dans $U_{j_1}\cup \dots\cup U_{j_n}$, et donc tout fermé qui ne rencontre pas l'un des $U_{j_1}, \dots, U_{j_n}$ ne rencontre pas $K_{i_0}$. Par conséquent, $\F(X)=O_{K_{i_0}}\cup O'_{U_{j_1}}\cup \dots\cup O'_{U_{j_n}}$, ce qui montre le résultat.\enlargethispage{.5\baselineskip}%

\item
Montrons que $\Scal\G\F(G)$ est un fermé de $\F(G)$, ce qui par (1) implique que $\Scal\G\F(G)$ est compact. Soit $F$ un fermé de $X$ adhérent à $\Scal\G\F(G)$. Soient $x,y\in F$, supposons par l'absurde que $xy^{-1}\notin F$. Soient $K$ un voisinage compact de $xy^{-1}$ disjoint de $F$ et $U,V$ des voisinages ouverts de $x,y$ tels que $UV^{-1}\!\subset\! K$. Alors $F\in O_K\!\cap\! O'_U\cap O'_V$, mais $\Scal\G\F(G)$ ne rencontre pas $O_K\cap O'_U\cap O'_V$, contradiction.

Comme $K(U)=\Scal\G\F(G)\moins O'_{U\moins\{e\}}$ est un fermé dans un compact, $K(U)$ est compact.

\item
Soient $F_0\in \Scal\G\D(G)$ et $V$ un voisinage compact de $e$ ne rencontrant $F_0$ qu'en $e$ et ne contenant pas de sous-groupe non trivial. Par continuité de l'application $(x,y)\mto xy^{-1}$ en $(e,e)$, soit~$U$ un voisinage ouvert de $e$ tel que $UU^{-1}\subset V$. Soit $K=V\moins U$. Si $F$ est un sous-groupe fermé de $G$ appartenant à $O_K$, alors $F\cap K=\emptyset$ et $F\cap U$ est un sous-groupe de $G$ contenu dans $V$, donc est réduit à $\{e\}$, donc $F$ est discret. D'où $O_K$ est un voisinage ouvert de $F_0$ contenu dans $K(U)$, qui est contenu dans $\Scal\G\D(G)$. Par conséquent $\Scal\G\D(G)$ est ouvert et réunion des intérieurs des $K(U)$.\qedhere
\end{enumerate}
\end{proof}

Voici un moyen de comprendre la topologie de Chabauty à l'aide d'une distance ou de suites convergentes, mais nous ne nous servirons pas de cette proposition ultérieurement. Pour $A$ une partie d'un espace métrique $(X,d)$, pour $x\in X$ et $\epsilon>0$, nous noterons $B(x,\epsilon)$ la boule ouverte de centre $x$ et de rayon $\epsilon$, $d(x,A)=\inf_{y\in A} d(x,y)$, et
$$
V_\epsilon(X)=\{x\in X\sep d(x,A)< \epsilon\}
$$
le $\epsilon$-voisinage (ouvert) de $A$ dans $X$.

\bprop\label{prop:disthaussurcomp} Soit $(X,d)$ un espace métrique localement compact.
\begin{enumerate}
\item
Une suite $(F_i)_{i\in\NN}$ de fermés de $X$ converge vers un fermé $F$ de $X$ pour la topologie de Chabauty si et seulement si
\begin{enumerate}
\item[(i)]
pour tout $x$ dans $F$, il existe $x_i$ dans $F_i$ pour tout $i$ assez grand tel que $(x_i)_{i\in\NN}$ converge vers $x$.
\item[(ii)]
pour toute suite strictement croissante d'entiers $(i_k)_{k\in\NN}$, s'il existe~$x_{i_k}$ dans $F_{i_k}$ pour tout $k$ tels que la suite $(x_{i_k})_{k\in\NN}$ converge vers $x$, alors~$x$ appartient à $F$.
\end{enumerate}

\item
Pour tous fermés $F,F'$ de $X$, notons $d_\Hau(F,F')$ la borne inférieure des $\epsilon>0$ tels que
$$
F\cup \,^cB(0,\sfrac{1}{\epsilon}) \subset V_\epsilon\big(F'\cup \,^cB(0,\sfrac{1}{\epsilon})\big)
$$
et réciproquement $F'\cup \,^cB(0,\sfrac{1}{\epsilon}) \subset V_\epsilon\big(F\cup \,^cB(0,\sfrac{1}{\epsilon})\big)$. Alors $d_\Hau$ est une distance sur $\F(X)$, appelée la \emph{distance de Hausdorff sur les compacts}, dont la topologie induite est la topologie de Chabauty.
\end{enumerate}
\eprop

\begin{proof}\mbox{}
\begin{enumerate}
\item
Supposons que $(F_i)_{i\in\NN}$ converge vers $F$ pour la topologie de Chabauty. Pour tout $x$ dans $F$ et tout $n\in \NN$, si $U_n$ est la boule ouverte de centre $x$ et de rayon $1/(n+1)$, alors $F\in O'_{U_n}$ et, pour $i$ assez grand, $F_i\in O'_{U_n}$. Donc, par un procédé diagonal, $x$ est limite de $(x_j)_{j\in\NN}$ où $x_j\in F_j$ pour tout $j$ assez grand. Pour tout $x$ dans $X\moins F$, soit $K$ un voisinage compact de $x$ disjoint de $F$. Alors $F\in O_K$ et, pour $i$ assez grand, $F_i\in O_{K}$ c'est-à-dire que $F_i$ ne rencontre pas $K$. Donc $x$ n'est pas limite d'une suite $(x_{i_k})_{k\in\NN}$ où $x_{i_k}\in F_{i_k}$.

Réciproquement, supposons que $(F_i)_{i\in\NN}$ et $F$ vérifient (i) et (ii). Soient~$K$ un compact de $X$ et $U$ un ouvert de $X$. Si $F\!\in\! O_K$ (resp.\ \hbox{$F\!\in\! O'_U$}), montrons que pour $i$ assez grand $F_i\!\in\! O_K$ (\resp $F_i\!\in\! O'_U$), ce qui implique que $(F_i)_{i\in\NN}$ converge vers $F$ pour la topologie de Chabauty. Si $F\in O'_U$, soit $x\in F\cap U$, alors pour $i$ assez grand $F_i\cap U\neq
\emptyset$ par (i), donc $F_i\in O'_U$. S'il existe une sous-suite $(F_{i_k})_{k\in\NN}$ telle que $F_{i_k}\notin O_K$, alors il existe $x_{i_k}\in F_{i_k}\cap K$, qui par compacité de $K$ converge, quitte à extraire, vers un point $x\in K$, qui appartient à $F$ par (ii), donc $F\notin O_K$.

\item
Nous laissons cette question en exercice.\qedhere
\end{enumerate}
\end{proof}

Notons $\R(\RR^n)$\index{R@$\R(\RR^n)$} l'ensemble des réseaux de $\RR^n$, muni de la topologie de Chabauty, induite par l'inclusion
$$
\R(\RR^n)\subset \Scal\G\D(\RR^n)\subset \Scal\G\F(\RR^n)\subset\F(\RR^n).
$$
Pour tout $\Lambda\in\R(\RR^n)$, le volume euclidien $\vol(\RR^n/\Lambda)$ du parallélotope défini par une des $\ZZ$-bases de $\Lambda$ ne dépend pas d'une telle $\ZZ$-base, car les matrices inversibles à coefficients entiers sont de déterminant $1$ ou $-1$, donc préservent le volume euclidien.

\blemm\label{lem:contcovol} L'application de $\R(\RR^n)$ dans $\RR$ qui à un réseau $\Lambda$ associe $\vol(\RR^n/\Lambda)$ est continue pour la topologie de Chabauty.
\elemm

\begin{proof}
Soit $\Lambda_0\in\R(\RR^n)$ et $(e_1,\dots,e_n)$ une $\ZZ$-base de $\Lambda_0$. Il~est facile de montrer que si $\Lambda\in\R(\RR^n)$ est suffisamment proche de $\Lambda_0$ pour la topologie de Chabauty, alors $\Lambda$ contient une $\ZZ$-base proche de la $\ZZ$-base $(e_1,\dots,e_n)$ de $\Lambda_0$. Le résultat découle alors de la continuité du déterminant de $n$ vecteurs.
\end{proof}

Un réseau de $\RR^n$ est dit \emph{unitaire}\index{reseau@réseau!unitaire} si le volume euclidien du parallélotope défini par une de ses $\ZZ$-bases est $1$. Notons $\R_1(\RR^n)$\index{R@$\R_1(\RR^n)$} le sous-espace de $\R(\RR^n)$ des réseaux unitaires de $\RR^n$, qui est fermé dans $\R(\RR^n)$ par le lemme précédent. Nous verrons une autre preuve du résultat suivant au corollaire \ref{coro:mahler}. Rappelons qu'une partie d'un espace topologique séparé est \emph{relativement compacte}\index{relativement compacte} si son adhérence est compacte, ou, de manière équivalente, si elle est contenue dans une partie compacte.

\bcoro[Critère de Mahler\index{critère de Mahler}] \label{coro:critmahlerun} Soit $M$ une partie de l'espace $\R_1(\RR^n)$ des réseaux unitaires de $\RR^n$. Alors les deux conditions suivantes sont équivalentes:
\begin{enumerate}
\item \!\!$M$ est relativement compacte;
\item \!\!il existe un voisinage $W$ \hbox{de l'origine dans $\RR^n$ tel que $\Lambda\!\cap\! W\!=\!\{0\}$} pour tout $\Lambda$ dans $M$.
\end{enumerate}
\ecoro

\begin{proof}
Si $W$ est un voisinage ouvert de $0$ comme dans (2), alors $K(W)$, qui est compact pour la topologie de Chabauty par la proposition \ref{prop:propChabauty}\,(2), contient $M$. Montrons que $\R_1(\RR^n)\cap K(W)$ est fermé dans $K(W)$. Ceci entraînera que la partie $M$, qui est contenue dans le compact $K(W)\cap \R_1(\RR^n)$ de $\R_1(\RR^n)$, est relativement compacte dans $\R_1(\RR^n)$.

Soit $\Lambda$ un élément de l'adhérence de $\R_1(\RR^n)\cap K(W)$ dans $K(W)$. En particulier, $\Lambda$ est un sous-groupe discret. Si $\Lambda\in \R(\RR^n)$, alors $\Lambda\in \R_1(\RR^n)$ par continuité de $\Lambda\mto\vol(\RR^n/\Lambda)$, et le résultat en découle. Sinon, l'espace vectoriel réel $V$ engendré par $\Lambda$ n'est pas tout $\RR^n$, et nous fixons $v\in \RR^n\moins\nobreak V$. Soit $\epsilon_0>0$ tel que $B(0,\epsilon_0)$ soit contenue dans $W$. Pour tout $r>0$, considérons le cylindre
$$
K_{\epsilon,r}=\{x+tv\sep x\in \overline{B}(0,\epsilon),\, t\in [0,r]\},
$$
qui est compact. Soit $r_0>0$ tel que $K_{\epsilon_0/2,r_0/2}$ soit de volume strictement plus grand que~$1$. Puisque~$\Lambda$ appartient à l'ouvert de Chabauty $O_{K_{\epsilon_0,r_0}\moins B(0,\epsilon_0/2)}$, soit
\[
\Lambda'\in \R_1(\RR^n)\cap K(W)\cap O_{K_{\epsilon_0,r_0}\moins B(0,\epsilon_0/2)}.
\]
Alors $\Lambda'\cap K_{\epsilon_0,r_0} = \{0\}$ et donc $K_{\epsilon_0/2,r_0/2}\cap\ga K_{\epsilon_0/2,r_0/2} =\{0\}$ pour tout $\ga\in\Ga'\moins\{0\}$, ce qui contredit le fait que $\vol(\RR^n/\Lambda')=1$.

Réciproquement, soit $K$ un compact de $\R_1(\RR^n)$. Il est immédiat que le groupe topologique $\RR^n$ est sans petit sous-groupe. Donc par la proposition \ref{prop:propChabauty}\,(3), les intérieurs des $K(U)$ recouvrent $\R_1(\RR^n)$. Donc il existe un nombre fini d'ouverts $U_1,\dots, U_k$ tels que
$$
K\subset K(U_1)\cup \dots\cup K(U_k)\subset K(U_1\cap\dots \cap U_k).
$$
En posant $W= U_1\cap\dots \cap U_k$, le résultat en découle. (Cette implication découle aussi de la continuité de l'application de $\R_1(\RR^n)$ dans $]0,+\infty[$ définie par $\Lambda\mto \min_{v\in \Lambda\moins\{0\}} \Vert v\Vert $, voir la preuve du corollaire \ref{coro:mahler}.)
\end{proof}

\Subsection{Exemples de réseaux de \texorpdfstring{$\RR^n$}{Rn}}
Pour tout $n$, le sous-groupe
\[
\ZZ^n= \{(x_1,\dots,x_n)\in\RR^n \sep \forall i,\, x_i\in \ZZ\}
\]
de $\RR^n$ est un réseau, dit \emph{réseau cubique}\index{reseau@réseau!cubique} (ou \emph{carré}\index{reseau@réseau!carré} si $n=2$), qui appartient à $\R_1(\RR^n)$. Nous donnons ci-dessous un autre exemple de réseau en dimension $2,3,8$ et $24$. Il est facile de vérifier que ce sont bien des réseaux. Nous renvoyons par exemple à \cite{CS} pour des preuves des autres affirmations énoncées, et des compléments.

La \emph{boule maximale}\index{boule maximale} d'un réseau de $\RR^n$ est la boule ouverte centrée en $0$, de rayon maximal, telle que les translatés de cette boule par les éléments du réseau soient deux à deux disjoints. La \emph{cellule de Voronoï}\index{cellule de Voronoï} d'un réseau est l'ensemble des points de $\RR^n$ qui sont à distance de $0$ inférieure ou égale à la distance à n'importe quel autre point du réseau. La \emph{densité}\index{densité} d'un réseau est le rapport entre le volume de la boule maximale et celui de la cellule de Voronoï du réseau. Le \emph{nombre de voisins}\index{nombre!de voisins} d'un réseau est le nombre de translatés de la boule maximale, par les éléments du réseau, qui sont tangents à celle-ci.

Par exemple, le réseau cubique $\ZZ^n$ de $\RR^n$ a pour cellule de Voronoï le cube unité $[-\frac{1}{2},\frac{1}{2}]^n$ et pour boule maximale la boule de centre $0$ et de rayon~$\sfrac{1}{2}$. Son nombre de voisins est $2n$ et sa densité est $\sfrac{\pi^{n/2}}{2^n(n/2)!}$ si $n$ est pair et $\sfrac{\pi^{(n-1)/2}((n-1)/2)!}{n!}$ sinon.

Deux réseaux sont \emph{similaires}\index{reseau@réseau!similaires} s'il existe une isométrie euclidienne (vectorielle) et une homothétie dont la composée envoie un réseau sur l'autre. Deux réseaux similaires ont bien sûr même densité et même nombre de voisins.


\smallskip 
$\bbullet$ Le réseau $A_2$\index{AA@$A_2$} (aussi appelé réseau triangulaire ou réseau hexagonal) \index{reseau@réseau!$A_2$} est $\ZZ+e^{\sfrac{i\pi}{3}}\ZZ$. Sa cellule de Voronoï est un hexagone régulier, son nombre de voisins est $6$, et sa densité $\sfrac{\pi}{2\sqrt{3}}$ est la densité maximale d'un réseau en dimension~$2$.

\smallskip
$\bbullet$ Le réseau $D_3$\index{Da@$D_3$} (aussi appelé réseau \emph{cubique à face centré}\index{reseau@réseau!cubique à face centré}\index{reseau@réseau!$D_3$}) est le réseau de $\RR^3$ défini par $\{(x,y,z)\in \ZZ^3\sep x+y+z\equiv 0\bmod 2\}$. Sa cellule de Voronoï est un dodécaèdre rhombique (enveloppe convexe des 14 points $(\pm 1,0,0), (0,\pm 1,0),(0,0,\pm 1),(\pm 1/2,\pm 1/2,\pm 0)$), et sa densité $\sfrac{\pi}{3\sqrt{2}}$ est la densité maximale d'un réseau en dimension $3$. Il est similaire au réseau $A_3=\{(x_0,x_1,x_2, x_3)\in \ZZ^4\sep x_0+x_1+x_2+x_3=0\}$ (de l'hyperplan euclidien d'équation $x_0+x_1+x_2+x_3=0$ dans $\RR^4$). Donc le marchand de fruits du marché, qui commence par poser ses oranges sur son plateau suivant le réseau hexagonal, puis ajoute par couche les oranges de manière la plus basse possible, et celui qui commence par poser ses oranges suivant le réseau carré, construisent des empilements d'oranges aussi dense l'un que l'autre, et optimisent le volume occupé sur leur étal. Ce réseau est très connu en cristallographie.

\begin{figure}[htb]
\begin{center}
\includegraphics[scale=.9]{fig_reseaudimde}%
\vspace*{-\baselineskip}
\caption{}\label{fig_reseaudimde}
\end{center}
\end{figure}

\smallskip
$\bbullet$ Le réseau $E_8$\index{reseau@réseau!$E_8$}\index{E@$E_8$} est
\begin{multline*}
\bigl\{(x_1,\dots, x_8)\in \RR^8\sep\\
(\forall i,\, x_i\in \ZZ)\text{ ou }(\forall i,\, x_i\in \tfrac{1}{2}+\ZZ), \,x_1+\dots+x_8\equiv 0\bmod 2\bigr\}.
\end{multline*}
Son nombre de voisins est $240$, et sa densité $\sfrac{\pi^{4}}{384}$ est la densité maximale d'un réseau en dimension $8$. C'est un élément de $\R_1(\RR^8)$.

\smallskip
$\bbullet$ Le réseau $\Lambda_{24}$\index{L@$\Lambda_{24}$} (aussi appelé réseau \emph{de Leech})\index{reseau@réseau!de Leech} est, à similarité près, construit de la manière suivante. Soit $q$ la forme quadratique sur $\RR^{25}$ de signature $(24,1)$, définie par
$$
q(x_0,x_1,\dots,x_{24})=-x^2_0+x_1^2+\dots +x_{24}^2,
$$
et $t=(145,3,5,7,\dots, 45, 47, 51)$. On vérifie que $q(t)=-1$ et que la restriction de $q$ à l'hyperplan $t^\perp$ orthogonal à $t$ pour $q$ (qui est le sous-espace tangent en $t$ à l'hyperboloïde à deux nappes d'équation $q=-1$) est définie positive. Le réseau de Leech est alors le réseau de l'espace euclidien $(t^\perp,q_{\mid t^\perp})$ défini par $\Lambda_{24}=\ZZ^{25}\cap t^\perp$. Son nombre de voisins est $196560$, sa cellule de Voronoï possède $16773120$ faces de codimension~$1$, sa densité $\sfrac{\pi^{12}}{12!}$ est la densité maximale d'un réseau en dimension $24$.
\begin{figure}[htb]
\begin{center}
\begin{picture}(0,0)%
\includegraphics{fig_reseauLeech}%
\end{picture}%
\setlength{\unitlength}{3158sp}%
%
\begingroup\makeatletter\ifx\SetFigFont\undefined%
\gdef\SetFigFont#1#2#3#4#5{%
\reset@font\fontsize{#1}{#2pt}%
\fontfamily{#3}\fontseries{#4}\fontshape{#5}%
\selectfont}%
\fi\endgroup%
\begin{picture}(2832,2970)(2596,-3823)
\put(4276,-1036){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$x_0$}%
}}}}
\put(3226,-3586){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$\RR^{24}$}%
}}}}
\put(5258,-2720){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$q=0$}%
}}}}
\put(2611,-2274){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$q=-1$}%
}}}}
\put(4396,-2232){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$t$}%
}}}}
\put(5413,-2374){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$t^\perp$}%
}}}}
\put(3980,-3239){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$0$}%
}}}}
\end{picture}%
\end{center}
\caption{}\label{fig_reseauLeech}
\end{figure}


Tous les groupes topologiques dans cet article seront, à isomorphismes près, des sous-groupes fermés de $\RR^n$ ou $\GL{n}{\RR}$, ou des groupes quotients de ceux-là par des sous-groupes distingués fermés.

\begin{exer*}
Déterminer tous les sous-groupes fermés du sous-groupe $\bAA\bNN$ de $\SL{2}{\RR}$, qui est isomorphe, en tant que groupe topologique, au groupe des transformations affines de $\RR$ de la forme $t\mto at+b$ avec $a>0,b\in\RR$.
\end{exer*}

\begin{sol*}
Soient $F$ un sous-groupe fermé de $\bAA\bNN$ et $\pi:\bAA\bNN\to (\bAA\bNN)/\bNN=\bAA$ la projection canonique $\begin{smallpmatrix} x & y\\ 0 & x^{-1}\end{smallpmatrix}\mto\begin{smallpmatrix} x & 0\\ 0 & x^{-1}\end{smallpmatrix}$. Le sous-groupe $F\cap\bNN$ est fermé dans $\bNN$, et $\bNN$ est isomorphe (comme groupe topologique) à $(\RR,+)$, donc ou bien $F\cap\bNN=\bNN$, ou bien $F\cap\bNN$ est discret, de la forme \hbox{$\big\{\begin{smallpmatrix} 1 & nb\\ 0 & 1\end{smallpmatrix}\sep n\in\ZZ\big\}$, où $b\geq0$}.

Si $F\cap\bNN=\bNN$, alors $F$ est un sous-groupe fermé saturé de $\bAA\bNN$ pour l'action de $\bNN$ (voir le paragraphe \ref{sec:actcontgroulin}), donc $\pi(F)$ est un sous-groupe fermé de~$\bAA$. Comme $\bAA$ est aussi isomorphe (comme groupe topologique) à $(\RR,+)$, ou bien $\pi(F)=\bAA$, auquel cas
$$
F=\bAA\bNN,
$$
ou bien $\pi(F)$ est discret, et il existe $a\geq 1$ tel que
$$
F=\Big\{\begin{pmatrix} a^n & t\\ 0 & a^{-n}\end{pmatrix}\sep n\in \ZZ,\,t\in\RR\Big\}.
$$

Si $F\cap\bNN$ est discret, soit $b$ comme ci-dessus. Si $b=0$, alors $\pi_{\vert F}$ est un isomorphisme de $F$ sur son image, en particulier $F$ est abélien. S'il n'est pas trivial, il contient un élément n'appartenant pas à $\bNN$, donc ayant ses deux valeurs propres distinctes, donc qui est diagonalisable sur $\RR$. Par diagonalisation simultanée, il est conjugué à un sous-groupe de $\bAA$. Celui-ci, étant fermé, est égal à $\bAA$ ou est discret dans $\bAA$. Par suite, ou bien il existe $\lambda \in \RR$ tel que
$$\arraycolsep4pt
F=\Big\{\begin{pmatrix} a & (a-a^{-1})\lambda \\ 0 & a^{-1} \end{pmatrix}\sep a>0\Big\},
$$
ou bien il existe $a\geq 1$ et $\lambda \in \RR$ tels que
$$\arraycolsep4pt
F=\Big\{\begin{pmatrix} a^n & (a^n-a^{-n})\lambda \\ 0 & a^{-n} \end{pmatrix}\sep n\in\ZZ\Big\}.
$$
Si $b>0$, alors pour tout $g=\begin{smallpmatrix} x & y\\ 0 & x^{-1}\end{smallpmatrix}$ dans~$F$, comme d'après la formule
\eqref{eq:anormaln}
$$\arraycolsep4pt
g\begin{pmatrix} 1 & b\\ 0 & 1\end{pmatrix}g^{-1} =\begin{pmatrix} 1 & bx^2 \\ 0 & 1\end{pmatrix},
$$
on a $x^2\in\NN$, et $x^{-2}\in\NN$ en utilisant $g^{-1}$. Donc $x=1$. Par conséquent,
$$
F=F\cap\bNN=\Big\{\begin{pmatrix} 1 & nb\\ 0 & 1\end{pmatrix}\sep n\in\ZZ\Big\}.
$$
\end{sol*}

\section{Des actions continues de groupes linéaires} \label{sec:actcontgroulin}

Soient $X,X'$ deux espaces topologiques et $G$ un groupe topologique. Une \emph{action continue}\index{action!continue} à gauche (\resp droite) de $G$ sur $X$ est une application \hbox{$G\times X\to X$}, notée $(g,x)\mto gx$ (\resp $(g,x)\mto xg$), qui est une action à gauche (\resp droite) et qui est continue. En particulier, pour tout~$g$ dans~$G$, l'application $x\mto gx$ (\resp $x\mto xg$) est un homéomorphisme, d'inverse $x\mto g^{-1}x$ (\resp $x\mto xg^{-1}$).

Rappelons que pour tout $x$ dans $X$, l'\emph{orbite}\index{orbite} de $x$ par $G$ est l'ensemble
\begin{align*}
Gx&=\{y\in X\sep \exists g\in G,\, y=gx\}\\
(\resp\ xG&=\{y\in X\sep \exists g\in G,\, y=xg\}).
\end{align*}
Notons que \og être dans la même orbite \fg\ est une relation d'équivalence. Pour toute partie $A$ de $X$, le \emph{saturé}\index{saturé} $GA$ (\resp $AG$) de $A$ par~$G$ est la réunion des orbites des points de $A$. Une partie $A$ de $X$ est \emph{saturée} si elle est égale à son saturé, \ie si l'orbite de tout point de~$A$ est contenue dans $A$.

Le \emph{stabilisateur}\index{stabilisateur} $H$ de $x$ (noté souvent $G_x$) est le sous-groupe de $G$
$$
H=\{g\in G\sep gx=x\}\quad(\resp\ H=\{g\in G\sep xg=x\}).
$$
Le \emph{noyau}\index{noyau} de l'action est le sous-groupe distingué $\Ker$ de $G$ défini par\vspace*{-3pt}
\begin{align*}
\Ker&=\{g\in G\sep \forall x\in X,\,gx=x\} \\
(\resp\ \Ker&=\{g\in G\sep \forall x\in X,\,xg=x\}).
\end{align*}
L'action est \emph{transitive}\index{action!transitive} si elle n'a qu'une orbite, \ie si\vspace*{-3pt}
$$
\forall x,y\in X,\ \exists g\in G,\quad gx=y\quad(\resp\ xg=y).
$$
L'action est \emph{libre}\index{action!libre} si le seul élément ayant un point fixe est l'identité, \ie si\vspace*{-3pt}
$$
\forall x\in X,\ \forall g\in G,\quad \big(gx=x\ (\resp\ xg=x)\big)\implique (g=e).
$$
L'action est \emph{simplement transitive}\index{action!transitive} si elle est libre et transitive, \ie si\vspace*{-3pt}
$$
\forall x,y\in X,\ \exists!\,g\in G,\quad gx=y\quad(\resp\ xg=y).
$$
L'action est \emph{fidèle}\index{action!fidèle} si son noyau est trivial, \ie si\vspace*{-3pt}
$$
\forall g\in G,\quad\big(\forall x\in X,\ gx=x\ (\resp\ xg=x)\big)\implique (g=e).
$$
L'action $G\times X\to X$ de $G$ induit par passage au quotient une action fidèle $(G/\Ker)\times X\to X$ de $G/\Ker$ sur $X$.

Un \emph{isomorphisme}\index{isomorphisme} entre deux actions de $G$ continues à gauche $G\times X\to X$ et $G\times X'\to X'$ est un homéomorphisme $\varphi$ de $X$ dans $X'$ qui est $G$-équivariant. Deux actions continues à gauche sont \emph{isomorphes}\index{isomorphe} s'il existe un isomorphisme entre ces deux actions. Nous noterons $G\backslash X$ l'espace topologique quotient d'une action continue à gauche de~$G$ sur~$X$, et $X/G$ l'espace topologique quotient d'une action continue à droite de $G$ sur $X$. (L'ensemble $G\backslash X$ ou $X/G$ est l'ensemble des orbites de $G$ sur $X$, c'est-à-dire l'ensemble des classes d'équivalence pour la relation \og être dans la même orbite \fg.)

\Subsection{De la topologie des espaces d'orbites}
Nous allons étudier dans ce sous-paragraphe quelques propriétés topologiques de l'espace des orbites d'une action continue d'un groupe topologique sur un espace topologique.

\blemm\label{lem:propbasetopquot}\mbox{}
\begin{enumerate}
\item
Si $X$ est un espace topologique muni d'une action continue à gauche (\resp à droite) d'un groupe topologique $G$, alors la projection canonique $\pi:X\to G\backslash X$ (\resp $\pi:X\to X/G$) est continue et \emph{ouverte}\index{application!ouverte} (\ie l'image directe d'un ouvert est un ouvert). Si $Y$ est un espace topologique, alors $f:G\backslash X\to Y$ (\resp $f:X/G\to Y$) est continue si et seulement si $f\circ\pi:X\to Y$ l'est.

\item
Si $H$ est un sous-groupe d'un groupe topologique $G$, alors l'action à gauche (\resp droite) de $G$ sur $G/H$ (\resp $H\backslash G$) par translations à gauche (\resp droite) $(h,gH)\mto hgH$ (\resp $(h,Hg)\mto Hgh$) est continue. Si $H$ est un sous-groupe distingué de $G$, alors $G/H=H\backslash G$ est un groupe topologique pour les structures quotients.

\item
Soient $H$ et $H'$ des sous-groupes d'un groupe topologique $G$. Les applications
\begin{align*}
G/H&\to H\backslash G,& gH&\mto Hg^{-1},\\
H'\backslash(G/H)&\to (H'\backslash G)/H,& H'(gH)&\mto (H'g)H,\\
H'\backslash(G/H)&\to H'\backslash G/H,& H'(gH)&\mto H'gH\\
\tag*{et}
H'\backslash G/H&\to H\backslash G/H',& H'gH&\mto Hg^{-1}H'
\end{align*}
sont des homéomorphismes.
\end{enumerate}
\elemm

\begin{proof}
Quitte à utiliser un passage à l'inverse, il suffit de considérer les actions à gauche.

\begin{enumerate}
\item
La continuité et le passage au quotient des applications continues viennent de la définition de la topologie quotient: une partie~$U$ de~$\Ga\backslash X$ est ouverte si et seulement si $\pi^{-1}(U)$ est ouverte dans $X$. Si~$U$ est un ouvert de~$X$, alors $\pi^{-1}(\pi(U))=\bigcup_{g\in G} gU$ est ouvert, car l'action est continue. Donc $\pi(U)$ est ouvert et $\pi$ est ouverte.

\item
Soit $\psi:G\times (G/H)\to G/H$ l'action par translations à gauche. Pour tout ouvert $U$ de $G/H$, l'ensemble $V=\{(g,g')\in G\times G\sep gg'\in \pi^{-1}(U)\}$ est ouvert, par continuité de la multiplication et de la projection canonique $\pi:G\to G/H$. Par (1), l'application $\pi':(G\times G)\to G\times (G/H)$ définie par $(x,y)\mto (x,\pi(y))$ est ouverte, donc $\psi^{-1}(U)=\pi'(V)$ est ouvert, et $\psi$ est continue. Si de plus $H$ est distingué, alors la continuité de l'application $(G/H)\times (G/H)\to G/H$ définie par $(gH,g'H)\mto g(g')^{-1}H$ en découle par passage au quotient.

\item
La dernière assertion découle par passage au quotient du fait que $g\mto\nobreak g^{-1}$, $g\mto g$, $g\mto g$, et $g\mto g^{-1}$ respectivement sont des homéomorphismes involutifs de $G$ dans $G$.\qedhere
\end{enumerate}
\end{proof}

\begin{rema*}
Par contre, $\pi$ n'est pas toujours \emph{fermée}\index{application!fermée}: l'image par $\pi$ d'un fermé de $X$ n'est pas toujours un fermé de $G\backslash X$, comme le montre l'exemple de l'image d'une droite de pente irrationnelle dans $\RR^2$ par la projection canonique $\RR^2\to\RR^2/\ZZ^2$, ou l'image de l'hyperbole
\[
\{(z,y)\in\RR^2\sep x\geq 0,\, xy=1\}
\]
par la projection $\RR^2\to\RR^2/\RR$, où $\RR$ agit par translations horizontales. Comme une partie de $X$ est saturée par l'action de $G$ si et seulement si $A=\pi^{-1}(\pi(A))$, nous utiliserons (dans la preuve du théorème de Hedlund \ref{theo:hedlund}) le fait que l'image par $\pi$ d'un fermé saturé est fermée.
\end{rema*}

Par conséquent, si $H,H'$ sont des sous-groupes d'un groupe topologique $G$, alors le groupe $H$ agit continûment à gauche par translations à gauche sur~$G$ par $(h,g)\mto hg$ et sur $G/H'$ par $(h,gH')\mto hgH'$, continûment à droite par translations à droite sur $G$ par $(h,g)\mto gh$ et sur $H'\backslash G$ par $(h,H'g)\mto H'gh$, (mais aussi continûment à gauche par translations à droite sur $G$ par $(h,g)\mto gh^{-1}$ et sur $H'\backslash G$ par $(h,H'g)\mto H'gh^{-1}$; nous n'utiliserons dans ce texte que les deux premières actions). La continuité des actions sur $G$ est évidente, par définition d'un groupe topologique; voir le lemme ci-dessus pour la continuité des actions sur $G/H'$ et $H'\backslash G$. Rappelons que la projection canonique $\pi:G\to G/H'$ est $G$-équivariante pour les actions par translations à gauche de $G$ sur $G$ et sur $G/H'$.

\smallskip
Les sous-groupes fermés $H$ de $\GL{n}{\RR}$ sont, comme $\GL{n}{\RR}$, métrisables, \emph{séparables} (\ie ont une partie dénombrable dense), localement compacts. La proposition suivante dit en particulier que ces propriétés topologiques sont encore vérifiées par tout quotient de $H$ par un sous-groupe fermé de $H$.

\bprop\label{prop:propbasetopquot}\mbox{}
\begin{enumerate}
\item
Soient $G$ un groupe topologique localement compact et $H$ un sous-groupe fermé. Alors $H\backslash G$ (et donc $G/H$) est séparé, donc localement compact. De plus, l'application canonique $\pi:G\to H\backslash G$ (et~donc $\pi:G\to G/H$) est propre si et seulement si $H$ est compact. De~plus, $H\backslash G$ (et donc $G/H$) est compact si et seulement s'il existe une partie compacte $C$ de $G$ telle que $G=H C$.

\item
Soit $\Ga$ un sous-groupe discret d'un groupe topologique localement compact $G$. Alors la projection canonique $\pi:G\to \Ga\backslash G$ (et~donc $\pi:G\to G/\Ga$) est un homéomorphisme local.

\item
Soient $X$ un espace topologique séparé muni d'une action continue à gauche (\resp à droite) d'un groupe topologique $G$, et $x\in X$. Alors le stabilisateur $H$ de $x$ est un sous-groupe fermé de $G$. Le noyau de l'action de $G$ sur~$X$ est fermé.
\end{enumerate}
\eprop

Par exemple, le sous-groupe $\{\pm \id\}$ de $\SL{2n}\RR$ est discret (donc fermé) et distingué, donc le groupe topologique quotient
$$
\PSL{2n}\RR=\SL{2n}\RR/\{\pm\id\}
$$
est localement compact, et
$$
\PSL{2n}\ZZ=\SL{2n}\ZZ/\{\pm\id\}
$$
est un sous-groupe discret de $\PSL{2n}\RR$.

\begin{proof}
Quitte à utiliser un passage à l'inverse, il suffit de considérer les actions à gauche.

\begin{enumerate}
\item
Soient $x,y$ deux points de $G$ qui ne sont pas dans la même classe à gauche pour $H$. Soit $\phi:G\times G\to G$ l'application continue $(g,h)\mto gh^{-1}$. Comme $\phi^{-1}(H)$ est fermé et ne contient pas $(x,y)$, il~existe deux ouverts $U$ et~$V$ de~$G$, contenant respectivement $x$ et~$y$, tels que $U\times V\subset G\times G\moins\phi^{-1}(H)$. Comme $\pi$ est ouverte, $\pi(U)$ et~$\pi(V)$ sont des voisinages ouverts disjoints de~$Hx$ et~$Hy$, et $H\backslash G$ est séparé. Un espace séparé, image d'un espace localement compact par une application continue et ouverte, est localement compact.

Comme $H\backslash G$ est séparé, le singleton $\{H e\}$ est compact, et $H=\pi^{-1}(He)$ est compact si $\pi$ est propre. Réciproquement, si $H$ est compact, et si $K$ est un compact de $H\backslash G$, alors il existe $x_1,\dots, x_n$ dans~$G$ et $V_1,\dots, V_n$ des voisinages compacts de $x_1,\dots, x_n$ respectivement tels que $\pi(V_1),\dots, \pi(V_n)$ recouvrent~$K$. Donc $\pi^{-1}(K)\subset\bigcup_{i=1}^n HV_i$ est compact, comme fermé d'une union finie, dans un espace séparé, de compacts (images des compacts produits $H\times V_i$ par l'application continue $(x,y)\mto xy$).

Comme $H\backslash G$ est séparé, et $\pi$ est continue et ouverte, l'image d'un voisinage compact d'un point est un voisinage compact du point image. Si $H\backslash G$ est compact, alors il existe $x_1,\dots, x_n$ dans $G$ et $V_1,\dots, V_n$ des voisinages compacts de $x_1,\dots, x_n$ respectivement tels que $\pi(V_1),\dots, \pi(V_n)$ recouvrent $H\backslash G$. Si $C=\bigcup_{i=1}^n V_i$, alors $C$ est compact et $G=H C$. Réciproquement, si un tel $C$ existe, alors $H\backslash G=\pi(C)$ est compact.

\item
Soit $V$ un voisinage de $e$ dans $G$ ne rencontrant $\Ga$ qu'en $\{e\}$, et $U$ un voisinage compact de $e$ tel que $UU^{-1}\subset V$. Alors pour tout~$g$ dans~$G$, le compact $Ug$ est un voisinage de $g$, son image $\pi(Ug)$ est un voisinage de $\pi(g)$ car $\pi$ est ouverte, et $\pi:Ug\to \pi(Ug)$ est une application continue bijective (car si $u,u'\in U$ et $Hug=Hu'g$, alors $u'u^{-1}\in H\cap V=\{e\}$), d'un espace compact dans un espace séparé (car $\Ga\backslash G$ est séparé), donc est un homéomorphisme.

\item
Montrons que le complémentaire de $H$ dans $G$ est ouvert. Si $gx\neq x$, alors il existe $U$ et $V$ des voisinages ouverts disjoints de~$gx$ et~$x$, par séparation de $X$, et un voisinage ouvert $U'$ de $g$ dans $G$ tel que $U'x\subset U$, par continuité de l'application $h\mto hx$. Comme $x\notin U$, l'ouvert $U'$ ne rencontre pas $H$, et ceci montre le résultat. Le noyau de l'action étant l'intersection des stabilisateurs de tous les points de~$X$, la dernière assertion en découle.\qedhere
\end{enumerate}
\end{proof}

Un \emph{sous-groupe à un paramètre}\index{sous-groupe!a@à un paramètre} d'un groupe topologique $G$ est un morphisme de groupes topologiques de $\RR$ dans $G$, que l'on identifie souvent avec son image. Si $\Ga$ est un sous-groupe discret de $G$, l'orbite d'un point $x$ de $G/\Ga$ par un sous-groupe à un paramètre $H=\{h_t\sep t\in\RR\}$ de $G$ est dite \emph{périodique}\index{orbite!périodique} s'il existe $T>0$ tel que $h_Tx=x$. On a alors $h_{t+nT}x=h_tx$ pour tout $t$ dans $\RR$ et tout $n$ dans~$\NN$. La borne inférieure des tels $T$ est un minimum par continuité, et est strictement positive, car l'action à gauche (par translations à gauche) de $H$ sur $G$ est libre, et l'application $G\to G/\Ga$ est un homéomorphisme local, par la proposition \ref{prop:propbasetopquot}\,(2). Cette borne inférieure s'appelle la \emph{période}\index{période} de cette orbite. Elle engendre le sous-groupe des $t\in \RR$ tels que $h_tx=x$. Si $G$ est localement compact, alors une orbite périodique est compacte, donc fermée.

\smallskip
Soient $X$ un ensemble muni d'une action à gauche (\resp droite) d'un groupe~$G$, et $x\in X$. L'\emph{application orbitale}\index{application!orbitale} en $x$ est l'application $G\to X$ définie par $g\mto gx$ (\resp $g\mto xg$). Soit $H$ le stabilisateur de~$x$. L'application orbitale induit par passage au quotient une bijection
$$
\Theta_x:G/H\to Gx\quad (\resp \Theta_x:H\backslash G\to xG),
$$
dite \emph{canonique}\index{bijection canonique}, qui est $G$-équivariante, \ie $\Theta_x(gy)=g\Theta_x(y)$ (resp.\ $\Theta_x(yg)=\Theta_x(y)g\,$) pour tout $g$ dans $G$ et $y$ dans $G/H$ (resp.\ $H\backslash G$).

\bprop \label{prop:bijectioncanonique}
Soient $X$ un espace topologique muni d'une action continue à gauche (\resp droite) d'un groupe topologique localement compact séparable~$G$, et $x\in X$. Supposons que l'orbite $Gx$ (\resp $xG$) soit localement compacte. Alors la bijection canonique $\Theta_x:G/H\to Gx$ (\resp $\Theta_x:H\backslash G\to xG$) est un homéomorphisme $G$-équivariant.
\eprop

Nous renvoyons à \cite[12.16.12]{Die} pour un énoncé plus général, l'énoncé ci-dessus nous suffira (voir aussi \cite[1.6.1]{Got}). L'hypothèse est en particulier vérifiée si $X$ est localement compact et l'action transitive (et nous aurions pu l'énoncer sous cette forme, mais la formulation précédente met plus en évidence l'hypothèse cruciale qu'il faudra vérifier dans les exemples). Cette proposition est fausse sans l'hypothèse sur l'orbite.

\begin{proof}
Quitte à utiliser un passage à l'inverse, il suffit de considérer les actions à gauche. L'application $\varphi_x:g\mto gx$ est continue, si nous montrons qu'elle est ouverte, alors par passage au quotient, l'application $\Theta_x$ sera une bijection continue et ouverte (car $\Theta_x(U)=\varphi_x(\pi^{-1}(U))$ pour tout ouvert $U$ de $G/H$), donc un homéomorphisme. Soit $U$ un voisinage ouvert de $e$ dans $G$, montrons, pour tout $x$ dans $X$, que $Ux$ est un voisinage ouvert de $x$ dans $Gx$. Ceci conclura, car $\Theta_x(Ug)=\Theta_{gx}(U)$ et $Ggx=Gx$.

Soit $V$ un voisinage compact de $e$ dans $G$ tel que $V^{-1}V\subset U$. Alors $Vx$ est compact (car $\Theta_x$ est continue et $G x$ séparé), donc fermé dans~$G x$. Comme $G$ est séparable, il existe une suite $(g_i)_{i\in \NN}$ dans $G$ telle que $G=\bigcup_{i\in\NN} g_iV$. Donc $Gx=\bigcup_{i\in\NN} g_i(Vx)$. Si $Vx$ est d'intérieur vide, alors l'espace localement compact non vide $Gx$ est une union dénombrable d'ensembles fermés d'intérieur vide, ce qui contredit le théorème de Baire. Soit donc $g$ dans $V$ tel que $gx$ soit un point intérieur de $Vx$. Alors $g^{-1}Vx$ est un voisinage de $x$, contenu dans~$Ux$, ce qui montre le résultat.
\end{proof}

\Subsection{Exemples d'actions de \texorpdfstring{$\SL{n}{\RR}$}{SLn}}
Nous concluons cette partie par une liste de diverses actions continues de $G=\SL{n}{\RR}$ pour $n\geq 1$, qui sont déjà intervenues dans la partie~4 de \cite{Dal} et interviendront encore souvent dans la suite de cet ouvrage.

\smallskip
$\bbullet$ \alineabullet{Action linéaire}.
\par\nopagebreak
Nous munirons $\RR^n$ de sa base canonique. Le groupe $G$ agit (continûment, à gauche) sur $\RR^n$ par l'application qui à un couple $(g,x)\in G\times\RR^n$ associe le point de $\RR^n$ dont le vecteur colonne est le produit de la matrice $g$ par le vecteur colonne de $x$. Cette action possède deux orbites, $\{0\}$ et $\RR^n\moins\{0\}$. Notons~$P_1$ le sous-groupe des éléments de~$G$ dont la première colonne est
\[
\begin{pmatrix} 1\\ 0\\\vdots\\ 0\end{pmatrix}.
\]
Alors~$P_1$ est le stabilisateur du point $x_0=(1,0\dots, 0)$, donc par la proposition \ref{prop:bijectioncanonique}, la bijection canonique $\Theta_{x_0}:G/P_1\to \RR^n\moins\{0\}$ induite par $g\mto gx_0$ est un homéomorphisme $G$-équivariant.

Si $n=2$, alors $P_1=\bNN$, et donc $\Theta_{(1,0)}:G/ \bNN\to \RR^2\moins\{0\}$ est un homéomorphisme $G$-équivariant. Le groupe $\bNN$ agit (par restriction de l'action linéaire) par transvections sur $\RR^2\moins\{0\}$, par
$$
\big(\begin{smallpmatrix} 1 & t\\ 0 & 1\end{smallpmatrix},(x,y)\big)\mto (x,x+ty).
$$
Les seuls points fixes de cette action de $\bNN$ sont les points de l'axe réel. L'application $\Theta_{(1,0)}$ induit, par passage au quotient, un homéomorphisme entre les espaces topologiques $\bNN\backslash G/ \bNN$ et $\bNN\backslash (\RR^2\moins\{0\})$.

\begin{figure}[htb]
\begin{center}
\includegraphics[scale=.9]{fig_transvections}%
\caption{Actions des transvections dans $G/\bNN$ et voisinages de points dans $\bNN\backslash G/ \bNN$}\label{fig_transvections}
\end{center}
\end{figure}

Ainsi pour $n=2$, l'espace topologique quotient $\bNN\backslash G/ \bNN$ est homéomorphe à l'ensemble réunion des axes réels et imaginaires épointés $X=\RR^*\cup \,i\RR^*$, muni de l'unique topologie dont les familles
\[
\{\,i\,]x-\epsilon,x+\epsilon[\,\}_{0<\epsilon<|x|}\quad\text{et}\quad \{\,]x-\epsilon,x+\epsilon[{}\cup \,(\,i\,]-\epsilon,+\epsilon[\,\moins\{0\})\}_{0<\epsilon<|x|}
\]
sont respectivement une base de voisinages de $ix$ et de $x$, pour tout~$x$ dans~$\RR^*$. Cette topologie est violemment non séparée: si $(\epsilon_k)_{k\in\NN}$ tend vers $0$ dans~$\RR^*$, alors la suite $(i\epsilon_k)_{k\in\NN}$ converge vers tout point de l'axe réel épointé~$\RR^*$. Mais ceci sera bien utile par la suite: tout fermé de $X$ qui contient une suite $(i\epsilon_k)_{k\in\NN}$ avec $\epsilon_k\to 0$ contient l'axe réel épointé $\RR^*$.

\smallskip
$\bbullet$ \alineabullet{Action sphérique}.
\par\nopagebreak
Le groupe $G$ agit (continûment, à gauche) sur la sphère unité
$$
\SS_{n-1}=\{(x_1,\dots, x_n)\in\RR^n\sep x_1^2+\dots+ x_n^2=1\}
$$
de $\RR^n$, par l'application qui à un couple $(g,x)\in G\times \SS_{n-1}$ associe le point d'intersection avec $\SS_{n-1}$ de l'image par $g$ du rayon de $\RR^n$ passant par $x$.

\begin{figure}[htb]
\begin{center}
\begin{picture}(0,0)%
\includegraphics{fig_actionspherique}%
\end{picture}%
\setlength{\unitlength}{3158sp}%
%
\begingroup\makeatletter\ifx\SetFigFont\undefined%
\gdef\SetFigFont#1#2#3#4#5{%
\reset@font\fontsize{#1}{#2pt}%
\fontfamily{#3}\fontseries{#4}\fontshape{#5}%
\selectfont}%
\fi\endgroup%
\begin{picture}(1637,2065)(4193,-5918)
\put(5551,-5836){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$\SS_{n-1}$}%
}}}}
\put(4801,-5311){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$0$}%
}}}}
\put(5476,-4036){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$gx$}%
}}}}
\put(5551,-4561){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$\sfrac{gx}{\Vert gx\Vert}$}%
}}}}
\put(4576,-4636){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{$x$}%
}}}}
\end{picture}%
\caption{}\label{fig_actionspherique}
\end{center}
\end{figure}

\noindent
La restriction à $\bKK\times\SS_{n-1}$ de l'action sphérique et celle de l'action linéaire coïncident, car les rotations préservent $\SS_{n-1}$. L'action sphérique est transitive. Le stabilisateur $G_{x_0}$ du point $x_0=(1,0\dots, 0)$ est le sous-groupe des éléments de~$G$ dont la première colonne est de la forme
\[
\begin{pmatrix} \lambda\\ 0\\\vdots\\ 0\end{pmatrix}
\]
avec $\lambda>0$. Par la proposition \ref{prop:bijectioncanonique}, la bijection canonique $\Theta_{x_0}:G/G_{x_0}\to \SS_{n-1}$ induite par $g\mto \sfrac{gx_0}{\Vert gx_0\Vert}$ est un homéomorphisme $G$-équivariant.

En particulier, si $n=2$, alors $G_{(1,0)}=\bAA\bNN$ et la bijection canonique $\Theta_{(1,0)}:G/\bAA\bNN\to \SS_1$ induite par $g\mto \sfrac{gx}{\Vert gx\Vert}$ est un homéomorphisme $G$-équivariant. La restriction à $\bKK=\SO(2)$ de la projection canonique $G\to G/\bAA\bNN$, composée avec $\Theta_{(1,0)}$, est l'application qui à la rotation d'angle $\theta$ associe l'élément $e^{i\theta}$ du cercle unité $\SS_1$.

\smallskip
$\bbullet$ \alineabullet{Action projective}.\index{action!projective}
\par\nopagebreak
Rappelons que l'\emph{espace projectif}\index{espace!projectif} $\PP_{n-1}(\RR)$ de $\RR^n$ est l'espace topologique quotient de $\RR^n\moins\{0\}$ par l'action (continue) du groupe multiplicatif $\RR^*$ par homothéties $(\lambda,x)\mto \lambda x$. Il est compact, car sépa\-ré (deux droites distinctes sont contenues dans des cônes ouverts ne se rencontrant qu'en $0$) et image de la sphère unité, compacte, par la projection canonique $\RR^n\moins\{0\}\to\PP_{n-1}(\RR)$, continue. Il s'identifie, de manière évidente, avec l'espace des droites de $\RR^n$. Comme l'action linéaire de $G$ sur $\RR^n$ envoie droite sur droite (ou, de manière équivalente, commute avec les homothéties), elle induit une action (continue, à gauche) de $G$ sur $\PP_{n-1}(\RR)$, par $(g,[x])\mto [gx])$, où $[x]=\RR^*x$ pour tout vecteur non nul $x$. L'action projective est transitive. Le stabilisateur $G_{x_0}$ du point $x_0=[1,0\dots, 0]$ est le sous-groupe des éléments de $G$ dont la première colonne est de la forme
\[
\begin{pmatrix} \lambda\\ 0\\\vdots\\ 0\end{pmatrix}
\]
avec $\lambda\in\RR^*$ (qui si $n=2$ est le sous-groupe~$\bPP$ de~$G$ formé de toutes les matrices triangulaires supérieures de $G$). Par la proposition \ref{prop:bijectioncanonique}, la bijection canonique $\Theta_{x_0}:G/G_{x_0}\to \PP_{n-1}(\RR)$ induite par $g\mto [gx]$ est un homéomorphisme $G$\nobreakdash-équivariant.

Si $n=2$, alors l'application $[x,y]\mto x/y$ si $y\neq 0$, et $[x,0]\mto \infty$ est un homéomorphisme de $\PP_1(\RR)$ sur le compactifié d'Alexandrov $\widehat\RR=\RR\cup\{\infty\}$ de~$\RR$. L'action projective de $G$ sur $\PP_1(\RR)$ correspond à l'action par homographies de~$G$ sur $\widehat\RR$, qui est l'application $G\times\widehat\RR\to\widehat\RR$ définie par
$$
\big(\begin{smallpmatrix} a & b\\ c & d\end{smallpmatrix},z\big) \mto \frac{az+b}{cz+d}\,,
$$
avec les conventions usuelles que
\[
\frac{a\infty+b}{c\infty+d}= \frac{a}{c}\quad\text{et}\quad\frac{a(-\sfrac{d}{c})+b}{c(-\sfrac{d}{c})+d}= \infty.
\]
Le noyau de l'action de $G$ sur $\widehat\RR$ est $\{\pm\id\}$. Donc l'action projective induit une action fidèle de $\PSL2\RR=\SL2\RR/\{\pm\id\}$ sur $\widehat\RR$. L'action de $\PSL2\RR$ sur les triplets de points distincts cycliquement ordonnés de $\widehat\RR$ est simplement transitive: pour tous $x,y,z$ dans $\widehat\RR$ dans cet ordre cyclique, il existe un unique élément de $\PSL2\RR$ qui envoie $0,1,\infty$ sur respectivement $x,y,z$. En effet, par translation (qui fixe~$\infty$), on peut envoyer tout point de $\widehat\RR$ sur $0$, et $z\mto -1/z$ échange~$0$ et~$\infty$; donc $\PSL2\RR$ agit transitivement sur les couples de points de~$\widehat\RR$. Les seules homographies qui fixent $0$ et $\infty$ sont les homothéties $z\mto \lambda z$ avec $\lambda>0$. Celles-ci agissent simplement transitivement sur les points de $]0,+\infty[$, ce qui montre le résultat.

\smallskip
$\bbullet$ \alineabullet{Action par homographies\index{action!par homographies} sur le demi-plan ($n=2$)}.\label{pageaction}
\par\nopagebreak
On note $\HH=\{z\in \CC\sep \Im z>0\}$\index{H@$\HH$} le demi-plan supérieur ouvert du plan complexe. Remarquons que si $z\in\CC$ et $a,b,c,d$ sont des réels tels que \hbox{$ad-bc=1$}, alors
$$
\Im \Big(\frac{az+b}{cz+d}\Big) =\frac{\Im z}{|cz+d|^2}.
$$
Donc, en posant $G=\SL2\RR$, l'application $G\times \HH\to \HH$ définie par
$$
\big(\begin{smallpmatrix} a & b\\ c & d\end{smallpmatrix},z\big) \mto \frac{az+b}{cz+d}
$$
est bien définie. Il est facile de vérifier que c'est une action (continue, à gauche) de~$G$ sur~$\HH$, appelée l'action par homographies.

Le noyau de l'action de $G$ sur $\HH$ est $\{\pm\id\}$. Donc l'action par homographies sur le demi-plan induit une action fidèle de $\PSL2\RR$ sur~$\HH$. Si $\overline\HH=\HH\cup\widehat\RR$ est le compactifié d'Alexandrov du demi-plan supérieur fermé, alors l'action de~$G$, et donc de $\PSL2\RR$, sur $\HH$ s'étend continûment à~$\overline\HH$, la restriction à $\partial H=\widehat\RR$ étant exactement l'action projective ci-dessus.

\begin{figure}[htb]
\begin{center}
\includegraphics[scale=.9]{fig_actionhomographie}%
\caption{}\label{fig_actionhomographie}
\end{center}
\end{figure}

L'action de $G$ sur $\HH$ est transitive; en fait, le sous-groupe $\bAA\bNN$ agit simplement transitivement sur $\HH$, car $\bNN$ agit par translations $\big(\begin{smallpmatrix} 1 & t\\ 0 & 1\end{smallpmatrix},z\big) \mto z+t $ et $\bAA$ agit par homothéties (de rapport strictement positif) $\big(\begin{smallpmatrix} e^s & 0\\ 0 & e^{-s}\end{smallpmatrix},z\big) \mto\nobreak e^{2s}z $. Un petit calcul montre que le stabilisateur du point $i$ est exactement le sous-groupe des rotations~$\bKK$. Par la proposition \ref{prop:bijectioncanonique}, la bijection canonique \hbox{$\Theta_{i}:G/\bKK\to \HH$} induite par $\begin{smallpmatrix} a & b\\ c & d\end{smallpmatrix} \mto \sfrac{(ai+b)}{(ci+d)}$ est donc un homéomorphisme $G$\nobreakdash-équivariant.

Un \emph{horicycle}\index{horicycle} de $\HH$ est ou bien une droite horizontale contenue dans~$\HH$ ou bien un cercle euclidien contenu dans $\overline{\HH}$, tangent à $\RR$ en un point, et privé de ce point. Un \emph{horidisque}\index{horidisque} de $\HH$ est ou bien un demi-plan fermé contenu dans~$\HH$ ou bien un disque euclidien contenu dans~$\HH$, tangent à $\RR$ en un point, et privé de ce point. Une \emph{géodésique}\index{geode@géodésique} de $\HH$ est ou bien une demi-droite (ouverte) verticale d'origine dans $\RR$ contenue dans $\HH$ ou bien un demi-cercle (ouvert) euclidien contenu dans $\HH$ et perpendiculaire à $\RR$ en ses deux extrémités. Pour deux points distincts de $\widehat\RR$, il existe une unique géodésique dont les extrémités sont ces deux points. Pour une explication de la terminologie, nous renvoyons à \cite{Kat,Dal1}.

Comme les homographies réelles envoient cercles-droites du plan complexe sur cercles-droites, préservent l'orthogonalité, et préser\-vent~$\widehat\RR$, l'action de~$G$ sur $\HH$ préserve l'ensemble des horicycles, et~l'en\-sem\-ble des géodésiques. Comme l'action de $G$ sur $\widehat{\RR}$ est transitive et l'action de $A$ sur les droites horizontales contenues dans~$\HH$ est transitive, le groupe $G$ agit transitivement sur l'ensemble des horicycles. Comme l'action par homographies de $G$ sur les couples de points de~$\widehat\RR$ est transitive, le groupe $G$ agit transitivement sur l'ensemble des géodésiques. Si $L$ est une géodésique et $\eta$ un point de~$\widehat\RR$ qui n'est pas une extrémité de $L$, alors il existe une et une seule géodésique dont une extrémité est $\eta$ et qui rencontre perpendiculairement $L$: par transitivité (les homographies préservent l'orthogonalité), il suffit de considérer le cas où $\eta=\infty$ et $L$ est la géodésique d'extrémités $-1,+1$; alors l'axe vertical est la seule solution.

\begin{figure}[htb]
\begin{center}
\includegraphics[scale=.99]{fig_domfondsldez}%
\caption{}\label{fig_domfondsldez}
\end{center}
\end{figure}

Notons $\Ga=\SL2\ZZ$ et considérons l'action de $\Ga$ sur $\HH$ par homographies. Notons $D$ le sous-ensemble de $\HH$ formé des points $z$ tels que $|z|\geq 1$ et $|\reel z|\leq\nobreak 1/2$. Soient $S=\begin{smallpmatrix} 0 & -1\\ 1 & 0\end{smallpmatrix}$ et $T=\begin{smallpmatrix} 1 & 1\\ 0 & 1\end{smallpmatrix}$, qui appartiennent à $\Ga$ et agissent respectivement sur $\HH$ par $z\mto -1/z$ (fixant~$i$ et échangeant~$-1$ et~$1$, donc agissant sur la géodésique d'extrémités~$-1$ et~$1$ comme la réflexion euclidienne par rapport à l'axe vertical), et par la translation $z\mto z+1$. L'élément~$T$ envoie le bord vertical gauche de $D$ sur bord vertical droit. L'élément~$S$ échange les deux moitiés du bord inférieur de $D$. Les points $\omega=e^{2i\pi/3}$ et $-\overline \omega=e^{i\pi/3}$ appartiennent au bord de $D$ (et en sont les \og coins\fg).

Nous allons montrer que $D$ est un \emph{domaine fondamental}\index{domaine fondamental} pour l'action de $\Ga$ sur $\HH$, \ie que $D$ est l'adhérence de son intérieur, que $\HH=\bigcup_{g\in \Ga} gD$ (c'est-à-dire que $\HH$ est la réunion des images de $D$ par les éléments de $\Ga$), et que ces images sont d'intérieurs deux à deux disjoints (modulo $\{\pm\id\}$).

\bprop\label{prop:domfonpartgeneslde}\mbox{}
\begin{enumerate}
\item
Pour tout $z$ dans $\HH$, il existe $g\in \Ga$ tel que $gz\in D$.

\item
Si deux points distincts $z,z'$ de $D$ sont dans la même orbite par~$\Ga$, alors ou bien $\reel z=\pm 1/2$, $|z|>1$ et $z=z'\pm 1$, ou bien $|z|=1$ et $z'=-1/z$.

\item
Si $z\in D$, alors le stabilisateur $\Ga_z$ de $z$ dans $\Ga$ est $\{\pm\id\}$, sauf si $z=i$ où $\Ga_z=\{\pm\id,\pm \,S\}$, $z=\omega$ où $\Ga_z=\{\pm\id,\pm \,ST,\pm(ST)^2=\pm(ST)^{-1}\}$ et $z=-\overline{\omega}$ où $\Ga_z=\{\pm\id,\pm \,TS,\pm(TS)^2=\pm(TS)^{-1}\}$.

\item
Le groupe $\Ga$ est engendré par $S$ et $T$.
\end{enumerate}
\eprop

\begin{proof}[\proofname\ (voir par exemple \cite{Ser})]\mbox{}
\begin{enumerate}
\item
Soient $\Ga'$ le sous-groupe engendré par $S$ et $T$, et $z\in \HH$. Montrons qu'il existe $\ga'\in\Ga'$ tel que $\ga'\in D$. Soit $\ga\in\Ga'$ tel que $\Im \ga z$ soit maximal, ce qui est possible, car $\Im \ga z=\sfrac{\Im z}{|cz+d|^2}$ si $ \ga= \begin{smallpmatrix} a & b\\ c & d\end{smallpmatrix}$, et le nombre de couples d'entiers $(c,d)$ tels que $|cz+d|$ soit inférieur à un nombre donné est fini. Il existe un entier $n$ tel que $z'=T^n\ga z$ ait une partie réelle dans $[-\frac{1}{2},\frac{1}{2}]$. Alors $z'$ appartient à $D$, car si $|z'|<1$, alors $Sz'= -1/z'$ aurait une partie imaginaire strictement plus grande que $\Im z'=\Im \ga z$, ce qui est impossible. Alors $\ga'=T^n\ga$ convient.

\item[(2) et (3)]
Soient $z\in D$ et $ \ga= \begin{smallpmatrix} a & b\\ c & d\end{smallpmatrix}\in \Ga$ tels que $\ga z\in D$. Quitte à remplacer $(z,\ga)$ par $(\ga z,\ga^{-1})$, nous pouvons supposer que $\Im z\geq \Im \ga z$, donc que $|cz+d|\leq 1$. Puisque $\frac{\sqrt{3}}{2}|c|\leq |c\Im z|\leq |cz+d|$, ceci implique que $c\in\{-1,0,1\}$. Quitte à remplacer $\ga$ par $-\ga$, nous pouvons supposer que $c\geq 0$.

Si $c=0$, alors $d=\pm 1$, et $\ga=\pm\,T^{\pm b}$. Comme les parties réelles de~$z$ et de $\ga z$ sont dans $[-\frac{1}{2},\frac{1}{2}]$, ceci implique ou bien que $b=0$ (auquel cas $\ga=\pm\id$ et $z=\ga z$) ou bien que $b=\pm 1$ et $\ga z= z\pm 1$, auquel cas l'un des réels $\reel z$ et $\reel \ga z$ est égal à $-\sfrac{1}{2}$ et l'autre à $\sfrac{1}{2}$ (et en particulier ils sont distincts).

Supposons maintenant que $c=1$. Si $d=0$, alors $|z|\leq 1$, donc $|z|= 1$. Comme $ad-bc=1$, on en déduit que $b=-1$ et $\ga z=a-1/z$. Comme le cercle unité ne rencontre un de ses translatés par un entier non trivial qu'en~$\omega$ ou $-\overline{\omega}$, on obtient $a=0$ (auquel cas $\ga=\pm\,S$ et $\ga z= z$ si et seulement si $z=i$) ou $a=1$ (auquel cas $\ga=\pm(ST)^2$ et $z=\ga z=\omega$) ou $a=-1$ (auquel cas $\ga=\pm\,ST$, $z=\omega$, et $\ga z=-\overline{\omega}$), ce qui montre le résultat. Si $d\neq 0$, alors~$z$ appartient à l'intersection avec $D$ du disque fermé de centre $-d$ et de rayon~$1$, donc ou bien $d=1$ et $z=\omega$ ou bien $d=-1$ et $z=-\overline{\omega}$.

Si $d=1$ et $z=\omega$, alors $a-b=1$ et $\ga z=a-\sfrac{1}{(z+1)}= a+z$, donc $a=0$ ou $a=1$, ce qui implique le résultat. Le cas $z=-\overline{\omega}$ et $d=-1$ se traite de la même manière.

\item[(4)]
Soient $g\in\Ga$ et $z$ un point intérieur de $D$. Par (1), soit $\ga'\in\Ga'$ tel que $\ga'\ga z\in D$. Alors $\ga'\ga z=z$ par (2), et $\ga'\ga=\pm\id$ par (3), donc $\ga\in\Ga'$ (car $S^2=-\id$).\qedhere
\end{enumerate}
\end{proof}

\begin{rema*}(Voir par exemple \cite{LS} pour la définition d'une présentation de groupe et d'un produit libre de groupe, que l'on ne confondra pas avec un produit direct.) On peut montrer (voir par exemple \cite{Ser}) que le groupe $\Ga$ a pour présentation
$$
\langle s,t \mid s^4=t^6=1,\, s^2=t^3\rangle,
$$
(\ie que $\Ga$ est isomorphe au groupe quotient du groupe libre engendré par $\{s,t\}$ par son plus petit sous-groupe distingué contenant $\{s^4,t^6, s^2t^{-3}\}\,$), et que le groupe $\PSL2\ZZ$ est isomorphe au groupe $(\ZZ/2\ZZ)*(\ZZ/3\ZZ)$.
\end{rema*}

L'action de $\Ga$ sur $\widehat\RR$ est transitive sur $\QQ\cup\{\infty\}$, car si $p/q$ est un élément de~$\QQ$ avec $p,q$ des entiers premiers entre eux, alors par le théorème de Bézout, il existe des entiers $r,s$ tels que $ps-qr=1$, et donc l'élément $g_{p,q}=\begin{smallpmatrix} p & r\\ q& s\end{smallpmatrix}$ de $G$ envoie $\infty$ sur $p/q$. Soit $\H_\infty=\{z\in\CC\sep \Im z\geq 1\}$ et soit $\H_{p/q}$ le disque fermé de rayon $1/(2q^2)$ dans $\HH$ tangent à $\RR$ en $p/q$ et privé de ce point. Alors on vérifie que $\H_{p/q}=g_{p,q}\H_\infty$, car $g_{p,q}^{-1}=\begin{smallpmatrix} s & -r\\ -q& p\end{smallpmatrix}$ envoie $p/q$ sur~$\infty$ et le point $z=(p/q,1/q^2)$ (appartenant à l'horicycle bord de l'horidisque~$\H_{p/q}$) sur un point de l'horicycle bord de $\H_\infty$, car\vspace*{-3pt}
$$
\Im \frac{sz-r}{qz-p}=\frac{\Im z}{|qz-p|^2}=1.
$$
Donc, la famille des horidisques $(\H_r)_{r\in \QQ\cup\{\infty\}}$ est une famille $\Ga$-équivariante d'horidisques d'intérieurs deux à deux disjoints (il~suffit de regarder dans le domaine fondamental~$D$ de $\Ga$, le seul horidisque de cette famille dont l'intérieur rencontre~$D$ est $H_\infty$). Nous appellerons cette famille \emph{maximale}\index{horidisque!famille maximale}\index{famille maximale}, car, en \hbox{regardant} encore dans le domaine fondamental $D$ de $\Ga$, sa réunion est \hbox{maximale} pour l'inclusion parmi les réunions de familles équivariantes d'horidisques d'intérieurs deux à deux disjoints.
\begin{figure}[htb]
\vspace*{-.5\baselineskip}
\begin{center}
\includegraphics[scale=.95]{fig_fameqmaxhori}%
\caption{Famille équivariante maximale d'horidisques d'intérieurs disjoints}\label{fig_fameqmaxhori}
\end{center}
\vspace*{-.5cm}
\end{figure}

\smallskip
$\bbullet$ \alineabullet{Action sur les formes quadratiques}.
\par\nopagebreak
Nous munissons $\RR^n$ de sa base canonique et de son produit scalaire euclidien usuel $\langle \cdot,\cdot\rangle$. Rappelons que l'application de $\OGL(\RR^n)$ dans $\GL n\RR$, qui à un automorphisme linéaire associe sa matrice dans la base canonique, est un isomorphisme de groupes topologiques. Notons~$\Q$ l'espace vectoriel des formes quadratiques sur $\RR^n$, qui est isomorphe à l'espace vectoriel $\Scal$ des matrices symétriques réelles $n\times n$, par l'application qui à une forme quadratique~$q$ associe sa matrice~$Q$ dans la base canonique, où $q(x)=\langle Qx,x\rangle$ pour tout vecteur~$x$ dans~$\RR^n$.

Le groupe $\OGL(\RR^n)$ agit (continûment, à droite) sur $\Q$ par $(g,q)=q\circ g$. Par les isomorphismes ci-dessus, le groupe $\GL n\RR$, et donc $G=\SL n\RR$, agit (continûment, à droite) sur $\Scal$ par $(g,Q)\mto {}^t g\,Q\,g$. Par le théorème de Sylvester, deux formes quadratiques sont dans la même orbite sous $\OGL(\RR^n)$ si et seulement si elles ont la même signature $(p,p',p'')$ avec $p+p'+p''=n$ où $p$ (\resp $p'$) est la dimension maximale d'un sous-espace vectoriel de $\RR^n$ sur lequel la forme quadratique est définie positive (\resp négative, mais les conventions diffèrent), et~$p''$ est la dimension du noyau de $q$, \ie du sous-espace vectoriel des \hbox{$x\!\in\!\RR^n$} tels que $\varphi_q(x,y)=0$ pour tout $y$ dans $\RR^n$, où~$\varphi_q$ est la forme bilinéaire symétrique associée à $q$. Rappelons que $q$ est non dégénérée si et seulement si $p''=0$, et nous noterons alors $(p,p'=n-p)$ la signature.

Le sous-espace $\Q_{p,n-p}$ de $\Q$ des formes quadratiques non dégénérées de signature $(p,n-p)$ est ouvert dans $\Q$, donc localement compact. Le sous-espace $\Q^{(1)}_{p,n-p}$ des formes quadratiques dans $\Q_{p,n-p}$, dont le carré du déterminant de la matrice associée est $1$, est fermé dans $\Q_{p,n-p}$, donc est localement compact.

L'action de $\OSL(\RR^n)$ préserve $\Q^{(1)}_{p,n-p}$, et est transitive. En effet, si $q_1,q_2\in \Q^{(1)}_{p,n-p}$ alors il existe $g$ dans $\OGL(\RR^n)$ tel que $q_2=q_1\circ g$. Ceci implique en particulier que $(\det g)^2=1$, donc que $\det g=\pm 1$. Quitte à multiplier (à gauche) $g$ par un automorphisme préservant $q_1$ de la forme $e_1\mto -e_1$, $e_i\mto e_i$ pour $i\geq 2$, où $(e_1,\dots, e_n)$ est une base dans laquelle $q_1$ est de la forme $x_1^2+\dots +x_p^2-x_{p+1}^2-\dots -x_n^2$, on a $\det g= 1$ et $q_2=q_1\circ g$.

De même, le sous-espace $\Scal^{(1)}_{p,n-p}$ de $\Scal$, formé des matrices symétriques de signature $(p,n-p)$ et de carré du déterminant $1$, est localement compact, et l'action de $G=\SL n\RR$ dessus est transitive. Le stabilisateur d'un élément $\sigma_0$ de $\Scal$ dans $G$ est le sous-groupe spécial orthogonal $\SO(\sigma_0)$ des éléments $g\in G$ tels que ${}^tg\sigma_0g=\sigma_0$. Ainsi pour tout $\sigma_0$ dans $\Scal^{(1)}_{p,n-p}$, comme l'action de $G$ sur~$\Scal$ est à droite, par la proposition \ref{prop:bijectioncanonique}, la bijection canonique
$$
\Theta_{\sigma_0}:\SO(\sigma_0)\backslash G\to \Scal^{(1)}_{p,n-p}
$$
induite par $g\mto {}^tg\sigma_0g$ est un homéomorphisme $G$-équivariant.

\smallskip
$\bbullet$ \alineabullet{Action sur les réseaux unitaires}.
\par\nopagebreak
Pour tout élément $\Lambda$ de $\R_1(\RR^n)$ et $g$ dans $G=\SL n\RR$, l'image~$g(\Lambda)$ de~$\Lambda$ par $g$ est encore un réseau de $\RR^n$ (car discret et engendrant~$\RR^n$ comme espace vectoriel) unitaire (car $g$ qui préserve le volume, car de déterminant~$1$, envoie le parallélotope d'une $\ZZ$-base de $\Lambda$ sur le parallélotope d'une $\ZZ$-base de $g(\Lambda)\,$). Donc l'application de $G\times \R_1(\RR^n)\to \R_1(\RR^n)$ définie par $(g,\Lambda)\mto g\Lambda=g(\Lambda)$ est une action (à gauche) de~$G$ sur $\R_1(\RR^n)$.

\blemm
Cette action est continue pour la topologie de Chabauty sur $\R_1(\RR^n)$.
\elemm

\begin{proof}
Soit $(g_0,\Lambda_0)\in G\times\R_1(\RR^n)$, et montrons que l'action est continue en $(g_0,\Lambda_0)$. Soient $K$ un compact et $U$ un ouvert de~$\RR^n$. Si $g_0\Lambda_0\in O_K$, alors comme $g_0\Lambda_0$ est fermé et disjoint de $K$, il~existe par continuité de l'action linéaire de $G$ sur $\RR^n$, un voisinage compact $V$ de $e$ dans $G$, tel que $g_0\Lambda_0 \cap V^{-1}K=\emptyset$. Le sous-ensemble $Vg_0\times O_{g_0^{-1}V^{-1}K}$ est un voisinage de $(g_0,\Lambda_0)$ dans $G\times\R_1(\RR^n)$, car $g_0^{-1}V^{-1}K$ est compact et ne rencontre pas~$\Lambda_0$. Pour tout $(g,\Lambda)$ dans cet ensemble, on a $g=ug_0$ avec $u\in V$, et $\Lambda\cap g_0^{-1}u^{-1}K=\emptyset$, donc $g\Lambda\in O_K$. De même, si $g_0\Lambda_0\in O'_U$, alors il existe par continuité de l'action linéaire de $G$ sur $\RR^n$, un voisinage ouvert $V$ de $e$ dans~$G$ et un ouvert $U'$ de $\RR^n$ rencontrant $g_0\Lambda_0$, tel que $VU'\subset U$. Considérons $Vg_0\times O'_{g_0^{-1}U'}$, qui est un voisinage de $(g_0,\Lambda_0)$ dans $G\times\R_1(\RR^n)$, car l'ouvert $g_0^{-1}U$ rencontre $\Lambda_0$. Pour tout $(g,\Lambda)$ dans $Vg_0\times O'_{g_0^{-1}U'}$, on~a $g=ug_0$ avec $u\in V$, et $\Lambda\cap g_0^{-1}U'\neq\emptyset$, donc $ug_0\Lambda\cap uU'\neq\emptyset$, d'où $g\Lambda\in O'_U$. Le résultat en découle.
\end{proof}

\begin{rema*}
Une autre preuve est possible, en utilisant la proposition~\ref{prop:disthaussurcomp}. Il suffit de montrer que si une suite $(g_i,\Lambda_i)_{i\in\NN}$ converge vers $(g,\Lambda)$ dans $G\times\nobreak\R_1(\RR^n)$, alors $(g_i\Lambda_i)_{i\in\NN}$ converge vers $g\Lambda$ dans $\R_1(\RR^n)$. Or si $x\in g\Lambda$, alors $x=gy$ avec $y\in\Lambda$, et il existe $y_i\in\Lambda_i$ tels que $y_i\to y$ quand $i\to\infty$, donc par continuité de l'action linéaire, $g_iy_i\to gy=x$. Réciproquement, si $g_{i_k}y_{i_k}$, avec $y_{i_k} \in \Lambda_{i_k}$, converge vers $x\in \RR^n$, alors comme $g_i\to g$, les $y_{i_k}$ restent dans un compact de~$\RR^n$ donc convergent quitte à extraire vers un élément $y$ de~$\RR^n$, qui appartient à $\Lambda$ car $\Lambda_i\to \Lambda$. Donc par passage à la limite, $x=gy$, et~$x$ appartient à $g\Lambda$.
\end{rema*}

Le stabilisateur du réseau $\ZZ^n$ est le sous-groupe $\Ga=\SL n\ZZ$. Ainsi par la proposition \ref{prop:bijectioncanonique}, la bijection canonique
$$
\Theta_{\ZZ^n}:G/\Ga=\SL n\RR/\SL n\ZZ\to \R_1(\RR^n)
$$
induite par $g\mto g\ZZ^n$ est un homéomorphisme $G$-équivariant.

\section{De la topologie de \texorpdfstring{$\SL{2}{\RR}/\SL{2}{\ZZ}$}{SL2}} \label{sec:topsl2sursl2}

Donnons dans cette partie une idée de la structure topologique de l'espace $G/\Ga=\SL2\RR/\SL2\ZZ\simeq \R_1(\RR^2)$.

\Subsection{Approche topologique}
Par la proposition \ref{prop:propbasetopquot}, nous savons déjà que cet espace est connexe, séparable, localement compact, et localement homéomorphe à $\RR^3$, car~$G$ l'est.

Notons $\SS_3=\{(z_1,z_2)\in\CC^2\sep |z_1|^2+|z_2|^2=1\}$ la sphère unité de $\RR^4=\CC^2$. L'application $\SS_1\to\SS_3$ du cercle dans la sphère de dimension~$3$ définie par $e^{i\theta}\mto \frac{1}{\sqrt{2}}(e^{2i\theta},e^{3i\theta})$ est une application continue injective d'un espace compact dans un espace séparé, donc est un homéomorphisme sur son image. Cette image $K_\trefle$ est appelé le \emph{n{\oe}ud de trèfle}.\index{n{\oe}ud de trèfle} Montrons que
\begin{align*}
K_\trefle&=\{(z_1,z_2)\in\CC^2\sep |z_1|=|z_2|=\sfrac{1}{\sqrt{2}},\, (\sqrt{2}\,z_1)^3=(\sqrt{2}\,z_2)^2\} \\
&=\{(z_1,z_2)\in\CC^2\sep |z_1|^2+|z_2|^2=1, \, (\sqrt{2}\,z_1)^3=(\sqrt{2}\,z_2)^2\}.
\end{align*}
En effet, $K_\trefle$ est clairement contenu dans le troisième ensemble. Si $(z_1,z_2)$ est un élément du troisième ensemble, alors $|z_2|^2=\sqrt{2}\,|z_1|^3$, et l'unique solution positive de l'équation $x^2+\sqrt{2}\,x^3=1$ étant $\sfrac{1}{\sqrt{2}}$, on a $|z_1|=|z_2|=\sfrac{1}{\sqrt{2}}$, donc $(z_1,z_2)$ appartient au second ensemble. Enfin, un élément du second ensemble est de la forme $\frac{1}{\sqrt{2}}(e^{i\psi},e^{i\phi})$ avec $e^{3i\psi}= e^{2i\phi}$. Donc quitte à changer $\phi$ par un multiple entier de~$\pi$, on a $3\psi=2\phi$. En posant $\theta=\psi/2=\phi/3$, ceci montre que le second ensemble est contenu dans $K_\trefle$.

\begin{figure}[htb]
\begin{center}
\includegraphics[scale=.85]{fig_divtrefles}
\caption{Diverses représentations du n\oe ud de trèfle (et~un~intrus!)}\label{fig_divtrefles}
\end{center}
\end{figure}

La sphère $\SS_3$ est homéomorphe au compactifié d'Alexandrov \hbox{$\RR^3\cup\{\infty\}$} de $\RR^3$, par la projection stéréographique de pôle $(0,0,0,1)$, qui envoie $(0,0,0,1)$ sur~$\infty$ et un point $u$ de $\SS_3$ différent de $(0,0,0,1)$ sur l'intersection avec $\RR^3\times \{0\}$ de la droite passant par $(0,0,0,1)$ et~$u$ (voir la figure \ref{fig_projstertorrev} ci-dessous). Son expression analytique est
$$
(x_1,x_2,x_3,x_4)\mto \frac{1}{1-x_4}(x_1,x_2,x_3).
$$
(C'est bien un homéomorphisme, car elle est continue et bijective de l'espace compact $\SS_3$ dans l'espace séparé $\RR^3\cup\{\infty\}$). Un petit calcul montre que l'image du tore
$$
\TT^2=\{(z_1,z_2)\in\CC^2\sep |z_1|=|z_2|=\sfrac{1}{\sqrt{2}}\}
$$
par cette projection stéréographique est le tore de révolution
$$
\T=\{(x,y,z)\in\RR^3\sep \big(\sqrt{x^2+y^2} -\sqrt{2}\,\big)^2 +z^2=1\},
$$
obtenu en faisant tourner autour de l'axe des $z$ le cercle du plan d'équation $y=0$ de centre $(\sqrt{2},0,0)$ et de rayon $1$. L'image du n{\oe}ud de trèfle $K_\trefle$, qui est un cercle topologique plongé dans $\TT^2$, est (voir la figure \ref{fig_projstertorrev} ci-dessous) un cercle topologique plongé dans le tore de révolution $\T$, entourant deux fois l'axe vertical, et entourant trois fois l'âme du tore de révolution, \ie le cercle du plan horizontal d'équation $x^2+y^2=2$. Les multiples représentations ci-dessus sont donc bien (hormis l'intrus !) des images du n{\oe}ud de trèfle. La sphère $\SS_3$ est réunion de
$$
\TT^2_-=\{(z_1,z_2)\in\SS^3\sep |z_1|\geq |z_2|\},
$$
qui s'envoie sur le tore plein de révolution
$$
\T_-=\{(x,y,z)\in\RR^3\sep \big(\sqrt{x^2+y^2} -\sqrt{2}\,\big)^2 +z^2\leq 1\},
$$
et de
$$
\TT^2_+=\{(z_1,z_2)\in\SS^3\sep |z_1|\leq |z_2|\},
$$
qui s'envoie sur
$$
\T_+=\{(x,y,z)\in\RR^3\sep \big(\sqrt{x^2+y^2} -\sqrt{2}\,\big)^2 +z^2\geq 1\}\cup\{\infty\}.
$$
L'application $(z_1,\!z_2)\!\mto\!\! (z_2,\!z_1)$ est un homéomorphisme de~$\TT^2_-$~dans~$\TT^2_+$.

\begin{figure}[htb]
\begin{center}
\includegraphics[scale=.9]{fig_projstertorrev}%
\caption{Projection stéréographique et n\oe ud de trèfle}\label{fig_projstertorrev}
\end{center}
\end{figure}

\btheo\label{theo:resdimdehomeoctrefl} L'espace topologique $\SL2\RR/\SL2\ZZ\simeq \R_1(\RR^2)$ des réseaux unitaires de $\RR^2$ est homéomorphe au complémentaire $\SS_3\moins K_\trefle$ du n{\oe}ud de trèfle dans $\SS_3$.
\etheo

\begin{proof}
Tout d'abord $\SL2\RR/\SL2\ZZ$ et $\PSL2\ZZ\backslash\PSL2\RR$ sont homéomorphes, et nous travaillerons avec le second quotient.

Une \emph{direction}\index{direction} dans $\HH$ est un couple $(z,v)$ formé d'un point~$z$ de~$\HH$ et d'une direction de droite $v$ de $\RR^2$, et nous identifions l'espace $T_1\HH$\index{T@$T_1\HH$} de ses directions avec $\HH\times\SS_1$ en repérant les directions de droites par leurs angles avec l'horizontale. Pour toute direction $(z,v)$, il est facile de voir géométriquement qu'il existe une unique géodésique (orientée)~$L$ de $\HH$ passant par $z$, telle que la direction de la droite tangente en $z$ à $L$ soit $v$ (voir la figure \ref{fig_fibtangunit} ci-dessous).

Comme toute homographie de $\HH$ est un difféomorphisme de l'ouvert $\HH$, le groupe $\PSL2\RR$ agit (continûment, à gauche) sur l'espace des directions sur $\HH$ par $(g,(z,v))\mto (g(z),\sfrac{dg_z(v)}{|dg_z(v)|})$. Si $g$ est l'homographie $z\mto \sfrac{(az+b)}{(cz+d)}$, notons que $dg_z:\CC\to\CC$ est l'application linéaire de multiplication par le nombre complexe $\sfrac{1}{(cz+d)^2}$. Par exemple, si $g:z\mto -\sfrac{1}{z}$, alors $g$ agit sur $T_1\HH$ par $(z,v)\mto (-\sfrac{1}{z},(\sfrac{|z|^2}{z^2})v)$ et $dg_i$ vaut l'antipodie $v\mto -v$; si $g:z\mto -\sfrac{1}{(z+1)}$ et $\omega=e^{2i\pi/3}$, alors $dg_\omega$ vaut la rotation $v\mto \omega^2 v$ d'angle $-2\pi/3$.\enlargethispage{\baselineskip}%

Considérons l'application qui à un triplet de points distincts cycliquement ordonnés $(\xi_-,\xi_+,\eta)$ dans $\widehat\RR$ associe l'unique direction $(z,v)$ où $z$ est le point de la géodésique $L$ d'extrémités $\xi_-,\xi_+$ tel que la géodésique passant par $z$ et dont une extrémité est $\eta$ soit orthogonale à $L$, et où $v$ est la direction de (la droite tangente en $z$ à) $L$ vers $\xi_+$.
\begin{figure}[htb]
\vspace*{-.5\baselineskip}
\begin{center}
\begin{picture}(0,0)%
\includegraphics{fig_fibtangunit}%
\end{picture}%
\setlength{\unitlength}{3315sp}%
%
\begingroup\makeatletter\ifx\SetFigFont\undefined%
\gdef\SetFigFont#1#2#3#4#5{%
  \reset@font\fontsize{#1}{#2pt}%
  \fontfamily{#3}\fontseries{#4}\fontshape{#5}%
  \selectfont}%
\fi\endgroup%
\begin{picture}(2769,1534)(34,-2126)
\put(2315,-780){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$v$}%
}}}}
\put(1553,-1718){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\xi_-$}%
}}}}
\put(117,-1721){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\eta$}%
}}}}
\put(2558,-1718){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\xi_+$}%
}}}}
\put(1834,-915){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$z$}%
}}}}
\end{picture}%
\vspace*{-1cm}
\caption{$T_1\HH\simeq \PSL2\RR$}\label{fig_fibtangunit}
\end{center}
\end{figure}

\vspace*{-.5\baselineskip}
Il est facile de voir géométriquement que cette application est un homéomorphisme équivariant pour les actions de $\PSL2\RR$. Comme $\PSL2\RR$ agit simplement transitivement sur les triplets de points cyclique\-ment ordonnés de~$\widehat\RR$, l'action de $\PSL2\RR$ sur $T_1\HH$ est aussi simplement transitive. Donc par la proposition \ref{prop:bijectioncanonique}, il existe un homéomorphisme $\PSL2\RR$-équivariant entre les espaces $\PSL2\RR$ et~$T_1\HH$.

\smallskip
Montrons donc que $\PSL2\ZZ\backslash T_1\HH$ et $\SS_3\moins K_\trefle$ sont homéomorphes, ce qui impliquera le théorème \ref{theo:resdimdehomeoctrefl}.

Tout d'abord, si $X_-$ et $X_+$ sont deux espaces topologiques compacts, $Y_\pm$ un fermé de $X_\pm$ et $f:Y_-\to Y_+$ un homéomorphisme, alors \emph{l'espace recollement\index{recollement} de $X_-$ et $X_+$ par $f$}, noté $X_-\somdis_f\, X_+$, est l'espace topologique quotient de l'espace somme disjointe $X_-\somdis X_+$ par la relation d'équivalence $\approx$ engendrée par la relation $x\sim y$ si $f(x)=y$ (donc $x\approx y$ si et seulement si ($x=y$) ou ($x\in Y_-$ et $y=f(x)$) ou ($y\in Y_-$ et $f(y)=x$)).

\begin{exer*}\mbox{}
\begin{enumerate}
\item
Montrer que $X_-\somdis_f X_+$ est encore séparé, donc compact.

\item
Si $X$ est un espace topologique compact, $F_-,F_+$ deux fermés de $X$ de réunion $X$, et $\id:F_-\cap F_+\to F_-\cap F_+$ l'application identité, montrer que $X$ et l'espace recollement $F_-\somdis_{\id}F_+$ sont homéomorphes.

\item
Soient $X_-,X_+,X'_-,X'_+$ des espaces topologiques compacts contenant des fermés $Y_-,Y_+,Y'_-,Y'_+$ respectivement, et
\[
\varphi_-: X_-\to X'_-,\;\; \varphi_+: X_+\to X'_+,\;\; f: Y_-\to Y_+,\;\; f': Y'_-\to Y'_+
\]
des homéomorphismes. Montrer que si le diagramme suivant commute
$$
\xymatrix@C=1.3cm{
Y_- \ar[r]^-{{\varphi_-}_{\mid Y_-}}\ar[d]_f& Y'_-\ar[d]^{f'}
\\ Y_+ \ar[r]^-{{\varphi_+}_{\mid Y_+}} & Y'_+
}
$$
alors $X_-\somdis_f\, X_+$ et $X'_-\somdis_{f'}\, X'_+$ sont homéomorphes.
\end{enumerate}
\end{exer*}

\begin{sol*}\mbox{}
\begin{enumerate}
\item
C'est un exercice classique de montrer que si $X$ est un espace topologique compact et $\R$ une relation d'équivalence fermée (en tant que partie de $X\times X$), alors l'espace topologique quotient $X/\R$ est séparé. Il est donc compact (par continuité de la projection canonique). Ici, comme $Y_\pm$ est fermé et $f$ continue, il est immédiat que la relation d'équivalence $\simeq$ sur l'espace topologique compact $X_-\somdis X_+$ est fermée. Le premier résultat en découle.

\item
L'application de $F_-\somdis F_+$ dans $X$, valant $x\mto x$ sur $F_-$ et sur $F_+$ est continue et surjective. Elle induit par passage au quotient une bijection continue de l'espace topologique compact $F_-\somdis_f\, F_+$ sur l'espace séparé $X$, qui est donc un homéomorphisme.

\item
L'application $\widetilde{\varphi}:(X_-\somdis X_+)\ra(X'_-\somdis X'_+)$ définie par $\widetilde{\varphi}_{\mid X_-}=\varphi_-$ et $\widetilde{\varphi}_{\mid X_+}=\varphi_+$ est continue, surjective. Par continuité du diagramme, elle induit par passage au quotient une bijection continue de l'espace compact $X_-\somdis_f\, X_+$ sur l'espace séparé $X'_-\somdis_{f'}\, X'_+$, qui est donc un homéomorphisme.
\end{enumerate}
\end{sol*}

\smallskip
Par exemple, la sphère $\SS_3$ est homéomorphe à un recollement de deux tores pleins: comme $\SS_3$ est la réunion de $\TT^2_-$ et $\TT^2_+$, et
\[
\TT^2_-\cap\TT^2_+=\partial \TT^2_-=\partial \TT^2_+=\TT^2,
\]
la sphère $\SS_3$ est homéomorphe à l'espace recollement $\TT^2_-\somdis_{\id}\TT^2_+$, des tores pleins $\TT^2_-$ et $\TT^2_+$ par l'homéomorphisme identité $\id:\TT^2\to \TT^2$.

\begin{figure}[htb]
\begin{center}
\includegraphics[scale=.95]{fig_figunittang}%
\caption{Espace des directions de $\HH$ modulo $\PSL2\ZZ$}\label{fig_figunittang}
\end{center}
\end{figure}

Pour comprendre l'espace $\PSL2\ZZ\backslash T_1\HH$, il suffit de regarder les directions en des points du domaine fondamental $D$. En un point du bord de $D$, il suffit de regarder les directions rentrantes dans $D$ (au sens large), et d'identifier celles tangentes au bord de $D$ par les identifications sur ce bord. Considérons l'ensemble de ces directions en un point de partie réelle $\pm 1/4$ et de valeur absolue au moins $1$. Le complémentaire de son image $A$ dans $\PSL2\ZZ\backslash T_1\HH$ possède alors deux composantes connexes, celle contenant l'image des directions en~$i$, et celle contenant l'image des directions en $\omega=e^{\sfrac{2i\pi}{3}}$, dont on note les adhérences~$\tau_i$ et~$\tau_\omega$ respectivement.

Notons $\overline{\DD}=\{z\in\CC\sep |z|\leq 1\}$ le disque unité fermé et ${\mathfrak T}_i$ l'espace topologique quotient
$$
{\mathfrak T}_i= (\overline\DD\times\SS_1)/(\ZZ/2\ZZ)
$$
où $\pm\!\in\! \ZZ/2\ZZ$ agit par $(x,y)\!\mto\! \pm (x,y)$, et $C_i$ l'image de \hbox{$\{-1,+1\}\!\times\!\SS_1$} dans~${\mathfrak T}_i$. On vérifie facilement que l'espace ${\mathfrak T}_i$ est séparé, donc compact. De même, notons ${\mathfrak T}_\omega$ l'espace topologique quotient compact
$$
{\mathfrak T}_\omega= (\overline\DD\times\SS_1)/(\ZZ/3\ZZ)
$$
où $n\in \ZZ/3\ZZ$ agit par $(x,y)\mto (\omega^n x,\omega^n y)$. Soit $C_\omega$ l'image de $\{1,\omega,\omega^2\}\times\SS_1$ dans ${\mathfrak T}_\omega$.

\begin{figure}[htb]
\begin{center}
\includegraphics[scale=.98]{fig_recoltordetr}%
\caption{Tores ${\mathfrak T}_\omega$ et ${\mathfrak T}_i$ à recoller}\label{fig_recoltordetr}
\end{center}
\end{figure}

Il est facile de montrer (voir les figures \ref{fig_figunittang} et \ref{fig_recoltordetr}) que $\tau_i$ est homéomorphe à $ {\mathfrak T}_i\moins C_i$ et $\tau_\omega$ à $ {\mathfrak T}_\omega\moins C_\omega$, de sorte qu'un point de $A=\tau_-\cap\tau_\omega$ s'envoie sur l'image de $(z,v)$ dans ${\mathfrak T}_i$, et sur l'image de $(z^{-\sfrac{2}{3}}, z^{\sfrac{1}{3}}v)$ dans ${\mathfrak T}_\omega$ (ce qui ne dépend pas du choix des représentants), avec $z,v$ parcourant $\SS_1$.

L'application de $\overline\DD\times\SS_1$ dans $\TT^2_+$ définie par
$$
(z,v)\mto \frac{1}{\sqrt{2}}\,(zv^3,\sqrt{2-|z|^2}\,v^2)
$$
est continue. On vérifie par calcul qu'elle est surjective, et que $(z,v)$ et $(-z,-v)$ sont les seuls points qui aient la même image. Donc elle induit par passage au quotient une bijection continue de l'espace compact ${\mathfrak T}_i$ dans l'espace séparé $\TT^2_+$, qui par conséquent est un homéomorphisme $\varphi_i: {\mathfrak T}_i\to \TT^2_+$. Celui-ci envoie le cercle topologique $C_i$ sur $K_\trefle$, par définition de $K_\trefle$. De même, l'application de $\overline\DD\times\SS_1$ dans $\TT^2_+$ définie par
$$
(z',v')\mto \frac{1}{\sqrt{2}}\,(\sqrt{2-|z'|^2}\,{v'}^3,z'{v'}^2)
$$
est continue, surjective, telle que $(z',v'),(\omega z',\omega v'),(\omega^2 z',\omega^2 v')$ soient les seuls points qui aient la même image. Donc elle induit par passage au quotient un homéomorphisme $\varphi_\omega: {\mathfrak T}_\omega\to \TT^2_-$, qui envoie le cercle topologique $C_\omega$ sur~$K_\trefle$. De plus, le point image de $(z,v)\!\in\!\SS_1\!\times\!\SS_1$ dans~${\mathfrak T}_i$ et le point image de $(z',v')=(z^{-\sfrac{2}{3}}, z^{\sfrac{1}{3}}v)$ dans ${\mathfrak T}_\omega$ s'envoient sur le même point de $\TT^2=\TT^2_-\cap\TT^2_+$. En utilisant l'exercice précédent, le résultat en découle.
\end{proof}

\begin{rema*}
Bien que cette remarque ne soit pas utile pour le reste de la lecture, donnons un autre modèle topologique de $\SS_3\moins K_\trefle\simeq\SL2\RR/\SL2\ZZ\simeq \R_1(\RR^2)$. Soient $Y_\pm$ deux fermés disjoints d'un même espace topologique $X$, et \hbox{$f:Y_-\to Y_+$} un homéomorphisme. On définit le \emph{recollement}\index{recollement} de $X$ par $f$ comme l'espace topologique quotient de $X$ par la relation d'équivalence $\approx$ (définie de la même manière que pour le recollement de deux espaces topologiques), qui est la relation d'équivalence engendrée par la relation $x\sim y$ si $f(x)=y$ (donc $x\approx y$ si et seulement si ($x=y$) ou ($x\in Y_-$ et $y=f(x)$) ou ($y\in Y_-$ et $f(y)=x$)).

Considérons le cylindre $\overline{\DD}\times[0,1]$. Pour tout $\sfrac{p}{q}\in\QQ$, avec $p,q$ premiers entre eux et $q>0$, considérons l'application $f:\overline{\DD}\times\{0\}\to\overline{\DD}\times\{1\}$ définie par
$$
(z,0)\mto(z\,e^{2i\pi \sfrac{p}{q}},1),
$$
qui est la rotation de $\sfrac{p}{q}$ tour entre le disque inférieur et le disque supérieur. Notons ${\mathfrak T}_\sfrac{p}{q}$ l'espace topologique recollement du cylindre $X=\overline{\DD}\times[0,1]$ par~$f$. Il est compact (par un raisonnement analogue à celui de l'exercice~(1) précédent). Il est homéomorphe à un tore plein $\overline{\DD}\times\SS_1$, dont l'âme est l'image du segment vertical $\{0\}\times [0,1]$. Mais si $q>1$, c'est le seul segment vertical dont l'image est un cercle topologique. Si $\UU_q\subset \SS^1\subset\overline\DD$ est l'ensemble des racines $q$-èmes de l'unité, alors l'image des $q$ segments verticaux $\UU_q\times[0,1]$ dans ${\mathfrak T}_\sfrac{p}{q}$ est un cercle topologique, que nous noterons $C_\sfrac{p}{q}$.
\begin{figure}[htb]
\begin{center}
\begin{picture}(0,0)%
\includegraphics{fig_seifert}%
\end{picture}%
\setlength{\unitlength}{3315sp}%
%
\begingroup\makeatletter\ifx\SetFigFont\undefined%
\gdef\SetFigFont#1#2#3#4#5{%
  \reset@font\fontsize{#1}{#2pt}%
  \fontfamily{#3}\fontseries{#4}\fontshape{#5}%
  \selectfont}%
\fi\endgroup%
\begin{picture}(3180,3814)(3811,-3316)
\put(4074,-23){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$1$}%
}}}}
\put(4081,-1763){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$0$}%
}}}}
\put(3826,-1329){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$[0,1]$}%
}}}}
\put(6001,142){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\sfrac{2\pi p}{q}$}%
}}}}
\put(6976,-1006){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}${\mathfrak T}_\sfrac{p}{q}$}%
}}}}
\put(6841,-2671){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\UU_q$}%
}}}}
\put(4419,-996){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$C_\sfrac{p}{q}$}%
}}}}
\put(5446,-2716){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$0$}%
}}}}
\put(4711,-2851){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\overline{\DD}$}%
}}}}
\end{picture}%
\vspace*{-.8cm}
\caption{Fibré de Seifert élémentaire}\label{fig_seifert}
\end{center}
\end{figure}

Plus généralement, les segments verticaux, différents du central, se recollent par paquet de $q$ pour écrire ${\mathfrak T}_\sfrac{p}{q}$ comme une union d'une famille de cercles topologiques, appelée \emph{fibré de Seifert}\index{fibré de Seifert} élémentaire de type $p/q$.

Considérons $s:\TT^2\!\to\! \TT^2$ l'homéomorphisme involutif \hbox{$(x,y)\!\mto\! (y,x)$}. Il est facile de montrer que l'application $\psi$ de $\overline{\DD}\times[0,1]$ dans~$\TT^2_+$ définie par
$$
(\rho \,e^{i\theta},t)\mto \Big(\frac{\rho\,e^{i\theta}}{\sqrt{2}}\, e^{-i\sfrac{2\pi pt}{q})},\sqrt{1-\sfrac{\rho^2}{2}}\, e^{-2i\pi t}\Big)
$$
est continue, surjective, et vérifie $\psi(z,t)\!=\!\psi(z',t')$ si et seulement si ou bien $(z,t)\!=\!(z',t')$, ou bien $t\!=\!0$, $t'\!=\!1$ et \hbox{$z'\!=\!ze^{2i\pi\sfrac{p}{q}}$}, ou bien $t\!=\!1$, $t'=\nobreak0$ et \hbox{$z\!=\!z'e^{2i\pi\sfrac{p}{q}}$}. Par conséquent, $\psi$ passe au quotient en une bijection continue $\varphi_\sfrac{p}{q}: {\mathfrak T}_\sfrac{p}{q}\to\TT^2_+$ entre deux espaces compacts. Donc $\varphi_\sfrac{p}{q}$ est un homéomorphisme, dont on notera encore $\varphi_\sfrac{p}{q}:\partial {\mathfrak T}_\sfrac{p}{q}\to\TT^2$ la restriction au bord. Remarquons que $\varphi_\sfrac{2}{3}$ envoie $C_\sfrac{2}{3}$, qui est l'image de \hbox{$\big\{e^{\sfrac{2ik\pi}{3}}\sep k\in\ZZ\big\}\times[0,1]$} dans ${\mathfrak T}_\sfrac{2}{3}$, sur
$$
K_\trefle=\{(z_1,z_2)\in\CC^2\sep (\sqrt{2}\,z_1)^3=(\sqrt{2}\,z_2)^2, \, |z_1|=|z_2|=\sfrac{1}{\sqrt{2}}\}.
$$
De même, $s\circ\varphi_\sfrac{3}{2}$ envoie $C_\sfrac{3}{2}$ sur $K_\trefle$.

Soit $g=\varphi_\sfrac{2}{3}^{-1}\circ s\circ\varphi_\sfrac{3}{2}: \partial {\mathfrak T}_\sfrac{3}{2}\to \partial {\mathfrak T}_\sfrac{2}{3}$, qui est un homéomorphisme. De plus, $g$ envoie $C_\sfrac{3}{2}$ sur $C_\sfrac{2}{3}$ (et même la famille de cercles topologiques de $\partial {\mathfrak T}_\sfrac{3}{2}$ sur celle de $\partial {\mathfrak T}_\sfrac{2}{3}$). Notons $X_\mathrm{mod}$ l'espace topologique obtenu en recollant la réunion disjointe de ${\mathfrak T}_\sfrac{3}{2}$ et ${\mathfrak T}_\sfrac{2}{3}$ par $g$. Nous noterons $C_{2,3}$ l'image commune de $C_\sfrac{3}{2}$ et $C_\sfrac{2}{3}$ dans $X_\mathrm{mod}$.

Montrons que l'espace $X_\mathrm{mod}$ est homéomorphe à $\SS_3$, et donc que $\SS_3\moins K_\trefle$ est homéomorphe à $X_\mathrm{mod}\moins C_{2,3}$. Par l'exercice précédent, l'espace $X_\mathrm{mod}$ est compact. L'application de $ {\mathfrak T}_\sfrac{3}{2}\somdis{\mathfrak T}_\sfrac{2}{3}$ dans $\SS_3$ qui vaut $\varphi_\sfrac{3}{2}$ sur ${\mathfrak T}_\sfrac{3}{2}$ (d'image~$\TT^2_+$) et $s\circ\varphi_\sfrac{2}{3}$ sur ${\mathfrak T}_\sfrac{2}{3}$ (d'image~$\TT^2_-$) est continue, surjective. Elle passe au quotient dans le recollement pour donner une bijection continue entre espaces compacts, donc un homéomorphisme entre $X_\mathrm{mod}$ et $\SS_3$, envoyant $C_{2,3}$ sur $K_\trefle$, donc induisant un homéomorphisme entre $X_\mathrm{mod}\moins C_{2,3}$ et $\SS_3\moins K_\trefle$.

Ceci termine la remarque donnant un autre modèle topologique de $\R_1(\RR^2)$.
\end{rema*}

\Subsection{Approche par les séries d'Eisenstein}
Voici une autre manière de montrer le théorème \ref{theo:resdimdehomeoctrefl}. Nous renvoyons à l'article électronique \cite{GL} (dont sont extraits les deux dessins en haut à gauche de la figure \ref{fig_divtrefles}) pour une magnifique illustration graphique de cette preuve. Voir aussi \cite{PH} et \cite[p.\,84]{Mil} où J.~Milnor attribue la preuve qui suit à D.~Quillen.

Pour tout réseau $\Lambda$ de $\RR^2=\CC$, considérons les séries, dites \emph{d'Eisenstein},\index{série d'Eisenstein} de nombres complexes
$$
g_2(\Lambda)=60\sum_{w\in\Lambda\moins\{0\}}\frac{1}{w^4},\quad g_3(\Lambda)=140\sum_{w\in\Lambda\moins\{0\}}\frac{1}{w^6}\,,
$$
et posons
$$
\Delta(\Lambda)= g_2(\Lambda)^3- 27 g_3(\Lambda)^2,
$$
appelé le \emph{discriminant} de $\Lambda$. Remarquons que pour tout $t\in\CC^*$, on a les propriétés d'homogénéités suivantes:
$$
g_2(t\Lambda)=t^{-4}g_2(\Lambda)\quad\text{et}\quad g_3(t\Lambda)=t^{-6}g_3(\Lambda).
$$
En particulier, comme les réseaux $\ZZ^2=\ZZ+i\ZZ$ et $A_2=\ZZ+e^{2i\pi/3}\ZZ$ sont invariants par la multiplication par $i$ et $e^{2i\pi/3}$, on a (une fois vérifié que les séries $g_2(\Lambda)$ et $g_3(\Lambda)$ convergent, ce que nous faisons ci-dessous),
$$
g_2(A_2)=0 \quad\text{et}\quad g_3(\ZZ^2)=0.
$$

Le résultat suivant dit en particulier que le discriminant d'un réseau est non nul, et que le couple de nombres complexes $(g_2=g_2(\Lambda),g_3=g_3(\Lambda))$ tels que $g_2^3- 27 g_3^2\neq 0$ détermine complètement le réseau $\Lambda$.

\btheo\mbox{}
\begin{enumerate}
\item
L'application de l'espace des réseaux $\R(\RR^2)$ dans $\CC^2\moins\Delta^{-1}(0)$ qui à $\Lambda$ associe $(g_2(\Lambda), g_3(\Lambda))$ est un homéomorphisme.

\item
L'espace $\R_1(\RR^2)$ est homéomorphe à $\SS_3\moins K_\trefle$.
\end{enumerate}
\etheo

\begin{proof}\mbox{}
\begin{enumerate}
\item
Montrons tout d'abord que pour tout $k\!>\!2$, la série
\[
\sum_{w\in\Lambda\moins\{0\}}\frac{1}{w^k}
\]
est absolument convergente, uniformément sur tout compact $M$ de $\R(\RR^2)$. Par le critère de Mahler (corollaire \ref{coro:critmahlerun}), soit $r>0$ tel que tout élément $\Lambda$ de $M$ ne rencontre la boule de centre $0$ et de rayon $r$ qu'en $\{0\}$. Pour tout $\Lambda$ dans~$M$, soit $(w_1,w_2)$ une $\ZZ$-base de $\Lambda$, et remarquons que pour tous les entiers $n$ et $m$, si $\max\{|n|,|m|\}=p$, alors $|nw_1+mw_2|\geq pr$. Donc
$$
\sum_{w\in\Lambda\moins\{0\}}\frac{1}{|w|^k}= \sum_{p=1}^\infty\;\;\sum_{\substack{n,m\in\ZZ\\ \max\{|n|,|m|\}=p}} \frac{1}{|nw_1+mw_2|^k}\;\leq\;\sum_{p=1}^\infty \frac{8p}{(pr)^k},
$$
ce qui montre le résultat. On en déduit facilement que l'application $\Psi:\Lambda\mto(g_2(\Lambda), g_3(\Lambda))$ est bien définie et continue pour la topologie de Chabauty (en séparant la série en une partie finie et un reste uniformément majoré sur un voisinage compact du réseau, et en approchant les points de ce réseau dans la partie finie par des points de réseaux voisins).

\smallskip
La fonction $\wp=\wp_\Lambda$ de Weierstrass est définie par
$$
\wp(z)=\frac{1}{z^2}+\sum_{w\in \Lambda\moins\{0\}} \Bigl(\frac{1}{(z-w)^2}-\frac{1}{w^2}\Bigr).
$$
On montre (voir \cite[Th.\,1.14, p.\,13]{Apo}) que $\wp$ converge absolument et uniformément sur tout compact de $\CC-\Lambda$, et que, si $(w_1,w_2)$ est une $\ZZ$-base de $\Lambda$, alors les racines du polynôme $4z^3-g_2(\Lambda)z-g_3(\Lambda)$ sont $\wp(\sfrac{e_1}{2}),\wp(\sfrac{e_2}{2}),\wp(\sfrac{(e_1+e_2)}{2})$ et qu'elles sont deux à deux distinctes.

Un argument de discriminant montre alors que $\Delta(\Lambda)$ est non nul. En effet, rappelons qu'un polynôme complexe $P$, de degré $n\geq 0$ et de coefficient dominant $a$, possède une racine multiple si et seulement si son discriminant $\big(\sfrac{(-1)^{\sfrac{n(n-1)}{2}}}{a}\big)R(P,P')$ est nul, où $R(P,P')$ est le \emph{résultant} de $P$ et du polynôme dérivé $P'$, \ie le déterminant de la matrice de Sylvester de $P$ et $P'$. Pour $P=4z^3-a_2z-a_3$, cette matrice est
$$\arraycolsep3.5pt
\begin{pmatrix} 4 & 0 & -a_2 & -a_3 & 0\\ 0 & 4 & 0 & -a_2 & -a_3\\ 12 & 0 & -a_2 & 0 & 0\\ 0 & 12 & 0 & -a_2 & 0 \\ 0 & 0 & 12 & 0 & -a_2
\end{pmatrix}.
$$
Donc le discriminant de $P=4z^3-a_2z-a_3$ vaut $4(a_2^3-27a_3^2)$.

\smallskip
La fonction modulaire $J$ de Klein est définie par
$$
J(\Lambda)=\frac{g_2(\Lambda)^3}{\Delta(\Lambda)}\:.
$$
Notons que $J(A_2)=0$ et $J(\ZZ^2)=1$. Elle vérifie (voir \cite[p.\,145]{Ser}) que $J(\Lambda)=J(\Lambda')$ si et seulement s'il existe $\mu\in\CC^*$ tel que $\Lambda=\mu\Lambda'$. Elle va nous permettre de montrer que l'application $\Psi$ est injective.

En effet, si $g_k(\Lambda)=g_k(\Lambda')$ pour $k=2,3$, alors $J(\Lambda)=J(\Lambda')$, donc $\Lambda=\mu\Lambda'$, d'où $\mu^{-2k}g_k(\Lambda')=g_k(\Lambda')$. Si $g_k(\Lambda')\neq 0$ pour $k=2$ et $k=3$, alors $\mu=1$. Si $g_2(\Lambda')= 0$, alors $J(\Lambda)=J(\Lambda')=J(A_2)=0$, et on peut supposer que $\Lambda'=A_2$. Alors, comme $g_3(\Lambda')\neq 0$ (car $\Delta(\Lambda')\neq 0$), on a $\mu^6=1$. Puisque $A_2$ est invariant par multiplication par la racine sixième primitive $e^{2i\pi/3}$, le résultat en découle. De même, si $g_3(\Lambda')= 0$, alors $J(\Lambda)=J(\Lambda')=J(\ZZ^2)=0$, et on peut supposer que $\Lambda'=\ZZ^2$. Alors, comme $g_2(\Lambda')\neq 0$, on a $\mu^4=1$. Puisque $\ZZ^2$ est invariant par multiplication par $i$, l'injectivité en découle.

\smallskip
En utilisant le fait que $J:\R(\RR^2)\to\CC$ est surjective (voir \cite[p.\,145]{Ser}), montrons que l'application $\Psi$ est surjective sur $\CC^2\moins\Delta^{-1}(0)$.

En effet, soit $(a_2,a_3)\in\CC^2$ tel que $\delta=a_2^3-27a_3^2\neq 0$. Si $a_2=0$, alors $a_3\neq 0$ et $\Lambda=t A_2$ convient pour un certain $t\in\CC^*$, par homogénéité de $g_3$. De même, si $a_3=0$, alors $a_2\neq 0$ et $\Lambda=t \ZZ^2$ convient pour un certain $t\in\CC^*$, par homogénéité de $g_2$. Si $a_2,a_3\neq 0$, alors soit $\Lambda\in\R(\RR^2)$ tel que $J(\Lambda)= a_2^3/\delta$. En particulier, $g_2(\Lambda)\neq 0$ car $J(\Lambda)\neq 0$, $g_3(\Lambda)\neq 0$ car $J(\Lambda)\neq 1$, et
$$
\frac{J(\Lambda)-1}{J(\Lambda)}= \frac{27\,a_3^2}{a_2^3}\,.\leqno(*)
$$
Soit $t\in\CC^*$ tel que $t^2= \sfrac{a_2\,g_3(\Lambda)}{a_3\,g_2(\Lambda)}$. Alors
$$
\frac{g_3(t\Lambda)}{g_2(t\Lambda)}= \frac{t^{-6}\,g_3(\Lambda)}{t^{-4}\,g_2(\Lambda)}= \frac{g_3(\Lambda)}{t^{2}\,g_2(\Lambda)}= \frac{a_3}{a_2}\,. \leqno(**)
$$
Donc
$$
\frac{J(t\Lambda)-1}{J(t\Lambda)}= \frac{27\,g_3(t\Lambda)^2}{g_2(t\Lambda)^3}= \frac{27\,a_3^2}{a_2^{2}\,g_2(t\Lambda)}\,.
$$
Comme $J(t\Lambda)=J(\Lambda)$ par les propriétés d'homogénéité de $g_2(t\Lambda)$ et $g_3(t\Lambda)$, l'équation $(*)$ implique que $g_2(t\Lambda)=a_2$. Donc $g_3(t\Lambda)=a_3$ par $(**)$, ce qui montre la surjectivité.

En utilisant, dans la preuve de la surjectivité, le fait que $J:\R(\RR^2)\to\CC$ admet des sections continues locales (voir \cite[p.\,145]{Ser}), l'application bijective continue $\Psi:\R(\RR^2)\to\CC^2\moins\Delta^{-1}(0)$ est un homéomorphisme. (On peut aussi utiliser le théorème d'invariance du domaine de Brouwer, car les deux espaces $\R(\RR^2)$ et $\CC^2\moins\Delta^{-1}(0)$ sont localement homéomorphes à $\RR^4$).

\item
Pour montrer (2), il suffit alors d'utiliser les propriétés d'homogénéité.

Soit $\Lambda$ un réseau de $\RR^2$. Il est immédiat de vérifier que l'application
$$
\mu\mto 9|g_3(\Lambda)|^2\mu^3 + |g_2(\Lambda)|^2 \mu^2
$$
est une bijection strictement croissante de $]0,+\infty[$ dans $]0,+\infty[$. En~particulier, l'unique point $\mu(\Lambda)>0$ en lequel elle atteint $18$ est bien défini, et dépend continûment de $\Lambda$. Alors $t=\mu(\Lambda)^{-\sfrac{1}{4}}$, qui dépend continûment de $\Lambda$, est l'unique réel strictement positif tel que $(\sfrac{g_2(t\Lambda)}{3\sqrt{2}}, \sfrac{g_3(t\Lambda)} {\sqrt{2}})$ appartienne à $\SS^3$. Notons que
$$
\Big(\sqrt{2}\,\frac{g_2(t\Lambda)}{3\sqrt{2}}\Big)^3- \Big(\sqrt{2}\,\frac{g_3(t\Lambda)}{\sqrt{2}}\Big)^2= \frac{\Delta(t\Lambda)}{27}\neq 0.
$$
Donc l'application $\Lambda \mto (\sfrac{g_2(t\Lambda)}{3\sqrt{2}}, \sfrac{g_3(t\Lambda)} {\sqrt{2}})$ est continue de $\R_1(\RR^2)$ à valeurs dans $\SS^3\moins K_\trefle$, et d'inverse
$$
(z_1,z_2)\mto\frac{1}{\vol \big(\RR^2/\Psi^{-1}(3\sqrt{2}\,z_1, \sqrt{2}\,z_2)\big)} \;\Psi^{-1}(3\sqrt{2}\,z_1, \sqrt{2}\,z_2),
$$
aussi continu (car $\Psi$ est un homéomorphisme et par le lemme \ref{lem:contcovol}). Le résultat en décou\-le.\qedhere
\end{enumerate}
\end{proof}

\section{Des voisinages de bouts de \texorpdfstring{$\SL{n}{\RR}/\SL{n}{\ZZ}$}{SLn}: le critère de Mahler} \label{sec:siegelmahler}

Le but de cette partie est d'étudier le comportement \og à l'infini \fg\ de l'espace topologique non compact $\SL{n}{\RR}/\SL{n}{\ZZ}$ pour $n\geq 2$, et de donner une preuve plus algébrique du critère de Mahler décrivant les parties compactes de cet espace. Nous suivrons essentiellement l'exposition de \cite{Bor}.

\smallskip
Notons $n$ un entier strictement positif, $G=\SL{n}{\RR}$ et $\Ga=\SL{n}{\ZZ}$. Pour tous $g$ dans $G$ et $1\leq i,j\leq n$, nous noterons $g_{ij}$ le coefficient $(i,j)$ de la matrice $g$.

Un \emph{ensemble de Siegel}\index{ensemble!de Siegel} de $G$ est une partie $\SSS_{s,t}=\bKK A_sN_t$ de $G$, pour $s$ et $t$ des paramètres réels strictement positifs, où
\begin{align*}
A_s&= \{a\in \bAA\sep a_{ii}\leq s\,a_{i+1,i+1}, \,1\leq i< n\}\\
\tag*{et}
N_t&= \{u\in \bNN\sep |u_{ij}|\leq t, \,1\leq i<j\leq n\}.
\end{align*}
La partie $N_t$ de $\bNN$ est compacte, la partie $A_s$ de $\bAA$ ne l'est pas si $n\geq 2$. Pour voir ceci, notons $H$ l'hyperplan vectoriel euclidien d'équation $\sum_{i=1}^n t_i=0$ dans~$\RR^n$. Considérons l'application
$$
\varphi:(t_1,\dots,t_n)\mto \begin{pmatrix} e^{t_1} & & 0 \\ & ^{\cdot} \;_{\cdot} & \\ 0 & & e^{t_n}\end{pmatrix}
$$
de $H$ dans $\bAA$, qui est un isomorphisme (de groupes topologiques). Pour $s>1$, la partie de $H$ correspondant à $A_s$ est un voisinage du cône convexe $\CCC_n$ des $(t_1,\dots,t_n)$ de $H$ tels que $t_i\leq t_{i+1}$ pour $1\leq i<n$. (Notons que $\varphi(\CCC_n)=A_1=\nobreak\bAA^+$, avec la notation introduite juste avant la proposition \ref{prop:decompcartan}.)

\begin{figure}[htb]
\begin{center}
\includegraphics{fig_ensSiegel}%
\caption{Intersection du domaine de Siegel $\SSS_{2/\sqrt{3},1/2}$ avec $\bAA$ pour $n=3$}\label{fig_ensSiegel}
\end{center}
\end{figure}

\btheo\label{theo:ensSiegel}
Si $s\geq 2/\sqrt{3}$ et $t\geq 1/2$, alors $G= \SSS_{s,t}\Ga$.
\etheo

Si $n=2$, comme $\bKK$ et $N_{1/2}$ sont invariants par passage à l'inverse $g\mto g^{-1}$, on a alors $G=\Ga N_{1/2}A_{2/\sqrt{3}}^{-1}\bKK$. Donc la projection canonique $G\to \Ga\backslash G/\bKK$ est surjective en restriction à $N_{1/2}A_{2/\sqrt{3}}$. L'application $g\mto g\,i$ induisant un homéomorphisme de $\Ga \backslash G/\bKK$ sur $\Ga \backslash \HH$, la partie $N_{1/2}A_{2/\sqrt{3}}\,i$ de $\HH$ se surjecte donc sur $\Ga \backslash \HH$. Ceci est cohérent avec le fait que
\[
N_{1/2}A_{2/\sqrt{3}}^{-1}\,i=\{z\in\CC\sep |\Re z|\leq 1/2,\, \Im z \geq \sqrt{3}/2\}
\]
contienne le domaine fondamental exhibé dans la partie \ref{sec:actcontgroulin} (et coïncide presque avec lui).

\begin{figure}[htb]
\begin{center}
\begin{picture}(0,0)%
\includegraphics{fig_ensiegeldimde}%
\end{picture}%
\setlength{\unitlength}{3315sp}%
%
\begingroup\makeatletter\ifx\SetFigFont\undefined%
\gdef\SetFigFont#1#2#3#4#5{%
  \reset@font\fontsize{#1}{#2pt}%
  \fontfamily{#3}\fontseries{#4}\fontshape{#5}%
  \selectfont}%
\fi\endgroup%
\begin{picture}(1939,2678)(1764,-1242)
\put(2656,-1141){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$0$}%
}}}}
\put(3376,-1141){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$1$}%
}}}}
\put(3016,-1163){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\frac{1}{2}$}%
}}}}
\put(1779,-1156){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$-1$}%
}}}}
\put(2146,-1164){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$-\frac{1}{2}$}%
}}}}
\put(2731,-533){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\frac{\sqrt{3}}{2}$}%
}}}}
\end{picture}%
\vspace*{-3mm}
\caption{${\SSS_{2/\sqrt{3},1/2}}^{-1}\,i$}\label{fig_ensiegeldimde}
\vspace*{-3mm}
\end{center}
\end{figure}

\begin{proof}[Démonstration du théorème \ref{theo:ensSiegel}]
Nous suivrons essentiellement l'exposition de \cite[\S I.1]{Bor}. Soit $\Vert \cdot\Vert $ la norme euclidienne usuelle sur $\RR^n$, $(e_i)_{1\leq i\leq n}$ la base canonique de $\RR^n$, et $\Phi:G\to{}]0,+\infty[$ l'application définie par $\Phi(g)=\Vert g e_1\Vert $. Notons que $\Phi$ est invariante par l'action par translations à gauche de $\bKK$ et par l'action par translations à droite de~$\bNN$ (\ie $\Phi(kgu)=\Phi(g)$ pour tous $g$ dans $G$, $k$ dans $\bKK$ et $u$ dans $\bNN$). En particulier $\Phi(g)=a_{11}$ si $g=kau$ est la décomposition d'Iwasawa de $g$.

\begin{enonce*}{Fait 1}
Nous avons $\bNN=N_{1/2}(\bNN\cap \Ga)$.
\end{enonce*}

\begin{proof}
Nous raisonnons par récurrence sur $n$, le cas $n=1$ étant trivial. Soient $n\geq 2$ et $u\in \bNN$. Il s'agit de montrer qu'il existe $\ga\in \bNN\cap \Ga$ tel que $u\ga\in N_{1/2}$. Soit $u=\begin{smallpmatrix} 1 & x\\0 & u'\end{smallpmatrix}$ l'écriture par blocs de~$u$ dans la décomposition $\RR\times\RR^{n-1}$ de $\RR^n$. Par récurrence, soit $\ga'$ une matrice entière triangulaire supérieure de valeurs propres $1$ de taille $(n-1)\times(n-1)$ telle que $|(u'\ga')_{ij}|\leq 1/2$ si $1\leq i<j\leq n-1$. Pour $2\leq j\leq n$, soit $\ga_{1j}$ un entier tel que $|(x\ga')_{1j}+\ga_{1j}|\leq 1/2$. Alors
\[
\ga=\begin{pmatrix} 1 & (\ga_{1j})_{2\leq j\leq n}\\0 & \ga'\end{pmatrix}
\]
convient.
\end{proof}

\begin{enonce*}{Fait 2}
Soit $g\in G$ et $g=kau$ sa décomposition d'Iwasawa. Supposons que $\Phi(g)\leq \Phi(g\alpha)$ pour tout $\alpha\in\Ga$. Alors $a_{11}\leq (2/\sqrt{3})\,a_{22}$.
\end{enonce*}

\begin{proof}
Par le fait 1 et l'invariance à droite de $\Phi$ par $\bNN$, nous pouvons supposer que $|u_{12}|\leq 1/2$. Soit $\alpha$ l'élément de $\Ga$ envoyant $e_1$ sur $e_2$, $e_2$ sur $-e_1$ et fixant $e_i$ pour $i\geq 3$. Alors\vspace*{-3pt}\enlargethispage{\baselineskip}
\begin{align*}
a_{11}^2=\Phi(g)^2\leq \Phi(g\alpha)^2= \Vert ge_2\Vert ^2=\Vert a(e_2+u_{12}e_1)\Vert ^2 &=a_{22}^2+u_{12}^2\,a_{11}^2\\
&\leq a_{22}^2+a_{11}^2/4,
\end{align*}
ce qui montre le résultat.
\end{proof}

Maintenant, pour montrer le théorème \ref{theo:ensSiegel}, on raisonne par récurrence sur~$n$ pour montrer que pour tout $g$ dans $G$, le minimum de $\Phi$ sur la classe à droite~$g\Ga$ est atteint en un point de $g\Ga\cap \SSS_{2/\sqrt{3},1/2}\Ga$, ce qui conclut. Le cas $n=1$ étant trivial, on suppose $n\geq 2$. Comme $g\Ga e_1$, qui est contenu dans le réseau $g\ZZ^n$ de~$\RR^n$, est discret, la fonction~$\Phi$ restreinte à $g\Ga$ atteint son minimum, disons en un point $h\in g\Ga$. En utilisant la décomposition d'Iwasawa, écrivons $h= k\begin{smallpmatrix} a_{11} & v\\0 & h'\end{smallpmatrix}$ avec $k\in \bKK$, $v\in\M_{1,n-1}(\RR)$ et $h'\in\GL{n-1}{\RR}$, tels que $\det{h'}= a_{11}^{-1}>0$. Par récurrence, il existe $\ga'\in\SL{n-1}{\ZZ}$ tel que $g'=(\det{h'})^{-\sfrac{1}{(n-1)}}h'\ga'$ appartienne au domaine de Siegel de paramètres $s=2/\sqrt{3},t=1/2$ de $\SL{n-1}{\RR}$. Notons $g'=k'a'u'$ la décomposition d'Iwasawa de $g'$ et $\ga= \begin{smallpmatrix} 1 & 0\\0 & \ga'
\end{smallpmatrix}\in\Ga$. Alors, en posant\vspace*{-3pt}
$$
k''= k\begin{pmatrix} 1 & 0\\0 & k'\end{pmatrix},\quad
a''= \begin{pmatrix} a_{11} & 0\\0 & (\det{h'})^{\frac{1}{n-1}}a'
\end{pmatrix},\quad
u''= \begin{pmatrix} 1 & v\ga'/a_{11}\\0 & u'\end{pmatrix},
$$
nous obtenons (par un petit calcul) $h\ga=k''a''u''$, qui est la décomposition d'Iwasawa de $h\ga$. Par construction,\vspace*{-3pt}
$$
(a'')_{ii}/(a'')_{i+1,i+1}=(a')_{i-1,i-1}/(a')_{ii}\leq 2/\sqrt{3}
$$
pour $2\leq i<n$. Comme $\ga$ fixe $e_1$, nous avons $\Phi(h\ga)=\Phi(h)\leq \Phi(h\ga\alpha)$ pour tout $\alpha\in\Ga$. Le fait $2$ appliqué à $g=h\ga$ implique que $(a'')_{11}\leq (2/\sqrt{3})\,(a'')_{22}$. Donc $h\ga\in\bKK A_{2/\sqrt{3}}\bNN$ et par le fait 1, $h\in\SSS_{2/\sqrt{3},1/2}\Ga$.
\end{proof}

Ce résultat permet de voir quelle est la structure métrique \og à grande échelle\fg de $G/\Ga$. Nous renvoyons à \cite{Gro1,Gro2} pour des informations sur ce type de résultats (et à \cite{Hat} pour une généralisation directe du corollaire \ref{coro:asymgmodga} suivant).

Une quasi-isométrie entre deux espaces métriques $(X,d)$ et $(X',d')$ est une application $f:X\to X'$ telle qu'il existe $\lambda\geq 1$ et $\epsilon\geq 0$ tels que, pour tous~$x,y$ dans~$X$,\vspace*{-3pt}
$$-\epsilon+\frac{1}{\lambda}\,d(x,y)\leq d'(f(x),f(y))\leq \lambda\,d(x,y)+\epsilon
$$
et $c\geq 0$ tel que $d'(x',f(X))\leq c$, pour tout $x'$ dans $X'$. Deux espaces métriques sont dit \emph{quasi-isométriques}\index{quasi-isométrique} s'il existe une quasi-isométrie de l'un dans l'autre (\og être quasi-isométrique \fg\ est une relation d'équivalence, voir par exemple~\cite{GH}).

Si $\Ga'$ est un sous-groupe discret d'un groupe topologique $G'$ et~$d$ une distance sur $G'$ (induisant sa topologie) invariante à droite (\ie $d(xg,yg)=d(x,y)$ pour tous $x,y,g$ dans $G'$), la \index{distance quotient}\emph{distance~quotient}~$\overline{d}$ sur $G'/\Ga'$ est\vspace*{-3pt}
$$
\overline{d}(x\Ga',y\Ga')=\inf_{\substack{x'\in x\Ga'\\ x'\in x\Ga'}}d(x',y')= \inf_{\ga\in\Ga'}d(x,y\ga).
$$
La seconde égalité est vraie par invariance à droite. Vérifions que $\overline{d}$ est bien une distance sur $G'/\Ga'$. L'application $\overline{d}$ est clairement positive ou nulle, symétrique et elle vérifie l'inégalité triangulaire (en utilisant la première égalité). Soit $y\in G'$. Comme les translations à gauche sont des homéomorphismes, le sous-espace $y\Ga'$ est discret dans $G'$. Donc il existe $\epsilon>0$ tel que $d(y,\ga y)\geq \epsilon$ pour tout $\ga\in\Ga'\moins\{e\}$. Par conséquent, pour tous $\ga,\ga'$ dans $\Ga'$, si $\ga\neq \ga'$, alors $d(y\ga, y\ga')\geq \epsilon$, par invariance à droite. Donc si $x\notin y\Ga'$, alors $y\Ga'$ ne s'accumule pas sur $x$. D'où $d(x,y\Ga')>0$, ce qui montre l'axiome de séparation.

\smallskip
Rappelons que $\CCC_n$ est le cône convexe des $(t_1,\dots,t_n)$ de $\RR^{n}$ tels que $\sum_{i=1}^n t_i=0$ et $t_i\leq t_{i+1}$ pour $1\leq i<n$, muni de la restriction~$d_{\CCC_n}$ de la distance euclidienne de $\RR^{n}$.

\bcoro \label{coro:asymgmodga}
L'espace métrique quotient $G/\Ga$ est quasi-isométrique à $\CCC_n$.
\ecoro

\begin{proof}
Considérons l'application\vspace*{-3pt}
\[
f:\CCC_n\to G/\Ga
\]
induite, par passage au quotient, par l'application $\wt f:\CCC_n\to G$ qui à $t=(t_1,\dots,t_n)$ associe l'élément $a(t)$ de $\bAA$ tel que $a(t)_{ii}=e^{t_i}$. Alors par définition de la distance $d$ invariante à droite sur $G$ du corollaire~\ref{lemm:distsln}, l'application $\wt f$ est une isométrie, et en particulier, en notant $\overline{d}$ la distance quotient, on obtient
$$
\overline{d}(f(t),f(t'))\leq d(\wt f(t),\wt f(t'))\leq d_{\CCC_n}(t,t').
$$

\begin{figure}[htb]
\begin{center}
\begin{picture}(0,0)%
\includegraphics{fig_typequasiisom}%
\end{picture}%
\setlength{\unitlength}{3315sp}%
%
\begingroup\makeatletter\ifx\SetFigFont\undefined%
\gdef\SetFigFont#1#2#3#4#5{%
  \reset@font\fontsize{#1}{#2pt}%
  \fontfamily{#3}\fontseries{#4}\fontshape{#5}%
  \selectfont}%
\fi\endgroup%
\begin{picture}(3624,1701)(799,-1030)
\put(901,-961){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$n=1$}%
}}}}
\put(3421,-961){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$n=2$}%
}}}}
\put(3186,-376){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\sfrac{\pi}{3}$}%
}}}}
\end{picture}%
\caption{\hbox{Cône convexe euclidien quasi-isométrique à~$G/\Ga$} pour $n=2$ ou $n=3$}\label{fig_typequasiisom}
\end{center}
\end{figure}

Montrons que tout point de $G/\Ga$ est à distance inférieure à une constante d'un point de $f(\CCC_n)$. Pour cela, par le théorème \ref{theo:ensSiegel}, il suffit de montrer qu'il existe une constante $c\geq 0$ telle que pour tout $k\in \bKK$, $a\in A_{2/\sqrt{3}}$ et $u\in N_{1/2}$, il existe $a'\in \wt f(\CCC_n)$ tel que $d(kau,a')\leq c$. Or, par l'inégalité triangulaire et l'invariance de $d$ à droite par $G$ et à gauche par le sous-groupe compact $\bKK$,
$$
d(kau,a)\leq d(kau,ka)+d(ka,a)\leq d(au,a)+\diam(\bKK).
$$
Soit $u'=aua^{-1}$, qui est un élément de $\bNN$ tel que si $i<j$ alors $|u'_{ij}|=|(\sfrac{a_{ii}}{a_{jj}})u_{ij}|\leq \frac12 (\sfrac{2}{\sqrt{3}})^{n-1}$, donc appartient au compact $N_{\sfrac{2^{n-2}}{3^{(n-1)/2}}}$. Alors
$$
d(au,a)=d(u'a,a)= d(u',e) \leq \diam\big(N_{\sfrac{2^{n-2}}{3^{(n-1)/2}}}\big).
$$
Soit $a'$ l'élément de $\bAA$ tel que $a'_{11}=a_{11}$ et pour $i\geq 2$, $a'_{ii}=\max\{a'_{i-1,i-1},a_{ii}\}$. Alors $a'\in \wt f(\CCC_n)$ et, puisque $a\in A_{2/\sqrt{3}}$,
$$
d(a,a')^2=\sum_{i=1}^n \Big(\log \frac{a'_{ii}}{a_{ii}}\Big)^2\leq \sum_{i=2}^n \Bigl(\log \big(\sfrac{2}{\sqrt{3}}\big)^{i-1}\Bigr)^2.
$$
Le résultat en découle, car $d(kau,a')\leq d(kau,a)+d(a,a')$.

Nous ne montrerons pas ici l'existence d'une constante $\epsilon>0$ telle que $\overline{d}(f(t),f't'))\geq d_{\CCC_n}(t,t')-\epsilon$, voir par exemple \cite{Hat}).
\end{proof}

Voici maintenant, comme application du théorème \ref{theo:ensSiegel}, une autre preuve du critère de Mahler (voir le corollaire \ref{coro:critmahlerun}).

\bcoro[Critère de Mahler\index{critère de Mahler}] \label{coro:mahler} Soit $M$ une partie de l'espace $\R_1(\RR^n)$ des réseaux unitaires de $\RR^n$. Alors les deux conditions suivantes sont équivalentes:
\begin{enumerate}
\item[(1)] \!\!$M$ est relativement compacte;
\item[(2)] \!\!il existe un voisinage $W$ de l'origine \hbox{dans $\RR^n$ tel que $\Lambda\!\cap\! W\!=\!\{0\}$} pour tout $\Lambda$ dans $M$.
\end{enumerate}
\ecoro

\begin{proof}
Montrons que ces assertions sont équivalentes à la suivante:
\begin{enumerate}
\item[(3)] Il existe $\alpha,\beta>0$ tels que, si
\[
A_{\alpha,\beta}= \{a\in \bAA\sep \alpha\leq a_{ii}\leq \beta,\,1\leq i\leq n\}\quand M'=\bKK A_{\alpha,\beta}N_{1/2},
\]
alors $M\subset M'\ZZ^n$.
\end{enumerate}

Montrons que (3) implique (1). C'est immédiat, car $A_{\alpha,\beta}$ et $N_{1/2}$ sont des compacts de $\bAA$ et $\bNN$, et la décomposition d'Iwasawa et l'action de $G$ sur $\R(\RR^n)$ sont continues.

Montrons que (1) implique (2). C'est immédiat, car l'application de $\R_1(\RR^n)$ dans $\RR$ définie par $\Lambda\mto \min_{v\in\Lambda\moins\{0\}} \Vert v\Vert $ est bien définie, continue et strictement positive par discrétude des réseaux, donc son minimum $r$ sur le compact $\overline{M}$ est strictement positif, et $W=B(0,r/2)$ convient.

Montrons que (2) implique (3). Soit $c>0$ tel que $\Vert v\Vert \geq c$ pour tout $v\in\Lambda\moins\{0\}$ et $\Lambda\in M$. Posons $\alpha =(\sqrt{3}/2)^{n-1}c$ et $\beta=\alpha^{1-n}$. Par la transitivité de l'action de $G$ sur $\R_1(\RR^n)$ et par le théorème~\ref{theo:ensSiegel}, pour tout~$\Lambda$ dans $M$, choisissons $g$ dans $\SSS_{2/\sqrt{3},1/2}$ tel que $g\ZZ^n=\Lambda$. Montrons que~$g$ appartient à $M'=\bKK A_{\alpha,\beta}N_{1/2}$, ce qui conclut. Soit $g=kau$ la décomposition d'Iwasawa de $g$. Nous avons $a_{11}=\Vert g(e_1)\Vert \geq c$, et comme $a\in A_{2/\sqrt{3}}$, on a donc $a_{ii}\geq \alpha$ pour $1\leq i\leq n$. Comme $\prod_{i=1}^n a_{ii}= \det g =1$, on a donc $a_{ii}\leq \beta$ pour $1\leq i\leq n$, ce qui montre le résultat.
\end{proof}

\section{Une première propriété dynamique des flots unipotents} \label{sec:hedlund}

Dans cette partie, après avoir rappelé les notions et premières propriétés des matrices nilpotentes et unipotentes, nous donnerons une preuve élémentaire et complète du théorème de Hedlund sur la dynamique topologique, sur l'espace $\SL{2}{\RR}/\SL{2}{\ZZ}$, du sous-groupe de $\SL{2}{\RR}$ des matrices triangulaires supérieures à coefficients diagonaux égaux à $1$. Nous suivrons essentiellement l'exposition de \cite{Ghy}, voir aussi \cite{Hed,BM,Dal1}. La preuve servira de guide de lecture pour les résultats bien plus généraux de \cite{Cou}.

\Subsection{Matrices nilpotentes et unipotentes}
Soient $V$ un espace vectoriel réel de dimension finie, et $\End(V)$ l'algèbre réelle des endomorphismes linéaires de~$V$, muni de la norme d'opérateurs $\Vert \cdot\Vert $ relative à une norme fixée $\Vert \cdot\Vert $ sur~$V$, définie par\vspace*{-3pt}
$$
\Vert g\Vert =\max_{\substack{v\in V\\ \Vert v\Vert =1}} \Vert gv\Vert ,
$$
et qui vérifie $\Vert gh\Vert \leq\Vert g\Vert \,\Vert h\Vert $. Soit $\GL{}{V}$ le groupe des automorphismes linéaires de $V$, muni de la topologie induite par celle de l'espace vectoriel de dimension finie $\End(V)$. Si $V=\RR^n$, nous identifierons $\End(V)$ et l'algèbre des matrices $\M_n(\RR)$ par l'application qui à un endomorphisme associe sa matrice dans la base canonique, et~donc les groupes topologiques $\GL{}{V}$ et $\GL{n}{\RR}$.

\bprop Soit $x\in \End(V)$. Les assertions suivantes sont équivalentes:
\begin{enumerate}
\item[(1)] il existe $m\in\NN\moins\{0\}$ tel que $x^m=0$;
\item[(2)] les valeurs propres de $x$ sont réelles et toutes égales à $0$;
\item[(3)] $x$ est semblable à un endomorphisme dont une matrice (dans une base de $V$) est diagonale par blocs $\begin{Smallpmatrix} A_1 & 0 & 0 \\[-3pt] 0 &\ddots & 0 \\ 0 & 0 & A_k\end{Smallpmatrix}$, de blocs diagonaux\vspace*{-3pt}
\[\arraycolsep4.5pt
A_\ell=
\begin{pmatrix} 0 & 1 & & 0 \\ &\ddots &\ddots & \\ & & \ddots & 1 \\ 0 & & & 0
\end{pmatrix}
\]
de coefficients $(A_\ell)_{ij}$ non nuls seulement pour $j=i+ 1$, et alors égaux à $1$;
\item[(4)] pour tout $p$ dans $\NN\moins\{0\}$, il existe $a$ dans $\GL{}{V}$ tel que $axa^{-1}=px$ (en fait, il suffit que ce soit vrai pour $p=2$, et c'est alors vrai pour tout $p\in\RR\moins\{0\}$).
\end{enumerate}
\eprop

\begin{proof}
Montrons que (1) implique (2). Si $x^m=0$, alors le polynôme minimal de $x$ est de la forme $X^k$, donc est scindé de racines toutes égales à $0$, d'où $u$ est trigonalisable sur $\RR$ de valeurs propres~$0$.

Montrons que (2) implique (3). Ceci découle du théorème de Jordan.

Montrons que (3) implique (4). En demandant que $a$ soit aussi diagonale par blocs dans la même décomposition, il suffit de supposer que le nombre de blocs $k$ vaille $1$. Soit $a$ l'endomorphisme de $V$ de matrice diagonale dans la même base, de coefficient diagonal $a_{ii}$ égal à $p^{1-i}$. Il est facile de vérifier que $axa^{-1}=px$. Notons pour usage ultérieur que $a$ est de déterminant strictement positif.

Montrons que (4) implique (2). Sous ces hypothèses, l'application $z\mto 2z$ est une bijection de l'ensemble avec multiplicité des valeurs propres complexes de $x$, ce qui n'est possible que si ces valeurs propres sont réelles et toutes égales à~$0$.

Enfin, le fait que (3) implique (1) est facile.
\end{proof}

Un élément $x$ de $\End(V)$ vérifiant l'une de ces assertions équivalentes est dit \emph{nilpotent}\index{nilpotent}. Par exemple,
$$\arraycolsep4pt
\begin{pmatrix} 0 & t \\ 0 & 0
\end{pmatrix},\quad\begin{pmatrix} 0 & t & 0\\ 0 & 0 & t\\ 0 & 0 & 0\end{pmatrix},\quad\begin{pmatrix} 0 & 0 & t\\ 0 & 0 & 0\\ 0 & 0 & 0\end{pmatrix}
$$
sont des éléments nilpotents de $\M_2(\RR),\M_3(\RR), \M_3(\RR)$ respectivement.

Rappelons que l'\emph{application exponentielle}\index{application!exponentielle} $\exp:\End(V)\to \GL{}{V}$ est l'application définie par $\exp(x)=\sum_{i=0}^\infty \sfrac{x^i}{i!}$: cette série converge normalement dans $\End(V)$. Pour tous $x,y$ dans $\End(V)$ et $a$ dans $\GL{}{V}$, nous avons $\exp(axa^{-1})=a(\exp x)a^{-1}$ et
\[
\exp(x+y)=(\exp x)(\exp y)
\]
si $x$ et $y$ commutent, en particulier $(\exp x)^{-1} =\exp (-x)$. Si $V=\RR^n$ et $x\in \End(V)$, alors la matrice de $\exp(x)$ dans la base canonique est l'exponentielle de la matrice de $x$ dans la base canonique.

\bprop\label{prop:defunipotent} Soit $u\in \GL{}{V}$. Les assertions suivantes sont équivalentes:
\begin{enumerate}
\item
il existe $x$ dans $\End(V)$ nilpotent tel que $u=\exp x$;
\item
$u-\id$ est nilpotent;
\item
pour tout $p$ dans $\NN\moins\{0\}$, il existe $a$ dans $\GL{}{V}$ tel que $aua^{-1}=u^p$;
\item
les valeurs propres de $u$ sont réelles et toutes égales à $1$;
\item
$u$ est conjugué à un endomorphisme dont une matrice (dans une base de $V$) est diagonale par blocs $\begin{Smallpmatrix}
A_1 & 0 & 0 \\[-3pt] 0 &\ddots & 0 \\ 0 & 0 & A_k\end{Smallpmatrix}$,
de blocs diagonaux
\[\arraycolsep4.5pt
A_\ell=\begin{pmatrix}
1 & 1 & & 0 \\ &\ddots &\ddots & \\ & & \ddots & 1 \\ 0 & & & 1
\end{pmatrix}
\]
de coefficients $(A_\ell)_{ij}$ non nuls seulement pour $0\!\leq\! j-i\!\leq\! 1$, et alors égaux à~$1$.
\end{enumerate}
\eprop

Si $u\in \GL{}{V}$ vérifie l'une de ces assertions équivalentes, nous dirons que $u$ est \emph{unipotent}\index{unipotent}\index{element@élément!unipotent}. Un sous-groupe de $\GL{}{V}$ est dit \emph{unipotent}\index{sous-groupe!unipotent} si tous ses éléments sont unipotents. La proposition précédente est valable dès que le corps de base est de caractéristique nulle. La notion d'élément unipotent est beaucoup plus délicate en caractéristique non nulle (voir par exemple \cite[p.\,37]{Bed}).

\begin{proof}
Montrons que (2) implique (1). Supposons que $v=u-\id$ soit nilpotent, alors $x=\log (\id+ v)=\sum_{k=1}^\infty (-1)^{k-1}\sfrac{v^k}{k}$ est une série n'ayant qu'un nombre fini de termes. C'est un polynôme en~$v$ de terme constant nul, donc c'est un élément nilpotent de $\End(V)$. Il~vérifie $\exp x = \id+ v=u$, ce qui montre le résultat.

Montrons que (1) implique (3). Ceci découle de l'assertion (4) de la proposition précédente, et du fait que $\exp(axa^{-1})=a(\exp x)a^{-1}$, et~que $\exp(px)=(\exp x)^p$. Notons pour usage ultérieur qu'il est possible de prendre $a$ de déterminant strictement positif.

Montrons que (3) implique (4). Sous ces hypothèses, l'application $z\mto z^p$ est une bijection de l'ensemble avec multiplicité des valeurs propres complexes de $u$, pour tout entier $p$ non nul, ce qui n'est possible que si ces valeurs propres sont réelles et toutes égales à $1$: toute valeur propre complexe $\lambda$ de $u$ est alors une racine de l'unité, car $\{\lambda^{2^k}\sep k\in\NN\}$ doit être fini; et si $p$ est le produit des ordres des valeurs propres complexes de $u$, alors $z\mto z^p$ est constante (égale à~$1$) sur le spectre de $u$, ce qui implique que ce spectre est réduit à~$\{1\}$.

Enfin, le fait que (4) implique (5) résulte du théorème de Jordan, et il est immédiat que (5) implique (2).
\end{proof}

\bcoro\mbox{}
\begin{enumeratea}
\item
Si $U$ est un sous-groupe unipotent de $\GL{n}{\RR}$, alors ${}^tU$ est un sous-groupe unipotent de $\GL{n}{\RR}$.

\item
Si $U$ est un sous-groupe unipotent de $\SL{n}{\RR}$, si $f:\SL{n}{\RR}\to \GL{}{V}$ est un morphisme de groupes, alors $f(U)$ est un sous-groupe unipotent de $\GL{}{V}$.
\end{enumeratea}
\ecoro

\begin{proof}\mbox{}
\begin{enumeratea}
\item
Si $X\in \M_n(\RR)$ et $Y\in \GL{n}{\RR}$, alors, pour tout $p\in\NN$,\vspace*{-3pt}\enlargethispage{\baselineskip}
$$({}^t\!X)^p={}^t(X^p), \quad {}^t\exp(X)=\exp(\,{}^t\!X),\quad  {}^t(YXY^{-1})=({}^tY)^{-1}\,{}^t\!X\,{}^tY,
$$
et ${}^t\!X$ et $X$ ont les mêmes valeurs propres complexes (avec multiplicité). Donc le résultat découle au choix des assertions (1), (2), (3) ou~(4) de la proposition précédente.

\item
Soit $u\in U$. Par l'assertion (3) de la proposition précédente, pour tout $p\in\NN\moins\{0\}$, il existe $a\in \GL{n}{\RR}$ de déterminant strictement positif tel que $aua^{-1}=u^p$. Donc, avec $b=f\big((\sfrac{1}{\sqrt[n]{\det a}})\,a\big)\in \GL{}{V}$, on a\vspace*{-3pt}
$$
bf(u)b^{-1}=f(aua^{-1})=f(u)^p,
$$
et donc $f(u)$ est unipotent, en appliquant de nouveau l'assertion (3).\qedhere
\end{enumeratea}
\end{proof}

\begin{exems*}\mbox{}\par
\begin{enumerate}
\item
Le sous-groupe $\bNN$ de $\SL{n}{\RR}$ est un sous-groupe unipotent de $\SL{n}{\RR}$, qui, si $n=2$, est un sous-groupe unipotent à un paramètre.

\item
Les sous-groupes suivants sont des sous-groupes unipotents à un paramètre de $\SL{3}{\RR}$:
\begin{eqnarray*}
\bUU\index{U@$\bUU$}&=&\arraycolsep4pt\left\{u(t)=\begin{pmatrix} 1 & t & t^2/2\\ 0 & 1 & t\\ 0 & 0 & 1\end{pmatrix}=\exp\begin{pmatrix} 0 & t & 0\\ 0 & 0 & t\\ 0 & 0 & 0\end{pmatrix}\sep t\in\RR\right\},\\
\bVV\index{V@$\bVV$}&=&\arraycolsep4pt\left\{v(t)=\begin{pmatrix} 1 & 0 & t\\ 0 & 1 & 0\\ 0 & 0 & 1\end{pmatrix}=\exp\begin{pmatrix} 0 & 0 & t\\ 0 & 0 & 0\\ 0 & 0 & 0\end{pmatrix}\sep t\in\RR\right\}.
\end{eqnarray*}
Ils joueront un rôle très important dans la preuve de la conjecture d'Oppenheim par Margulis (voir \cite{Cou}).
\end{enumerate}
\end{exems*}

\Subsection{Un théorème de Hedlund}
Dans la fin de ce texte, nous notons $G=\SL{2}{\RR}$, et $\bKK,\bAA,\bNN=\left\{u_t=\begin{smallpmatrix} 1 & t \\ 0 & 1\end{smallpmatrix}\right\}$ ses sous-groupes, qui sont des sous-groupes à un paramètre, définis dans le paragraphe \ref{sec:grouptop}, ainsi que $\Ga=\SL{2}{\RR}$.

\smallskip
Étant donné un sous-groupe discret $\Ga'$ de $G$, le groupe topologique~$\bNN$ agit, par l'action (continue, à gauche) par translations à gauche, sur l'espace quotient $G/\Ga'$. Nous nous intéressons dans la fin de cette partie aux propriétés topologiques des orbites de $\bNN$ sur $G/\Ga'$.

Par exemple, pour tout $g=\begin{smallpmatrix} a & b\\ 0 & a^{-1}\end{smallpmatrix}\in\bAA\bNN$, l'orbite de $g\Ga$ par le sous-groupe à un paramètre $\bNN$ dans $G/\Ga$ est périodique de période~$a^2$ (car un petit calcul matriciel montre que $g^{-1}u_tg\!\in\! \Ga$, et donc $u_tg\!\in\! g\Ga$, si et seulement si $t\in a^2\ZZ$). Comme le groupe $\bAA\bNN$ normalise $\bNN$, si~l'orbite d'un point $y$ de $G/\Ga'$ par $\bNN$ est périodique, alors pour tout~$g$ dans $\bAA\bNN$, l'orbite du point $gy$ est encore périodique (si $u_ty =y$ avec $t\neq 0$, alors $gu_tg^{-1}=u_{t'}$ avec $t'\neq 0$ et $u_{t'}gy=gy$).

\btheo[Théorème de Hedlund]\index{theo@théorème!de Hedlund} \label{theo:hedlund}
Toute orbite de $\bNN$ sur $G/\Ga$ est pério\-di\-que ou dense.
\etheo

Nous préciserons au cours de la preuve quelles sont les orbites périodiques. En utilisant l'homéomorphisme canonique $\bNN\backslash (G/\Gamma)\to \Gamma\backslash (G/\bNN)$ et l'homéomorphisme $G/\bNN\to\RR^2\moins\{0\}$ induit par l'action linéaire, le théorème de Hedlund s'énonce alors sous la forme suivante.

\btheo[Théorème de Hedlund]\index{theo@théorème!de Hedlund} \label{theo:hedlundbis}
L'orbite d'un vecteur $u\in \RR^2\moins\{0\}$ par $\SL{2}{\ZZ}$ est discrète dans $\RR^2$ si $u$ est colinéaire à un vecteur de $\ZZ^2$, et dense dans $\RR^2$ sinon.\qed
\etheo

\begin{remas*}
Le théorème de Hedlund ci-dessus est en fait valable beaucoup plus généralement.

Notons $d\theta$ la mesure sur $\bKK$ image de la mesure de Lebesgue par la bijection bimesurable $[0,2\pi[{}\to\bKK$ définie par $\theta\mto \begin{smallpmatrix} \cos\theta & -\sin\theta\\ \sin\theta & \cos\theta
\end{smallpmatrix}$.

Notons $da$ la mesure sur $\bAA$ image de la mesure de Lebesgue par l'homéomorphisme $]0,+\infty[{}\to\bAA$ défini par $a\mto \begin{smallpmatrix} a & 0\\ 0& a^{-1}\end{smallpmatrix}$.

Notons $dt$ la mesure sur $\bNN$ image de la mesure de Lebesgue par l'homéomorphisme $\RR\to\bNN$ défini par $t\mto \begin{smallpmatrix} 1 & t\\ 0& 1\end{smallpmatrix}$.

Appelons \emph{mesure de Haar}\index{mesure de Haar} de $G$ la mesure image par la décomposition d'Iwasawa (qui est un homéomorphisme de $\bKK\times \bAA\times\bNN$ dans~$G$) de la mesure produit des mesures $d\theta, a^{2}da, dt$. Cette mesure est inva\-riante par translations à gauche dans $G$ (voir par exemple \cite[p.\,17]{Bor}). Un sous-groupe discret $\Ga'$ de $G$ est dit \emph{de covolume fini}\index{covolume fini} s'il existe une partie mesurable $\Delta$ de $G$ dont la mesure de Haar est finie et telle que $\Ga\Delta=G$. Par exemple, si le quotient $G/\Ga'$ de $G$ par un sous-groupe discret $\Ga'$ est compact, comme la mesure de Haar est finie sur les compacts, alors (par la proposition \ref{prop:propbasetopquot}\,(2)), $\Ga'$ est de covolume fini.

Le théorème de Hedlund reste vrai (voir par exemple \cite{Hed,Ghy,BM,Dal1}) si nous remplaçons $\Ga$ par n'importe quel sous-groupe discret de covolume fini de $G$. La preuve que nous donnons ci-dessous dans le cas particulier $\Ga=\SL{2}{\RR}$ n'est pas la plus rapide, mais elle contient la plupart des arguments nécessaires au cas général des sous-groupes discrets de covolume fini, et nous espérons qu'elle servira de motivation, voire de guide de lecture, pour certaines preuves dans \cite{Cou}.
\end{remas*}

\begin{proof}[Démonstration du théorème \ref{theo:hedlund}]
Nous suivrons essentiellement l'exposition de \cite[\S 2]{Ghy}. L'idée cruciale est de montrer que l'adhérence d'une orbite non périodique par $\bNN$ contient une orbite par le groupe beaucoup plus gros $\bAA\bNN$, dont on vérifie plus facilement que ses orbites sont denses.

Nous commençons la preuve du théorème en donnant deux propriétés fondamentales des orbites unipotentes, ainsi qu'une conséquence sur les fermés, invariants par un sous-groupe unipotent, non vides, minimaux (pour l'inclusion). Nous considérons le cas particulier de $G=\SL{2}{\RR}$ et de son sous-groupe à un paramètre unipotent $\bNN$, ces résultats seront généralisés dans \cite{Cou}.

\smallskip
La première propriété concerne la manière dont les orbites de sous-groupes unipotents de $G$, pour des actions linéaires, s'accumulent sur le sous-espace des points fixes.

\blemm\label{lem:accumulptfix} Soit $\Ga_{\!N}$ un sous-groupe fermé de $\bNN$ tel que le quotient $\bNN/\Ga_{\!N}$ soit compact. Soient $F=\RR\times\{0\}$ et $(p_i)_{i\in\NN}$ une suite de points de $\RR^2\moins F$ convergeant vers un point $p_\infty$ de $F$. Alors $\RR\times\{0\}$ est contenu dans $\overline{{\bigcup_{i\in\NN}}\Ga_{\!N} \,p_i}$.
\elemm

Dans le cas où $\Ga_N=\bNN$, comme $\bNN$ est un sous-groupe à un paramètre unipotent de $\GL{}{\RR^2}$, comme $F$ est l'ensemble des points fixes de $\bNN$ dans $\RR^2$ et comme $\RR\times\{0\}$ est l'image contenant $p_\infty$ de l'application polynomiale non constante $t\mto (t,0)$ de $\RR$ dans $F$, ce lemme est un cas particulier du lemme 3.9 dans \cite{Cou}.

\begin{figure}[htb]
\begin{center}
\begin{picture}(0,0)%
\includegraphics{fig_accumulorbunip}%
\end{picture}%
\setlength{\unitlength}{3158sp}%
%
\begingroup\makeatletter\ifx\SetFigFont\undefined%
\gdef\SetFigFont#1#2#3#4#5{%
  \reset@font\fontsize{#1}{#2pt}%
  \fontfamily{#3}\fontseries{#4}\fontshape{#5}%
  \selectfont}%
\fi\endgroup%
\begin{picture}(4674,2070)(1339,-1573)
\put(2626,314){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{1,0,0}$y$}%
}}}}
\put(5784,-1298){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{1,0,0}$x$}%
}}}}
\put(2379,-1298){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{1,0,0}$(0,0)$}%
}}}}
\put(4231,231){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,1,0}$p_1$}%
}}}}
\put(4088,-707){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,1,0}$p_i$}%
}}}}
\put(4448,-699){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,1}$u_t p_i$}%
}}}}
\put(4193,-1306){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,1,0}$p_\infty$}%
}}}}
\put(5371,201){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,1}$u_t p_1$}%
}}}}
\end{picture}%
\caption{Accumulation d'orbites unipotentes par une action linéaire}\label{fig_accumulorbunip}
\end{center}
\end{figure}

\begin{proof}
Soit $t>0$ tel que $u_t=\begin{smallpmatrix} 1 & t\\ 0 & 1\end{smallpmatrix}\in \Ga_N$, qui existe car~$\bNN$ n'est pas compact. Soit $y_i$ la coordonnée verticale de $p_i$, qui est non nulle et qui converge vers $0$ quand $i$ tend vers $+\infty$. Comme $u_t$ agit sur la droite $\RR\!\times\!\{y_i\}$ par la translation de distance $t y_i$ (tendant vers~$0$), l'ensemble $u_t^\ZZ \,p_i$ de points de la droite $\RR\times\{y_i\}$ est de plus en plus dense sur cette droite, et s'accumule sur tout $\RR\times\{0\}$, quand~$i$ tend vers $+\infty$.
\end{proof}

La seconde propriété décrit le phénomène de non-divergence des orbites de sous-groupes unipotents dans $G/\Ga$, qui sera étudié plus généralement dans \cite{Cou}.

\blemm\label{lem:nondiverunip} Il existe un compact $C$ de $G/\Ga$ tel que, pour tout point $y$ de $G/\Ga$ dont l'orbite par $\bNN$ n'est pas périodique, les parties
\[
\{t\leq 0\sep u_t\,y\in C\}\quand\{t\geq 0\sep u_t\,y\in C\}
\]
de $\RR$ ne soient pas bornées.
\elemm

Ce lemme est valable plus généralement si nous remplaçons $\Ga$ par n'importe quel sous-groupe discret de $G$ de covolume fini $\Ga'$, voir par exemple \cite[\S 2.3]{Ghy}\cite[Cor\ptbl IV.1.8]{BM}, et il est trivial si le quotient $G/\Ga'$ est compact.

\begin{proof}\mbox{}\par
Reprenons l'identification (par homéomorphisme $\PSL2\RR$-équi\-va\-riant) de l'espace $\PSL2\RR$ avec l'espace des directions $T_1\HH$ dans~$\HH$ (voir le début de la preuve du théorème \ref{theo:resdimdehomeoctrefl}).

Commençons par des remarques préliminaires. Puisque $\bNN$ agit par translations sur $\HH$, une courbe de $T_1\HH$ est une orbite de $\bNN$ si et seulement si c'est la courbe formée par les directions en un point d'une droite horizontale, formant un angle constant avec celle-ci (voir la figure \ref{fig_orbNhoricycl} ci dessous). Cette courbe est invariante par la translation entière $z\mto z+1$, qui est l'action d'un élément de~$\Ga$. En particulier, sa projection dans $T_1\HH/\Ga\simeq \PSL2\RR/\PSL2\ZZ\simeq G/\Ga$ est une orbite périodique de $\bNN$. De même, les orbites d'un conjugué $g\bNN g^{-1}$ de~$\bNN$, qui sont les images des précédentes par $g$, sont les courbes formées par les directions en un point d'un horicycle, formant un angle constant avec celui-ci. Si de plus le point de tangence de l'horicycle est un point de $\QQ\cup\{\infty\}$, alors l'image de cette courbe est une orbite périodique de $\bNN$ dans $G/\Ga$, puisque~$\Ga$ agit transitivement sur $\QQ\cup\{\infty\}$.

\begin{figure}[htb]
\begin{center}
\includegraphics[scale=.95]{fig_orbNhoricycl}
\caption{Orbites de $\bNN$ et de conjugués de $\bNN$ dans $T_1\HH$}\label{fig_orbNhoricycl}
\end{center}
\end{figure}

Maintenant, notons $N_\pm=\{u_{\pm t}\sep t\geq 0\}$. Soit $C_0$ l'ensemble (compact) des points $z$ du domaine fondamental $\Delta$ de $\Ga$ tels que $\Im z\leq 1$. Le saturé $\Ga C_0$ de~$C_0$ par l'action de $\Ga$ est le complémentaire de l'intérieur de la réunion de la famille $\Ga$-équivariante maximale d'horidisques d'intérieurs deux à deux disjoints $(\H_r)_{r\in\QQ\cup\{\infty\}}$ définie dans la partie \ref{sec:actcontgroulin}. Rappelons (voir la proposition \ref{prop:propbasetopquot}\,(1)) que la projection canonique $\pi_\bKK:G\to G/\bKK\simeq\HH$ est $\Ga$-équivariante et propre, car $\bKK$ est compact. Alors la préimage $\wt C=\pi_\bKK^{-1}(C_0)$ de $C_0$ par $\pi_\bKK$ est compacte. Soit $\pi_\Ga:G\to G/\Ga$ la projection canonique, et $C=\pi_\Ga((\Ga\wt C)^{-1})=\pi_\Ga({\wt C}^{-1})$, qui est compact, car ${\wt C}^{-1}$, qui est l'image du compact $\wt C$ par l'homéomorphisme $g\mto g^{-1}$, est compact.

Si, pour un $g\in G$, la demi-orbite $N_\pm g\Ga$ de $\bNN$ dans $G/\Ga$ reste en dehors de~$C$, alors la demi-orbite $N_\pm g$ de $\bNN$ dans $G$ reste en dehors de ${\wt C}^{-1}\Ga$. Donc la demi-orbite $g^{-1}N_\mp$ dans $G$ du conjugué $g^{-1}\bNN g$ reste en dehors de $\Ga\wt C$. Rappelons que $g^{-1}N_\pm$ et $\bKK$ sont connexes (par arcs), et que chaque composante connexe de $\HH-\pi_\bKK(\Ga{\wt C})=\HH-\Ga C_0$ est l'intérieur d'un horidisque $\H_{r_0}$ pour un \hbox{$r_0\in \QQ\cup\{\infty\}$}. Vue dans $T_1\HH$, cette demi-orbite $g^{-1}N_\pm$ est donc l'espace des directions faisant un angle constant avec un demi-horocycle $H$ restant dans un~$\H_{r_0}$ pour un $r_0\in\QQ\cup\{\infty\}$. Ceci n'est possible que si $H$ lui aussi est tangent en~$r_0$ à~$\wh\RR$. Par les remarques préliminaires, l'orbite $\bNN g\Ga$ de~$\bNN$ dans~$G/\Ga$ est donc périodique. Ceci montre le résultat.
\end{proof}

Un \emph{ensemble minimal}\index{ensemble!minimal} d'un espace topologique muni d'une action continue d'un groupe topologique est un fermé, non vide, invariant par l'action, et minimal (pour l'inclusion, parmi les fermés non vides invariants). Notons que si $\M$ est un ensemble minimal, alors l'orbite de tout point de $\M$ est dense dans $\M$: en effet, pour tout~$x$ dans~$\M$, l'adhérence de l'orbite de $x$ est un fermé non vide invariant et contenu dans $\M$, par continuité de l'action.

\blemm \label{lemm:zornette} Tout fermé non vide $F$ de $G/\Ga$ invariant par $\bNN$ contient un ensemble minimal $\M$. De plus, si $F$ ne contient pas d'orbite périodique, alors~$\M$ est compact.
\elemm

Ce lemme (et sa preuve) est valable plus généralement si nous remplaçons~$\Ga$ par n'importe quel sous-groupe discret de $G$ de covolume fini.

\begin{proof}
Si $F$ contient une orbite périodique de $\bNN$, celle-ci étant un ensemble minimal, le résultat est clair. Supposons donc que~$F$ ne contienne pas d'orbite périodique. Considérons l'ensemble, ordon\-né par l'inclusion, des parties de $F$ fermées, non vides, invariantes par $\bNN$. Il est inductif décroissant, car toute famille totalement ordonnée dans cet ensemble admet un minorant, son intersection, qui est non vide car les éléments de cette famille rencontrent tous un même compact de $G/\Ga$ par le lemme \ref{lem:nondiverunip}. Le premier résultat découle alors du théorème de Zorn.

Pour montrer la seconde assertion, nous prouvons un lemme de dynamique topologique, après avoir énoncé une définition. Soit $X$ un espace topologique. Un \emph{flot}\index{flot} sur $X$ est une application continue $\phi:(\RR\times X)\to X$ telle que, en notant $\phi_t$ l'application $x\mto \phi(t,x)$, on ait $\phi_{s+t}=\phi_t\circ \phi_s$ pour tous $s$ et $t$ dans $\RR$. En particulier, $\phi_t$ est un homéomorphisme de $X$, d'inverse $\phi_{-t}$. Par exemple, si $N'=\{u'_t\sep t\in\nobreak\RR\}$ est un sous-groupe à un paramètre d'un groupe topologique $G'$ et si $H'$ est un sous-groupe fermé de $G'$, alors l'action par translations à gauche de $N'$ sur $G'/H'$ définit un flot $\phi:(t,gH')\mto u'_tgH'$ sur l'espace topologique quotient $G'/H'$.

\blemm Soient $X$ un espace topologique localement compact et $\phi:(\RR\times\nobreak X)\to X$ un flot sur $X$. S'il existe un compact $K$ de $X$ tel que pour tout~$x$ dans~$X$, il existe $t\geq 0$ et $t'\leq 0$ tels que $\phi_t(x)\in K$ et $\phi_{t'}(x)\in K$, alors~$X$ est compact.
\elemm

\begin{proof}
Soit $V$ un voisinage ouvert de $K$ d'adhérence $\overline{V}$ compacte (qui existe, car $X$ est localement compact). Puisque $\overline{V}$ est fermé et par l'hypothèse, pour tout $x$ dans $X$, il existe $t_x\geq 0$ tel que $\phi_{t_x}(x)\in \overline{V}$ et $\phi_{t}(x)\notin \overline{V}$ pour tout~$t$ dans $[0,t_x[\,$. S'il existe $N\in\NN$ tel que, pour tout $x$ dans $X$, on ait $t_x\leq N$, alors, comme $\phi_{-t_x}(\phi_{t_x}(x))=x$, l'espace $X$ est contenu dans $\phi([-T,0]\times \overline{V})$, qui est compact par continuité de $\phi$, et le résultat en découle.

Supposons par l'absurde qu'il existe une suite $(x_n)_{n\in\NN}$ dans $X$ telle que les $t_n=t_{x_n}$ convergent vers $+\infty$. Par compacité de $K$, quitte à extraire, la suite des $\phi_{t_n}(x_n)$ converge vers un point $x$ dans $X$, et pour tout $t\in[0,t_n]$, nous avons $\phi_{t_n-t}(x_n)\notin V$. Pour tout $t\geq 0$, par continuité, nous avons
$$
\phi_{-t}(x)=\lim_{n\ra+\infty}\phi_{-t}(\phi_{t_n}(x_n))= \lim_{n\ra+\infty}\phi_{t_n-t}(x_n),
$$
qui n'appartient pas à $V$, car $V$ est ouvert. Ceci contredit l'hypothèse, car $K$ est contenu dans $V$.
\end{proof}

Pour démontrer la seconde assertion du lemme \ref{lemm:zornette}, on utilise le lemme précédent avec pour espace $X$ le minimal $\M$, pour flot $\phi:(\RR\times\M)\to\M$ la restriction du flot associé au sous-groupe à un paramètre $\{u_t\sep t\in\RR\}$, et pour compact $K$ l'intersection $C\cap \M$, où~$C$ est un compact de $G/\Ga$ comme dans le lemme \ref{lem:nondiverunip}.
\end{proof}

Revenons maintenant à la preuve du théorème \ref{theo:hedlund}. Soit $x$ un point de $G/\Ga$ dont l'orbite par $\bNN$ est non périodique, et montrons que son orbite est dense. Ceci conclura la preuve du théorème de Hedlund.

Par le lemme \ref{lemm:zornette}, deux cas (non exclusifs) sont possibles pour le fermé $F=\overline{\bNN \,x}$, adhérence de l'orbite de $x$ par $\bNN$, qui est non vide et invariant par~$\bNN$:
\begin{itemize}
\item[]
\emph{Cas 1}: $F$ contient un point $y$ d'orbite périodique,

\item[]
\emph{Cas 2}: $F$ contient un ensemble minimal compact ${\M}$, dont on note $y$ un point fixé.
\end{itemize}
Posons
$$
\wt X=\{g\in G\sep gy\in F\}
$$
si l'orbite de $y$ est périodique, et soit alors $T>0$ sa période. Sinon, posons
$$
\wt X= \{g\in G\sep g\M\cap \M\neq
\emptyset\},
$$
et notons $T$ n'importe quel réel strictement positif. Alors
\begin{itemize}
\item
$\wt X$ est fermé (par continuité de l'action et car $F$ est fermé dans le premier cas, et par compacité de $\M$ dans le second cas);

\item
$\wt X$ contient l'élément neutre;

\item
$\wt X$ est invariant par translations à gauche par $\bNN$ (car $F$ et $\M$ le sont);

\item
$\wt X$ est invariant par translations à droite par $\{u_{nT}\}_{n\in\ZZ}$ (et même par tout~$\bNN$ dans le second cas).
\end{itemize}

Notons $X$ l'image de $\wt X^{-1}$ dans $G/\bNN\simeq \RR^{2}\moins\{(0,0)\}$ par la projection canonique $\pi_\bNN:G\to G/\bNN$. Alors $X$ est un fermé (car $\wt X^{-1}$ est un fermé saturé), invariant par l'action dans $\RR^2$ du sous-groupe fermé $N_\Ga=\{u_{nT}\sep\nobreak n\in\ZZ\}$ de $\bNN$ (le quotient $\bNN/N_\Ga$ étant compact). En particulier, $X$ contient $\overline{\bigcup_{i\in\NN} \Ga p_i}$ pour toute suite $(p_i)_{i\in\NN}$ dans $X$.

Montrons, en distinguant les deux cas, que l'orbite de $y$ par le sous-groupe $\bAA\bNN$ est contenue dans $F$.

\smallskip
Supposons tout d'abord que l'orbite de $y$ soit périodique. Comme~$y$ appartient à l'adhérence de l'orbite de $x$ par $ \bNN$, il existe une suite $(u_{t_n})_{n\in\NN}$ dans~$\bNN$ telle que $u_{t_n}x$ converge vers $y$. Comme l'application $G\to G/\Ga$ est un homéomorphisme local, il existe une suite $(g_n)_{n\in\NN}$ dans $G$ convergeant vers~$e$ telle que $g_ny=u_{t_n}x$. En particulier $g_n$ appartient à~$\wt X$, par définition de~$\wt X$.

Montrons que $g_n$ n'appartient pas à $\bAA\bNN$. L'image par un élément de $\bAA\bNN$ d'un point d'orbite périodique par $\bNN$ est d'orbite périodique par $\bNN$ par la formule
\eqref{eq:anormaln} avant la proposition \ref{prop:iwasawa}. Or l'orbite de $x$ n'est pas périodique par~$\bNN$. Donc $g_n\notin\bAA\bNN$.

L'image $p_n$ de $g_n^{-1}$ dans $G/\bNN\simeq \RR^{2}\moins\{(0,0)\}$ n'appartient donc pas à $]0,+\infty[{}\times\{0\}$ (car ${\pi_\bNN}^{-1}(\,]0,+\infty[{}\times \{0\}=\bAA\bNN$). De plus, la~suite $(p_n)_{n\in\NN}$ converge vers le point $p_\infty=(1,0)$. Par le lemme \ref{lem:accumulptfix}, $X$~contient donc $\RR\times\{0\}$. Par conséquent, $\wt X^{-1}={\pi_\bNN}^{-1}(X)$ contient ${\pi_\bNN}^{-1}(\,]0,+\infty[{}\times\{0\})=\bAA\bNN$, et l'orbite de $y$ par $\bAA\bNN$ est contenue dans $F$ par définition de $\wt X$.

\smallskip
Supposons maintenant que l'orbite de $y$ ne soit pas périodique, et soit $\M$ un ensemble minimal compact comme donné par le second cas.

Montrons tout d'abord que $\wt X\cap\bAA\bNN$ est formé des éléments de $G$ pré\-ser\-vant~$\M$:
$$
\wt X\cap\bAA\bNN=\{g\in G\sep g\M=\M\}.
$$
En particulier, cela montrera que $\wt X\cap\bAA\bNN$ est un sous-groupe fermé de $\bAA\bNN$.

En effet, soit $g\in \wt X\cap\bAA\bNN$, comme $g\in\bAA\bNN$ normalise $\bNN$, la partie $g\M$ de $G/\Ga$ est fermée, non vide, invariante par $\bNN$, et rencontre non trivialement $\M$, par définition de $\wt X$ (qui contient $g$). Donc par minimalité, $g\M=\M$.

\smallskip
Montrons maintenant que $\wt X$ contient $\bAA\bNN$. Par minimalité de ${\M}$, il existe une suite $(t_n)_{n\in\NN}$ dans $\RR$ tendant vers $\pm\infty$ telle que $u_{t_n}y$ converge vers $y$. Comme l'application $G\to G/\Ga$ est un homéomorphisme local, il existe une suite $(g_n)_{n\in\NN}$ dans $G$ convergeant vers $e$ telle que $g_ny=u_{t_n}y$. En particulier $g_n$ appartient à $\wt X-\bNN$, par définition de $\wt X$ et parce que l'orbite de $y$ n'est pas périodique par $\bNN$. L'image $p_n$ de $g_n^{-1}$ dans $G/\bNN\simeq \RR^{2}\moins\{(0,0)\}$ est donc différente de $(1,0)$ (car ${\pi_\bNN}^{-1}(1,0)=\bNN$) et converge vers le point $p_\infty=(1,0)$.

Si la coordonnée verticale de $p_n$ est non nulle pour une infinité de~$n$, on conclut comme ci-dessus que $\wt X$ contient $\bAA\bNN$.

Sinon, pour $n$ assez grand, $p_n$ appartient à $]0,+\infty[{}\times\{0\}$ et converge vers $(1,0)$. Alors $\wt X\cap\bAA\bNN$ est un sous-groupe fermé non discret de~$\bAA\bNN$, contenant~$\bNN$, donc est saturé par l'action de $\bNN$ par translations à gauche. Par conséquent, son image par la projection $\bAA\bNN\to \bAA\bNN/\bAA\simeq\nobreak \bAA$ est un sous-groupe fermé non discret du groupe $\bAA$ (isomorphe à $(\RR^*_+,\times)$, donc à $\RR$ par l'exponentielle); donc cette image est tout $\bAA$. Ceci montre que $\wt X\cap\bAA\bNN=\bAA\bNN$.

Par conséquent, $\bAA\bNN$ préserve $\M$, et l'orbite de $y$ par $\bAA\bNN$ est contenue dans~$\M$, donc dans $F$.

Dans les deux cas, nous avons donc $\bAA\bNN y\subset \overline{\bNN x}$. La densité de l'orbite de~$x$ par $\bNN$ découle alors du lemme suivant.

\blemm\label{lem:orbitANdense}
Toute orbite de $\bAA\bNN$ dans $G/\Ga$ est dense.
\elemm

Ce lemme est valable plus généralement si nous remplaçons $\Ga$ par n'importe quel sous-groupe discret $\Ga'$ de $G$ de covolume fini, voir par exemple \cite[\S 2.2]{Ghy}\cite{BM}.

\begin{proof}\mbox{}\par
Puisque les espaces topologiques (non séparés !) $\bAA\bNN\backslash(G/\Ga)$ et $\Ga\backslash (G/\bAA\bNN)$ sont homéomorphes, tout singleton est dense dans l'un si et seulement si c'est le cas dans l'autre. Il suffit donc de montrer que toute orbite de l'action de $\Ga$ sur $G/\bAA\bNN$ est dense. Or si $\bPP$ est le sous-groupe triangulaire supérieur de $G$, alors $\bPP=\bAA\bNN\{\pm \id\}$, et la projection canonique $G/\bAA\bNN\to G/\bPP$ est un homéomorphisme local. Rappelons qu'il existe un homéomorphisme $G$-équivariant entre $G/\bPP$ et $\widehat\RR$. Il suffit donc de montrer que toute orbite de l'action projective de $\Ga$ sur $\widehat\RR$ est dense.

Supposons par l'absurde que ceci ne soit pas vrai. Soit $I$ une composante connexe du complémentaire dans $\widehat\RR$ de l'adhérence d'une orbite de $\Ga$ qui n'est pas dense. Pour tout $\ga\in\Ga$, si $\ga I\cap I$ est non vide, comme $I$ ne contient pas de point de l'orbite par $\Ga$ d'une extrémité de~$I$, on a $I\subset \ga I$. Puisque ceci est aussi vrai en remplaçant~$\ga$ par~$\ga^{-1}$, on a $\ga I=I$. En utilisant l'action de $\Ga$ sur $\overline{\HH}=\HH\cup\widehat{\RR}$, l'élément $\ga$ préserve donc la géodésique de $\HH$ entre les extrémités de l'intervalle~$I$ (qui sont disjointes, car $\widehat{\RR}\moins I$ n'est pas réduit à un point, le groupe~$\Ga$ n'ayant pas de point fixe global sur $\widehat\RR$).

Notons $H$ le stabilisateur de cette géodésique dans $\Ga$. Il est discret, et ne contient pas d'élément échangeant les deux extrémités de $I$ (car un élément de~$\Ga$ qui échange deux points de $\widehat{\RR}$ échange aussi les deux composantes connexes de $\widehat{\RR}$ privé de ces deux points; et $\Ga$ tout entier ne préserve pas de paire de points de $\widehat\RR$). Montrons qu'il existe un intervalle ouvert non vide $J$ de $I$ qui ne rencontre aucune de ses images par un élément de $H\moins\{\id\}$, donc de $\Ga\moins\{\id\}$. Ceci contredit la densité de l'orbite du point $\infty$ par $\Ga$, qui est $\QQ\cup\{\infty\}$.

\begin{figure}[htb]
\begin{center}
\begin{picture}(0,0)%
\includegraphics[scale=.85]{fig_homothetie}%
\end{picture}%
\setlength{\unitlength}{3169,65sp}%
%
\begingroup\makeatletter\ifx\SetFigFont\undefined%
\gdef\SetFigFont#1#2#3#4#5{%
  \reset@font\fontsize{#1}{#2pt}%
  \fontfamily{#3}\fontseries{#4}\fontshape{#5}%
  \selectfont}%
\fi\endgroup%
\begin{picture}(2037,2189)(2746,-4947)
\put(3016,-2941){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\infty$}%
}}}}
\put(4411,-3481){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\HH$}%
}}}}
\put(3061,-4876){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$0$}%
}}}}
\put(3421,-4876){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$1$}%
}}}}
\put(3908,-4869){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\ga J$}%
}}}}
\put(4591,-4869){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\RR$}%
}}}}
\put(2836,-3976){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\ga i$}%
}}}}
\put(2948,-4358){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$i$}%
}}}}
\put(3586,-4576){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$J$}%
}}}}
\put(2761,-3639){\makebox(0,0)[lb]{\smash{{\SetFigFont{10}{12.0}{\rmdefault}{\mddefault}{\updefault}{\color[rgb]{0,0,0}$\ga^2i$}%
}}}}
\end{picture}%
\caption{}\label{fig_homothetie}
\end{center}
\end{figure}
Comme l'action de $G$ sur les couples de points de $\widehat\RR$ est transitive, il existe~$g$ dans $G$ tel que $gI={}]0,+\infty[$. Alors $gHg^{-1}$ est un sous-groupe discret de~$G$ préservant $0$ et $\infty$, donc est formé d'homothéties $z\mto \lambda z$ avec $\lambda>0$. Comme un sous-groupe discret de $(\RR,+)$, donc de $(\,]0,+\infty[{},\times)$, est trivial ou infini cyclique, il existe $\epsilon>0$ tel que $J= {}]1,1+\epsilon[$ ne rencontre aucune de ses images par les éléments de $gHg^{-1}\moins\{\id\}$. Le résultat en découle.
\end{proof}

Ceci conclut la preuve du théorème de Hedlund.
\end{proof}

\begin{rema*}
Si $\Ga'$ est un sous-groupe discret de $G$ tel que son quotient $G/\Ga'$ soit compact, alors le théorème de Hedlund peut être précisé ainsi:
\par\nopagebreak\centerline{toute orbite de $\bNN$ sur $G/\Ga'$ est dense.}
\par\noindent L'inexistence d'orbite périodique est assurée par les propriétés de normalisation de l'action de $\bNN$ par l'action de $\bAA$, comme le montre le résultat suivant.

\blemm\label{lem:cocompnonexistorbperio} Soit $\Ga'$ un sous-groupe discret de $G$ tel que le quotient $G/\Ga'$ soit compact. Alors $\bNN$ n'admet pas d'orbite périodique sur $G/\Ga'$.
\elemm

\begin{proof}
Comme
$$
\begin{pmatrix} e^{-s} & 0\\ 0 & e^{s}\end{pmatrix} \begin{pmatrix} 1 & t\\ 0 & 1\end{pmatrix} \begin{pmatrix} e^{-s} & \\ 0 & e^{s}\end{pmatrix}^{-1} =\begin{pmatrix} 1 & te^{-2s} \\ 0 & 1\end{pmatrix},
$$
s'il existe une orbite périodique de $\bNN$ sur $G/\Ga'$, alors il existe une orbite périodique de période arbitrairement courte. Soit $C$ un compact de $G$ dont l'image par la projection canonique $G\to G/\Ga'$ est tout $G/\Ga'$. Il existe donc un point de $C$ bougé par $\Ga'$ non trivialement, mais arbitrairement peu, ce qui, puisque $C$ est compact, contredit la discrétude de $\Ga'$.
\end{proof}
\end{rema*}

\backmatter
\bibliographystyle{jepalpha+eid}
\bibliography{xups07-02}
\end{document}
