\documentclass[XUPS,XML,SOM,Unicode,francais,NoEqCountersInSection,ThmDefs]{cedram}
\OneNumberAllTheorems
\setcounter{tocdepth}{2}
\usepackage{../xups09}

\def \C #1{\mathcal #1}
\let\R\bbR
\let\Z\bbZ
\let\N\bbN
\let\U\bbU

\DeclareMathOperator{\Ad}{Ad}
\DeclareMathOperator{\sgn}{sgn}
\DeclareMathOperator{\Sp}{Sp}

\newcommand{\defin}{:=}

\let\lb\langle
\let\rb\rangle
\let\ssk\smallskip
\def\inv{^{-1}}
\def\ddt{\frac d{dt}{}_{| t=0}\,}
\let\bo\bmo
\let\g\mathfrak
\def \gK {(\g g_{\CC}, K)}

\hyphenation{irré-duc-ti-ble irré-duc-ti-bles cano-ni-que cano-ni-ques résul-tat résul-tats carac-tè-re carac-tè-res}

\begin{document}
\frontmatter
\title{Théorie des représentations de \texorpdfstring{$\mathrm{GL}(2,\mathbb{R})$}{GL2R}}
\author[\initial{M.} \lastname{Andler}]{\firstname{Martin} \lastname{Andler}}
\address{Laboratoire de Mathématiques (UMR CNRS 8100)\\
Université de Versailles Saint-Quentin\\
78035 Versailles Cedex}
\email{andler@math.uvsq.fr}

\thanks{Journées X-UPS 2009. Les représentations linéaires et le grand théorème de Fermat. Éditions de l'École polytechnique, 2009}

\maketitle
\vspace*{-\baselineskip}
\tableofcontents

\mainmatter

\section{Les premiers exemples}
Cette partie de l'ouvrage est consacrée à un exposé de la théorie des représentations du groupe $\SLR$ des matrices réelles $2 \times 2$ de déterminant $1$, et de groupes qui lui sont très proches, comme le groupe $\GLR$ de toutes les matrices $2 \times 2$ inversibles, avec pour but d'aborder le lien entre cette théorie et celle des formes automorphes. On ne supposera rien connu au delà de l'algèbre linéaire, topologie générale et théorie de la mesure du niveau licence.

Plutôt qu'une véritable introduction à ce qui n'est après tout qu'un texte introductif, nous préférons entamer cet exposé en interprétant trois situations bien connues en termes de représentations de certains groupes commutatifs. Ces exemples mettent en évidence le double aspect algèbre/analyse de la théorie et permettent d'en introduire immédiatement certaines subtilités.

Comme on l'a vu dans le texte précédent de Guy Henniart, une \emph{représentation} d'un groupe~$G$ dans l'espace vectoriel complexe~$V$ est un homomorphisme de~$G$ à valeurs dans le groupe des isomorphismes de $V$. C'est donc la donnée, pour chaque $g \in G$, d'une application linéaire $\pi(g)$, avec la propriété $\pi(g g') = \pi(g) \pi(g')$ pour tous $g, g'$ dans~$G$. Outre les exemples \og triviaux\fg: $G = \GL(V)$, $\pi = \id$; $G$~quelconque, $V = \CC$, $\pi(g) = 1$ pour tout $g$, on aura en tête
\begin{enumerate}
\item
l'application déterminant ($E$ espace vectoriel de dimension finie, $G \!=\! \GL(E)$, $V \!=\nobreak\!\nobreak \CC$),
\item
pour le groupe symétrique $\mathfrak S_3$, la signature ($V = \CC$) et l'homomorphisme à valeurs dans $\GL(2, \CC)$ qui envoie $\mathfrak S_3$ sur le groupe des isométries du triangle équilatéral.
\end{enumerate}

La théorie des représentations a d'abord été étudiée pour les groupes finis par Frobenius dans des articles datant de 1896 et 1897 (voir le texte de G. Henniart dans ce volume), et dans le contexte de la théorie des invariants par de nombreux mathématiciens au \textsc{xix}\ieme siècle, culminant avec le travail fondamental de Hilbert en 1893. Nous avons ici en vue l'étude des représentations du groupe $\SLR$ dans des espaces vectoriels de dimension infinie et nous introduirons une notion supplémentaire de continuité de la représentation. D'où le fait que la théorie des représentations fasse intervenir à la fois des concepts algébriques et des notions d'analyse, en particulier d'analyse fonctionnelle. Afin de donner un avant-goût de ce mélange, nous commençons par présenter nos trois exemples de base.

\subsection{Représentations de dimension finie de \texorpdfstring{$\Z$}{Z}} Une représentation $\rho$ de $\Z$ dans un espace vectoriel complexe $V \neq 0$ est donc un homomorphisme $\Z \to \GL(V)$: pour tout $n \in \Z$ on a un isomorphisme $\rho(n)$ de $V$, avec $\rho(n+m) = \rho(n) \rho(m)$. Évidemment, $\rho$~est entièrement déterminée par la donnée de l'opérateur $r = \rho(1)$ puisque $\rho(n) = \rho(1)^n$. Si $V$ est de dimension finie supérieure ou égale à~$1$, l'automorphisme~$r$ admet au moins une valeur propre, et l'espace propre correspondant est stable par $\rho(n)=r^n$ pour tout $n\in \Z$. Si~$\rho$ est \emph{irréductible}, c'est-à-dire n'admet aucun sous-espace autre que~$\{0\}$ et~$V$ stable par les $\rho(n)$, $n \in \Z$, il ne peut y avoir qu'une seule valeur propre, et l'espace propre correspondant est de dimension $1$. On a donc:

\begin{proposition}
Si $\rho$ est une représentation irréductible de $\Z$ dans un espace $V$ de dimension finie, $V$ est de dimension $1$ et il existe $\lambda \neq 0$ dans $\CC$ tel que $\rho(n) = \lambda^n$.
\end{proposition}

Dans le cas réductible (non irréductible), une question intéressante est de savoir si l'on peut \og décomposer\fg, en un certain sens, une représentation en représentations irréductibles. En général, c'est compliqué même si l'espace est de dimension finie: si $r$ n'est pas diagonalisable, la meilleure réponse à la question est donnée par la forme de Jordan de $r$. Mais si $\rho$ est une représentation \emph{unitaire} de $\Z$ (c'est-à-dire que $V$ est pré-hilbertien, et que $\rho(n)$ est unitaire pour tout~$n$), les résultats bien connus sur la diagonalisation nous disent que $\rho$ est somme directe orthogonale de représentations irréductibles, avec des répétitions éventuelles (dans le cas où les multiplicités des valeurs propres sont supérieures à $1$): soit $e_1, \dots, e_d$ une base orthonormale de vecteurs propres correspondant aux valeurs propres $\lambda_1, \dots, \lambda_d$. Alors $\rho(n) (\sum_{i=1}^d x_i e_i) = \sum \lambda_i^n x_i e_i$. Sans expliciter la définition précise correspondante, ce résultat affirme que la représentation $\rho$ est somme directe des représentations de $\Z$ dans $\CC$: $n \mto \lambda_i^n$.

Nous allons reformuler ce résultat simple de manière fort compliquée, en priant le lecteur d'accepter l'effort de comprendre cette formulation, importante pour la suite.
\begin{proposition}
Soit $\rho$ une représentation unitaire de $\Z$ dans $V$ de dimension finie $d$ et $r = \rho(1)$. Il existe un ensemble $S$ de cardinal~$d$, une application $\nu$ de $S$ dans $\U = \{z \in \CC\mid |z| = 1\}$ et un isomorphisme $J$ de~$V$ dans $L^2(S)$ (pour la mesure de comptage) tels que, pour tout $v \in V$, $J(r(v))(s) = \nu(s) J(v)(s)$; autrement dit, si $M_{\nu}$ désigne l'opérateur de multiplication par $\nu$ dans $L^2(S)$, on a le diagramme commutatif
\[
\begin{CD} V @> r >> V\\ @V J VV @V J VV \\ L^2(S) @>M_{\nu} >> L^2(S)
\end{CD}
\]

On en déduit le diagramme, pour tout $n \in \Z$
\begin{equation}\begin{CD} \label{spectralhard} V @>\rho(n)>> V\\ @V J VV @V J VV \\ L^2(S) @>M_{\nu^n} >> L^2(S)
\end{CD}
\end{equation}
où $\nu^n(s) = (\nu(s))^n$.
\end{proposition}

\begin{proof}
L'ensemble $S$ est égal à $\{1, \dots, d\}$. Le choix de la base $e_1, \dots, e_d$ permet d'identifier $V$ à $\CC^d$, mais mieux encore à l'ensemble~$\CC^S$ des fonctions de $S$ dans $\CC$: il existe un isomorphisme $J: V \to \CC^S$ donné par:
\begin{equation}
\label{=defJ} v = \sum_1^d x_i e_i \mto [J(v) \colon j \in \{1, \dots, d\} \mapsto x_j]. 
\end{equation}
Pour la tribu discrète sur $S$ et la mesure de comptage sur $S$, il n'y a aucune différence entre $\CC^S$ et $L^2(S)$, donc $J$ est une application de~$V$ dans $L^2(S)$. Calculons $J \rho(n) J \inv$. On a
\[
J \bigg(\rho(n)\Big(\sum_1^d x_i e_i\Big)\bigg) (j) = \lambda_j^n x_j.
\]
En comparant avec \eqref{=defJ}, on a bien
\[
[(J \rho(n) J \inv)(\phi)](j) = \lambda_j^n \phi(j) = \nu^n(j) \phi(h) = M_{\nu^n} (J(v));
\]
en notant $\nu$ la fonction $j \in S \mto \lambda_j$.
\end{proof}

\begin{remarque}Le résultat de la proposition est plus simple à formuler dans le cas de la multiplicité $1$. Dans ce cas, la fonction $\nu$ est injective, et on peut remplacer $S = \{1, \dots, d\}$ par $S' = \{\lambda_1, \dots, \lambda_d\}$ et $\nu$ par la fonction $\id \colon \lambda_j \mto \lambda_j$.
\end{remarque}

On aurait un résultat très similaire si on avait pris le groupe commutatif $\Z^k$. Soit en effet $\rho$ une représentation unitaire de~$\Z^k$ dans l'espace pré-hilbertien de dimension finie $V$. En notant la base canonique de $\Z^k$ sur $\Z$ par $\alpha_\ell = (0, \dots, 0, 1, 0, \dots, 0)$, et en posant $r_\ell = \rho(\alpha_\ell)$, on peut appliquer aux $r_\ell$ le théorème de diagonalisation simultanée des opérateurs unitaires commutant deux à deux. On a donc une base $e_1, \dots, e_d$ de $V$ qui sont vecteurs propres pour tous les $r_\ell$, et donc pour tous les $\rho(\ov n)$, pour $\ov n \in \Z^k$. La valeur propre correspondant à $e_j$ dépendant de $\ov n$, on la note $\ov\lambda_j(\ov n)$:
\[
\rho(\ov n)(e_j) = \ov\lambda_j(\ov n) e_j.
\]
L'application $\ov n \mto \ov\lambda_j(\ov n)$ est un homomorphisme de groupes:
\begin{align*}
\rho(\ov n + \ov n')(e_j) &= \ov\lambda_j(\ov n + \ov n') e_j\\ &= \rho(\ov n)(e_j) + \rho(\ov n')(e_j)\\ &= \ov\lambda_j(\ov n) e_j + \ov\lambda_j(\ov n') e_j.
\end{align*}
Nous reformulons le résultat comme dans le cas d'une représentation de $\Z$. Pour simplifier, nous nous restreignons au cas \og valeurs propres distinctes\fg de la remarque ci-dessus: nous faisons l'hypothèse que les applications $\ov\lambda_j$ sont différentes deux à deux:
\[
\forall j \neq j' \in \{1, \dots, d\},\ \exists \ov n \in \Z^k,\quad \ov\lambda_j(\ov n) \neq \ov\lambda_{j'}(\ov n).
\]
Soit $S = \{\ov\lambda_j\mid 0 \leq j \leq d\}$. Soit $J$ l'isomorphisme $V \to \CC^S \simeq L^2(S)$ défini par la base $(e_i)_{1 \leq i \leq d}$:
\[
J\Big(\sum_i x_i e_i\Big) (\ov\lambda_j) = x_j.
\]
Calculons: $J[(\rho(\ov n)(\sum x_i e_i)](\ov\lambda_j) = \ov\lambda_j(\ov n) x_j = \ov\lambda_j(\ov n) J(\sum x_i e_i) (\ov\lambda_j)$, ce qui démontre la commutativité du diagramme
\begin{equation}\begin{CD} \label{spectralharddimk} V @>\rho(\ov n)>> V\\ @V J VV @V J VV \\ L^2(S) @>M_{\nu(\ov n)} >> L^2(S)
\end{CD}
\end{equation}
où, pour tout $\ov n \in \Z^k$, $M_{\ov n}$ est l'opérateur de multiplication dans $L^2(S)$ par la fonction $\ov\lambda_j \in S \mto \ov\lambda_j (\ov n)$ ($0 \leq j \leq d$).

\begin{remarque}
Pour des représentations de dimension infinie, ce résultat resterait vrai, mais dans le cadre de la théorie spectrale, donc serait nettement plus difficile. Nous présenterons plus loin le théorème spectral.
\end{remarque}

\subsection{Théorie de Fourier 1: le cas des séries}

Il va falloir s'habituer au fait que la théorie des représentations de $\GLR$ n'est pas entièrement algébrique, loin de là, même si on a en vue des applications arithmétiques. Autant commencer tout de suite ! \emph{A contrario}, il~faut s'habituer à ce que la théorie de Fourier ne soit pas entièrement du ressort de l'analyse.

Rappelons très rapidement les trois résultats principaux de la théorie. Si $f$ est une fonction $C^\infty$ périodique de période $1$, on note
\begin{equation}
\label{=coefs} c_n(f) = \int_{\R/\Z} f(x) e^{-2i\pi n x} dx
\end{equation}
le $n$ième coefficient de Fourier. Alors
\begin{subequations}
\begin{align}
\label{=bessel} \int_{\R/\Z} |f(x)|^2 dx &= \sum_{n \in \Z} |c_n(f)|^2\\
\label{=inversion} f(0) &= \sum_{n \in \Z} c_n(f)\\
\label{=fdiag} \forall n \in \Z,\ \forall x' \in \R/\Z,&\quad c_n([\lambda(x')](f)) = e^{-2i\pi n x'} c_n(f),
\end{align}
\end{subequations}
où $\lambda$ est la \emph{représentation \og régulière gauche\fg} du groupe $\R/\Z$ dans l'espace de Hilbert $L^2(\R/\Z)$, définie par
\begin{equation}
\label{=reg} (\lambda(x') f)(x) = f(x-x').
\end{equation}
Ces définitions et propriétés appellent plusieurs commentaires:
\begin{itemize}
\item
$L^2(\R/\Z)$ est relatif à la mesure $f \mto \int_0^1 f(x) dx$;
\item
la mesure ci-dessus a la propriété importante d'être invariante à gauche (et aussi à droite, à cause de la commutativité), c'est-à-dire:
\[
\forall f \in L^1(\R/\Z),\ \forall x' \in \R/\Z,\quad \int_{\R/\Z} f(x-x') dx = \int_{\R/\Z} f(x) dx;
\]
\item
cette dernière propriété implique que $\lambda$ est une représentation \emph{unitaire} de $\R/\Z$ dans $L^2(\R/\Z)$:
\begin{equation}\label{=unit1} \Vert \lambda(x') f \Vert_{L^2} = \Vert f \Vert_{L^2};
\end{equation}
\item
la \og définition\fg $(\lambda(x') f)(x) = f(x-x')$ doit être comprise de la manière suivante: la formule a un sens pour $f$ continue, et d'après~\eqref{=unit1} est une isométrie, qui admet donc un unique prolongement isométrique à $L^2(\R/\Z)$;
\item
\eqref{=bessel} permet de prolonger l'application $\C S \colon f \mto (c_n(f))_n$ ainsi définie de $C^\infty(\R/\Z)$ dans $\ell^2$ (les suites indexées par $\Z$ de carré sommable) en une isométrie, notée également $\C S$ de $L^2(\R/\Z)$ sur $\ell^2$.
\end{itemize}
La relation \eqref{=fdiag} s'interprète alors comme la commutativité du diagramme, pour tout $x' \in \R/2\pi \Z$,
\begin{equation}
\begin{CD} L^2(\R/\Z) @>\lambda(x')>> L^2(\R/\Z)\\ @V {\C S} VV @V {\C S} VV \\ \ell^2 @>M_{e^{-2 i \pi n x'}} >> \ell^2
\end{CD}
\end{equation}
où, comme auparavant, $M_{e^{-2 i \pi n x'}}$ désigne la multiplication, dans $\ell^2$, par la suite $(e^{-2 i \pi n x'})_{n\in \Z}$. Les séries de Fourier nous ont donc permis
\begin{itemize}
\item
de diagonaliser simultanément les opérateurs de translation à gauche $\lambda(x')$ \eqref{=fdiag}, les valeurs propres, dépendant de $x'$, étant les \emph{caractères} de $\R/\Z$: $x' \mto e^{2i\pi n x'}$;
\item
autrement dit, on a une décomposition de $L^2(\R/\Z)$ en somme directe (hilbertienne) d'espaces propres;
\item
en plus, on a la formule d'inversion \eqref{=inversion}, qu'on peut voir comme la décomposition de la forme linéaire $f \mto f(0)$ (distribution de Dirac) par rapport à la décomposition de $L^2(\R/\Z)$.
\end{itemize}

\subsection{Transformation de Fourier} Soit $\C F$ la transformation de Fourier, définie par la formule
\begin{equation}
\label{=fourier} \C F(f) (\xi) = \int_{\R} f(x) e^{-2i\pi \xi x} dx
\end{equation}
pour une fonction $C^\infty$ à support compact. Alors
\begin{subequations}
\begin{align}
\label{=cbessel} \int_{\R} |f(x)|^2 dx &= \int_{\R} [f(\xi)|^2 d \xi\\
\label{=cinversion} f(0) &= \int_\R \C F(f) (\xi) d \xi \\
\label{=cfdiag} \C F(\lambda(x')f)(\xi) &= e^{-2i\pi \xi x'} \C F(f) (\xi),
\end{align}
\end{subequations} où $\lambda$ est la \emph{représentation régulière gauche} de $\R$ dans $L^2(\R)$, c'est-à-dire la représentation définie par
\begin{equation}
\label{=creg} (\lambda(x') f)(x) = f(x-x').
\end{equation}
\emph{Bis repetita placent...}, cette définition appelle plusieurs commentaires:
\begin{itemize}
\item
$L^2(\R)$ est relatif à la mesure de Lebesgue;
\item
la mesure de Lebesgue a la propriété importante d'être invariante à gauche (et aussi à droite, à cause de la commutativité), c'est-à-dire:
\[
\forall f \in L^1(\R),\ \forall x' \in \R,\quad \int_\R f(x-x') dx = \int_\R f(x) dx;
\]
\item
cette dernière propriété implique que $\lambda$ est une représentation \emph{unitaire} de $\R$ dans $L^2(\R)$:
\begin{equation}
\label{=unit2} \Vert \lambda(x') f \Vert_{L^2} = \Vert f \Vert_{L^2};
\end{equation}
\item
la \og définition\fg $(\lambda(x') f)(x) = f(x-x')$ doit être comprise de la manière suivante: la formule a un sens pour le sous espace dense des~$f$ continues à support compact, et d'après \eqref{=unit2} est une isométrie, qui admet donc un unique prolongement isométrique à $L^2(\R)$.
\item
\eqref{=cbessel} permet de prolonger l'application $\C F$ de $C_c^\infty(\R)$ dans $C^\infty(\R)$ en une isométrie, notée également $\C F$, de $L^2(\R)$ dans $L^2(\R)$.
\end{itemize}
La relation \eqref{=cfdiag} s'interprète comme la commutativité du diagramme, pour tout $x' \in \R$,
\begin{equation}
\begin{CD} \label{=spectrfou} L^2(\R) @>\lambda(x')>> L^2(\R)\\ @V {\C F} VV @V {\C F} VV \\ L^2(\R) @>M_{e^{-2 i \pi \xi x'}} >> L^2(\R)
\end{CD}
\end{equation}
où, comme auparavant, $M_{e^{-2 i \pi \xi x'}}$ désigne la multiplication, dans $L^2(\R)$ par la fonction $\xi \mto e^{-2 i \pi \xi x'} $.

La même chose, à quelques détails près... car on a remplacé une série par une intégrale. Les \og fonctions\fg $x \mto e^{2i\pi \xi x}$ sont bien des \og fonctions propres\fg pour tous les $\lambda(x')$, avec la valeur propre $e^{-2i\pi \xi x'}$, mais elles ont le gros inconvénient de ne pas appartenir à $L^2(\R)$, et~donc de ne pas du tout être des fonctions propres. À cela près, la décomposition obtenue \eqref {=spectrfou} est la décomposition spectrale (simultanée) des opérateurs unitaires $\lambda(x')$, dans une situation où il n'y a qu'un spectre continu (voir le paragraphe suivant pour un énoncé du théorème spectral).

\begin{remarque}
\label{tentation} Il est extrêmement tentant d'intégrer et de dériver la formule \eqref{=creg}.
\begin{enumeratea}
\item
Il est assez naturel de \og prolonger\fg $\lambda$ aux fonctions dans $L^1$ par la formule
\begin{equation}
\label{=exten} \lambda(\phi) = \int_{\R} \phi(x') \lambda(x') dx', 
\end{equation}
qui donne
\begin{multline}
[\lambda(\phi)(f)] (x) = \int_\R \phi(x')[\lambda(x')(f)] (x) dx'\\
= \int_\R \phi(x') f(x-x') dx' = \phi \ast f(x),
\end{multline}
où $\ast$ est la convolution.

Les opérateurs de convolution sont donc intrinsèquement liés à la représentation régulière gauche de $\R$. Si on applique la formule de convolution à la \og fonction de Dirac\fg $\phi(x) = \delta_{x_0}$ en $x_0$, on retrouve $\lambda(x_0)$, ce qui justifie l'utilisation du mot \og prolongement\fg.

On reviendra plus tard dans un cadre plus général aux difficultés d'analyse liées à cette définition, mais notons toute de suite que le point essentiel est que la convolée d'une fonction dans $L^1$ et d'une fonction dans $L^2$ est bien dans $L^2$.

\item
On est également tenté de dériver $\lambda(x')$ par rapport à $x'$, et on obtient
\[
\frac{d \lambda(x')f}{dx'}{}_{| x'=0} (x) = - f'(x),
\]
formule qui a un sens pour $f$ de classe $C^\infty$. Notons tout de suite que l'opérateur $f \mto f'$ \emph{n'est pas continu} (pas borné) pour la norme $L^2$.
\end{enumeratea}
\end{remarque}

\subsection{Conclusion} Diagonalisation, séries de Fourier, transformation de Fourier, même combat~! Ce sont des cas particuliers de ce qu'on appelle l'analyse harmonique \og commutative\fg, \ie sur un groupe commutatif. Le présent texte traite d'un cas simple de l'extension de la théorie de Fourier à un groupe non commutatif: $\SLR$.

\section{Analyse fonctionnelle et théorie spectrale} On sait bien que l'étude des espaces vectoriels normés de dimension infinie est bien plus compliquée que celle des espaces de dimension finie: les applications linéaires ne sont pas nécessairement continues; il y a plusieurs topologies naturelles à considérer, etc. Nous donnons ci-dessous quelques résultats de base avec en vue la théorie spectrale -- notre conseil étant de ne pas trop prêter attention à ces complications en première lecture.

\subsection{Théorie spectrale pour les opérateurs bornés} Soit $\C E$ un espace de Banach, la norme étant notée $\Vert \cdot \Vert$. Rappelons qu'un opérateur $T \colon \C E \to \C E$ est continu si et seulement s'il existe $K>0$ tel que $\Vert Tx \Vert \leq K \Vert x \Vert$ pour tout $x \in \C E$. On pose alors $\Vert T \Vert = \inf\{K\mid\nobreak \forall x \in\nobreak \C E,\, \Vert Tx \Vert \leq K \Vert x \Vert \}$: c'est une norme sur l'ensemble $\C L_c(\C E)$ des opérateurs continus.

Une conséquence du théorème de Baire est:

\begin{theoreme}[Théorème du graphe fermé]
Une~\hbox{application}~\hbox{linéaire} $T:\C E \!\to\! \C E$ est continue si et seulement si son graphe $\Gamma \!=\! \{(x, Tx)\mid\nobreak x \!\in\nobreak\!\nobreak \C E\}$ est fermé.
\end{theoreme}

Il existe d'autres topologies sur $\C L(\C E)$ que la topologie associée à cette norme (topologie de la norme). La \emph{topologie forte} est la topologie la moins fine sur $\C L(\C E)$ telle que les applications $T \in \C L(\C E) \mto Tx$ soient continues pour tout $x \in \C E$, et la \emph{topologie faible} est la topologie la moins fine sur $\C L(\C E)$ telle que les applications $T \in \C L(\C E) \mto \lb \nu,Tx \rb$ soient continues pour tout $x \in \C E$, $\nu \in \C E'$ (où $\C E'$ est le dual topologique de $\C E$, c'est-à-dire l'ensemble des formes linéaires continues sur $\C E$, et $\lb\cdot, \cdot \rb$ le crochet de dualité). Les applications
\begin{gather*}
(\C L(\C E),\text{ topologie de la norme}) \\ \downarrow\\ (\C L(\C E), \text{ topologie forte})\\ \downarrow\\(\C L(\C E), \text{ topologie faible})
\end{gather*}
sont continues.

Soit maintenant~$\C H$ un espace de Hilbert et $T \colon \C H \to \C H$ un opérateur borné. Le spectre de $T$, noté $\Sp(T)$, est l'ensemble des $\lambda \in \CC$ tels que $T - \lambda \id$ n'est pas inversible. Mais en quel sens ? \emph{A priori}, ça peut être au sens algébrique (il existe un inverse à gauche et à droite), ou au sens topologique: il existe un inverse \emph{continu}. Heureusement, le théorème de l'application ouverte nous permet d'être négligent: si~$T - \lambda \id$ est inversible au sens algébrique, alors son inverse est continu. En revanche, nous ne pouvons pas faire l'économie de distinguer entre les $\lambda$ tels que $T - \lambda \id$ n'est pas injectif (les valeurs propres) et les $\lambda$ tels que $T - \lambda \id$ n'est pas surjectif; les deux cas sont non disjoints. Un résultat important et difficile est que le spectre d'un opérateur est non vide et inclus dans le disque de centre $0$ et de rayon $\Vert T \Vert$.

Soit $T$ un opérateur borné auto-adjoint ($\forall x, y \in \C H$, $\lb Tx, y \rb = \lb x, Ty \rb$). Alors le spectre est inclus dans $\R$ (c'est immédiat pour les valeurs propres). Le théorème spectral généralise la diagonalisation pour les opérateurs auto-adjoints, avec pour modèle la théorie de Fourier rappelée plus haut (Fourier est un exemple d'opérateur unitaire, mais nous examinons ici le cas auto-adjoint, plus facile à formuler en général).

\begin{theoreme}[Théorème spectral]
Soit $T$ un opérateur borné auto-adjoint sur un espace de Hilbert séparable~$\C H$ (à base de Hilbert dénombrable). Il existe un espace mesuré $(M, \mu)$ à mesure finie, une fonction bornée $F \colon M \to \R$ et un opérateur unitaire $\C H \to L^2(M, d\mu)$ tels que
\[
\forall \phi \in L^2(M, d\mu),\quad (U T U\inv \phi)(m) = F(m) \phi(m).
\]
\end{theoreme}

\begin{remarque}
Dans le cas de la dimension finie, on sait bien que le cas difficile est celui où il y a des multiplicités, car il n'y a pas unicité (à constante près) d'une base de vecteurs propres. Il n'est donc pas surprenant que l'on retrouve cette difficulté en dimension infinie. Le résultat est donc bien plus simple à formuler dans le cas qui correspond à la multiplicité $1$, qu'on traduit par l'existence d'un $v \in \C H$ cyclique, c'est-à-dire tel que l'espace engendré par la famille $T^nv$ soit dense dans~$\C H$. Dans ce cas, on prend $M = \Sp(T) \subset \R$, et donc la mesure $\mu$ sur $\Sp(T)$ peut être considérée comme une mesure borélienne sur $\R$, et la fonction $F(m) = m$.

Dans le cas général, on décompose l'espace~$\C H$ en une somme directe (finie ou dénombrable) d'espaces cycliques; on applique le résultat dans le cas cyclique à chaque terme de la somme. Il suffit alors de prendre pour $M$ une union finie ou dénombrable de copies de $\R$.
\end{remarque} C'est la \emph{mesure} $\mu$, appelée mesure \emph{spectrale}, qui est intéressante: existe-t-il des $m \in M$ tels que $\mu(\{m\}) >0$ ? La mesure est-elle absolument continue par rapport à la mesure de Lebesgue de $\R$, c'est-à-dire de la forme $\phi(x) dx$ pour une fonction positive $\phi$ ? Tout est possible. En se limitant au cas de multiplicité $1$, on peut appliquer un théorème général de théorie de la mesure qui affirme que toute mesure $\mu$ sur $\R$ se décompose de manière unique en une somme
\begin{equation}\label{=leb} \mu = \mu_{\text{pp}} + \mu_{\text{ac}} + \mu_{\text{sing}}
\end{equation}
où $\mu_{\text{pp}}$ est une mesure \emph{ponctuelle} (c'est-à-dire que, pour tout $X$, $\mu_{\text{pp}}(X) = \sum_{x \in X} \mu(\{x\})$), $\mu_{\text{ac}}$ est une mesure \emph{absolument continue} par rapport à la mesure de Lebesgue ($d\mu_{\text{ac}} = \psi(x) dx$ pour une fonction~$\psi$ localement $L^1$) et $\mu_{\text{sing}}$ est une mesure \emph{continue singulière} (telle qu'aucun $\{x\}$ n'est de mesure positive et il existe $S$ dont le complémentaire est de mesure de Lebesgue nulle tel que $\mu_{\text{sing}}(S) = 0$). Les mesures continues singulières sont les plus difficiles à comprendre, l'exemple canonique étant construit avec l'ensemble de Cantor (voir pour la théorie de la mesure \cite{resi}, \cite{ru} et la théorie spectrale \cite{kigv}, \cite{resi}).

À la décomposition \eqref{=leb} correspond une décomposition \hbox{orthogonale}
\begin{equation}
L^2(\R, \mu) = L^2(\R, \mu_{\text{pp}}) \oplus L^2(\R, \mu_{\text{ac}}) \oplus L^2(\R, \mu_{\text{sing}}). 
\end{equation}
On voit donc que les trois exemples de décomposition spectrale donnés au paragraphe 1 de ce texte (dimension finie, séries de Fourier, transformation de Fourier) ne rendent compte que très partiellement des complications possibles; en particulier la possibilité de présence simultanée de plusieurs types de spectres correspondant aux trois types de mesure apparaissant dans la décomposition. En mécanique quantique, on s'intéresse à l'opérateur de Schrödinger, et les différents types de spectre ont une interprétation physique cruciale. Dans la généralisation non commutative de la décomposition spectrale que nous donnerons à la fin de ce texte, il y a un spectre discret et un spectre continu.

\subsection{Opérateurs non bornés}

Beaucoup d'opérateurs \og intéressants\fg ne sont pas continus. Il en résulte de nombreuses difficultés dont cette section ne peut donner qu'une vague idée. Une conséquence du théorème du graphe fermé rappelé plus haut est le théorème de Hellinger-Toeplitz selon lequel une application linéaire symétrique $T \colon \C H \to \C H$ (où~$\C H$ est un espace de Hilbert), c'est-à-dire telle que
\[
\forall x, y \in \C H,\quad \lb Tx, y \rb = \lb x, Ty \rb)
\]
est automatiquement continue. Il en résulte qu'un opérateur $T$ symétrique \emph{non continu} ne peut pas être défini sur tout~$\C H$, mais sur un sous-espace $D(T)$, appelé \emph{domaine} de $T$. Sauf s'il en est spécifié autrement, $D(T)$ sera toujours supposé être dense dans~$\C H$. Les exemples suivants montrent que plusieurs choix sont possibles pour $D(T)$.

\begin{exemple} Sur $L^2(\R)$, les opérateurs $\phi(x) \mto x \phi(x)$ et $\phi \mto \phi'$ sont définis sur l'espace dense des fonctions $C_c^\infty(\R)$ à support compact; mais l'espace de Schwartz des fonctions $C^\infty$ à décroissance rapide ainsi que toutes leurs dérivées ferait également l'affaire.
\end{exemple} Le graphe de $T$ est $\Gamma(T)= \{(v, T(v))\mid v \in D(T)\} \subset \C H $. On dit que $T$ est \emph{fermé} si son graphe l'est, que $T'$ est une extension de $T$ et on note $T \subset T'$ si $\Gamma(T) \subset \Gamma(T')$. On dit que $T$ est \emph{fermable} s'il existe une extension fermée, et dans ce cas on note $\overline T$ la plus petite extension fermée, appelée la fermeture de $T$. On a alors
\[
\Gamma(\overline T) = \overline{\Gamma(T)}.
\]
On pourrait penser que cette assertion implique l'existence d'une fermeture de $T$; mais il existe des cas où $\overline{D(T)}$ n'est pas le graphe d'un opérateur (voir \cite{resi}, Chapitre VIII, problème 1).

On appelle adjoint de $T$, et on note $T^*$, l'opérateur dont le domaine $D(T^*)$ est $\{v \in C H\mid \exists u \in \C H,\, \forall w \in \C H,\, \lb Tw, v \rb = \lb w, u \rb \}$. À cause de la densité de $D(T)$, $u$ est unique et on définit $T^*(v) = u$. Il est possible que $D(T^*)$ ne soit pas dense, mais $T^*$ est toujours fermé, et on a
\begin{proposition}
L'opérateur $T$ est fermable si et seulement si $D(T^*)$ est dense. Dans ce cas $\overline T = T^{**}$.
\end{proposition}

On dit que $T$ est \emph{symétrique} si $T \!\subset\! T^*$, ou, de manière équivalente,~si
\[
\forall v, w \in D(T),\quad \lb Tv, w \rb = \lb v, Tw \rb,
\]
et auto-adjoint si $T = T^*$. Un opérateur symétrique est toujours fermable, mais sa fermeture n'est pas nécessairement auto-adjointe. La bonne notion est celle d'opérateur essentiellement auto-adjoint, opérateur symétrique dont la fermeture est auto-adjointe.

L'objectif de tous ces préliminaires est de pouvoir énoncer correctement les deux résultats pertinents pour nous, le théorème spectral et le théorème de Stone.

\begin{theoreme}[Théorème spectral] Soit $A$ un opérateur auto-adjoint sur un espace de Hilbert séparable~$\C H$ de domaine $D(A)$. Alors il existe un espace mesuré fini $(M,\mu)$, un opérateur $U \colon \C H \to L^2(M, \mu)$ et une fonction mesurable à valeurs réelles $f$ sur $M$ telle que
\begin{itemize}
\item
$v \in D(A)$ si et seulement si $m \mto f(m) [U(v)](m)$ est dans $L^2(M, \mu)$,
\item
$[U(A(v))] (m) = f(m) [U(v)](m)$.
\end{itemize}
\end{theoreme}

Une des applications de la théorie spectrale est le calcul fonctionnel, la possibilité de donner un sens à $\varphi(A)$ pour toute fonction borélienne bornée:
\[
[\varphi(A)](v) = U\inv\left[\varphi(f(m))[U(A(v))](m)\right].
\]
Avec cette définition, l'application $\varphi \mto \varphi(A)$ a toutes les bonnes propriétés.
\begin{remarque}
Dans le cas d'un opérateur borné $T$, on \emph{déduit} le théorème spectral du calcul fonctionnel, qui est assez facile à construire: on définit $P(T)$ pour $P$ polynôme de la manière évidente, puis on utilise le théorème de Stone-Weierstrass pour passer aux fonctions continues. On peut alors construite la mesure spectrale en utilisant le théorème de Riesz, ce qui permet finalement de définir $\varphi(T)$ pour toute fonction mesurable. Mais cette approche ne marche pas pour les opérateurs non bornés puisqu'on ne peut déjà pas définir $A^2 = A \circ A$ !
\end{remarque}

\begin{theoreme} [Théorème de Stone] Soit $A$ un opérateur auto-adjoint de domaine $D(A)$. Soit $U(t) = e^{it A}$ (défini par le calcul fonctionnel). Alors
\begin{enumerate}
\item
$U(t)$ est un opérateur unitaire et $t \mto U(t)$ est un homomorphisme fortement continu de $(\R,+)$ dans $U(\C H)$:
\item
pour $v \in D(A)$, $\lim_{t \to 0} \psfrac {U(t) v - v}{t} = i A v$;
\item
si $\lim_{t \to 0} \psfrac {U(t) v - v}{t}$ existe, alors $v \in D(A)$.
\end{enumerate}
Réciproquement, si $t \mto U(t)$ est un homomorphisme fortement continu de $(\R, +)$ dans $U(\C H)$, alors il existe un opérateur auto-adjoint $A$ tel que $U(t) = e^{it A}$.
\end{theoreme}

Un exemple de situation couverte par ce théorème est donné dans la remarque \ref{tentation}: $[U(t)f](x) = f(x-t)$, $Af(x) = -f'x)$.

\section{Représentations des groupes localement compacts}
Comme nous nous intéressons à des groupes topologiques, et, comme on le verra plus tard, à des représentations de dimension \emph{infinie}, on ne peut pas éviter des questions relativement ardues d'analyse fonctionnelle. En première lecture, néanmoins, on peut faire comme si ces questions ne se posaient pas, et c'est même recommandé, et supposer que toute application qu'on est susceptible de rencontrer est, suivant le cas, continue ou $C^\infty$.

Dans cette section,~$G$ est un groupe topologique localement compact:
\begin{itemize}
\item
le produit $(g, g') \in G \times G \mto gg' \in G$ ($G \times G$ muni de la topologie produit) est continu,
\item
l'application inverse $g \in G \mto g\inv$ est continue,
\item
tout élément $g \in G$ admet une base de voisinages compacts.
\end{itemize}
Les groupes qui nous intéressent ici sont $\GLR$ et $\SLR$: les~for\-mules pour le produit et pour l'inverse montrent bien que ce sont des groupes topologiques; ils sont localement compacts parce que respectivement ouvert et fermé dans $\R^4$ qui est localement compact.

\subsection{Généralités} Soit~$\C H$ un espace de Hilbert (on se limite à ce cas ici), le produit hermitien étant noté $\lb \cdot, \cdot \rb$ et la norme $\Vert \cdot\Vert$, $U(\C H)$ l'ensemble des opérateurs unitaires et $B(\C H)$ l'ensemble des opérateurs bornés, c'est-à-dire continus, sur~$\C H$. Pour $A \in B(\C H)$, on note $\Vert A\Vert$ sa norme. Une \emph{représentation $\pi$ de~$G$ dans l'espace de Hilbert~$\C H$} est un homomorphisme de~$G$ dans $B(\C H)$ qui est continue pour la topologie faible c'est-à-dire telle que
\[
(g,v) \in G \times \C H \mto \pi(g)(v) \in \C H
\]
est continue.

\begin{remarque}
La terminologie utilisée de représentation de~$G$ {\emph dans}~$\C H$ peut tout d'abord induire en erreur: l'application $\pi$ est une application de~$G$ à valeurs dans $B(\C H)$ et pas dans~$\C H$. On note $(\pi, \C H)$ une représentation dans~$\C H$, et le plus souvent $\pi$ lorsqu'il n'y a aucune ambiguïté sur~$\C H$.
\end{remarque}

\begin{remarque}
La condition de continuité (continuité conjointe) peut être difficile à vérifier. Mais par le théorème de Banach-Steinhaus il suffit de vérifier que
\[
\forall v \in \C H,\quad g \in G \mto \pi(g) v \in \C H
\]
est continue, ce qui est plus facile
\end{remarque}

La représentation est \emph{unitaire} si $\pi(g)$ est unitaire pour tout $g \in G$ ($\pi(G)\subset U(\C H)$); elle est \emph{irréductible} s'il n'y a aucun sous-espace \emph{fermé} autre que $\{0\}$,~$\C H$ qui soient invariants par tous les $\pi(g)$, $g \in G$ (on parlera alors, par abus de langage, de sous-espace invariant par $\pi$), et réductible sinon. Si~$\C H$ est de dimension finie, l'hypothèse \og fermé\fg est inutile, car tout sous-espace l'est. On verra au contraire, dans les exemples concrets de représentations irréductibles de dimension infinie, apparaître de nombreux sous-espaces denses stables par tous les $\pi(g)$.

\begin{exemple} On a vu dans la section 2 plusieurs exemples de représentations de groupes abéliens. Donnons dès maintenant, sans le détailler, un exemple au c\oe ur de notre propos; il sera étudié plus tard.

Soit $m \in \N$, $m \geq 2$, et
\[
\C H_{m} = \Big\{f \text{ holomorphe sur } \C P^+\!\mid \Vert f \Vert^2 = \!\iint_{\C P^+}\hspace*{-4pt} | f(z) |^2 y^{m-2} dx dy < \infty\Big\},
\]
où $\C P^+ = \{z = x+i y \in \CC\mid y >0\}$ est le demi-plan de Poincaré. Les représentations de la \emph{série discrète holomorphe} sont les représentations $D_{m}^+$ de $\SLR$ dans $\C H_{m}$ données par
\[
D_{m}^+ f(z) = (-bz + d)^{-m} f\Big(\frac{az -c}{-bz +d}\Big).
\]
Ce sont des représentations unitaires irréductibles. Cet exemple sera détaillé au paragraphe \ref{discana}.
\end{exemple}

Soit $(\pi_1, \C H_1), (\pi_2, \C H_2)$ deux représentations de~$G$. On définit alors la représentation somme directe $\pi$ de~$G$ dans $\C H = \C H_1 \oplus \C H_2$ par $\pi(g)_{|\C H_i} = \pi_i(g)$. Cette représentation est évidemment réductible. En dimension finie, une démonstration par récurrence élémentaire montre que toute représentation $\pi$ est somme directe de représentations irréductibles $ \pi = \bigoplus \pi_j$; les $\pi_j$ sont alors les sous-représentations de $\pi$. Mais ça n'est pas le cas en dimension infinie, comme le montre l'exemple de la représentation régulière gauche de $\R$ dans $L^2(\R)$. En général, il y a bien une décomposition, mais elle s'apparente à la décomposition spectrale d'un opérateur. Nous y reviendrons.

\subsection{Équivalence} Il y a une notion évidente d'équivalence de représentations: deux représentations $(\pi, \C H), (\pi', \C H')$ sont équivalentes s'il existe un opérateur borné inversible à inverse continu $J$ (\emph{opérateur d'entrelacement}) $\C H \to \C H'$ tel que
\[
\forall g,\quad \pi'(g) J = J \pi(g).
\]

\begin{remarque}
Par le théorème de l'application ouverte, l'hypothèse \og à inverse continu\fg est superflue.
\end{remarque}

Si les représentations $(\pi, \C H), (\pi', \C H')$ sont unitaires, on dit qu'elles sont unitairement équivalentes s'il existe un opérateur d'entrelacement unitaire. L'ensemble des classes d'équivalence de représentations unitaires irréductibles est le \emph{dual unitaire} $\wh G$ de~$G$.

La plupart du temps, nous ne ferons pas de distinction entre une représentation et sa classe. Mais le fait qu'on puisse considérer des représentants différents d'une même classe de représentations est très intéressant et utile. Et les opérateurs d'entrelacement eux-mêmes sont des objets dignes d'intérêt. Nous en verrons plusieurs exemples.

Le premier résultat significatif de la théorie des représentations~est:

\begin{theoreme}[Lemme de Schur] \label{schur}
Soit~$\C H$ un espace de Hilbert, $S$ un sous-ensemble de $U(\C H)$ ne laissant aucun sous espace fermé stable autre que $\{0\}$,~$\C H$. Soit $A$ un opérateur commutant avec tous les éléments de $S$. Alors $A = c \id$ pour un $c \in \CC$.
\end{theoreme}

\begin{proof}
Soit $A$ non scalaire commutant avec $S$. Alors son adjoint $A^*$ commute également avec $S$, et donc $L = A + A^*$ et $M = (A - A^*)/2i$ aussi. Puisque $ A = L + iM$, au moins un des deux n'est pas scalaire; supposons pour fixer les idées que c'est $L$. Par le théorème spectral, il existe au moins un projecteur spectral non scalaire qui s'écrit sous la forme $\phi(L)$. L'image de $\phi(L)$ est un sous-espace stable par les éléments de $S$, d'où une contradiction.
\end{proof}

\begin{corollaire}
Une représentation unitaire de~$G$ est irréductible si et seulement si les seuls opérateurs d'entrelacement entre $\pi$ et $\pi$ sont $\lambda \id$.
\end{corollaire}

Il résulte du lemme de Schur que la restriction d'une représentation irréductible au centre du groupe~$G$ est un caractère du centre. Ceci implique que les représentations de $\GLR$ sont peu différentes de celles de $\SLR$.

\subsection{Intégration des représentations}
Dans tout groupe localement compact~$G$, un théorème difficile (voir \cite{we}) assure l'existence d'une mesure invariante à gauche (mesure de Haar), c'est-à-dire d'une mesure $dg$ telle que
\[
\int_G f(xg) dg = \int_G f(g) dg
\]
pour toute fonction $f$ continue à support compact; de plus, cette mesure est unique à multiplication par une constante près. Dans le cas de $(\R^n, +) $, c'est la mesure de Lebesgue qui convient. Le théorème général est également superflu dans le cas de $G=\GLR$, qui s'identifie à un ouvert de $\R^4$, car $dg = (\det g)^{-2} d^Lg$, où $d^Lg$ est la mesure de Lebesgue de $\R^4$, est évidemment une mesure invariante à gauche. On peut sans trop de difficulté en démontrer l'unicité, comme dans le cas de $(\R^n,+)$. On remarque que la mesure $dg$ sur $\GLR$ est également invariante à droite ($\int_G f(gx) dg = \int_G f(g) dg$), ce qui n'est pas vrai pour un groupe localement compact général (un~ groupe pour lequel il y a des mesures invariantes à gauche et à droite s'appelle groupe \emph{unimodulaire}). Le sous-groupe $\SLR$ est lui aussi unimodulaire: on peut exhiber explicitement une mesure invariante à gauche sur $\SLR$; il est facile de voir que cette mesure est également invariante à droite (voir paragraphe \ref{Haar}).

Soit~$G$ un groupe localement compact unimodulaire, et $dg$ une mesure de Haar sur~$G$. Comme l'application
\[
f \mto \int f(g\inv) dg
\]
est une mesure invariante à droite, elle est proportionnelle à la mesure de départ, et il n'est alors pas difficile de voir que la constante est $1$.
\[
\int f(g\inv) dg = \int f(g) dg.
\]

On définit le produit de convolution sur $L^1(G)$ par la formule
\[
\phi \ast \psi (g) = \int_G\phi(gx \inv) \psi (x) dx.
\]
Cette définition n'est pas arbitraire: considérons sur $G \times G$ la mesure produit des deux mesures $\phi(g) dg$ et $\psi(g) dg$; son image directe par l'application $(g, g') \mto g g'$ est la mesure sur~$G$ de densité $\phi \ast \psi$ par rapport à la mesure de Haar.

Le théorème de Fubini montre que
\[
\int_G \phi\ast \psi(g) dg = \int_G \phi(y) dy \int_G \psi(x) dx.
\]
(En fait, on observe d'abord que l'application $(x,y) \in G \times G \mto \phi(x) \psi(y)$ est dans $L^1(G \times G)$ pour la mesure produit, puis un changement de variables et le théorème de Fubini assurent que $\phi \ast \psi(g)$ est fini presque partout.)

Soit $\pi$ une représentation de~$G$ dans~$\C H$. Soit $f \in L^1(G, dg)$; on pose
\[
\pi(f) = \int_{G} f(g) \pi(g) dg
\]
L'application $f \mto \pi(f)$est une représentation de l'algèbre de convolution $L^1(G)$ dans~$\C H$, c'est-à-dire un homomorphisme (fortement continu) $(L^1(G), \ast) \to B(\C H)$:
\begin{align*}\pi (f_1 \ast f_2) &= \int_G \Big(\int_G f_1(gx \inv) f_2(x) dx\Big) \pi(g) dg\\ &= \int_G\Big(\int_G f_1(h) f_2(x) dx\Big)\pi(hx) dh\\ &= \pi(f_1) \pi(f_2).
\end{align*}
Comme on l'a déjà vu dans le cas de $\R$, la représentation $\pi$ est bien une \og extension\fg, en identifiant~$G$ à un sous ensemble de $L^1(G)$ par l'application qui à $g$ associe la \og fonction de Dirac\fg en $g$. Plus rigoureusement, en prenant $f_n$ une suite de Dirac en $g$, on a $\pi(f_n)v \to \pi(g) v$ pour tout $v \in \C H$.

\begin{remarque}\label{stable}
On a
\[
\pi(g_0) \pi(f) = \int_G f(g) \pi(g_0 g) dg = \int_G f(g_0\inv g) \pi(g) dg,
\]
 formule qui a deux conséquences:
\begin{itemize}
\item
pour tout sous-espace $X$ de $L^1(G)$ stable par translation (par exemple: fonctions continues à support compact, fonctions $C^\infty$ à support compact dans le cas des groupes de Lie), le sous-espace $\{\pi(f)(v)\mid\nobreak f \in X,\, v \in V\}$ est stable par $\pi(g)$;

\item
la fonction $g_0 \mto \pi(g_0) \pi(f) v$ est aussi régulière (continue, dérivable...) que $f$.
\end{itemize}
\end{remarque}

\subsection{Un procédé de construction de représentations: l'in\-duc\-tion} \label{induction}

Soit~$G$ un groupe localement compact, $H$ un sous-groupe fermé et $\tau$ une représentation unitaire de $H$ dans l'espace de Hilbert~$\C E$ (dans beaucoup d'exemples, $\C E$ est de dimension finie, et même de dimension $1$). Pour simplifier cette présentation (qui de toute façon laisse prudemment sous le tapis diverses difficultés de théorie de la mesure) on suppose que~$G$, et \emph{également} $H$ sont unimodulaires (ce qui ne sera pas le cas dans la pratique, mais les changements à apporter sont minimes).

Choisissons des mesures de Haar $dg, dh$ sur~$G$ et $H$. Il existe alors une unique mesure sur le quotient $G/H$, notée $\mu_{G/H}$ telle que, pour toute fonction $f$ continue à support compact sur~$G$
\[
\int_G f(g) dg = \int_{G/H} d\mu_{G/H} (\dot g) \Big(\int_H f(gh) dh\Big),
\]
où $\dot g$ est la classe de $g$ dans $G/H$. On peut alors considérer les fonctions~$\phi$ sur~$G$ à valeurs dans $\C E$ telles que
\[
\phi(gh) = \tau(h\inv) (\phi(g)).
\]
Pour de telles fonctions, en remarquant que la fonction $g \mto \lb \phi (g), \psi(g)\rb_{\C E}$, où $\lb \cdot, \cdot \rb_{\C E}$ est le produit hermitien dans $\C E$ est invariante à droite par $H$, on définit un produit hermitien par
\[
\lb \phi, \psi \rb = \int_{G/H} \lb \phi(\dot g), \psi(\dot g)\rb_{\C E}\, d\mu_{G/H}(\dot g).
\]
On considère alors le complété de cet espace: c'est un espace de Hilbert noté $\C H(\tau)$, et on a une représentation unitaire $\Ind(H, \tau)$ de~$G$ dans $\C H(\tau)$ définie par
\[
[\Ind(H, \tau) (g)(\phi)](y) = \phi(g \inv y).
\]

Les géomètres préfèrent voir cette construction de la manière suivante: ils considèrent le fibré vectoriel sur $G/H$ de fibre générique~$\C E$:
\[
G \times_{H} \C E
\]
qui est le quotient de $G \times \C E$ par la relation $(g,v) \sim (gh,\tau(h)\inv v)$, $\forall h \in H$. L'espace $\C H(\tau)$ est alors l'espace des \emph{sections} $L^2$ du fibré.

Soit $f$ une fonction continue sur~$G$, et calculons $\Ind(H, \tau)(f)$:
\begin{align*}
\Ind(H, \tau)(f) (\phi) (y)&= \int_G f(g) \phi(g \inv y) dg\\ &= \int_G f(y g\inv) \phi(g) dy.
\end{align*}
L'opérateur $\Ind(H, \tau)(f) $ est donc un opérateur à noyau continu:
\[
\Ind(H, \tau)(f) (\phi)(y) = \int_G K(g, y) \phi(g) dg
\]
où $K(g,y) = f(y g \inv)$. On sait qu'un tel opérateur est \emph{compact}, ce qui a des conséquences très fortes sur son spectre.

\subsection{Désintégration des représentations\texorpdfstring{;}{pv} formule\nobreakspace de\nobreakspace Plancherel}

On voudrait pouvoir imiter la formule d'inversion de Fourier pour un groupe localement compact. Le théorème spectral nous montre que la décomposition peut faire intervenir des sommes (séries) et des intégrales. Le caractère non commutatif nous montre qu'il faut faire intervenir les représentations unitaires et pas seulement les morphismes à valeur dans $\U$. On peut effectivement obtenir une telle formule, la formule de Plancherel non commutative; il est hors de question ici d'en donner un exposé complet (on pourra se référer à \cite{Dix} pour cela). Nous nous contenterons de donner une idée de ce dont il s'agit.

\subsubsection*{Sommes continues d'espaces de Hilbert} La première notion est celle de \emph{champ borélien} d'espaces de Hilbert. Soit $X$ un espace topologique muni de la tribu borélienne associée. Un champ borélien d'espaces de Hilbert est la donnée, pour tout $x \in X$, d'un espace de Hilbert $\C H_x$, avec une condition de mesurabilité qu'on ne précisera pas. Un cas trivial est celui du champ constant, où tous les $\C H_x$ sont égaux à un~$\C H$ donné: la condition de mesurabilité est alors vérifiée. Mais en général, $\C H_x$ doit varier avec $x$ de manière \og mesurable\fg... L'obtention d'une vraie définition est moins complexe qu'il n'y paraît car il n'y a que très peu d'espaces de Hilbert différents à isomorphisme près (un par dimension finie, un de dimension hilbertienne dénombrable, et on n'a en général pas besoin de considérer des espaces de Hilbert de dimension hilbertienne supérieure).

Supposons que $X$ soit muni d'une mesure $\mu$. On définit $\int_X^{\oplus} \C H_x d\mu(x)$ comme l'ensemble des \og champs de vecteurs mesurables\fg $\mathbf \Gamma \colon x \mto \gamma(x) \in \C H_x$ (c'est un espace vectoriel de manière évidente) avec la condition\vspace*{-5pt}
\[
\Vert \mathbf \Gamma \Vert^2 = \int_X \Vert \gamma(x) \Vert^2 d\mu(x) < + \infty,
\]
qui dote $ \int_X^{\oplus} \C H_x d\mu(x)$ d'une structure naturelle d'espace de Hilbert.

La donnée d'un champ d'opérateurs, c'est-à-dire dans chaque $\C H_x$ d'un opérateur $T_x \colon \C H_x \to \C H_x$ (il faut là aussi une condition de régularité) donne un opérateur $\mathbf T$ sur $\C S$ noté\vspace*{-5pt}
\[
{\mathbf T} = \int_X^{\oplus} T_x d\mu(x)
\]
qui opère dans chaque $\C H_x$ par $T_x$:
\[
\mathbf T (\Gamma) = \Big[\int_X^\oplus T_x d \mu(x)\Big] \Big(\int_X^\oplus \gamma(x) d\mu(x)\Big) =\int_X^\oplus T_x(\gamma(x)) d\mu(x).
\]

\subsection{Désintégration} \label{abstrait} Soit~$G$ un groupe localement compact \og de~ty\-pe~I\fg. Nous ne chercherons pas à définir la notion \og de type I\fg, nous contentant de préciser que $\SLR, \GLR$ le sont. Sans la condition \og de type I\fg les résultats deviennent faux ou bien plus compliqués à énoncer.

On peut alors munir l'ensemble $\widehat G$ des classes de représentations unitaires irréductibles d'une topologie raisonnable (mais il faut avoir des ambitions limitées: ces espaces ne sont pas séparés en général). En choisissant pour toute classe $\pi$ un représentant, noté encore $\pi$, agissant dans l'espace $\C H_\pi$, on définit un champ borélien d'espaces de Hilbert.

Soit maintenant $U$ une représentation unitaire de~$G$ dans l'espace de Hilbert $\C K$. Pour tout $p = 1, 2, \dots, \infty$, il existe une mesure $\mu_p$ sur~$\widehat G$ et un isomorphisme
\[
\C K \to \sum_p p \int_{\widehat G}^{\oplus} \C H_\pi d\mu_p(\pi),
\]
où les mesures $\mu_p$ sont étrangères (leur support sont disjoints à ensembles négligeables près) qui transforme $U(g)$ en $\sum_p p \pi(g)$. Le nombre $p$ de la formule est une multiplicité; et comme pour le théorème spectral, le cas de multiplicité $1$ serait plus facile à formuler.

La mesure $\mu$ ainsi définie n'est pas unique: toute mesure équivalente (c'est-à-dire obtenue par multiplication par une fonction) convient aussi.

Si on revient à notre modèle de la théorie de Fourier, celle-ci permet deux choses: décomposer la représentation régulière gauche \emph{et} avoir une formule d'inversion. Dans le cas non commutatif nous avons une formulation abstraite pour la décomposition, mais pas encore de formule d'inversion. Abordons ce point maintenant, en nous limitant, comme dans la théorie de Fourier, à la représentation régulière gauche.

Pour $\pi \in \widehat G$, et $\phi$ très régulière (par exemple, si~$G$ est un groupe de Lie, $\phi$ est $C^\infty$ à support compact), l'opérateur $\pi(\phi)$ est à trace. On note $\tr(\pi(\phi))$ cette trace. Parmi les mesures équivalentes sur $\widehat G$ considérées ci-dessus, il en existe alors une, la \emph {mesure de Plancherel}, telle que
\[
\phi(e) = \int_{\widehat G} \tr(\pi(\phi)) d\mu(\pi).
\]
La mesure de Plancherel est unique.

\section{Le groupe \texorpdfstring{$\GLR$}{GLR} et ses compagnons}

\subsection{Les groupes} \label{groupes}
Dans cette section, on s'intéresse à $G = \GLR$ et $\SLR$:
\begin{align*}
\GLR &=\{g =
\bspm a &b \\ c & d\espm\mid a, b, c, d \in \R,\, ad - bc \neq 0 \}\\
\SLR &=\{g \in \GLR\mid \det g = 1\} \\
&= \{g \in \GLR\mid {}^t\! g\bspm 0 &1\\ -1 &0 \espm g =\bspm 0 &1\\ -1 &0 \espm\}
\end{align*}

Il est parfois utile de considérer quelques cousins:
\begin{align*}
\SLpmR &= \{g \in \GLR\mid \det g = \pm 1\}\\
\PSLR &=\SLR/\{\pm \id \} \simeq \PGLR = \GLR/Z,
\end{align*}
où
\[
Z = \{\bspm a & 0 \\ 0 & a \espm\mid a \in \R^*\}
\]
est le centre de $\GLR.$

Il y a une autre version de $\SLR$. Soit
\[
\SU(1,1) = \{M \in \SLC\mid {}^t \overline M J M = J\},
\]
où
\[
J =
\bpm 1 &0 \\ 0 & -1 \epm.
\]
Soit
\[\arraycolsep3pt
K =\frac 1{\sqrt 2}\,
\bpm 1 &i \\ i & 1 \epm
\]
L'application $M \mto K\inv M K$ induit un isomorphisme de $\SLR$ sur $\SU(1,1)$.

Il y a aussi une autre version de $\PSLR$:
\[
\SO(2,1) = \{M \in \SL(3, \R)\mid {}^t\! M L M = L\}
\]
où $L =
\bspm 1 & 0 &0 \\ 0 &1 &1 \\ 0 &0 &-1 \espm$. On vérifie que pour tout $g \in \SLR$, l'application $\Ad(g) \colon M \in \slr \mto gM g\inv \in \C L(\slr) $, où
\[
\slr = \{M \in \C M (2, \R)\mid \tr M = 0\},
\]
préserve la forme bilinéaire
\[
(M, M') \mto \tr (MM')
\]
qui est de signature $(2,1)$. L'application $\Ad: g \mto \Ad(g)$ est donc un homomorphisme de $\SLR$ dans $\SO(2,1)$ dont le noyau est $\{\pm \id\}$. Nous laissons la surjectivité en exercice. On peut montrer par des raisonnements similaires que le groupe $\SO(3,1)$ est isomorphe à $\PSLC$. Les groupes $\SO(2,1)$ et $\SO(3,1)$ sont les \emph{groupes de Lorentz} pour un espace-temps de dimensions respectives $3$ et $4$. Les premiers travaux sur ce sujet les représentations de $\SLR$ et $\SLC$ ayant été motivés par la physique, c'est sous leur incarnation $\SO(2,1)$ et $\SO(3,1)$ qu'elles ont été étudiées par Bargmann (\cite{Barg}) en 1947.

Pour unifier et alléger les écritures, on notera toujours~$e$ au lieu de $\id$ pour l'élément neutre de~$G$.

\Subsection{D'un groupe à l'autre: lien entre représentations} \label{glsl} Dans ce paragraphe, on montre que les représentation irréductibles de $\GLR$, $\SLR$, $\SLpmR$ et $\PSLR$ sont à peu près les mêmes.

De façon générale, le lemme de Schur implique que la restriction d'une représentation irréductible $\pi$ au centre $Z$ d'un groupe est de la forme $\pi(z) = \chi(z) \id$, où $\chi$ est un caractère $Z \to \U \subset \CC^*$.

Comme $\PSLR$ est le quotient de $\SLR$ par son centre $\{\pm \id\}$, il en résulte que les représentations de $\PSLR$ s'identifient aux représentations $\pi$ de $\SLR$ telles que $\pi(-\id) = \id$. Par ailleurs, $\GLR$ s'écrit comme produit direct de $\SLpmR$ avec le groupe des homothéties de rapport $>0$. Il en résulte que la restriction d'une représentation irréductible $\pi$ de $\GLR$ à $\SLpmR$ est déjà irréductible, et donc que $\pi$ est de la forme
\[
\pi\Big(\bspm a & b \\ c & d \espm\Big) = \chi (|\delta|^{1/2}) \pi_1\Big(\bspm a/(|\delta|^{1/2})& b/(|\delta|^{1/2})\\ c/(|\delta|^{1/2}),& d/(|\delta|^{1/2}) \espm\Big)
\]
où $\delta = ad-bc$, $\chi$ est un caractère de $\R^{+*}$ et $\pi_1$ est une représentation irréductible de $\SLpmR$.

Il reste maintenant à comparer représentations de $\SLpmR$ et représentations de $\SLR$. Notons
\[
u =
\bpm 1 & 0 \\ 0 & -1 \epm,
\]
qui appartient à $\SLpmR \backslash \SLR$. Pour tout $g \in \SLpmR$, on a une unique décomposition $g = u^{\epsilon} g_0$ avec $\epsilon = 0 \text{ ou } 1$ et $g_0 \in \SLR$.

Soit $\pi$ une représentation irréductible de $\SLpmR$. On distingue deux cas:

\emph{Premier cas.} $\wt \pi= \pi_{|\SLR}$ est irréductible. On a
\[
\pi(u \inv g u) = \pi(u)\inv \pi(g) \pi(u)
\]
pour $g \in \SLR$, ce qui signifie que $\pi(u)$ est un \emph{opérateur d'entrelacement} entre la représentation $\wt \pi$ et la représentation $g \in \SLR \mto \wt \pi^u(g) = \wt \pi(u \inv g u)$. En particulier, $\wt\pi$ et $\wt \pi^u$ sont équivalentes.

Réciproquement, soit $\pi_1$ une représentation irréductible de~$\SL(2,\!\RR)$ dans~$\C H$ telle que $\pi_1$ et $\pi_1^u$ soient équivalentes. Soit $J$ un opérateur d'entrelacement unitaire $\C H \to \C H$ entre $\pi_1$ et
\[
\pi_1^u:\pi_1^u (g) = J \inv \pi(u) J.
\]
Comme $u^2 = \id$, $J^2$ entrelace $\pi_1$ avec elle-même:
\[
J^{-2} \pi_1(g) J^2 = \pi_1(g),
\]
et comme $\pi_1$ est irréductible, $J^2 = \lambda \id$ avec $|\lambda| = 1$. Choisissons $\mu$ tel que $\mu^2 = \lambda$. Alors $J' = J/\mu$ est encore un opérateur d'entrelacement unitaire, mais cette fois ${J'}^2 = \id$. Définissons $\pi: G \to U(\C H)$ par
\[
\pi(u g_1) = J' \pi_1(g_1).
\]
On obtient bien une représentation de~$G$ dont la restriction est $\pi_1$; ainsi, $\pi$ est irréductible.

\emph{Deuxième cas.} $\wt \pi= \pi_{|\SLR}$ n'est pas irréductible. Observons d'abord que pour tout sous-espace $\{0\} \subsetneqq \C H_0 \subsetneqq \C H$ fermé stable par~$\wt \pi $, $\C H_0 + \pi(u) (\C H_0)$ est stable par $\pi$, et donc $\C H_0 + \pi(u) (\C H_0) = \C H$. Ceci implique
\begin{itemize}
\item
$\C H_0$ est minimal,
\item
autrement dit, la restriction de $\wt \pi$ à $\C H_0$ est irréductible; on la note $\pi_0$;
\item
il n'y a que deux choix possibles pour $\C H_0$, notés $\C H_0$ et $\C H_1$, d'où deux sous-représentations $\pi_0$ et $\pi_1$
\item
$\pi(u) (\C H_0) = \C H_1$ et $\pi(u) (\C H_1) = \C H_0$.
\end{itemize}

Enfin, $\pi_0$ et $\pi_1$ \emph{ne sont pas équivalentes}. Supposons au contraire l'existence d'un opérateur unitaire $K: \C H_0 \to \C H_1$ tel que $K \pi_0(g) = \pi_1(g) K$ pour tout $g \in \SLR$. Alors le sous-espace \og diagonal\fg $\{x, K(x))\mid x \in \C H_0\}$ serait stable par $\pi$.

Réciproquement, soit $\pi_0$ une représentation irréductible de~$\SL(2,\!\RR)$ dans $\C H_0$ telle que $\pi_0$ et $\pi_0^u$ (défini comme plus haut) soient inéquivalentes. On définit une représentation $\pi$ de $\SLpmR$ dans $\C H = \C H_0 \times \C H_0$ de la manière suivante
\begin{align*}
\pi(g) (v, v') &= (\pi_0(g)(v), \pi_0^u(g)(v')) \text{ pour } g \in G\\ \pi(u) (v, v') &=(v', v).
\end{align*}
On vérifie facilement que $\pi$ est une représentation unitaire dont la restriction à $\SLR$ est somme de deux représentation inéquivalentes.

En conclusion, la détermination de l'ensemble des représentations unitaires irréductibles de $\SLR$ entraîne facilement la détermination des représentations des autres groupes considérés dans ce paragraphe.

Jusqu'au milieu des années 1970, l'objet naturel d'étude était le groupe $\SLR$, comme en témoigne par exemple la référence classique \cite{lang}. Dans le cadre du \og programme de Langlands\fg, ce sont les groupes \emph{réductifs} qui sont au centre de l'attention, et c'est donc plutôt $\GLR$ auquel on s'intéresse.

\subsection{\texorpdfstring{$\SLR$}{SLR} et ses sous-groupes}

Dans ce paragraphe, $G = \SLR$. Commençons par une liste de sous-groupes importants
\begin{enumerate}
\item
$H = \left\{\diag a \defin
\bspm a &0 \\ 0 &a\inv \espm\mid a\neq 0 \right\}$
\item
$A = \left\{\diag a \defin
\bspm a &0 \\ 0 &a\inv \espm\mid a>0 \right\}$
\item
$N = \left\{
\bspm 1 & x \\ 0 & 1 \espm\mid x \in \R\right\}$
\item
$N^- = \left\{
\bspm 1 & 0 \\ y & 1 \espm\mid y \in \R\right\}$
\item
$K \!=\! \bigl\{k(\theta) \!=\!
\bspm \cos \theta& \sin \theta \\ - \sin \theta &\cos \theta \espm\mid \theta \in \R \bigr\}$ (sous-groupe compact maxi\-mal)
\item
$M = \{\pm \id\}$ (c'est le centralisateur de $A$ dans $K$)
\item
$B^0 = \left\{
\bspm a & x \\ 0 & a \inv \espm\mid a > 0,\, x \in \R \right\} = AN$
\item
$B = \left\{
\bspm a & x \\ 0 & a \inv \espm\mid a \neq 0,\, x \in \R \right\} = MAN$ (sous-groupe de \og \hbox{Borel}\fg)
\end{enumerate}

Définissons un \emph{sous-groupe de Cartan} comme un sous-groupe commutatif de $\SLR$ formé de matrices $\CC$-diagonalisables et maximal pour cette propriété

\begin{proposition}
Un sous-groupe de Cartan de $\SLR$ est conjugué à~$H$ (sous-groupe de Cartan \og déployé\fg) ou $K$ (sous-groupe de Cartan compact).
\end{proposition}

\begin{proof}
Soit $C$ un sous-groupe de Cartan. Il contient nécessairement une matrice $m$ à valeurs propres distinctes (sinon, $C \subset \{\pm \id\} \subsetneqq H$ n'est pas maximal). Si $m$ a ses valeurs propres réelles, il existe $g \in \SLR$ tel que $g \inv m g \in H$. Comme le commutant d'une matrice diagonale qui n'est pas une homothétie est $H$, on en déduit que $g\inv C g \subset H$, et par maximalité $g\inv C g = H$. Si $m$ a ses valeurs propres $e^{\pm i \theta}$, il existe $g \in \SLR$ tel que $g\inv m g \in K$ et un raisonnement similaire conduit à $g\inv C g = K$.
\end{proof}

Le groupe de Weyl d'un sous-groupe de Cartan est le quotient de son normalisateur par son centralisateur. Dans le cas de $H$, \hbox{$Z(H) = H$}, et $N(H) = H \cup w H$, où $w =
\bspm 0 & 1 \\ -1 & 0 \espm$, donc $W \simeq \Z/2\Z$. Le normalisateur de $K$ est $K$, donc le groupe de Weyl est trivial.

Le groupe~$G$ agit naturellement sur $\R^2$ et par passage au quotient sur la droite projective réelle $\bbP^1(\R)$. Mais de très loin l'action la plus importante pour nous est l'action de $\SLR$ sur le demi-plan de Poincaré $\C P^+ = \{z \in \CC\mid \Im(z) >0\}$, où $\Im$ désigne la partie imaginaire:
\begin{equation}
\label{poincareaction}
\bpm a & b \\ c & d \epm \cdot z = \frac {az +b}{cz+d}.
\end{equation}
(Un calcul simple montre que
\[
\Im \Big(\frac {az +b}{cz+d}\Big) = \frac {\Im (z)}{| cz + d |^2},
\]
et donc que $\C P^+$ est stable par cette action.) On vérifie également que l'action est transitive, et même que la restriction de l'action à $B^0 = AN = NA $ est transitive; comme le stabilisateur de $i$ est $K$ et \hbox{$K \cap B^0 = \{e\}$}, il vient $G = B^0K = NAK$ \emph{(décomposition d'Iwasawa)}\footnote{On la démontre aussi, démonstration valable pour $\SL(n, \R)$, en appliquant le procédé de Gram-Schmidt à l'image de la base canonique de $\R^2$ par un élément quelconque de~$G$.}. En passant aux inverses, on peut écrire cette décomposition sous la forme plus habituelle $ G = K A N $.

Les autres décompositions classiques sont

\begin{itemize} \label{decomp}
\item
Décomposition polaire $G = K S = SK $ (où $S $ est l'ensemble des matrices symétriques définies positives)
\item
Décomposition de Cartan $G = KAK$ (décomposition non unique)
\item
Décomposition de Bruhat $G = B \cup B
\bspm 0 & -1 \\ 1 & 0 \espm B$.
\end{itemize}

\subsection{Questions de mesure}\label{Haar}

Dans ce paragraphe, nous donnons des formules explicites pour les mesures de Haar de $\SLR$ et $\GLR$, notamment en termes des décompositions ci-dessus. La mesure de Haar sur $\GLR$ est
\[
d^\times g = \frac 1{| \det g |^2}\, d^+g,
\]
où $d^+g$ est la mesure de Lebesgue sur $\glr$. (La mesure de Lebes\-gue est définie à constante près, il y a un choix à faire.) Par restriction à l'ouvert $\GLpR$, on obtient la mesure de Haar de $\GLpR$. Comme $\GLpR = \SLR \times \R^{*+}$, la mesure $d^\times g$ se \og désintègre\fg (par un théorème délicat, mais intuitif): il existe une unique mesure $d^S\gamma$ sur $\SLR$ telle que
\begin{equation}
\label{=haargl}\int_{\GLpR} \phi(g) d g = \iint_{\SLR \times \R^{*+}} \phi\left(\gamma
\bspm a & 0 \\ 0 & a\inv \espm \right) (d^S\gamma) \frac {da}a.
\end{equation}
La mesure $d^S\gamma$ est la mesure de Haar sur $\SLR$. Réciproquement, \eqref{=haargl} détermine une mesure de Haar pour $\GLpR$ à partir d'une mesure de Haar de $\SLR$.

Intéressons-nous maintenant à la mesure de Haar sur $G = \SLR$, que nous voulons exprimer à l'aide de la décomposition d'Iwasawa. Il~est commode d'introduire les notations
\begin{equation}\arraycolsep3.5pt
k(\theta) =
\bpm \cos \theta & - \sin \theta \\ \sin \theta & \cos \theta \epm \quad \delta(a) =
\bpm a & 0 \\ 0 & a\inv \epm \quad \nu(u) =
\bpm 1 & u \\ 0 & 1 \epm. 
\end{equation}
D'abord, la mesure de Haar sur $B^0$:
\[
\int_{B^0} f(b) db = \int_{\R^{*+}} \Big(\int_\R f(\delta(a) \nu(u)) \frac{da}a\Big) du.
\]
En effet, cette mesure est invariante à gauche par tout élément de $A$. L'invariance à gauche par tout élément de $N$ résulte du calcul
\begin{align*}
\int_B f(\nu(u_0) b) db &= \int_{\R^{*+}} \Big(\int_\R f(\nu(u_0) \delta(a) \nu(u)) \frac{da}a\Big) du\\ & = \int_{\R^{*+}} \Big(\int_\R f(\delta(a) \nu(u + a^{-2} u_0)) \frac{da}a\Big) du \\ &= \int_{B^0} f(b) db.
\end{align*}
\begin{remarque}
la mesure $db$ n'est pas invariante à droite par $A$:
\[
\int_{B^0} f(b \delta(a_0)) db = a_0^2 \int_{B^0} f(b) db.
\]
\end{remarque}

Considérons cette mesure $db$ sur $B$ et une mesure de Haar $dk$ sur~$K$. Alors on définit une mesure invariante sur $G = BK$ par
\[
\int_G f(g) dg = \int_K \int_B f(bk) db\; dk.
\]
Pour démontrer l'invariance, on le fait d'abord pour des fonctions $f(bk) = f_1(b) f_2(k)$, $f_1, f_2$ continues à support compact, ce qui est facile, puis on invoque la densité des fonctions de cette forme dans l'ensemble des fonctions continues à support compact sur~$G$. Cela résul\-te du théorème de Stone-Weierstrass (voir \cite[p\ptbl 84]{Far}). $K$ étant isomorphe à $\R/\Z$, la mesure de Haar sur $K$ est la mesure de Lebesgue sur $\R/\Z$, et on obtient l'expression suivante pour la mesure de Haar sur~$G$ (attention à l'ordre des termes !):
\[
\int_G f(g) dg = \int_0^{1} d \theta \int_{\R^{+*}} \frac{da} a \int_{\R} f(\delta(a) \nu(u) k(2\pi\theta)) du.
\]
Rappelons que la décomposition d'Iwasawa permet d'identifier $B_0 = AN$ à $\C P^+$. On transporte la mesure de Haar sur $B_0$ en une mesure sur $\C P^+$. Pour une fonction $f$ sur~$G$ invariante à droite par $K$, soit $\wt f$ la fonction correspondante sur $\C P^+$. Un calcul facile montre que
\begin{align} \label{=dxdy}\int_{G} f(g) dg &= \int f(\delta(a) \nu(u)) du \frac {da}a\\ &= \int_0^\infty \frac {da} a \int_{- \infty}^{\infty} \wt f(a^2 i + a^2 u) du \\ &= \int_{-\infty}^{\infty} dx \int_0^\infty \wt f(x + iy) \frac{dy} {y^2}.
\end{align} Il en résulte que la mesure $\sfrac {dx dy}{y^2}$ sur $\C P^+$ est invariante par l'action de~$G$. 

\subsection{\texorpdfstring{$\GLR$ et $\SLR$}{GLSR} comme groupes de Lie} Le cas de $\GLR$ est le plus facile: c'est un ouvert de $\C M(2, \R) = \R^4$. Notons $\glr = \C M(2,\R)$. C'est une algèbre de Lie, c'est-à-dire un espace vectoriel muni de l'opération supplémentaire, le \emph{crochet de Lie} $[X,Y] = XY -YX$ pour $X,Y \in \glr$; le crochet est bilinéaire anti-symétrique et vérifie l'identité de Jacobi
\[
[X, [Y,Z]] = [[X,Y], Z] + [X, [Y,Z]]
\]
pour tout $X,Y,Z \in \glr$. L'application $X \mto \exp X = \sum_{n=0}^\infty \frac {X^n}{n!}$ induit un difféomorphisme d'un voisinage de $0$ dans $\glr$ sur un voisinage de $\id$ dans $\GLR$, la différentielle en $0$ étant $\id$ et on a
\[
\exp [(t +s) X] = \exp (t X) \exp (s X), \quad \ddt \exp(tX) = X.
\]
Calculons le développement limité
\[
\exp (tX) \exp (tY) = e + t(X + Y) + \frac{t^2}{2!} (X^2 + Y^2 + 2XY) + \boldsymbol{o}(t^2)
\]
et donc
\[
\exp(tX) \exp(tY) \exp(-tX) \exp(-tY) = e + t^2[X,Y] + \boldsymbol{o}(t^2),
\]
ce qui implique
\begin{multline}
\label{=crochet} \ddt (\exp(t^{1/2}X) \exp(t^{1/2}Y) \exp(-t^{1/2}X) \exp(-t^{1/2}Y))\\ = [X,Y].
\end{multline}
Toutes ces définitions et calculs sont vrais si on considère $\GL(n,\R)$ plutôt que $\GLR$. On peut faire la même chose pour $\SLR$ (tout serait encore vrai pour un sous-groupe fermé quelconque de $\GL(n,\R)$).

Le groupe $\SLR$ est une sous-variété de dimension $3$ (hypersurface) de $\C M(2, \R)$ définie par l'équation $\det M = 1$. On vérifie en effet que la différentielle de $\det$ est non nulle, et donc surjective, en tout point de $\SLR$: la relation $\det (\exp t M) = e^{\tr t M}$, qu'on peut vérifier de façon immédiate en triangulant la matrice $M$, entraîne que la différentielle $d(\det)_e = \tr$. En utilisant $\det (xy) = \det x \det y$, on en déduit que
\[
d (\det)_x (H) = (\det x) \tr(x\inv H).
\]
L'espace tangent en~$e$ à $\SLR$ est $\slr = \{M\mid \tr(M) = 0\}$, et l'exponentielle de matrices induit une application, notée encore $\exp$ de $\slr $ dans $\SLR$ qui est un difféomorphisme local en $0$.

Les sous-groupes \emph{fermés} d'un groupe de Lie~$G$ sont automatiquement des sous-groupes de Lie (un sous-groupe fermé $L$ de~$G$, muni de la topologie induite, a une structure de groupe de Lie, et l'injection $L \to G$ est un homomorphisme de groupes de Lie). Si $\g l$ est l'algèbre de Lie de $L$, alors $\g l$ est une sous-algèbre de Lie de $\g g$. Les sous-groupes de $\SLR$ considérés plus haut ont respectivement pour algèbre de Lie
\begin{enumerate}
\item
$\g h = \g a = \left\{\bspm a &0 \\ 0 &-a \espm\mid a \in \R \right\}$
\item
$\g n = \left\{
\bspm 0 & x \\ 0 & 0 \espm\mid x \in \R\right\}$
\item
$\g n^- = \left\{
\bspm 0 & 0 \\ y & 0 \espm\mid y \in \R\right\}$
\item
$\g k = \left\{\bspm 0& \theta \\ -\theta &0 \espm\mid \theta \in \R \right\}$
\item
$\g b^0 = \g b = \left\{
\bspm a & x \\ 0 & -a \espm\mid a, x \in \R \right\} = \g a \oplus \g n$.
\end{enumerate}

\begin{remarque}
La prudence est indispensable pour comprendre la correspondance: sous-groupe $\to$ sous-algèbre. Une sous-algèbre correspond à un sous-groupe qui n'est pas nécessairement fermé. Ce sous-groupe est alors un groupe de Lie, mais pour une \emph{autre topologie} que la topologie induite.
\end{remarque}

\section{Représentations de dimension finie de \texorpdfstring{$\SLR$}{SLR}}

Soit $\pi$ une représentation irréductible de $G = \GLR, \SLR$ dans un espace de dimension finie $E$ (on ne suppose pas unitaire). Par définition, l'application $g \mto \pi(g)$ est continue (en dimension finie, toutes les topologies qu'on peut raisonnablement imaginer sur $\GL(E)$ sont équivalentes), mais \emph{a priori} pas différentiable. On a vu (Remarque \ref{stable}) que le sous-espace vectoriel $\{\pi(\phi) v\mid \phi \in C_c^\infty(G),\, v \in\nobreak E\}$ est stable par $\pi$; cet espace est donc égal à $E$. Mais on a vu également que
\[
\pi(g_0) \pi(\phi) (v) = \int_G \phi(g_0\inv g) \pi(g)(v) dg;
\]
par dérivation sous le signe $\int$, l'application $g_0 \mto \pi(g_0) \pi(\phi) (v)$ est donc $C^\infty$. Mais comme tout vecteur $w \in E$ est de la forme $\pi(\phi)(v)$ pour au moins un couple $(\phi,v)$, il en résulte que l'application $g \mto \pi(g)$ est $C^\infty$, en d'autres termes:

\begin{proposition}
Une représentation de dimension finie de $G = \GLR$ ou $\SLR$ (et plus généralement d'un groupe de Lie) est un morphisme de groupes de Lie.
\end{proposition}

Notons $\wt \pi$ la différentielle en~$e$ de $\pi$. C'est donc une application de $\glr$ dans $\gl(E) = \C L(E)$. En dérivant en $0$ l'expression
\[
\pi(\exp(t^{1/2}X) \exp(t^{1/2}Y) \exp(-t^{1/2}X) \exp(-t^{1/2}Y))
\]
et en utilisant \eqref{=crochet} ci-dessus, on obtient
\begin{equation}
\label{=dpi}\wt \pi([X,Y]) = [\wt \pi(X), \wt \pi(Y) ].
\end{equation}

Le même raisonnement s'applique à $\SLR$, et la différentielle en~$e$ d'une représentation $\pi$ de $\SLR$ vérifie également \eqref{=dpi}. Tout cela justifie

\begin{enonce}{Définition et Proposition}
Une représentation d'une algèbre de Lie~$\g g$ dans l'espace vectoriel $E$ un homomorphisme de~$\g g$ dans l'algèbre de Lie $\gl(E)$. La différentielle en~$e$ d'une représentation de dimension finie d'un groupe de Lie~$G$ est une représentation de son algèbre de Lie $\g g$.
\end{enonce}

On a, comme pour les représentations de groupes, les notions d'équivalence, d'irréductibilité etc. pour les représentations d'une algèbre de Lie. La correspondance que nous avons mise en évidence: représentation de dimension finie du groupe $\mto$ représentation de dimension finie de l'algèbre de Lie est compatible avec l'équivalence, et, au niveau des classes, elle est injective. En revanche, elle n'est pas nécessairement surjective: il peut en effet y avoir une obstruction topologique pour intégrer une représentation de l'algèbre au groupe. Nécessairement, on doit avoir $\pi(\exp X) = \exp (\wt \pi(X))$, mais il n'est pas certain que
\begin{itemize}
\item
ceci définisse $\pi(\exp X)$ sans ambiguïté si $\exp$ n'est pas injective,
\item
l'application $\pi$ ainsi définie soit un morphisme.
\end{itemize}
Le phénomène est déjà présent pour la correspondance entre représentations de $K = \SO(2)$ et de représentations de $\g k = \R$: une représentation de $\g k$ est une application linéaire de $\g k$ dans $\CC$, donc donnée par un nombre complexe $\lambda$: $\theta \in \R \mto \lambda \theta$. Clairement, cette représentation s'intègre à $K$ si et seulement si $\lambda \in 2 i \pi \Z$. En revanche, si~le groupe~$G$ est \emph{simplement connexe}, alors toute représentation de l'algèbre de Lie s'intègre.

Nous allons maintenant décrire l'ensemble de toutes les représentations de dimension finie de $\SLR$. Il est intéressant de faire appel à un autre groupe, le groupe spécial unitaire des matrices
\[
\SU(2) = \{g \in \C M(2, \CC)\mid \det g = 1,\, {}^t \overline g g = \id \}.
\]
C'est un groupe de Lie dont l'algèbre de Lie est
\[
\su(2) = \{M \in \C M(2, \CC)\mid \tr (M) = 0,\, M + {}^t \overline M = 0\}.
\]
Les deux algèbres de Lie $\slr$ et $\su(2)$ sont de dimension réelle $3$, incluses dans $\slc$, et ce sont des \emph{formes réelles} de $\slc$, c'est-à-dire engendrant $\slc$ comme espace vectoriel complexe. Pour le vérifier, le plus simple est de travailler avec des bases, ce dont nous aurons besoin de toute façon. Soit
\[\arraycolsep3.5pt
x =
\bpm 0 &1 \\ 0 &0 \epm,\quad h =
\bpm 1 &0 \\ 0 & 1 \epm,\quad y =
\bpm 0 & 0 \\ 1 &0 \epm.
\]
Il est clair que $ x, h, y$ est une base réelle de $\slr$ et complexe de $\slc$; alors que $i h, x-y, i(x+y)$ est une base de $\su(2)$ sur $\R$ et de $\slc$ sur $\CC$, ce qui démontre notre assertion.

\begin{theoreme} [\og Weyl's Unitary Trick\fg] \label{trick} Il y a une correspondance bijective entre
\begin{enumerate}
\item
représentations irréductibles de dimension finie $\SLR$
\item
représentations irréductibles holomorphes de dimension finie de $\SLC$
\item
représentations irréductibles de dimension finie de $\SU(2)$
\item
représentations irréductibles de dimension finie de $\slr$
\item
représentations irréductibles de dimension finie de $\su(2)$
\item
représentations irréductibles complexes de dimension finie de $\slc$
\end{enumerate}
(où une représentation holomorphe de $\SLC$ dans $E$ est un homomorphisme différentiable au sens complexe de $\SLC$ dans $\GL(E)$, et une représentation complexe de $\slc$ est un homomorphisme d'algèbres de Lie complexes). En particulier, les représentations correspondantes de $\SLC$ et $\SLR$ sont les restrictions d'une même représentation de $\SLC$.
\end{theoreme}

La dénomination \og unitary trick\fg $=$ \og astuce unitaire\fg deviendra intelligible sous peu.

\begin{proof}
De l'égalité
\[
\slc = \slr \oplus i \slr = \su(2) \oplus i \su(2).
\]
on tire la correspondance au niveau des représentations des trois algèbres de Lie. Mais $\SU(2)$ est simplement connexe (comme espace topologique, $\SU(2)$ s'identifie à la sphère de dimension $3$ dans $\R^4$). La décomposition d'Iwasawa de $\SLC$ donne une identification $\SLC \sim \SU(2) \times \R^{*+} \times \CC$, donc $\SLC$ est également simplement connexe. Donc toute représentation de $\slc$ (\resp $\su(2)$) provient d'une représentation de $\SLC$ (\resp $\SU(2)$).
\end{proof}

Les représentations de dimension finie de $\slc$ sont données par

\begin{theoreme} \label{finie} Pour tout entier $n \geq 0$, il existe une représentation complexe irréductible $\pi_{n}$ de $\slc$ de dimension $n+1$, unique à équivalence près. Soit $(\pi_n, V)$ cette représentation. Il existe une base~$v_i$ ($0 \leq i \leq n$) de $V$ telle que
\begin{align*}
\pi_{n}(h)(v_{i}) &= (n-2i) (v_{i}) \\ \pi_{n}(x)(v_{i}) &= i(n-i+1) v_{i-1} \text{ avec la convention } v_{-1} = 0\\ \pi_{n}(y)(v_{i}) & = v_{i+1} \text{ avec la convention } v_{n+1} = 0.
\end{align*}
La représentation correspondante de $\SLC$ est donnée par l'action naturelle sur les polynômes homogènes complexes à deux variables de degré $n$.
\[
\pi_{n}(g)(P)(\bspm z_{1} \\ z_{2}\espm) = P(g\inv\bspm z_{1} \\ z_{2} \espm).
\]
\end{theoreme}

\begin{proof}
Soit $\lambda$ une valeur propre de $\pi(h)$ et $w_\lambda$ un vecteur propre. Montrons que $\pi(x) \cdot w_\lambda$ est soit nul, soit vecteur propre de $\pi(h)$ pour la valeur $\lambda +2$. En effet
\begin{align*}\pi(h) \pi(x) \cdot w_\lambda&= \pi([h,x]) \cdot w_\lambda + \pi(x) \pi(h) w_\lambda \\ &= 2 \pi(x) \cdot w_\lambda + \lambda \pi(x) \cdot w_\lambda \\ & = (\lambda +2) \pi(x) \cdot w_\lambda.
\end{align*}
De même, $\pi(y) \cdot w_\lambda$ est soit nul, soit vecteur propre pour la valeur $\lambda -2$. Comme il ne peut pas y avoir une infinité de valeurs propres $\lambda, \lambda +\nobreak2, \dots, \lambda + 2k, \dots$ il existe une valeur propre $\lambda$ telle que \hbox{$\pi(x) \cdot w_\lambda = 0$}. C'est celle qu'on choisit. Soit alors $v_k = (\pi(y))^k w_\lambda$ (avec la convention que $v_{-1} = 0$). Soit $v_k =0$, soit c'est un vecteur propre de $\pi(h)$ pour la valeur propre $\lambda - 2k$. Toujours à cause de la dimension finie, il existe un plus petit $m_0$ tel que $v_{m_{0}+1}=0$. Montrons par récurrence que
\[
\pi(x) v_k = k(\lambda - k +1) v_{k-1}.
\]
L'assertion est vraie pour $k=0$. Supposons la vraie pour $k-1$ et calculons pour $k$:
\begin{align*}\pi(x) v_k &= \pi(x) \pi(y) v_{k-1} = \pi(h) v_{k-1} + \pi(y) \pi(x) v_{k-1}\\ & = (\lambda - 2(k-1)) v_{k-1} + (k-1)(\lambda - k+2) v_{k-1}\\ &= (k \lambda - (k-1) (k-2 +2)) v_{k-1} = k (\lambda - k +1) v_{k-1}.
\end{align*}
En appliquant cette formule à $k = m_{0}+1$, on trouve $0 = \pi(x) v_{m_0 +1} =(m_0+1)(\lambda - m_0) v_{m_0}$ et donc $\lambda = m_0$. On obtient les formules voulues pour $n =m_0$. L'unicité à équivalence près en résulte.
\end{proof}

Le groupe $\SU(2)$ est compact, et nous n'avons rien dit sur le cas des groupes compacts. L'étude des représentation des groupes compacts fait l'objet de la théorie de Peter-Weyl (Peter était un étudiant de Hermann Weyl), qui date de 1927. Le théorème de Peter-Weyl généralise aux groupes compacts ce qui est vrai pour les groupes finis. On pourra se référer au texte de G.\,Henniart \cite{Henniart} dans ce volume pour le cas des groupes finis. Peter-Weyl montrent les faits suivants:
\begin{enumerate}
\item
Les représentations des groupes compacts sont \emph{automatiquement unitarisables}, c'est-à-dire qu'il existe un produit hermitien sur l'espace de la représentation tel que la représentation soit unitaire pour ce produit hermitien. Soit en effet $K$ un groupe compact et $(\pi, E)$ une représentation de $K$ dans $E$. Choisissons arbitrairement un produit hermitien $(\cdot, \cdot)$ sur $E$, et définissons
\begin{equation}
\label{invariant} \lb v, w \rb = \int_K (\pi(k) (v), \pi(k) (w)) dk,
\end{equation}
où bien sûr $dk$ est la mesure de Haar sur $K$. On vérifie facilement que $\lb \cdot, \cdot \rb$ est un produit hermitien dont la norme associée est équivalente à la première, et que $\pi$ est unitaire pour ce nouveau produit hermitien.
\item
Les représentations irréductibles des groupes compacts sont de dimension finie (nous n'aurons pas besoin de ce fait).
\item
La représentation régulière gauche se décompose en somme directe hilbertienne
\[
\sum_{\pi \in \widehat K} \dim(\pi) \pi.
\]
\end{enumerate}
En termes de la décomposition donnée au paragraphe \ref{abstrait}, ce dernier résultat signifie que la mesure est discrète, et que la multiplicité d'une représentation donnée est égale à sa dimension.

Le point de départ de l'étude des représentations de dimension infinie des groupes est le résultat suivant, qui montre qu'on ne peut pas se passer de représentations de dimension infinie. En effet:

\begin{proposition}
Sauf la représentation triviale de dimension $1$, les représentations unitaires irréductibles de $\SLR$ sont de dimension infinie.
\end{proposition}

\begin{proof}
En général, si $\pi$ est une représentation unitaire irréductible d'un groupe de Lie~$G$ dans~$\C H$ de dimension finie, alors pour tout $X \in \g g$, $\pi(\exp(tX))$ est unitaire, et en dérivant on obtient que $\wt \pi(X)$ est anti-autoadjoint ($\pi(X)^* = - \pi(X)$), donc normal. Un opérateur normal est diagonalisable en base orthonormale, et quand il est anti-autoadjoint, ses valeurs propres sont imaginaires pures. Appliquons cette observation d'abord à $h$ et $x+y$ qui sont dans $\slr$: $\wt \pi(h)$ et $\wt \pi(x+y)$ ont des valeurs propres imaginaires. Mais $ih, i(x+y) \in \su(2)$, donc $\wt \pi(ih), \wt \pi(i(x+y))$ ont des valeurs propres imaginaires. Il en résulte que $\wt \pi(h) = \wt \pi(x+y) = 0$. Mais $[h, x+y] = 2(x-y)$ implique alors que $\wt \pi(x-y) =0$, donc $\wt \pi = 0$. Comme la représentation est irréductible, c'est la représentation triviale de dimension $1$.
\end{proof}

\section{Représentations unitaires de dimension infinie}

\subsection{Quelques considérations historiques} Les représentations de dimension finie des groupes de Lie, en particulier des groupes semi-simples (les groupes dits \og classiques\fg le sont: groupe orthogonal, symplectique etc.) ont été étudiées au début du \textsc{xx}\ieme siècle dans le souci de généraliser les travaux sur les groupes finis, et parce que ces résultats étaient importants pour la théorie des invariants. Dans les années 1920, dans le but de comprendre la mécanique quantique, il~apparaissait suffisant de comprendre le cas des groupes compacts, ce qui a été faite par Weyl dans les années 1920. Mais on s'est très rapi\-de\-ment rendu compte, dès les années 1930 pour la théorie quantique des champs (mécanique quantique relativiste) qu'il fallait considérer des groupes de symétrie non compacts (groupes de Lorentz), d'où des représentations dans des espaces de dimension infinie. Alors les outils conceptuels d'analyse fonctionnelle étaient défaillants et il a fallu s'y attaquer (von Neumann), avant de pouvoir passer à la théorie des représentations de ces groupes non compacts. Les premiers travaux sur les groupes non compacts sont dûs à des physiciens, et non des moindres: Wigner et Dirac, tous les deux prix Nobel. C'est juste après la guerre que paraissent les premiers résultats rigoureux, encore très fortement motivés par la physique: \cite{Barg} et \cite{gena}. Mais très rapidement, la théorie des représentations des groupes de Lie non compacts prend son essor et une complète autonomie par rapport à la physique, sous l'influence de très grands mathématiciens comme Harish-Chandra et I.M\ptbl Gelfand (on vient d'apprendre sa disparition, le 5 octobre 2009).

\subsection{Liste des représentations unitaires irréductibles de \texorpdfstring{$\SLR$}{SLR}}\label{discana}\label{princana}\label{zoologie} Dans cette section, nous donnons brutalement une liste complète des représentations unitaires irréductibles de $G = \SLR$, sans démonstrations. Nous pourrions démontrer dès maintenant, à l'aide de méthodes d'analyse assez subtiles, que ces représentations sont irréductibles; mais nous préférons reporter la démonstration à la section suivante, pour utiliser des méthodes algébriques qui permettent également de montrer que la liste obtenue est complète.

\subsubsection*{Série discrète}
Soit $m \in \N$, $m \geq 2$, et
\[
\C H_{m} = \{f \text{ holomorphe sur } \C P^+\mid \Vert f \Vert^2 = \iint | f(z) |^2 y^{m-2} dx dy < \infty.\}
\]

Rappelons \eqref{=dxdy} que la mesure $\sfrac {dx dy}{y^2}$ est invariante à gauche par~$G$. Il n'est pas évident, mais néanmoins vrai, que $\C H_m$ est un espace de Hilbert (en d'autres termes, l'holomorphie se conserve par passage à la limite $L^2$). La fonction $ z \mto (z+i)^{-m} \in \C H_{m}$; ce qui prouve que $\C H_m$ n'est pas réduit à $0$.

Pour $m \geq 2$, la série discrète holomorphe est la famille de représentations $\C D_{m}^+$ sur $\C H_{m}$ données par
\[
[\C D_{m}^+ (g)f](z) = (-bz + d)^{-m} f\Big(\frac{az -c}{-bz +d}\Big),
\]
où comme d'habitude $g =
\bspm a & b \\ c & d \espm$. On voit facilement que ce sont des représentations unitaires. Démontrer qu'elles sont irréductibles est difficile, et nous renvoyons à \cite[p\ptbl  36]{knap}. On définit de même les représentations $\C D_{m}^-$ de la série discrète anti-holomorphe, en remplaçant les fonctions holomorphes par les fonctions anti-holomorphes. Toutes ces représentations ont la propriété cruciale suivante: pour tout $f_1, f_2 \in \C H_m$, l'application \hbox{$g \in G \mto \lb \C D_m^{\pm} (g) f_1, f_2 \rb$} appartient à l'espace $L^2(G)$.

\subsubsection*{Série principale unitaire} Soit $\mu \in \{0,1\}$ et $\nu \in \R$. Nous définissons la représentation $\C P^{\mu, i\nu}$ agissant sur $L^2(\R)$ par
\begin{equation}\label{=princana}\C P^{\mu, i\nu}(g) f(x) = (\sgn(-bx + d))^{\mu} | -b x + d|^{-1 - i \nu} f\Big(\frac{ax -c}{-bx + d}\Big).
\end{equation}
Ces représentations sont unitaires. On a les équivalences:
\[
\C P^{\mu, i \nu} \sim \C P^{\mu, - i \nu}.
\]
Les $\C P^{\mu, i \nu}$ pour $\nu \neq 0$ et $\nu = 0, \mu = 0$ sont irréductibles, mais $\C P^{1,0}$ se décompose en une somme de deux représentations. La démonstration est, comme la précédente, délicate, reposant sur des arguments assez fins d'analyse (voir \cite[p\ptbl  37]{knap}).

\subsubsection*{Série complémentaire} Pour $u \in{} ]0,1[$, considérons l'espace de Hilbert
\[
\C H_{u} = \Big\{f \colon \R \to \CC\mid \iint_{\R^2} \frac{f(x)\overline{f(y)}} {| x - y |^{1-u}} dx dy < \infty \Big\}
\]
avec l'action de~$G$
\[
\left[\C C_{u}\bspm a &b \\ c & d\espm f\right] (x) = | -b x + d |^{1-u} f \Big(\frac{ax -c}{-bx + d}\Big).
\]

La représentation $\C C_{u}$ est irréductible unitaire.

\subsubsection*{Autres représentations unitaires} Il y a la représentation triviale, et deux \og limites de représentations de la série discrète\fg $\C D_{1}^+, \C D_{1}^-$, définies comme les représentations de la série discrète, sauf que l'espace de Hilbert est l'ensemble des fonctions holomorphes sur $\C P^+$ telles que
\[
\Vert f \Vert^2 = \sup_{y \in \R^{*+}} \int_{\R} | f(x + i y) |^2 dx < \infty.
\]
La représentation réductible $\C P^{1,0}$ de la série principale se décompose en $\C P^{1,0} = \C D_{1}^+ + \C D_{1}^-$.

Nous démontrerons le

\begin{theoreme} \label{thatsallfolks} Toute représentation unitaire irréductible de $\SLR$ est équivalente à une représentation de la liste précédente: $\C D_m^\pm$, $\C P^{\mu, i\nu}$, $\C C_{u}$, $\C D_{1}^+$, $\C D_{1}^-$. Ces représentations sont inéquivalentes.
\end{theoreme}

\subsection{Du groupe à l'algèbre de Lie: le cas de la dimension infinie}

Le succès du passage à l'algèbre de Lie rend tentante l'idée de faire la même chose en dimension infinie. Mais si on veut garder un minimum de rigueur, cela exige du travail. On en a déjà eu un avant-goût avec la représentation régulière gauche de $\R$.

\subsection{Vecteurs \texorpdfstring{$C^\infty$}{Cinf}} Dans ce paragraphe, $G = \SLR$. Soit $(\pi, \C H)$ une représentation de~$G$ dans un espace de Hilbert (pas nécessairement une représentation unitaire). On dit qu'un vecteur $v \in \C H$ est un \emph{vecteur différentiable} si $\wt \pi(X) v = \ddt \pi(\exp(tX)) v$ existe. On~montre alors (voir \cite[p\ptbl  538]{god3}) que $g \mto \pi(g) v$ est de classe~$C^1$. En conséquence, l'application $g \mto \pi(g) v$ est $C^\infty$ de~$G$ dans~$\C H$ si et seulement si, pour tout entier $p$ et tout $X_1, \dots, X_p \in \slr $, $\wt \pi(X_1) \dots \wt \pi(X_p) v$ est défini. L'ensemble $\C H_{\infty}$ des vecteurs $C^\infty$ est un sous-espace de~$\C H$. Pour $v \in \C H_{\infty}$, $X \in \g g$ on définit $\pi_\infty$ comme la restriction de $\wt \pi$ à $\C H_\infty$. On montre alors que $\pi_\infty$ est une représentation de $\g g$ dans $\C H_{\infty}$. Comme $\pi_\infty$ est un morphisme de $\slr$ dans l'ensemble des opérateurs non bornés sur un espace complexe, il est loisible d'étendre $\pi_\infty$ au complexifié $\g g_{\CC} = \slc$ (par $\CC$-linéarité). On note également $\pi_\infty$ cette extension.

Mais cette définition serait sans aucun intérêt si l'espace $\C H_\infty$ était trop petit ou réduit à $\{0\}$. Il n'en est rien, car

\begin{proposition}
\label{dirac} $\C H_{\infty}$ est dense dans~$\C H$.
\end{proposition}

\begin{proof}
Pour toute fonction $\phi$ $C^\infty$ à support compact,
\[
\pi(x) \pi(\phi) v = \int_G \pi(xg) \phi(g) dg = \int_G \pi(g) \phi (x \inv g) dg;
\]
par dérivation sous le signe $\int$, on voit que $\pi(\phi)v$ est un vecteur $C^\infty$. Soit alors $\phi_n$ une suite de fonctions $C^\infty$ à support compact tendant vers la mesure de Dirac en~$e$:
\[
\pi(\phi_{n}) v = \int_{G} \phi_{n}(g)\pi(g)v dg \to v \quad\text{quand } n \to \infty.\qedhere
\]
\end{proof}

Mais $\C H_\infty$ est trop grand pour être facilement manipulable algébriquement. Il y a un sous-espace de $\C H_\infty$ bien plus commode à utiliser, et qui reste dense: c'est le sous-espace de~$\C H$ des vecteurs $K$-finis que nous considérons dans le paragraphe suivant.

\subsection{Vecteurs \texorpdfstring{$K$}{K}-finis} Un outil très important de la théorie de Harish-Chandra est de considérer la restriction d'une représentation d'un groupe semi-simple au sous-groupe compact maximal. On a vu (paragraphe autour de la formule \eqref{invariant}) que toute représentation d'un groupe compact est unitarisable. Dans notre cas, $K = \SO(2)$ est commutatif, et l'étude de la restriction est relativement simple. Considérons une représentation $\pi$ de $G = \SLR$ dans un espace de Hilbert~$\C H$. Pour tout entier relatif $n$ définissons
\[
\C H_{n} = \{v \in \C H\mid \pi(k(\theta)) v = e^{i n \theta} v\}.
\]
Il est clair que $\C H_{n}$ est un sous-espace fermé de~$\C H$. L'assertion suivante est facile.
\begin{enonce}{Définition et Proposition} Soit $\C H_K$ l'ensemble des \emph {vecteurs $K$-finis}, c'est-à-dire des éléments $v$ de~$\C H$ tels que $\pi(K) v$ engendre un sous-espace de dimension finie. Alors $\C H_K = \bigoplus_{n \in \Z} \C H_n$.
\end{enonce}

\begin{theoreme} \label{finite} Soit $\pi$ une représentation irréductible de~$G$ dans~$\C H$. Si $\dim \C H_{n}$ est finie, $\dim \C H_n = 0 \text{ ou }1$. C'est toujours le cas si $\pi$ est unitaire.
\end{theoreme}

\begin{theoreme} \label{dense} Soit $\pi$ une représentation irréductible de~$G$ dans~$\C H$. La somme (algébrique) $\sum \C H_{n}$ est directe; elle est dense dans~$\C H$. Si~$\pi$ est unitaire sur $K$, la somme est orthogonale.
\end{theoreme}

Avant de donner la démonstration de ces deux théorèmes, nous étudions la représentation de $K \times K$ dans $C_{c}(G)$:
\[
(k, k') \cdot f(g) = f(kgk').
\]
(Grâce à la commutativité de $K$, on n'a pas besoin de considérer $f(k \inv g k')$.)

\begin{lemme}
Définissons
\[
S_{n,m} = \{f \in C_{c}(G)\mid f(k(\theta) g k(\theta')) = e^{- i n \theta} f(g) e^{-i m \theta}\}
\]
pour tout $g \in G$, $\theta, \theta' \in \R/2\pi \Z$. C'est un sous espace vectoriel de $C_c(G)$. La somme algébrique $\C A = \sum_{n,m} S_{n,m}$ est dense dans $C_{c}(G)$ pour la norme uniforme (et donc pour la norme $L^1$).
\end{lemme}

\begin{proof}
On considère la fonction $f^y$ sur $\R/2\pi\Z \times \R/2\pi\Z$ définie par $f^y(\theta, \theta') = f(k(\theta) y k(\theta'))$; le théorème de Fejer nous assure que le noyau de Fejer est une suite de Dirac. Il est aussi vrai à deux variables; il reste pour conclure à vérifier l'uniformité par rapport à~$y$.
\end{proof}

\begin{lemme} Soit $\ast$ le produit de convolution dans~$G$. Nous avons
\begin{enumerate}
\item
$S_{n,m} \ast S_{p,q} = 0 \text{ si } m \neq p$
\item
$S_{n,m} \ast S_{m,q} \subset S_{n,q}$
\item
$S^\vee_{n,m} = S_{m,n}$ (où $\phi^\vee (g)= \overline{\phi(g \inv)}$)
\end{enumerate}
\end{lemme}

\begin{proof}
Soit $\phi \in S_{n,m}, \psi \in S_{p,q}$. Dans l'intégrale
\[
\phi \ast \psi (x) = \int_G \phi(x y \inv) \psi(y) dy = \int_G \phi(z) \psi(z\inv x) dz
\]
on fait le changement de variable $y = k(\theta) y'$. On obtient
\[
\phi \ast \psi (g) = e^{i (m-p) \theta} \phi \ast \psi (g)
\]
d'où la première assertion. On obtient la seconde en effectuant les changements $x \mto k(\theta)x$ ou $x k(\theta)$ dans la définition. La troisième assertion est immédiate.
\end{proof} On pose $\C A = \bigoplus S_{n,m}$. C'est donc une algèbre pour le produit de convolution.

\begin{lemme} $S_{n,n}$ est commutative.
\end{lemme}

\begin{proof}
Considérons l'anti-involution $\tau$ de~$G$: $g \mto {}^t\! g$ (où ${}^t\! g$ désigne la transposée), et l'involution
\[
\sigma \colon g \mto h g h,\quad\text{où }h = h \inv =
\bpm 1 & 0 \\ 0& -1 \epm.
\]
Pour $k \in K$, $\tau(k) = \sigma(k) = k\inv$. On en déduit des actions sur les fonctions
\[
\phi^\dag(g) = \phi(\tau(g)),\quad \phi^{\sharp}(g) = \phi(\sigma(g)).
\]
Comme~$G$ est unimodulaire, ces deux applications laissent la mesure de Haar invariante, donc
\[
\phi^\dag \ast \psi^\dag = (\psi \ast \phi)^\dag,\quad \phi^{\sharp} \ast \psi^{\sharp} = (\phi \ast \psi)^{\sharp}.
\]
Mais, pour $\phi \in S_{n,n}$, $\phi^\dag = \phi^{\sharp}$. Écrivons en effet $g = s k(\theta)$ (décomposition polaire: $s$ symétrique positive, $k \in K$). Alors
\[
\phi^\dag(g) = \phi(k \inv s) = e^{n i \theta} \phi(s)
\]
et
\[
\phi^{\sharp}(g) = \phi(\sigma(s) k) = e^{n i \theta} \phi(h s h \inv) = e^{ni \theta} \phi(s).
\]
Sur $S_{nn}$ on a donc une involution qui est en même temps une anti-involution; cela n'est possible que si $S_{nn}$ est commutative.
\end{proof}

\begin{lemme} Supposons la représentation $\pi$ unitaire sur $K$. Alors $\C H_{n}$ et $\C H_{m}$ sont orthogonaux.
\end{lemme}

\begin{proof}
Soit $v \in \C H_{n}, w \in \C H_{m}$.
\[
\lb \pi(k(\theta)) v, w \rb = e^{i n \theta} \lb v,w \rb = \lb v,\pi(k(-\theta))w \rb = e^{i m \theta} \lb v,w \rb.\qedhere
\]
\end{proof}

\begin{lemme} On a
\begin{enumerate}
\item
$\pi(S_{n,m}) \C H \subset \C H_{n}$,
\item
$\pi(S_{n,m}) \C H_{q} = 0$ si $m\neq q$,
\item
en particulier $\pi(S_{q,q}) \C H_q \subset \C H_q$.
\end{enumerate}
\end{lemme}

\begin{proof}
Calculons, pour $\phi \in S_{n,m}, v \in \C H$: $ \pi(k(\theta))[\pi(\phi) v] = \int_{G} \phi(g) \pi(k(\theta)g) v dg$. Par le changement de variable $g' = k(\theta) g$:
\[
\pi(k(\theta))[\pi(\phi) v] = \int_{G} \phi(k(-\theta) g') \pi (g')v dg' = e^{n i \theta} \pi(\phi) v
\]
Si $v \in \C H_{q}$, $q \neq m$,
\[
\pi(\phi) v = \!\int_{G}\! \phi(g) \pi(g) v dg = \!\int_{G}\! \phi(gk(\theta))\pi(gk(\theta))v dg = e^{i\theta(-m + q)}\pi(\phi)v,
\]
ce qui montre la deuxième assertion. La troisième résulte des deux autres.
\end{proof}

\begin{lemme} \label{l6}Supposons $\pi$ est irréductible. Si $\C H_{q} \neq 0$, il n'y a pas de sous-espace de $\C H_q$ stable par $\pi(S_{q,q})$ autre que $\{0\}$ et $\C H_q$, et $\pi(S_{q,q}) \C H_{q} \neq 0$.
\end{lemme}

\begin{proof}
Soit $W$ un sous-espace de $\C H_{q}$ invariant par $\pi(S_{q,q})$, et $w \in W$, $w \neq 0$. Pour $f = \sum f_{n,m} \in \C A $, la $\C H_{q}$-composante de $\pi(f)w$ est $\pi(f_{q,q}) w$, qui appartient donc à $W$. Supposons $W \neq \C H_q$. Il y a donc un vecteur $w' \in \C H_q, w'\notin W$. Par densité de $\C A$, et l'irréductibilité de~$\C H$ sous $C_{c}(G)$, il y a une suite $f^p \in \C A$ telle que $\pi(f^p) w \to w' \notin W$, d'où une contradiction.
\end{proof}

\begin{proof}[Démonstration du lemme \ref{finite}] Soit $a \in S_{nn}$, et $F$ un sous espace propre de $\pi(a)$ dans $\C H_{n}$. Comme $S_{n,n}$ est commutative, ce sous-espace propre est stable par $S_{n,n}$. Il est donc égal à $\C H_{n}$. Donc tous les $\pi(a)$ sont des homothéties, donc tout sous-espace de $\C H_n$ est stable, d'où la première assertion. Supposons maintenant $\pi$ unitaire. Puisque $S_{n,n}$ est stable par $f(g) \mto f(g\inv)$, $\pi(S_{n,n})$ est stable par passage à l'adjoint. Par une variante du lemme de Schur, le spectre de tout élément est réduit à un point. L'irréductibilité implique alors que la dimension est~$0$ ou $1$.
\end{proof}

\begin{proof}[Démonstration du lemme \ref{dense}] Soit $E$ le sous-espace fermé engendré par les $\C H_{n}$. D'après les lemmes ci-dessus, $\pi(\C A) E \subset E$; Par densité de $\C A$, $E$ est stable par $L^1(G)$. En considérant une suite de Dirac appropriée, $E$ est donc stable par $\pi(G)$.
\end{proof}

Nous disons qu'une représentation $\pi$ de~$G$ dans un espace de Banach~$\C H$ est \emph{admissible} si $\dim \C H_{n}$ est finie pour tout $n$. Le théorème \ref{finite} montre que toute représentation irréductible unitaire est admissible, et que pour toute représentation irréductible admissible $\dim \C H_{n} \leq 1$.

\begin{theoreme} Soit $\pi$ une représentation irréductible admissible de~$G$ dans~$\C H$. Supposons $\C H_{n} \neq \{0\}$. Alors $\C H_{n}$ est de dimension $1$, et est l'espace propre de $\pi_\infty(z)$ pour la valeur propre $n$, où
\[
z =
\bpm 0 &-i \\ i &0 \epm.
\]
et chacun de ses éléments est un vecteur $C^\infty$.
\end{theoreme}

\begin{proof}
Démontrons d'abord la dernière assertion. D'abord $S_{n,m}^\infty = S_{n,m} \cap C^\infty(G)$ est dense dans $S_{n,m}$: par la décomposition de Cartan $G = KAK$ (voir \ref{decomp}), les fonctions dans $S_{n,m}$ sont déterminées par leur restriction à $A$, et il suffit de savoir que les fonctions $C^\infty$ sur~$A$ sont denses dans les fonctions continues sur $A$. Alors $\pi(S_{n,n}^\infty) \C H_{n} \neq\nobreak 0$ puisque $\pi(S_{n,n}) \C H_{n} \neq 0$ par le lemme \ref{l6}. Comme $\C H_{n}$ est de dimension 1, tout $v \in \C H_{n}$ est de la forme $\pi(f) v$, pour un $f \in C_c^\infty(G)$:
\[
v = \int_{G} f(g) \pi(g) v dg,
\]
et par un argument déjà utilisé (voir la proposition \ref{dirac}), $v \in \C H^\infty$.

Il reste à montrer qu'un vecteur propre $v$ de $\pi_\infty(z)$ pour la valeur propre $n$ est dans $\C H_n$, ce qui résulte du calcul
\[
\frac d {d\theta} \pi(\exp(i \theta z)) v = \pi(\exp (i \theta z)) \pi_\infty (i z) v = in \pi(\exp (i \theta z)) v.
\]
On en déduit $\frac d {d \theta} \psi(\theta) = 0$ où $\psi(\theta) = e^{-in \theta} \pi(k(\theta)) v$.
\end{proof}

Rappelons que $\C H_{K}=\sum_{n} \C H_{n}$ est l'espace des vecteurs $K$-finis dans~$\C H$.

\begin{proposition}
$\C H_{K}$ est stable par la représentation $\pi_\infty$ de $\g g_\CC$ dans $\C H_\infty$.
\end{proposition}

Introduisons la base $z,e,f$ de $\slc$:
\begin{equation}
\label{=zef} z =
\bpm 0 &-i \\ i &0 \epm,\quad
e =\bpm 1/2 & i/2 \\ i/2 & -1/2 \epm,\quad
f = \overline e =\bpm 1/2 & -i/2\\ -i/2 & -1/2 \epm.
\end{equation}
On a alors $[z,e] = 2e$, $[z,f] = -2f$, $[e,f] = z$.

\begin{proof}
On remarque que la base $z, e, f$ est une base de $\slc$ qui vérifie les mêmes relations que la base $h,x,y$ considérée pour la démonstration du lemme \ref{finie}. Le même calcul montre donc que $\pi(z) v = n v$ entraîne $\pi(z) (\pi(e) v) = (n+2) \pi(e)v$ et $\pi(z) (\pi(f) v) = (n-2) \pi(f)v$.
\end{proof}

\subsection{\texorpdfstring{$\gK$}{gK}-modules} On a donc pu associer à toute représentation unitaire irréductible de~$G$ une représentation de $\g g_\CC$ dans l'ensemble des vecteurs $K$-finis. Ce qu'on obtient n'est pas seulement une représentation de $\g g_\CC$, car il y a aussi une représentation du \emph{groupe} $K$. Cette notion est la base de la réduction à un problème purement algébrique. Elle mérite une définition.

\begin{definition}
Un $\gK$-module $(\pi, V)$ est la donnée
\begin{enumerate}
\item
d'une représentation $\pi$ de $\g g_{\CC}$ dans $V$,
\item
d'une représentation $\pi$ de $K$ dans $V$ dont la représentation dérivée est la restriction à $\g k$ de la représentation de $\g g_{\CC}$.
\end{enumerate}
De plus, on a $V = \sum_{n \in \Z}V_{n}$, où $K$ agit sur $V_{n}$ par le caractère $\chi_{n}: k(\theta) \mto e^{ni\theta}$. On dit qu'un $\gK$-module est \emph{admissible} si $\dim V_{n} < \nobreak\infty$ pour tout $n$. On nomme \emph{$K$-types} de $\pi$ les $n$ tels que $V_n \neq \{0\}$.
\end{definition}

À toute représentation admissible de~$G$, en particulier à toute représentation unitaire irréductible de~$G$, correspond donc un $\gK$-module admissible, l'espace $\C H_{K}$ des vecteurs $K$-finis. On l'appelle \emph{module de Harish-Chandra} de la représentation de~$G$.\enlargethispage{1.5\baselineskip}%

\begin{remarque}
L'utilisation du mot \emph{module} est abusive, mais commode. Nous verrons qu'on peut effectivement remplacer l'action de l'algèbre de Lie $\g g$ par celle d'un anneau (non commutatif), \emph{l'algèbre enveloppante} de $\g g$ et donc de voir l'espace $V$ comme un module sur un anneau. Mais la présence de l'autre action, celle du groupe $K$, fait qu'on ne peut pas pousser l'analogie trop loin. Les notions d'irréductibilité, d'équivalence s'appliquent évidemment aux $\gK$-modules, comme on le verra sous peu.
\end{remarque}

Nous admettrons les trois résultats suivants.

\begin{proposition}
\label{GgK} Soit $(\pi, \C H)$ une représentation admissible de~$G$, et $(\pi, \C H_{K})$ le module de Harish-Chandra correspondant. L'application $\C E \mto \C E \cap \C H_K$ induit une bijection entre sous-espaces~$G$-invariants fermés de~$\C H$ et sous-espaces $\g g_{\CC}$-invariants de $\C H_{K}$. En particulier, la représentation de~$G$ est irréductible si et seulement si celle de $\g g_\CC$ l'est.
\end{proposition}

\begin{proposition}
Tout $\gK$-module irréductible est le module de Harish-Chandra d'une représentation irréductible de~$G$.
\end{proposition}

L'équivalence des $\gK$-modules est définie \emph{de manière purement algébrique}: les modules $V_1, V_2$ sont équivalents s'il existe une application $\CC$-linéaire $J \colon V_1 \to V_2$ telle que pour tout $X$ dans $\g g$, $\pi_2(X) J = J \pi_1(X)$ et pour tout $k \in K$, $\pi_2(k) J = J \pi_1(k)$. On dit que deux représentations admissibles de~$G$ sont \emph{infinitésimalement équivalentes} si leurs modules de Harish-Chandra sont équivalents.

\begin{proposition}
Deux représentations unitaires sont équivalentes si et seulement si elles sont infinitésimalement équivalentes.
\end{proposition}

\section{Structure des \texorpdfstring{$\gK$}{gK}-modules}

\subsection{L'algèbre enveloppante} Soit provisoirement $\g g$ une algèbre de Lie sur $k = \R$ ou $\CC$. Suivant qu'on est plutôt algébriste, géomètre ou analyste, on définit l'algèbre enveloppante $\C U(\g g)$ de manières différentes:

\begin{enumerate}
\item
\emph{Point de vue algébrique}. On considère l'algèbre associative avec unité $\C U(\g g)$ engendrée par $\g g$ avec les relations $X\cdot Y - Y\cdot X = [X, Y]$. Dans cette algèbre, le crochet de Lie de deux éléments de $\g g$ est donc égal à leur crochet $XY -YX$ défini par la multiplication. L'algèbre $\C U (\g g)$ contient donc $\g g$ et est \og solution d'un problème universel\fg, c'est-à-dire: supposons que $f $ est une application linéaire $\g g \to A$, où~$A$ est une $k$-algèbre avec unité, telle que $f(X) f(Y) - f(Y) f(X) = f([X,Y])$. Alors il existe un unique morphisme $\C U (\g g) \to A$ prolongeant~$f$.
\item
\emph{Point de vue géométrique}. On identifie $\g g$ aux champs de vecteurs sur~$G$ invariants à gauche, et alors $\C U(\g g)$ est défini comme l'ensemble des opérateurs différentiels sur~$G$ invariants à gauche.
\item
\emph{Point de vue analytique}. $\C U(\g g)$ est l'ensemble des distributions sur~$G$ de support~$e$.
\end{enumerate}

Dans le cas particulier de $\g g = \slr$, on pose $\C U = \C U(\g g_\CC)$. C'est donc une $\CC$-algèbre avec unité contenant les éléments $x, y, h$ et tous les monômes $x^p y^q h^r$, avec $p, q, r$ entiers, les règles de multiplication venant des relations $xy - yx = h$, $hx - xh = 2x$, $hy -yh = -2y$. Par exemple, on peut vérifier que \emph{l'élément de Casimir} $\Omega_0 = h^2 + 2 xy + 2 yx$ est dans le centre de $\C U$: il suffit de vérifier que $\Omega_0$ commute avec $x,y,h$. Le calcul pour $h$ donne:
\begin{align*}
h\Omega_0 &= h^3 + 2(h xy + hyx) = h^3 + 2(2x y + x hy - 2 yx + yhx)\\ &= h^3 + 4 h + 2(x(-2y) + xy h + 2 yx + yx h)\\ &= h^3 + 4 h - 4h + 2(xy + yx) h = \Omega_0h.
\end{align*}
Pour simplifier les calculs, nous posons $\Omega = \Omega_0 +1$. C'est également un élément du centre de $\C U$. Soit $V$ un $\gK$-module admissible. La~représentation $\pi$ de $\g g$ s'étend en un morphisme de $\C U$, encore noté~$\pi$.

L'élément $\pi(\Omega)$ commute avec $\pi(\g k)$, donc $\pi(\Omega)$ laisse $V_{n}$ stable; comme $V_{n}$ est de dimension finie, $\pi(\Omega)_{| V_{n}}$ a une valeur propre, et l'espace propre correspondant (dans tout $V$) est stable par $\pi(\C U)$. Nous avons donc:

\begin{proposition}
\label{infini} Soit $(\pi, V)$ un $\gK$-module admissible irréductible; alors $\pi(\Omega)$ est un scalaire que l'on convient de noter $\lambda^2$ ($\lambda \in \CC$).
\end{proposition}

\subsection{Classification en termes de \texorpdfstring{$K$}{K}-types} Soit $V$ un $\gK$-module admissible irréductible. Nous travaillons avec la base $z, e, f$ de $\g g_\CC$ (voir \eqref{=zef}). Rappelons que $v \in V_n$ si et seulement si $\pi(z)v = nv$. L'étude, très élémentaire, ressemble beaucoup à ce que nous avons fait en dimension finie, mais en plus compliqué. Nous suivons l'exposé de \cite{vog1}. On remarque tout d'abord que pour $v \in V_n$\vspace*{-3pt}
\begin{equation}
\label{=usual} \pi(e) v \in V_{n+2} \quad\text{et}\quad \pi(f) v \in V_{n-2}.
\end{equation}
Ensuite

\begin{lemme}\label{vl1} Soit $V$ un $\gK$-module admissible irréductible, et \hbox{$v \neq 0\in V_n$}.
\begin{enumerate}
\item
Si $\pi(e) v \!=\! 0$, alors les $w_{n-2m} \!=\! \pi(f)^m v$ ($m \in \N$) engendrent~$V$.
\item
Si $\pi(f) v = 0$, les $w_{n+2m} = \pi(e)^m v$ ($m \in \N$) engendrent~$V$.
\item
Si $\pi(fe) v = 0$, alors $\pi(e)v = 0$.
\item
Si $\pi(ef) v = 0$, alors $\pi(f) v = 0$.
\end{enumerate}
\end{lemme}

\begin{proof}\mbox{}
\begin{enumerate}
\item
Soit $W$ le sous-espace engendré par les $w_{n-2m}$. Il est stable par~$\g g_\CC$. Par construction, il suffit de vérifier la stabilité par $\pi(e)$. Formulons l'hypothèse de récurrence $\pi(e) w_{n-2m} = c_m w_{n - 2(m-1)}$ (avec la convention $w_{n+2} = 0$). Calculons: \vspace*{-3pt}
\begin{align*}
\pi(e) w_{n - 2m - 2} &= \pi(e) \pi(f) w_{n-2m}\\
&= \pi(z) w_{n-2m} + c_m \pi(f)w_{n-2m +2}\\
&= (n-2m + c_m) w_{n-2m}.
\end{align*}
Comme $W \neq\nobreak\{0\}$, on en déduit $W = V$.

\item
se démontre de la même manière en échangeant les rôles de~$e$ et $f$.

\item
Supposons $\pi(fe)v = 0$ et $v_1 = \pi(e) v \neq 0$. Comme $v_1 \in V_{n+2}$ et $\pi(f) v = 0$, on peut appliquer l'assertion 2, qui implique en particulier que $V_n = 0$. Contradiction.
\item
se démontre de la même manière.\qedhere
\end{enumerate}
\end{proof}

Pour le résultat suivant, nous avons besoin d'exprimer $\Omega$ avec la base $z, x, y$.
\begin{equation}
\label{=cas2} \Omega = z^2 + 1 + 2(ef + fe) = (z-1)^2 + 4 ef = (z+1)^2 + 4 fe.
\end{equation}

\skpt
\begin{lemme} \label{vl2} Soit $V$ un $\gK$-module admissible irréductible, \hbox{$v \neq 0\in V_n$} et $\lambda$ donné par la proposition \ref{infini}. Définissons par récurrence sur $m$ une famille de vecteurs $w_{j}$ ($j \in n + 2 \Z$) par
\begin{equation}
\left\{\begin{aligned} w_{n}&= v \\ w_{n + 2(m+1)} &= \tfrac 2{\lambda + (n+2m +1)} \pi(e) w_{n+2m} \text{ si } \lambda \neq -n -2m -1\\ &=0 \text{ si } \lambda = -n -2m -1\\ w_{n-2(m+1)} &= \tfrac 2{\lambda - (n-2m -1)}\pi(f) w_{n-2m} \text{ si } \lambda \neq n -2m -1\\ &=0 \text{ si } \lambda = n -2m -1.
\end{aligned}.\right. 
\end{equation}
Les $w_{j} \neq 0$ forment une base de $V$ et
\begin{equation}
\label{=basis} \left\{\begin{aligned} \pi(z) w_{j} &= j w_{j},\\ \pi(e) w_{j} &= \frac 12 (\lambda + (j + 1)) w_{j+2},\\ \pi(f) w_{j} &= \frac 12 (\lambda - (j-1))w_{j-2}.
\end{aligned}\right.
\end{equation}
\end{lemme}

\begin{proof}
On démontre d'abord les trois égalités \eqref{=basis}. La première est \eqref{=usual}. Pour la deuxième, il y a différents cas; traitons $j = n + 2m \geq n$ et $-\lambda = n + 2m +1$. D'après la formule \eqref{=cas2},
\begin{align*}
\pi(\Omega) w_{n+2m} &= \lambda w_{n+2m} = \pi((z+1)^2 + 4fe) w_{n+2m}\\& = (n+2m+1)^2 w_{n+2m} + 4\pi(fe) w_{n+2m},
\end{align*}
d'où
\[
\pi(fe)w_{2n+m} = \frac 14(\lambda^2 - (n+2m+1)^2) w_{n+2m} = 0.
\]
Mais alors par le lemme \ref{vl1}, $\pi(e)w_{2n+m} = 0$. Les autres cas sont similaires, et la troisième égalité se démontre par le même genre de raisonnement.

Les formules montrent que le sous-espace $W$ engendré par les $w_j$ est stable par $\pi(\g g)$. Comme il contient $v = w_n$, il n'est pas réduit à~$\{0\}$, d'où $W = V$.
\end{proof}

On en déduit

\begin{lemme}\label{wj0} Soit $V$ un $\gK$-module admissible irréductible, $v \neq 0\in V_n$ et $\lambda$ donné par la proposition \ref{infini}, $m \geq 0$. Alors
\begin{enumerate}
\item
$w_{n + 2(m+1)}=0$ si et seulement si
\[
w_{n+2m} = 0\quad\text{ou}\quad\lambda = \pm (n + 2m +1),
\]
\item
$w_{n -2(m+1)}=0$ si et seulement si
\[
w_{n-2m} = 0\quad\text{ou}\quad\lambda = \pm (n - 2m -1).
\]
\end{enumerate}
\end{lemme}

\begin{proof}\mbox{}
\begin{enumerate}
\item
Si $w_{n+2m} = 0$, alors $w_{n +2(m+1)}=0$ par définition, donc (1) est vérifié. Supposons donc $w_{n +2m} \neq 0$. Si $\lambda = -(n +2m +1)$, alors par définition $w_{n + 2(m+1)} = 0$, donc (1) est vérifié. On peut donc supposer $\lambda \neq -(n +2m +1)$. Dans ce cas $w_{n + 2(m+1)}$ est un multiple non nul de $\pi(e)w_{n+2m}$. Mais par le lemme \ref{vl1}, $\pi(e)w_{n +2m}=0$ si et seulement si $\pi(fe)w_{n+2m} = 0$, et par \eqref{=cas2},
\[
\pi(fe)w_{n+2m} = [\lambda^2 - (n+2m+1)^2]w_{n+2m}.
\]
Puisque $\lambda \neq -(n+2m+1)$ et $w_{n+2m} \neq 0$, on a bien l'équivalence $\pi(e)w_{n+2m} = 0$ si et seulement si $\lambda = n +2m +1$.

\item
Se démontre de la même manière.\qedhere
\end{enumerate}
\end{proof}

\begin{proposition}\label{clas1}\mbox{}
\begin{enumeratea}
\item
Pour tout $c \in \CC, n \in \Z$, il existe un $\gK$-module irréductible~$V$ tel que $\pi(\Omega) = c$ et $V_{n} \neq 0$.

\item
Deux $\gK$-modules $(\pi,V)$, $(\pi',V')$ sont isomorphes si et seulement si
\begin{enumeratei}
\item
$\pi(\Omega) = \pi'(\Omega)$
\item
$\exists n \in \Z$, $V_{n} \neq \{0\}$, $V'_{n} \neq \{0\}$,
\end{enumeratei}
\end{enumeratea}
\end{proposition}

\pagebreak[2]
\begin{proof}\mbox{}
\begin{enumeratea}
\item
Il suffit de démontrer que les formules \eqref{=basis}, en choisissant une racine $\lambda$ de $c$, définissent une représentation de $\g g_\CC$, ce qui est une simple vérification, dans laquelle il faut distinguer les différents cas qui se présentent.

\item
Supposons $\pi(\Omega) = \lambda^2$ et $V_n \neq 0$. Les deux lemmes \ref{vl2}, \ref{wj0} montrent qu'il existe un ensemble d'indices $J \subset \Z$ et une base $(w_j)_{j \in J}$ de $V$ vérifiant les formules \eqref{=basis}. Deux tels modules sont donc isomorphes.\qedhere
\end{enumeratea}
\end{proof}

On va reformuler ce résultat de manière un peu différente. Vogan définit \emph{un $K$-type minimal} comme un $K$-type $n$ tel que $|n|$ soit minimal.

\begin{lemme} Soit $(\pi, V)$ un $(\g g, K$)-module irréductible admissible de $K$-type minimal $n$. Supposons $|n| >1$. Alors $\pi(\Omega) = (|n|-1)^2$. En~conséquence, pour tout $n$ tel que $|n|>1$, il existe un unique $(\pi, V)$ vérifiant cette propriété.
\end{lemme}

\begin{proof}
Supposons $n>1$ (le cas $n <-1$ est similaire), et soit $v \neq 0 \in V_{n}$. Pour $n>1$, on a $|n-2| < |n|$ donc $V_{n-2}=0$, donc $\pi(f) v = 0$. Par $\Omega = (z-1)^{2}+ 4 ef$, nous obtenons $\pi(\Omega) v = (n-1)^2$. Il suffit d'appliquer la proposition \ref{clas1} pour conclure.
\end{proof}

\begin{lemme} \label{sd}
Supposons $| n | \geq 1$ et $(\pi, V)$ est le $\gK$-module irréductible tel que $V_{n} \neq 0$ et $\pi(\Omega) = (| n |^2-1)^2$. Alors l'ensemble des $K$-types est $\{n + 2 (\sgn n) m\mid m \in \N\}$. En particulier, $n$ est un $K$-type minimal.
\end{lemme}

\begin{proof}
Supposons $n >0$ (le cas $n<0$ est similaire). D'après le lemme \ref{wj0}, $w_{n-2} = 0$ et $w_{n+2m} \neq 0$.
\end{proof}

On définit $(\pi, X_{d}(n))$ de paramètre $n \neq 0$ comme l'unique $\gK$-module irréductible admissible de $K$-type minimal $n + \sgn n$. Pour $\mu = -1, 0, 1$, et $\lambda \in \CC$, la série continue de représentations $(\pi, \overline{X}_{c}(\lambda)(\mu))$ est l'unique $\gK$-module irréductible admissible contenant le $K$-type~$\mu$ avec $\pi(\Omega) = \lambda^2$.

Le lemme \ref{sd} donne la structure des $K$-types pour les $X_d(n)$. De~même, on peut décrire la structure des $K$-types pour la série continue (démonstration laissée au lecteur).

\begin{lemme} Soit $\mu \in \{-1, 0, 1\}$ et $\lambda \in \CC$.
\begin{enumerate}
\item
Si $\lambda$ n'est pas un entier de même parité que $\mu +1$, les $K$-types de $\overline X_{c}(\lambda)(\mu)$ sont $\{\mu + 2m\mid m \in \Z\}$.

\item
Si $\lambda$ est un entier $\neq 0$ de même parité que $\mu +1$, alors $\overline X_{c}(\lambda)(\mu)$ est la représentation de dimension finie de plus haut poids $|\lambda|-1$. Ses $K$-types sont $\{|\lambda| -1, |\lambda|-3, \dots, -|\lambda|+1\}$.

\item
Si $\lambda =0$ et $\mu = \pm 1$, les $K$-types sont $\{\mu + 2 (\sgn \mu) m\}$.
\end{enumerate}
\end{lemme}

Nous obtenons donc une classification complète:

\begin{theoreme} Soit $(\pi,V)$ un $\gK$-module irréductible admissible de $K$-type minimal $\mu$.
\begin{enumerate}
\item
Si $|\mu| >1$, alors $V \sim X_{d}(\mu - \sgn \mu)$. Dans ce cas $\mu$ est l'unique $K$-type minimal.
\item
Si $|\mu| \leq 1$; soit $\lambda$ une racine carrée de $\pi(\Omega)$. Alors $V \sim \overline X_{c}(\lambda)(\mu)$. De plus, $\overline X_{c}(\lambda)(\mu) \sim \overline X_{c}(\lambda')(\mu)$ si et seulement si $\lambda' = \pm \lambda$.
\begin{itemize}
\item
Si $\mu =0$, $\mu$ est l'unique $K$-type minimal de $V$. Si $\mu = \pm 1$ et $\lambda \neq 0$, alors les $K$-types minimaux de $V$ sont $\pm \mu$. Dans ce cas, $\overline X_{c}(\lambda)(\mu) \sim \overline X_{c}(\lambda)(-\mu)$.

\item
Finalement, si $\mu = \pm 1$ et $\lambda =0$, alors $\mu$ est l'unique $K$-type minimal de $V$
\end{itemize}
\end{enumerate}
\end{theoreme}

À ce stade, nous ne savons pas lesquelles parmi ces représentations sont unitaires; de plus, nous n'avons pas fait le lien entre cette classification et les représentations unitaires de~$G$ au paragraphe~\ref{zoologie}.

\subsection{Série standard} Les formules \eqref{=basis} ont un sens sans la condition compliquée de nullité ou non des $w_j$ et définissent une représentation de $\g g$. On a donc:

\begin{enonce}{Définition et Proposition}
Soit $\lambda \in \CC$ and $\epsilon = \pm 1$. La \emph{série standard} $X_{c}(\epsilon \otimes\lambda)$ de paramètres $\epsilon, \lambda$ est le $\gK$ module tel que:
\begin{enumerate}
\item
Il y a une base $\{w_{n}\mid n \text{ tel que } (-1)^n = \epsilon \} \subset X_{c}(\epsilon \otimes\lambda)_n$
\item
L'action de $z,e,f$ sur $w_{n}$ est donnée par
\begin{align}\label{principal} \pi(z) w_{n} &= n w_{n}\\ \pi(e) w_{n}&= \frac 12 (\lambda + (n+1)) w_{n+2}\\ \pi(f) w_{n}&= \frac 12 (\lambda - (n-1)) w_{n-2}.
\end{align}
\end{enumerate}
\end{enonce}

Il n'y a aucune raison que $X_{c}(\epsilon \otimes\lambda)$ soit irréductible. En effet:

\begin{proposition}
\label{Holderprinc} Soit $\lambda \in \CC$ et $\epsilon = \pm 1$; soit $\mu = 0$ si $\epsilon = 1$ et $\mu = \pm 1$ si $\epsilon = -1$.
\begin{enumerate}
\item
$\pi(\Omega) = \lambda^2$
\item
Si $\lambda$ n'est pas un entier de parité $\mu +1$, $X_{c}(\epsilon, \lambda) \sim \overline X_{c}(\lambda)(\mu)$
\item
Si $\lambda \in \N^*$ de parité $\mu+1$, $X_{c}(\epsilon, \lambda)$ admet un sous-module isomorphe à $X_{d}(\lambda) \oplus X_{d}(-\lambda)$. Le quotient $X_{c}(\epsilon \otimes\lambda)/X_{d}(\lambda) \oplus X_{d}(-\lambda)$ est la représentation de dimension finie $\overline X_{c}(\lambda)(\mu)$
\item
Si $\lambda \in \Z^{*-}$ est de parité $\mu +1$, $X_{c}(\epsilon, \lambda)$ contient un sous-module isomorphe à la représentation de dimension finie $\overline X_{c}(\lambda)(\mu)$. Le quotient $X_{c}(\epsilon \otimes\lambda)/\overline X_{c}(\lambda)(\mu) \sim X_{d}(\lambda) \oplus X_{d}(-\lambda)$.
\item
Si $\lambda =0$, $\epsilon = -1$, $X_{c}(\epsilon \otimes0) \sim \overline X_{c}(0)(\mu) \oplus X_{c}(0)(-\mu)$.
\end{enumerate}
\end{proposition}

Dans la section suivante, nous faisons le lien entre les deux approches des représentations: l'approche algébrique de cette section et l'approche analytique esquissée dans le paragraphe \ref{zoologie}.

\section{Représentations du groupe G}

\subsection{Série principale}
Nous avons décrit dans le paragraphe \ref{induction} un procédé général de construction de représentations d'un groupe: l'induction. Nous allons utiliser ce procédé dans le cas de $\SLR$, avec une petite modification. Le sous-groupe à partir duquel on induit est
\[
P = MAN = \left\{\bspm a & u \\ 0 & a\inv \espm\mid a\in \R^*,\, u \in \R \right\}.
\]
La différence par rapport au procédé général du paragraphe \ref{induction} est que $P$ n'est pas unimodulaire; c'est ce qui explique le décalage des paramètres. Pour $\lambda \in \CC$, $\epsilon = \pm 1$, $\mu \in \{0,1\}$ tel que $(-1)^\mu = \epsilon$, on définit le caractère $\chi_{\epsilon, \lambda}$ de $P$
\[
\chi_{\epsilon,\lambda}\bspm a & t \\ 0 & a\inv \espm = (\sgn a)^\mu | a |^\lambda.
\]
Grâce à la décomposition d'Iwasawa, une fonction sur~$G$ vérifiant une condition $f(gp) = \square(p) f(g)$ (où $\square(p)$ est une fonction de $p$) s'identifie à une fonction sur $K$, ce qui simplifie les questions de mesure. L'espace de la représentation induite est l'espace de Hilbert $\C H_{\epsilon, \lambda}$ des fonctions $G \to \CC$ telles que
\begin{enumerate}
\item
$\phi(gp) = \chi_{\epsilon, \lambda+1}(p)\inv \phi(g) \quad \forall (g,p) \in G \times P$
\item
$\phi_{| K} \in L^2(K)$.
\end{enumerate}
La représentation de~$G$, la \emph{série principale} $T_{\epsilon, \lambda}$, est la représentation régulière gauche dans $\C H_{\epsilon,\lambda}$. C'est bien une représentation de~$G$ dans $\C H_{\epsilon, \lambda}$ (condition de continuité forte). Il n'est pas difficile de voir qu'elle est unitaire si $\chi_{\epsilon, \lambda}$ l'est, c'est-à-dire si $\lambda \in i \R$. Elle n'est pas toujours irréductible, ce qu'on pourrait vérifier directement pas des méthodes analytiques, mais nous allons plutôt utiliser les résultats sur les $\gK$-modules.

\begin{proposition}
La représentation $T_{\epsilon, \lambda}$ est admissible. Le module de Harish-Chandra associé est isomorphe à $X_{c}(\epsilon \otimes\lambda)$.
\end{proposition}

\begin{remarque}
Cette proposition justifie l'emploi du même terme série principale (au lieu de série standard) dans les deux cas.
\end{remarque}

\begin{proof}
Par Iwasawa, $\C H_{\epsilon, \lambda}$ est isomorphe comme espace de Hilbert à $\C H_{\epsilon} = \{\psi \in L^2(K)\mid\phi (- k) = (-1)^\mu \phi(k)\}$, l'isomorphisme $I\colon \C H_{\epsilon, \lambda} \to \C H_{\epsilon}$ étant $\phi \mto \psi = \phi_{| K}$. Nous transférons la représentation à $\C H_{\epsilon}$ par $I$, pour obtenir une nouvelle représentation $T'_{\epsilon, \lambda}$ équivalente à $T_{\epsilon, \lambda}$
\[
\begin{CD} \C H_{\epsilon, \lambda} @>T_{\epsilon, \lambda}(g)>> \C H_{\epsilon, \lambda}\\ @V I VV @V I VV\\ \C H_{\epsilon} @> T'_{\epsilon, \lambda}(g) >> \C H_{\epsilon}
\end{CD}
\]
Pour donner une expression de $T'_{\epsilon, \lambda}$, nous devons d'abord exprimer
\[
\bpm a & b \\ c & d \epm \inv k(\theta) = k(\zeta(g, \theta))
\bpm y(g, \theta) & x(g,\theta) \\ 0 & y(g, \theta)\inv \epm
\]
Un calcul facile donne:
\begin{align*}
y(g,\theta) &= \sqrt{(d \cos \theta + b \sin \theta)^2 + (c \cos \theta + a \sin \theta)^2}\\ e^{i\zeta(g, \theta)} &= y(g, \theta) (d \cos \theta + b \sin \theta) + i (c \cos \theta + a \sin \theta),\end{align*}
d'où la formule
\[
T'_{\epsilon, \lambda}(g) \psi (k(\theta)) = y^{-\lambda -1} \psi(k(\zeta(g, \theta))).
\]
Cette formule implique que la représentation $T'_{\epsilon, \lambda}$ (et donc aussi $T_{\epsilon, \lambda}$) est continue et bornée. Calculons maintenant la restriction à $K$:
\[
T'_{\epsilon, \lambda}(k(\theta_{0})) \psi(k(\theta)) = \psi(k(\theta - \theta_{0})).
\]
La décomposition de la restriction à $K$ est donc donnée par la théorie de Fourier, en n'oubliant pas que les fonction $\psi$ sont paires ou impaires en fonction de la parité de $\epsilon$:
\[
(\C H_{\epsilon, \lambda})_{n} = \CC e^{i n \theta}
\]
si $n$ et $\epsilon$ ont la même parité, $(\C H_{\epsilon, \lambda})_{n} = 0$ sinon.

Nous pouvons donc dériver la représentation agissant sur ces éléments. Nous connaissons l'action de $z$. Il nous suffit de calculer celle de $h$ et $x$. Soit $\psi_{n}(k(\theta)) = e^{i n \theta}$, et $\phi_{n}$ l'élément correspondant de $\C H_{\epsilon, \lambda}$:
\begin{align*}T_{\epsilon, \lambda} (h) \psi_{n}(1) &= \ddt \phi_{n}\bspm e^{-t} & 0 \\ 0 & e^{t} \espm = \ddt e^{(\lambda +1)t} = (\lambda +1) \\ T_{\epsilon, \lambda}(x) \psi_{n} (1) &= 0.
\end{align*}

En passant à la base $z, e, f$, on trouve alors
\begin{align*}T_{\epsilon, \lambda} (z) \phi_n &= n \phi_n \\ T_{\epsilon, \lambda} (e) \phi_n &= \frac 12(\lambda + n +1)\phi_{n+2}\\ T_{\epsilon, \lambda} (f) \phi_n &= \frac 12(\lambda - (n-1)) \phi_{n-2}.
\end{align*}
Il suffit maintenant de comparer avec les équations \eqref{principal}.
\end{proof}

Grâce aux propositions \ref {GgK} et \ref{Holderprinc}, on obtient la décomposition de $T_{\epsilon, \lambda}$. Nous l'énoncerons plus loin, après avoir analysé la série discrète.

Auparavant, nous devons, comme promis, comparer cette représentation à la construction du paragraphe \ref{princana}. Supposons $\lambda = i \nu \in i \R$. Nous utilisons une troisième version de $\C H_{\epsilon, \lambda}$. Considérons la restriction de $\phi \in \C H_{\epsilon, \lambda}$ à $N^- \sim \R$. Il résulte de la décomposition de Bruhat que l'application
\begin{align*}
N^- \times MA \times N &\to G \\ (n^-, a, n) &\mto n^-an \in G
\end{align*}
n'est pas surjective, mais est surjective sur un ouvert dense de complémentaire de mesure nulle. La restriction $\C H_{\epsilon, \lambda} \to L^2(N^-)$ est donc bijective, où $L^2(N^-)$ est relatif à une mesure qui se trouve être la mesure de Lebesgue de $\R$ après identification $N^- \sim \R$. Finalement, on a obtenu un isomorphisme d'espaces de Hilbert $\C H_{\epsilon, \lambda} \to L^2(\R)$. Il reste à transporter l'action de~$G$ dans cette troisième réalisation. Le calcul donne
\[
\wt T_{\epsilon, i \nu}(g) \xi(v) = (\sgn (d - bv))^\mu |d - b v|^{- i \nu +1} \xi\Big(\frac {- c + av}{d - bv}\Big)
\]
qui est exactement la formule de \eqref{=princana}.

\subsection{Série discrète}

Ce que nous voulons faire, c'est identifier le module de Harish-Chandra associé aux représentations $\C D_{m}^\pm$ ($m\in \N $, $m \geq 2$) (série discrète holomorphe ou anti-holomorphe) qu'on a définies dans le paragraphe \ref{discana} avec $X_{d}(n)$ ($n \in \Z$, $n \neq 0$). Pour cela nous devons calculer les $K$-types de $\C D_m^\pm$. Mais le modèle que nous avons, de fonctions holomorphes sur $\C P^+$, n'est pas commode car l'action de $K$ sur $\C P^+$ n'est pas simple. Nous commençons à avoir l'habitude: nous allons changer de modèle, mais ça ne sera pas suffisant; il faudra aussi changer de groupe.

Soit $D = \{w \in \CC\mid | w | < 1\}$. Les applications
\begin{align*}
\C P^+ &\to D \colon z \mto w = \frac {z-i}{z+i},
\\D &\to \C P^+ \colon w \mto z = -i \frac {w+1}{w-1}
\end{align*}
sont des isomorphismes analytiques mutuellement inverses. Soit la mesure $d \nu_{m}$ sur $ D$ définie
\[
d\nu_{m} = 4^{1-m} (1 - | w |^2)m \frac {du dv}{(1 - |w|^2)^2} = 4^{1-m} n(1 - r^2)^{m-2} r dr d\theta.
\]
où $w = u +iv = r e^{i \theta}$.

Nous utilisons également l'isomorphisme entre $\SLR$ et $\SU(1,1)$ mentionné au paragraphe \ref{groupes}
\[
u \in \SU(1,1) \mto c u c \inv \in \SLR \quad\text{où } c =
\bpm 1 &i \\ i & 1 \epm.
\]

\pagebreak[2]
\begin{proposition}\mbox{}
\begin{enumerate}
\item
L'espace $\C K_{m}$ des fonctions holomorphes sur $ D$ de carré intégrable pour $d\nu_{m}$ est un espace de Hilbert.
\item
L'application $T_{m}: \C H_{m} \to \C K_{m}$ définie par
\[
T_{m} f(w) = \left(\frac {-2i}{w-i}\right)^{m} f\Big(-i \frac {w+1}{w-1}\Big)
\]
est une isométrie.
\item
La représentation ${\C D'_{m}}^+$ de $\SU(1,1)$ dans $\C K_{m}$ définie par
\[
{\C D'_{m}}^+(g) = T_{m} D_{m}^+(c g c\inv) T_{m}\inv
\]
est donnée par la formule
\[
{\C D'_{m}}^+
\bspm \alpha &\beta \\ \bar \beta & \bar \alpha \espm F (w) = (- \beta w + \bar \alpha)^{-m} F\Big(\frac {\alpha w - \bar \beta}{- \beta w + \bar \alpha}\Big).
\]
\end{enumerate}

\end{proposition}
Le sous-groupe $c \inv K c \subset \SU(1,1)$ est $\{\bspm e^{i \theta} & 0 \\ 0 & e^{-i \theta} \espm\mid \theta \in \R/2\pi\Z \}$. Son action via $\C D'_m$ est donnée par
\[
{D'_{m}}^+
\bspm e^{i \theta} & 0 \\ 0 & e^{-i \theta} \espm F (w) = e^{im \theta} F(e^{2i \theta} w).
\]
Il en résulte immédiatement que les fonctions propres sont $w^N$, $N \in \N$ pour la valeur propre $e^{i(m + 2N) \theta}$. En particulier, le $K$-type minimal est $m$. On peut faire la même chose pour $D_m^-$. En conclusion

\begin{proposition}
Pour tout $w \geq 2$, $\C D_m^{\pm}$ est une représentation unitaire admissible. Le module de Harish-Chandra associé à $\C D_m^+$ (\resp $\C D_m^-$) est $X_{d}(m-1)$ (\resp $X_{d}(-m +1)$).
\end{proposition}

\begin{remarque}
La série discrète paraît de nature très différente de la série principale, et elle l'est en effet. Mais on peut néanmoins obser\-ver une analogie entre les deux constructions. La série principale s'obtient en considérant des fonctions $\phi$ sur~$G$ qui ont une propriété de covariance à droite par des éléments de $H$ ($\phi(gh) = \chi(h \inv) \phi(g))$ et qui sont invariante à droite par $N$. L'espace de la série discrète est formé de fonctions sur $\C P^+$, donc sur $G/K$, qui ont la propriété supplémentaire d'être holomorphes. La série principale est donc associée au groupe de Cartan \og déployé\fg $H$ (qui a ses valeurs propres réelles) par une construction géométrique, alors que la série discrète est associée au groupe de Cartan compact $K$ par une construction géométrique. Cette analogie est bien plus qu'une analogie, mais nous n'irons pas plus loin ici.
\end{remarque}

Nous verrons plus bas que les représentations de la série discrète apparaissent dans la formule de Plancherel comme termes d'une série (alors que celles de la série principale apparaissent dans une intégrale). Une autre propriété des représentations de la série discrète est qu'elles sont de \og carré intégrable\fg: une représentation de la série discrète apparaît comme une \emph{sous-représentation} de la représentation régulière gauche.

\begin{remarque}
Les termes \og série discrète\fg et \og série principale\fg désignent aussi dans la littérature, par un abus malheureux imposé par l'histoire, \emph{une représentation} de la série correspondante.
\end{remarque}

\Subsection{Bilan}

\begin{enumerate}
\item
Nous pouvons maintenant revenir sur la décomposition de la série principale de représentations de~$G$. Les notations sont les mêmes qu'avant.

\begin{enumerate}
\item
Si $\lambda$ n'est pas un entier de parité $\mu +1$, $T_{\epsilon, \lambda}$ est irréductible. C'est le cas en particulier si $\lambda \in i\R$.
\item
Si $\lambda \in \N^*$, $\lambda \equiv \mu+1 (2)$, $T_{\epsilon, \lambda}$ admet un sous module isomorphe à $X_{d}(\lambda) \oplus X_{d}(-\lambda)$. Le quotient $T_{\epsilon \otimes\lambda}/X_{d}(\lambda) \oplus X_{d}(-\lambda)$ est la représentation de dimension finie de plus haut poids $\lambda-1$.
\item
Si $\lambda \in \Z^{*-}$, $\lambda \equiv \mu +1 (2)$, $T_{\epsilon, \lambda}$ admet un sous-module isomorphe à la représentation de dimension finie de plus haut poids $-\lambda-1$. Le quotient est équivalent à $X_{d}(\lambda) \oplus X_{d}(-\lambda)$.
\item
Si $\lambda =0$, $\epsilon = -1$, $T_{\epsilon \otimes0} \sim \overline X_{c}(0)(\mu) \oplus X_{c}(0)(-\mu)$.
\end{enumerate}

\item
Nous avons établi le théorème \ref{thatsallfolks}: la classification des représentations unitaires irréductibles est assez complexe:
\begin{itemize}
\item
série principale unitaire $T_{\epsilon, i \nu}$, $\epsilon = (-1)^\mu = \pm 1$, $\nu \in \R$;
série discrète (holomorphe et anti-holomorphe) $\C D_{n + \sgn n}$, $n \in \Z$, $m \neq 0$ (où on convient que $\C D_{m} = \C D_{m}^{\pm}$ suivant le signe de $m$).
\end{itemize}

Et plus mystérieusement
\begin{itemize}
\item
série complémentaire:
\item
limites de représentations de la série discrète.
\end{itemize}

\end{enumerate}

\subsection{\texorpdfstring{$\GLR$}{GLR}}\label{glr}

On déduit de ce qui précède et de l'étude faite dans le paragraphe \ref{glsl} la classification des $\gK$-modules admissibles pour $\GLR$. Sans entrer dans les détails, on obtient la liste suivante:
\begin{enumerate}
\item
Série discrète $\mathbf{T}_{(p,q)}$, paramétrée par $p, q \in \CC$, $p-q$ entier non nul. On a l'équivalence $\mathbf{T}_{(p,q)} \sim \mathbf{T}_{(q,p)}$;

\item
Les représentations $\mathbf{T}_{[\alpha_1, \lambda, \alpha_2, \lambda_2]}$ de la série principale, paramétrées par $\alpha_1, \alpha_2 \in \{0,1\}$ avec $\lambda_1, \lambda_2 \in \CC$, sont irréductibles sauf si $\lambda_1 - \lambda_2$ est entier de parité $\alpha_1 + \alpha_2 +1$. Dans le cas de réductibilité on a, comme pour $\SLR$, soit une sous-représentation de \hbox{dimension} finie et le quotient est une représentation de la série discrète, soit l'inverse.
\end{enumerate}

\section{Formule de Plancherel}

Les représentations de la série principale unitaire et celles de la série discrète sont suffisantes pour désintégrer la représentation régulière gauche de $\SLR$, comme l'a démontré Harish-Chandra en 1952 (\cite{har1}). La démonstration est accessible dans \cite{lang}.

Nous avons mentionné (voir paragraphe \ref{abstrait}) que toute représentation unitaire irréductible $\pi$ de~$G$ admet un \emph{caractère}: Si $\phi$ est $C^\infty$ à support compact,
\[
\pi(\phi) = \int_G \phi(g) \pi(g) dg
\]
est un opérateur à trace. On pose donc $\Theta_\pi (\phi) = \tr (\pi(\phi))$. Cette application $\Theta_\pi$, le \emph{caractère} de $\pi$, est une \emph{distribution} sur~$G$, Harish-Chandra a démontré qu'il existait une fonction notée $\theta_\pi$ loca\-le\-ment~$L^1$, et analytique sur l'ouvert dense des $g$ à valeurs propres distinctes, telle que
\[
\Theta_\pi (\phi) = \int_G \theta_\pi(g) \phi(g) dg.
\]
Ce résultat, vrai pour tout groupe semi-simple, est très profond. Il~est facile de voir que la fonction $\theta_\pi$ vérifie $\theta_\pi(x g x\inv) = \theta_\pi (g)$. Elle est donc entièrement déterminée par sa restriction à $H$ et $K$.

\begin{remarque}
Un calcul formel donnerait:
\[
\tr (\pi(\phi)) = \int_G \phi(g) \tr(\pi(g)) dg = \int_G \phi(g) \theta_\pi(g) dg
\]
et donc $\theta_\pi(g) = \tr(\pi(g))$. Ce calcul est évidemment totalement faux, car $\pi(g)$ étant unitaire ne peut pas avoir de trace bien définie. L'enchaînement: [la fonction $g\mto\tr(\pi(g))$ n'existe pas, donc la trace est une distribution; mais le théorème de Harish-Chandra montre que c'est en fait une fonction] est un peu étourdissant pour les esprits sensibles...
\end{remarque}

On note $\Theta_n$ le caractère de la série discrète $X_d(n)$, et $\Theta_{\epsilon, \nu}$ le caractère de la série principale unitaire $T_{\epsilon, i \nu}$, et $\theta_*$ les fonctions correspondantes. On a les formules suivantes:

\noindent\emph{Série discrète}.
\begin{align*}
\theta_n(k(\theta)) &= \frac{- \sgn (n) e^{ni \theta}}{e^{i\theta} - e^{-i \theta}}\\ \theta_n(\delta(a)) &= (\sgn a)^n \frac{e^{-|na|}}{e^t - e^{-t}}.
\end{align*}

\noindent\emph{Série principale}.
\begin{align*}
\theta_{\epsilon, \nu}(\delta(a)) &= \sgn(a)^\mu\frac {|a|^{i \nu} + |a|^{-i \nu}} {| a - a\inv|}\\ \theta_{\epsilon, \nu}(k(\theta)) &= 0.
\end{align*}

\subsubsection*{Formule de Plancherel} Soit $\phi \in C_c^\infty(G)$. Alors
\begin{align*}
\phi(e) = \frac 1{2\pi} \sum_{n \neq 0} |n| \Theta_n(\phi) &+ \frac 1{4 \pi} \int_0^{+\infty} \Theta_{1, \nu}(\phi) \nu \tanh \frac{\pi \nu}2 d \nu\\ &\qquad + \frac 1{4 \pi} \int_0^{+\infty} \Theta_{-1, \nu}(\phi) \nu \coth \frac{\pi \nu}2 d \nu.
\end{align*}

\section{Formes automorphes}

\subsection{Généralités} Il ne saurait être question de faire un exposé sur les formes automorphes dans ce bref paragraphe. Nous nous contentons de mettre en évidence le lien entre formes automorphes et représentations de $\SLR$. Pour une bonne introduction au sujet du point de vue \og groupiste\fg, on pourra se référer au 4\ieme volume du traité \emph{Analyse} de R.\,Godement (\cite{god3}).

On rappelle que le groupe $G = \SLR$ agit sur le demi-plan de Poincaré. On note simplement $gz$ cette action. On pose $J(g,z) = cz+d$. Soit $\Gamma$ un sous-groupe discret de~$G$. On appelle \emph{forme automorphe} de poids $r$ toute fonction (pas nécessairement holomorphe ou méromorphe) $f$ sur le demi-plan de Poincaré vérifiant la relation
\[
f(\gamma z) = J(\gamma, z)^r f(z) \text{ pour tout } \gamma \in \Gamma, z \in \C P^+.
\]

Dans le cas où $\Gamma$ est le groupe modulaire de toutes les matrices à coefficients entiers de déterminant $1$, on parle de forme \emph{modulaire}. Dans ce cas, les exemples les plus connus sont
\[
G_{2n} (z) = \sum (cz + d)^{-2n}.
\]

Une fonction sur $\C P^+$ s'identifie à une fonction sur~$G$ \emph{invariante à droite} par $K$. On peut donc en quelque sorte identifier les formes automorphes en fonctions sur~$G$ invariantes à droite par $K$ et vérifiant une relation de covariance à gauche par $\Gamma$. On réalise cette idée avec une petite modification. Associons à une fonction $f(z)$ sur $\C P^+$ et à $x \in G$ la fonction sur $\C P^+$
\[
L_r(x)f(z) = J(x\inv, z)^{-r} f(x \inv z).
\]
(Par abus, on note $L_r(x)f (z)$ au lieu de $[L_r(x)(f)](z)$.) En utilisant la relation $J(g' g, z) = J(g', gz) J(g, z)$ qui implique $J(g \inv, gz) = J(g, z) \inv$, on vérifie que
\[
L_r(x) L_r(y) f(z) = L_r(xy) f(z).
\]
On a donc une représentation de~$G$ dans les fonctions sur $\C P^+$, et une fonction est automorphe de poids $r$ si et seulement si $L_r(\gamma) f = f$ pour tout $\gamma \in \Gamma$. On définit maintenant
\[
F_r(g) = L_r(g \inv) f(i) = J(g, i)^{-r} f(gi).
\]
On obtient donc une fonction $F_r$ sur~$G$ qui vérifie deux propriétés:

\begin{enumerate}
\item
Sans aucune condition sur $f$, on a $F_r(gk) = J(gk, i)^{-r} f(gki) = J(g, i)^{-r} J(k, i)^{-r} f(g) = (- i\sin \theta + \cos \theta)^{-r} F_r(g) = e^{ir \theta} F_r(g)$.
\item
Si $f$ est automorphe de poids $r$, alors $F_r(\gamma g) = F_r(g)$ pour tout $\gamma \in \Gamma $.
\end{enumerate}

On est donc amené à considérer l'espace de toutes les fonctions sur~$G$ invariantes à gauche par $\Gamma$ (il faudra naturellement spécifier des conditions sur ces fonctions), et à faire agir le groupe~$G$ par la représentation régulière droite
\[
R(x)F(g) = F(gx).
\]
Les formes automorphes de poids $r$ correspondent donc aux $K$-types de cette représentation. En particulier, on notera $\C H_r (G)$ les fonctions sur~$G$ provenant de fonctions holomorphes sur $\C P^+$ et vérifiant $F_r(gk) = e^{ir \theta} F_r(g)$.

\subsection{Formes paraboliques}

Prenons le cas des formes modulaires. Une forme modulaire vérifie $f(z+1) = f(z)$. Comme fonction de $x$, elle est développable en série de Fourier. Si de plus $f$ est méromorphe, le développement s'écrit
\[
f(z) = \sum_{n \in \Z} a_n e^{2i\pi n z}.
\]
Pour lui donner un sens, il faut naturellement avoir des conditions de régularité dans lesquelles nous n'entrons presque pas: on impose au développement ci-dessus de ne comporte qu'un nombre \emph{fini} de termes non nuls d'indice $n$ négatifs, ce qui est une condition sur la singularité à l'infini: la fonction possède un pôle d'ordre $-k$ à l'infini, si $a_k \neq 0$ et $a_j = 0$ pour $j <k$. S'il n'y a aucun terme d'indice négatif, $f(\infty) = a_0$. On dit que $f$ est \emph{parabolique} si $f(\infty) = a_0 = 0$.

Soit
\[
E_r(z) = \frac 12 \sum (cz + d)^{-r},
\]
la somme étant étendue aux couples d'entiers relatifs premiers entre eux. On a donc la relation suivante avec les fonctions $G_r$ définies plus haut:
\[
G_r(z) = 2 \zeta(r) E_r(z).
\]

On a alors le théorème suivant (voir \cite[Th.\,19 p\ptbl  420]{god3})

\begin{theoreme}\mbox{}
\begin{enumeratea}
\item
Les formes modulaires de poids entier $r <0$ (\resp $r =0$) sont nulles (\resp constantes).

\item
Pour toute forme modulaire $f$ de poids $r \geq 4$, on a
\[
f(z) = f(\infty) E_r(z) + g(z),
\]
où $g$ est parabolique.

\item
Pour $r \geq 2$, une forme modulaire $f$ holomorphe est parabolique si et seulement si $f_r \in L^2(\Gamma\backslash G)$.
\end{enumeratea}
\end{theoreme}

On voit donc le rôle important joué par les formes paraboliques, et la caractérisation des formes paraboliques par l'appartenance à $L^2$.

Dans le cas d'un groupe discret quelconque, la situation est bien plus compliquée, car il faut prendre en compte des développements au voisinage de plusieurs points \og paraboliques\fg, pas seulement $\infty$. On peut quand même définir une notion de forme parabolique, et on aura pour ces formes paraboliques la même caractérisation: une forme automorphe $f$ de poids $r \geq 1$ est parabolique si et seulement si $f \in L^2(\Gamma\backslash G) \cap \C H_r(G)$.

Le résultat suivant fait le lien entre formes automorphes paraboliques et représentations de la série discrète.

\begin{theoreme} Soit $\phi$ une forme parabolique. Considérons le sous-espace fermé invariant par $R$ engendré par $\phi$, noté $\C H(\phi)$, et $\C D_r$ le sous espace invariant fermé engendré par la somme des $\C H(\phi)$ pour $\phi$ variant dans $\C H_r(G)$.
\begin{enumerate}
\item
La restriction de la représentation $R$ de~$G$ à $\C H(\phi)$ est irréductible
\item
pour $r>1$, cette restriction est équivalente à la série discrète $\C D_{r+1}$
\end{enumerate}
\end{theoreme}

On voit donc que la compréhension fine des représentations de la série discrète joue un rôle important dans l'analyse des formes automorphes, et que, de manière essentielle, l'étude des formes automorphes est un problème de théorie des représentations.

\section{Le triangle de Langlands}

À partir du milieu des années 1960, Robert Langlands a élaboré un vaste programme liant théorie des représentations et formes automorphes. Ce programme ne peut pas se comprendre dans le cadre purement réel, mais il a un aspect purement réel.

Il s'agit dans ce cas, de relier trois types d'objets \emph{a priori} complètement distincts:
\begin{itemize}
\item
les représentations irréductibles (au sens $\gK$-modules admissibles irréductibles) des groupes réductifs réels (exemple $\GL(n,\R)$)

\item
les fonctions $L$ d'Artin généralisant les séries $L$ de Dirichlet

\item
les représentations du groupe de Galois de $\R$ (ou d'un groupe qui en est très voisin, le \emph{groupe de Weil}).
\end{itemize}

Nous allons décrire ce triangle dans le cas de $\GLR$.

\subsubsection*{Représentations de $\GLR$} Comme on l'a vu dans le paragraphe \ref{glr}, les $\gK$-modules irréductibles sont répartis en deux familles:

\begin{enumerate}
\item
Série discrète $ \mathbf{T}_{(p,q)}$, correspondant aux paramètres $(p,q)$, \hbox{$p-q$} entier non nul, à permutation près de $(p,q)$.
\item
Série principale $\mathbf{T}_{[\alpha_1, \lambda_1, \alpha_2, \lambda_2]}$ paramétrée par $\alpha \in \{0,1\}$, $\lambda_1, \lambda_2 \in\nobreak \CC$; chaque représentation $\mathbf{T}_{[\alpha_1, \lambda_1, \alpha_2, \lambda_2]}$ est irréductible sauf si $\lambda_1 - \lambda_2$ est entier de parité $\alpha_1 + \alpha_2 +1$. Dans le cas de réductibilité, on convient d'associer aux paramètres la représentation de dimension finie qui apparaît comme sous-module ou comme quotient.
\par\nopagebreak
On appelle paramètres de Langlands ces paramètres.
\end{enumerate}

\subsubsection*{Représentations du groupe de Weil}

Le groupe de Weil $W_\R$ est le produit $\CC^* \times \{\pm1\}$ muni de la loi
\[
(z, \epsilon) (z', \epsilon ') = (z\epsilon(z')\alpha(\epsilon, \epsilon'), \epsilon\epsilon'),
\]
où $\epsilon(z) = z$ si $\epsilon =1$ et $\epsilon(z) = \overline z$ si $\epsilon = -1$, et $\alpha(\epsilon, \epsilon') = 1$ si $\epsilon = 1$ ou $\epsilon'=1$, $\alpha(-1,-1) = -1$. C'est un exercice de déterminer les représentations irréductibles de dimension finie de $W_\R$:

-- les caractères $\chi_{\lambda, \alpha}$ pour $\lambda \in \CC$ et $\alpha \in \{0, 1\}$
\[
\chi_{\lambda, \alpha}(z, \epsilon) = \epsilon^\alpha |z|^{\lambda}
\]

-- les représentations de dimension $2$, $\theta_{(p,q)}$, pour $p, q \in \CC$, $p-q$ entier non nul
\begin{align*}\theta_{(p,q)} (z,1) &=
\bpm z^p \overline z^q & 0 \\ 0 & \overline z^p z^q \epm\\ \theta_{(p,q)} (1, -1) &=
\bpm 0 & (-1)^{p-q} \\ 1 & 0 \epm
\end{align*}

Les représentations du groupe de Weil qui nous intéressent sont de dimension 2. Ce sont donc les $\theta_{(p,q)}$ et les sommes de deux caractères $\chi_{\lambda_1, \alpha_1} \oplus \chi_{\lambda_2, \alpha_2}$, à permutation près.

\subsubsection*{Fonctions $L$ d'Artin} Il s'agit ici uniquement du \og facteur à l'infini\fg. Par définition, le facteur $L$ est une fonction méromorphe sur $\CC$, asso\-cié aux représentations du groupe de Weil, avec la convention que le facteur associé à une somme de représentations est le produit des facteurs associés à chaque terme:
\begin{align*}
L(\theta_{(p,q)}, s) &= 2 (2\pi)^{- \max(p,q) +s} \Gamma(\max(p,q) +s)\\ L(\chi_{\lambda, \alpha}, s) &= \pi^{- \frac 12(\lambda + \alpha +s)} \Gamma(\tfrac 12(\lambda + \alpha +s))
\end{align*}

\subsubsection*{Le triangle} On voit que les représentations du groupe de Weil et les $\gK$-modules sont paramétrés exactement de la même façon. Ce~ qui justifierait cette coïncidence serait d'établir un lien direct entre représentations de~$G$ et fonctions $L$. C'est précisément ce que fait \cite{j-l} et dont nous indiquons le principe. L'idée est d'exprimer une fonction~$L$ qui est, à peu de choses près, une fonction $\Gamma$, comme une intégrale. Si $\pi$ est une représentation de~$G$ (unitaire pour simplifier, on n'est pas à cela près), ses coefficients matriciels sont les fonctions $c(g) = \lb \pi(g) a, b \rb$, pour $a, b$ dans l'espace de la représentation. On peut alors calculer l'intégrale $\int_G c(g) |\det g |^s \Psi(g) dg$, où $\Psi$ est une fonction sur~$G$ de la forme $P(a, b, c, d) \exp(-\pi (a^2 + b^2 + c^2 + d^2))$, $P$ un polynôme. Le résultat dépend de $\Psi$ et du choix du coefficient $c$. Mais le miracle est le suivant: \emph{Si $\pi$ est associé à des paramètres de Langlands, la fonction $L$ correspondante divise l'intégrale, au sens où le quotient est une fonction entière, et, à normalisation près, cette fonction $L$ est le \og meilleur\fg choix possible.}

\backmatter
\bibliographystyle{jepalpha+eid}
\bibliography{xups09-02}
\end{document}
