\documentclass[XUPS,XML,SOM,Unicode,francais,NoFloatCountersInSection,ThmDefs]{cedram}
\OneNumberAllTheorems
\setcounter{tocdepth}{2}
\usepackage{../xups09}

\newcommand\hh{\wh{\wh H}}

\begin{document}
\frontmatter
\title{Représentations linéaires de\nobreakspace groupes\nobreakspace finis}
\author[\initial{G.} \lastname{Henniart}]{\firstname{Guy} \lastname{Henniart}}
\address{CNRS, Laboratoire de Mathématique d'Orsay, UMR 8628,
Bâtiment 425,
Faculté des Sciences d'Orsay,
Université Paris-Sud 11,
F-91405 Orsay Cedex}
\email{guy.henniart@math.u-psud.fr}

\thanks{Journées X-UPS 2009. Les représentations linéaires et le grand théorème de Fermat. Éditions de l'École polytechnique, 2009}

\maketitle
\vspace*{-\baselineskip}
\tableofcontents
\mainmatter

La théorie de la transformation de Fourier a une version très simple pour les groupes abéliens finis (section \ref{sec:1}). Les premières difficultés du cas non abélien se présentent déjà pour les groupes finis. Pour un groupe fini non nécessairement abélien, on considère ses représentations dans des espaces vectoriels complexes de dimension finie. L'étude de ces représentations est maintenant l'une des théories de base de l'algèbre. Nous en exposons les principaux résultats aux sections \ref{sec:2} à \ref{sec:5}; notre référence est \og Représentations linéaires des groupes finis\fg, de J.-P\ptbl Serre, collection Méthodes chez Hermann. On peut aussi consulter le début du cours à l'X de P\ptbl Colmez. Nous déterminons ensuite explicitement tous les caractères des représentations irréductibles de $\GL(2)$ sur un corps fini; nous suivons pour cela C.J\ptbl Bushnell et G\ptbl Henniart \og The local Langlands conjecture for $\GL(2)$\fg, Grundlehren der math. Wiss. 335, Springer-Verlag 2006, Chap\ptbl 2.

\section{Caractères des groupes abéliens finis}\label{sec:1}

On dispose d'une théorie de la transformation de Fourier pour chaque groupe abélien localement compact. Pour un tel groupe~$H$, on note $\wh H$ l'ensemble des \emph{caractères} de~$H$, c'est-à-dire des homomorphismes de groupes, continus, de~$H$ dans le groupe $\UU$ des nombres complexes de module 1. La multiplication dans $\UU$ fait de $\wh H$ un groupe abélien; si on le munit de la topologie de la convergence uniforme sur les parties compactes de~$H$, c'est un groupe abélien localement compact. Les cas classiques sont celui où $H=\ZZ$, auquel cas $\wh H$ s'identifie à $\UU$, celui où $H=\UU$, avec $\wh H$ s'identifiant à $\ZZ$, et celui où $H=\RR$, $\wh H$ s'identifiant alors à $\RR$ également, un accident heureux.

La transformation de Fourier associe alors à une fonction sur~$H$, ayant de bonnes propriétés, une fonction sur $\wh H$; en particulier, on obtient un isomorphisme de l'espace des fonctions de carré intégrable sur~$H$ sur l'espace des fonctions de carré intégrable sur $\wh H$. Dans tous les cas, le dual $\hh$ de $\wh H$ s'identifie canoniquement à~$H$: on le voit dans les exemples ci-dessus, et le cas des groupes abéliens finis est traité plus loin. Ainsi la transformation de Fourier, de~$H$ vers $\wh H$, a une application réciproque qui est encore une transformation de Fourier, de $\wh H$ vers $\hh$ identifié à~$H$.\enlargethispage{.5\baselineskip}

Le cas où~$H$ est un groupe abélien fini -- muni tacitement de la topologie discrète -- est particulièrement simple, les difficultés analytiques disparaissant.

Si~$H$ est un groupe cyclique de cardinal $n$, et si on choisit un générateur $s$ de~$H$, alors l'application $\chi\mto \chi(s)$ est un isomorphisme de $\wh H$ sur le groupe des racines $n$-ièmes de l'unité dans~$\CC$. Si~$H$ est le produit direct d'un nombre fini de sous-groupes $H_i$, $i\in I$, l'application de $\wh H$ dans le produit des groupes $\wh H_i$, qui à $\chi$ associe $(\chi_{| H_i})_{i\in I}$, est un isomorphisme de groupes.

Écrivant alors un groupe abélien fini~$H$ comme produit de groupes cycliques, on prouve aisément les faits suivants:
\begin{enumerate}
\item
$\wh H$ est un groupe abélien fini isomorphe à~$H$;

\item
pour tout élément~$h$ de~$H$ distinct de l'élément neutre $1_H$, il~existe un caractère $\chi$ de~$H$ tel que $\chi(h)$ soit différent de 1, et on a alors $\sum_{\chi\in\wh H}\chi(h)=0$; bien sûr, on a $\sum_{\chi\in\wh H}\chi(1_H)=|H|$.
\end{enumerate}

\begin{enonce*}[remark]{Exercice}
Vérifier les faits précédents ainsi que les assertions des remarques suivantes.
\end{enonce*}

\begin{enonce*}[remark]{Remarque 1}
Pour~$h$ dans~$H$, l'application $e_h:\wh H\to \UU$ qui à $\chi$ associe $\chi(h)$ est un homomorphisme de groupes; on obtient ainsi un homomorphisme de groupes $e_H: H \to \hh$, $h\mto e_h$, qui est injectif par (2) ci-dessus et surjectif par (1). C'est par cette application qu'on identifie $\hh$~à~$H$.
\end{enonce*}

La théorie de la transformation de Fourier dans ce cadre peut se résumer très simplement.
Notons $\CC^H$ l'espace vectoriel des applications de~$H$ dans~$\CC$, et munissons-le du produit scalaire $\<f,\varphi\>_H= \frac{1}{|H|} \sum_{h\in H} \overline{f(h)}\varphi(h)$. Alors les caractères de~$H$ forment une \emph{base orthonormale} de $\CC^H$: cela provient du fait (2) ci-dessus. Pour $f\in \CC^H$, si l'on pose $\wh{f}(\chi)=\<\chi,f\>$ pour $\chi\in \wh H$, on a $f=\sum_{\chi\in \wh H} \wh{f}(\chi)\chi$ et en particulier $f(1_H)=\sum_{\chi\in \wh H} \wh{f}(\chi)$. L'application $f\mto \wh{f}$ est un isomorphisme d'espaces vectoriels de $\CC^H$ sur $\CC^{\wh H}$.

\begin{enonce*}[remark]{Remarque 2}
Comme $\wh H$ est encore un groupe abélien fini, on peut appliquer la transformation de Fourier aux applications de $\wh H$ dans~$\CC$. Cela donne un isomorphisme $\varphi\mto \wh{\varphi}$ de $\CC^{\wh H}$ sur $\CC^H$, par l'identification de $\hh$ à~$H$. Pour $f$ dans $\CC^H$, on trouve $\wh{\wh{f}}(h)=\frac{1}{|H|} f(h^{-1})$ pour~$h$~dans~$H$.

Pour $H=\ZZ/n\ZZ$, on obtient la transformée de Fourier discrète très largement utilisée en algorithmique.
\end{enonce*}

\begin{enonce*}[remark]{Remarque 3}
Le groupe~$H$ agit sur $\CC^H$ par translation: $g\cdot f(h)=f(hg)$ pour $h,g$ dans~$H$ et $f$ dans $\CC^H$. On a $\wh{g\cdot f}=e_g\,\wh{f}$.
\end{enonce*}

\section{Représentations linéaires des groupes finis}\label{sec:2}

Si~$H$ est un groupe topologique localement compact non nécessairement abélien, le rôle des caractères de~$H$ est joué par les représentations unitaires irréductibles de~$H$ dans des espaces de \hbox{Hilbert} complexes. Les classes d'isomorphisme de telles représentations forment un espace topologique $\wh H$, appelé dual unitaire de~$H$, qui n'est pas un groupe en général. La transformation de Fourier associe à certaines fonctions sur~$H$ des fonctions, éventuellement à valeurs vectorielles, sur $\wh H$. Ici encore, les difficultés d'ordre analytique s'évanouissent quand~$H$ est un groupe fini, ce que nous supposons désormais.

Par \emph{représentation} de~$H$, nous entendons ici représentation linéaire de~$H$ dans un espace vectoriel complexe de dimension finie: il s'agit donc de couples $(\rho,V)$, où $V$ est un tel espace vectoriel et~$\rho$ un homo\-morphisme de groupes de~$H$ dans le groupe $\Aut_{\CC}(V)$ des automorphismes de l'espace vectoriel $V$; par abus, on désigne souvent la représentation par~$\rho$, voire simplement par $V$. La \emph{dimension}, ou degré, de $(\rho,V)$ est la dimension de~$V$.

Un caractère de~$H$ donne une représentation de~$H$ dans~$\CC$: le~carac\-tère constant de valeur $1$ (dit caractère trivial) donne ainsi une \emph{repré\-sentation} dite \emph{triviale}.

\begin{enonce*}[remark]{Exemple 1} Soit $n$ un entier strictement positif. Le groupe symétrique~$S_n$ agit sur $\CC^n$ par permutation de la base canonique: l'élément $\sigma$ de~$S_n$ envoie $e_i$ sur $e_{\sigma(i)}$. On obtient ainsi la \emph{représentation de permutation naturelle} de $S_n$.
\end{enonce*}

\begin{enonce*}[remark]{Exemple 2} Considérons l'espace euclidien $\RR^2$ et sa base canonique $(e_1,e_2)$. Le groupe $D_4$ des isométries du carré $\{e_1, -e_1, e_2, -e_2\}$ agit sur $\RR^2$. Prolongeant ces isométries par~$\CC$-linéarité, on obtient une représentation de dimension~$2$ de $D_4$.
\end{enonce*}

\begin{enonce*}[remark]{Exemple 3} Plus généralement, soit $D_n$ le groupe des isométries d'un polygone régulier à $n$ côtés. Ce groupe d'ordre $2n$ est engendré par deux éléments, une rotation $r$ d'angle $\sfrac{2\pi}{n}$ et une symétrie $s$, assujetties aux relations $r^n=1$, $s^2=1$ et $ srs=r^{-1}$.

On pose $X=\bspm e^{\sfrac{2i\pi}{n}}& 0\\0 & e^{\sfrac{-2i\pi}{n}}\espm$ et $Y=\bspm0& 1\\1 & 0\espm$.

L'application $\rho_h$ donnée par $\rho_h(r)=X^h$ et $\rho_h(s)=Y$ se prolonge en un homomorphisme de groupes de $D_n$ dans $\GL_2(\CC)$ et définit donc une représentation de $D_n$ dans $\CC^2$.
\end{enonce*}

Si $(\rho',V')$ est une autre représentation de~$H$, un \emph{morphisme} de~$\rho$ dans $\rho'$ est une application linéaire $\varphi$ de $V$ dans $V'$ telle que $\varphi\circ \rho(h)$ et $\rho'(h)\circ \varphi$ soient égaux pour tout~$h$ dans~$H$. Si $\varphi$ est bijective, c'est un isomorphisme de~$\rho$ sur $\rho'$, encore appelé équivalence de~$\rho$ et~$\rho'$. On note $\Hom_H(\rho,\rho')$ ou $\Hom_H(V,V')$ l'espace vectoriel complexe des morphismes de~$\rho$ dans $\rho'$.

\begin{enonce*}[remark]{Remarque 1}
Soit $\CC[H]$ l'algèbre du groupe~$H$, dont nous notons les éléments $\sum_{h\in H} a_h h$. Si $(\rho,V)$ est une représentation de~$H$, $V$ devient un module sur $\CC[H]$, pour la loi d'action $(\sum_{h\in H} a_h h)v = \sum_{h\in H} a_h \rho(h)v$, pour $\sum a_h h$ dans $\CC[H]$ et $v$ dans~$V$.

De cette façon la catégorie des représentations de~$H$ s'identifie à la catégorie des $\CC[H]$-modules qui sont de dimension finie sur~$\CC$. Une sous-représentation d'une représentation $(\rho,V)$ de~$H$ est la même chose qu'un sous-module du module $V$ sur $\CC[H]$, ce qui correspond à un sous-espace vectoriel stable de $V$, muni de l'action induite -- stable signifie ici stable pour tous les $\rho(h)$, $h\in H$. On définit de façon évidente la somme d'une famille de sous-représentations de~$V$.
\end{enonce*}

\begin{definition*}
Une représentation $(\rho,V)$ de~$H$ est \emph{irréductible} si $V$ est un module simple sur $\CC[H]$, autrement dit si $V$ n'est pas nul et que ses seuls sous-espaces vectoriels stables sont $\{0\}$ et $V$.
\end{definition*}

\begin{enonce*}[remark]{Exemple 1 (suite)}
Pour $n\geq 2$, la représentation de permutation naturelle du groupe symétrique $S_n$ n'est pas irréductible car la droite engendrée par $e_1+e_2+\ldots + e_n$ est stable. À titre d'exercice, on peut démontrer que le supplémentaire formé des vecteurs dont la somme des coordonnées est nulle porte une sous-représentation irréductible de $S_n$.
\end{enonce*}

\begin{enonce*}[remark]{Exemple 2 (suite)}
La représentation naturelle de $D_4$ dans $\CC^2$ est irré\-ductible.
\end{enonce*}

\begin{enonce*}[remark]{Exemple 3 (suite)}
Si $n$ est pair (respectivement impair) la représentation $\rho_h$ de $D_n$ est irréductible pour $h\neq 0$ et $\displaystyle h\neq \sfrac{n}{2}$ (respectivement $h\neq 0$) et les représentations $V_{n-h}, V_{n+h}$ et $V_h$ sont isomorphes. Ainsi, si $n$ est pair (respectivement impair), nous obtenons $\sfrac{n}{2}-1$ (respectivement $\psfrac{n-1}{2}$) représentations irréductibles de dimension~$2$, deux à deux non isomorphes.
\end{enonce*}

Soit $(\rho,V)$ une représentation de~$H$, et soit~$W$ un sous-espace stable de $V$. Si $p$ est un projecteur dans $V$ d'image~$W$, alors $q=\frac{1}{|H|} \sum_{h\in H} \rho(h) \circ p\circ \rho(h)^{-1}$ est un projecteur dans $V$ d'image~$W$; il~vérifie $\rho(h)\circ q = q\circ \rho(h)$ pour tout~$h$ dans~$H$, et son noyau est un supplémentaire stable de~$W$. Ainsi tout sous-espace stable de $V$ possède un supplémentaire stable. On en déduit que~$\rho$ est somme directe de sous-représentations irréductibles.\enlargethispage{\baselineskip}%

\begin{enonce*}[remark]{Remarque 2}
Par le même procédé de moyenne, on prouve que si $(\rho,V)$ est une représentation de~$H$, il existe sur $V$ un produit scalaire invariant pour l'action de~$H$; ce produit scalaire fait de $V$ un espace de Hilbert complexe de dimension finie, et de~$\rho$ une représentation unitaire de~$H$ dans cet espace.
\end{enonce*}

La propriété première des représentations irréductibles est le \og lemme de Schur\fg:

\begin{theoreme*}
Si $(\rho,V)$ est une représentation irréductible de~$H$, tout endomorphisme de $(\rho,V)$ est une homothétie.
\end{theoreme*}

Si $(\rho,V)$ est une représentation de~$H$, tout élément $z$ du centre $Z(H)$ de~$H$ agit dans $V$ par l'endomorphisme $\rho(z)$ de $(\rho,V)$; si~$\rho$ est irréductible, on en déduit qu'il existe un caractère $\omega_\rho$ de $Z(H)$, appelé le \emph{caractère central} de~$\rho$, tel qu'on ait $\rho(z)=\omega_\rho(z)1_V$ pour $z$ dans~$Z(H)$. Si~$H$ est abélien, on voit donc que toute représentation irréductible de~$H$ est de dimension~$1$, et que les classes d'isomorphisme de représentations irréductibles de~$H$ correspondent exactement aux caractères de~$H$.

\begin{enonce*}[remark]{Remarque 3}
Si $(\rho,V)$ est une représentation irréductible de~$H$, il~décou\-le du lemme de Schur que deux produits scalaires sur $V$ invariants par~$H$ sont proportionnels. Ainsi l'ensemble des classes d'isomorphisme de représentations irréductibles de~$H$ n'est autre que le dual unitaire de~$H$ mentionné en introduction à ce paragraphe.
\end{enonce*}

\begin{enonce*}[remark]{Remarque 4}
Si $(\rho,V)$ est une représentation de~$H$ qui n'est ni nulle ni irréductible, elle est somme directe de deux sous-représentations non nulles $V_1$ et $V_2$, et l'endomorphisme de~$\rho$ qui coïncide avec l'identité sur $V_1$ et est nul sur $V_2$ n'est pas une homothétie !
\end{enonce*}

\section{Caractères des représentations de groupes finis}\label{sec:3}

Si $(\rho,V)$ est une représentation de~$H$, son \emph{caractère} $\chi_\rho$ est la fonction $h\mto \tr\rho(h)$ de~$H$ dans~$\CC$ -- la terminologie est traditionnelle, même si elle peut prêter à confusion si~$H$ est abélien. Deux représentations de~$H$ qui sont isomorphes ont le même caractère. Si~$\rho$ est somme directe de deux sous-représentations $\rho_1$ et $\rho_2$, on a $\chi_\rho=\chi_{\rho_1}+\chi_{\rho_2}$. Il est clair également que la fonction $\chi_\rho$ est constante sur les classes de conjugaison de~$H$; comme pour~$h$ dans~$H$, $\rho(h)$ est d'ordre fini, on obtient aussi $\chi_\rho(h^{-1}) = \overline{\chi_\rho(h)}$. Notons $\cF C(H)$ le sous-espace de $\CC^H$ formé des fonctions constantes sur les classes de conjugaison, dites \og fonctions de classes\fg. Munissons $\CC^H$ du produit scalaire $\<f,\varphi\>_H = \frac{1}{|H|} \sum_{h\in H} \overline{f(h)} \varphi(h)$. Fixons un ensemble $\cR$ de représentations irréductibles de~$H$, un par classe d'isomorphisme.

À l'aide du lemme de Schur, on prouve le résultat fondamental suivant.

\begin{theoreme*}
La famille $(\chi_\rho)_{\rho\in \cR}$ est une base orthonormale du sous-espace $\cF C(H)$ de $\CC^H$.
\end{theoreme*}

En particulier, le nombre de classes d'isomorphisme de représentations irréductibles de~$H$ est le nombre de classes de conjugaison dans~$H$. Les fonctions $\chi_\rho$, pour~$\rho$ irréductible, s'appellent les \emph{caractères irréductibles} de~$H$; notons que si $\omega_\rho$ est le caractère central de~$\rho$, on a $\chi_\rho(zh) = \omega_\rho(z)\chi_\rho(h)$ pour $z\in Z(H)$ et~$h\in H$.

Les valeurs des $(\chi_\rho)_{\rho\in \cR}$ sont présentées sous forme de tableau carré, appelé \emph{table des caractères}, dont la première colonne indique la liste des $\chi_\rho$ et la première ligne la liste des classes de conjugaison: chaque classe est représentée par un de ses éléments $g$, et on indique en indice le cardinal de la classe. On porte en ligne $\chi_\rho$, colonne $g$, le coefficient $\chi_\rho(g)$.

\begin{enonce*}[remark]{Exemple 1 (suite)}
Le groupe $S_3$ possède $3$ classes de conjugaison: $C_1=\{1\}$, $C_{(1, 2)}=\{(1,2),(2,3),(1,3)\}$, $C_{1,2,3}=\{(1,2,3),(1,3,2)\}$. Nous connaissons déjà ses représentations irréductibles: le caractère trivial, le caractère signature, et la sous-représentation de dimension~$2$ de la représentation naturelle. La table de caractères de $S_3$ s'écrit donc:

\centerline{\begin{tabular}{|c|c|c|c|}
\hline & $\Id$\begin{tabular}{r} \\ \small{1}\end{tabular}& $(1,2)\begin{tabular}{r} \\ \small{3}\end{tabular}$ &$ (1,2,3$)\begin{tabular}{r} \\ \small{2}\end{tabular}\\
\hline $\chi_1$&$ 1$ &$ 1$ &$ 1$ \\
\hline $\chi_{\text{sign}}$&$ 1 $&$ -1 $& $1$ \\
\hline$ \chi_{\rho}$& $2$ & $0 $&$- 1 $\\
\hline \end{tabular}}\vspace*{3pt}\enlargethispage{.5\baselineskip}%
\end{enonce*}

\begin{enonce*}[remark]{Exemple 2 (suite)}
On écrit
$$
D_4=\{\Id, r, r^2=-\Id, r^3=-r, s, sr, -s, -sr\},
$$
où $r$ est la rotation de centre $O$ et d'angle $\sfrac{\pi}{2}$ et $s$ la symétrie par rapport à une des diagonales et on a $srs=r^{-1}$. Les classes de conjugaison de $D_4$ sont:
\begin{align*}
C_{\Id}&=\{\Id\}& C_r&=\{r, -r=srs\}& C_s&=\{s,-s=rsr^{-1}\}\\
C_{-\Id}&=\{-\Id\}& C_{sr}&=\{sr, -sr\}.
\end{align*}

Ainsi, $D_4$ possède $5$ représentations irréductibles, à isomorphisme près: celle de dimension~$2$ vue précédemment et $4$ représentations de dimension~$1$ données par $\chi(r)=\pm 1$ et $\chi(s)=\pm 1$, ce qui donne la table de caractères suivante:

\vspace*{2mm}

\centerline{\begin{tabular}{|c|c|c|c|c|c|}
\hline & $C_{\Id}$\begin{tabular}{r} \\ \small{1}\end{tabular}&$ C_r\begin{tabular}{r} \\ \small{2}\end{tabular}$& $C_s$\begin{tabular}{r} \\ \small{2}\end{tabular}& $C_{-\Id}$\begin{tabular}{r} \\ \small{1}\end{tabular}&$ C_{sr}$\begin{tabular}{r} \\ \small{2}\end{tabular}\\
\hline$ \chi_1$ &$1 $&$1$ & $1$&$1$&$1$\\
\hline $\chi_2$ &$1$ &$1$ &$-1$ &$1$&$-1$\\
\hline $\chi_3 $& $1 $&$-1$ &$1 $&$1$&$-1$\\
\hline $\chi_4 $&$1$&$-1$ &$-1$ &$1$ &$ 1$\\
\hline$ \chi_5 $&$2$&$ 0 $&$0 $&$-2$ &$ 0$\\
\hline \end{tabular}}
\vspace*{1mm}
\end{enonce*}

\begin{enonce*}[remark]{Exemple 3 (suite)}
Les classes de conjugaison dans $H=D_n$ dépendent de la parité de $n$: si $n$ est pair, les symétries forment deux classes de conjugaison, et les rotations $\sfrac{n}{2}+1$; mais $D_n$ possède alors $4$ repré\-sentations de dimension~$1$, ce qui complète la liste des caractères irréductibles. Si $n$ est impair, les symétries forment une seule classe de conjugaison, les rotations $\psfrac{n+1}{2}$ et $D_n$ a deux représentations de dimension~$1$.
\end{enonce*}

Les conséquences du théorème précédent sont nombreuses et importantes.

\begin{enumerate}
\item
Deux représentations~$\rho$ et $\rho'$ de~$H$ sont isomorphes exactement quand leurs caractères sont égaux: cela justifie la terminologie de \og caractère\fg. De plus les morphismes de~$\rho$ dans $\rho'$ forment un espace vectoriel de dimension $\<\chi_\rho,\chi_{\rho'}\>_H$.

\item
Si une représentation $(\sigma,V)$ de~$H$ est somme directe de sous-représentations irréductibles $\rho_i$, alors le nombre de ces sous-représentations qui sont isomorphes à un élément donné~$\rho$ de $\cR$ est $\<\chi_\rho,\chi_\sigma\>_H$. En fait la somme de ces sous-représentations $\rho_i$ est un sous-espace canonique de $V$ appelé \emph{sous-espace isotypique de type}~$\rho$. On a $\chi_\sigma=\sum_{\rho\in \cR} \<\chi_\rho,\chi_\sigma\>_H \chi_\rho$, et $\<\chi_\sigma,\chi_\sigma\>_H = \sum _{\rho\in \cR}\<\chi_\rho,\chi_\sigma\>_H^2$. En~particulier, la condition $\<\chi_\sigma,\chi_\sigma\>_H=1$ est une condition nécessaire et suffisante pour que $\sigma$ soit irréductible. Plus généralement si une fonction $f$ de $\cF C(H)$ est combinaison linéaire à coefficients \emph{entiers} de caractères irréductibles de~$H$ alors $f$ est un caractère irréductible exactement quand les conditions suivantes sont valides:
\begin{enumeratei}
\item
$f(1)\ge 0$,

\item
$\<f,f\>_H=1$.
\end{enumeratei}
\end{enumerate}

\begin{enonce*}[remark]{Remarques}\mbox{}
\begin{enumerate}
\item
Quelques considérations simples de théorie des nombres don\-nent que la dimension de toute représentation irréductible de~$H$ divise~$|H|$ et même $|H/Z(H)|$.

\item
L'un des premiers grands succès de la théorie a été le théorème de Burnside selon lequel un groupe fini de cardinal $p^aq^b$, où $p$ et $q$ sont premiers, est résoluble.
\end{enumerate}
\end{enonce*}

L'espace $\CC^H$ est l'espace de plusieurs représentations naturelles:
\begin{itemize}
\item
la représentation régulière droite $\delta $ de~$H$, où $\delta (h)f: h'\mto f(h'h)$ pour $h\in H$;

\item
la représentation régulière gauche $\sigma$ de~$H$, où $\sigma(h)f: h'\!\mto\! f(h^{-1}h')$ pour $h\in H$;

\item
la représentation birégulière de $H\times H$, où $(h_1,h_2) f: h'\mto f(h_1^{-1}h'h_2)$ pour $(h_1,h_2)\in H\times H$.
\end{itemize}

Les deux premières ont le même caractère $\chi$, qui vaut $|H|$ en~$1_H$, et $0$ ailleurs; on a $\<\chi,\chi_\rho\> =\chi_\rho(1)=\dim \rho$ pour $\rho\in \cR$, d'où $\chi=\sum_{\rho\in \cR}\dim \rho \chi_\rho$, ce qui donne
\[
|H|=\sum_{\rho\in \cR}(\dim \rho)^2\quand \sum_{\rho\in \cR} \dim \rho \, \chi_\rho(h)=0\;\text{ pour }h\neq 1_H.
\]

\begin{enonce*}[remark]{Exercices}\mbox{}
\begin{enumerate}
\item
Calculer le caractère de la représentation birégulière.

\item
Déterminer la table de caractères de $S_4$ à l'aide des résultats précédents (on peut déterminer le caractère de la représentation irréductible de dimension~$2$ sans connaître explicitement cette représentation). On obtient le résultat suivant:

\label{tableau}
\begin{center}{\begin{tabular}{|c|c|c|c|c|c|} \hline & $e$ \begin{tabular}{r} \\ \small{1}\end{tabular}&$(1\; 2)\begin{tabular}{r} \\ \small{6}\end{tabular}$& $(1\;2)(3,4)$\begin{tabular}{r} \\ \small{3}\end{tabular}& (1,2,3)\begin{tabular}{r} \\ \small{8}\end{tabular}&(1,2,3,4)\begin{tabular}{r} \\ \small{6}\end{tabular}\\
\hline $\chi_1$&1&$ 1$& $1$& $1$& $1$\\
\hline$\chi_2$ & $3$&$ 1$& $-1\hphantom{-}$&$0$&$ -1\hphantom{-}$ \\
\hline $\chi_3 $&$ 2$&$0$&$ 2$& $-1\hphantom{-}$&$0$\\
\hline$\chi_4$ & $3$&$ -1\hphantom{-}$& $-1\hphantom{-}$&$0$&$ 1$ \\
\hline$\chi_5$ & $1$&$ -1\hphantom{-}$& $1$&$ 1$&$ -1\hphantom{-}$ \\
\hline\end{tabular}}\end{center}
\end{enumerate}
\end{enonce*}

\section{Transformation de Fourier}\label{sec:4}
%\enlargethispage{2\baselineskip}
Nous gardons les notations du \S \ref{sec:3}, et notons $X$ l'ensemble des caractères irréductibles de~$H$.

Si $f$ est une fonction sur~$H$, on note $\wh{f} $ la fonction de $X$ dans~$\CC$ donnée par $\wh{f}(\chi)=\<\chi,f\>_H$ pour $\chi\in X$.

On obtient ainsi \emph{toutes} les fonctions sur $X$, et pour $f$ dans $\cF C(H)$, on a la formule d'inversion de Fourier
$$
f=\sum_{\chi\in H} \<\chi,f\>_H\, \chi,
$$
donnant en particulier $f(1_H) = \sum_{\chi\in H} \<\chi,f\>_H\cdot \chi(1_H)$.

(Dans le cadre des représentations unitaires d'un groupe localement compact, cette dernière formule est une \og formule de Plancherel\fg).

Dans ce cas non abélien, on ne peut appliquer deux fois la transformation de Fourier, et les produits scalaires $\<\chi,f\>_H$ pour $f$ dans~$\CC^H$ ne permettent de reconstituer que la projection de $f$ sur $\cF C(H)$. \hbox{Notons} cependant que, comme dans le cas abélien, si l'on munit~$\CC^H$ de l'opération de convolution
\[
(f,\varphi)\mto f \ast \varphi: h \mapsto \sum_{g\in H} f(hg^{-1})\varphi(g)
\]
-- cette opération correspond à la loi d'algèbre de groupe de $\CC[H]$ via l'identification évidente de $\CC[H]$ à $\CC^H$~--, alors pour $\chi$ dans $X$ on a
$
\wh{f\ast \varphi}(\chi) = \wh{f}(\chi)\wh{\varphi}(\chi).
$ Pour le dire d'une autre façon, si l'on fait agir~$H$ sur $\CC^H$ par la représentation régulière droite, et sur $\CC^X$ par $h\cdot\varphi(\chi)=\chi(h)\varphi(\chi)$ pour $\varphi\in\CC^X$, $h\in H$, alors l'application $f \mto \wh{f}$ de $\CC^H$ dans $\CC^X$ est un morphisme.

Si l'on veut récupérer les fonctions sur~$H$ et non plus seulement les fonctions constantes sur les classes de conjugaison, il faut \hbox{accepter} d'utiliser les représentations~$\rho$ dans $\cR$ et non plus seulement leur caractère. Dans le cas d'un groupe localement compact, le théorème suivant, dû à Burnside, serait un \og théorème de Paley-Wiener matriciel\fg.

\begin{theoreme*}
L'application $\CC[H]\to \prod_{(\rho,V_\rho)\in \cR} \End_{\CC}(V_\rho)$ qui à $a=\sum_{h\in H}a_h h$ associe la famille $(\rho(a))_{\rho\in \cR}$ où $\rho(a)=\sum_{h\in H}a_h \rho(h)$, est un isomorphisme d'algèbres.
\end{theoreme*}

L'application réciproque est donnée par $(u_\rho)\mto \sum_{h\in H} u(h)h$ avec
\[
u(h)=\frac{1}{|H|}\sum_{\rho\in \cR}\dim\rho\cdot\tr(\rho(h^{-1})u_\rho).
\]

On peut décrire en ces termes les sous-espaces isotypiques introduits au paragraphe \ref{sec:4}. À un caractère irréductible $\chi$ de~$H$, on associe l'élément
\[
e_\chi=\sum_{h\in H} \frac{\chi(1_H)}{|H|} \chi(h^{-1})h
\]
de $\CC[H]$; c'est un idempotent indécomposable dans le centre de $\CC[H]$, et on a $\sum_{\chi\in X}e_\chi=1$, et $e_\chi e_{\chi'}= 0$ si $\chi$ et $\chi'$ sont deux caractères irréductibles distincts. Si $(\sigma,V)$ est une représentation de~$H$, son sous-espace isotypique de type $\rho\in \cR$ est $e_{\chi_\rho}V$.

\section{Dualité}\label{sec:5}

Si $(\sigma,V)$ est une représentation de~$H$, on dispose de la représentation contragrédiente $\sigma^\vee$ de $\sigma$; c'est la représentation de~$H$ sur le dual~$V^*$ de $V$ donnée par la formule $\sigma^\vee(h)={}^t \sigma(h^{-1})$ pour $h\in H$. L'identification de $V$ à son bidual donne un isomorphisme canonique de $\sigma$ sur $(\sigma^\vee)^\vee$. On a $\chi_{\sigma^\vee}(h) = \chi_\sigma(h^{-1})= \overline{\chi_\sigma(h)}$ pour $h\in H$. Il~s'ensuit que $\sigma^\vee$ est irréductible si et seulement si $\sigma$ l'est. On dispose ainsi de la représentation $\sigma\otimes \sigma^\vee$ de $H\times H$ sur le produit tensoriel $V\otimes V^*$; son caractère est donné par $(h,h') \mto \chi_\sigma(h) \chi_{\sigma^\vee}(h')$, elle est irréductible.

On peut alors analyser la représentation birégulière de $H\times H$ sur~$\CC^H$. Soit~$\rho$ dans $\cR$ est $\chi=\chi_\rho$. Alors $e_\chi\ast \CC^H$ est à la fois:

\begin{itemize}
\item
le sous-espace isotypique de type~$\rho$ pour la représentation régulière gauche de~$H$;

\item
le sous-espace isotypique de type $\rho^\vee$ pour la représentation régulière droite de~$H$;

\item
le sous-espace isotypique de type $\rho\otimes\rho^\vee$ pour la représentation régulière.
\end{itemize}

En fait, ce dernier sous-espace isotypique est irréductible: il est isomorphe à $\rho\otimes \rho^\vee$ comme représentation de $H\times H$. Via l'identification de $\CC[H]$ et $\CC^H$, ce n'est qu'une autre façon de voir le théorème de Burnside. Ainsi, comme représentation de $H\times H$, $\CC^H$ est isomorphe à $\bigoplus_{\rho\in \cR} \rho\otimes \rho^\vee$. Cet énoncé a une généralisation au cas de groupes compacts sous le nom de \og théorème de Peter-Weyl\fg.

\section{Construction de représentations irréductibles: restriction et induction}\label{sec:6}

Pour un groupe fini donné~$H$ il est fort intéressant de construire toutes ses représentations irréductibles (à isomorphisme près) ou à tout le moins de déterminer tous ses caractères irréductibles. Noter que pour se donner un caractère irréductible, il suffit de connaître ses valeurs sur les classes de conjugaison et qu'il se peut que~$H$ ait beaucoup moins de classes de conjugaison que d'éléments !

En tout cas, on sait qu'il y a autant de caractères irréductibles que de classes de conjugaison; on essaie donc de construire de plus en plus de caractères irréductibles, en s'arrêtant dès qu'on atteint le bon nombre. Au départ, cependant, on ne connaît guère que les caractères irréductibles de degré 1, les homomorphismes de~$H$ dans $\UU$.

Mais on peut essayer une méthode inductive: si~$H$ a un sous-groupe sympathique~$J$ dont on connaisse les caractères irréductibles, on peut en tirer des caractères irréductibles de~$H$, ou des informations sur ces caractères. C'est le principe de la méthode d'induction-restriction.

On considère un groupe fini~$H$ et un sous-groupe~$J$ de~$H$. Si $(\sigma,V)$ est une représentation de~$H$ alors $(\sigma_{|J},V)$ est une représentation de~$J$ appelée restriction de $\sigma$ à~$J$, et parfois notée $\Res_J^H \sigma$. En sens inverse, si $(\rho,W)$ est une représentation de~$J$, on forme l'espace $\Ind_J^HW$ des fonctions $f$ de~$H$ dans~$W$ vérifiant $f(jh)=\rho(j)(f(h))$ pour $j$ dans~$J$ et~$h$ dans~$H$. Sur cet espace de fonctions,~$H$ agit par translations à droite: $hf(h')=f(h'h)$ pour~$h$, $h'$ dans~$H$. On obtient ainsi une représentation de~$H$ dite \emph{induite} de~$\rho$ et notée~$\Ind_J^H\rho$.

On a un isomorphisme canonique dit de \og réciprocité de Frobenius\fg
$$
\Hom_J (\sigma_{|J},\rho) \simeq \Hom_H (\sigma,\ind_J^H\rho)\,;
$$
si $\Phi$ est un morphisme de $\sigma$ dans $\Ind_J^H\rho$, le morphisme correspondant de $\sigma_{|J}$ dans~$\rho$ associe à un vecteur $v$ de $V$ le vecteur $\Phi(v)(1_H)$ de~$W$. (À titre d'exercice, vérifier qu'on a bien ainsi un isomorphisme, et~décrire l'isomorphisme réciproque).

\begin{enonce*}[remark]{Remarques}\mbox{}
\begin{enumerate}
\item
Voyant~$W$ comme un module sur $\CC[J]$, le $\CC[H]$-module $\Ind_J^HW$ s'identifie à $\Hom_{\CC[J]}(\CC[H],W)$, où $\CC[J]$ agit sur $\CC[H]$ par multiplications à gauche, et $\CC[H]$ sur lui-même par multiplications à droite: à~une fonction $f$ dans $\Ind_J^HW$, on associe l'application de $\CC[H]$ dans~$W$ donnée par $\sum_{h\in H} a_h h\mto \sum a_hf(h)$, qui est $\CC[J]$ linéaire.

\item
On donne habituellement une autre définition de l'induction: $\ind_J^H\rho$ est l'action de~$H$ sur le $\CC[H]$-module $\CC[H] \otimes _{\CC[J]}W$. Les propriétés du produit tensoriel mènent à une autre \og réciprocité de Frobenius\fg: $\Hom_J(\rho,\sigma_{|J})\simeq \Hom_H(\ind_J^H \rho,\sigma)$.

Dans notre cas où~$H$ est fini, un exercice permet de montrer que les deux induites sont canoniquement isomorphes, de sorte que les deux \og réciprocités de Frobenius\fg \ sont disponibles par $\Ind_J^H\rho$. Dans le cas des représentations de groupes $p$-adiques, ces deux notions sont distinctes; voir le texte de C\ptbl Blondel dans ce volume.

Si~$\rho$ est irréductible, $\Ind_J^H\rho$ ne l'est pas en général, mais souvent on peut analyser $\Ind_J^H\rho$ pour en tirer ses composants irréductibles (cf\ptbl \S \ref{sec:8}). La première chose à faire est de calculer $\End_J(\Ind_J^H\rho)$ ou du moins sa dimension. Plus généralement, soit $K$ un sous-groupe de~$H$ et $\tau$ une représentation de $K$. La réciprocité de Frobenius donne un isomorphisme de $\Hom_H(\Ind_J^H\rho,\Ind_K^H\tau)$ sur $\Hom_K((\Ind_J^H\rho)_{|K},\tau)$, et il s'agit d'identifier la restriction à $K$ de $\Ind_J^H\rho$. écrivant~$H$ comme union disjointe de doubles classes $JhK$, $(\Ind_J^H\rho)_{|K}$ apparaît comme la somme directe de sous-espaces $Z_h$, $Z_h$ étant formé par les fonctions à support dans $JhK$. L'application qui à $f\in Z_h$ associe la fonction $k\mto f(hk)$ sur $K$ donne un isomorphisme de $Z_h$ sur $\Ind_{K\cap h^{-1}Jh}^K(\rho^h)$ où, pour $k\in K\cap h^{-1}Jh$, on a posé $\rho^h(k)=\rho(hkh^{-1})$ (noter que $hkh^{-1}$ appartient à~$J$). Ainsi, $\Hom_H(\Ind_J^H\rho,\, \Ind_K^h\tau)$ est la somme directe des $\Hom_K(\Ind_{K\cap h^{-1}JH}^K \rho^h,\tau)$. Utilisant l'autre version de la réciprocité de Frobenius, c'est la somme directe des $\Hom_{K\cap h^{-1}Jh}(\rho^h,\tau_{|K\cap h^{-1}Jh})$.

Il est inutile d'aller plus loin dans le cas général; cette machinerie est appliquée dans l'exemple du~\S \ref{sec:8}.

\item
On calcule aisément le caractère de $\Ind_J^H\rho$: en $h\in H$ il vaut
\[
\frac{1}{|J|} \sum_{\substack{t\in H\\ tht^{-1}\in J}} \chi_\rho(tht^{-1}).
\]

\end{enumerate}
\end{enonce*}

\begin{enonce*}[remark]{Exemple 3 (suite et fin)}
On considère le sous-groupe $C_n$ de $D_n$ engendré par la rotation $r$. Il est donc cyclique et ses représentations irréductibles sont les $\chi_h (r)= e^{\sfrac{2i\pi h}{n}}$ pour $h\in\ZZ/n\ZZ$. Les représentations~$\rho_h$ décrites précédemment sont équivalentes aux $\Ind_{C_n}^{D_n}\chi_h$.
\end{enonce*}

\section{Classes de conjugaison dans \texorpdfstring{$\GL(2,k)$}{GL2}}\label{sec:7}

Il est plus que temps de considérer un groupe un peu compliqué pour déterminer ses caractères irréductibles.

On fixe un corps fini $k$; on note $q$ le cardinal de $k$ et~$G$ le groupe $\GL(2,k)$. Le cardinal de~$G$ est le nombre de bases du $k$-espace vectoriel~$k^2$, à savoir $(q^2-1)(q^2-q)$. La classe de similitude d'une matrice~$A$ de $M_n(k)$ est déterminée par les facteurs invariants de $A$; si $n=2$, il~n'y a que deux facteurs invariants à considérer, le polynôme minimal $\mu_A$ et le polynôme caractéristique $\chi_A$, qui vérifient $\mu_A|\chi_A|\mu_A^2$. On n'a donc que deux possibilités: $\mu_A =\chi_A$ ou $\mu_A^2=\chi_A$, ce dernier cas correspondant aux matrices scalaires. Dans~$G$, il y a $(q-1)$ matrices scalaires, chacune n'ayant d'autre conjuguée qu'elle-même.

Si $\mu_A=\chi_A$, l'espace vectoriel $k^2$ est cyclique pour l'endomorphisme $\varphi_A: X\mto A X$, de sorte que le commutant de $A$ dans $M_2(k)$ est l'algèbre $k[A]$ des polynômes en $A$, isomorphe à $k[X]/{(\chi_A})$. Si~$\chi_A=X^2+aX+b$, $A$ est semblable à la matrice compagnon
$\bspm
0 & -b \\
1&-a\espm$. On voit donc que si $g$ est un élément non scalaire de~$G$, et $P$ son polynôme caractéristique, son commutant dans~$G$ est isomorphe à $(k[X]/{P})^\times$; par suite la classe de conjugaison de $g$ a pour cardinal $|G|/|(k[X]/P)^\times|$. On a trois cas possibles:

\begin{enumeratei}
\item
$P$ est irréductible dans $k[X]$; en ce cas $k[X]/P$ est une exten\-sion quadratique de $k$; on a $|(k[X]/P)^\times|=q^2-1$ et $g$ a $q^2-q$ conjugués.

\item
$P$ est produit de deux facteurs linéaires distincts $X-\alpha$ et $X-\beta$ dans $k[X]$. Alors $k[X]/P$ est isomorphe à $k\times k$ et $g$ a $(q+1)q$ conjugués, dont la matrice diagonale
$\bspm\alpha&0 \\
0 & \beta\espm$.

\item
$P=(X-\alpha)^2$ pour un élément $\alpha$ de $k^\times$. Alors $k(X]/P$ est isomorphe à $k[T]/T^2$ et $g$ a $q^2-1$ conjugués, dont la matrice
$\bspm\alpha&1 \\
0 & \alpha\espm$.
\end{enumeratei}

Au total on a $q^2-q$ polynômes caractéristiques possibles, donc~$G$ a $q^2-1$ classes de conjugaison, et aussi $q^2-1$ caractères irréductibles.

\section{Les \og séries principales\fg}\label{sec:8}

On note $B$ le sous-groupe des matrices triangulaires supérieures dans~$G$, $U$ son sous-groupe distingué formé des matrices unipotentes. On note $T$ le sous-groupe diagonal de $B$; ainsi $B$ est le produit semi-direct de $U$ par $T$. On a $|U|=q$, $|T|=(q-1)^2$, $|B|=|T||U|=q(q-1)^2$, de sorte que $B$ est d'indice $q+1$ dans~$G$.

Remarquons que $T$ et $U$ sont commutatifs, leurs représentations irréductibles sont de dimension~$1$. Les caractères irréductibles de $T$ sont les homomorphismes de $T$ dans $\UU$, de la forme $\chi=\chi_1\otimes \chi_2:\bspm a&0 \\
0 & b\espm
\mto \chi_1(a)\chi_2(b)$, où $\chi_1$ et $\chi_2$ sont des homomorphismes de $k^\times$ dans~$\UU$.

On peut voir $\chi$ comme une représentation de $B$ triviale sur le sous-groupe distingué $U$, et former l'induite $\Ind_B^G(\chi)$. Pour décomposer cette induite, il faut écrire~$G$ comme réunion disjointe des doubles classes $B$ et $Bw B$ où $w=\bspm0&1 \\
1 &0 \espm$. On obtient que $(\Ind_B^G\chi)_{|B}$ est somme directe de $\chi$ et de $\Ind_T^B(\chi^w)$ où $\chi^w=\chi_2\otimes \chi_1$, (remarquer que $T=B\cap w B w^{-1})$. Si $\chi'$ est un autre homomorphisme de $T$ dans $\UU$, on a donc
\begin{align*}
\Hom_G(\Ind_B^G\chi,\ \ind_B^G \chi') & \simeq \Hom_B((\Ind_B^G \chi)_{|B},\chi') \\
& = \Hom_B (\chi,\chi') \oplus \Hom_B(\Ind_T^B \chi^w,\chi') \\
&\simeq \Hom_T(\chi,\chi') \oplus \Hom_T(\chi^w,\chi').
\end{align*}
Par suite $\End_G(\Ind_B^G\chi)$ est de dimension~$1$ si $\chi\neq\chi^w$, de dimension~$2$ si $\chi=\chi^w$. Ainsi $\Ind_B^G\chi$ est irréductible si $\chi\neq\chi^w$, somme de deux composants irréductibles non isomorphes si $\chi=\chi^w$. De plus $\Ind_B^G\chi$ et $\Ind_B^G\chi'$ ont un composant irréductible en commun si et seulement si $\chi'=\chi$ ou $\chi'=\chi^w$, auxquels cas $\Ind_B^G\chi$ et $\Ind_B^G\chi'$ sont isomorphes.

On a donc obtenu $\sfrac{(q-1)(q-2)}{2}$ caractères irréductibles de~$G$ grâce aux~$\chi$ vérifiant $\chi^w\!\neq\!\chi$, et $2(q\!-\!1)$ grâce aux $\chi$ tels que \hbox{$\chi^w\!=\!\chi$} soit~au total $\sfrac{(q-1)(q+2)}{2}$ caractères irréductibles. Il nous en man\-que $\sfrac{q(q-1)}{2}$.

\begin{enonce*}[remark]{Remarque}
Si $\chi$ est l'homomorphisme trivial $1_T$ de $T$ dans $\UU$, $\Ind_B^G 1_T$ contient un sous-espace de dimension~$1$ stable par~$G$, formé des fonctions constantes sur~$G$, ce qui donne une sous-représentation de dimen\-sion~$1$ de caractère $1_G: g\mto 1$. L'autre composant irréductible de $\Ind_B^G 1_T$, de dimension~$q$, s'appelle la représentation de Steinberg~$\St_G$ de~$G$. Si $\chi^w=\chi$, c'est-à-dire si $\chi_1=\chi_2$, alors les deux composants de $\Ind_B^G\chi$ sont isomorphes à $g\mto \chi_1\circ \det(g)$, de~dimension~$1$, et à $g\mto \chi_1\circ \det(g)\St_G(g)$, de dimension~$q$.
\end{enonce*}

\section{Les représentations irréductibles cuspidales}\label{sec:9}

Comme $(\Ind_B^G\chi)_{|B}$ contient $\chi$, certainement $\Ind_B^G\chi$ contient des vecteurs non nuls fixés par $U$. Inversement soit $(\sigma,V)$ une représentation de~$G$, et supposons que l'espace $V^U$ des vecteurs fixés par $U$ soit non nul. Comme $U$ est distingué dans $B$, cet espace est stable par $B$, et donne une représentation de $B$ triviale sur $U$, c'est-à-dire une représentation de $T$; comme représentation non nulle de $T$, elle contient une sous-représentation irréductible, forcément donnée par une homomorphisme $\chi$ de $T$ dans $\CC^\times$. On a $\Hom_B(\chi,V_{|B})\neq0$ et, par la deuxième version de la réciprocité de Frobenius, $\Hom_G(\Ind_B^G \chi,V)\neq\nobreak0$. Par suite si $V$ est irréductible, c'est l'une des représentations irréductibles construites au paragraphe précédent.

On s'intéresse donc aux représentations irréductibles $(\sigma,V)$ de~$G$ vérifiant $V^U=0$, qu'on appelle \emph{cuspidales}.

\begin{enonce*}[remark]{Remarque}
Dans le cadre des représentations de groupes $p$-adiques (voir le texte de C\ptbl Blondel dans ce volume), il est plus naturel de considérer l'espace $V_U$ des co-invariants de $U$ dans $V$, \ie le plus grand quotient de $V$ sur lequel $V$ agit trivialement, et d'utiliser la première version de la réciprocité de Frobenius. Dans notre cas l'appli\-cation quotient de $V$ sur $V_U$ donne un isomorphisme de $V^U$ sur~$V_U$.
\end{enonce*}

Nous allons maintenant construire explicitement les caractères irréductibles des représentations cuspidales. Rappelons qu'il en faut $\psfrac{q^2-q}{2}$.

Soit $k'/k$ une extension quadratique: elles sont toutes isomorphes. Plongeons $k'$ dans $M_2(k)$ comme $k$-algèbre; par exemple on peut écrire $k'=k[t]$ où $t$ a pour polynôme minimal $p=X^2+a X+b$ et envoyer $t$ sur la matrice compagnon de $P$; deux tels plongements sont conjugués par un élément de~$G$. Notons $T'$ le groupe $k'{}^\times$ vu comme sous-groupe de~$G$. Enfin, notons $Z$ le centre de~$G$, formé des matrices scalaires, et identifions-le à $k^\times$. Si $\omega$ est un homomorphisme de $k^\times$ dans $\UU$, et $\psi$ un homomorphisme \emph{non trivial} de $U$ dans $\UU$, on peut former la représentation
$$
\omega\psi: zu \mto \omega(z)\psi(u)
$$
du groupe $ZU$, et l'induire à~$G$, pour trouver une représentation $\Ind(\omega\psi)$ de~$G$, de dimension $|G|/|Z||U|=q^2-1$. On calcule aisément son caractère:
\begin{itemize}
\item
sur une matrice scalaire $\alpha1_2$ il vaut $\omega(\alpha)(q^2-1)$

\item
pour une matrice
$\bspm\alpha& 1 \\
0& \alpha\espm$, $\alpha$ dans $k^\times$, ses seuls conjugués appar\-tenant à $ZU$ sont ses conjugués par les éléments de $B$; comme $\sum_{\alpha\in k^\times}\psi(\alpha)=-1$ -- car $\psi$ est non trivial -- on trouve que le caractère de $\Ind(\omega\psi)$ en
$\bspm\alpha& 1 \\
0& \alpha\espm$ vaut $-\omega(\alpha)$.

\item
les autres classes de conjugaison ne rencontrant pas $ZU$, le caractère de $\Ind(\omega\psi)$ est nul en ces classes. Remarquons que le caractère de $\Ind(\omega\psi)$ ne dépend pas du choix de $\psi$ non trivial.
\end{itemize}

Considérons maintenant un homomorphisme $\theta$ de $T'$ dans $\UU$, et formons l'induite $\Ind \,\theta$ de $T'$ à~$G$; c'est une représentation de~$G$ de dimension $|G|/|T'|=q^2-q$. Son caractère vaut $(q^2-q)\theta(\alpha)$ en une matrice scalaire $\alpha1_2$, il s'annule en les matrices
$\bspm\alpha& 1 \\
0& \alpha\espm$ et
$\bspm\alpha& 0 \\
0& \beta\espm$, $\alpha\neq\beta$, qui n'ont aucun conjugué dans $T'$. Il suffit donc de déterminer ce caractère en un élément $t$ de $T'-Z$. Remarquons que le groupe $T'$ est cyclique de cardinal $q^2-1$ et que $Z$ est un sous-groupe de cardinal $q-1$, de sorte qu'un élément $t$ de $T'$ appartient à $Z$ si et seulement si $t=t^q$.
Si $t$ appartient à $T'-Z$, son polynôme caractéristique $P$ est irréductible dans $k[X]$, et les deux racines de $P$ dans $k'$ sont $t$ et~$t^q$. Ainsi les seuls conjugués de $t$ qui appartiennent à $T'$ sont $t$ et~$t^q$, et~on voit que le caractère de $\Ind\,\theta$ en $t$ vaut $\theta(t)+\theta^q(t)$.

Considérons maintenant la fonction $f_\theta=\chi_1-\chi_2$ dans $\cF C(G)$, où~$\chi_1$ est le caractère de $\Ind_{ZU}^G(\theta_{|Z}\cdot \psi)$ et $\chi_2$ le caractère de $\Ind_{T'}^G(\theta)$. C'est certainement une combinaison linéaire à coefficients entiers de caractères irréductibles de~$G$, et sa valeur en 1 vaut $q-1$. Les calculs précédents donnent les valeurs de $f_\theta$; on a $f_\theta=f_{\theta^q}$. Un exercice un peu long mais salutaire donne le résultat principal:

\begin{enumeratei}
\item
Si $\theta\neq\theta^q$, $\<f_\theta,f_\theta\>_G=1$.

\item
Si $\theta'$ est un autre homomorphisme de $T'$ dans $\UU$, distinct de $\theta$, $\theta^q$ et $\theta'{}^q$, alors
$$
\<f_\theta,f_{\theta'}\>_G=0.
$$
\end{enumeratei}

La conséquence majeure est que, si $\theta$ est différent de $\theta^q$, alors $f_\theta$ est un caractère irréductible de~$G$; c'est le caractère d'une représentation de dimension $q-1$, elle n'est donc isomorphe à aucune des représentations irréductibles construites au paragraphe précédent; en particulier, elle est cuspidale.

D'autre part, les caractères $f_\theta$ et $f_{\theta'}$ sont égaux si et seulement si~$\theta'$ est $\theta$ ou $\theta^q$. On a donc construit $\psfrac{q^2-q}{2}$ caractères distincts de représentations irréductibles cuspidales, ce qui donne exactement les caractères irréductibles manquants.

\begin{enonce*}[remark]{Remarque}
Le groupe~$G$ agit par permutation sur la droite projective sur $k$, qui a $q+1$ éléments. Pour $q=2$, on obtient un isomorphisme de~$G$ avec $S_3$. L'unique caractère cuspidal de~$G$ est le caractère signature. Le caractère irréductible de dimension~$2$ est celui de la représentation de Steinberg. Pour $q=3$, on obtient un isomorphisme avec $S_4$ du quotient de~$G$ par son centre. Le caractère irréductible de dimension~$2$ de $S_4$ correspond à l'unique caractère cuspidal de~$G$ dont la restriction au centre est triviale. Le lecteur pourra identifier lequel des caractères dans la table page \pageref{tableau} est le caractère de la représentation de Steinberg de~$G$.
\end{enonce*}

\backmatter
\end{document}
