\documentclass[XUPS,XML,SOM,Unicode,francais, NoFloatCountersInSection, NoEqCountersInSection, ThmDefs]{cedram}
\setcounter{tocdepth}{2}
%\XUPScorrections
\graphicspath{{xups95-01_figures}}

\theoremstyle{plain}
\newtheorem{thme}{Théorème}
\newtheorem{thmbis}{Théorème}
\renewcommand{\thethmbis}{\arabic{thmbis}~bis}

\let\got\mathfrak

\newcommand{\module}[1]{|#1|}
\newcommand{\norme}[1]{\|#1\|}

\newcommand{\T}{\S\,}

\DeclareMathOperator{\id}{Id}
\DeclareMathOperator{\tr}{tr}

\begin{document}
\frontmatter

\title{Matrices hermitiennes et convexité}

\author[\initial{M.} \lastname{Audin}]{\firstname{Michèle} \lastname{Audin}}

\address{Institut de Recherche Mathématique Avancée, Université Louis Pasteur et URA 001 du CNRS,
7 rue René-Descartes, F--67084 Strasbourg Cedex}


\thanks{Journées X-UPS 1995. Aspects géométriques et combinatoires de la convexité. Prépublication du Centre de mathématique de l'École polytechnique, 1995}

\maketitle
\vspace*{-2\baselineskip}\enlargethispage{\baselineskip}
\mbox{}\hfill
\begin{minipage}[h]{8cm}
\small{et la photo du grand-père dans son cadre ovale, et la cheminée avec, entre les deux pots à pieds coniques, la lampe dont le socle est un cube d'opaline et le poisson rouge dans son bocal sphérique, et la table ronde avec le dessous de plat métallique en forme de losange, le cendrier octogonal de faïence blanche et la petite boîte à cigarettes en bois sculpté affectant la forme d'un tonneau\hfill G.~P.}
\end{minipage}
\tableofcontents
\mainmatter

\pagebreak[2]
Dans ces notes, je vais expliquer comment on peut utiliser des techniques de topologie différentielle, la théorie de Morse, qui traite des points critiques de fonctions numériques, pour démontrer des théorèmes de convexité. Je focaliserai l'étude sur des théorèmes mettant en jeu des matrices hermitiennes, et notamment sur des généralisations du théorème de Toeplitz-Hausdorff en dimension finie.

\section{Autour du théorème de Toeplitz-Hausdorff}
\subsection{Le théorème de Toeplitz-Hausdorff}\label{subsectoeplitz}
Un problème classique, dit de Toeplitz-Hausdorff, est celui de la détermination de l'\emph{image numérique} d'un opérateur $A$ sur un espace de Hilbert $\cH$. Il~s'agit tout simplement de l'ensemble $W(A)$ des valeurs prises par le produit $\langle Av,v\rangle$ quand $v$ parcourt la sphère unité de $\cH$. Je me limiterai ici au cas des matrices, \ie au cas d'un espace de dimension finie: je supposerai que $\cH=\CC^n$ avec la forme hermitienne standard. Ainsi l'opérateur $A$ est-il une matrice $n\times n$ complexe.

\subsubsection*{Exemples}L'image numérique peut prendre des formes relativement variées. Je m'inspire ici des exemples donnés dans \cite{halmos82}, considérant les matrices
\begin{gather*}
\arraycolsep4pt
A=\begin{pmatrix}
1&0\\
0&0
\end{pmatrix} ,\quad B=\begin{pmatrix}
0&0\\
1&0
\end{pmatrix} ,\quad C=\begin{pmatrix}
0&0\\
1&1
\end{pmatrix} ,
\\
\arraycolsep4pt
D=\begin{pmatrix}
0&0&1\\
1&0&0\\
0&1&0
\end{pmatrix} ,\quad E=\begin{pmatrix}
0&0&0\\
1&0&0\\
0&0&1
\end{pmatrix} ,\quad F=\begin{pmatrix}
1&0&0\\
0&i&0\\
0&0&0
\end{pmatrix}
\end{gather*}
pour lesquelles on vérifie (plus ou moins facilement) que les images numériques sont celles représentées sur la figure \ref{figimnum}.
\begin{figure}[htb]
\begin{center}
\includegraphics[scale= .8]{xups95-01_fig1}
\caption{Images numériques d'opérateurs\label{figimnum}}
\end{center}
\end{figure}

Le point commun le plus évident entre ces différentes parties de $\CC$ est, bien entendu, leur convexité. C'est ce qu'affirme le théorème de Toeplitz-Hausdorff:

\begin{thme}\label{thm1}
L'image numérique $W(A)$ est convexe.
\end{thme}

\begin{remarque*}
Ce théorème reste vrai dans un espace de Hilbert quelconque. Comme en dimension infinie la sphère unité n'est plus compacte, on peut trouver des convexes non fermés (voir \cite{halmos82} et les références citées dans cet ouvrage).
\end{remarque*}

\Subsection{Des vecteurs unitaires aux matrices hermitiennes}
\subsubsection*{Des vecteurs unitaires à l'espace projectif}
L'application $v\mto \langle Av,v\rangle$ dont nous contemplons l'image depuis le début de cet article est définie sur la sphère unité
\[
S=\left\{ v\in\CC^n\mid\norme{v}=1\right\}
\]
mais à vrai dire, la valeur de $\langle Av,v\rangle$ ne dépend que de la droite complexe $\ell$ que le vecteur $v$ engendre: si $w=\lambda v$,
\[
\langle Aw,w\rangle=\module{\lambda}^2\langle Av,v\rangle=\langle Av,v\rangle
\]
quand $v$ et $w$ sont unitaires. En d'autres termes, notre application est en fait bien définie sur l'espace projectif
\[
\PP^{n-1}(\CC)=\left\{ \mbox{droites vectorielles }\ell\mbox{ de }\CC^n\right\},
\]
le quotient de la sphère $S $ par la relation d'équivalence
\[
v\sim w\Leftrightarrow\exists\lambda\in\CC,\module{\lambda}=1
\mbox{ tel que } w=\lambda v.
\]

On a ainsi une application:
\begin{align*}
f_A:\PP^{n-1}(\CC)&\to\CC\\
\ell&\mto \langle Av,v\rangle
\end{align*}
(où $v$ est un vecteur unitaire de $\ell$).

\begin{remarque*}
Considérons par exemple le cas où $n=3$, de sorte que $\PP^{n-1}(\CC)$ est le plan projectif, qu'on peut considérer comme l'espace des coordonnées homogènes $[x,y,z]$ ou comme le plan affine
$\left\{ [x,y,1]\mid(x,y)\in\CC^2\right\}$ compété par sa droite de l'infini $\left\{ [x,y,0]\right\}$ comme sur la figure \ref{figproj}
\begin{figure}[htb]
\setlength{\unitlength}{.8cm}
\begin{center}
\begin{picture}(5,5)
\put(0,1){\line(1,0){5}}
\put(1,0){\line(0,1){5}}
\put(4.5,.5){\line(-1,1){4.1}}
\put(1.2,.5){$[0,0,1]$}
\put(1.2,4.2){$[0,1,0]$}
\put(4,1.2){$[1,0,0]$}
\end{picture}
\end{center}
\caption{Le plan projectif\label{figproj}}
\end{figure}
où la droite oblique est celle de l'infini et le point $[x,y,z]$ est celui dont les coordonnées barycentriques dans le triangle sont $x$, $y$ et $z$. Il y a beaucoup plus qu'une analogie entre cette figure et l'image numérique $W(F)$ représentée sur la figure \ref{figimnum}: on pourra vérifier que les sommets du triangle sont envoyés sur les sommets et les droites projectives complexes schématisées par les trois droites de la figure \ref{figproj} sur les côtés du triangle $W(F)$.
\end{remarque*}

\subsubsection*{De l'espace projectif aux matrices hermitiennes}
Étant donnés une droite vectorielle $\ell$ de $\CC^n$ et deux nombres réels $\lambda$ et $\mu$, on construit un opérateur \emph{hermitien} $V:\CC^n\rightarrow \CC^n$ de la façon suivante: on décom\-pose~$\CC^n$ en $\ell\oplus \ell^\perp$ et on définit $V\vert_\ell=\lambda\id_\ell$, $V\vert_{\ell^\perp}=\mu\id_{\ell^\perp}$. Le spectre de~$V$ est $(\lambda,\underbrace{\mu,\ldots ,\mu}_{n-1})$ par construction. Prenons par exemple $\lambda=1$ et $\mu=0$. On vérifie alors simplement que, pour tout vecteur unitaire~$v$ de~$\ell$ et pour toute matrice complexe $A$,
\[
\langle Av,v\rangle=\tr(AV)
\]
de sorte qu'on peut être tenté de remplacer la sphère unité par l'ensemble des matrices hermitiennes de spectre $(\lambda,\mu,\ldots ,\mu)$ \emph{fixé} et, pourquoi pas, par l'ensemble \emph{isospectral} plus général
\begin{multline*}
\cH_{(\lambda_1,\ldots ,\lambda_n)}=\cH_\Lambda\\
=\left\{ \mbox{matrices hermitiennes }V\mbox{ de valeurs propres }\lambda_1,\ldots ,\lambda_n\right\}
\end{multline*}
pour tout $(\lambda_1,\ldots ,\lambda_n)=\Lambda\in\RR^n$.

Le problème auquel on arrive ainsi est celui de la description de l'image de l'application
\begin{align*}
f_A:\cH_\Lambda&\to\CC\\
V&\mto \tr(AV)
\end{align*}
qui est celui de Toeplitz-Hausdorff quand $\Lambda=(1,0,\ldots ,0)$.
Il est remarquable que le théorème énoncé ci-dessus reste vrai dans cette généralité, comme l'a démontré Viktor Ginzburg dans \cite{ginzburg87}:

\begin{thmbis}\label{thm1prime}
L'image de $\cH_\Lambda$ par $f_A$ est une partie convexe de $\CC$.
\end{thmbis}

\subsection{Des polygones et des polytopes convexes}
On aura remar\-qué, parmi les exemples ci-dessus, les cas de $W(A)$, $W(D)$ et $W(F)$ qui sont un peu mieux que des convexes: ce sont des polygones convexes\footnote{Le mot poly-gone (\resp -èdre, -tope) convexe désigne l'enveloppe convexe d'un nombre fini de points dans un espace de dimension $2$ (\resp $3$ ou quelconque).}. Les matrices qui les définissent ont une propriété spécifique: elles sont \emph{normales} au sens où elles commutent avec leur adjointe. La démonstration du théorème suivant est en fait un exercice facile, que je laisse au lecteur:

\begin{thme}\label{thm2}
L'image numérique d'une matrice normale est l'enveloppe convexe de ses valeurs propres.
\end{thme}

\begin{remarque*}
En dimension infinie, c'est l'adhérence de l'image numérique qui a cette propriété.
\end{remarque*}

La démonstration de Ginzburg du théorème \ref{thm1prime} donne aussi, sans beaucoup de fatigue supplémentaire, la généralisation suivante du théorème \ref{thm2}, un peu moins triviale:

\begin{thmbis}\label{thm2prime}
Si $A$ est une matrice normale dont les valeurs propres sont $a_1,\ldots ,a_n$, l'image de $\cH_\Lambda$ par $f_A$ est l'enveloppe convexe des $n!$ nombres complexes
\[
\sum_{j=1}^{n}a_j\lambda_{\sigma(j)},
\]
où $\sigma$ parcourt le groupe ${\got S}_n$ des permutations de $\left\{ 1,\ldots ,n\right\}$.
\end{thmbis}

\subsubsection*{Exemples}On a déjà remarqué que les $W(A)$, $W(D)$ et $W(F)$
de la figure \ref{figimnum} entrent dans ce cadre. Même en restant dans les matrices $3\times 3$, on a maintenant une panoplie d'exemples plus variés.
Gardons la matrice
\[\arraycolsep4.5pt
F=\begin{pmatrix}
1&0&0\\
0&i&0\\
0&0&0
\end{pmatrix} ,
\]
mais changeons de spectre en considérant un $\Lambda$ arbitraire.
D'après le théorème \ref{thm2prime}, l'image de $f_F$ est formée de l'enveloppe convexe des points $\lambda_k+i\lambda_l$ (pour $k\neq l$). C'est un hexagone quand le spectre $\Lambda$ est simple (figure \ref{fighex}), un triangle, voire un point, sinon.

\begin{figure}[htb]
\begin{center}
\includegraphics[scale= .8]{xups95-01_fig3}
\end{center}
\caption{\label{fighex}}
\end{figure}

Toujours dans cet exemple, regardons maintenant ce qu'est effectivement
l'application $V\mto \tr(FV)$: à une matrice hermitienne $V=(v_{k,l})$
de spectre $\Lambda$ elle associe $v_{11}+iv_{22}\in\CC$ ou
$(v_{11},v_{22})\in\RR^2$, ce qui est équivalent à donner les termes
diagonaux de la matrice puisque la trace $\sum v_{ii}=\sum \lambda_i$ est
fixée sur $\cH_\Lambda$. Le théorème \ref{thm2prime} appliqué à cet exemple est donc une caractérisation de ceux des nombres $(v_1,v_2,v_3)\in\RR^3$ qui sont les termes diagonaux d'une matrice hermitienne $3\times 3$ de spectre $(\lambda_1,\lambda_2,\lambda_3)$ fixé. Précisément ici, si on range les $\lambda_i$ comme les $v_i$ par ordre croissant,
\[
\begin{cases}
\lambda_1\leq v_1\leq \lambda_3\\
\lambda_1+\lambda_2\leq v_1+v_2\leq \lambda_2+\lambda_3\\
v_1+v_2+v_3=\lambda_1+\lambda_2+\lambda_3.
\end{cases}
\]

\subsubsection*{Le théorème de Schur et Horn}
Il existe des inégalités analogues à celles que nous venons d'obtenir pour les diagonales des matrices hermitiennes de toute taille. Il s'agit d'un théorème de Schur \cite{schur} et Horn \cite{horn}. Il est bien plus simple d'écrire un théorème de convexité tel que le théorème \ref{thm2prime} qu'une liste d'inégalités plus ou moins compréhensibles:

\begin{thme}\label{thm3}
L'application qui, à une matrice hermitienne, associe sa dia\-gonale envoie $\cH_{(\lambda_1,\ldots ,\lambda_n)}$ sur l'enveloppe convexe dans $\RR^n$ de l'ensemble des points $(\lambda_{\sigma(1)},\ldots ,\lambda_{\sigma(n)})$ (pour $\sigma\in{\got S}_n$).
\end{thme}

\begin{figure}[htb]
\begin{center}
\includegraphics[scale= .8]{xups95-01_fig4}
\caption{Diagonales des matrices $n\times n$ hermitiennes, cas $n=3$ et $n=4$\label{figpermut}}
\end{center}
\end{figure}

La figure \ref{figpermut} représente cette image dans l'hyperplan
$\sum v_i=\sum \lambda_i$ de $\RR^n$ pour $n=3$ (hexagone) et $n=4$
(permutaèdre)\footnote{Je remercie J. Béthery, professeur au lycée
Albert Schweizer au Raincy, de m'avoir fourni cette figure.} dans le cas où les $\lambda_i$ sont distincts.
\section{Démonstration des théorèmes de convexité}

Les théorèmes que j'ai décrits ci-dssus appartiennent à une famille assez générale de \og théorèmes de convexité en géométrie symplectique\fg{} --- quel que soit le sens que ça puisse avoir. Le prototype en est un théorème publié simultanément en 1982 par Atiyah \cite{atiyah82} et Guillemin et Sternberg \cite {gs82}. Si le théorème de Schur-Horn (notre théorème~\ref{thm3}) en est une application directe, celui de Ginzburg (nos théorèmes~\ref{thm1prime} et~\ref{thm2prime}) est plutôt une conséquence des idées de la démonstration d'Atiyah. Je vais expliquer maintenant ces idées et démontrer le théorème \ref{thm1prime} (et donc en particulier le théorème~\ref{thm1}).

\subsection{Stratégie de démonstration: comment démontrer un théorème de convexité\texorpdfstring{?}{p}}\label{subsecstra}

\subsubsection*{De la connexité à la convexité}
Imaginons qu'on veuille montrer que l'image d'une certaine application continue $f$ d'un espace topologique~$W$ dans $\RR^m$ est convexe. Par définition un convexe est une partie de $\RR^m$ dont l'intersection avec toutes les droites est vide ou connexe. En conséquence, pour montrer que $f(W)$ est convexe, il~suffit de montrer que pour toute application linéaire $\varphi:\RR^m\rightarrow \RR^{m-1}$ et pour tout $u\in\RR^{m-1}$, $(\varphi\circ f)^{-1}(u)$ est vide ou connexe: en effet
\[
f(W)\cap\varphi^{-1}(u)=f\left((\varphi\circ f)^{-1}(u)\right)
\]
sera alors vide ou connexe.

Dans le cas des théorèmes de type 1 ou 1 bis ci-dessus, l'espace $\RR^m$ est $\CC$, autrement dit $m=2$ et $m-1=1$ et les $\varphi\circ f$ sont des fonctions numériques. On veut donc montrer que les niveaux\footnote{Les \emph{niveaux} de $g$ sont les $g^{-1}(u)$.} de certaines applications sont vides ou connexes.

\subsubsection*{Comment démontrer que tous les niveaux d'une fonction sont con\-nexes?}
Commençons par considérer les deux exemples représentés sur la figure \ref{figmorse}.

\begin{figure}[htb]
\centerline{\includegraphics[scale=1]{xups95-01_fig5}}
\caption{\label{figmorse}}\end{figure}

Dans les deux cas, la fonction considérée est l'altitude, la hauteur. Il y a un minimum à partir duquel les niveaux sont non vides et connexes. Dans le cas de la sphère (à gauche) tous les niveaux non vides sont effectivement connexes. Dans le cas du tore (à droite) ce n'est vrai que jusqu'au niveau $t_0$ au dessus duquel les niveaux ont deux composantes connexes.

En traversant la valeur minimale, le type topologique du niveau change (il était vide, il devient un cercle). Il se passe quelque chose d'analogue en chaque valeur critique. La valeur $t_0$ correspond à un \emph{col} (figure \ref{figcol}).

\begin{figure}[htb]
\centerline{\includegraphics[scale=1]{xups95-01_fig6}}
\caption{le col $z=t_0+x^2-y^2$\label{figcol}}\end{figure}

L'étude de ce type de phénomènes est l'objet de la \emph{théorie de Morse}, outil précieux utilisé dans des contextes variés: on considère une \emph{fonction de Morse}, une application dont tous les points critiques sont non dégénérés (voir la définition juste en dessous) et on a des modèles locaux très similaires au cas simple du col représenté sur la figure \ref{figcol} qui permettent de décrire comment le type topologique des niveaux change quand on traverse une valeur critique.

En un point critique, par définition, la différentielle de la fonction est nulle.
\begin{definition*}
On dit que le point critique $c$ est \emph{non-dégénéré} si la dérivée seconde est une forme quadratique non-dégénérée.
Une \emph{fonction de Morse} est une fonction dont tous les points critiques sont non-dégénérés.
\end{definition*}

Il est équivalent\footnote{C'est ce qu'affirme le théorème qui fonde la théorie de Morse, le célèbre \emph{lemme de Morse} (voir \cite{gramain} par exemple).} de dire que le point critique $c$ est non-dégénéré ou qu'il existe des coordonnées locales $(x_1,\ldots ,x_m)$ sur $W$ dans lesquelles la fonction $f$ s'écrit
\begin{equation}\label{eqnmorse}
f(x_1,\ldots ,x_m)=f(c)+Q(x_1,\ldots ,x_m)
\end{equation}
où $Q$ est une forme quadratique non-dégénérée.

Du coup on a des modèles locaux pour les changements de topologie. Par exemple, le cas d'un minimum local est celui d'une forme~$Q$ de signature $(m,0)$ (le bas des dessins de la figure \ref{figmorse} représente la cas $(2,0)$ et le haut le cas $(0,2)$). La figure \ref{figcol} représente le cas d'une forme de signature $(1,1)$ et la figure \ref{fighyperbo} celui d'une forme de signature $(2,1)$.

\begin{figure}[htb]
\begin{center}
\includegraphics[scale= .8]{xups95-01_fig7}
\end{center}
\caption{\label{fighyperbo}}
\end{figure}

Plus généralement, le changement local de type topologique est décrit très explicitement par la transformation de la quadrique $Q(x_1,\ldots ,x_m)=t$ pour $t\in[-\varepsilon,\varepsilon]$. De cette description explicite, on déduit que,
pour être certain que tous les niveaux d'une fonction de Morse sont connexes\footnote{$W$ est bien entendu supposée connexe ici.}, il suffit de s'assurer que celle-ci n'a aucun point critique en lequel la dérivée seconde a pour signature $(m-1,1)$ ou $(1,m-1)$.

\begin{proposition*}
Soit $f:W\rightarrow \RR$ une fonction de Morse n'ayant aucun point critique en lequel la signature est $(m-1,1)$ ou $(1,m-1)$. Si~$W$ est connexe, alors tous les niveaux de $f$ sont vides ou connexes.
\end{proposition*}

\begin{remarque*}
Au début de ce \S, je parlais d'un espace topologique $W$. Il~va sans dire que les techniques de théorie de Morse s'appliquent à une fonction $W\rightarrow \RR$ qui doit être au moins de classe $\cC^2$... et donc que l'espace $W$ doit être assez \og lisse\fg pour que ça ait un sens. La bonne \og catégorie\fg d'espaces est celle des \emph{variétés} différentielles. Ceux que nous étudions ici sont les $\cH_\Lambda$, qui sont des \emph{sous-variétés} de l'espace vectoriel des matrices $n\times n$: ce n'est pas plus compliqué que la sphère ou le tore de l'espace de dimension $3$ qu'on a pu contempler sur la figure \ref{figmorse}.
\end{remarque*}

\subsubsection*{Points critiques d'une application et points fixes de l'action d'un groupe}
Regardons d'un peu plus près l'exemple de la sphère sur la figure \ref{figmorse}: les points critiques de la fonction considérée ne sont autres que les points fixes du groupe des rotations autour de l'axe vertical, dont nos niveaux sont d'ailleurs les orbites.

Il se trouve que toutes les fonctions dont nous souhaitons montrer que les niveaux sont connexes sont aussi reliées à des actions de groupes. Je vais expliquer maintenant pourquoi ceci est vrai, et aussi pourquoi cette propriété donne la connexité des niveaux.

\subsection{Fonctions de Morse et opérations de groupes}
Le cadre général des théorèmes de convexité en géométrie symplectique dont je parle ici\footnote{On peut faire plus général (voir le \T\ref{secconc}).} est celui d'une variété symplectique $W$ --- ce sera notre $\cH_\Lambda$ --- munie de l'opération d'un tore --- un sous-groupe compact, connexe et abélien d'un groupe de matrices\footnote{Un tel sous-groupe est effectivement un \emph{tore}, \ie isomorphe à $\RR^r/\ZZ^r$ ou à $\left\{ (t_1,\ldots ,t_r)\in\CC^r\vert \module{t_i}=1\right\}$.} --- et d'une fonction liée à cette opération. Je préfère expliciter tous ces objets dans la famille dexemples à laquelle je m'intéresse ici plutôt que de donner une liste abstraite de définitions.

\subsubsection*{Le sous-groupe $\cT_X$ de $U(n)$}
Soit $X$ une matrice hermitienne fixée. La matrice $iX$ est anti-hermitienne, de sorte que $\exp(itX)$ est, pour tout $t\in\RR$, une matrice unitaire. Quand $t$ décrit $\RR$, l'ensemble de ces matrices décrit un sous-groupe commutatif du groupe unitaire $U(n)$. L'adhérence de ce sous-groupe (figure \ref{figtore}) est un sous-groupe compact, connexe et abélien de $U(n)$, appelons le $\cT_X$.

\begin{figure}[htb]
\centerline{\includegraphics[scale=1]{xups95-01_fig8}}
\caption{Le sous-groupe $\left\{ \exp(itX)\right\}$ et son adhérence\label{figtore}}\end{figure}

\subsubsection*{Une opération de $\cT_X$ sur $\cH_\Lambda$}
Revenons à $\cH_\Lambda$. Il est temps de remarquer que c'est une classe de conjugaison sous le groupe unitaire (c'est dire que toute matrice hermitienne est diagonalisable dans une base unitaire). Donc $U(n)$ et tous ses sous-groupes opèrent sur $\cH_\Lambda$ par conjugaison. En particulier $\cT_X$.

\begin{remarque*}
De ce que $\cH_\Lambda$ est une orbite de $U(n)$, on déduit en particulier que c'est une sous-variété compacte et connexe de l'espace de toutes les matrices $n\times n$. Elle s'identifie au quotient de $U(n)$ par le stabilisateur de la matrice diagonale $(\lambda_1,\ldots ,\lambda_n)$. Plus précisément, si les $\lambda_i$ sont ordonnés en
\begin{multline*}
\lambda_1=\cdots=\lambda_{n_1}<\lambda_{n_1+1}\\ =\cdots=\lambda_{n_1+n_2}<\cdots<\lambda_{n_1+\cdots+n_{k-1}+1}=\cdots=\lambda_{n_1+\cdots+n_k}
\end{multline*}
(avec $n_1+\cdots+n_k=n$), $\cH_\Lambda$ s'identifie à $U(n)/U(n_1)\times \cdots\times U(n_k)$. Son type topologique ne dépend que des multiplicités $(n_1,\ldots ,n_k)$ et pas des valeurs des $\lambda_i$, c'est ce qu'on appelle une \emph{variété de drapeaux}, généralisation de l'espace projectif.
\end{remarque*}

\subsubsection*{Une fonction sur $\cH_\Lambda$}Comme $X$ est hermitienne, $\tr(XV)$ est réelle pour toute matrice hermitienne $V$, de sorte qu'on a une fonction à valeurs réelles
\begin{align*}
f_X:\cH_\Lambda&\to\RR\\
V&\mto \tr(XV).
\end{align*}

Il se trouve que l'opération du groupe $\cT_X$ sur $\cH_\Lambda$ et la fonction~$f_X$ ont des liens très étroits. C'est là que la géométrie symplectique entre en jeu.

\subsubsection*{Géométrie symplectique sur $\cH_\Lambda$}Sur $\cH_\Lambda$, il y a une \emph{forme symplectique}. C'est tout simplement, sur chaque espace tangent $T_V\cH_\Lambda$, une forme bilinéaire alternée \emph{non-dégénérée} $\omega_V$. Ce type de machine permet d'identifier vecteurs tangents et formes linéaires sur l'espace tangent. Ici on a justement, pour tout $V\in\cH_\Lambda$
\begin{itemize}
\item
une forme linéaire $T_V\cH_\Lambda\rightarrow \RR$, la différentielle de $f_X$ en $V$,
\item
un vecteur de $T_V\cH_\Lambda$, le vecteur tangent $\underline{X}_V$ en $t=0$ de la courbe
\[
t\mto e^{itX} V e^{-itX}.
\]
\end{itemize}

Le lien étroit entre l'opération de $\cT_X$ et la fonction $f_X$, c'est que, pour toute matrice $V$ dans $\cH_\Lambda$, ces deux objets se correspondent via la forme symplectique.
Pour expliquer ça, il faut décrire la forme symplectique $\omega_V$ --- et tout d'abord l'espace tangent $T_V\cH_\Lambda$.

\subsubsection*{L'espace tangent à $\cH_\Lambda$ en $V$}
Comme je l'ai déjà dit, $\cH_\Lambda$ est une orbite de $U(n)$. Autrement dit, $U(n)$ opère sur $\cH_\Lambda$ par conjugaison et l'opération est transitive. Ainsi $\cH_\Lambda$ s'identifie à $U(n)/G_\Lambda$, où $G_\Lambda$ est le stabilisateur d'une matrice diagonale de l'orbite, et on peut décrire $T_V\cH_\Lambda$ comme quotient de $T_{\id} U(n)$. Comme $U(n)$ est décrit par l'équation ${ }^t\ov{A}A=\id$, son espace tangent en $\id$ est l'espace ${\got u}(n)$ des matrices antihermitiennes\footnote{C'est l'\emph{algèbre de Lie} du groupe $U(n)$.}.

La dérivée en $\id$ de l'application d'orbite
\begin{align*}
U(n)&\to\cH_\Lambda\\
g&\mto gVg^{-1}
\end{align*}
est une application ${\got u}(n)\rightarrow T_V\cH_\Lambda$
qui peut s'écrire
\begin{align*}
{\got u}(n)&\to T_V\cH_\Lambda\subset\left\{ \mbox{matrices }n\times n\right\}\\
Y&\mto [V,Y].
\end{align*}
Ainsi $T_V\cH_\Lambda$ est-il le quotient de ${\got u}(n)$ par le sous-espace des matrices~$Y$ telles que $[V,Y]=0$.

\subsubsection*{La forme symplectique}
Pour $Y$, $Z\in{\got u}(n)$, posons
\[
\omega_V(Y,Z)=\tr\left(iV[Y,Z]\right).
\]
On vérifie que ça définit bien une forme bilinéaire alternée \emph{non-dégénérée} sur $T_V\cH_\Lambda$.

Maintenant, le vecteur tangent $\underline{X}_V$à la courbe $e^{itX} Ve^{-itX}$ est précisément l'image de $iX\in{\got u}(n)$ dans $T_V\cH_\Lambda$. La forme linéaire $\omega_V(iX,\cdot)$ sur $T_V\cH_\Lambda$ qui lui est associée par la forme symplectique est
\[
Y\mto \tr\left(iV[iX,Y]\right) =-\tr\left(V[X,Y]\right) .
\]

Quant à la différentielle de $f_X$ en $V$, comme $f_X$ est linéaire, ce n'est pas très difficile, on écrit un vecteur tangent $[V,Y]$ et on obtient \[
d_Vf_X(Y)=\tr\left(X[V,Y]\right) =-\tr\left(V[X,Y]\right) ,
\]
ce qu'on voulait:

\begin{proposition*}
On a
\[
d_Vf_X(\underline{Y})=\omega_V(iX,Y),
\]
en d'autres termes la différentielle de $f_X$ et le vecteur tangent $\underline{X}$ défini par $X$ se correspondent via la dualité définie par la forme symplectique.
\end{proposition*}

\subsubsection*{Exemple}Choisissons $n=2$ et $\Lambda=(1,-1)$, ainsi $\cH_\Lambda$ est l'ensemble des matrices hermitiennes dont la trace est nulle et le déterminant vaut $-1$, \ie
\[\arraycolsep4pt
\cH_\Lambda=\left\{ V=\begin{pmatrix}
a&\beta\\
\ov{\beta}&-a
\end{pmatrix} \mbox{ telles que } a\in\RR, \beta\in\CC \mbox{ et }a^2+\module{\beta}^2=1\right\}.
\]
Il s'agit de la sphère unité\footnote{Et bien sûr aussi de la droite projective $\PP^1(\CC)$.} de $\RR^3=\CC\times \RR$. Prenons pour $X$ la matrice $A$ du \T\ref{subsectoeplitz} de sorte que $\tr(XV)=a$: la fonction $f_X$ est la hauteur sur la sphère comme sur la figure \ref{figmorse}. De plus,
\[\arraycolsep4pt
\exp(itX)=\begin{pmatrix}
e ^{it}&0\\
0&1
\end{pmatrix} ,
\]
le groupe $\cT_X$ est un cercle et
\[\arraycolsep4pt
e^{itX}\begin{pmatrix}
a&\beta\\
\ov{\beta}&-a
\end{pmatrix} e^{-itX}=\begin{pmatrix}
a&e ^{it}\beta\\
e ^{-it}\ov{\beta}&-a
\end{pmatrix} ,
\]
ainsi, il opère sur la sphère unité par rotations autour de l'axe des $a$. C'est exactement la situation à laquelle j'ai fait allusion à la fin du \T\ref{subsecstra}.

\subsubsection*{Points critiques et points fixes}Comme la forme symplectique est non-dégénérée, la différentielle $d_Vf_X$ est nulle si et seulement si le vecteur tangent correspondant est nul, \ie exactement quand~$V$ est un \emph{point fixe} de l'opération du groupe $\cT_X$.

Or, il est facile d'étudier l'opération d'un tore au voisinage d'un point fixe $c$: on peut \emph{linéariser} l'opération. Précisément, au voisinage de $c$, il existe des coordonnées locales $(x_1,\ldots ,x_p,y_1,\ldots ,y_p)$ dans lesquelles l'action du tore est
\[
g\cdot (z_1,\ldots ,z_p)=\left(g^{a_1}z_1,\ldots ,g^{a_p}z_p\right) ,
\]
écriture dans laquelle
\begin{itemize}
\item
$g$ désigne un élément du tore, je le considère comme un $r$-uplet $(g_1,\ldots ,g_r)$ de nombres complexes de module $1$
\item
j'ai regroupé les coordonnées $x_j+iy_j=z_j$, il ne faut pas s'étonner qu'elles soient en nombre pair ici: les formes bilinéaires alternées sont de rang pair et donc la dimension d'une variété symplectique est paire
\item
les $a_i$ sont des multi-exposants, $a_i\in\ZZ^r$.
\end{itemize}

Mais ce n'est pas tout: dans les coordonnées en question, la forme symplectique s'écrit de façon assez standard. Je ne veux pas m'étendre sur cette écriture mais seulement sur la conséquence qui m'importe ici: la fonction $f_X$ s'écrit, dans ces coordonnées
\begin{equation}\label{eqnmoment}
f_X(z_1,\ldots ,z_p)=f_X(c)+\sum_{i=1}^{p}\alpha_i\module{z_i}^2
\end{equation}
pour certains réels $\alpha_1,\ldots ,\alpha_p$ fonctions des $a_i$ et de la position de $\exp(itX)$ dans $\cT_X$.

C'est une expression du même type que celle que nous a donnée le lemme de Morse (\ref{eqnmorse})\ldots\ à cela près que $\module{z_i}^2=x_{i}^{2}+y_{i}^{2}$ et donc que la signature de notre forme quadratique est ici de la forme $(2\rho,2\sigma)$\ldots\ \emph{en particulier jamais $(1,m-1)$ ou $(m-1,1)$}, d'où l'on déduit:

\begin{proposition*}
Tous les niveaux de $f_X$ sont vides ou connexes.
\end{proposition*}

\begin{remarque*}
J'avoue que j'ai un peu triché: les fonctions $f_X$ ne sont pas tout à fait des fonctions de Morse, autrement dit certains des $\alpha_i$ qui figurent dans le deuxième membre de (\ref{eqnmoment}) peuvent très bien être nuls. Les points critiques de $f_X$ ne sont peut-être pas isolés, mais on a une propriété de non-dégénérescence transversalement à ces points critiques qui est suffisante pour démontrer ce que nous voulons.
\end{remarque*}

\subsection{Récapitulons}
Reprenons et démontrons le théorème \ref{thm1prime}. On décompose la matrice $A$ en $A=X+iY$ où $X$ et $Y$ sont hermitiennes. Alors $\tr(AV)=\tr(XV)+i\tr(YV)$ de sorte que $f_A=f_X+if_Y$. On peut appliquer le traitement ci-dessus à chacune des coordonnées $f_X$ et $f_Y$, mais aussi à $f_{\alpha X+\beta Y}$ pour $\alpha$, $\beta\in\RR$.

\begin{figure}[htb]
\begin{center}
\includegraphics[scale= .8]{xups95-01_fig9}
\end{center}
\caption{Convexité de $f_A(\cH_\Lambda)$\label{figthm1prime}}
\end{figure}

On en déduit que tous les niveaux de toutes les $f_{\alpha X+\beta Y}$ sont vides ou connexes. Remarquons qu'on est exactement dans le cadre décrit au débt du \T\ref{subsecstra}:
\[
f_{\alpha X+\beta Y}=\varphi\circ f_A
\]
où $\varphi:\RR^2\rightarrow \RR$ est l'application linéaire $(x,y)\mto \alpha X+\beta Y$ (voir la figure \ref{figthm1prime}). Ainsi, pour toute application linéaire $\varphi:\RR^2\rightarrow \RR$, et pour tout $u\in\RR$, $(\varphi\circ f_A)^{-1}(u)$ est vide ou connexe.
Donc $f_A(\cH_\Lambda)$ est convexe.

\section{Polygones et polytopes convexes}\label{secconc}
En guise de conclusion, je vais donner une idée de démonstration des théorèmes 2 bis (et donc 2) et 3. La grosse différence est que l'image est maintenant un \emph{polytope} convexe.

\subsection{Le cas des matrices normales}Rappelons que $A$ est \emph{normale} si elle commute avec son adjointe. Il est équivalent de dire, en décomposant $A$ en $X+iY$ avec $X$ et $Y$ hermitiennes, que $X$ et $Y$ commutent. C'est justement ce qu'il faut pour que $\exp(itX)$ et
$\exp(itY)$ ensemble engendrent un sous-groupe abélien de $U(n)$. Appelons $\cT$ l'adhérence de ce sous-groupe. Son opération sur $\cH_\Lambda$ se linéarise près des points fixes comme on l'a vu et chacune des fonctions $f_X$, $f_Y$ se met sous la forme (\ref{eqnmoment}) dans ces mêmes coordonnées.

De cette façon, les deux composantes de la fonction $f_A$ sont données au voisinage d'un point fixe $C$ par
\[
(z_1,\ldots ,z_p)\mto \left(f_X(C)+\sum_{i=1}^{p}\alpha_i\module{z_i}^2,f_Y(C)+\sum_{i=1}^{p}\beta_i\module{z_i}^2\right)
\]
pour certains réels $\alpha_i$, $\beta_i$.

\begin{figure}[htb]
\begin{center}
\includegraphics[scale= .8]{xups95-01_fig10}
\end{center}
\caption{\label{figcone}}
\end{figure}

Un voisinage de $C$ a donc pour image un cône convexe. C'est une propriété de convexité locale. Ajoutée à la convexité (globale) que nous avons déjà démontrée, elle donne que l'image de $f_A$ est l'enveloppe convexe des images $f_A(C)$ des points fixes de l'opération du tore $\cT$.

Pour finir la démonstration du théorème \ref{thm2prime}, il reste à identifier ces points fixes. Il s'agit des matrices $C$ telles que $\exp(itA)$ commute avec $C$ pour tout $t$, \ie telles que $A$ commute avec $C$.
Remarquons que, comme $A$ est normale, ses parties hermitienne ($X$) et antihermitienne ($iY$) commutent et donc qu'on peut les diagonaliser dans la même base unitaire. En d'autres termes, il existe une base unitaire dans lquelle $A$ est diagonale. Quitte à remplacer $A$ par $gAg^{-1}$ (et $C$ par $gVg^{-1}$), on est réduit à chercher les $C$ de $\cH_\Lambda$ qui commutent avec la matrice \emph{diagonale}
\[\arraycolsep4.5pt
A=\begin{pmatrix}
a_1&&\\
&\ddots&\\
&&a_n
\end{pmatrix} .
\]
Il existe un changement de base $P$ tel que $PCP^{-1}$ et $PAP^{-1}$ sont diagonales\footnote{Si les $a_i$ sont distincts, on n'a pas besoin de $P$.}, en particulier
\[\arraycolsep4.5pt
PCP^{-1}=\begin{pmatrix}
\lambda_{\sigma(1)}&&\\
&\ddots&\\
&&\lambda_{\sigma(n)}
\end{pmatrix} \quad\mbox{avec }\sigma\in{\got S}_n.
\]
Comme $f_A(C)=\tr(AC)=\tr((PAP^{-1})(PCP^{-1}))=\sum a_i\lambda_{\sigma(i)}$, on en déduit le théorème \ref{thm2prime}.

\begin{exemple*}
Considérons à nouveau la matrice $F$ du \T\ref{subsectoeplitz} et l'application $f_F$ sur $\cH_\Lambda$ pour $\Lambda=(1,0,0)$.

Ainsi $\cH_\Lambda$ est le plan projectif $\PP^2(\CC)$: donner une matrice $V$ de~$\cH_\Lambda$ est équivalent à donner une droite $\ell\subset\CC^3$, le sous-espace propre de~$V$ pour la valeur propre $1$, l'autre espace propre, où $V$ opère trivialement, est $\ell^\perp$.

Bien sûr, $F$ est normale, le sous-groupe $\cT$ est engendré par
\[\arraycolsep4.5pt
e^{itX}=\begin{pmatrix}
e^{it}&&\\
&1&\\
&&1
\end{pmatrix} \quad\mbox{et }e^{itY}=\begin{pmatrix}
1&&\\
&e^{it}&\\
&&1
\end{pmatrix}
\]
de sorte que
\[\arraycolsep4.5pt
\cT=\left\{ \begin{pmatrix}
e^{it}&&\\
&e^{iu}&\\
&&1
\end{pmatrix} \mbox{ telles que }t, u\in\RR\right\}.
\]
Il opère sur $\cH_\Lambda$ par conjugaison. Traduite en termes de $\PP^2(\CC)$ et de ses coordonnées homogènes, cette opération est
\[
\left(e^{it},e^{iu}\right) \cdot[x,y,z]=\left[ e^{it}x, e^{iu}y,z\right]
\]
dont les points fixes sont $[1,0,0]$, $[0,1,0]$ et $[0,0,1]$. Ce sont bien ceux qui correspondent aux matrices diagonales
\[\arraycolsep4.5pt
\begin{pmatrix}
1&&\\
&0&\\
&&0
\end{pmatrix} ,\quad\begin{pmatrix}
0&&\\
&1&\\
&&0
\end{pmatrix} ,\quad\begin{pmatrix}
0&&\\
&0&\\
&&1
\end{pmatrix}
\]
de $\cH_\Lambda$. L'image de $f_F$ est donc l'enveloppe convexe des points $1$, $i$ et~$0$ comme on l'a vu sur la figure
\ref{figimnum} (et d'ailleurs aussi sur la figure~\ref{fighex}).
\end{exemple*}

\subsection{D'autres théorèmes de convexité}
La démonstration des théorèmes 1 et 1 bis que j'ai expliquée ici est un produit des idées utilisées par Atiyah dans \cite{atiyah82} pour démonter un théorème de convexité assez général, que je vais énoncer maintenant, même si je n'ai pas défini toutes les notions.

\begin{thme}\label{thm4}
Soit $W$ une variété compacte et connexe munie d'une forme symplectique. Soit $\cT$ un tore de dimension $r$ opérant sur $W$ avec application moment
\[
\mu:W\to\RR^r.
\]
Alors l'image de $\mu$ est un polytope convexe dans $\RR^r$, l'enveloppe convexe des images des points fixes de l'opération du tore.
\end{thme}

Le théorème \ref{thm3} en est une application directe: la variété symplectique compacte et connexe est notre $\cH_\Lambda$. Le tore $\cT$ est
\[\arraycolsep4pt
\cT=\left\{ \begin{pmatrix}
z_1&&\\
&\ddots&\\
&&z_n
\end{pmatrix} \mbox{ telles que }\module{z_i}=1\right\}\subset U(n)
\]
et il opère sur $\cH_\Lambda$ par conjugaison.

Le sous-groupe de $\cT$ défini par la $j$-ème coordonnée, ou par les équations $z_1=\cdots =z_{j-1}=z_{j+1}=\cdots=1$ est exactement, avec les notations précédentes,
\[
\cT_{X_j}=\left\{ \exp(itX_j)\right\}
\]
pour
\[\arraycolsep4.5pt
X_j=\begin{pmatrix}
0&&&\\
&\ddots&&\\
&&1&\\
&&&\ddots
\end{pmatrix}
\]
de sorte qu'on a $n$ fonctions $f_{X_1},\ldots ,f_{X_n}$ liées à l'opération de ces sous-groupes comme ci-dessus. L'application \emph{moment} $\mu$ dont il est question dans l'énoncé du théorème \ref{thm4} n'est rien d'autre que
\[
\mu=\left(f_{X_1},\ldots ,f_{X_n}\right)
\]
et, plus concrètement
\[
\mu(V)=\left(\tr(X_1V),\ldots ,\tr(X_nV)\right) =(v_{11},\ldots ,v_{nn}),
\]
la diagonale de la matrice $V$.

La démonstration des théorèmes \ref{thm3} ou \ref{thm4} est fondée sur une récurrence (\og connexité $\Leftrightarrow$ convexité\fg --- comme au début du \T\ref{subsecstra}) et sur les arguments de théorie de Morse expliqués ci-dessus.

\subsection{Quelques compléments sur Toeplitz-Hausdorff}
Revenons aux exemples du \T\ref{subsectoeplitz}. Les matrices $A$, $D$ et $F$ sont normales, on en déduit aisément les images numériques correspondantes sur la figure \ref{figimnum}. Les images $W(A)$, $W(C)$ et $W(E)$ sont sans doute plus intéressantes. Halmos signale dans \cite{halmos82} que, pour une matrice $2\times 2$, l'image numérique est une ellipse dont les foyers sont les valeurs propres de cette matrice (d'où les images $W(A)$, $W(B)$ et $W(C)$).

Plus directement accessibles par nos méthodes est le cas de la matrice $E$. Remarquons que c'est la somme directe
\[\arraycolsep4pt
E=\begin{pmatrix}
0&0&0\\
1&0&0\\
0&0&1
\end{pmatrix} =\begin{pmatrix}
0&0\\
1&0
\end{pmatrix} \oplus \left(1\right) .
\]
La matrice $2\times 2$ est $B$, dont l'image numérique est le disque (figure~\ref{figimnum}). L'image numérique de la matrice $\left(1\right) $ est évidemment le point $1\in\CC$, et $W(E)$ est\ldots\ l'enveloppe convexe de la réunion des deux.

\section*{Indications bibliographiques}
Le petit livre \cite{gramain} est une introduction accessible (dans tous les sens du terme) à la théorie de Morse. On trouvera des rudiments de géométrie symplectique (entre autres choses) dans \cite{mmmc}. Le livre \cite{text} est complètement consacré aux techniques et théorèmes évoqués dans ces notes.

Bien que je n'aie utilisé ici qu'une toute petite partie de \cite{halmos82}, je profite de l'occasion pour conseiller sa lecture: l'idée directrice de ce livre est \og c'est en faisant des mathématiques qu'on les
apprend\fg, idée certes élémentaire mais peu développée dans la littérature.

Les autres références citées en bibliographie sont les sources originales des théorèmes énoncés et/ou démontrés ici.

\backmatter
\bibliographystyle{jepplain+eid}
\bibliography{xups95-01}

\end{document}

