\documentclass[XUPS,XML,SOM,Unicode,francais, NoFloatCountersInSection, NoEqCountersInSection, ThmDefs]{cedram}
\setcounter{tocdepth}{2}
%\XUPScorrections

\DeclareMathOperator{\id}{Id}
\begin{document}
\frontmatter

\title[Problèmes de la théorie des systèmes dynamiques]{Sur quelques problèmes de la théorie des systèmes dynamiques}

\author[\initial{V.} \middlename{I.} \lastname{Arnold}]{\firstname{Vladimir} \middlename{I.} \lastname{Arnold}}

\address{Université de Paris-Dauphine\\
Place du Maréchal de Lattre de Tassigny, 75755 Paris cedex 16, France}

\thanks{Journées X-UPS 1994. Aspects des systèmes dynamiques (des équations différentielles aux itérations de fonctions). Prépublication du Centre de mathématique de l'École polytechnique, 1994, et Éditions de l'École polytechnique, 2009}

\maketitle

\tableofcontents
\mainmatter

\og Si j'ai fait quelque chose en mathématique, ce n'est pas à cause de savoir beaucoup, mais plutôt parce que j'ignorais beaucoup\fg disait I.G. Petrovski, un de mes maîtres en mathématique. \og Mais il a été toujours très important, ajoute-t-il, de savoir qu'un problème n'est pas encore résolu\fg. Les huit problèmes qui suivent sont, à ma connaissance, ouverts, et j'espère qu'il vous serait utile de le savoir.

\section{Les faux espaces \texorpdfstring{$\RR^{4}$}{R4} et les systèmes dynamiques}

Est-ce qu'on rencontre les faux $\RR^{4}$ (variétés différentiables homéomorphes mais pas difféomorphes à l'espace vectoriel $\RR^{4}$) dans l'analyse habituelle?

Je propose une construction naturelle, qui en principe décrit toutes les fausses variétés $\RR^{4}$ par des formules explicites (\cite{1}).

Considérons un champ de vecteurs dans l'espace vectoriel $\RR^{5}$.

\emph{La variété des orbites d'un tel champ (convenablement choisi) est difféomorphe à n'importe quelle fausse variété $\RR^{4}$ donnée.}

En effet, le produit cartésien du faux $\RR^{4}$ avec $\RR$ est difféomorphe à l'espace vectoriel $\RR^{5}$. Ainsi chaque faux $\RR^{4}$ peut être défini par 5~fonctions différentiables de 5~variables, par les composantes du champ.

\begin{enonce*}[remark]{Problème}
Est-ce qu'on peut obtenir un faux $\RR^{4}$ à partir d'un champ de vecteurs à composantes polynomiales? trigonométriques? analytiques? élémentai\-res? Peut-on écrire explicitement un tel champ de vecteurs?
\end{enonce*}

\section{La topologie pseudo-périodique}

La topologie pseudo-périodique est motivée par les problèmes de la physique quantique des solides et par la géométrie des quasi-cristaux, par l'étude des 1-formes fermées mais pas exactes, par l'étude du mélange lent et des \og toiles d'araignée stochastiques\fg dans les systèmes de Hamilton intégrables et presque intégrables.

\begin{enonce*}[remark]{Définition}
Une \emph{application pseudo-périodique} est la somme d'une application linéaire et d'une application périodique.
\end{enonce*}

\subsubsection*{Exemple}
L'expression $$ f (x, y) = ax + by + \sin x + \cos y $$ définit une fonction pseudo-périodique dans $\RR^{2}$ (à réseau des périodes $2 \pi \ZZ^{2}$).

\begin{enonce*}[remark]{Définition}
Une \emph{variété pseudo-périodique} est l'image inverse d'un point par une application pseudo-périodique.
\end{enonce*}

\subsubsection*{Exemple}
L'intersection d'une surface périodique dans $\RR^{3}$ (par exem\-ple d'une surface de Fermi) avec un plan irrationnel (orthogonal au \og champ magnétique\fg) est une courbe pseudo-périodique, étudiée par S. Novikov \cite{2}.

Considérons une courbe pseudo-périodique (mais pas périodique) dans $\RR^{n}$ (en fixant le réseau des périodes $\ZZ^{n}$).\enlargethispage{.5\baselineskip}

\emph{Supposons que le rang de la partie linéaire de l'application correspondante est maximal} (égal à $n-1$). Dans ce cas la courbe contient évidemment une branche infinie (à distance finie d'une ligne droite).

\begin{enonce*}[remark]{Problème}
La composante non compacte d'une telle courbe pseudo-pério\-dique est-elle toujours unique?
\end{enonce*}

\subsubsection*{Remarque 1} La conjecture d'unicité de la branche infinie n'est pas démon\-trée même si la partie linéaire de l'application pseudo-pério\-dique est générique (véri\-fiant, par exemple, les inégalités diophantiennes usuelles, violées seulement par les applications linéaires qui appartiennent à un ensemble de mesure de Lebesgue nulle).

\subsubsection*{Remarque 2} L'exemple des courbes planes $(n=2)$ montre qu'il peut exister une infinité de composantes \emph{compactes}.

\subsubsection*{Remarque 3} Le même exemple montre que dans le cas \emph{périodique} il peut exister un nombre arbitraire (impair) de branches infinies.

\subsubsection*{Remarque 4} Dans le cas $n=2$ (plus généralement, pour les \emph{hypersurfaces} pseudo-périodiques de dimension $n-1$ dans $\RR^{n}$) il n'y a qu'une composante non compacte (\cite{3}).

\subsubsection*{Remarque 5} Si l'application pseudo-périodique $f : \RR^{n}\to \RR^{n-1}$, définissant notre courbe, n'a pas de points singuliers (ce qui arrive, par exemple, quand la perturbation périodique est faible par rapport à la partie principale linéaire), chaque courbe $f^{-1}(c)$ n'a qu'une seule composante. Dans ce cas l'application $f$ est \og rectifiable\fg: elle peut être réduite à sa partie linéaire par un difféomorphisme du tore $\RR^{n}/\ZZ^{n}$ (voir \cite{4}; pour $n=2$ ce résultat est du à A.N. Kolmogorov \cite{5}).

\subsubsection*{Remarque 6} Récemment I. Dynnikov (étudiant du troisième cycle à l'Univer\-sité de Moscou) a démontré la conjecture d'unicité de la composante infinie pour les courbes planaires pseudo-périodiques dans~$\RR^{3}$ (quand une des deux fonctions pseudo-périodiques, définissant la courbe, est linéaire).

\subsubsection*{Exemple} La courbe planaire d'équation $$ y = ax + F (x, y, bx) $$ (ou $F$ est une fonction de période 1 par rapport à chacune de ses trois variables) contient une seule branche infinie, si $a$ est un nombre irrationnel.

\subsubsection*{Remarque 7} I. Dynnikov a aussi démontré la conjecture de S.P. Novikov \cite{2} sur les intersections des surfaces de Fermi avec des plans. La conjecture de Novikov affirmait que \emph{chaque composante connexe d'une telle courbe est située dans un voisinage fini d'une ligne droite.} La conjecture est démontrée pour les plans génériques (vérifiant des conditions diophantiennes habituelles). Cependant, Tzarev et Dynnikov ont construit des contre-exemples à cette conjecture pour des plans exceptionnels (formant un ensemble de mesure nulle).

\section{Les nombres des points périodiques et des cycles limites}

\begin{enonce*}[remark]{Définition} Un point $x$ est \emph{périodique de période} $n$ pour une application~$A$ si ce point est un point fixe pour l'itération de $A$: $$ A^{n} x = x\ . $$
\end{enonce*}

Soit $A : M \to M$ un difféomorphisme analytique d'une variété analytique compacte (par exemple, du tore $T^{2}$).
\begin{enonce*}[remark]{Problème}
Est-ce que le nombre des points périodiques de période $n$ est majoré par une fonction exponentielle de $n$?
\end{enonce*}

On suppose ici que les points périodiques sont non dégénérés (que~$1$ n'est pas une valeur propre de la dérivée de $A^{n}$ en $x$). Les difféomorphismes $A$ génériques n'ont pas des points périodiques dégénérés.

\subsubsection*{Remarque 1} L'exemple d'application du tore $T^{2}$, donnée par la matrice $\begin{smallpmatrix}2 &1\\ 1 &1\end{smallpmatrix}$, montre que le nombre des points périodiques de période $n$ peut croître au moins comme une fonction exponentielle de $n$ (même pour des applications génériques).

\subsubsection*{Remarque 2} M. Artin et B. Mazur ont démontré que le nombre de points de période $n$ est majoré par $C e^{\lambda n}$ pour les variétés et les applications \emph{algébriques} \cite{6}.

\begin{enonce*}[remark]{Problème}
Est-ce que le nombre des orbites périodiques de période au plus~$T$ d'un champ de vecteurs polynomial (dans une boule compacte de $\RR^{m}$) est majoré par une fonction exponentielle de $T$?
\end{enonce*}

\subsubsection*{Remarque 3} Par contre, pour les variétés et applications $C^{\infty}$ \emph{aucune} majoration n'est possible (\cite{7}).

\begin{enonce*}{Conjecture}
Le nombre des points périodiques d'une application $C^{\infty}$ croît presque toujours au plus comme une fonction exponentielle de la période.
\end{enonce*}

\og Presque toujours\fg veut dire ici \og pour presque toutes les valeurs des paramètres (au sens de la mesure de Lebesgue) dans chaque famille générique d'applications dépendant d'un nombre assez grand de paramètres\fg.

\subsubsection*{Remarque 4} Cette définition de généricité, permettant de négliger les phéno\-mè\-nes qu'on ne rencontre que dans les cas exceptionnels au sens de la théorie de la mesure dans les familles à un nombre fini des paramètres, est \emph{très différente} de celles des topologues et des probabilistes.

Les topologues, utilisant la catégorie, vont négliger un ensemble de Cantor dont la mesure constitue 99\% de la mesure totale de la variété considérée.

Les probabilistes considèrent des mesures dans les espaces de fonctions, concentrées sur des fonctions pas très lisses (comme le mouvement brownien).

La définition de \og presque toujours\fg décrite plus haut, introduite par Kolmogorov \cite{8}, est bien adaptée à la théorie des systèmes dynamiques.

\section{Complexité topologique asymptotique des intersections}

Ce problème généralisant le problème 3 est motivé par la théorie des solitons (voir \cite{2}).

Considérons deux sous-variétés compactes $X^{k}$ et $Y^{\ell}$ dans une variété compacte $M^{m}$. Soit $A : M \to M$ une application différentiable. Considérons les images successives de $X$ par l'action des itérations~$A^{n}$ de $A$. Pour mesurer leur complexité (croissante avec le temps $n$) on considère leurs intersections avec la variété immobile~$Y$: $$ Z (n) = (A^{n}X) \cap Y\ . $$ Cette intersection $Z$ est généralement une variété lisse de dimension $s = k + \ell -m$.

\emph{Le problème est d'étudier le comportement asymptotique de la complexité topolo\-gi\-que $|Z(n)|$ de $Z(n)$ en fonction du temps $n$.}

\subsubsection*{Exemple 1} Si les dimensions de $X$ et de $Y$ sont complémentaires, $Z(n)$ est génériquement un ensemble fini et $|Z(n)|$ est le nombre de ses points.

\subsubsection*{Exemple 2} Soit $g : \Omega \to \Omega$ un système dynamique générique. Considérons $M = \Omega \times \Omega,\ A = (\id, g),\ X = Y =$ la diagonale de $M$. Dans ce cas $Z (n)$ est l'ensemble fini des paires $(x, x)$ où $x$ est un point périodique de période $n$ de $g$. Le problème 3 est donc un cas particulier du problème 4.

\subsubsection*{Remarque 1} Si $(A, M, X, Y)$ sont des applications et variétés \emph{algébriques} réelles, la complexité topologique croît au plus comme une fonction exponentielle du temps: $$ |Z (n)| \leq Ce^{\lambda n}. $$ C'est démontré dans \cite{9}, \cite{10} pour les mesures de la complexité topologique telles que les nombres de Betti, les nombres caractéristiques etc.

Considérons maintenant le cas des variétés et applications $C^{\infty}$.

\begin{enonce*}[remark]{Problème}
Est-ce que la complexité topologique de l'intersection $Z(n)$ est majorée par une fonction exponentielle du temps $n$ presque toujours?
\end{enonce*}

\subsubsection*{Remarque 2} Si $A$ est un difféomorphisme, la conjecture est démontrée dans \cite{10} pour les mesures suivantes de la complexité topologique: nombre de composantes connexes, nombres de Betti, nombres de Morse, nombres caractéristiques, volume riemannien, courbure totale absolue etc.

Les démonstrations sont basées sur le lemme de Borel-Cantelli (l'iné\-galité de Tchebyshev) des probabilistes d'une part et sur la majo\-ration des nombres de Betti par la courbure totale absolue due à Chern et Lashov \cite{11} d'autre part.

\subsubsection*{Remarque 3} On peut aussi majorer le nombre des générateurs et le nombre des relations du groupe fondamental. Mais je ne sais démontrer aucune majoration des longueurs des relations.

\subsubsection*{Remarque 4} \og Presque toujours\fg dans \cite{10} veut dire: pour presque toutes les valeurs du paramètre $t$ dans les familles génériques de variétés immobiles $Y_{t}$ on a $$ |Z_{t}(n)| \leq C(t) e^{\lambda n} $$ pourvu que le nombre des paramètres, $p = \dim \{t\}$, soit suffisamment grand. Les arguments \og tomographiques\fg de \cite{10} utilisent $p$ d'ordre de grandeur $m^{2}$.

\subsubsection*{Remarque 5} Probablement, le résultat de \cite{10} reste vrai presque toujours si ce n'est pas $Y$, mais $A$ ou bien $X$ qui dépend des paramètres.

\subsubsection*{Remarque 6} Il existe des exemples $C^{\infty}$ et \emph{même analytiques} où $|Z(n)|$ croît plus vite que n'importe quelle fonction donnée (pour une suite croissante $n_{i}$ des moments du temps).

L'exemple \cite{12} de O. Koslovskiï (étudiant du premier cycle à l'Université de Moscou) est particulièrement instructif. Dans cet exemple, $M$ est le tore $T^{2}= \{ (x, y)\ {\rm mod}\ 2 \pi\}$, $X = Y$ est le cercle $y = 0$ et $A$ est un difféomorphisme analytique de la forme $$ (x, y) \mapsto (x + 2\pi \lambda, \ y+f (x)). $$ On choisit un nombre irrationnel $\lambda$ et une série \emph{très lacunaire} $$ f(x) = \sum_{i} f_{M_{i}} \sin M_{i}x\ . $$ La possibilité d'obtenir une croissance arbitraire de $|Z(n_{i})|$ est assuré par l'existence des nombres irrationnels $\lambda$ dont des éléments des fractions continues croissent aussi vite qu'on veut.

\section{Croissance des nombres de Milnor en dynamique holomorphe}

C'est une variante locale du problème 4. Considérons deux germes de courbes holomorphes passant par l'origine du plan $\CC^{2}$: $$ (X, 0) \hto (\CC^{2}, 0) \hfrom (Y, 0) $$ et un germe d'application holomorphe préservant l'origine $A : (\CC^{2}, 0) \to (\CC^{2}, 0)$.\enlargethispage{\baselineskip}

On fait bouger $X$ par les itérations de $A$ et on étudie les intersections de $A^{n}X$ avec $Y$.

\begin{enonce*}[remark]{Définition} Le \emph{nombre de Milnor} $\mu (n)$ est la multiplicité d'intersection des courbes $A^{n}X$ et $Y$ à l'origine. \end{enonce*}

\subsubsection*{Exemple} $A (x, y) = (x, y^{2})$, $X = \{(x, x)\}$, $Y = \{(x, 0)\}$. Les images $A^{n}X$ sont les \og paraboles\fg $y = x^{2^{n}}$, donc $\mu (n) = 2^{n}$.

Revenons au cas général des $(A, X, Y)$ quelconque.

\begin{enonce*}[remark]{Problème}
Est-ce que les nombres de Milnor $\mu (n)$ sont majorés par une fonction exponentielle du temps $n$?
\end{enonce*}

On suppose ici que $A$ est de multiplicité finie et que $A^{n}X$ et $Y$ sont différentes pour chaque $n$.

\subsubsection*{Remarque 1} La majoration exponentielle est démontrée dans \cite{13} pour le cas des courbes $A^{n}X$ lisses (comme celles de l'exemple).

\subsubsection*{Remarque 2} Il semble que la même majoration exponentielle soit vraie pour des sous-variétés holomorphes de dimension quelconque $(X^{k}, 0)$, $(Y^{\ell}, 0)$ de $(\CC^{m}, 0)$ et pour les nombres de Milnor généralisés qui sont définis par la construction suivante.

Considérons une filtration $V_{1} \supset V_{2}\supset V_{3}\supset\cdots$ algébrique de l'espace $V_{1}= J^{\infty}$ des jets infinis des paires d'applications holomorphes $$ f:(\CC^{k}, 0)\to (\CC^{m}, 0),\quad g:(\CC^{\ell}, 0)\to (\CC^{m}, 0) $$ à l'origine.

Les variétés $V_{i}$ sont des sous-variétés algébriques de $J^{\infty}$. Cela veut dire que chacune de ces variétés est définie par des équations polynomiales (donc portant sur un nombre fini de coefficients de Taylor). Ce nombre fini dépend cependant de $i$.

\begin{enonce*}[remark]{Définition} Le \emph{nombre de Milnor généralisé} $\mu (f, g)$ est le plus grand des nombres $i$ pour lesquels la paire $(f, g)$ appartient à $V_{i}$.
\end{enonce*}

\subsubsection*{Exemple} Les variantes locales des invariants topologiques (ou plus géné\-ra\-le\-ment discrets) des intersections considérées dans le problème 4 sont des nombres de Milnor généralisés (associés à des filtrations très spéciales).

\begin{enonce*}{Conjecture} Les nombres de Milnor généralisés $\mu (n)$ des couples $(A^{n}X, Y)$ sont majorés par une fonction exponentielle de $n$ (pourvu que $A$ soit une application de multiplicité finie et que tous ces nombres de Milnor soient finis).
\end{enonce*}

\subsubsection*{Remarque 3} Pour les difféomorphismes $A$ cette conjecture est vraie. De plus, dans ce cas \emph{la suite des nombres de Milnor généralisés $\mu (n)$ est bornée par une constante}. La démonstration de ce fait (\cite{13}) est basée sur le théorème suivant de Skolem.

\emph{Soit $ f (n) = a_1 f (n-1) + \cdots + a_{m} f (n-m) $ une suite récurrente. Alors l'ensemble des valeurs de $n$ telles que $f(n) =0$ est l'union d'un ensemble fini et d'un ensemble fini de progressions arithmétiques.}

Ce théorème de la théorie des nombres, démontré par un logicien, appartient en effet à la théorie des systèmes dynamiques.

\subsubsection*{Remarque 4} Les résultat de \cite{13} généralisent un théorème de M.~Shub et D.~Sullivan \cite{14}: les valeurs de l'indice de Poincaré des itérations d'un difféo\-mor\-phisme $(C^{1})$ à son point fixe sont bornées (à condition que tous ces indices soient finis). Dans les deux résultats les suites des valeurs (du nombre de Milnor généralisé et de l'indice) sont périodiques à partir d'un certain moment.

Le théorème de Shub et Sullivan a été généralisé par D. Fried \cite{26} qui a considéré au lieu de l'indice de Poincaré les indices complexes de Atiyah-Bott.

\section{La variante infinitésimale du 16\ieme problème de Hilbert et les inté\-grales abéliennes}

Le 16\ieme problème de Hilbert a deux parties: la question sur les ovales des courbes algébriques et celle sur les cycles limites des champs de vecteurs polynomiaux.

Entre ces deux problèmes il y a encore une question intermédiaire: l'étude des cycles limites nouveau-nés des courbes de niveau d'une intégrale première.

Ce problème contient, comme cas particulier, l'étude du nombre des zéros réels des périodes des intégrales abéliennes en fonction des paramètres. Supposons qu'un champ de vecteurs polynomial dans le plan ait une intégrale première, dont les courbes de niveau sont des cycles (remplissant au moins un certain anneau du plan).

Considérons les petites variations polynomiales (de degré fixé) de ce champ de vecteurs. Les places de naissance des cycles limites sont données en première appro\-xi\-ma\-tion par les zéros d'une certaine intégrale (trouvée par Poincaré) le long des orbites fermées non perturbées (ces orbites sont les courbes de niveau de l'intégrale première).

\begin{enonce*}[remark]{Problème}
Est-ce que le nombre de zéros de l'intégrale de Poincaré est borné (par une constante ne dépendant que du degré des perturbations)?
\end{enonce*}

\subsubsection*{Exemple} Le système de Lotka-Volterra généralisé $$ \dot x = x (a+b x+cy),\ \dot y = y (d+ex+fy) $$ a parfois une intégrale première $$ I = x^{\alpha} y^{\beta} z^{\gamma} $$ ou $z$ est une fonction linéaire (non homogène) de $x$ et $y$. Les orbites non perturbées $I = {\rm const.}$ sont des courbes algébriques ou non, dépendant des coefficients $(a, \dots , f)$. Le problème est de savoir \emph{si le nombre des orbites non perturbées qui engendrent des cycles limites est borné en fonction des degrés des perturbations}.

\subsubsection*{Remarque 1} Ce nombre est probablement borné par une constante commune pour toutes les valeurs des coefficients du système initial.

Mais on n'a pas démontré que le nombre des zéros de l'intégrale de Poincaré est borné même pour le cas des intégrales hypergéométriques (au sens de Gelfand, Varchenko, Aomoto et al.). correspondant aux systèmes de Lotka-Volterra généralisés individuels (et même aux systèmes de Lotka-Volterra non généralisés, où $b= f=0$).

\subsubsection*{Remarque 2} Dans le cas particulier où le système non perturbé est un système de Hamilton à fonction de Hamilton $H$ polynomiale le problème peut être formulé en termes de périodes d'intégrales abéliennes. Considérons l'intégrale abélienne complète $$ I (h) = \oint Pdx + Q dy\leqno (1) $$ le long de l'ovale de la courbe algébrique $H (x, y) =h$. Les polynômes $P(x, y)$ et $Q(x, y)$ décrivent la variation infinitésimale du champ de vecteurs de Hamilton, et~$I$ est l'intégrale de Poincaré.

\emph{Le problème est de borner le nombre des zéros réels de la fonction~$I$ pour tous les polynômes $(P, Q)$ de degré fixé.}

Ce problème de borne uniforme des nombres des zéros réels des intégrales abéliennes complètes a été résolu par A.N. Varchenko \cite{15} et par A.G. Hovanskiï \cite{16} par deux méthodes différentes. Mais ni l'une ni l'autre démonstration ne donnent une borne explicite, on démontre seulement \emph{l'existence} d'une telle borne pour le nombre des racines réelles de $I$.

\subsubsection*{Remarque 3} Dans le cas encore plus spécial du système à fonction de Hamilton cubique $$ H (x, y) = y^{2}+ x^{3}-x \leqno (2) $$ la borne exacte du nombre des zéros des intégrales de Poincaré (cette fois elliptiques) a été trouvée par G.S. Petrov, un étudiant du premier cycle de l'Université de Moscou \cite{17}.

La famille des fonctions (1) qu'on obtient de tous les polynômes $P, Q$ (de degré borné) forme un espace linéaire de dimension finie~$N$. Il existe donc des perturbations $(P, Q)$ telles que l'intégrale de Poincaré $I(h)$ a au moins $N-1$ zéros réels (situés même en des points arbitraires $h_{i}$).

\begin{enonce*}[remark]{Définition} Une famille linéaire de dimension $N$ des fonctions d'une vari\-able est \emph{une famille de Tchebyshev}, si le nombre de zéros de chaque fonction (non identiquement nulle) de la famille est plus petit que $N$. \end{enonce*}

L'équation différentielle linéaire dont les fonctions de la famille sont les solutions est appelée alors \emph{une équation disconjuguée}.

\begin{enonce*}{Théorème}[Petrov] La famille d'intégrales de Poincaré $I(h)$, corres\-pon\-dant au hamiltonien cubique $(2)$, est une famille de Tchebyschev.
\end{enonce*}

Les perturbations $(P, Q)$ définissant l'intégrale (1) sont ici des polynômes arbitraires de degré au plus $n$. La famille des intégrales (1) est en ce cas de dimension~$n$. Ainsi le nombre maximal des zéros réels des intégrales de Poincaré (1) dans le cas~(2) est égal au degré de la perturbation moins $1$.

\subsubsection*{Remarque 4} Les résultats de Petrov montrent que l'équation de Picard-Fuchs (de la connexion de Gauss-Manin correspondante) est disconjuguée. La théo\-rie de Sturm symplectique (voir \cite{18}) suggère que cette propriété de disconjugaison doit être liée à un principe variationnel pour cette équation de Picard-Fuchs linéaire, dont le lagrangien (quadratique) doit être défini positif.

Dans ce cas les théorèmes de la géométrie symplectique entraîneraient la propriété de disconjugaison lagrangienne: le nombre des moments de la non transversalité d'un plan lagrangien mobile avec un plan immobile serait minimal.

Pour un hamiltonien hyperelliptique $H = y^{2}+p (x)$ ce programme a été réalisé par A.B. Givental \cite{19}. Il a démontré la propriété de disconjugaison lagrangienne de l'équation de Picard-Fuchs correspondante.

\enlargethispage{\baselineskip}%
Malheureusement, la disconjugaison lagrangienne n'implique pas directement une borne pour le nombre de zéros des solutions particulières de l'équation linéaire de Hamilton (elle donne seulement la borne du nombre de zéros de certains déterminants, formes de plusieurs solutions).

\section{La matérialisation des résonances en dynamique holomorphe}

Il est bien connu depuis les travaux de Poincaré en mécanique céleste que les résonances (les commensurabilités des fréquences) entraînent la divergence des séries décrivant les mouvements perturbés (due aux \og petits dénominateurs\fg qui s'annulent quand une résonance exacte a lieu).

La divergence de la série de Taylor de la fonction ${\rm arctg}\, x$ pour $|x|> 1$ s'explique par la présence d'une singularité complexe au point~$i$. Cette singularité, présentant un obstacle topologique à la convergence, matérialise une divergence autrement mystérieuse.

L'idée de la matérialisation des résonances est de trouver des obstacles topologi\-ques à la convergence des séries de la théorie des perturbations dans le comportement des orbites du système perturbé dans l'espace des phases complexe.

On trouvera beaucoup d'exemples de réalisation de ce programme dans \cite{20}, \cite{21}, \cite{22}. Les démonstrations de Poincaré et de Siegel de la divergence des séries de la théorie des perturbations peuvent être interprétées comme des indications de la présence d'orbites périodiques (de très longues périodes) dans les voisinages complexes de l'espace des phases réels.

Je présente ici ma vieille (1958) conjecture de ce genre qui reste, semble-t-il, non démontrée même aujourd'hui (au moins formellement).

Considérons une application holomorphe d'un voisinage $G$ d'un cercle $S^{1}$ (plongé dans le plan complexe $\CC$) sur un autre voisinage du même cercle,\vspace*{-3pt}\enlargethispage{\baselineskip}
$$ A:(G, S^{1}) \to (G', S^{1})\ . $$ Supposons, que $A$ induise sur le cercle $S^{1}$ un difféomorphisme, conjugué à une rotation $R_{\lambda}$ d'angle $2\pi \lambda$ par un difféomorphisme conjuguant~$B$ qui est holomorphe sur un voisinage du cercle:\vspace*{-3pt}
$$ A = B R_{\lambda} B^{-1}. $$ Supposons que le \og nombre de rotation de Poincaré\fg, $\lambda$, soit irrationnel.

\subsubsection*{Remarque 1} D'après une autre conjecture de 1958, démontrée par M. Herman \cite{23}, le difféomorphisme holomorphe $B$ existe si le nombre de rotation $\lambda$ de $A$ vérifie les conditions diophantiennes habituelles (violées seulement par un ensemble de $\lambda$ de mesure de Lebesgue nulle).

\subsubsection*{Exemple} Une fonction $f$ holomorphe au voisinage de l'axe réel, $2\pi$-pério\-di\-que et réelle sur cette axe, définit un difféomorphisme $x \mapsto x + f(x)$ du cercle $\{x\ {\rm mod}\ 2\pi\}$, si $f'(x) > -1$ sur l'axe réel.

Supposons que l'anneau maximal $M$ (difféomorphe à $S^{1}\times \RR$) dans lequel l'application $A$ est conjuguée à la rotation, soit contenu dans le voisinage $G$ du cercle $S^{1}$ avec sa frontière $\partial M$.

Dans ce cas la conjecture de la matérialisation des résonances peut être formulée comme le

\begin{enonce*}[remark]{Problème}
Est-ce que chaque voisinage de chaque point de la frontière $\partial M$ contient un point périodique de $A$? Est-ce que c'est au moins vrai génériquement?
\end{enonce*}

\subsubsection*{Remarque 2} Les points périodiques de $A$ sont en dehors du voisinage du cercle où $A$ est conjugué à une rotation irrationnelle $R_{\lambda}$. Donc ces points empêchent la convergence des séries de la théorie des perturbations et matérialisent les résonances.

\subsubsection*{Remarque 3} Dans le cas où le difféomorphisme conjuguant $B$ n'est pas holomorphe, on attend l'existence des points périodiques dans chaque voisinage de chaque point du cercle $S^{1}$.

\subsubsection*{Remarque 4} Les conjectures d'approximation de la frontière de conjugaison par les points périodiques peuvent être formulées pour le cas local d'un point fixe d'application holomorphe $A :(\CC, 0) \to (\CC, 0)$ ayant la dérivée $e^{2\pi i \lambda}$ à l'origine. On attend génériquement des points périodiques au voisinage du bord $\partial M$ du disque maximal $M$ où $A$ est holomorphiquement conjugué à une rotation.

\subsubsection*{Remarque 5} Pour les nombres de rotation $\lambda$ irrationnels exceptionnels J.C.~Yoccoz et R.~Perez-Marco ont construit des applications polynomiales $A$ telles que les points périodiques n'approximent pas la frontière $\partial M$ de l'anneau ou du disque d'holomorphie du difféomorphisme conjuguant.

\subsubsection*{Remarque 6} Par contre, pour les nombres de rotation $\lambda$ génériques ils ont démontré la conjecture d'approximation pour les applications polynomiales et rationnelles.

\subsubsection*{Remarque 7} Il semble que le problème reste ouvert (au moins formellement) même pour des applications définies par des \emph{polynômes trigonométriques}, par exemple pour les applications de forme $x \mapsto x + a +b \sin x$, pour lesquelles la conjecture d'approximation a été originellement formulée en 1958.

\subsubsection*{Remarque 8} Il reste beaucoup à faire dans le programme général de la matérialisation des résonances. Je cite, par exemple, les travaux récents de M.B. Mishustin sur les formes normales des voisinages des courbes holomorphes sur les surfaces holomorphes.

\subsubsection*{Remarque 9} Tout récemment J. Moser a étudié les perturbations des cour\-bes holomorphes sur la surface du tore $\CC^{2}/\ZZ^{4}$ lors d'une perturbation pseudo-holomor\-phe de la structure holomorphe du tore. Sans doute on peut construire une théorie de matérialisation des résonances pour ce problème, parallèle à la théorie des bifurcations des courbes elliptiques sur les surfaces holomorphes, construite dans \cite{21}.

\section{Irrésolubilité analytique et irrésolubilité géométrique dans la théo\-rie du chaos}

Il semble que le comportement chaotique des systèmes dynamiques rend indé\-ci\-dable les questions trop précises sur leur structure.\enlargethispage{2.5\baselineskip}

Je présente ici quelques vieilles conjectures (voir \cite{24}, \cite{25}) sur la non-décidabilité de problèmes classiques de la théorie des systèmes dynamiques tels que les problèmes de la stabilité des points stationnaires, de l'intégrabilité en quadrature des équations différentielles ordinaires et de l'intégrabilité complète des systèmes de Hamilton en mécanique. Mes définitions de l'irrésolubilité sont très différentes de celles de l'algèbre et de la théorie des algorithmes des logiciens.

Dans l'esprit de la géométrie des variétés, la résolubilité d'un problème ne doit pas dépendre du système des coordonnées utilisé pour définir les données du problème (les parties droites des équations différentielles, les fonctions de Hamilton etc.)

\begin{enonce*}[remark]{Définition 1} Un problème est \emph{géométriquement irrésoluble} si, parmi les problèmes qu'on obtient du problème donné par des changements difféomorphes des coordonnées et des paramètres, il n'y a pas de problème résoluble analytiquement (au sens de la définition $2$ donnée dans la suite).
\end{enonce*}

\subsubsection*{Exemple}
Considérons un champ de vecteurs dépendant des paramètres au voisinage d'un point stationnaire. Le problème de la stabilité de ce point pour cette famille est géométriquement irrésoluble si ce problème est analytiquement irrésoluble pour chaque famille équivalente (par les difféomorphismes locaux dépendant des paramètres) à la famille donnée.

\subsubsection*{Remarque 1} Le problème de l'intégration d'une équation différentielle est géométriquement résoluble au voisinage d'un point non singulier du champ de vec\-teurs correspondant, bien que ce problème peut être analytiquement irrésoluble pour certains champs. Ce problème est probablement géométriquement irrésoluble au voisinage d'un point singulier, même pour les champs polynomiaux.

La définition de la résolubilité analytique des problèmes analytiques locaux dont il est question plus haut (et qui est décrite plus bas) est très libérale. Par exemple, toutes les équations diophantiennes sont dans ce sens résolubles. Donc l'irrésolubilité analytique dans ce sens est une propriété beaucoup plus forte que l'irrésolubilité algorithmique.

Comme données d'un problème analytique local, je considère un nombre fini de séries de Taylor \emph{dans un système de coordonnées fixées}. Pour le problème de la stabilité d'un point stationnaire ce sont les séries des composantes du champ de vecteurs en ce point. L'espace de leurs polynômes de Taylor de degré donné est donc aussi muni des coordonnées privilégiées. La définition de résolubilité analytique décrit les opérations permises menant à la solution.

On commence par la définition des fonctions, des variétés et des applications \emph{admissibles} dans les espaces arithmétiques $\RR^{N}$ et $\CC^{N}$. Ce sont des ensembles minimaux de variétés et d'\og applications\fg ayant les propriétés suivantes:\enlargethispage{2.5\baselineskip}
\begin{enumerate}
\item
les espaces arithmétiques $\RR^{N}$ et $\CC^{N}$ (pour tout $n$) sont des variétés admissibles;
\item
chaque application rationnelle est admissible;
\item
l'image et l'image inverse par une application admissible d'une variété admissible est admissible;
\item
les intersections et les unions de paires des variétés admissibles sont admissibles, aussi bien que les compléments et les produits directs;
\item
la composition de deux applications admissibles est admissible;
\item
une application (même multiforme) est admissible si et seulement si son graphe est une variété admissible;
\item
si $f (x, y)$ est une fonction admissible, alors sa dérivée par rapport à $x$ ainsi que sa primitive (dont la branche est fixée par les valeurs initiales sur une sous-variété admissible) sont admissibles.
\end{enumerate}

\subsubsection*{Remarque 2} La primitive en question est donnée par l'intégration complexe. Le graphe de cette fonction multiforme est donc une variété admissible.

Ainsi le prolongement analytique est dans cette théorie une opération admissible, aussi bien que toutes les opérations arithmétiques, la dérivation, l'intégration, les substitutions et l'inversion.

\subsubsection*{Remarque 3} On peut construire une notion de résolubilité analytique basée sur l'intégration réelle. Cette théorie est différente de celle qu'on discute ici. Par exemple, la fonction $\sin$ sur la droite réelle est admissible si l'intégration complexe est permise, mais n'est pas contenue dans l'ensemble minimal des fonctions admissibles, si seule l'intégration réelle est permise (bien que la restriction de cette fonction sur chaque intervalle fini de la droite réelle soit toujours une fonction admissible).

La fonction $\sin$ étant admissible, l'ensemble des entiers l'est aussi. Il résulte que l'ensemble des valeurs entières du paramètre $y$, tel que le polynôme $f (x, y)$ a une racine entière $x$, est admissible, quelque soit le polynôme donné $f$ à coefficients entiers.

Considérons pour simplifier un problème analytique local \emph{binaire}, c'est-à-dire ayant deux solutions possibles: \og oui\fg ou \og non\fg (comme le problème de la stabilité d'un point stationnaire). Pour chaque valeur de $k$ l'espace des polynômes de Taylor de degré $k$ des données d'un problème local binaire est divisé en trois parties:

$A_k$: les polynômes de Taylor pour lesquels la réponse est \og oui\fg (indépendamment des termes de plus haut degré);

$B_k$: les polynômes de Taylor pour lesquels la réponse est \og non\fg (indépendam\-ment des termes de plus haut degré);

$C_k$: les polynômes de Taylor pour lesquels la réponse dépend des termes de plus haut degré.

\begin{enonce*}[remark]{Définition 2}[voir {\cite{24}}]
Un problème analytique local binaire est \emph{analytiquement résoluble} si
\begin{enumerate}
\item
les ensembles $A_{k}, B_{k}, C_{k}$ sont des variétés admissibles (pour chaque $k$),
\item
les codimensions des variétés $C_{k}$ tendent vers l'infini avec le degré $k$ des polynômes de Taylor.
\end{enumerate}
\end{enonce*}

\begin{enonce*}[remark]{Problème}
Est-ce que le problème de la stabilité d'un point stationnaire d'un champ de vecteurs dans $\RR^{n}$ est géométriquement résoluble?
\end{enonce*}

\subsubsection*{Remarque 4} Une vieille conjecture (voir par exemple \cite{25}) dit que ce problè\-me n'est probablement ni analytiquement ni même géométriquement résoluble (au moins si $n \geq 3$).\enlargethispage{\baselineskip}

Je pense que les ensembles $A_{k}, B_{k}, C_{k}$ ne sont pas admissibles même pour des valeurs de $k$ assez petites, peut être même pour $k=2$ (pour $k=1$ ces ensembles sont admissibles d'après le théorème classique de Lyapounov, quelque soit $n$).

\subsubsection*{Remarque 5} Je pense que les problèmes de l'intégrabilité en quadrature et de l'intégrabilité complète des systèmes de Hamilton eux aussi ne sont ni analytiquement ni même géométriquement résolubles (dans un sens semblable à celui décrit plus haut pour les problèmes locaux binaires).

\subsubsection*{Remarque 6} Il est même possible qu'il existe des systèmes complètement intégrables dont l'intégrabilité n'est cependant \emph{pas décidable par des opérations ana\-ly\-ti\-ques} utilisant les données du problème (notamment l'expression de la fonction de Hamilton en termes des coordonnées standard $(p, q)$ dans l'espace des phases). Je ne vois pas de raison pour que cela n'arrive pas, par exemple, pour les fonctions de Hamilton polynomiales.

\subsubsection*{Remarque 7} J'espère que la démonstration d'insolubilité de problèmes tels que le problème de la stabilité (dans le sens décrit plus haut) n'est pas possible sans un vrai progrès dans la compréhension du comportement des systèmes dynamiques: ce n'est pas un problème de logique.

Les problèmes précédents sont formulés, suivant la tradition russe, dans une forme aussi peu générale que possible. Il est facile de les généraliser. Je crois, quand même, que ce sont les problèmes concrets qui restent la source principale --- et peut-être unique --- de l'inspiration des mathématiciens et de toutes les théories générales.

\backmatter
\bibliographystyle{jepplain+eid}
\bibliography{xups94-01}
\end{document}
