Des domaines plus étranges

Le cours vous a fait percer un trou, puis deux, et vous a montré qu’un trou coupe la droite en deux morceaux, deux trous en trois. La question qui vient ensuite est trop grande pour une marge, et la voici : jusqu’où peut-on aller ?

Reprenons le compte

Un trou en $a$ donne deux intervalles :

$\mathbb{R} \setminus \{a\} = \left]-\infty\,;a\right[ \;\cup\; \left]a\,;+\infty\right[$

Deux trous en donnent trois, trois trous en donnent quatre. La règle est claire, et l’Atelier vous la fait généraliser : $n$ trous distincts découpent la droite en $n+1$ intervalles.

Rien n’oblige à s’arrêter là. Une expression comme

$x \longmapsto \frac{1}{(x-1)(x-2)(x-3)(x-4)(x-5)}$

a cinq valeurs interdites, donc six morceaux, et l’on voit bien qu’en allongeant le produit on obtient autant de trous que l’on veut. Le domaine reste parfaitement défini, la fonction parfaitement légitime, et sa courbe se dessine sans difficulté : six branches séparées.

Une infinité de trous

Allons plus loin, et perçons une infinité de trous. Considérons la fonction définie sur les réels qui ne sont pas des entiers, c’est-à-dire sur $\mathbb{R}$ privé de $\mathbb{Z}$.

Le domaine existe : il s’écrit sans peine par compréhension.

$\mathcal{D} = \{\, x \in \mathbb{R} \mid x \text{ n'est pas un entier} \,\}$

Il est fait d’une infinité d’intervalles ouverts, un entre chaque paire d’entiers consécutifs, et sa courbe est faite d’une infinité de petits morceaux. C’est étrange, mais rien n’y contrevient au cours : chaque nombre du domaine a bien une image, et une seule.

On peut faire pire, et de loin. Rien n’interdit un domaine réduit aux seuls entiers, auquel cas la courbe n’est plus qu’une poussière de points isolés, sans aucun trait à tracer entre eux. C’est le cas de toutes les suites que vous rencontrerez plus tard, et vous voyez qu’il n’y a là aucune bizarrerie : une suite est simplement une fonction dont le domaine est fait d’entiers.

Le monstre de Dirichlet

Le cas extrême a un nom, et il a été construit exprès, en 1829, par celui-là même qui allait donner huit ans plus tard la définition moderne de fonction. Dirichlet cherchait alors à cerner ce qu’une correspondance peut être quand on ne lui demande rien de plus que l’unicité. Il a donc fabriqué l’objet le plus désobligeant qu’il pouvait imaginer, et c’est cet objet qui a préparé la définition de 1837 bien plus qu’il ne l’a illustrée.

Sa fonction est définie sur $\mathbb{R}$ tout entier, sans le moindre trou. Elle vaut $1$ si le nombre est rationnel, c’est-à-dire s’il s’écrit comme quotient de deux entiers, et $0$ sinon.

Prenez le temps de vérifier qu’elle satisfait la définition du cours. À chaque réel, elle associe une valeur : oui, tout réel est rationnel ou ne l’est pas. Une seule : oui, il ne peut pas être les deux. Elle est donc une fonction, sans discussion possible.

Et pourtant : essayez de la dessiner. Entre deux rationnels, si proches soient-ils, il y a des irrationnels ; entre deux irrationnels, il y a des rationnels. La courbe devrait donc sauter de la hauteur $0$ à la hauteur $1$ à chaque point, une infinité de fois dans le plus petit intervalle que vous puissiez tracer. Aucun stylet ne l’écrira jamais, aucune machine ne l’imprimera, et le dessin habituel qu’on en donne (deux droites horizontales en pointillé) est un mensonge commode.

Ce que le monstre démontre vraiment

On croit souvent que cette fonction est une curiosité gratuite, une farce de mathématicien. Elle est exactement l’inverse : c’est un argument, et le plus économique possible.

Avant Dirichlet, on pouvait croire que la définition « à chaque $x$, une seule valeur » et l’idée intuitive « quelque chose qu’on peut dessiner d’un trait » désignaient à peu près la même chose. Un seul exemple suffit à séparer les deux idées pour toujours, et cet exemple-là les sépare de la manière la plus brutale : il est parfaitement défini partout, et nulle part dessinable.

C’est une leçon de méthode que vous retrouverez souvent. Pour montrer que deux notions ne coïncident pas, un exemple bien choisi vaut mieux qu’un long raisonnement. Le cours vous l’a déjà fait pratiquer en petit : pour réfuter l’idée qu’un nombre a toujours autant d’images que d’antécédents, il a suffi d’une fonction et d’un nombre sans antécédent.

Deux remarques pour finir

D’abord, ne vous méprenez pas sur le mot « monstre ». Ces objets ne sont pas des maladies des mathématiques : ce sont ses bornes, et une théorie qui ignore ses bornes finit toujours par se tromper sur son domaine de validité. Toute une branche de l’analyse s’est construite au XIX^e siècle en prenant ces exemples au sérieux plutôt qu’en les écartant.

Ensuite, vous n’aurez pas à travailler avec eux cette année. Le programme de seconde ne vous demandera que des domaines faits d’intervalles, avec au plus quelques trous. Mais il est utile de savoir, en écrivant ces trois lignes de rituel, que vous manipulez un outil taillé pour aller beaucoup plus loin que ce qu’on vous en demande. C’est souvent le signe qu’un outil est bon.