diff options
| -rw-r--r-- | notes-calculabilite.tex | 605 | 
1 files changed, 605 insertions, 0 deletions
| diff --git a/notes-calculabilite.tex b/notes-calculabilite.tex new file mode 100644 index 0000000..835acea --- /dev/null +++ b/notes-calculabilite.tex @@ -0,0 +1,605 @@ +\documentclass[12pt,a4paper]{article}  % -*- coding: utf-8 -*- +\usepackage[a4paper]{geometry} +\usepackage[francais]{babel} +\usepackage[utf8]{inputenc} +\usepackage[T1]{fontenc} +\usepackage{times} +\usepackage{amsmath} +\usepackage{amsfonts} +\usepackage{amssymb} +\usepackage{amsthm} +\usepackage{mathrsfs} +%\usepackage{bm} +\usepackage{stmaryrd} +\usepackage{wasysym} +\usepackage{url} +\usepackage{graphicx} +\usepackage[usenames,dvipsnames]{xcolor} +%\usepackage{tikz} +%\usetikzlibrary{matrix,arrows,decorations.markings} +\usepackage{hyperref} +% +% +% +\theoremstyle{definition} +\newtheorem*{defn}{Définition} +\newtheorem*{prop}{Proposition} +\newtheorem*{lem}{Lemme} +\newtheorem*{thm}{Théorème} +\newtheorem*{cor}{Corollaire} +\renewcommand{\qedsymbol}{\smiley} +% +\mathchardef\emdash="07C\relax +\mathchardef\hyphen="02D\relax +\DeclareUnicodeCharacter{00A0}{~} +% +% +% +\begin{document} +\pretolerance=8000 +\tolerance=50000 + +\textbf{Discussion préalable.} On s'intéresse ici à la question de +savoir ce qu'un \textbf{algorithme} peut ou ne peut pas faire.  Pour +procéder de façon rigoureuse, il faudrait formaliser la notion +d'algorithme (par exemple à travers le concept de machine de Turing) : +on a préféré rester informel sur cette définition — par exemple « un +  algorithme est une série d'instruction précises indiquant des +  calculs à effectuer étape par étape et qui ne manipulent, à tout +  moment, que des données finies » ou « un algorithme est quelque +  chose qu'on pourrait, en principe, implémenter sur un ordinateur » — +étant entendu que cette notion est déjà bien connue et comprise, au +moins dans la pratique.  Les démonstrations du fait que tel ou tel +problème est décidable par un algorithme ou que telle ou telle +fonction est calculable par un algorithme deviennent beaucoup moins +lisibles quand on les formalise avec une définition rigoureuse +d'algorithme (notamment, programmer une machine de Turing est encore +plus fastidieux que programmer en assembleur un ordinateur, donc +s'il s'agit d'exhiber un algorithme, c'est probablement une mauvaise +idée de l'écrire sous forme de machine de Turing). + +Néanmoins, il est essentiel de savoir que ces formalisations +existent : on peut par exemple évoquer le paradigme du +$\lambda$-calcul de Church (la première formalisation rigoureuse de la +calculabilité), les fonctions générales récursives (=$\mu$-récursives) +à la Herbrand-Gödel-Kleene, les machines de Turing (des machines à +états finis capables de lire, d'écrire et de se déplacer sur un ruban +infini contenant des symboles d'un alphabet fini dont à chaque instant +tous sauf un nombre fini sont des blancs), les machines à registres, +le langage « FlooP » de Hofstadter, etc.  Toutes ces formalisations +sont équivalentes (au sens où, par exemple, elles conduisent à la même +notion de fonction calculable ou calculable partielle, définie +ci-dessous).  La \textbf{thèse de Church-Turing} affirme, au moins +informellement, que tout ce qui est effectivement calculable par un +algorithme\footnote{Voire, dans certaines variantes, physiquement +  calculable dans notre Univers.} est calculable par n'importe +laquelle de ces notions formelles d'algorithmes, qu'on peut rassembler +sous le nom commun de \textbf{calculabilité au sens de Church-Turing}, +ou « calculabilité » tout court. + +Notamment, quasiment tous les langages de programmation +informatique\footnote{C, C++, Java, Python, JavaScript, Lisp, OCaml, +  Haskell, Prolog, etc.  Certains langages se sont même révélés +  Turing-complets alors que ce n'était peut-être pas voulu : par +  exemple, HTML+CSS.}, au moins si on ignore les limites des +implémentations et qu'on les suppose capables de manipuler des +entiers, chaînes de caractère, tableaux, etc., de taille arbitraire +(mais toujours finie)\footnote{Autre condition : ne pas utiliser de +  générateur aléatoire matériel.}, sont « Turing-complets », +c'est-à-dire équivalents dans leur pouvoir de calcul à la +calculabilité de Church-Turing.  Pour imaginer intuitivement la +calculabilité, on peut donc choisir le langage qu'on préfère et +imaginer qu'on programme dedans.  Essentiellement, pour qu'un langage +soit Turing-complet, il lui suffit d'être capable de manipuler des +entiers de taille arbitraire, de les comparer et de calculer les +opérations arithmétiques dessus, et d'effectuer des tests et des +boucles. + +\medbreak + +Il faut souligner qu'on s'intéresse uniquement à la question de savoir +ce qu'un algorithme peut ou ne peut pas faire (calculabilité), pas au +temps ou aux autres ressources qu'il peut prendre pour le faire +(complexité), et on ne cherche donc pas à rendre les algorithmes +efficaces en quelque sens que ce soit.  Par exemple, pour arguër qu'il +existe un algorithme qui décide si un entier naturel $n$ est premier +ou non, il suffit de dire qu'on peut calculer tous les produits $pq$ +avec $2\leq p,q\leq n-1$ et tester si l'un d'eux est égal à $n$, peu +importe que cet algorithme soit absurdement inefficace.  De même, nos +algorithmes sont capables de manipuler des entiers arbitrairement +grands : ceci permet de dire, par exemple, que toute chaîne binaire +peut être considérée comme un entier, peu importe le fait que cet +entier ait peut-être des milliards de chiffres (dans les langages +informatiques réels, on a rarement envie de considérer toute donnée +comme un entier, mais en calculabilité on peut se permettre de le +faire). + +Notamment, plutôt que de considérer des « mots » (éléments +de $\Sigma^*$ avec $\Sigma$ un alphabet fini) et « langages » (parties +de $\Sigma^*$), il sera plus pratique de remplacer l'ensemble +$\Sigma^*$ des mots par l'ensemble des entiers naturels, quitte à +choisir un codage (calculable !) des mots par des entiers.  (À titre +d'exemple, on obtient une bijection de l'ensemble $\{0,1\}^*$ des mots +sur l'alphabet à deux lettres avec $\mathbb{N}$ de la façon suivante : +ajouter un $1$ au début du mot, lire celui-ci comme un nombre binaire, +et soustraire $1$.  Plus généralement, une fois choisi un ordre total +sur l'alphabet fini $\Sigma$, on peut trier les mots par ordre de +taille, et, à taille donnée, par ordre lexicographique, et leur +associer les entiers naturels dans le même ordre : il n'est pas +difficile de montrer que cela donne bien une bijection calculable +entre $\Sigma^*$ et $\mathbb{N}$.) + +\medbreak + +\textbf{Terminaison des algorithmes.} Un algorithme qui effectue un +calcul utile doit certainement terminer en temps fini.  Néanmoins, +même si on voudrait ne s'intéresser qu'à ceux-ci, il n'est pas +possible d'ignorer le « problème » des algorithmes qui ne terminent +jamais (et ne fournissent donc aucun résultat).  C'est le point +central de la calculabilité (et du théorème de Turing ci-dessous) +qu'on ne peut pas se débarrasser des algorithmes qui ne terminent +pas : on ne peut pas, par exemple, formaliser une notion +suffisante\footnote{Tout dépend, évidemment, de ce qu'on appelle +  « suffisant » : il existe bien des notions de calculabilité, plus +  faibles que celle de Church-Turing, où tout calcul termine, voir par +  exemple la notion de fonction « primitive récursive » ou le langage +  « BlooP » de Hofstadter ; mais de telles notions ne peuvent pas +  disposer d'une machine universelle comme expliqué plus loin (en +  raison d'un argument diagonal), donc elles sont nécessairement +  incomplètes en un certain sens.} de calculabilité dans laquelle tout +algorithme termine toujours ; ni développer un langage de +programmation suffisamment général dans lequel il est impossible qu'un +programme « plante » indéfiniment ou parte en boucle infinie.  (Cette +subtilité est d'ailleurs sans doute en partie responsable de la +difficulté historique à dégager la bonne notion d'« algorithme » : on +a commencé par développer des notions d'algorithmes terminant +forcément, comme les fonctions primitives récursives, et on se rendait +bien compte que ces notions étaient forcément toujours incomplètes.) + +\bigbreak + +\begin{defn} +On dit qu'une fonction $f\colon\mathbb{N}\to\mathbb{N}$ est +\textbf{calculable} (ou « récursive ») lorsqu'il existe un algorithme +qui prend en entrée $n\in\mathbb{N}$, termine toujours en temps fini, +et calcule (renvoie) $f(n)$. + +On dit qu'un ensemble $A \subseteq \mathbb{N}$ (« langage ») est +\textbf{décidable} (ou « calculable » ou « récursif ») lorsque sa +fonction indicatrice $\mathbf{1}_A \colon \mathbb{N} \to \mathbb{N}$ +(valant $1$ sur $A$ et $0$ sur son complémentaire) est calculable. +Autrement dit : lorsqu'il existe un algorithme qui prend en entrée +$n\in\mathbb{N}$, termine toujours en temps fini, et renvoie +« oui » ($1$) si $n\in A$, « non » ($0$) si $n\not\in A$ (on dira que +l'algorithme « décide » $A$). + +On dit qu'une fonction partielle +$f\colon\mathbb{N}\dasharrow\mathbb{N}$ (c'est-à-dire une fonction +définie sur une partie de $\mathbb{N}$, appelé ensemble de définition +de $f$) est \textbf{calculable partielle} (ou « récursive partielle ») +lorsqu'il existe un algorithme qui prend en entrée $n\in\mathbb{N}$, +termine en temps fini ssi $f(n)$ est définie, et dans ce cas calcule +(renvoie) $f(n)$.  (Une fonction calculable est donc simplement une +fonction calculable partielle qui est toujours définie : on dira +parfois « calculable totale » pour souligner ce fait.) + +On dit qu'un ensemble $A \subseteq \mathbb{N}$ est +\textbf{semi-décidable} (ou « semi-calculable » ou « semi-récursif ») +lorsque la fonction partielle $\mathbb{N}\dasharrow\mathbb{N}$ définie +exactement sur $A$ et y valant $1$, est calculable partielle. +Autrement dit : lorsqu'il existe un algorithme qui prend en entrée +$n\in\mathbb{N}$, termine en temps fini ssi $n \in A$, et renvoie +« oui » ($1$) dans ce cas\footnote{En fait, la valeur renvoyée n'a pas +  d'importance ; on peut aussi définir un ensemble semi-décidable +  comme l'ensemble de définition d'une fonction calculable partielle.} +(on dira que l'algorithme « semi-décide » $A$). +\end{defn} + +On s'est limité ici à des fonctions d'une seule variable (entière), +mais il n'y a pas de difficulté à étendre ces notions à plusieurs +variables, et de parler de fonction calculable $\mathbb{N}^k \to +\mathbb{N}$ (voire $\mathbb{N}^* \to \mathbb{N}$ avec $\mathbb{N}^*$ +l'ensemble des suites finies d'entiers naturels) ou de fonction +calculable partielle de même type : de toute manière, on peut « coder » +un couple d'entiers naturels comme un seul entier naturel (par exemple +par $(m,n) \mapsto 2^m(2n+1)$, qui définit une bijection calculable +$\mathbb{N}^2 \to \mathbb{N}$), ou bien sûr un nombre fini quelconque +(même variable), ce qui permet de faire « comme si » on avait toujours +affaire à un seul paramètre entier. + +{\footnotesize \textbf{Complément :} Comme on n'a pas défini +  formellement la notion d'algorithme, il peut être utile de signaler +  explicitement les faits suivants (qui devraient être évidents sur +  toute notion raisonnable d'algorithme) : les fonctions constantes +  sont calculables ; les opérations arithmétiques usuelles sont +  calculables ; les projections $(n_1,\ldots,n_k) \mapsto n_i$ sont +  calculables, ainsi que la fonction qui à $(m,n,p,q)$ associe $p$ si +  $m=n$ et $q$ sinon ; toute composée de fonctions calculables +  (partielle ou totale) est calculable idem ; si $\underline{m} +  \mapsto g(\underline{m})$ est calculable (partielle ou totale) et +  que $(\underline{m}, n, v) \mapsto h(\underline{m}, n, v)$ l'est, +  alors la fonction $f$ définie par récurrence par $f(\underline{m},0) +  = g(\underline{m})$ et $f(\underline{m},n+1) = h(\underline{m}, n, +  f(\underline{m},n))$ est encore calculable idem (algorithmiquement, +  il s'agit juste de boucler $n$ fois) ; et enfin, si $(\underline{m}, +  n) \mapsto g(\underline{m},n)$ est calculable partielle, alors la +  fonction $f$ (aussi notée $\mu_n g$) définie par $f(\underline{m}) = +  \min\{n : g(\underline{m},n) = 0 \land \forall n'<n +  (g(\underline{m},n')\downarrow)\}$ (et non définie si ce $\min$ +  n'existe pas) est calculable partielle (algorithmiquement, on teste +  $g(\underline{m},0),g(\underline{m},1),g(\underline{m},2)\ldots$ +  jusqu'à tomber sur $0$).  Ces propriétés peuvent d'ailleurs servir à +  \emph{définir} rigoureusement la notion de fonction calculable, +  c'est le modèle des fonctions « générales récursives ».  (Dans ce +  qui précède, la notation $\underline{m}$ signifie +  $m_1,\ldots,m_k$.)\par} + +\textbf{Exemples :} L'ensemble des nombres pairs, des carrés parfaits, +des nombres premiers, sont décidables, c'est-à-dire qu'il est +algorithmique de savoir si un nombre est pair, parfait, ou premier. +Quitte éventuellement à coder les mots d'un alphabet fini comme des +entiers naturels (cf. plus haut), tout langage rationnel, et même tout +langage défini par une grammaire hors-contexte, est décidable.  On +verra plus bas des exemples d'ensembles qui ne le sont pas, et qui +sont ou ne sont pas semi-décidables. + +\medbreak + +Les deux propositions suivantes, outre leur intérêt intrinsèque, +servent à donner des exemples du genre de manipulation qu'on peut +faire avec la notion de calculabilité et d'algorithme : + +\begin{prop} +Un ensemble $A \subseteq \mathbb{N}$ est décidable ssi $A$ et +$\mathbb{N}\setminus A$ sont tous les deux semi-décidables. +\end{prop} +\begin{proof} +Il est évident qu'un ensemble décidable est semi-décidable (si un +algorithme décide $A$, on peut l'exécuter puis effectuer une boucle +infinie si la réponse est « non » pour obtenir un algorithme qui +semi-décide $A$) ; il est également évident que le complémentaire d'un +ensemble décidable est décidable (quitte à échanger les réponses +« oui » et « non » dans un algorithme qui le décide).  Ceci montre +qu'un ensemble décidable est semi-décidable de complémentaire +semi-décidable, i.e., la partie « seulement si ».  Montrons maintenant +le « si » : si on dispose d'algorithmes $T_1$ et $T_2$ qui +semi-décident respectivement $A$ et son complémentaire, on peut lancer +leur exécution en parallèle sur $n \in \mathbb{N}$ (c'est-à-dire +exécuter une étape de $T_1$ puis une étape de $T_2$, puis de $T_1$, et +ainsi de suite jusqu'à ce que l'un des deux termine) : comme il y en a +toujours (exactement) un qui termine, selon lequel c'est, ceci permet +de décider algorithmiquement si $n \in A$ ou $n \not\in A$. +\end{proof} + +\begin{prop} +Un ensemble $A \subseteq \mathbb{N}$ non vide est semi-décidable ssi +il existe une fonction calculable $f \colon \mathbb{N} \to \mathbb{N}$ +dont l'image ($f(\mathbb{N})$) vaut $A$ (on dit aussi que $A$ est +« calculablement énumérable » ou « récursivement énumérable »). +\end{prop} +\begin{proof} +Montrons qu'un ensemble semi-décidable non vide est calculablement +énumérable.  Fixons $n_0 \in A$ une fois pour toutes.  Soit $T$ un +algorithme qui semi-décide $A$.  On définit une fonction $f \colon +\mathbb{N}^2 \to \mathbb{N}$ de la façon suivante : $f(m,n) = n$ +lorsque l'algorithme $T$, exécuté sur l'entrée $n$, termine au +plus $m$ étapes ; sinon, $f(m,n) = n_0$.  On a bien sûr $f(m,n) \in A$ +dans tous les cas ; par ailleurs, si $n \in A$, comme l'algorithme $T$ +appliqué à $n$ doit terminer, on voit que pour $m$ assez grand on a +$f(m,n) = n$, donc $n$ est bien dans l'image de $f$.  Ceci montre que +$f(\mathbb{N}^2) = A$.  Passer à $f\colon \mathbb{N} \to\mathbb{N}$ +est alors facile en composant par une bijection calculable $\mathbb{N} +\to \mathbb{N}^2$ (par exemple la réciproque de $(m,n) \mapsto +2^m(2n+1)$). + +Réciproquement, si $A$ est calculablement énumérable, disons $A = +f(\mathbb{N})$ avec $f$ calculable, on obtient un algorithme qui +semi-décide $A$ en calculant successivement $f(0)$, $f(1)$, $f(2)$, +etc., jusqu'à trouver un $k$ tel que $f(k)=n$ (où $n$ est l'entrée +proposée), auquel cas l'algorithme renvoie « oui » (et sinon, il ne +termine jamais puisqu'il effectue une boucle infinie à la recherche +d'un tel $k$). +\end{proof} + +{\footnotesize \textbf{Clarification :} Les deux démonstrations +  ci-dessus font appel à la notion intuitive d'« étape » de +  l'exécution d'un algorithme.  Un peu plus précisément, pour chaque +  entier $m$ et chaque algorithme $T$, il est possible d'« exécuter au +    plus $m$ étapes » de l'algorithme $T$, c'est-à-dire commencer +  l'exécution de celui-ci, et si elle n'est pas finie au bout de $m$ +  étapes, s'arrêter (on n'aura pas le résultat de l'exécution de $T$, +  juste l'information « ce n'est pas encore fini » et d'éventuels +  résultats intermédiaires, mais on peut décider de faire autre chose, +  y compris reprendre l'exécution plus tard).  La longueur d'une +  « étape » n'est pas spécifiée et n'a pas d'importance, les choses +  qui importent sont que (A) le fait d'exécuter les $m$ premières +  étapes de $T$ termine toujours (c'est bien l'intérêt), et (B) si +  l'algorithme $T$ termine effectivement, alors pour $m$ suffisamment +  grand, exécuter au plus $m$ étapes donne bien le résultat final +  de $T$ résultat.\par} + +{\footnotesize \textbf{Complément/exercice :} Un ensemble $A \subseteq +  \mathbb{N}$ infini est décidable ssi il existe une fonction +  calculable $f \colon \mathbb{N} \to \mathbb{N}$ +  \underline{strictement croissante} dont l'image vaut $A$. +  (Esquisse : si $A$ est décidable, on peut trouver son $n$-ième +  élément par ordre croissant en testant l'appartenance à $A$ de tous +  les entiers naturels dans l'ordre jusqu'à trouver le $n$-ième qui +  appartienne ; réciproquement, si on a une telle fonction, on peut +  tester l'appartenance à $A$ en calculant les valeurs de la fonction +  jusqu'à tomber sur l'entier à tester ou le dépasser.)  En mettant +  ensemble ce fait et la proposition, on peut en déduire le fait +  suivant : tout ensemble semi-décidable infini a un sous-ensemble +  décidable infini (indication : prendre une fonction qui énumère +  l'ensemble et jeter toute valeur qui n'est pas strictement plus +  grande que toutes les précédentes).\par} + +\bigbreak + +\textbf{Codage et machine universelle.}  Les algorithmes sont +eux-mêmes représentables par des mots sur un alphabet fini donc, si on +préfère, par des entiers naturels : on parle aussi de \textbf{codage +  de Gödel} des algorithmes/programmes par des entiers.  On obtient +donc une énumération $\varphi_0, \varphi_1, \varphi_2, +\varphi_3\ldots$ de toutes les fonctions calculables partielles (la +fonction $\varphi_e$ étant la fonction que calcule l'algorithme [codé +  par l'entier] $e$, avec la convention que si cet algorithme est +syntaxiquement invalide ou erroné pour une raison quelconque, la +fonction $\varphi_e$ est simplement non-définie partout).  Les détails +de cette énumération dépendent de la formalisation utilisée pour la +calculabilité. + +Un point crucial dans cette numérotation des algorithmes est +l'existence d'une \textbf{machine universelle}, c'est-à-dire d'un +algorithme $U$ qui prend en entrée un entier $e$ (codant un +algorithme $T$) et un entier $n$, et effectue la même chose que $T$ +sur l'entrée $n$ (i.e., $U$ termine sur les entrées $e$ et $n$ ssi $T$ +termine sur l'entrée $n$, et, dans ce cas, renvoie la même valeur). + +Informatiquement, ceci représente le fait que les programmes +informatiques sont eux-mêmes représentables informatiquement : dans un +langage de programmation Turing-complet, on peut écrire un +\emph{interpréteur} pour le langage lui-même (ou pour un autre langage +Turing-complet), c'est-à-dire un programme qui prend en entrée la +représentation $e$ d'un autre programme et qui exécute ce programme +(sur une entrée $n$). + +Mathématiquement, on peut le formuler comme le fait que la fonction +(partielle) $(e,n) \mapsto \varphi_e(n)$ (= résultat du $e$-ième +algorithme appliqué sur l'entrée $n$) est elle-même calculable +partielle. + +Philosophiquement, cela signifie que la notion d'exécution d'un +algorithme est elle-même algorithmique : on peut écrire un algorithme +qui, donnée une description (formelle !) d'un algorithme et une entrée +à laquelle l'appliquer, effectue l'exécution de l'algorithme fourni +sur l'entrée fournie. + +On ne peut pas démontrer ce résultat ici faute d'une description +rigoureuse d'un modèle de calcul précis, mais il n'a rien de +conceptuellement difficile (même s'il peut être fastidieux à écrire +dans les détails : écrire un interpréteur d'un langage de +programmation demande un minimum d'efforts). + +{\footnotesize \textbf{Compléments :} Les deux résultats classiques +  suivants sont pertinents en lien avec la numérotation des fonctions +  calculables partielles.  $\bullet$ Le \emph{théorème de la forme +    normale de Kleene} assure qu'il existe un ensemble +  \underline{décidable} $\mathscr{T} \subseteq \mathbb{N}^4$ tel que +  $\varphi_e(n)$ soit défini ssi il existe $m,v$ tels que $(e,n,m,v) +  \in \mathscr{T}$, et dans ce cas $\varphi_e(n) = v$ (pour s'en +  convaincre, il suffit de définir $\mathscr{T}$ comme l'ensemble des +  $(e,n,m,v)$ tels que le $e$-ième algorithme exécuté sur l'entrée $n$ +  termine en au plus $m$ étapes et renvoie le résultat $v$ : le fait +  qu'on dispose d'une machine universelle et qu'on puisse exécuter $m$ +  étapes d'un algorithme assure que cet ensemble est bien décidable — +  il est même « primitif récursif »). $\bullet$ Le \emph{théorème +    s-m-n} assure qu'il existe une fonction calculable $s$ telle que +  $\varphi_{s(e,\underline{m})}(\underline{n}) = +  \varphi_e(\underline{m},\underline{n})$ (intuitivement, donné un +  algorithme qui prend plusieurs entrées et des valeurs +  $\underline{m}$ de certaines de ces entrées, on peut fabriquer un +  nouvel algorithme dans lequel ces valeurs ont été fixées — c'est à +  peu près trivial — mais de plus, cette transformation est +  \emph{elle-même algorithmique}, i.e., on peut algorithmiquement +  substituer des valeurs $\underline{m}$ dans un programme [codé par +    l'entier] $e$ : c'est intuitivement clair, mais cela ne peut pas +  se démontrer avec les seules explications données ci-dessus sur +  l'énumération des fonctions calculables partielles, il faut regarder +  précisément comment le codage standard est fait pour une +  formalisation de la calculabilité).\par} + +La machine universelle n'a rien de « magique » : elle se contente de +suivre les instructions de l'algorithme $T$ qu'on lui fournit, et +termine ssi $T$ termine.  Peut-on savoir à l'avance si $T$ terminera ? +C'est le fameux « problème de l'arrêt ». + +\smallbreak + +Intuitivement, le « problème de l'arrêt » est la question +« l'algorithme suivant termine-t-il sur l'entrée suivante » ? + +\begin{defn} +On appelle \textbf{problème de l'arrêt} l'ensemble des couples $(e,n)$ +tels que le $e$-ième algorithme termine sur l'entrée $n$, i.e., +$\{(e,n) \in \mathbb{N}^2 : \varphi_e(n)\downarrow\}$ (où la notation +« $\varphi_e(n)\downarrow$ » signifie que $\varphi_e(n)$ est défini, +i.e., l'algorithme termine).  Quitte à coder les couples d'entiers +naturels par des entiers naturels (par exemple par $(e,n) \mapsto +2^e(2n+1)$), on peut voir le problème de l'arrêt comme une partie +de $\mathbb{N}$.  On peut aussi préférer\footnote{Même si au final +  c'est équivalent, c'est \textit{a priori} plus fort de dire que $\{e +  \in \mathbb{N} : \varphi_e(e)\downarrow\}$ n'est pas décidable que +  de dire que $\{(e,n) \in \mathbb{N}^2 : \varphi_e(n)\downarrow\}$ ne +  l'est pas.} définir le problème de l'arrêt comme $\{e \in \mathbb{N} +: \varphi_e(e)\downarrow\}$, on va voir dans la démonstration +ci-dessous que c'est cet ensemble-là qui la fait fonctionner. +\end{defn} + +{\footnotesize (On pourrait aussi définir le problème de l'arrêt comme +  $\{e \in \mathbb{N} : \varphi_e(0)\downarrow\}$ si on voulait, ce +  serait moins pratique pour la démonstration, mais cela ne changerait +  rien au résultat comme on peut le voir en appliquant le théorème +  s-m-n.)\par} + +\begin{thm}[Turing] +Le problème de l'arrêt est semi-décidable mais non décidable. +\end{thm} +\begin{proof} +Le problème de l'arrêt est semi-décidable en vertu de l'existence +d'une machine universelle : donnés $e$ et $n$, on exécute le $e$-ième +algorithme sur l'entrée $n$ (c'est ce que fait la machine +universelle), et s'il termine on renvoie « oui » (et s'il ne termine +pas, bien sûr, on n'a pas de choix que de ne pas terminer). + +Montrons par l'absurde que le problème de l'arrêt n'est pas décidable. +S'il l'était, on pourrait définir un algorithme qui, donné un entier +$e$, effectue les calculs suivants : (1º) utiliser le problème de +l'arrêt (supposé décidable !) pour savoir, algorithmiquement en temps +fini, si le $e$-ième algorithme termine quand on lui passe son propre +numéro $e$ en entrée, i.e., si $\varphi_e(e)\downarrow$, (2º) si oui, +effectuer une boucle infinie, et si non, terminer, en renvoyant, +disons, $42$.  L'algorithme qui vient d'être décrit aurait un certain +numéro, disons, $p$, et la description de l'algorithme fait que, +quelque soit $e$, la valeur $\varphi_p(e)$ est indéfinie si +$\varphi_e(e)$ est définie tandis que $\varphi_p(e)$ est définie (de +valeur $42$) si $\varphi_e(e)$ est indéfinie.  En particulier, en +prenant $e=p$, on voit que $\varphi_p(p)$ devrait être défini si et +seulement si $\varphi_p(p)$ n'est pas défini, ce qui est une +contradiction. +\end{proof} + +La démonstration ci-dessus est une instance de l'« argument diagonal » +de Cantor, qui apparaît souvent en mathématiques.  (La « diagonale » +en question étant le fait qu'on considère $\varphi_e(e)$, i.e., on +passe le numéro $e$ d'un algorithme en argument à cet algorithme +lui-même, donc on regarde la diagonale de la fonction de deux +variables $(e,n) \mapsto \varphi_e(n)$ ; en modifiant les valeurs sur +cette diagonale, on produit une fonction qui ne peut pas se trouver +dans une ligne $\varphi_p$.)  Une variante facile du même argument +permet de fabriquer des ensembles non semi-décidables (voir le +« bonus » ci-dessous), ou bien on peut appliquer ce qui précède : + +\begin{cor} +Le complémentaire du problème de l'arrêt n'est pas semi-décidable. +\end{cor} +\begin{proof} +On a vu que le problème de l'arrêt n'est pas décidable, et qu'un +ensemble est décidable ssi il est semi-décidable et que son +complémentaire l'est aussi : comme le problème de l'arrêt est bien +semi-décidable, son complémentaire ne l'est pas. +\end{proof} + +{\footnotesize \textbf{Complément :} L'argument diagonal est aussi au +  cœur du (voire, équivalent au) \emph{théorème de récursion de +    Kleene}, qui affirme que pour toute fonction calculable partielle +  $h\colon\mathbb{N}^2\dasharrow\mathbb{N}$, il existe $p$ tel que +  $\varphi_p(n) = h(p,n)$ pour tout $n$ (la signification intuitive de +  ce résultat est qu'on peut supposer qu'un programme a accès à son +  propre code source $p$, i.e., on peut programmer comme s'il recevait +  en entrée un entier $p$ codant ce code source ; ceci permet par +  exemple — de façon anecdotique mais amusante — d'écrire des +  programmes, parfois appelés « quines », qui affichent leur propre +  code source sans aller le chercher sur disque ou autre tricherie). +  \textit{Démonstration :} donné $e \in \mathbb{N}$, on considère +  $s(e,m)$ tel que $\varphi_{s(e,m)}(n) = \varphi_e(m,n)$ : le +  théorème s-m-n (cf. ci-dessus) assure qu'une telle fonction +  calculable $(e,m) \mapsto s(e,m)$ existe, et $(e,n) \mapsto +  h(s(e,e), n)$ est alors aussi calculable partielle ; il existe donc +  $q$ tel que $\varphi_q(e,n) = h(s(e,e), n)$ : on pose $p = s(q,q)$, +  et on a $\varphi_p(n) = \varphi_q(q,n) = h(s(q,q), n) = h(p, n)$, +  comme annoncé. \smiley\ La non-décidabilité du problème de l'arrêt +  s'obtient en appliquant (de nouveau par l'absurde) ce résultat à +  $h(e, n)$ la fonction qui n'est pas définie si $\varphi_e(n)$ l'est +  et qui vaut $42$ si $\varphi_e(n)$ n'est pas définie.\par} + +La non-décidabilité du problème de l'arrêt est un résultat +fondamental, car très souvent les résultats de non-décidabilité soit +sont démontrés sur un modèle semblable, soit s'y ramènent +directement : pour montrer qu'un certain ensemble $A$ (un +« problème ») n'est pas décidable, on cherche souvent à montrer que si +un algorithme décidant $A$ existait, on pourrait s'en servir pour +construire un algorithme résolvant le problème de l'arrêt. + +{\footnotesize \textbf{Bonus / exemple(s) :} L'ensemble des $e \in +  \mathbb{N}$ tels que la fonction calculable partielle $\varphi_e$ +  soit \underline{totale} (i.e., définie sur tout $\mathbb{N}$) n'est +  pas semi-décidable.  En effet, s'il l'était, d'après ce qu'on a vu, +  il serait « calculablement énumérable », c'est-à-dire qu'il +  existerait une fonction calculable $f\colon\mathbb{N}\to\mathbb{N}$ +  dont l'image soit exactement l'ensemble des $e$ pour lesquels +  $\varphi_e$ est totale, i.e., toute fonction calculable totale +  s'écrirait sous la forme $\varphi_{f(k)}$ pour un certain $k$.  Mais +  la fonction $n \mapsto \varphi_{f(n)}(n) + 1$ est calculable totale, +  donc il devrait exister un $m$ tel que cette fonction s'écrive +  $\varphi_{f(m)}$, c'est-à-dire $\varphi_{f(m)}(n) = +  \varphi_{f(n)}(n) + 1$, et on aurait alors en particulier +  $\varphi_{f(m)}(m) = \varphi_{f(m)}(m) + 1$, une +  contradiction. $\bullet$ Son complémentaire, c'est-à-dire +  l'ensemble des $e \in \mathbb{N}$ tels que la fonction calculable +  partielle $\varphi_e$ \underline{ne soit pas} totale, n'est pas non +  plus semi-décidable.  En effet, supposons qu'il existe un algorithme +  qui, donné $e$, termine ssi $\varphi_e$ n'est pas totale.  Donnés +  $e$ et $m$, considérons l'algorithme qui prend une entrée $n$, +  \emph{ignore} celle-ci, et effectue le calcul $\varphi_e(m)$ : ceci +  définit une fonction calculable partielle (soit totale et constante, +  soit définie nulle part !) $\varphi_{s(e,m)}$ où $s$ est calculable +  (on applique ici le théorème s-m-n) — en appliquant à $s(e,m)$ +  l'algorithme supposé semi-décider si une fonction récursive +  partielle est non-totale, on voit qu'ici il semi-décide si +  $\varphi_e(m)$ est non-défini, autrement dit on semi-décide le +  complémentaire du problème de l'arrêt, et on a vu que ce n'était pas +  possible !\par} + +{\footnotesize \textbf{Exercice :} Considérons une fonction $h$ qui à +  $e$ associe un nombre au moins égal au nombre d'étapes +  (cf. ci-dessus) du calcul de $\varphi_e(e)$, si celui-ci termine, et +  une valeur quelconque si $\varphi_e(e)$ n'est pas défini.  Alors $h$ +  n'est pas calculable.  (Indication : si elle l'était, on pourrait +  décider si $\varphi_e(e)$ est défini en exécutant son calcul pendant +  $h(e)$ étapes.)  On peut même montrer que $H(n) := \max\{h(i) : +  i\leq n\}$ domine asymptotiquement n'importe quelle fonction +  calculable mais c'est un peu plus difficile.\par} + +\medbreak + +{\footnotesize \textbf{Application à la logique :} Sans rentrer dans +  les détails de ce que signifie un « système formel », on peut +  esquisser, au moins informellement, les arguments suivants. +  Imaginons qu'on ait formalisé la notion de démonstration +  mathématique (c'est-à-dire qu'on les écrit comme des mots dans un +  alphabet indiquant quels axiomes et quelles règles logiques sont +  utilisées) : même sans savoir quelle est exactement la logique +  formelle, le fait de \emph{vérifier} qu'une démonstration est +  correcte doit certainement être algorithmique (il s'agit simplement +  de vérifier que chaque règle a été correctement appliquée), +  autrement dit, l'ensemble des démonstrations est décidable. +  L'ensemble des théorèmes, lui, est semi-décidable (on a un +  algorithme qui semi-décide si un certain énoncé est un théorème en +  énumérant toutes les chaînes de caractères possibles et en cherchant +  s'il s'agit d'une démonstration valable dont la conclusion est +  l'énoncé recherché).  Or l'ensemble des théorèmes n'est pas +  décidable : en effet, si on avait un algorithme qui permet de +  décider si un énoncé mathématique est un théorème, on pourrait +  appliquer cet algorithme à l'énoncé formel (*)« le $e$-ième +  algorithme termine sur l'entrée $e$ », en observant qu'un tel +  énoncé, s'il est vrai, est forcément démontrable (i.e., si +  l'algorithme termine, on peut \emph{démontrer} ce fait en écrivant +  étape par étape l'exécution de l'algorithme pour constituer une +  démonstration qu'il a bien été appliqué jusqu'au bout et a terminé), +  et en espérant que s'il est démontrable alors il est vrai : on +  aurait alors une façon de décider le problème de l'arrêt, une +  contradiction.  Mais du coup, l'ensemble des non-théorèmes ne peut +  pas être semi-décidable ; or comme l'ensemble des énoncés $P$ tels +  que $\neg P$ (« non-$P$ », la négation logique de $P$) soit un +  théorème est semi-décidable (puisque l'ensemble des théorèmes +  l'est), ils ne peuvent pas coïncider.  Ceci montre qu'il existe un +  énoncé tel que ni $P$ ni $\neg P$ ne sont des théorèmes : c'est une +  forme du \emph{théorème de Gödel} que Turing cherchait à démontrer ; +  mieux : en appliquant aux énoncés du type (*), on montre ainsi qu'il +  existe un algorithme qui \emph{ne termine pas} mais dont la +  non-terminaison \emph{n'est pas démontrable}.  (Modulo quelques +  hypothèses qui n'ont pas été explicitées sur le système formel dans +  lequel on travaille.)\par} + +\end{document} | 
