path: root/notes-inf105.tex

%% This is a LaTeX document.  Hey, Emacs, -*- latex -*- , get it?
\documentclass[12pt,a4paper]{article}
\usepackage[francais]{babel}
\usepackage[utf8]{inputenc}
\usepackage[T1]{fontenc}
%\usepackage{ucs}
\usepackage{times}
% A tribute to the worthy AMS:
\usepackage{amsmath}
\usepackage{amsfonts}
\usepackage{amssymb}
\usepackage{amsthm}
%
\usepackage{mathrsfs}
\usepackage{wasysym}
\usepackage{url}
%
\usepackage{graphics}
\usepackage[usenames,dvipsnames]{xcolor}
\usepackage{tikz}
\usetikzlibrary{arrows,automata,positioning}
\usepackage[hyperindex=false]{hyperref}
%
\theoremstyle{definition}
\newtheorem{comcnt}{Tout}[subsection]
\newcommand\thingy{%
\refstepcounter{comcnt}\smallbreak\noindent\textbf{\thecomcnt.} }
\newtheorem{defn}[comcnt]{Définition}
\newtheorem{prop}[comcnt]{Proposition}
\newtheorem{lem}[comcnt]{Lemme}
\newtheorem{thm}[comcnt]{Théorème}
\newtheorem{cor}[comcnt]{Corollaire}
\newtheorem{scho}[comcnt]{Scholie}
\newtheorem{algo}[comcnt]{Algorithme}
\renewcommand{\qedsymbol}{\smiley}
%
\newcommand{\limp}{\mathrel{\Longrightarrow}\relax}
\newcommand{\liff}{\mathrel{\Longleftrightarrow}\relax}
%
\DeclareUnicodeCharacter{00A0}{~}
\DeclareUnicodeCharacter{03B5}{$\varepsilon$}
%
\DeclareMathSymbol{\tiret}{\mathord}{operators}{"7C}
\DeclareMathSymbol{\traitdunion}{\mathord}{operators}{"2D}
%
%
\DeclareFontFamily{U}{manual}{} 
\DeclareFontShape{U}{manual}{m}{n}{ <->  manfnt }{}
\newcommand{\manfntsymbol}[1]{%
    {\fontencoding{U}\fontfamily{manual}\selectfont\symbol{#1}}}
\newcommand{\dbend}{\manfntsymbol{127}}% Z-shaped
\newcommand{\danger}{\noindent\hangindent\parindent\hangafter=-2%
  \hbox to0pt{\hskip-\hangindent\dbend\hfill}}
%
%
% NOTE: compile dot files with
% dot2tex --figonly -f tikz --tikzedgelabels --graphstyle=automaton file.dot  > file.tex
\tikzstyle{automaton}=[>=stealth',initial text={},thick,every loop/.style={min distance=7mm,looseness=5}]
\tikzstyle{state}=[]
\tikzstyle{final}=[accepting by arrow]
%
%
%
\begin{document}
\title{THL (Théorie des langages)\\Notes de cours \textcolor{red}{provisoires}}
\author{David A. Madore}
\maketitle

\centerline{\textbf{INF105}}

{\footnotesize
\immediate\write18{sh ./vc > vcline.tex}
\begin{center}
Git: \input{vcline.tex}
\end{center}
\immediate\write18{echo ' (stale)' >> vcline.tex}
\par}

\pretolerance=8000
\tolerance=50000


%
%
%

{\color{red}\textbf{Mise en garde :} Ce document est \emph{inachevé et
    en cours de rédaction}.  Il a été très peu relu, et il est donc
  probable qu'il contienne de nombreuses erreurs, y compris dans les
  parties à peu près terminées.  La numérotation des parties, et à
  plus forte raison des sous-parties est sujette à modification ; la
  terminologie pourrait également être amenée à évoluer.  Consulter la
  ligne « Git » ci-dessus pour la date de dernière modification ;
  l'historique complet est disponible sur
  \url{http://git.madore.org/cgit/teach/inf105.git/} ; ne pas hésiter
  à faire remonter à l'auteur toutes sortes de corrections,
  suggestions d'amélioration ou questions sur le fond.\bigbreak}

{\footnotesize
\tableofcontents
\par}

\bigbreak

\section{Alphabets, mots et langages ; langages rationnels}

\subsection{Introduction, alphabets, mots et longueur}

\thingy L'objet de ces notes, au confluent des mathématiques et de
l'informatique, est l'étude des \textbf{langages} : un langage étant
un ensemble de \textbf{mots}, eux-mêmes suites finies de
\textbf{lettres} choisies dans un \textbf{alphabet}, on va commencer
par définir ces différents termes avant de décrire plus précisément
l'objet de l'étude.

\thingy Le point de départ est donc ce que les mathématiciens
appelleront un \textbf{alphabet}, et qui correspond pour les
informaticiens à un \textbf{jeu de caractères}.  Il s'agit d'un
ensemble \emph{fini}, sans structure particulière, dont les éléments
s'appellent \textbf{lettres}, ou encore \textbf{caractères} dans une
terminologie plus informatique, ou parfois aussi \textbf{symboles}.

Les exemples mathématiques seront souvent donnés sur un alphabet tel
que l'alphabet à deux lettres $\{a,b\}$ ou à trois lettres
$\{a,b,c\}$.  On pourra aussi considérer l'alphabet $\{0,1\}$ appelé
\textbf{binaire} (puisque l'alphabet n'a pas de structure
particulière, cela ne fait guère de différence par rapport à n'importe
quel autre alphabet à deux lettres).  Dans un contexte informatique,
des jeux de caractères (=alphabets) souvent importants sont ASCII,
Latin-1 ou Unicode : en plus de former un ensemble, ces jeux de
caractère attribuent un numéro à chacun de leurs éléments (par
exemple, la lettre A majuscule porte le numéro 65 dans ces trois jeux
de caractères), mais cette structure supplémentaire ne nous
intéressera pas ici.  Dans tous les cas, il est important pour la
théorie que l'alphabet soit \emph{fini}.

L'alphabet sera généralement fixé une fois pour toutes dans la
discussion, et désigné par la lettre $\Sigma$ (sigma majuscule).

\thingy Un \textbf{mot} sur l'alphabet $\Sigma$ est une suite finie de
lettres (éléments de $\Sigma$) ; dans la terminologie informatique, on
parle plutôt de \textbf{chaîne de caractères}, qui est une suite finie
(=liste) de caractères.  Le mot est désigné en écrivant les lettres
les unes à la suite des autres : autrement dit, si $x_1,\ldots,x_n \in
\Sigma$ sont des lettres, le mot formé par la suite finie
$x_1,\ldots,x_n$ est simplement écrit $x_1\cdots x_n$.  À titre
d'exemple, $abbcab$ est un mot sur l'alphabet $\Sigma = \{a,b,c,d\}$,
et \texttt{foobar} est un mot (=chaîne de caractères) sur l'alphabet
ASCII.  (Dans un contexte informatique, il est fréquent d'utiliser une
sorte de guillemet pour délimiter les chaînes de caractères : on
écrira donc \texttt{\char`\"foobar\char`\"} pour parler du mot en
question.  Dans ces notes, nous utiliserons peu cette convention.)

L'ensemble des mots sur un alphabet $\Sigma$ est généralement
désigné $\Sigma^*$ (on verra que l'étoile fait partie d'un usage plus
général qui sera défini ci-dessous).  Par exemple, si $\Sigma =
\{0,1\}$, alors $\Sigma^*$ est l'ensemble (infini !) dont les éléments
sont toutes les suites finies binaires (=suites finies de $0$ et
de $1$).

\thingy Le nombre $n$ de lettres dans un mot $w \in \Sigma^*$ est
appelé la \textbf{longueur} du mot, et généralement notée $|w|$ ou
bien $\ell(w)$ : autrement dit, si $x_1,\ldots,x_n \in \Sigma$, alors
la longueur $\ell(x_1\cdots x_n)$ du mot $x_1\cdots x_n$, vaut $n$.
Ceci coïncide bien avec la notion usuelle de longueur d'une chaîne de
caractères en informatique.  À titre d'exemple, sur l'alphabet
$\Sigma=\{a,b,c,d\}$, la longueur du mot $abbcab$ vaut $6$ (on écrira
$|abbcab|=6$ ou bien $\ell(abbcab)=6$).

\thingy Quel que soit l'alphabet, il existe un unique mot de
longueur $0$, c'est-à-dire un unique mot n'ayant aucune lettre, appelé
le \textbf{mot vide} (ou la \textbf{chaîne [de caractères] vide}).
Étant donné qu'il n'est pas commode de désigner un objet par une
absence de symbole, on introduit un symbole spécial, généralement
$\varepsilon$, pour désigner ce mot vide : on a donc
$|\varepsilon|=0$.  On souligne que le symbole $\varepsilon$
\underline{ne fait pas partie} de l'alphabet $\Sigma$, c'est un
symbole \emph{spécial} qui a été introduit pour désigner le mot vide.
(Lorsque les mots sont délimités par des guillemets, comme il est
usage pour les chaînes de caractères en informatique, le mot vide n'a
pas besoin d'un symbole spécial : il s'écrit juste
\texttt{\char`\"\char`\"} — sans aucun caractère entre les
guillemets.)

{\footnotesize Lorsque l'alphabet $\Sigma$ est \emph{vide},
  c'est-à-dire $\Sigma=\varnothing$, alors le mot vide est le seul mot
  qui existe : on a $\Sigma^*=\{\varepsilon\}$ dans ce cas.  C'est la
  seule situation où l'ensemble $\Sigma^*$ des mots est un ensemble
  fini.  Dans la suite, nous négligerons parfois ce cas particulier,
  qu'on pourra oublier : c'est-à-dire que nous ferons parfois
  l'hypothèse tacite que $\Sigma \neq \varnothing$.\par}

La notation $\Sigma^+$ est parfois utilisée pour désigner l'ensemble
des mots \emph{non vides} sur l'alphabet $\Sigma$ (par opposition à
$\Sigma^*$ qui désigne l'ensemble de tous les mots, y compris le mot
vide).

\thingy\label{convention-on-words-of-length-one} Les mots d'une seule
lettre sont naturellement en correspondance avec les lettres
elles-mêmes : on identifiera souvent tacitement, quoique un peu
abusivement, une lettre $x\in\Sigma$ et le mot de longueur $1$ formé
de la seule lettre $x$.  (En informatique, cette identification entre
\emph{caractères} et \emph{chaînes de caractères de longueur $1$} est
faite par certains langages de programmation, mais pas par tous :
\textit{caveat programmator}.)  Ceci permet d'écrire par exemple
$\Sigma \subseteq \Sigma^*$ ou bien $|x|=1 \liff x\in\Sigma$.

\thingy\label{number-of-words-of-length-n} Si le cardinal de
l'alphabet $\Sigma$ vaut $\#\Sigma = N$, alors, pour chaque $n$, le
nombre de mots de longueur exactement $n$ est égal à $N^n$
(combinatoire classique).  Le nombre de mots de longueur $\leq n$ vaut
donc $1 + N + \cdots + N^n = \frac{N^{n+1}-1}{N-1}$ (somme d'une série
géométrique).


\subsection{Concaténation de mots, préfixes, suffixes, facteurs, sous-mots}

\thingy Si $u := x_1\cdots x_m$ et $v := y_1\cdots y_n$ sont deux
mots, de longueurs respectives $m$ et $n$, sur un même
alphabet $\Sigma$, alors on définit un mot $uv := x_1\cdots x_m
y_1\cdots y_n$ de longueur $m+n$, dont les lettres sont obtenues en
mettant bout à bout celles de $u$ puis celles de $v$ (dans cet ordre),
et on l'appelle \textbf{concaténation} (ou, si cela ne prête pas à
confusion, simplement \textbf{produit}) des mots $u$ et $v$.  (Dans un
contexte informatique, on parle de concaténation de chaînes de
caractères.)

\thingy Parmi les propriétés de la concaténation, signalons les faits
suivants :
\begin{itemize}
\item le mot vide $\varepsilon$ est « \textbf{neutre} » pour la
  concaténation, ce qui signifie par définition : $\varepsilon w = w
  \varepsilon = w$ quel que soit le mot $w \in \Sigma^*$ ;
\item la concaténation est « \textbf{associative} », ce qui signifie
  par définition : $u(vw) = (uv)w$ quels que soient les mots $u,v,w
  \in \Sigma^*$.
\end{itemize}

On peut traduire de façon savante ces deux propriétés en une phrase :
l'ensemble $\Sigma^*$ est un \textbf{monoïde}, d'élément
neutre $\varepsilon$, pour la concaténation (cela signifie exactement
ce qui vient d'être dit).

\thingy On a par ailleurs $|uv| = |u| + |v|$ (la longueur de la
concaténation de deux mots est la somme des concaténations), et on
rappelle par ailleurs que $|\varepsilon| = 0$ ; on peut traduire cela
de manière savante : la longueur est un \textbf{morphisme de monoïdes}
entre le monoïde $\Sigma^*$ des mots (pour la concaténation) et le
monoïde $\mathbb{N}$ des entiers naturels (pour l'addition) (cela
signifie exactement ce qui vient d'être dit).

{\footnotesize\thingy \textbf{Complément :} Le monoïde $\Sigma^*$
  possède la propriété suivante par rapport à l'ensemble $\Sigma$ : si
  $M$ est un monoïde quelconque (c'est-à-dire un ensemble muni d'une
  opération binaire associative $\cdot$ et d'un élément $e$ neutre
  pour cette opération), et si $\psi\colon \Sigma\to M$ est une
  application quelconque, alors il existe un unique morphisme de
  monoïdes $\hat\psi\colon \Sigma^* \to M$ (c'est-à-dire une
  application préservant le neutre et l'opération binaire) tel que
  $\hat\psi(x) = \psi(x)$ si $x\in\Sigma$.  (Démonstration : on a
  nécessairement $\hat\psi(x_1\cdots x_n) = \psi(x_1)\cdots
  \psi(x_n)$, or ceci définit bien un morphisme comme annoncé.)  On
  dit qu'il s'agit là d'une propriété « universelle », et plus
  précisément que $\Sigma^*$ est le \textbf{monoïde libre} sur
  l'ensemble $\Sigma$.  Par exemple, le morphisme « longueur »
  $\ell\colon\Sigma^*\to\mathbb{N}$ est le $\ell = \hat\psi$ obtenu en
  appliquant cette propriété à la fonction $\psi(x) = 1$ pour
  tout $x\in\Sigma$.\par}

\thingy\label{powers-of-a-word} Lorsque $w \in \Sigma^*$ et $r \in
\mathbb{N}$, on définit un mot $w^r$ comme la concaténation de $r$
facteurs tous égaux au mot $w$, autrement dit, comme la répétition $r$
fois du mot $w$.  Formellement, on définit par récurrence :
\begin{itemize}
\item $w^0 = \varepsilon$ (le mot vide),
\item $w^{r+1} = w^r w$.
\end{itemize}
(Ces définitions valent, d'ailleurs, dans n'importe quel monoïde.  On
peut constater que $w^r w^s = w^{r+s}$ quels que soient
$r,s\in\mathbb{N}$.)  On a bien sûr $|w^r| = r|w|$.

Cette définition sert notamment à désigner de façon concise les mots
comportant des répétitions d'une même lettre : par exemple, le mot
$aaaaa$ peut s'écrire tout simplement $a^5$, et le mot $aaabb$ peut
s'écrire $a^3 b^2$.  (De même que pour le mot vide, il faut souligner
que ces exposants ne font pas partie de l'alphabet.)

\thingy Lorsque $u,v,w \in \Sigma^*$ vérifient $w = uv$, autrement dit
lorsque le mot $w$ est la concaténation des deux mots $u$ et $v$, on
dira également :
\begin{itemize}
\item que $u$ est un \textbf{préfixe} de $w$, ou
\item que $v$ est un \textbf{suffixe} de $w$.
\end{itemize}

De façon équivalente, si $w = x_1\cdots x_n$ (où $x_1,\ldots,x_n \in
\Sigma$) est un mot de longueur $n$, et si $0\leq k\leq n$ est un
entier quelconque compris entre $0$ et $n$, on dira que $u :=
x_1\cdots x_k$ (c'est-à-dire, le mot formé des $k$ premières lettres
de $w$, dans le même ordre) est le \textbf{préfixe de longueur $k$}
de $w$, et que $v := x_{k+1}\cdots x_n$ (mot formé des $n-k$ dernières
lettres de $w$, dans le même ordre) est le \textbf{suffixe de
  longueur $n-k$} de $w$.  Il est clair qu'il s'agit bien là de
l'unique façon d'écrire $w = uv$ avec $|u|=k$ et $|v|=n-k$, ce qui
fait le lien avec la définition donnée au paragraphe précédent ;
parfois on dira que $v$ est le suffixe \textbf{correspondant} à $u$ ou
que $u$ est le préfixe correspondant à $v$ (dans le mot $w$).

Le mot vide est préfixe et suffixe de n'importe quel mot.  Le mot $w$
lui-même est aussi un préfixe et un suffixe de lui-même.  Entre les
deux, pour n'importe quelle longueur $k$ donnée, il existe un unique
préfixe et un unique suffixe de longueur $k$.  (Il peut tout à fait se
produire que le préfixe et le suffixe de longueur $k$ soient égaux
pour d'autres $k$ que $0$ et $|w|$, comme le montre l'exemple qui
suit.)

À titre d'exemple, le mot $abbcab$ sur l'alphabet $\Sigma=\{a,b,c,d\}$
a les sept préfixes suivants, rangés par ordre croissant de longueur :
$\varepsilon$ (le mot vide), $a$, $ab$, $abb$, $abbc$, $abbca$ et
$abbcab$ lui-même ; il a les sept suffixes suivants, rangés par ordre
croissant de longueur : $\varepsilon$ (le mot vide), $b$, $ab$, $cab$,
$bcab$, $bbcab$ et $abbcab$ lui-même.  Le suffixe correspondant au
préfixe $abb$ est $bcab$ puisque $abbcab = (abb)(bcab)$.

\thingy Comme généralisation à la fois de la notion de préfixe et de
celle de suffixe, on a la notion de facteur : si $u_0,v,u_1 \in
\Sigma^*$ sont trois mots quelconques sur un même alphabet $\Sigma$,
et si $w = u_0 v u_1$ est leur concaténation, on dira que $v$ est un
\textbf{facteur} de $w$.  Alors qu'un préfixe ou suffixe du mot $w$
est déterminé simplement par sa longueur, un facteur est déterminé par
sa longueur et l'emplacement à partir duquel il commence.

À titre d'exemple, les facteurs du mot $abbcab$ sont : $\varepsilon$
(le mot vide), $a$, $b$, $c$, $ab$, $bb$, $bc$, $ca$, $abb$, $bbc$,
$bca$, $cab$, $abbc$, $bbca$, $bcab$, $abbca$, $bbcab$ et $abbcab$
lui-même.

Dans un contexte informatique, ce que nous appelons ici « facteur »
est souvent appelé « sous-chaîne [de caractères] ».  Il ne faut
cependant pas confondre ce concept avec celui de sous-mot défini
ci-dessous.

\thingy\label{definition-subword} Si $u_0,\ldots,u_r$ et
$v_1,\ldots,v_r$ sont des mots sur un même alphabet $\Sigma$, on dira
que $v := v_1\cdots v_r$ est un \textbf{sous-mot} du mot $w := u_0 v_1
u_1 v_2 \cdots u_{r-1} v_r u_r$.  En plus clair, cela signifie que $v$
est obtenu en ne gardant que certaines lettres du mot $w$ (celles
des $v_i$), dans le même ordre, mais en en effaçant d'autres (celles
des $u_i$) ; à la différence du concept de facteur, celui de sous-mot
n'exige pas que les lettres gardées soient consécutives.

À titre d'exemple, le mot $acb$ est un sous-mot du mot $abbcab$
(obtenu en gardant les lettres soulignées ici :
$\underline{a}bb\underline{c}a\underline{b}$ ; pour se rattacher à la
définition ci-dessus, on pourra prendre $u_0 = \varepsilon$ et $v_1 =
a$ et $u_1 = bb$ et $v_2 = c$ et $u_2 = a$ et $v_3 = b$ et $u_3 =
\varepsilon$).

\thingy\label{definition-mirror-word} Si $w = x_1\cdots x_n$, où
$x_1,\ldots,x_n \in \Sigma$, est un mot de longueur $n$ sur un
alphabet $\Sigma$, alors on définit son mot \textbf{miroir} ou
\textbf{transposé}, parfois noté $w^{\textsf{R}}$ ou $w^{\textsf{T}}$
(parfois les exposants sont écrits à gauche), comme le mot $x_n\cdots
x_1$ dont les lettres sont les mêmes que celles de $w$ mais dans
l'ordre inverse.  À titre d'exemple, $(ababb)^{\textsf{R}} = bbaba$.
On remarquera que $(w_1 w_2)^{\textsf{R}} = w_2^{\textsf{R}}
w_1^{\textsf{R}}$ si $w_1,w_2$ sont deux mots quelconques.

Un mot $w$ est dit \textbf{palindrome} lorsque $w = w^{\textsf{R}}$.


\subsection{Langages et opérations sur les langages}

\thingy Un \textbf{langage} $L$ sur l'alphabet $\Sigma$ est simplement
un ensemble de mots sur $\Sigma$.  Autrement dit, il s'agit d'un
sous-ensemble (=une partie) de l'ensemble $\Sigma^*$ de tous les mots
sur $\Sigma^*$ : en symboles, $L \subseteq \Sigma^*$.  On souligne
qu'on ne demande pas que $L$ soit fini (mais il peut l'être).

\thingy À titre d'exemple, l'ensemble $\{d,dc,dcc,dccc,dcccc,\ldots\}
= \{dc^r \colon r\in\mathbb{N}\}$ des mots formés d'un $d$ suivi d'un
nombre quelconque (éventuellement nul) de $c$ est un langage sur
l'alphabet $\Sigma = \{a,b,c,d\}$.  On verra plus loin que ce langage
est « rationnel » (et pourra être désigné par l'expression rationnelle
$dc{*}$).

Voici quelques autres exemples de langages :
\begin{itemize}
\item Le langage (fini) $\{foo,bar,baz\}$ constitué des seuls trois
  mots $foo$, $bar$, $baz$ sur l'alphabet $\Sigma = \{a,b,f,o,r,z\}$.
\item Le langage (fini) constitué des mots de longueur exactement $42$
  sur l'alphabet $\Sigma = \{p,q,r\}$.  Comme on l'a vu
  en \ref{number-of-words-of-length-n}, cet ensemble a pour cardinal
  exactement $3^{42}$.
\item Le langage (fini) constitué du seul mot vide (=mot de longueur
  exactement $0$) sur l'alphabet, disons, $\Sigma = \{p,q,r\}$.  Ce
  langage $\{\varepsilon\}$ a pour cardinal $1$ (ou $3^0$ si on veut).
  Il ne faut pas le confondre avec le suivant :
\item Le langage vide, qui ne contient aucun mot (sur un alphabet
  quelconque).  Ce langage a pour cardinal $0$.
\item Le langage constitué des mots de une seule lettre sur un alphabet
  $\Sigma$, qu'on peut identifier à $\Sigma$ lui-même (en identifiant
  un mot de une lettre à la lettre en question).
\item Le langage sur l'alphabet $\Sigma=\{a,b\}$ constitué des mots
  qui commencent par trois $a$ consécutifs : ou, si on préfère, qui
  ont le mot $aaa$ comme préfixe.
\item Le langage sur l'alphabet $\Sigma=\{a,b\}$ constitué des mots
  qui contiennent trois $a$ consécutifs ; ou, si on préfère, qui ont
  $aaa$ comme facteur.
\item Le langage sur l'alphabet $\Sigma=\{a,b\}$ constitué des mots
  qui contiennent au moins trois $a$, non nécessairement consécutifs ;
  ou, si on préfère, qui ont $aaa$ comme sous-mot.
\item Le langage sur l'alphabet $\Sigma=\{a\}$ constitué de tous les
  mots dont la longueur est un nombre premier ($L = \{aa, aaa, a^5,
  a^7, a^{11},\ldots\}$).  Ce langage est infini.
\item Le langage sur l'alphabet $\Sigma=\{0,1\}$ constitué de tous les
  mots commençant par un $1$ et qui, interprétés comme un nombre écrit
  en binaire, désignent un nombre premier ($L = \{10, 11, 101, 111,
  1011, \ldots\}$).
\item Le langage sur l'alphabet Unicode constitué de tous les mots qui
  représentent un document XML bien-formé d'après la spécification
  XML 1.0.
\end{itemize}

\thingy On pourrait aussi considérer un langage (sur
l'alphabet $\Sigma$) comme une \emph{propriété} des mots (sur
l'alphabet en question).  Précisément, si $P$ est une propriété qu'un
mot $w \in \Sigma^*$ peut ou ne pas avoir, on considère le langage
$L_P = \{w \in \Sigma^* : w \text{~a la propriété~} P\}$, et
inversement, si $L \subseteq \Sigma^*$ est un langage, on considère la
propriété « appartenir à $L$ » : en identifiant la propriété et le
langage qu'on vient d'associer l'un à l'autre (par exemple, le langage
des mots commençant par $a$ et la propriété « commencer par $a$ »), un
langage pourrait être considéré comme une propriété des mots.

{\footnotesize(Ceci n'a rien de spécifique aux langages : une partie
  d'un ensemble $E$ quelconque peut être identifiée à une propriété
  que les éléments de $E$ peuvent ou ne pas avoir, à savoir,
  appartenir à la partie en question.)\par}

On évitera de faire cette identification pour ne pas introduire de
confusion, mais il est utile de la garder à l'esprit : par exemple,
dans un langage de programmation fonctionnel, un « langage » au sens
de ces notes peut être considéré comme une fonction (pure,
c'est-à-dire, déterministe et sans effet de bord) prenant en entrée
une chaîne de caractères et renvoyant un booléen.

\thingy Si $L_1$ et $L_2$ sont deux langages sur un même
alphabet $\Sigma$ (autrement dit, $L_1,L_2 \subseteq \Sigma^*$), on
peut former les langages \textbf{union} $L_1\cup L_2$ et
\textbf{intersection} $L_1\cap L_2$ qui sont simplement les opérations
ensemblistes usuelles (entre parties de $\Sigma^*$).

Les opérations correspondantes sur les propriétés de mots sont
respectivement le « ou logique » (=disjonction) et le « et logique »
(=conjonction) : à titre d'exemple, sur $\Sigma = \{a,b\}$ si $L_1$
est le langage des mots commençant par $a$ et $L_2$ le langage des
mots finissant par $b$, alors $L_1 \cup L_2$ est le langage des mots
commençant par $a$ \emph{ou bien} finissant par $b$, tandis que $L_1
\cap L_2$ est le langage des mots commençant par $a$ \emph{et}
finissant par $b$.

\thingy Si $L$ est un langage sur l'alphabet $\Sigma$, autrement dit
$L \subseteq \Sigma^*$, on peut former le langage $\Sigma^*\setminus
L$, parfois noté simplement $\overline L$ si ce n'est pas ambigu, dit
\textbf{complémentaire} de $L$, et qui est simplement l'ensemble des
mots sur $\Sigma$ \emph{n'appartenant pas} à $L$.  L'opération
correspondante sur les propriétés de mots est la négation logique.

À titre d'exemple, sur $\Sigma=\{a,b\}$, si $L$ est le langage des
mots commençant par $a$, alors $\overline{L}$ est le langage des mots
ne commençant pas par $a$, c'est-à-dire, la réunion de
$\{\varepsilon\}$ et du langage des mots commençant par $b$ (car sur
$\Sigma=\{a,b\}$, un mot ne commençant pas par $a$ est vide ou bien
commence par $b$).

\thingy Si $L_1$ et $L_2$ sont deux langages sur un même
alphabet $\Sigma$ (autrement dit, $L_1,L_2 \subseteq \Sigma^*$), on
peut former le langage \textbf{concaténation} $L_1 L_2$ : il est
défini comme l'ensemble des mots $w$ qui peuvent s'écrire comme
concaténation d'un mot $w_1$ de $L_1$ et d'un mot $w_2$ de $L_2$, soit
\[
\begin{aligned}
L_1 L_2 &= \{w_1 w_2 : w_1 \in L_1,\, w_2 \in L_2\}\\
 &= \{w \in \Sigma^* : \exists w_1 \in L_1\, \exists w_2 \in L_2\,(w = w_1 w_2)\}\\
\end{aligned}
\]

À titre d'exemple, sur l'alphabet $\Sigma = \{a,b,c,d\}$, si on a $L_1
= \{a,bb\}$ et $L_2 = \{bc, cd\}$ alors $L_1 L_2 = \{abc, acd, bbbc,
bbcd\}$.

\thingy Si $L$ est un langage sur l'alphabet $\Sigma$, autrement dit
$L \subseteq \Sigma^*$, et si $r \in \mathbb{N}$, on peut définir un
langage $L^r$, par analogie avec \ref{powers-of-a-word}, comme le
langage $L^r = \{w_1\cdots w_r : w_1,\ldots,w_r \in L\}$ constitué des
concaténation de $r$ mots appartenant à $L$, ou si on préfère, par
récurrence :
\begin{itemize}
\item $L^0 = \{\varepsilon\}$,
\item $L^{r+1} = L^r L$.
\end{itemize}

À titre d'exemple, sur l'alphabet $\Sigma = \{a,b,c,d\}$, si on a $L =
\{a,bb\}$, alors $L^2 = \{aa, abb, bba, bbbb\}$ et $L^3 = \{aaa, aabb,
abba, abbbb, \penalty-100 bbaa, bbabb, bbbba, bbbbbb\}$.

\emph{Attention}, $L^r$ n'est pas le langage $\{w^r : w\in L\}$
constitué des répétitions $r$ fois ($w^r$) des mots $w$ de $L$ : c'est
le langage des concaténations de $r$ mots appartenant à $L$ \emph{mais
  ces mots peuvent être différents}.  À titre d'exemple, si $L =
\{a,b\}$ alors $L^r$ est le langage constitué des $2^r$ mots de
longueur exactement $r$ sur $\{a,b\}$, ce n'est pas l'ensemble à deux
éléments $\{a^r, b^r\}$ constitué des seuls deux mots $a^r = aaa\cdots
a$ et $b^r = bbb\cdots b$.

\thingy Si $L$ est un langage sur l'alphabet $\Sigma$, on définit
enfin l'\textbf{étoile de Kleene} $L^*$ de $L$ comme le langage
constitué des concaténations d'un nombre \emph{quelconque} de mots
appartenant à $L$, c'est-à-dire
\[
\begin{aligned}
L^* &= \bigcup_{r=0}^{+\infty} L^r = \bigcup_{r\in\mathbb{N}} L^r\\
&= \{w_1\cdots w_r : r\in\mathbb{N},\, w_1,\ldots,w_r\in L\}\\
\end{aligned}
\]

Comme ci-dessus, il faut souligner que les mots $w_1,\ldots,w_r$
concaténés n'ont pas à être égaux : notamment, $\{a,b\}^*$ est le
langage constitué de tous les mots sur l'alphabet $\{a,b\}$, pas le
langage $\{a\}^* \cup \{b\}^*$ constitué des mots obtenus en répétant
la lettre $a$ ou en répétant la lettre $b$.

On remarquera que la définition de $L^*$ ci-dessus redonne bien,
lorsqu'on l'applique à l'alphabet $\Sigma$ lui-même (considéré comme
langage des mots de longueur $1$), l'ensemble $\Sigma^*$ de tous les
mots : la notation $\Sigma^*$ est donc justifiée \textit{a
  posteriori}.

Le mot vide appartient toujours à $L^*$ (quel que soit $L$) puisque
$L^0 = \{\varepsilon\}$ et qu'on peut prendre $r=0$ ci-dessus
(autrement dit, le mot vide est la concaténation de zéro mots de $L$).

\thingy\label{kleene-plus} On introduit parfois la notation $L^+ =
\bigcup_{r=1}^{+\infty} L^r = \{w_1\cdots w_r : r>0,\penalty-100\,
w_1,\ldots,w_r\in L\}$ pour l'ensemble des mots formés par
concaténation d'un nombre \emph{non nul} de mots de $L$.  Lorsque le
mot vide $\varepsilon$ n'appartient pas déjà à $L$, ce langage $L^+$
diffère de $L^*$ seulement en ce qu'il ne contient pas $\varepsilon$ ;
tandis que si $\varepsilon$ appartient déjà à $L$, alors $L^+$ est
égal à $L^*$.  En toute généralité, on a $L^+ = LL^*$.

\thingy\label{definition-mirror-language} En rappelant la définition
du mot miroir faite en \ref{definition-mirror-word}, si $L$ est un
langage sur l'alphabet $\Sigma$, on définit le langage miroir
$L^{\mathsf{R}}$ comme l'ensemble des mots miroirs des mots de $L$,
c'est-à-dire $L^{\mathsf{R}} = \{w^{\mathsf{R}} : w \in L\}$.


\subsection{Langages rationnels et expressions rationnelles}\label{subsection-rational-languages}

\thingy Soit $\Sigma$ un alphabet.  On va considérer les langages
de base triviaux suivants :
\begin{itemize}
\item le langage vide $\varnothing$,
\item le langage constitué du seul mot vide, $\{\varepsilon\}$, et
\item les langages constitué d'un seul mot lui-même formé d'une seule
  lettre, $\{x\}$ pour chaque $x\in\Sigma$,
\end{itemize}
et on va les combiner par les opérations dites « rationnelles »
suivantes :
\begin{itemize}
\item la réunion $(L_1,L_2) \mapsto L_1 \cup L_2$,
\item la concaténation $(L_1,L_2) \mapsto L_1 L_2$, et
\item l'étoile de Kleene $L \mapsto L^*$.
\end{itemize}

On obtient ainsi une certaine famille de langages (cf. ci-dessous pour
une définition plus précise), qu'on appelle \textbf{langages
  rationnels} : les langages rationnels sont exactement ceux qui
peuvent s'obtenir à partir des langages de base énumérés ci-dessus par
application (un nombre fini de fois) des opérations qu'on vient de
dire.  Autrement dit, la réunion de deux langages rationnels, la
concaténation de deux langages rationnels, et l'étoile de Kleene d'un
langage rationnel, sont rationnels, et les langages rationnels sont
exactement ceux qu'on obtient ainsi à partir des langages de base.

À titre d'exemple, sur l'alphabet $\{a,b,c,d\}$, comme le langage
$\{c\}$ (constitué du seul mot $c$) est rationnel, son étoile de
Kleene, c'est-à-dire $\{c\}^* = \{\varepsilon, c, cc, ccc,
cccc,\ldots\}$, est rationnel, et comme $\{d\}$ l'est aussi, la
concaténation $\{d\}(\{c\}^*) = \{d, dc, dcc, dccc, \ldots\}$ est
encore un langage rationnel.

\thingy Formellement, la définition des langages rationnelles est la
suivante : un ensemble $\mathscr{C} \subseteq \mathscr{P}(\Sigma^*)$
de langages (où $\mathscr{P}(\Sigma^*)$ est l'ensemble des parties de
$\Sigma^*$, i.e., l'ensemble de tous les langages sur $\Sigma$) est
dit \emph{stable par opérations rationnelles} lorsqu'il est stable par
les opérations de réunion, concaténation et étoile de Kleene, i.e., si
$L_1,L_2 \in \mathscr{C}$ alors $L_1\cup L_2 \in \mathscr{C}$ et $L_1
L_2 \in \mathscr{C}$, et si $L \in \mathscr{C}$ alors $L^* \in
\mathscr{C}$ ; le \emph{plus petit} (pour l'inclusion) ensemble de
langages stable par opérations rationnelles et contenant les langages
$\varnothing$, $\{\varepsilon\}$ et $\{x\}$ pour $x \in \Sigma$
(i.e. $\varnothing\in\mathscr{C}$, $\{\varepsilon\} \in \mathscr{C}$
et si $x\in\Sigma$ alors $\{x\}\in\mathscr{C}$), ou plus exactement,
l'intersection de tous les ensembles $\mathscr{C}$ vérifiant tous ces
propriétés, est la classe $\mathscr{R}$ des langages rationnels.

\emph{Attention !}, le fait que la classe $\mathscr{R}$ des langages
rationnels soit stable par concaténation signifie que si $L_1$ et
$L_2$ sont rationnels alors le langage $L_1 L_2$ (constitué de tous
les mots concaténés d'un mot de $L_1$ et d'un mot de $L_2$) est
rationnel ; \emph{cela ne signifie pas} qu'un langage rationnel donné
soit stable par concaténation (un langage stable $L$ par concaténation
est un langage tel que si $w_1,w_2\in L$ alors $w_1 w_2 \in L$).

\thingy Pour décrire la manière dont un langage rationnel est fabriqué
(à partir des langages de base par les opérations rationnelles), comme
il est malcommode d'écrire quelque chose comme $\{d\}(\{c\}^*)$, on
introduit un nouvel objet, les \textbf{expressions rationnelles}
(certains préfèrent le terme d'\textbf{expressions régulières}), qui
sont des expressions servant à désigner un langage rationnel.  Par
exemple, plutôt que d'écrire « $\{d\}(\{c\}^*)$ », on parlera du
langage désigné par l'expression rationnelle $dc{*}$.

Plus exactement, une expression rationnelle (sur un alphabet $\Sigma$)
est un mot sur l'alphabet $\Sigma \cup \{\bot,
\underline{\varepsilon}, {(}, {)}, {|}, {*}\}$, où $\bot,
\underline{\varepsilon}, {(}, {)}, {|}, {*}$ sont de nouveaux
caractères \emph{n'appartenant pas} à l'alphabet $\Sigma$, appelés
\textbf{métacaractères}, et qui servent à marquer la manière dont est
formée l'expression rationnelle.  On définit simultanément la notion
d'expression rationnelle $r$ et de \textbf{langage dénoté} (ou
\textbf{désigné}) $L_r$ par l'expression $r$, de la manière suivante :
\begin{itemize}
\item $\bot$ est une expression rationnelle et son langage dénoté
  est $L_\bot := \varnothing$,
\item $\underline{\varepsilon}$ est une expression rationnelle et son
  langage dénoté est $L_{\underline{\varepsilon}} :=
  \{\varepsilon\}$,
\item si $x\in\Sigma$ est une lettre de l'alphabet $\Sigma$, alors le
  mot $x$ est une expression rationnelle et son langage dénoté
  est $L_x := \{x\}$,
\item si $r_1,r_2$ sont deux expressions rationnelles et $L_1 =
  L_{r_1}$ et $L_2 = L_{r_2}$ les langages dénotés correspondants,
  alors $r_1 r_2$ est une expression rationnelle et son langage
  dénoté est $L_{r_1 r_2} := L_1 L_2$,
\item si $r_1,r_2$ sont deux expressions rationnelles et $L_1 =
  L_{r_1}$ et $L_2 = L_{r_2}$ les langages dénotés correspondants,
  alors $(r_1|r_2)$ est une expression rationnelle et son langage
  dénoté est $L_{(r_1|r_2)} := L_1\cup L_2$,
\item si $r$ est une expression rationnelle et $L = L_r$ les langage
  dénoté correspondant, alors $(r){*}$ est une expression rationnelle
  et son langage dénoté est $L_{(r){*}} := L^*$.
\end{itemize}

À titre d'exemple, sur l'alphabet $\Sigma = \{a,b,c,d\}$, $c$ est une
expression rationnelle qui dénote le langage $\{c\}$, donc $(c){*}$ en
est une qui dénote le langage $\{c\}^* = \{\varepsilon, c, cc,
ccc,\ldots\}$, et enfin $d(c){*}$ en est une qui dénote le langage $\{d,
dc, dcc, \ldots\}$ des mots formés d'un $d$ et d'une succession
quelconques de $c$.  Voici quelques autres exemples, toujours sur
$\Sigma = \{a,b,c,d\}$ :
\begin{itemize}
\item l'expression rationnelle $(a|b)$ dénote le langage $\{a\} \cup
  \{b\} = \{a,b\}$ constitué des deux mots d'une seule lettre $a$ et
  $b$ ;
\item l'expression rationnelle $(a|b)c$ dénote le langage
  $\{a,b\}\{c\} = \{ac,bc\}$, de même que $(ac|bc)$ ;
\item l'expression rationnelle $(bc){*}$ dénote le langage $\{bc\}^* =
  \{\varepsilon, bc, bcbc, bcbcbc, \ldots\}$ ;
\item l'expression rationnelle $(a|(bc){*})$ dénote le langage $\{a\}
  \cup \{bc\}^* = \{a, \varepsilon, bc, bcbc, bcbcbc, \ldots\}$ ;
\item l'expression rationnelle $(a|(bc){*})d$ dénote le langage $\{a, d,
  bcd, bcbcd, bcbcbcd, \ldots\}$ ;
\item l'expression rationnelle $\bot d$ dénote le langage
  vide $\varnothing$ (car il n'y a pas de mot dans le langage vide,
  donc pas non plus de mot dans sa concaténation avec le
  langage $\{d\}$) ;
\item l'expression rationnelle $\underline{\varepsilon} d$ dénote le
  langage $\{d\}$ ;
\item l'expression rationnelle $(\bot|c)$ dénote le langage $\{c\}$ ;
\item l'expression rationnelle $(\underline{\varepsilon}|c)$ dénote le
  langage $\{\varepsilon, c\}$.
\end{itemize}

Un langage rationnel est par construction la même chose qu'un langage
pour lequel il existe une expression rationnelle qui le dénote.

On dira qu'un mot $w$ \textbf{vérifie} une expression rationnelle $r$
lorsque ce mot appartient au langage qu'elle dénote (i.e., $w \in
L_r$).  Par exemple, $dccc$ vérifie l'expression rationnelle $d(c){*}$.

\thingy Deux expressions rationnelles $r_1,r_2$ sont dites
\textbf{équivalentes} lorsqu'elles dénotent le même langage.  À titre
d'exemple, sur l'alphabet $\{a,b\}$, les deux expressions rationnelles
$(ab){*}a$ et $a(ba){*}$ sont équivalentes (toutes les deux dénotent
le langage $\{a, aba, ababa, \ldots\}$ constitué des mots commençant
et finissant par un $a$ et dans lesquels chaque paire de $a$ est
séparée par un unique $b$).

\thingy La convention de parenthésage introduite ci-dessus est
inambiguë mais parfois inutilement lourde : on se permettra parfois de
l'alléger, par exemple d'écrire $(r_1|r_2|r_3)$ pour $((r_1|r_2)|r_3)$
(ou pour $(r_1|(r_2|r_3))$, ce qui n'a guère d'importance vu qu'elles
dénotent le même langage), ou encore $x{*}$ pour $(x){*}$ lorsque $x$
est formé d'un seul caractère.  La convention essentielle est que
l'opération d'étoile ${*}$ est la plus prioritaire ($ab{*}$ se lit
comme $a(b){*}$ et non pas comme $(ab){*}$), la concaténation vient
après, et la barre de disjonction $|$ est la moins prioritaire
($ab|cd$ se lit comme $(ab|cd)$ et pas comme $a(b|c)d$).

{\footnotesize Les métacaractères $\bot$ et $\underline{\varepsilon}$
  sont introduits ici par souci de complétude mais font rarement
  utilisés dans les expressions rationnelles (le métacaractère
  $\underline{\varepsilon}$ a été souligné parce qu'il s'agit d'une
  vraie lettre et non pas du mot vide ; on peut ignorer cette
  subtilité qui n'a que très peu d'importance).\par}

La barre de disjonction que nous avons notée ${|}$ est souvent plutôt
notée $+$ par les mathématiciens\footnote{Dans le même contexte
  mathématique, il est alors fréquent de noter $0$ pour ce que nous
  avons noté $\bot$ (c'est un élément neutre pour la disjonction), et
  on en profite souvent pour noter $1$ pour $\varepsilon$ et/ou
  $\underline{\varepsilon}$ (c'est un élément neutre pour la
  concaténation).}.  Il y a ici un risque de confusion lié au fait
que, en informatique, le symbole \texttt{+} est utilisé par de
nombreux moteurs d'expressions régulières (par exemple,
\texttt{egrep}) pour dénoter l'opération évoquée en \ref{kleene-plus},
i.e., « au moins une répétition » alors que l'étoile signifie « un
  nombre quelconque de répétitions » : si on veut, $r{+}$ a le même
sens que $rr{*}$.  Dans le même contexte, le symbole \texttt{?} est
souvent utilisé pour désigner « au plus une répétition » : si on veut,
$r{?}$ a le même sens que $(\underline{\varepsilon}|r)$.


\subsection{Remarques sur les moteurs d'expressions régulières en informatique}

\thingy Dans le monde informatique, il existe de nombreux
\emph{moteurs d'expressions régulières}, c'est-à-dire outils (qu'il
s'agisse de primitives d'un langage, de bibliothèques externes, de
programmes en ligne de commande, ou autres) permettant de savoir si un
mot est reconnu par une expression régulière (=rationnelle), autrement
dit, s'il appartient au langage dénoté par elle.  L'un de ces moteurs
est le programme \texttt{egrep} standard sous Unix/POSIX.

\thingy Les expressions régulières au sens de ces différents moteurs
sont généralement plus puissantes que les expressions rationnelles au
sens mathématique défini ci-dessus : différentes extensions permettent
de désigner des langages qui ne sont pas rationnels au sens
mathématique.  L'extension la plus fréquente est celle des
\emph{références arrière} (ou \emph{backreferences} en anglais) qui
permettent de demander qu'un facteur du mot se retrouve à un autre
emplacement.  Par exemple, pour beaucoup de moteurs (notamment
\texttt{egrep}), l'expression régulière \texttt{(a*)b\char"5C\relax 1}
désigne le langage $\{a^nba^n : a\in\mathbb{N}\} = \{b,aba,
aabaa,\ldots\}$ des mots formés d'un nombre quelconque de $a$ puis
d'un $b$ puis de la \emph{même suite de $a$}, et ce langage
\emph{n'est pas rationnel} au sens mathématique (ce sera une
conséquence du « lemme de pompage »).

\thingy Il existe aussi un certain nombre de constructions qui, sans
dépasser la puissance des expressions rationnelles au sens
mathématique, apportent des commodités d'écriture dans un contexte
informatique.  On a déjà mentionné les symboles \texttt{+} (pour « au
  moins une répétition » : $r{+}$ est équivalent à $rr{*}$) et
\texttt{?} (pour « au plus une répétition » : $r{?}$ est équivalent à
$(\underline{\varepsilon}|r)$).  Parmi d'autres constructions du
genre, mentionnons encore le point \texttt{.} qui désigne un caractère
quelconque de l'alphabet (on peut le voir comme une abréviation pour
$(x_1|x_2|\ldots|x_N)$ où $x_1,x_2,\ldots,x_N$ sont tous les éléments
de $\Sigma$ — ce qui serait très fastidieux à écrire si on devait
énumérer tout Unicode), ou bien \texttt{[$xyz$]} qui désigne un
caractère quelconque parmi ceux listés (c'est donc la même chose que
$(x|y|z)$ mais cela ne fonctionne qu'avec des caractères individuels ;
en contrepartie, on peut écrire des intervalles comme \texttt{[a-z]}
qui désigne un caractère quelconque entre \texttt{a} et \texttt{z}
dans l'ordre ASCII/Unicode, ou bien des négations d'intervalles comme
\texttt{[\char"5Ea-z]} qui désigne un caractère qui \emph{n'est pas}
entre \texttt{a} et \texttt{z}).

Toutes sortes d'autres racourcis ou commodités de notation peuvent
exister, par exemple \texttt{\char"5C<} et \texttt{\char"5C>} pour
désigner un début et une fin de mot (la définition précise de « mot »
pouvant varier), ou encore \texttt{$r$\{$n_1$,$n_2$\}} qui cherche
entre $n_1$ et $n_2$ répétitions de $r$.

\thingy Une autre subtilité est que la plupart des moteurs
d'expressions régulières en informatique vont, par défaut,
\emph{rechercher un facteur} (appelé « sous-chaîne » en informatique)
vérifiant l'expression à l'intérieur de la chaîne donnée, plutôt que
tester si la chaîne elle-même vérifie l'expression.  Pour éviter ce
comportement, on peut utiliser des \emph{ancres}, typiquement
commandées par les caractères \texttt{\char"5E} et \texttt{\char"24}
qui servent à ancrer l'expression au début et à la fin de la chaîne
respectivement : c'est-à-dire que rechercher \texttt{a} recherche un
\texttt{a} quelconque à l'intérieur de la chaîne donnée, rechercher
\texttt{\char"5E\relax a} demande que le \texttt{a} soit au début de
la chaîne donnée rechercher \texttt{a\char"24} demande que le
\texttt{a} soit à la fin de la chaîne donnée, et rechercher
\texttt{\char"5E\relax a\char"24} demande que la chaîne donnée soit
exactement \texttt{a} (cet exemple n'est donc pas très utile, mais de
façon générale, trouver si une chaîne vérifie une expression
rationnelle $r$, revient à y chercher \texttt{\char"5E\relax
  $r$\char"24}).

\thingy Comme les expressions régulières en informatique sont
représentées par des chaînes de caractères qui appartiennent au même
alphabet (ASCII ou Unicode) que les chaînes sur lesquelles on effectue
la recherche, le problème se pose de distinguer les métacaractères
(l'étoile de Kleene \texttt{*}, par exemple) des caractères eux-mêmes
(comment rechercher les chaînes contenant le caractère \texttt{*} si
\texttt{*} est utilisé par l'étoile de Kleene ?).  La solution est
d'introduire un mécanisme d'\emph{échappement} : ainsi,
\texttt{x\char"5C*} recherche un \texttt{x} suivi d'un
astérisque \texttt{*}, tandis que \texttt{x*} recherche un nombre
quelconque de répétitions de la lettre \texttt{x}.

\thingy Il existe malheureusement de nombreuses différences, parfois
très subtiles, entre moteurs, ne serait-ce que dans les notations : un
moteur pourra par exemple noter \texttt{(?)} ce qu'un autre note
\texttt{\char"5C(\char"5C?\char"5C)} et vice versa.  La seule solution
est de consulter attentivement la documentation de chaque moteur
d'expressions régulières pour connaître la syntaxe utilisée.

Signalons tout de même qu'il existe deux principales familles de
syntaxes d'expressions régulières en informatique : les expressions
régulières « POSIX étendues », utilisée notamment par le programme
Unix \texttt{egrep}, et les expressions régulières Perl, qui ont été
réadaptées dans beaucoup de langages, notamment Java, JavaScript,
Python et d'autres.

\thingy Signalons comme complication supplémentaire que dans de
nombreux langages, les expressions régulières sont saisies comme des
chaînes de caractères plutôt que d'avoir une syntaxe spéciale, et ceci
a pour effet d'introduire un niveau supplémentaire d'échappement : par
exemple, en Java, pour rechercher si une chaîne de caractères $s$
contient un astérisque, on utilisera
\texttt{$s$.matches("\char"5C\char"5C*")} puisque l'expression
régulière à utiliser est \texttt{\char"5C*} et que cette chaîne de
caractères s'écrit \texttt{"\char"5C\char"5C*"} en Java.


\section{Automates finis}

\setcounter{comcnt}{0}

\thingy Les automates finis sont un modèle de calcul particulièrement
simple et particulièrement appropriés à l'étude et à l'analyse des
langages rationnels.  Il faut imaginer un automate fini comme une
machine disposant d'une quantité finie (et sous-entendu, très limitée)
de mémoire : la configuration complète de cette mémoire est décrite
par un \emph{état}, qui appartient à un ensemble fini d'états
possibles.  L'automate prendra une décision (passer dans un nouvel
état) en fonction de son état actuel et de la lettre qu'on lui donne à
consommer.

\subsection{Automates finis déterministes complets (=DFA)}

\thingy\label{definition-dfa} Un \textbf{automate fini déterministe}
(complet), ou en abrégé \textbf{DFA} (pour \textit{deterministic
  finite automaton}), sur un alphabet $\Sigma$ est la donnée
\begin{itemize}
\item d'un ensemble fini $Q$ dont les éléments sont appelés
  \textbf{états},
\item d'un état $q_0 \in Q$ appelé \textbf{état initial},
\item d'un ensemble $F \subseteq Q$ d'états appelés états
  \textbf{finaux}\footnote{Le pluriel de « final » est indifféremment
    « finaux » ou « finals ».} ou \textbf{acceptants},
\item d'une fonction $\delta \colon Q\times\Sigma \to Q$ appelée
  \textbf{fonction de transition}.
\end{itemize}

\thingy\label{graphical-representation-of-dfa} Graphiquement, on
représente un DFA comme un graphe orienté aux arêtes étiquetées par
des éléments de $\Sigma$ : plus exactement, on trace un nœud pour
chaque élément $q \in Q$, et lorsque $\delta(q,x) = q'$ on introduit
une flèche $q \to q'$ étiquetée par la lettre $x$.  La condition sur
$\delta$ (pour être un DFA) est alors que, pour chaque état $q \in Q$
et chaque lettre $x \in \Sigma$, il existe une unique arête partant de
$q$ et étiquetée par $x$.  En outre, on introduit une flèche pointant
de nulle part vers $q_0$, et pour chaque $q\in F$ une flèche pointant
de $q$ vers nulle part\footnote{Certains auteurs préfèrent d'autres
  conventions, par exemple celle consistant à entourer deux fois les
  états finaux.}.

Lorsque plusieurs arêtes étiquetées par des lettres $x,y$ différentes
relient les mêmes sommets $q,q'$ (i.e., lorsqu'on a à la fois
$\delta(q,x) = q'$ et $\delta(q,y) = q'$), on pourra écrire « $x,y$ »
ou « $x|y$ » sur l'arête en question (et ne la tracer qu'une seule
fois).  Voir \ref{discussion-example2} ci-dessous pour un exemple.

\thingy\label{discussion-example1} Pour donner un exemple simple,
l'automate sur $\Sigma = \{a,b\}$ représenté ci-dessous a $Q =
\{0,1\}$ et $q_0 = 0$ et $F = \{1\}$ et la fonction de transition
$\delta$ donnée par $\delta(0,a) = 0$ et $\delta(0,b) = 1$ et
$\delta(1,a) = 1$ et $\delta(1,b) = 0$.  On pourra se convaincre (une
fois lues les définitions plus loin) que cet automate accepte les mots
dont le nombre de $b$ est pair.

\begin{center}
%%% begin example1 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,20.306bp) [draw,circle,state,final] {$1$};
  \node (q0) at (18bp,20.306bp) [draw,circle,state,initial] {$0$};
  \draw [->] (q1) ..controls (75.212bp,3.6347bp) and (64.284bp,-1.3057bp)  .. (54bp,1.3057bp) .. controls (50.042bp,2.3107bp) and (46.047bp,3.8633bp)  .. node[auto] {$b$} (q0);
  \draw [->] (q0) ..controls (46.106bp,20.306bp) and (58.578bp,20.306bp)  .. node[auto] {$b$} (q1);
  \draw [->] (q1) to[loop above] node[auto] {$a$} (q1);
  \draw [->] (q0) to[loop above] node[auto] {$a$} (q0);
%
\end{tikzpicture}

%%% end example1 %%%
\end{center}

\thingy Il faut comprendre le fonctionnement d'un DFA de la manière
suivante : initialement, l'automate est dans l'état initial $q_0$.  On
va lui présenter un mot $w \in \Sigma^*$, lettre par lettre, de la
gauche vers la droite : i.e., si $w = x_1\cdots x_n$ on va faire
consommer à l'automate les lettres $x_1,x_2,\ldots,x_n$ dans cet
ordre.  Le fait de consommer une lettre $x$ fait passer l'automate de
l'état $q$ à l'état $\delta(q,x)$ (autrement dit, l'automate passe
successivement dans les états $q_0$ puis $q_1 := \delta(q_0,x_1)$ puis
$q_2 := \delta(q_1,x_2)$, et ainsi de suite jusqu'à $q_n :=
\delta(q_{n-1},x_n)$) ; on dit que l'automate effectue les transitions
$q_0\to q_1$ (en consommant $x_1$) puis $q_1\to q_2$ (en
consommant $x_2$) et ainsi de suite.  Si $q_n$ est l'état dans lequel
se trouve l'automate une fois qu'il a consommé le mot $w$, on dira que
l'automate \emph{acepte} ou \emph{rejette} le mot selon que $q_n \in
F$ ou que $q_n \not\in F$.

Graphiquement, on peut présenter la procédure de la manière suivante :
on part de l'état $q_0$ (sommet du graphe représentant l'automate)
indiqué par la flèche entrante (pointant de nulle part), et pour
chaque lettre du mot $w = x_1\cdots x_n$ considéré, on suit l'arête
portant cette lettre pour étiquette (et partant de l'état où on se trouve
actuellement).  Si à la fin l'état $q_n$ est acceptant (représenté par
une flèche pointant vers nulle part), le mot $w$ est accepté, sinon il
est rejeté.

\thingy\label{definition-multiple-transition-function} Formellement :
si $A = (Q,q_0,F,\delta)$ est un DFA sur l'alphabet $\Sigma$, on
définit une fonction $\delta^* \colon Q\times\Sigma^* \to Q$ par
$\delta^*(q,x_1\cdots x_n) =
\delta(\cdots\delta(\delta(q,x_1),x_2)\cdots,x_n)$ ou, ce qui revient
au même (par récurrence sur la longueur du second argument) :
\begin{itemize}
\item $\delta^*(q,\varepsilon) = q$ quel que soit $q\in Q$ (où
  $\varepsilon$ désigne le mot vide),
\item $\delta^*(q,wx) = \delta(\delta^*(q,w),x)$ quels que soient
  $q\in Q$, $w\in\Sigma^*$ et $x\in\Sigma$,
\end{itemize}
(en particulier, $\delta^*(q,x) = \delta(q,x)$ si $x\in\Sigma$, donc
avec la convention faite en \ref{convention-on-words-of-length-one},
on peut dire que $\delta^*$ prolonge $\delta$ ; il sera par ailleurs
utile de remarquer que $\delta^*(q,ww') =
\delta^*(\delta^*(q,w),w')$).

Cette fonction $\delta^*$ étant définie, on dira que l'automate $A$
\textbf{accepte} ou \textbf{reconnaît} un mot $w$ lorsque
$\delta^*(q_0,w) =: q_n \in F$ ; dans le cas contraire, on dira qu'il
\textbf{rejette} le mot $w$.

\thingy\label{definition-recognizable-language} L'ensemble $L_A$ des
mots acceptés par l'automate $A$ s'appelle \textbf{langage accepté},
ou \textbf{reconnu}, ou \textbf{défini}, par l'automate $A$.

Un langage $L \subseteq \Sigma^*$ qui peut s'écrire sous la forme du
langage $L_A$ accepté par un DFA $A$ s'appelle \textbf{reconnaissable}
(sous-entendu : par automate déterministe fini).

On dit que deux DFA $A,A'$ sont \textbf{équivalents} lorsqu'ils
reconnaissent le même langage, i.e., $L_A = L_{A'}$.

\thingy\label{discussion-example2} L'automate fini ci-dessous sur
$\Sigma := \{a,b,c\}$ a trois états, $Q = \{0,1,2\}$.  On peut en
faire la description informelle suivante : l'automate commence dans
l'état $0$, où il reste jusqu'à rencontrer un $a$ qui le fait passer
dans l'état $1$, où il reste ensuite jusqu'à rencontrer un $b$ qui le
fait passer dans l'état $2$, où il reste définitivement et qui
constitue un état acceptant.

\begin{center}
%%% begin example2 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,18bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,18bp) [draw,circle,state,initial] {$0$};
  \node (q2) at (178bp,18bp) [draw,circle,state,final] {$2$};
  \draw [->] (q0) ..controls (46.106bp,18bp) and (58.578bp,18bp)  .. node[auto] {$a$} (q1);
  \draw [->] (q1) to[loop above] node[auto] {$a,c$} (q1);
  \draw [->] (q1) ..controls (126.11bp,18bp) and (138.58bp,18bp)  .. node[auto] {$b$} (q2);
  \draw [->] (q0) to[loop above] node[auto] {$b,c$} (q0);
  \draw [->] (q2) to[loop above] node[auto] {$a,b,c$} (q2);
%
\end{tikzpicture}

%%% end example2 %%%
\end{center}

Cette description rend claire le fait que l'automate en question
accepte exactement les mots contenant un $a$ suivi, pas forcément
immédiatement, d'un $b$ ; autrement dit, les mots dont $ab$ est un
sous-mot (cf. \ref{definition-subword}).  Ce langage est donc
reconnaissable.  (Il est aussi rationnel puisque dénoté par
l'expression rationnelle $(b|c){*}a(b|c){*}b(a|b|c){*}$.)

\thingy\label{definition-dfa-accessible-state} Un état $q$ d'un DFA
est dit \textbf{accessible} lorsqu'il existe un mot $w \in \Sigma^*$
tel que $q = \delta(q_0,w)$, autrement dit, graphiquement, lorsqu'il
existe un chemin orienté $q_0,q_1,\ldots,q_n=q$ reliant l'état
initial $q_0$ à l'état $q$ considéré : bref, cela correspond à un état
auquel il est possible que l'automate arrive (en partant de l'état
initial et en consommant un certain mot).  Dans le cas contraire,
l'état est dit \textbf{inaccessible}.  Il est évident qu'ajouter ou
supprimer (ou modifier) les états inaccessibles dans un DFA ne change
rien au langage reconnu au sens où on obtient des langages
équivalents.

Par exemple, dans le DFA qui suit, l'état $2$ est inaccessible
(l'automate est donc équivalent à celui représenté
en \ref{discussion-example1}).  On remarquera qu'il ne change rien que
cet état soit final ou non.

\begin{center}
%%% begin example1b %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,20.306bp) [draw,circle,state,final] {$1$};
  \node (q0) at (18bp,20.306bp) [draw,circle,state,initial] {$0$};
  \node (q2) at (172bp,20.306bp) [draw,circle,state,final] {$2$};
  \draw [->] (q1) ..controls (75.212bp,3.6347bp) and (64.284bp,-1.3057bp)  .. (54bp,1.3057bp) .. controls (50.042bp,2.3107bp) and (46.047bp,3.8633bp)  .. node[auto] {$b$} (q0);
  \draw [->] (q0) ..controls (46.106bp,20.306bp) and (58.578bp,20.306bp)  .. node[auto] {$b$} (q1);
  \draw [->] (q1) to[loop above] node[auto] {$a$} (q1);
  \draw [->] (q0) to[loop above] node[auto] {$a$} (q0);
%
\end{tikzpicture}

%%% end example1b %%%
\end{center}

\thingy On va maintenant introduire différentes variations sur le
thème des automates finis, c'est-à-dire différentes généralisations de
la définition faite en \ref{definition-dfa} correspondant à des types
d'automates finis plus puissants que les DFA mais dont on va montrer,
à chaque fois, qu'ils peuvent se ramener à des DFA au sens où pour
chacun de ces automates généralisés on pourra construire
algorithmiquement un DFA qui reconnaît le même langage (si bien que la
classe des langages reconnaissables par n'importe laquelle de ces
sortes d'automates sera toujours la même).  Les plus simples sont les
automates déterministes finis incomplets et on va donc commencer par
eux.


\subsection{Automates finis déterministes à spécification incomplète (=DFAI)}

\thingy Un \textbf{automate fini déterministe à spécification
  incomplète} ou \textbf{...partielle}, ou simplement \textbf{automate
  fini déterministe incomplet}\footnote{Le mot « incomplet » signifie
  en fait « non nécessairement complet », i.e., l'automate a le droit
  de manquer certaines transitions, il peut très bien être complet.},
en abrégé \textbf{DFAI}, sur un alphabet $\Sigma$ est la donnée
\begin{itemize}
\item d'un ensemble fini $Q$ d'états,
\item d'un état initial $q_0 \in Q$,
\item d'un ensemble $F \subseteq Q$ d'états finaux,
\item d'une fonction de transition \emph{partielle}\footnote{Une
  « fonction partielle » $f\colon X\dasharrow Y$, où $X, Y$ sont deux
  ensembles est, par définition, la même chose qu'une fonction
  $f\colon D\to Y$ où $D\subseteq X$ est un sous-ensemble de $X$
  appelé \textbf{ensemble de définition} de $f$.  (Lorsque en fait
  $D=X$, la fonction est dite « totale ».)} $\delta \colon
  Q\times\Sigma \dasharrow Q$,
\end{itemize}
autrement dit, la seule différence avec la définition faite
en \ref{definition-dfa} est que la fonction $\delta$ est partielle, ce
qui signifie qu'elle n'est pas obligatoirement définie sur tout couple
$(q,x) \in Q\times\Sigma$.

(Un DFA est considéré comme un DFAI particulier où la fonction de
transition $\delta$ se trouve être définie partout.)

\thingy Graphiquement, on représente un DFAI comme un DFA, à la
différence près que pour chaque $q\in Q$ et chaque $x\in \Sigma$, il y
a maintenant \emph{au plus une} (et non plus exactement une) arête
partant de $q$ et étiquetée par $x$.

\thingy Le fonctionnement d'un DFAI est le même que celui d'un DFA, à
la modification suivante près : si on donne à consommer à l'automate
une lettre pour laquelle la transition n'est pas définie, i.e., s'il
rencontre un $x$ pendant qu'il se trouve dans un état $q$ pour lequel
$\delta(q,x)$ n'est pas défini, alors l'automate cesse de
fonctionner : l'automate n'a plus d'état, n'effectue plus de
transition, et n'acceptera pas le mot quelles que soient les lettres
ultérieures.

\thingy Formellement : si $A = (Q,q_0,F,\delta)$ est un DFAI sur
l'alphabet $\Sigma$, on définit une fonction $\delta^* \colon
Q\times\Sigma^* \dasharrow Q$ par $\delta^*(q,x_1\cdots x_n) =
\delta(\cdots\delta(\delta(q,x_1),x_2)\cdots,x_n)$ avec la convention
que dès qu'une sous-expression n'est pas définie, toute l'expression
n'est pas définie, ou, ce qui revient au même (par récurrence sur la
longueur du second argument) :
\begin{itemize}
\item $\delta^*(q,\varepsilon) = q$ quel que soit $q\in Q$ (où
  $\varepsilon$ désigne le mot vide),
\item $\delta^*(q,wx) = \delta(\delta^*(q,w),x)$ à condition que $q'
  := \delta^*(q,w)$ soit défini et que $\delta(q',x)$ le soit (et si
  ces deux conditions ne sont pas satisfaites, $\delta^*(q,wx)$ n'est
  pas défini).
\end{itemize}

Enfin, l'automate $A$ accepte un mot $w$ lorsque $\delta^*(q_0,w)$
\emph{est défini} et appartient à $F$ ; dans le cas contraire (que ce
soit parce que $\delta^*(q_0,w)$ n'est pas défini ou parce qu'étant
défini il n'appartient pas à $F$), l'automate rejette le mot.

Le langage accepté $L_A$ et l'équivalence de deux automates sont
définis de façon analogue aux DFA
(cf. \ref{definition-recognizable-language}).

\thingy\label{discussion-example2b} Voici un exemple de DFAI sur
l'alphabet $\Sigma = \{a,b,c\}$.  Cet automate reconnaît exactement
les mots formés d'un nombre quelconque de $c$, suivis d'un $a$, suivis
d'un nombre quelconque de $c$, suivis d'un $b$, suivis d'un nombre
quelconque de $c$.

\begin{center}
%%% begin example2b %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,18bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,18bp) [draw,circle,state,initial] {$0$};
  \node (q2) at (178bp,18bp) [draw,circle,state,final] {$2$};
  \draw [->] (q0) ..controls (46.106bp,18bp) and (58.578bp,18bp)  .. node[auto] {$a$} (q1);
  \draw [->] (q1) to[loop above] node[auto] {$c$} (q1);
  \draw [->] (q1) ..controls (126.11bp,18bp) and (138.58bp,18bp)  .. node[auto] {$b$} (q2);
  \draw [->] (q0) to[loop above] node[auto] {$c$} (q0);
  \draw [->] (q2) to[loop above] node[auto] {$c$} (q2);
%
\end{tikzpicture}

%%% end example2b %%%
\end{center}

(Ce langage est aussi dénoté par l'expression rationnelle
$c{*}ac{*}bc{*}$.)

\begin{prop}\label{completion-of-dfai}
Soit $A = (Q,q_0,F,\delta)$ un DFAI sur un alphabet $\Sigma$.  Alors
il existe un DFA $A' = (Q',q'_0,F',\delta')$ (sur le même
alphabet $\Sigma$) qui soit équivalent à $A$ au sens où il reconnaît
le même langage $L_{A'} = L_A$.  De plus, $A'$ se déduit
algorithmiquement de $A$ en ajoutant au plus un état \textbf{puits}
à $A$ : on a $\#Q' \leq \#Q + 1$.
\end{prop}
\begin{proof}
On définit $Q' = Q \cup \{q_\bot\}$ où $q_\bot$ est un nouvel état
(n'appartenant pas à $Q$), qu'on appellera « puits ».  On garde l'état
initial $q'_0 = q_0$.  On garde l'ensemble $F' = F$ d'états finaux,
c'est-à-dire notamment que le puits n'est pas acceptant.  Enfin, on
définit $\delta'(q,x)$ pour $q\in Q'$ et $x\in\Sigma$ par
\[
\begin{aligned}
\delta'(q,x) &= \delta(q,x)\text{ si $\delta(q,x)$ est défini}\\
\delta'(q,x) &= q_\bot\text{ sinon}\\
\end{aligned}
\]
(notamment, $\delta'(q_\bot,x) = q_\bot$ quel que soit $x$).

Il est alors facile de voir que $A'$ a le même comportement que $A$ au
sens où $\delta^{\prime*}(q,w) = \delta^*(q,w)$ lorsque le terme de
droite est défini et $\delta^{\prime*}(q,w) = q_\bot$ sinon (le DFA
$A'$ « tombe dans le puits » lorsque le DFAI $A$ cesse de
fonctionner).  En particulier, ils reconnaissent les mêmes langages.
\end{proof}

\thingy On dit que le DFA $A'$ est obtenu en \textbf{complétant} le
DFAI $A$ lorsqu'il est obtenu par la procédure décrite dans la
démonstration de cette proposition, c'est-à-dire par l'addition d'un
état puits, sauf si $A$ est déjà complet, auquel cas on convient qu'il
est son propre complété (i.e., on n'ajoute un puits que quand c'est
réellement nécessaire).

\thingy À titre d'exemple, le DFA suivant représente la complétion du
DFAI représenté en \ref{discussion-example2b} :

\begin{center}
%%% begin example2c %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\begin{scope}
  \pgfsetstrokecolor{black}
  \definecolor{strokecol}{rgb}{1.0,1.0,1.0};
  \pgfsetstrokecolor{strokecol}
  \definecolor{fillcol}{rgb}{1.0,1.0,1.0};
  \pgfsetfillcolor{fillcol}
  \filldraw (0bp,0bp) -- (0bp,182bp) -- (214bp,182bp) -- (214bp,0bp) -- cycle;
\end{scope}
  \node (q1) at (102bp,131bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,85bp) [draw,circle,state,initial] {$0$};
  \node (q2) at (196bp,85bp) [draw,circle,state,final] {$2$};
  \node (qbot) at (102bp,22bp) [draw,circle,state] {$\bot$};
  \draw [->] (q1) to[loop above] node[auto] {$c$} (q1);
  \draw [->] (q2) to[loop above] node[auto] {$c$} (q2);
  \draw [->] (qbot) to[loop below] node[auto] {$a,b,c$} (qbot);
  \draw [->] (q0) ..controls (44.565bp,65.359bp) and (61.506bp,52.343bp)  .. node[auto] {$b$} (qbot);
  \draw [->] (q0) to[loop above] node[auto] {$c$} (q0);
  \draw [->] (q1) ..controls (102bp,96.993bp) and (102bp,73.356bp)  .. node[auto] {$a$} (qbot);
  \draw [->] (q0) ..controls (46.061bp,100.18bp) and (63.141bp,109.76bp)  .. node[auto] {$a$} (q1);
  \draw [->] (q2) ..controls (166.87bp,65.735bp) and (145.76bp,51.281bp)  .. node[auto] {$a,b$} (qbot);
  \draw [->] (q1) ..controls (132.83bp,116.08bp) and (154.08bp,105.46bp)  .. node[auto] {$b$} (q2);
%
\end{tikzpicture}

%%% end example2c %%%
\end{center}

\thingy On définit un état accessible d'un DFAI comme pour un DFA
(cf. \ref{definition-dfa-accessible-state}).

On dira en outre d'un état $q$ d'un DFAI qu'il est
\textbf{co-accessible} lorsqu'il existe un mot $w \in \Sigma^*$ tel
que $\delta(q,w)$ soit défini et soit final, autrement dit,
graphiquement, lorsqu'il existe un chemin orienté reliant l'état $q$
considéré à un état final (remarquer que les états finaux eux-mêmes
sont co-accessibles : prendre $w=\varepsilon$ dans ce qu'on vient de
dire).  Un état non co-accessible est donc un état à partir duquel il
est impossible de faire accepter le mot.  Cette définition pourrait
également être faite pour les DFA, mais pour les DFAI elle présente
l'intérêt qu'on peut supprimer les états non co-accessibles dans un
DFAI (ainsi, bien sûr, que toutes les transitions qui y conduisent).

Un DFAI dont tous les états sont à la fois accessibles et
co-accessibles (on les dit aussi \textbf{utiles}) est parfois appelé
\textbf{émondé}.  On peut émonder un DFAI en ne conservant que ses
états utiles : ainsi, tout DFAI est équivalent à un DFAI émondé.

\thingy Il faut prendre garde au fait que certains auteurs définissent
les automates finis déterministes comme étant complets, d'autres comme
étant incomplets.


\subsection{Automates finis non-déterministes (=NFA)}

\thingy Un \textbf{automate fini non-déterministe}, en abrégé
\textbf{NFA}, sur un alphabet $\Sigma$ est la donnée
\begin{itemize}
\item d'un ensemble fini $Q$ d'états,
\item d'un ensemble $I \subseteq Q$ d'états dits initiaux,
\item d'un ensemble $F \subseteq Q$ d'états dits finaux,
\item d'une \emph{relation} de transition $\delta \subseteq Q \times
  \Sigma \times Q$ (c'est-à-dire une partie du produit cartésien $Q
  \times \Sigma \times Q$, i.e., un ensemble de triplets $(q,x,q') \in
  Q \times \Sigma \times Q$).
\end{itemize}
Autrement dit, on autorise maintenant un ensemble quelconque d'états
initiaux, et de même, au lieu qu'un état $q$ et une lettre $x$
déterminent un unique état $q' = \delta(q,x)$, on a maintenant affaire
à un ensemble quelconque de triplets $(q,x,q')$.

\thingy Un DFAI (ou \textit{a fortiori} un DFA) est considéré comme un
NFA particulier en définissant l'ensemble des états initiaux du NFA
comme $I_{\mathrm{NFA}} = \{q_{0,\mathrm{DFAI}}\}$ et en définissant
la relation de transition du NFA comme le graphe de la fonction de
transition du DFAI (c'est-à-dire $(q,x,q') \in \delta_{\mathrm{NFA}}$
lorsque $\delta_{\mathrm{DFAI}}(q,x)$ est défini et vaut $q'$).

\thingy Graphiquement, on représente un NFA comme un DFA : comme un
graphe orienté dont les nœuds sont les éléments de $Q$, et où on place
une arête étiquetée $x$ de $q$ vers $q'$ pour chaque triplet $(q,x,q')
\in \delta$ ; comme précédemment, on marque les états initiaux par une
flèche entrante (i.e., pointant de nulle part) et les états finaux par
une flèche sortante (i.e., pointant vers nulle part).

\thingy Il faut comprendre le fonctionnement d'un NFA de la manière
suivante : un mot $w = x_1\cdots x_n$ est accepté par l'automate
lorsqu'\emph{il existe} un chemin conduisant d'\emph{un} état initial
à un état final et dont les arêtes sont étiquetées par les lettres
$x_1,\ldots,x_n$ de $w$ (dans l'ordre) ; autrement dit, $w$ est
accepté lorsqu'\emph{il existe} $q_0,\ldots,q_n \in Q$ tels que $q_0
\in I$ et $q_n\in F$ et $(q_{i-1},x_i,q_i) \in \delta$ pour
chaque $1\leq i\leq n$.

Il existe plusieurs manières de reformuler ce comportement : on peut
par exemple dire que l'automate est dans plusieurs états à la fois,
qu'il commence dans tous les états initiaux à la fois, et qu'à chaque
fois qu'il consomme une lettre $x$, il effectue toutes les transitions
possibles à partir d'un état où et étiquetées par cette lettre, et
qu'au bout du compte l'automate accepte le mot lorsqu'il est dans
\emph{au moins un} état acceptant (même s'il est, par ailleurs, dans
d'autres états).  C'est cette façon de voir les choses qui conduira à
l'équivalence entre NFA et DFA (cf. \ref{determinization-of-nfa}).

Une autre façon de présenter les choses est que l'automate « devine »
par quel état initial commencer, et à chaque lettre consommée,
« devine » quelle transition effectuer, de manière à accepter le mot
si c'est possible.

En tout état de cause, la définition formelle va être donnée
ci-dessous.

\thingy Si $A = (Q,I,F,\delta)$ est un NFA sur l'alphabet $\Sigma$, on
définit une relation $\delta^* \subseteq Q \times \Sigma^* \times Q$
par $(q,w,q') \in \delta^*$ lorsque $w = x_1\cdots x_n$ et qu'il
existe $(q_0,\ldots,q_n)$ tels que $q_0 = q$ et $q_n = q'$ et
$(q_{i-1},x_i,q_i) \in \delta$ pour chaque $1\leq i\leq n$ ; ou, ce
qui revient au même (par récurrence sur la longueur de $w$) :
\begin{itemize}
\item $(q,\varepsilon,q') \in \delta^*$ si et seulement si $q'=q$,
\item $(q,wx,q') \in \delta^*$ si et seulement si il existe $q^\sharp$
  tel que $(q,w,q^\sharp) \in \delta^*$ et $(q^\sharp,x,q') \in
  \delta$.
\end{itemize}

Enfin, l'automate $A$ accepte un mot $w$ lorsqu'il existe $q_0\in I$
et $q_\infty\in F$ tels que $(q_0,w,q_\infty) \in \delta^*$.  Le
langage accepté $L_A$ et l'équivalence de deux automates sont définis
de façon analogue aux DFA
(cf. \ref{definition-recognizable-language}).

\thingy\label{discussion-example4} Pour illustrer le fonctionnement
des NFA, considérons l'automate à trois états sur $\Sigma=\{a,b\}$
représenté par la figure suivante : on a $Q = \{0,1,2\}$ avec
$I=\{0\}$ et $F=\{2\}$ et $\delta = \{(0,a,0),\penalty0
(0,b,0),\penalty-100 (0,a,1),\penalty-50 (1,a,2),\penalty0 (1,b,2)\}$.

\begin{center}
%%% begin example4 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,18bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,18bp) [draw,circle,state,initial] {$0$};
  \node (q2) at (188bp,18bp) [draw,circle,state,final] {$2$};
  \draw [->] (q0) ..controls (46.106bp,18bp) and (58.578bp,18bp)  .. node[auto] {$a$} (q1);
  \draw [->] (q1) ..controls (128.76bp,18bp) and (145.63bp,18bp)  .. node[auto] {$a,b$} (q2);
  \draw [->] (q0) to[loop above] node[auto] {$a,b$} (q0);
%
\end{tikzpicture}

%%% end example4 %%%
\end{center}

Cet automate n'est pas déterministe car il existe deux transitions
étiquetées $a$ partant de l'état $0$.  En considérant les différents
chemins possibles entre $0$ et $2$ dans ce graphe, on comprend que le
langage qu'il reconnaît est le langage des mots sur $\{a,b\}$ dont
l'avant-dernière lettre est un $a$ (c'est aussi le langage dénoté par
l'expression rationnelle $(a|b){*}a(a|b)$).  Une façon de présenter le
non-déterminisme est que l'automate « devine », quand il est dans
l'état $0$ et qu'on lui fait consommer un $a$, si ce $a$ sera
l'avant-dernière lettre, et, dans ce cas, passe dans l'état $1$ pour
pouvoir accepter le mot.

\begin{prop}\label{determinization-of-nfa}
Soit $A = (Q,I,F,\delta)$ un NFA sur un alphabet $\Sigma$.  Alors il
existe un DFA $A' = (Q',q'_0,F',\delta')$ (sur le même
alphabet $\Sigma$) qui soit équivalent à $A$ au sens où il reconnaît
le même langage $L_{A'} = L_A$.  De plus, $A'$ se déduit
algorithmiquement de $A$ avec une augmentation au plus exponentielle
du nombre d'états : $\#Q' \leq 2^{\#Q}$.
\end{prop}
\begin{proof}
On définit $Q' = \mathscr{P}(Q) = \{\mathbf{q} \subseteq Q\}$
l'\emph{ensemble des parties} de $Q$ : c'est ce qui servira d'ensemble
d'états du DFA $A'$ qu'on construit (i.e., un état de $A'$ est un
ensemble d'états de $A$ — intuitivement, c'est l'ensemble des états
dans lesquels on se trouve simultanément).  On pose $q'_0 = I$ et $F'
= \{\mathbf{q}\subseteq Q :\penalty-100 \mathbf{q}\cap F
\neq\varnothing\}$ l'ensemble des états de $A'$ qui, vus comme des
ensembles d'états de $A$, contiennent \emph{au moins un} état final.
Enfin, pour $\mathbf{q}\subseteq Q$ et $x \in \Sigma$, on définit
$\delta'(\mathbf{q},x) = \{q_1\in Q : \exists q_0\in\mathbf{q}
((q_0,x,q_1) \in \delta)\}$ comme l'ensemble de tous les états $q_1$
de $A$ auxquels on peut accéder depuis un état $q_0$ dans $\mathbf{q}$
par une transition $(q_0,x,q_1)$ (étiquetée par $x$) de $A$.

Il est alors facile de voir (par récurrence sur $|w|$) que
$\delta^{\prime*}(\mathbf{q},w)$ est l'ensemble de tous les les états
$q_1 \in Q$ tels que $(q_0,w,q_1)\in\delta^*$, i.e., auxquels on peut
accéder depuis un état $q_0$ dans $\mathbf{q}$ par une suite de
transitions de $A$ étiquetées par les lettres de $w$.  En particulier,
$\delta^{\prime*}(I,w)$ est l'ensemble de tous les états de $A$
auxquels on peut accéder depuis un état initial de $A$ par une suite
de transitions de $A$ étiquetées par les lettres de $w$ : le mot $w$
appartient à $L_A$ si et seulement si cet ensemble contient un élément
de $F$, ce qui par définition de $F'$ signifie exactement
$\delta^{\prime*}(I,w) \in F'$.  On a bien prouvé $L_{A'} = L_A$.

Enfin, $\#Q' = \#\mathscr{P}(Q) = 2^{\#Q}$ (car une partie de $Q$ peut
se voir comme sa fonction indicatrice, qui est une fonction $Q \to
\{0,1\}$).
\end{proof}

\thingy On dit que le DFA $A'$ est obtenu en \textbf{déterminisant} le
NFA $A$ lorsqu'il est obtenu par la procédure décrite dans la
démonstration de cette proposition en ne gardant que les états
accessibles.

Algorithmiquement, la déterminisation de $A$ s'obtient par la
procéduire suivante :
\begin{itemize}
\item créer une file (ou une pile) d'ensembles d'états de $A$ ;
  initialiser cette file avec le seul élément $I$ (vu comme un
  sous-ensemble de $Q$) ; et créer l'automate $A'$ avec initialement
  l'unique état $I$, marqué comme état initial, et aussi comme final
  s'il contient un état final de $A$ ;
\item tant que la file/pile n'est pas vide : en extraire un élément
  $\mathbf{q}$, et, pour chaque lettre $x\in\Sigma$,
\begin{itemize}
\item calculer l'ensemble $\mathbf{q}' = \{q_1\in Q : \exists
  q_0\in\mathbf{q} ((q_0,x,q_1) \in \delta)\}$ (en listant tous les
  triplets $(q_0,x,q_1)$ dont le premier élément est dans $\mathbf{q}$
  et le second élément est $x$),
\item si $\mathbf{q}'$ n'existe pas déjà comme état de $A'$, l'y
  ajouter, et dans ce cas, l'ajouter à la file/pile, et de plus, si
  $\mathbf{q}'$ contient un état final de $A$, marquer cet état comme
  final pour $A'$,
\item et ajouter à $A'$ la transition $\delta'(\mathbf{q},x) =
  \mathbf{q}'$.
\end{itemize}
\end{itemize}

La file/pile sert à stocker les états de $A'$ qui ont été créés mais
pour lesquels les transitions sortantes n'ont pas encore été
calculées.  L'algorithme se termine quand la file/pile se vide, ce qui
se produit toujours en au plus $2^{\#Q}$ étapes car chaque $\mathbf{q}
\subseteq Q$ ne peut apparaître qu'une seule fois dans la file/pile.

Il se peut que l'état $\varnothing$ soit créé : cet état servira
effectivement de puits, au sens où on aura $\delta'(\varnothing,x) =
\varnothing$ quel que soit $x$ (et l'état n'est pas acceptant).

Il arrive souvent que l'automate déterminisé soit plus petit que les
$2^{\#Q}$ états qu'il a dans le pire cas.

\thingy À titre d'exemple, déterminisons le NFA $A$ présenté
en \ref{discussion-example4} : on commence par construire un état
$\{0\}$ pour $A'$ car le NFA a $\{0\}$ pour ensemble d'états
initiaux ; on a $\delta'(\{0\},a) = \{0,1\}$ car $0$ et $1$ sont les
deux états auxquels on peut arriver dans $A$ par une transition
partant de $0$ et étiquetée par $a$, tandis que $\delta'(\{0\},b) =
\{0\}$ ; ensuite, $\delta'(\{0,1\},a) = \{0,1,2\}$ car $0,1,2$ sont
les trois états auxquels on peut arriver dans $A$ par une transition
partant de $0$ ou $1$ et étiquetée par $a$ ; et ainsi de suite.  En
procédant ainsi, on constuit l'automate à $4$ états qui suit :

\begin{center}
\footnotesize
%%% begin example4det %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\begin{scope}
  \pgfsetstrokecolor{black}
  \definecolor{strokecol}{rgb}{1.0,1.0,1.0};
  \pgfsetstrokecolor{strokecol}
  \definecolor{fillcol}{rgb}{1.0,1.0,1.0};
  \pgfsetfillcolor{fillcol}
  \filldraw (0bp,0bp) -- (0bp,163bp) -- (212bp,163bp) -- (212bp,0bp) -- cycle;
\end{scope}
  \node (q02) at (188bp,27bp) [draw,circle,state,final] {$\{0,2\}$};
  \node (q0) at (18bp,18bp) [draw,circle,state,initial] {$\{0\}$};
  \node (q01) at (100bp,56bp) [draw,circle,state] {$\{0,1\}$};
  \node (q012) at (188bp,106bp) [draw,circle,state,final] {$\{0,1,2\}$};
  \draw [->] (q01) ..controls (127.39bp,49.663bp) and (137.27bp,46.959bp)  .. (146bp,44bp) .. controls (150.77bp,42.384bp) and (155.77bp,40.486bp)  .. node[auto] {$b$} (q02);
  \draw [->] (q02) ..controls (159.35bp,21.739bp) and (147.76bp,21.451bp)  .. (138bp,25bp) .. controls (132.05bp,27.164bp) and (126.38bp,30.754bp)  .. node[auto] {$a$} (q01);
  \draw [->] (q0) ..controls (45.691bp,30.678bp) and (60.407bp,37.668bp)  .. node[auto] {$a$} (q01);
  \draw [->] (q0) to[loop above] node[auto] {$b$} (q0);
  \draw [->] (q01) ..controls (128.64bp,72.07bp) and (144.34bp,81.198bp)  .. node[auto] {$a$} (q012);
  \draw [->] (q012) to[loop above] node[auto] {$a$} (q012);
  \draw [->] (q02) ..controls (155.56bp,18.853bp) and (136.78bp,14.735bp)  .. (120bp,13bp) .. controls (102.32bp,11.172bp) and (97.763bp,12.273bp)  .. (80bp,13bp) .. controls (68.968bp,13.451bp) and (56.843bp,14.36bp)  .. node[auto] {$b$} (q0);
  \draw [->] (q012) ..controls (188bp,73.926bp) and (188bp,64.965bp)  .. node[auto] {$b$} (q02);
%
\end{tikzpicture}

%%% end example4det %%%
\end{center}

On remarquera qu'on a construit moins que les $2^3 = 8$ états qu'on
pouvait craindre.

Il est par ailleurs instructif de regarder comment fonctionne
l'automate $A'$ ci-dessus pour déterminer si l'avant-dernière lettre
d'un mot est un $a$ : intuitivement, l'état $\{0\}$ mémorise
l'information « la dernière lettre n'était pas un $a$, et la
  précédente ne l'était pas », l'état $\{0,1\}$ mémorise « la dernière
  lettre était un $a$, mais la précédente ne l'état pas », l'état
$\{0,1,2\}$ mémorise « les deux dernières lettres étaient des $a$ »,
et l'état $\{0,2\}$ mémorise « la dernière lettre était un $b$, mais
  la précédente était un $a$ ».


\subsection{Automates finis non-déterministes à transitions spontanées (=εNFA)}

\thingy Un \textbf{automate fini non-déterministe à transitions
  spontanées} ou \textbf{...à $\varepsilon$-transitions}, en abrégé
\textbf{εNFA}, sur un alphabet $\Sigma$ est la donnée
\begin{itemize}
\item d'un ensemble fini $Q$ d'états,
\item d'un ensemble $I \subseteq Q$ d'états dits initiaux,
\item d'un ensemble $F \subseteq Q$ d'états dits finaux,
\item d'une relation de transition $\delta \subseteq Q \times
  (\Sigma\cup\{\varepsilon\}) \times Q$.
\end{itemize}
Autrement dit, on autorise maintenant des transitions étiquetées par
le mot vide $\varepsilon$ plutôt que par une lettre $x \in\Sigma$ :
ces transitions sont dites spontanées, ou $\varepsilon$-transitions.

Soulignons qu'on ne définit les $\varepsilon$-transitions \emph{que}
pour les automates non-déterministes : ou, pour dire les choses
autrement, \emph{un automate qui possède des $\varepsilon$-transitions
  est par nature même non-déterministe}.

La représentation graphique des εNFA est évidente (on utilisera le
symbole « $\varepsilon$ » pour étiqueter les transitions spontanées).
Un NFA est considéré comme un εNFA particulier pour lequel il n'y a
pas de ε-transition.

\thingy Un εNFA accepte un mot $w$ lorsqu'il existe un chemin
conduisant d'un état initial à un état final et dont les arêtes sont
étiquetées par les lettres de $w$ ou bien des $\varepsilon$ insérés à
n'importe quel endroit et en n'importe quel nombre.  Autrement dit,
$w$ est accepté lorsqu'\emph{il existe} $q_0,\ldots,q_n \in Q$ et
$t_1,\ldots,t_n \in (\Sigma\cup\{\varepsilon\})$ tels que $q_0 \in I$
et $q_n\in F$ et $(q_{i-1},t_i,q_i) \in \delta$ pour chaque $1\leq
i\leq n$ et $w = t_1\cdots t_n$ (\emph{attention} : dans cette
écriture, $t_1,\ldots,t_n$ ne sont pas forcément les lettres de $w$,
certains des $t_i$ peuvent être le symbole $\varepsilon$, les lettres
de $w$ sont obtenues en ignorant ces symboles).

De façon plus intuitive, cela signifie que l'automate a la possibilité
de passer spontanément, c'est-à-dire sans consommer de lettre, d'un
état $q$ à un état $q'$, lorsque ces états sont reliés par une
ε-transition.

\thingy Voici une formalisation possible : si $A = (Q,I,F,\delta)$ est
un εNFA sur l'alphabet $\Sigma$, on définit une relation $\delta^*
\subseteq Q \times \Sigma^* \times Q$ par $(q,w,q') \in \delta^*$
lorsqu'il existe $q_0,\ldots,q_n \in Q$ et $t_1,\ldots,t_n \in
(\Sigma\cup\{\varepsilon\})$ tels que $q_0 = q$ et $q_n = q'$ et
$(q_{i-1},t_i,q_i) \in\delta$ pour chaque $1\leq i\leq n$, et enfin $w
= t_1\cdots t_n$.

Si on préfère, on peut définir par récurrence sur $n \geq 0$ une
relation $\delta^{(n)} \subseteq Q \times \Sigma^* \times Q$ de la
manière suivante :
\begin{itemize}
\item $(q,w,q') \in \delta^{(0)}$ si et seulement si $q'=q$ et
  $v=\varepsilon$,
\item $\delta^{(1)} = \delta \subseteq Q \times
  (\Sigma\cup\{\varepsilon\})$ (faisant partie de la donnée de $A$),
\item $(q,v,q') \in \delta^{(n+1)}$ si et seulement si il existe
  $q^\sharp \in Q$ et $t \in \Sigma\cup\{\varepsilon\}$ tels que
  $(q,w,q^\sharp) \in \delta^{(n)}$ et $(q^\sharp,t,q') \in \delta$ et
  $v = wt$ (ce qui signifie que : soit $t=\varepsilon$ et $v=w$, soit
  $t\in\Sigma$ est la dernière lettre de $w$ et $v$ est le préfixe
  correspondant) ;
\end{itemize}
et on définit $\delta^* = \bigcup_{n=1}^{+\infty} \delta^{(n)}$,
autrement dit $(q,w,q') \in \delta^*$ lorsqu'il existe $n$ tel que
$(q,w,q') \in \delta^{(n)}$.

Concrètement, $(q,w,q') \in \delta^{(n)}$ signifie que le εNFA peut
passer de l'état $q$ à l'état $q'$ en effectuant (exactement) $n$
transitions ($q_0\to q_1 \to \cdots \to q_n$ étiquetées par
$t_1,\ldots,t_n \in (\Sigma\cup\{\varepsilon\})$) et en consommant le
mot $w$ (soit $w = t_1\cdots t_n$) ; et $(q,w,q') \in \delta^*$
signifie la même chose mais sans contrainte sur le nombre de
transitions.  La différence avec les NFA est que le nombre $n$ de
transitions n'est plus forcément égal à la longueur de $w$.

Enfin, l'automate $A$ accepte un mot $w$ lorsqu'il existe $q_0\in I$
et $q_\infty\in F$ tels que $(q_0,w,q_\infty) \in \delta^*$.  Le
langage accepté $L_A$ et l'équivalence de deux automates sont définis
de façon analogue aux DFA
(cf. \ref{definition-recognizable-language}).

\thingy\label{discussion-example5} Voici un exemple de εNFA
particulièrement simple sur $\Sigma = \{a,b,c\}$:

\begin{center}
%%% begin example5 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,18bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,18bp) [draw,circle,state,initial] {$0$};
  \node (q2) at (178bp,18bp) [draw,circle,state,final] {$2$};
  \draw [->] (q0) ..controls (46.106bp,18bp) and (58.578bp,18bp)  .. node[auto] {$\varepsilon$} (q1);
  \draw [->] (q1) to[loop above] node[auto] {$b$} (q1);
  \draw [->] (q1) ..controls (126.11bp,18bp) and (138.58bp,18bp)  .. node[auto] {$\varepsilon$} (q2);
  \draw [->] (q0) to[loop above] node[auto] {$a$} (q0);
  \draw [->] (q2) to[loop above] node[auto] {$c$} (q2);
%
\end{tikzpicture}

%%% end example5 %%%
\end{center}

En considérant les différents chemins possibles entre $0$ et $2$ sur
ce graphe, on comprend que le langage qu'il reconnaît est celui des
mots sur $\{a,b,c\}$ formés d'un nombre quelconque de $a$ suivi d'un
nombre quelconque de $b$ suivi d'un nombre quelconque de $c$, ou, si
on préfère, le langage dénoté par l'expression rationnelle
$a{*}b{*}c{*}$.

\thingy Si $q$ est un état d'un εNFA, on appelle \textbf{ε-fermeture}
de $q$ l'ensemble des états $q'$ (y compris $q$ lui-même) accessibles
depuis $q$ par une succession quelconque de ε-transitions,
c'est-à-dire, si on veut, $\{q'\in Q :\penalty0 (q,\varepsilon,q')
\in\delta^*\}$.  On notera temporairement $C(q)$ cet ensemble.  (Par
exemple, dans l'exemple \ref{discussion-example5} ci-dessus, on a
$C(0) = \{0,1,2\}$ et $C(1) = \{1,2\}$ et $C(2) = \{2\}$.  Dans tout
NFA sans ε-transitions, on a $C(q) = \{q\}$ pour tout état $q$.)

Il est clair qu'on peut calculer algorithmiquement $C(q)$ (par exemple
par un algorithme de Dijkstra sur le graphe dont l'ensemble des
sommets est $Q$ et l'ensemble des arêtes est l'ensemble des
ε-transitions de $A$ : la ε-fermeture $C(q)$ est simplement l'ensemble
des sommets accessibles depuis $q$ dans ce graphe).

\begin{prop}\label{removal-of-epsilon-transitions}
Soit $A = (Q,I,F,\delta)$ un εNFA sur un alphabet $\Sigma$.  Alors il
existe un NFA $A^\S = (Q,I^\S,F^\S,\delta^\S)$ (sur le même
alphabet $\Sigma$) ayant le même ensemble d'états $Q$ que $A$ et qui
soit équivalent à $A$ au sens où il reconnaît le même langage
$L_{A^\S} = L_A$.  De plus, $A^\S$ se déduit algorithmiquement de $A$.
\end{prop}
\begin{proof}
On pose $I^\S = I$ (mêmes états initiaux).  L'idée est maintenant de
faire une transition $(q,x,q') \in \delta^\S$ à chaque fois qu'on peut
atteindre $q'$ à partir de $q$ dans $A$ par une suite quelconque de
ε-transitions suivie d'une unique transition étiquetée par $x$,
autrement dit, $(q,\varepsilon,q^\sharp) \in \delta^*$ (c'est-à-dire
$q^\sharp \in C(q)$) et $(q^\sharp,x,q') \in \delta$.

On définit donc $\delta^\S \subseteq Q\times\Sigma\times Q$ par
$(q,x,q') \in \delta^\S$ lorsqu'il existe $q^\sharp \in C(q)$ tel que
$(q^\sharp,x,q') \in \delta$ : autrement dit, pour créer les
transitions $q\to q'$ dans $A^\S$, on parcourt tous les $q^\sharp \in
C(q)$, et on crée une transition $q\to q'$ étiquetée par $x$
dans $A^\S$ lorsqu'il existe une transition $q^\sharp\to q'$ étiquetée
par ce $x$ dans $A$.  De même, on définit $F^\S \subseteq Q$ comme
l'ensemble des $q\in Q$ tels que $C(q) \cap F \neq \varnothing$,
c'est-à-dire, qu'on peut atteindre un état final par une succession de
ε-transitions.

Si on a un chemin $q_0 \to q_1 \to \cdots \to q_n$ dans $A$ menant
d'un état initial $q_0 \in I$ à un état final $q_n \in F$ et
étiquetées par $t_1,\ldots,t_n \in (\Sigma\cup\{\varepsilon\})$
(c'est-à-dire $(q_{i-1},t_i,q_i) \in \delta$), appelons
$j_1<\ldots<j_m$ les indices tels que $t_j \in\Sigma$, autrement dit,
tels que la transition $q_{j-1} \to q_j$ ne soit pas spontanée, et
posons $j_0 = 0$.  Alors on passe de $q_{j_{i-1}}$ à $q_{j_i}$ par une
succession de ε-transitions (de $q_{j_{i-1}}$ à $q_{(j_i)-1}$) suivie
par une unique transition non spontanée : on a $q_{(j_i)-1} \in
C(q_{j_{i-1}})$ et $(q_{(j_i)-1},t_{j_i},q_{j_i}) \in \delta$,
autrement dit $(q_{j_{i-1}},t_{j_i},q_{j_i}) \in \delta^\S$ ; et comme
le mot $w = t_1\cdots t_n$ s'écrit aussi $t_{j_1}\cdots t_{j_m}$, on a
un chemin reliant $q_{j_0} = q_0 \in I$ à $q_{j_m} \in F^\S$ (puisque
$q_n \in C(q_{j_m}) \cap F$).  Le mot $w$ supposé accepté par $A$ est
donc accepté par $A^\S$.  La réciproque est analogue.
\end{proof}

\thingy On dit que le NFA $A^\S$ est obtenu en \textbf{éliminant les
  ε-transitions} dans le εNFA $A$ lorsqu'il est obtenu par la
procédure décrite dans la démonstration de cette proposition, et en
supprimant tous les états non-initiaux de $A^\S$ auxquels
n'aboutissent dans $A$ que des ε-transitions (ces états sont devenus
inaccessibles dans $A^\S$).  Algorithmiquement, il s'agit donc, pour
chaque état $q\in Q$ et chaque $q^\sharp$ dans la ε-femerture $C(q)$
de $q$, de créer une transition $q\to q'$ étiquetée par $x$
dans $A^\S$ pour chaque transition $q^\sharp\to q'$ étiquetée par $x$
dans $A$.

\thingy À titre d'exemple, éliminons les ε-transitions du εNFA $A$
présenté en \ref{discussion-example5} : comme $C(0) = \{0,1,2\}$, on
fait partir de $0$ toutes les transitions partant d'un des états
$0,1,2$ et étiquetées par une lettre, et de même, comme $C(1) =
\{1,2\}$, on fait pratir de $1$ toutes les transitions partant d'un
des états $1,2$ et étiquetées par une lettre.  On obtient finalement
l'automate suivant :

\begin{center}
%%% begin example5ne %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (97bp,48bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,18bp) [draw,circle,state,initial] {$0$};
  \node (q2) at (176bp,18bp) [draw,circle,state,final] {$2$};
  \draw [->] (q0) ..controls (47.643bp,10.917bp) and (64.2bp,7.4655bp)  .. (79bp,6bp) .. controls (94.922bp,4.4234bp) and (99.078bp,4.4234bp)  .. (115bp,6bp) .. controls (125.98bp,7.0877bp) and (137.94bp,9.2693bp)  .. node[auto] {$c$} (q2);
  \draw [->] (q2) to[loop above] node[auto] {$c$} (q2);
  \draw [->] (q0) to[loop above] node[auto] {$a$} (q0);
  \draw [->] (q1) to[loop above] node[auto] {$b$} (q1);
  \draw [->] (q1) ..controls (124.28bp,37.762bp) and (137.94bp,32.438bp)  .. node[auto] {$c$} (q2);
  \draw [->] (q0) ..controls (45.279bp,28.238bp) and (58.943bp,33.562bp)  .. node[auto] {$b$} (q1);
%
\end{tikzpicture}

%%% end example5ne %%%
\end{center}

(Sur cet exemple précis, on obtient un automate déterministe
incomplet, mais ce n'est pas un phénomène général : en général il faut
s'attendre à obtenir un NFA.)

{\footnotesize

\thingy\textbf{Remarque :} La manière dont on a éliminé les
ε-transitions ci-dessus consiste à remplacer \emph{une succession de
  ε-transitions suivie d'une unique transition étiquetée $x$} par une
transition étiquetée $x$ (et de même, on modifie les états finaux,
mais pas les états initiaux).  Il existait un moyen « dual »
d'éliminer les ε-transitions, à savoir remplacer \emph{une unique
  transition étiquetée $x$ suivie d'une succession de ε-transitions}
par une transition étiquetée $x$ (et de même, on modifie les états
initiaux, mais pas les états finaux).  Autrement dit, la construction
$A \mapsto A^\S$ décrite en \ref{removal-of-epsilon-transitions}
définit $(q,x,q') \in \delta^\S$ lorsqu'il existe $q^\sharp \in C(q)$
tel que $(q^\sharp,x,q') \in \delta$, et $I^\S=I$ et $F^\S$ comme
l'ensemble des états $q$ tels que $C(q) \cap F \neq \varnothing$ ; la
construction « duale » $A \mapsto A^\P$ consiste à poser $(q,x,q') \in
\delta^\P$ lorsqu'il existe $q^{\flat\prime} \in C(q)$ tel que
$(q,x,q^{\flat\prime}) \in \delta$, et $F^\P=F$ et $I^\P$ comme la
réunion des $C(q)$ pour tout $q\in I$.

Ces deux manières d'éliminer les ε-transitions donnent des NFA
équivalents.  En fait, on peut passer de l'une à l'autre en utilisant
la définition de l'automate transposé $A^{\mathsf{R}}$ présentée
en \ref{nfa-mirror} plus bas (et qui consiste simplement à inverser le
sens de toutes les flèches de l'automate) : si on inverse les flèches,
qu'on élimine les ε-transitions à la manière décrite
en \ref{removal-of-epsilon-transitions}, et qu'on inverse de nouveau
les flèches, on obtient l'élimination « duale », autrement dit, $A^\P
= ((A^{\mathsf{R}})^\S)^{\mathsf{R}}$.

L'une ou l'autre manière d'éliminer les ε-transitions était possible,
mais il vaut mieux ne pas les mélanger.  C'est pour cette raison qu'on
a fait un choix en \ref{removal-of-epsilon-transitions} ; la présente
remarque a principalement pour objectif d'expliquer la raison d'une
perte de symétrie (notamment entre états initiaux et finaux) dans ce
choix.

\par}


\section{Langages reconnaissables et langages rationnels}

\subsection{Stabilité des langages reconnaissables}

\thingy On rappelle qu'on a défini un langage reconnaissable comme un
langage $L$ pour lequel il existe un DFA $A$ tel que $L = L_A$.
D'après \ref{completion-of-dfai}, \ref{determinization-of-nfa} et
\ref{removal-of-epsilon-transitions}, on peut remplacer « DFA » dans
cette définition par « DFAI », « NFA » ou « εNFA » sans changer la
définition.

Nous allons maintenant montrer que les langages reconnaissables sont
stables par différentes opérations : complémentaire, union,
intersection, concaténation et étoile de Kleene.

\begin{prop}\label{dfa-complement}
Si $L$ est un langage reconnaissable sur un alphabet $\Sigma$, alors
le complémentaire $\Sigma^*\setminus L$ de $L$ est reconnaissable ; de
plus, un DFA reconnaissant l'un se déduit algorithmiquement d'un DFA
reconnaissant l'autre.
\end{prop}
\begin{proof}
Par hypothèse, il existe un DFA (complet !) $A = (Q,q_0,F,\delta)$ tel
que $L = L_A$.  Considérons le DFA $A'$ défini par l'ensemble d'états
$Q' = Q$, l'état initial $q'_0 = q_0$, la fonction de transition
$\delta' = \delta$ et pour seul changement l'ensemble d'états finaux
$F' = Q \setminus F$ complémentaire de $F$.

Si $w \in \Sigma^*$, on a $w \in L_{A'}$ si et seulement si
$\delta^{\prime*}(q_0,w) \in F'$, c'est-à-dire $\delta^*(q_0,w) \in
F'$ (puisque $\delta' = \delta$), c'est-à-dire $\delta^*(q_0,w)
\not\in F$ (par définition du complémentaire), c'est-à-dire $w \not\in
L_A$.  Ceci montre bien que $L_{A'}$ est le complémentaire de $L_A$.
\end{proof}

\thingy Cette démonstration a utilisé la caractérisation des langages
reconnaissables par les DFA : il était crucial de le faire, et les
autres sortes d'automates définis plus haut n'auraient pas permis
d'arriver (simplement) à la même conclusion.  Il est intéressant de
réfléchir à pourquoi.  (Essentiellement, dans un NFA, un mot est
accepté dès qu'\emph{il existe} un chemin qui l'accepte, or
l'existence d'un chemin aboutissant à un état non-final n'est pas la
même chose que l'inexistence d'un chemin aboutissant à un état final.)

\begin{prop}\label{dfa-union-and-intersection}
Si $L_1,L_2$ sont des langages reconnaissables (sur un même
alphabet $\Sigma$), alors la réunion $L_1\cup L_2$ et l'intersection
$L_1\cap L_2$ sont reconnaissables ; de plus, un DFA reconnaissant
l'un comme l'autre se déduit algorithmiquement de DFA reconnaissant
$L_1$ et $L_2$.
\end{prop}
\begin{proof}
Traitons le cas de l'intersection.  Par hypothèse, il existe des DFA
(complets !) $A_1 = (Q_1,q_{0,1},F_1,\delta_1)$ et $A_2 =
(Q_2,q_{0,2},F_2,\delta_2)$ tels que $L_1 = L_{A_1}$ et $L_2 =
L_{A_2}$.  Considérons le DFA $A'$ défini par l'ensemble d'états $Q' =
Q_1 \times Q_2$ (c'est-à-dire l'ensemble des couples formés d'un état
de $A_1$ et d'un état de $A_2$), l'état initial $q'_0 =
(q_{0,1},q_{0,2})$, la fonction de transition $\delta' \colon
((p_1,p_2),x) \mapsto (\delta_1(p_1,x), \delta_2(p_2,x))$ et pour
ensemble d'états finaux $F' = F_1\times F_2$.  Remarquons que
$(p_1,p_2) \in Q'$ appartient à $F' = F_1\times F_2$ si et seulement
si $p_1 \in F_1$ \emph{et} $p_2 \in F_2$ (i.e., $F' \subseteq Q'$ est
l'ensemble des couples dont les deux composantes sont finales).  Par
ailleurs, si $w\in \Sigma^*$, on a $\delta^{\prime*}(q_0',w) =
(\delta_1^*(q_{0,1},w), \delta_2^*(q_{0,2},w))$, et par ce qui vient
d'être dit, ceci appartient à $F'$ si et seulement
$\delta_1^*(q_{0,1},w) \in F_1$ et $\delta_2^*(q_{0,2},w) \in F_2$.
On voit donc qu'un mot $w$ appartient à $L_{A'}$ si et seulement il
appartient à la fois à $L_1$ et à $L_2$, ce qu'il fallait démontrer.

Pour la réunion, on peut invoquer le fait que la réunion est le
complémentaire de l'intersection des complémentaires, et
utiliser \ref{dfa-complement} ; si on déroule cette démonstration, on
voit qu'on construit un DFA $A''$ exactement égal à $A'$ construit
ci-dessus, à la seule différence près que son ensemble d'états finaux
est $F'' = (F_1\times Q_2) \cup (Q_1\times F_2)$, qui est le
sous-ensemble de $Q'' = Q_1\times Q_2$ formé des couples dont
\emph{l'une au moins} des deux composantes est finale.
\end{proof}

\thingy La construction $A'$ ci-dessus est parfois appelée
\emph{produit} des DFA $A_1$ et $A_2$.

La construction de l'automate produit pour fabriquer le langage
intersection utilise la caractérisation des langages reconnaissables
par les DFA : elle aurait aussi fonctionné pour les DFAI mais pas pour
les NFA ; il est intéressant de réfléchir à pourquoi.  (Une
construction du type produit pourrait fonctionner sur les NFA pour le
langage réunion, mais elle n'a aucun intérêt par rapport à la
construction présentée en \ref{nfa-union}.)

\begin{prop}\label{nfa-mirror}
Si $L$ est un langage reconnaissable sur un alphabet $\Sigma$, alors
le langage miroir (cf. \ref{definition-mirror-language})
$L^{\mathsf{R}}$ de $L$ est reconnaissable ; de plus, un NFA ou εNFA
reconnaissant l'un se déduit algorithmiquement d'un NFA ou εNFA
reconnaissant l'autre : il s'agit simplement d'inverser le sens de
toutes les flèches (y compris celles qui marquent les états initiaux
et finaux).
\end{prop}

L'automate ainsi construit en inversant toutes les flèches d'un
automate $A$ (la définition précise est donnée dans la démonstration
qui suit) et qui reconnaît le langage miroir de celui reconnu par $A$
peut s'appeller automate \textbf{transposé} $A^{\mathsf{R}}$ de $A$.

\begin{proof}
Par hypothèse, il existe un εNFA ou un NFA $A = (Q,I,F,\delta)$ tel
que $L = L_A$.  Considérons l'automate $A^{\mathsf{R}}$ de même type
défini par l'ensemble d'états $Q^{\mathsf{R}} = Q$ et inversant toutes
les flèches de $A$, c'est-à-dire $I^{\mathsf{R}} = F$ et
$F^{\mathsf{R}} = I$ et $(q,t,q') \in \delta^{\mathsf{R}}$ si et
seulement si $(q^{\mathsf{R}},t,q) \in \delta$.  Un chemin existe dans
$A^{\mathsf{R}}$ si et seulement si le même chemin inversé existe
dans $A$, ce qui montre qu'un mot appartient à $L_{A^{\mathsf{R}}}$ si
et seulement si son miroir appartient à $L_A$.  On a donc bien
$L_{A^{\mathsf{R}}}=L^{\mathsf{R}}$, langage miroir de $L$.
\end{proof}

\thingy Alors que les constructions du complémentaire et de
l'intersection s'effectuaient naturellement sur les DFA, celle du
langage miroir s'effectue naturellement sur les NFA.  (On peut, bien
sûr, considérer un DFA comme un NFA particulier, et effectuer dessus
l'opération d'inversion des flèches qu'on vient de décrire, mais en
général on n'obtiendra pas un DFA, seulement un NFA ; les NFA dont
l'automate transposé est déterministe — c'est-à-dire tels que, pour
chaque état $q$ et chaque lettre $x$, il existe une unique arête
aboutissant à $q$ et étiquetée par $x$ — sont parfois dits
« co-déterministes ».)

\thingy On a vu en \ref{dfa-union-and-intersection} une preuve, à base
de NFA, que $L_1 \cup L_2$ est reconnaissable lorsque $L_1$ et $L_2$
le sont.  Donnons maintenant une autre preuve de ce fait, à base de
εNFA :

\begin{prop}\label{nfa-union}
Si $L_1,L_2$ sont des langages reconnaissables (sur un même
alphabet $\Sigma$), alors la réunion $L_1 \cup L_2$ est
reconnaissable ; de plus, un εNFA (resp. NFA) la reconnaissant se
déduit algorithmiquement de εNFA (resp. NFA) reconnaissant $L_1$
et $L_2$ (c'est simplement, en un sens évident, la réunion disjointe
des automates donnés).
\end{prop}
\begin{proof}
Par hypothèse, il existe des εNFA (resp. NFA) $A_1 =
(Q_1,I_1,F_1,\delta_1)$ et $A_2 = (Q_2,I_2,F_2,\delta_2)$ tels que
$L_1 = L_{A_1}$ et $L_2 = L_{A_2}$.  Considérons l'automate $A'$ dont
l'ensemble d'états est $Q' = Q_1 \uplus Q_2$ où $\uplus$ désigne la
réunion disjointe\footnote{C'est-à-dire que, quitte à renommer les
  états, on remplace $Q_2$ par un ensemble en bijection avec lui de
  façon à être disjoint de $Q_1$.}, l'ensemble d'états initiaux est la
réunion $I' = I_1 \cup I_2$, les états finaux $F' = F_1 \cup F_2$, et
la relation de transition $\delta'$ est $\delta_1 \cup \delta_2$
(l'ensemble des transitions existant déjà dans $A_1$ ou $A_2$).
Symboliquement :

\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton]
\node (A1) at (0bp,25bp) [draw,dotted,circle,initial,final] {$A_1$};
\node (A2) at (0bp,-25bp) [draw,dotted,circle,initial,final] {$A_2$};
\end{tikzpicture}
\end{center}

%% \begin{center}
%% \begin{tikzpicture}[>=latex,line join=bevel,automaton]
%% \node (q0) at (0bp,0bp) [draw,circle,state,initial] {$q_0$};
%% \node (A1) at (50bp,30bp) [draw,dotted,circle] {$A_1$};
%% \node (A2) at (50bp,-30bp) [draw,dotted,circle] {$A_2$};
%%   \draw [->] (q0) to node[auto] {$\varepsilon$} (A1);
%%   \draw [->] (q0) to node[auto] {$\varepsilon$} (A2);
%% \end{tikzpicture}
%% \end{center}

Il est alors clair qu'un chemin de l'état initial à un état final dans
cet automate $A'$ consiste soit en un chemin d'un état initial à un
état final dans $A_1$ soit en un tel chemin dans $A_2$.  On a donc
bien $L_{A'} = L_1 \cup L_2$.
\end{proof}

\begin{prop}\label{nfa-concatenation}
Si $L_1,L_2$ sont des langages reconnaissables (sur un même
alphabet $\Sigma$), alors la concaténation $L_1 L_2$ est
reconnaissable ; de plus, un εNFA la reconnaissant se déduit
algorithmiquement de εNFA reconnaissant $L_1$ et $L_2$.
\end{prop}
\begin{proof}
Par hypothèse, il existe des εNFA $A_1 = (Q_1,I_1,F_1,\delta_1)$ et
$A_2 = (Q_2,I_2,F_2,\delta_2)$ tels que $L_1 = L_{A_1}$ et $L_2 =
L_{A_2}$.  Considérons le εNFA $A'$ dont l'ensemble d'états est $Q' =
Q_1 \uplus Q_2$ où $\uplus$ désigne la réunion disjointe, dont les
états initiaux sont $I_1$, les états finaux sont $F_2$, et la relation
de transition $\delta'$ est $\delta_1 \cup \delta_2$ (l'ensemble des
transitions existant déjà dans $A_1$ ou $A_2$) à quoi on ajoute encore
une ε-transition $(q,\varepsilon,q')$ pour chaque $q\in F_1$ et
chaque $q'\in I_2$.  Symboliquement :

\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton]
\node (A1) at (0bp,0bp) [draw,dotted,circle,initial] {$A_1$};
\node (A2) at (70bp,0bp) [draw,dotted,circle,final] {$A_2$};
  \draw [->] (A1) to node[auto] {$\varepsilon$} (A2);
\end{tikzpicture}
\end{center}

Il est alors clair qu'un chemin d'un état initial à un état final dans
cet automate $A'$ consiste en un chemin d'un état initial à un état
final dans $A_1$ suivi d'une ε-transition et d'un chemin d'un état
initial à un état final dans $A_2$.  On a donc bien $L_{A'} = L_1
L_2$.
\end{proof}

\begin{prop}\label{nfa-star}
Si $L$ est un langage reconnaissable (sur un alphabet $\Sigma$), alors
l'étoile de Kleene $L^*$ est reconnaissable ; de plus, un εNFA la
reconnaissant se déduit algorithmiquement de εNFA reconnaissant $L$.
\end{prop}
\begin{proof}
Par hypothèse, il existe un εNFA $A = (Q,I,F,\delta)$ tel que $L =
L_A$.  Considérons le εNFA $A'$ dont l'ensemble d'états est $Q' =
\{q_0\} \uplus Q$ (où $q_0$ est un nouvel état) dont les états
initiaux sont $I' = \{q_0\}$, les états finaux sont $F' = \{q_0\}$, et
la relation de transition $\delta'$ est $\delta$ (l'ensemble des
transitions existant déjà dans $A$) à quoi on ajoute encore une
ε-transition $(q_0,\varepsilon,q)$ pour chaque $q\in I$ et une autre
$(q,\varepsilon,q_0)$ pour chaque $q\in F$.  Symboliquement :

\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton]
\node (q0) at (0bp,0bp) [draw,circle,state,initial,final,accepting below] {$q_0$};
\node (A) at (70bp,0bp) [draw,dotted,circle] {$A$};
  \draw [->,out=45,in=135] (q0) to node[auto] {$\varepsilon$} (A);
  \draw [->,out=225,in=315] (A) to node[auto] {$\varepsilon$} (q0);
\end{tikzpicture}
\end{center}

Il est alors clair qu'un chemin de l'état initial $q_0$ à l'état final
$q_0$ dans cet automate $A'$ consiste en un nombre quelconque
(éventuellement nul) de chemins d'un état initial à un état final
dans $A$ chacun précédé d'une ε-transition de $q_0$ vers l'état
initial de $A$ en question et suivi d'une ε-transition de l'état final
de $A$ en question vers $q_0$.  On a donc bien $L_{A'} = L^*$.
\end{proof}

\begin{cor}\label{rational-languages-are-recognizable}
Tout langage rationnel est reconnaissable ; de plus, un εNFA le
reconnaissant se déduit algorithmiquement d'une expression rationnelle
le dénotant.  (Et en particulier, il est possible de décider
algorithmiquement si un mot vérifie une expression rationnelle.)
\end{cor}
\begin{proof}
Cela résulte de façon évidente de la définition des langages
rationnels (cf. §\ref{subsection-rational-languages}), du fait que les
langages $\varnothing$, $\{\varepsilon\}$ et $\{x\}$ (pour
chaque $x\in\Sigma$) sont reconnaissables par automates finis, et des
propositions \ref{nfa-union}, \ref{nfa-concatenation}
et \ref{nfa-star}.

Pour décider si un mot vérifie une expression rationnelle, on peut
commencer par transformer cette expression rationnelle en εNFA (i.e.,
construire un εNFA reconnaissant le langage qu'elle dénote) comme on
vient de l'expliquer, et transformer ensuite cet automate en DFA
quitte à éliminer les ε-transitions
(cf. \ref{removal-of-epsilon-transitions}) et à déterminiser
(cf. \ref{determinization-of-nfa}), après quoi il est facile de tester
si l'automate accepte le mot.
\end{proof}

\textcolor{red}{TODO: Standardiser la construction des automates.  Par
  exemple, utiliser le NFA « standard » ou « de Glushkov » (ayant un
  seul état initial, éventuellement final, sans aucune transition qui
  y mène).}


\subsection{Automates à transitions étiquetées par des expressions rationnelles (=RNFA)}

\thingy Un \textbf{automate fini (non-déterministe) à transitions
  étiquetées par des expressions rationnelles}, en abrégé
\textbf{RNFA}, sur un alphabet $\Sigma$ est la donnée
\begin{itemize}
\item d'un ensemble fini $Q$ d'états,
\item d'un ensemble $I \subseteq Q$ d'états dits initiaux,
\item d'un ensemble $F \subseteq Q$ d'états dits finaux,
\item d'un ensemble \emph{fini} de transitions $\delta \subseteq Q
  \times (\mathrm{regexp}(\Sigma)) \times Q$ où
  $(\mathrm{regexp}(\Sigma))$ désigne l'ensemble des expressions
  rationnelles sur $\Sigma$.
\end{itemize}
Autrement dit, on autorise maintenant des transitions étiquetées par
des expressions rationnelles quelconques sur $\Sigma$.  Remarquons
qu'on doit maintenant demander explicitement que l'ensemble $\delta$
des transitions permises soit fini car l'ensemble $Q \times
(\mathrm{regexp}(\Sigma)) \times Q$, lui, ne l'est pas.

\thingy Pour un tel automate, on définit une relation $\delta^*
\subseteq Q \times \Sigma^* \times Q$ par $(q,w,q') \in \delta^*$
lorsqu'il existe $q_0,\ldots,q_n \in Q$ et $r_1,\ldots,r_n \in
\mathrm{regexp}(\Sigma)$ tels que $q_0 = q$ et $q_n = q'$ et
$(q_{i-1},r_i,q_i) \in\delta$ pour chaque $1\leq i\leq n$, et enfin $w
\in L_{r_1\cdots r_n}$.

Concrètement, $(q,w,q') \in \delta^{(n)}$ signifie que le RNFA peut
passer de l'état $q$ à l'état $q'$ en effectuant des transitions
($q_0\to q_1 \to \cdots \to q_n$ étiquetées par $r_1,\ldots,r_n \in
\mathrm{regexp}(\Sigma)$) et en consommant le mot $w$ au sens où ce
dernier se décompose comme concaténation d'autant de facteurs que de
transitions ($w = v_1\cdots v_n$), chacun vérifiant l'expression
rationnelle qui étiquette la transition (soit $v_i \in L_{r_i}$).

Enfin, l'automate $A$ accepte un mot $w$ lorsqu'il existe $q_0\in I$
et $q_\infty\in F$ tels que $(q_0,w,q_\infty) \in \delta^*$.  Le
langage accepté $L_A$ et l'équivalence de deux automates sont définis
de façon analogue aux DFA
(cf. \ref{definition-recognizable-language}).

\thingy Un εNFA (ou \textit{a fortiori} un NFA, DFAI ou DFA) est
considéré comme un RNFA particulier dont les transitions sont
étiquetées soit par une unique lettre (considérée comme expression
rationnelle) soit par le symbole $\underline{\varepsilon}$ (dénotant
le langage $\{\varepsilon\}$) dans le cas des transitions spontanées.

Une expression rationnelle $r$ peut aussi être considérée comme un
RNFA particulier comportant un unique état initial, un unique état
final, et une unique transition de l'un vers l'autre, étiquetée par
l'expression $r$ elle-même.  Il est évident que ce RNFA reconnaît
exactement le langage dénoté par $r$.

La représentation graphique des RNFA ne pose pas de problème
particulier.

\thingy\label{give-rnfa-single-transitions} On peut toujours modifier
un RNFA de manière à ce qu'il y ait au plus une, ou même si on le
souhaite, exactement une, transition entre deux états $q$ et $q'$
donnés.  En effet, s'il existe plusieurs transitions
$(q,r_1,q'),\ldots, \penalty0 (q,r_k,q') \in \delta$ possibles entre
$q$ et $q'$, on peut les remplacer par une unique transition
$(q,(r_1|\cdots|r_k),q')$, cela ne change visiblement rien au
fonctionnement de l'automate (et notamment pas le langage reconnu).
S'il n'y a \emph{aucune} transition de $q$ vers $q'$, on peut toujours
choisir d'en ajouter une $(q,\bot,q')$ (qui ne peut pas être
empruntée !) si c'est commode.

Comme les εNFA, les NFA et les DFAI avant eux, les RNFA peuvent se
ramener aux automates précédemment définis :

\begin{prop}
Soit $A = (Q,I,F,\delta)$ un RNFA sur un alphabet $\Sigma$.  Alors il
existe un εNFA $A' = (Q',I',F',\delta')$ (sur le même
alphabet $\Sigma$) et qui soit équivalent à $A$ au sens où il
reconnaît le même langage $L_{A'} = L_A$.  De plus, $A'$ se déduit
algorithmiquement de $A$.
\end{prop}
\begin{proof}
On a vu que pour chaque expression rationnelle $r$ on peut trouver
(algorithmiquement) un εNFA $A_r$ qui reconnaît le langage dénoté
par $r$.  On peut donc construire $A'$ en remplaçant chaque transition
$(q,r,q')$ de $A$ par une copie de l'automate $A_r$ placée entre les
états $q$ et $q'$.  Symboliquement :

\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(q1.base)]
\node (q1) at (0bp,0bp) [draw,circle,state] {$q$};
\node (q2) at (70bp,0bp) [draw,circle,state] {$q'$};
  \draw [->] (q1) to node[auto] {$r$} (q2);
\end{tikzpicture}
\quad devient\quad
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(q1.base)]
\node (q1) at (0bp,0bp) [draw,circle,state] {$q$};
\node (q2) at (100bp,0bp) [draw,circle,state] {$q'$};
\node (A) at (50bp,0bp) [draw,dotted,circle] {$A_r$};
  \draw [->] (q1) to node[auto] {$\varepsilon$} (A);
  \draw [->] (A) to node[auto] {$\varepsilon$} (q2);
\end{tikzpicture}
\end{center}

Plus précisément, si $\{(q_j,r_j,q'_j) : 1\leq j\leq M\}$ est une
énumération de $\delta$, on construit $A'$ en lui donnant pour
ensemble d'états $Q \uplus \biguplus_{j=1}^M Q_{r_j}$ où $Q_{r_j}$ est
l'ensemble d'états de l'automate $A_{r_j}$ construit pour
reconnaître $r_j$, les ensembles d'états initiaux et finaux sont
$I'=I$ et $F'=F$ comme dans $A$, et la relation de transition
$\delta'$ est la réunion de chacune $\delta_{r_j}$ de celle des
εNFA $A_{r_j}$ à quoi on ajoute encore des transitions spontanées
$(q_j,\varepsilon,q^\sharp)$ pour tout état initial $q^\sharp \in
I_{r_j}$ de $A_{r_j}$ et des transitions spontanées
$(q^\flat,\varepsilon,q'_j)$ pour tout état final $q^\flat \in
F_{r_j}$ de $A_{r_j}$.  Il est clair que faire un chemin dans $A'$
revient à un faire un chemin dans $A$ où, à chaque fois qu'on fait la
transition $q_j\to q'_j$ étiquetée par $r_j$, on la remplace par un
chemin $q_j \to q^\sharp \to \cdots \to q^\flat \to q'_j$ formé d'une
transition spontanée vers un état initial de $A_{r_j}$ suivi d'un
chemin dans ce dernier, suivi d'une transition spontanée depuis un
état final de $A_{r_j}$.
\end{proof}

Mais la surprise des RNFA est qu'ils peuvent aussi se ramener à des
expressions rationnelles !

\begin{prop}
Soit $A = (Q,I,F,\delta)$ un RNFA sur un alphabet $\Sigma$.  Alors il
existe une expression rationnelle $r$ sur $\Sigma$ qui dénote le
langage reconnu par $A$, soit $L_r = L_A$.  De plus, $r$ se déduit
algorithmiquement de $A$.
\end{prop}
\begin{proof}
On a vu qu'on pouvait considérer une expression rationnelle comme un
RNFA ayant un unique état initial, un unique état final, et une unique
transition de l'un vers l'autre (étiquetée par l'expression
rationnelle en question).  On va construire montrer que $A$ est
équivalent à un RNFA de cette nature, ce qui montrera bien qu'il est
équivalent à une expression rationnelle.

Remarquons tout d'abord qu'on peut supposer que $A$ a un unique état
initial $q_0$, qui ne soit pas final, et qui n'ait aucune transition
qui y aboutisse (si ce n'est pas le cas, il suffit de créer un nouvel
état $q_0$, d'en faire le seul état initial, et de le munir de
transitions spontanées — c'est-à-dire étiquetées par
$\underline{\varepsilon}$ — vers tous les états précédemment
initiaux).  De même (symétriquement), on peut supposer que $A$ a un
unique état final $q_\infty$, qui ne soit pas initial, et sans aucune
transition qui en part.  On fera l'hypothèse que $A$ a ces propriétés,
et on s'arrangera pour les préserver dans ce qui suit.

Soient maintenant $q$ un état de $A$ qui n'est ni l'état initial $q_0$
ni l'état final $q_\infty$.  On va montrer qu'on peut \emph{éliminer}
$q$, c'est-à-dire, quitte à ajouter des transitions, remplacer $A$ par
un automate équivalent $A'$ qui n'a pas cet état.  Pour cela, soient
$q_1,q_2$ deux états quelconques de $A$, autres que $q$ mais
possiblement égaux entre eux, où $q_1$ peut être l'état initial (mais
pas l'état final) et $q_2$ peut être l'état final (mais pas l'état
initial).  On a vu en \ref{give-rnfa-single-transitions} qu'on pouvait
supposer qu'il existait une unique transition $(q_1,r_{12},q_2)$ et de
même $(q_1,r_1,q)$ et $(q,r_2,q_2)$ et $(q,s,q)$ (transition de $q$
vers lui-même).  En même temps qu'on élimine $q$, on met dans $A'$ la
transition $(r_{12}|r_1(s){*}r_2)$ entre $q_1$ et $q_2$.
Symboliquement :

\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(q1.base)]
\node (q1) at (0bp,0bp) [draw,circle,state] {$q_1$};
\node (q2) at (70bp,0bp) [draw,circle,state] {$q_2$};
\node (q) at (35bp,50bp) [draw,circle,state] {$q$};
  \draw [->] (q1) to node[auto] {$r_{12}$} (q2);
  \draw [->] (q1) to node[auto] {$r_1$} (q);
  \draw [->] (q) to node[auto] {$r_2$} (q2);
  \draw [->] (q) to[loop above] node[auto] {$s$} (q);
\end{tikzpicture}
\quad devient\quad
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(q1.base)]
\node (q1) at (0bp,0bp) [draw,circle,state] {$q_1$};
\node (q2) at (100bp,0bp) [draw,circle,state] {$q_2$};
  \draw [->] (q1) to node[auto] {$\scriptstyle (r_{12}|r_1(s){*}r_2)$} (q2);
\end{tikzpicture}
\end{center}

Cette transformation doit être effectuée \emph{simultanément pour
  toute paire} $(q_1,q_2)$ d'états de $A$ pour laquelle
$q_1\not\in\{q,q_\infty\}$ et $q_2\not\in\{q,q_0\}$ : pour chaque
telle paire, on remplace l'étiquette de la transition $r_{12}$ entre
eux par $(r_{12}|r_1(s){*}r_2)$.  Ceci ne change pas le fonctionnement
de l'automate, car tout chemin dans $A$ peut être remplacé par un
chemin dans $A'$ en effaçant simplement les $q$ (si on considère
$q_1$ et $q_2$ les états avant un bloc de de $q$ dans le chemin, on
voit que le chemin $q_1 \to q \to q \to \cdots \to q \to q_2$ peut se
transformer en $q_1 \to q_2$ en consommant un mot qui vérifie
l'expression rationnelle $(r_{12}|r_1(s){*}r_2)$).

En éliminant (dans n'importe quel ordre) tous les états autres que
$q_0$ et $q_\infty$, on aboutit ainsi à un automate ayant une unique
transition $(q_0,r,q_\infty)$, qui est donc essentiellement
l'expression rationnelle $r$.
\end{proof}

\thingy La procédure qu'on a décrite dans la démonstration de cette
proposition s'appelle l'algorithme d'\textbf{élimination des états} ou
\textbf{algorithme de Kleene}.

Il va de soi qu'on peut la simplifier un petit peu : s'il n'y a pas de
transition de de $q_1$ vers $q$ ou qu'il n'y en a pas de $q$
vers $q_2$ (c'est-à-dire que soit $r_1$ soit $r_2$ doit être considéré
comme valant $\bot$), on ne touche simplement pas à $r_{12}$ (et si la
transition de $q_1$ vers $q_2$ n'existait pas non plus, il n'y a pas
besoin de la créer) ; de même, s'il n'y a pas de transition de $q$
vers lui-même, on ignore la partie $s{*}$.  En revanche, il faut bien
penser à créer une transition de $q_1$ vers $q_2$, même si elle
n'existait pas au départ, lorsqu'on peut arriver de l'un vers l'autre
en passant par $q$.  Et il faut se souvenir que le cas $q_2=q_1$ est à
traiter aussi.

En général, l'élimination des états conduit à un expression
extrêmement compliquée.

\thingy\label{example-of-state-elimination} À titre d'exemple,
considérons le DFA suivant sur l'alphabet $\{0,1\}$, qui reconnaît les
suites binaires qui représentent un nombre multiple de $3$ écrit en
binaire (en convenant que le mot vide est une représentation binaire
du nombre $0$, ce qui est logique) :

\begin{center}
%%% begin example6 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (97bp,20.28bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,20.28bp) [draw,circle,state,initial,final,accepting below] {$0$};
  \node (q2) at (176bp,20.28bp) [draw,circle,state] {$2$};
  \draw [->] (q1) ..controls (74.757bp,3.6593bp) and (64.084bp,-1.2803bp)  .. (54bp,1.2803bp) .. controls (50.042bp,2.2853bp) and (46.047bp,3.838bp)  .. node[auto] {$1$} (q0);
  \draw [->] (q2) to[loop above] node[auto] {$1$} (q2);
  \draw [->] (q2) ..controls (153.76bp,3.6593bp) and (143.08bp,-1.2803bp)  .. (133bp,1.2803bp) .. controls (129.04bp,2.2853bp) and (125.05bp,3.838bp)  .. node[auto] {$0$} (q1);
  \draw [->] (q0) to[loop above] node[auto] {$0$} (q0);
  \draw [->] (q0) ..controls (45.659bp,20.28bp) and (57.817bp,20.28bp)  .. node[auto] {$1$} (q1);
  \draw [->] (q1) ..controls (124.66bp,20.28bp) and (136.82bp,20.28bp)  .. node[auto] {$0$} (q2);
%
\end{tikzpicture}

%%% end example6 %%%
\end{center}

On commence par ajouter un état initial $q_0$ et un état
final $q_\infty$, avec des ε-transitions $q_0 \to 0$ et $0\to
q_\infty$.  Pour gagner de la place, nous ne figurerons pas ces deux
états sur les dessins qui suivent, mais il faut s'imaginer qu'ils sont
toujours là.

L'élimination de l'état $2$ conduit à l'automate suivant :

\begin{center}
%%% begin example6b %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (97bp,20.28bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,20.28bp) [draw,circle,state,initial,final,accepting below] {$0$};
  \draw [->] (q1) ..controls (74.757bp,3.6593bp) and (64.084bp,-1.2803bp)  .. (54bp,1.2803bp) .. controls (50.042bp,2.2853bp) and (46.047bp,3.838bp)  .. node[auto] {$1$} (q0);
  \draw [->] (q0) ..controls (45.659bp,20.28bp) and (57.817bp,20.28bp)  .. node[auto] {$1$} (q1);
  \draw [->] (q1) to[loop right] node[auto] {$01{*}0$} (q1);
  \draw [->] (q0) to[loop above] node[auto] {$0$} (q0);
%
\end{tikzpicture}

%%% end example6b %%%
\end{center}

\noindent (Répétons qu'on n'a pas figuré l'état initial $q_0$ ni
l'état final $q_\infty$ : les flèches vers et depuis l'état $0$
doivent se comprendre comme des ε-transitions $q_0\to 0$ et $0\to
q_\infty$.)

L'élimination de l'état $1$ conduit alors à l'automate ayant un unique
état $0$, avec une transition vers lui-même étiquetée
$0|1(01{*}0){*}1$.  Enfin, en éliminant l'état $0$, il ne reste qu'une
transition de l'état initial vers l'état final, étiquetée par
$(0|1(01{*}0){*}1){*}$ : le langage reconnu par l'automate de départ
est donc celui dénoté par l'expression
rationnelle $(0|1(01{*}0){*}1){*}$.

On pouvait aussi choisir d'éliminer l'état $1$ en premier, ce qui
conduit à l'automate suivant :

\begin{center}
%%% begin example6c %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q0) at (18bp,20.114bp) [draw,circle,state,initial,final,accepting below] {$0$};
  \node (q2) at (104bp,20.114bp) [draw,circle,state] {$2$};
  \draw [->] (q2) ..controls (82.598bp,6.6202bp) and (75.237bp,2.9515bp)  .. (68bp,1.1137bp) .. controls (59.228bp,-1.1137bp) and (49.898bp,1.2372bp)  .. node[auto] {$01$} (q0);
  \draw [->] (q0) ..controls (47.743bp,20.114bp) and (62.773bp,20.114bp)  .. node[auto] {$10$} (q2);
  \draw [->] (q0) to[loop above] node[auto] {$0|11$} (q0);
  \draw [->] (q2) to[loop above] node[auto] {$1|00$} (q2);
%
\end{tikzpicture}

%%% end example6c %%%
\end{center}

\noindent et finalement à l'expression rationnelle
$(0|11|10(1|00){*}01){*}$, qui est équivalente à la précédente.

\begin{cor}
La classe des langages rationnels et celle des langages
reconnaissables coïncident.  (On pourra donc considérer ces termes
comme synonymes.)
\end{cor}


\subsection{Le lemme de pompage}

\thingy On ne dispose à ce stade-là d'aucun moyen pour montrer qu'un
langage \emph{n'est pas} rationnel.  La
proposition \ref{pumping-lemma} qui va suivre, et qui s'appelle
couramment « lemme de pompage » (une traduction abusive de l'anglais
« pumping lemma ») constitue le moyen le plus fréquent permettant d'y
arriver : il énonce une condition \emph{nécessaire} pour qu'un langage
soit rationnel, si bien qu'on peut arriver à montrer qu'un langage
n'est pas rationnel en invalidant cette condition (généralement en
procédant par l'absurde).

\begin{prop}[lemme de pompage pour les langages rationnels]\label{pumping-lemma}
Soit $L$ un langage rationnel.  Il existe alors un entier $k$ tel que
tout mot de $t \in L$ de longueur $|t| \geq k$ admette une
factorisation $t = uvw$ en trois facteurs $u,v,w$ où :
\begin{itemize}
\item[(i)] $|v| \geq 1$ (c'est-à-dire $v\neq\varepsilon$),
\item[(ii)] $|uv| \leq k$,
\item[(iii)] pour tout $i\geq 0$ on a $uv^iw \in L$.
\end{itemize}
\end{prop}
\begin{proof}
Soit $A$ un DFA (complet) qui reconnaît $L$, et soit $k$ son nombre
d'états : on va montrer que $k$ vérifie les propriétés énoncées.  Pour
cela, soit $t = x_1 \cdots x_n$ un mot de $L$ de longueur $n \geq k$,
et soient $q_0,\ldots,q_n$ les états traversés par $A$ pendant la
consommation de $t$, autrement dit, $q_0$ est l'état initial, et $q_j
= \delta(q_{j-1}, x_j)$ pour chaque $1\leq j\leq n$ ; l'état $q_n =
\delta^*(q_0, t)$ est final puisque $t \in L$.  Comme $n+1 > k$ et
comme l'automate $A$ a $k$ états, par le principe des tiroirs, il
existe $j_1\neq j_2$ tels que $q_{j_1} = q_{j_2}$ : pour être plus
précis, soit $j_2$ le plus petit possible tel que les états
$q_0,\ldots,q_{j_2}$ ne soient pas tous distincts, autrement dit, le
premier état répété, et soit $j_1$ la précédente occurrence (forcément
unique) de cet état, c'est-à-dire l'indice tel que $j_1<j_2$ et
$q_{j_1} = q_{j_2}$.

Posons $u = x_1\cdots x_{j_1}$ (le préfixe de $t$ de longueur $j_1$,
qui est le mot vide si $j_1 = 0$) et $v = x_{j_1+1}\cdots x_{j_2}$ (de
longueur $j_2 - j_1$), et enfin $w = x_{j_2+1}\cdots x_n$ (le suffixe
de $t$ de longueur $n-j_2$, avec la convention $w = \varepsilon$ si
$j_2 = n$).  Ceci définit bien une factorisation $t = uvw$.

On a bien (i) $|v| \geq 1$ puisque $j_2 > j_1$.  On a par ailleurs
(ii) $|uv| \leq k$ puisque $|uv| = j_2$ et que les $j_2$ états
$q_0,\ldots,q_{j_2-1}$ sont distincts (c'est la minimalité de $j_2$)
de sorte que $j_2 \leq k$ (toujours par le principe des tiroirs).

Montrons enfin (iii).  On rappelle tout d'abord que
$\delta^*(q,x_1\cdots x_j) =\penalty0 \delta(\cdots\penalty500
\delta(\delta(q,x_1),x_2)\cdots,x_j)$.  Remarquons que
$\delta^*(q_0,u) = \delta^*(q_0,x_1\cdots x_{j_1}) = q_{j_1}$, et que
$\delta^*(q_{j_1},v) = \delta^*(q_{j_1},x_{j_1+1}\cdots x_{j_2}) =
q_{j_2} = q_{j_1}$.  De cette dernière égalité, on tire
$\delta^*(q_{j_1},v^i) = q_{j_1}$ pour tout $i \geq 0$ (par récurrence
sur $i$).  Enfin, $\delta^*(q_{j_1},w) = \delta^*(q_{j_2},w) =
\delta^*(q_{j_2}, x_{j_2+1}\cdots x_n) = q_n$ (qui est un état final).
En mettant ces faits ensemble, on a $\delta^*(q_0, uv^iw) =
\delta^*(q_{j_1}, v^iw) = \delta^*(q_{j_1}, w) = q_n$, et puisque
$q_n$ est final, ceci montre que le mot $uv^iw$ est accepté par $A$,
i.e., $uv^iw \in L$.
\end{proof}

\thingy On attire l'attention sur l'alternation des quantificateurs.
Le lemme de pompage énonce le fait que :
\begin{itemize}
\item\emph{pour tout} langage rationnel $L$,
\item\emph{il existe} un entier $k\geq 0$ tel que
\item\emph{pour tout} mot $t\in L$ de longueur $|t|\geq k$,
\item\emph{il existe} une factorisation $t=uvw$ vérifiant les
  propriétés (i) $|v|\geq 1$, (ii) $|uv|\leq k$ et (iii) qui suit :
\item\emph{pour tout} $i\geq 0$ on a $uv^iw \in L$.
\end{itemize}

La complexité logique d'un énoncé étant justement mesurée par le
nombre d'alernations de quantificateurs (passages entre « pour tout »
et « il existe » ou vice versa), celui-ci mérite une attention
particulière.  Rappelons donc, du point de vue logique, que, quand on
veut \emph{appliquer} un résultat de ce genre, on \emph{choisit
  librement} les objets introduits par un quantificateur universel
(« pour tout »), mais \emph{on ne choisit pas} ceux qui sont
introduits par un quantificateur existentiel (« il existe ») (ces
derniers sont, si on veut, choisis par l'énoncé qu'on applique : on ne
fait que recevoir leur existence) ; les choses sont inversées quand on
doit démontrer un tel énoncé, mais la démonstration a été faite
ci-dessus et il est donc plus fréquent de devoir appliquer le lemme de
pompage.

Le modèle d'une démonstration par l'absurde pour montrer qu'un langage
$L$ n'est pas rationnel est donc quelque chose comme ceci :
\begin{itemize}
\item on entame un raisonnement par l'absurde en supposant que $L$ est
  rationnel, et on choisit $L$ pour appliquer le lemme de pompage
  (parfois on l'applique à autre chose, comme l'intersection de $L$
  avec un langage connu pour être rationnel, mais en général ce
  sera $L$),
\item le lemme de pompage fournit un $k$ (on \emph{ne choisit donc
  pas} ce $k$, il est donné par le lemme),
\item on choisit alors un mot $t \in L$ de longueur $\geq k$, et c'est
  là que réside la difficulté principale de la démonstration,
\item le lemme de pompage fournit une factorisation $t = uvw$, qu'on
  \emph{ne choisit pas} non plus mais qu'on peut analyser, souvent en
  utilisant (i) et (ii),
\item et on cherche à appliquer la propriété (iii), ce qui implique de
  choisir un $i$, pour arriver à une contradiction (typiquement : le
  mot $uv^i w$ n'est pas dans le langage alors qu'il est censé y
  être).
\end{itemize}

Donnons maintenant un exemple d'utilisation du lemme :

\begin{prop}\label{example-of-pumping-lemma}
Soit $\Sigma = \{a,b\}$.  Le langage $L = \{a^n b^n : n\in\mathbb{N}\}
= \{\varepsilon, ab, aabb, aaabbb,\ldots\}$ constitué des mots formés
d'un certain nombre ($n$) de $a$ suivis du même nombre de $b$ n'est
pas rationnel.
\end{prop}
\begin{proof}
Appliquons la proposition \ref{pumping-lemma} au langage $L$
considéré : appelons $k$ l'entier dont le lemme de pompage garantit
l'existence.  Considérons le mot $t := a^k b^k$ : il doit alors
exister une factorisation $t = uvw$ pour laquelle on a (i) $|v|\geq
1$, (ii) $|uv|\leq k$ et (iii) $uv^iw \in L$ pour tout $i\geq 0$.  La
propriété (ii) assure que $uv$ est formé d'un certain nombre de
répétitions de la lettre $a$ : disons $u = a^\ell$ et $v = a^m$, si
bien que $w = a^{k-\ell-m} b^k$.  La propriété (ii) donne $m\geq 1$.
Enfin, la propriété (iii) affirme que le mot $uv^iw = a^{k+(i-1)m}
b^k$ appartient à $L$ ; mais dès que $i\neq 1$, ceci est faux : il
suffit donc de prendre $i=0$ pour avoir une contradiction.
\end{proof}


\subsection{L'automate canonique, et la minimisation}

\begin{thm}[Myhill-Nerode]\label{myhill-nerode}
Soit $L$ un langage.  Pour $w\in \Sigma^*$, notons $w^{-1} L := \{t
\in \Sigma^* : wt \in L\}$ (autrement dit, l'ensemble des mots qu'on
peut concaténer à $w$ pour obtenir un mot de $L$).  Considérons la
relation d'équivalence $\equiv$ sur $\Sigma^*$ définie par $u \equiv
v$ si et seulement si $u^{-1}L = v^{-1}L$ ; ce qui signifie, si on
préfère, que $\forall t\in \Sigma^*\,((ut\in L) \liff (vt \in L))$.

Alors :
\begin{itemize}
\item le langage $L$ est rationnel si et seulement si la relation
  d'équivalence $\equiv$ possède un nombre \emph{fini} $k$ de classes
  d'équivalence,
\item lorsque c'est le cas, il existe un DFA (complet) ayant $k$ états
  qui reconnaît $L$, il est unique à renommage des
  états\footnote{C'est-à-dire, si on préfère ce terme, isomorphisme
    d'automates.} près, et il n'existe pas de DFA (complet) ayant $<k$
  états qui reconnaisse $L$.
\end{itemize}
\end{thm}
\begin{proof}
Supposons d'abord que l'ensemble $\Sigma^*/{\equiv}$ des classes
d'équivalence pour $\equiv$ soit fini : appelons-le $Q$, et expliquons
comment on peut construire un DFA reconnaissant $L$ et dont l'ensemble
des états soit $Q$.  Notons $[u] := \{v \in \Sigma^* :\penalty-100
u\equiv v\}$ pour la classe d'équivalence de $u$ pour $\equiv$.
Posons $q_0 := [\varepsilon]$ la classe du mot vide.  Remarquons que
si $u\equiv v$ (pour $u,v\in\Sigma^*$), alors on a $u\in L$ si et
seulement si $v\in L$ (en effet, la définition de $\equiv$ est que
$(ut\in L) \liff (vt \in L)$ pour tout $t$, et on applique ça
à $t=\varepsilon$) : autrement dit, une classe $[u] \in Q$ est soit
entièrement incluse dans $L$ soit disjointe de $L$ ; appelons $F$
l'ensemble $\{[u] : u\in L\}$ des classes incluses dans $L$.  Enfin
remarquons que si $u\equiv v$ (pour $u,v\in\Sigma^*$) et $x\in\Sigma$,
on a encore $ux \equiv vx$ (en effet, $uxt \in L \liff vxt \in L$ pour
tout $t\in L$) : il y a donc un sens à définir $\delta([u], x) =
[ux]$.  On a ainsi fabriqué un automate fini $A = (Q,q_0,F,\delta)$.
Vues les définitions de $q_0$ et $\delta$, il est clair que
$\delta^*(q_0,w) = [w]$ pour cet automate, et vue la définition de
$F$, on a $\delta^*(q_0,w) \in F$ si et seulement si $w\in L$.  Ceci
montre bien que $A$ reconnaît le langage $L$.  On a donc prouvé que si
$\Sigma^*/{\equiv}$ est fini, le langage $L$ est rationnel et même il
existe un DFA ayant $k := \#(\Sigma^*/{\equiv})$ états qui le
reconnaît.

Supposons maintenant que $B = (Q_B, q_{0,B}, F_B, \delta_B)$ soit un
DFA reconnaissant $L$.  Définissons une nouvelle relation
d'équivalence $\mathrel{\equiv_B}$ sur $\Sigma^*$ par : $u
\mathrel{\equiv_B} v$ si et seulement si $\delta_B^*(q_{0,B}, u) =
\delta_B^*(q_{0,B}, v)$ (autrement dit, les mots $u$ et $v$ mettent
l'automate $B$ dans le même état).  Si on a $u \mathrel{\equiv_B} v$,
on a aussi $u \equiv v$ : en effet, pour tout $t\in L$ on a
$\delta_B^*(q_{0,B}, ut) = \delta_B^*(q_{0,B}, vt)$, et notamment le
membre de gauche appartient à $F_B$ si et seulement si le membre de
droite y appartient, c'est-à-dire que $ut\in L \liff vt\in L$.  On
vient donc de montrer que $u \mathrel{\equiv_B} v$ implique $u \equiv
v$ (la relation $\equiv_B$ est \emph{plus fine} que $\equiv$) : si on
préfère, chaque classe d'équivalence pour $\equiv$ est donc une
réunion de classes d'équivalences pour $\equiv_B$.  Notamment, comme
$\equiv_B$ a un nombre fini de classes d'équivalence (puisque
$\delta_B^*(q_{0,B}, u)$ ne peut prendre qu'un nombre fini de valeurs,
celles dans $Q_B$), il en va de même de $\equiv$, et plus précisément,
comme $\equiv_B$ a au plus $\#Q_B$ classes d'équivalence, il en va de
même de $\equiv$, c'est-à-dire $k \leq \#Q_B$.  Il n'existe donc pas
de DFA ayant $<k$ états reconnaissant $L$.

Enfin, si $B$ a $k$ états et reconnaît $L$, cela signifie que les deux
relations $\equiv$ et $\equiv_B$ coïncident, et on définit une
bijection $\psi$ entre le $Q = Q_A$ du paragraphe précédent et $Q_B$
en associant à une classe $[w] \in Q$ l'état $\psi([w]) :=
\delta_B^*(q_{0,B},w)$ (qui ne dépend que de la classe de $w$
pour $\equiv_B$ et on vient de voir que c'est la classe de $w$
modulo $\equiv$, c'est-à-dire $[w]$ : ceci est donc bien défini).
Cette bijection $\psi$ vérifie $\psi(q_0) = \psi([\varepsilon]) =
\delta_B^*(q_{0,B},\varepsilon) = q_{0,B}$ ; on a $[w] \in F$ si et
seulement si $w\in L$, c'est-à-dire si et seulement si
$\delta_B^*(q_{0,B},w) \in F_B$ autrement dit $\psi([w]) \in F_B$.  Et
enfin, pour $w\in\Sigma^*$ et $x\in \Sigma$, on a $\psi(\delta([w],x))
= \psi([wx]) = \delta_B^*(q_{0,B},wx) = \delta_B(\delta_B^*(q_0,w), x)
= \delta_B(\psi([w]), x)$.  Bref, $\psi$ préserve l'état initial, les
états finaux, et la relation de transition : c'est donc bien un
isomorphisme d'automates (un renommage des états).
\end{proof}

\thingy Ce théorème affirme donc qu'il existe (à renommage des états
près) un unique DFA (complet) ayant un nombre minimal d'états parmi
ceux qui reconnaissent le langage rationnel $L$ : on l'appelle
\textbf{automate canonique} ou \textbf{automate minimal} du
langage $L$.  La démonstration ci-dessus en donne une construction à
partir d'une relation d'équivalence, mais cette démonstration n'est
pas algorithmique : on va voir comment on peut le construire de fącon
algorithmique à partir d'un DFA quelconque qui reconnaît $L$.

\begin{prop}\label{dfa-minimization}
Soit $B = (Q_B, q_{0,B}, F_B, \delta_B)$ un DFA (complet !)
reconnaissant un langage $L$, et dont tous les états sont accessibles
(cf. \ref{definition-dfa-accessible-state}).  Alors l'automate
canonique $A$ de $L$ peut s'obtenir en fusionnant dans $B$ chaque
classe d'équivalence pour la relation d'équivalence $\equiv$ définie
sur $Q_B$ par
\[
q \equiv q' \;\liff\; \forall t\in\Sigma^*\,(\delta^*_B(q,t)\in F_B \liff \delta^*_B(q',t)\in F_B)
\]
(Fusionner chaque classe d'équivalence signifie qu'on construit
l'automate $A$ dont l'ensemble d'états est l'ensemble $Q_A :=
Q_B/{\equiv}$ des classes d'équivalence, l'état initial $q_{0,A}$ est
la classe $[q_{0,B}]$ de $q_{0,B}$ pour $\equiv$, les états finaux
sont les classes contenant au moins un état final et qui d'ailleurs
sont entièrement constituées d'états finaux, et la relation de
transition est donnée par $\delta_A([q],x) = [\delta_B(q,x)]$ en
notant $[q]$ la classe de $q$ pour $\equiv$.)

De plus, cet automate $A$ (ou de façon équivalente, la
relation $\equiv$) peut se déduire algorithmiquement de $B$.
\end{prop}
\begin{proof}
On a vu dans le cours de la démonstration de \ref{myhill-nerode} que
l'automate canonique a pour ensemble d'états $\Sigma^*/{\equiv_L}$ où
$\equiv_L$ désigne la relation d'équivalence (alors notée $\equiv$)
définie par $u \mathrel{\equiv_L} v$ lorsque $\forall t\in \Sigma^*
((ut\in L) \liff (vt \in L))$.  Si $q,q' \in Q_B$, comme $q,q'$ sont
accessibles, il existe $w,w'\in\Sigma^*$ tels que
$\delta_B^*(q_{0,B},w) = q$ et $\delta_B^*(q_{0,B},w') = q'$ ; et on a
$q \equiv q'$ si et seulement si $\delta^*_B(q,t)\in F_B \liff
\delta^*_B(q',t)\in F_B$ pour tout $t\in\Sigma^*$, c'est-à-dire
$\delta^*_B(q_{0,B},wt)\in F_B \liff \delta^*_B(q_{0,B},w't)\in F_B$,
c'est-à-dire $wt\in L \liff w't\in L$, autrement dit, $w
\mathrel{\equiv_L} w'$.  L'application $\varphi$ qui à un état $[w]_L$
de l'automate canonique associe la classe de $\delta_B^*(q_{0,B},w)$
pour $\equiv$ est donc une bijection, et comme dans la démonstration
de \ref{myhill-nerode} on vérifie qu'elle préserve l'état initial, les
états finaux, et la relation de transition.  On obtient donc bien
l'automate canonique en fusionnant chaque classe d'équivalence
pour $\equiv$.

Montrons maintenant comment on peut construre $\equiv$
algorithmiquement.  Pour cela, on va définir des relations
d'équivalence $\equiv_i$ pour $i\in\mathbb{N}$ par
\[
q \mathrel{\equiv_i} q' \;\liff\; \forall t\, (|t|\leq i \limp (\delta^*_B(q,t)\in F_B \liff \delta^*_B(q',t)\in F_B))
\]
C'est-à-dire par récurrence
\[
\begin{aligned}
q \mathrel{\equiv_0} q' \;&\liff\; (q\in F_B \liff q'\in F_B)\\
q \mathrel{\equiv_{i+1}} q' \;&\liff\; (q\mathrel{\equiv_{i}}q' \hbox{~et~} \forall x\in\Sigma\,(\delta_B(q,x) \mathrel{\equiv_i} \delta_B(q',x)))\\
\end{aligned}
\]
(la première équivalence vient de ce que $\delta^*_B(q,\varepsilon) =
q$, et la seconde de ce que $\delta^*_B(q,xt) =
\delta^*_B(\delta_B(q,x), t)$).

Il est trivial que $q \mathrel{\equiv_{i+1}} q'$ implique $q
\mathrel{\equiv_i} q'$, c'est-à-dire que $\equiv_{i+1}$ est plus fine
que $\equiv_i$, mais $\equiv$ est plus fine que toutes, et comme elle
n'a qu'un nombre fini de classes d'équivalence, le nombre de classes
ne peut croître strictement qu'un nombre fini de fois, et il doit donc
stationner : il existe $i$ tel que $({\equiv_{i+1}}) = ({\equiv_i})$,
et à ce moment-là, la seconde équivalence de la récurrence montre que
$({\equiv_j}) = ({\equiv_i})$ pour tout $j\geq i$ et donc $(\equiv) =
({\equiv_i})$.

On peut donc calculer $\equiv$ selon l'algorithme suivant : calculer
$\equiv_0$, et par récurrence calculer les $\equiv_i$ jusqu'à ce que
la relation ne change plus, $({\equiv_{i+1}}) = ({\equiv_i})$, auquel
cas la dernière relation calculée est la relation recherchée $(\equiv)
= ({\equiv_i})$, et l'automate canonique $A$ s'obtient en fusionnant
chaque classe d'équivalence pour $\equiv$.
\end{proof}

\thingy L'algorithme décrit par la proposition \ref{dfa-minimization}
porte le nom d'algorithme \textbf{de Moore} ou \textbf{de
  minimisation} ou \textbf{de réduction}.  Voici comment on peut le
mettre en œuvre de façon plus concrète :
\begin{itemize}
\item s'assurer qu'on a affaire à un DFA \underline{\emph{complet sans
    état inaccessible}} (si nécessaire, déterminiser l'automate s'il
  n'est pas déterministe, le compléter s'il est incomplet, et
  supprimer les états inaccessibles s'il y en a) ;
\item appeler $\Pi$ la partition des automates en deux classes : les
  états finaux d'un côté, et les non-finaux de l'autre ;
\item répéter l'opération suivante tant que la partition $\Pi$
  change : pour chaque classe $C$ de $\Pi$ et chaque lettre $x \in
  \Sigma$, s'il existe deux états $q,q' \in C$ tels que $\delta(q,x)$
  et $\delta(q',x)$ ne tombent pas dans la même classe de $\Pi$,
  séparer cette classe $C$ selon la classe de $\delta(\tiret,x)$
  (autrement dit, $q,q'$ restent dans la même classe pour la nouvelle
  partition lorsqu'ils sont dans la même classe pour l'ancienne et que
  pour chaque lettre $x$ leurs images $\delta(q,x)$ et $\delta(q',x)$
  sont aussi dans la même classe) ;
\item si $\Pi$ est la (dernière) partition ainsi obtenue, l'ensemble
  des états de l'automate construit est l'ensemble des classes
  de $\Pi$, les états finaux sont les classes qui contiennent un état
  final (ils sont alors forcément tous finaux), et la fonction de
  transition est obtenue en prenant la fonction de transition sur un
  représentant quelconque de la classe (la classe ne doit pas dépendre
  du représentant).
\end{itemize}

La dernière étape (construction de l'automate) permet de vérifier
qu'on a correctement terminé l'étape précédente (raffinement de la
partition) : si deux états dans la même classe ont une transition
sortante d'étiquette $x$ et qui mènent vers des classes différentes,
c'est que ces états auraient dû être séparés.  Il est donc utile de
refaire un contrôle à ce niveau.

\thingy À titre d'exemple d'exécution de l'algorithme de minimisation,
considérons l'automate suivant :

\begin{center}
%%% begin example7 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,18bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,67bp) [draw,circle,state,initial] {$0$};
  \node (q3) at (186bp,18bp) [draw,circle,state] {$3$};
  \node (q2) at (98bp,105bp) [draw,circle,state] {$2$};
  \node (q5) at (266bp,67bp) [draw,circle,state,final] {$5$};
  \node (q4) at (186bp,105bp) [draw,circle,state,final] {$4$};
  \draw [->] (q2) ..controls (125.5bp,78.193bp) and (148.96bp,54.459bp)  .. node[auto] {$c$} (q3);
  \draw [->] (q0) ..controls (45.307bp,79.816bp) and (60.14bp,87.042bp)  .. node[auto] {$a$} (q2);
  \draw [->] (q2) to[loop above] node[auto] {$a$} (q2);
  \draw [->] (q5) to[loop below] node[auto] {$a,b,c$} (q5);
  \draw [->] (q4) ..controls (213.31bp,92.184bp) and (228.14bp,84.958bp)  .. node[auto] {$c$} (q5);
  \draw [->] (q1) ..controls (128.25bp,18bp) and (144.18bp,18bp)  .. node[auto] {$a,c$} (q3);
  \draw [->] (q4) to[loop above] node[auto] {$a,b$} (q4);
  \draw [->] (q1) to[loop below] node[auto] {$b$} (q1);
  \draw [->] (q3) ..controls (213bp,34.334bp) and (228.89bp,44.318bp)  .. node[auto] {$b$} (q5);
  \draw [->] (q3) to[loop below] node[auto] {$a,c$} (q3);
  \draw [->] (q0) ..controls (45.002bp,50.666bp) and (60.894bp,40.682bp)  .. node[auto] {$c$} (q1);
  \draw [->] (q0) to[loop above] node[auto] {$b$} (q0);
  \draw [->] (q2) ..controls (128.25bp,105bp) and (144.18bp,105bp)  .. node[auto] {$b$} (q4);
%
\end{tikzpicture}

%%% end example7 %%%
\end{center}

Cet automate est bien déterministe, complet et sans état inaccessible.
Dans un premier temps, on partitionne les états en états non-finaux et
finaux, soit $\{0,1,2,3\}$ d'un côté et $\{4,5\}$ de l'autre.
Ensuite, on doit séparer la classe $\{0,1,2,3\}$ en deux selon que la
transition étiquetée par $b$ tombe dans la classe $\{0,1,2,3\}$
elle-même ou bien dans la classe $\{4,5\}$ : on arrive donc à trois
classes, $\{0,1\}$, $\{2,3\}$ et $\{4,5\}$.  Enfin, on doit séparer la
classe $\{0,1\}$ en deux selon que la transition étiquetée par $c$
tombe dans la classe $\{0,1\}$ elle-même ou bien dans la classe
$\{2,3\}$ : on arrive alors à quatre classes, $\{0\}$, $\{1\}$,
$\{2,3\}$ et $\{4,5\}$, et à l'automate minimal suivant :

\begin{center}
%%% begin example7m %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,18bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,76bp) [draw,circle,state,initial] {$0$};
  \node (q23) at (190bp,76bp) [draw,circle,state] {$2\equiv 3$};
  \node (q45) at (278bp,76bp) [draw,circle,state,final] {$4\equiv 5$};
  \draw [->] (q1) to[loop below] node[auto] {$b$} (q1);
  \draw [->] (q23) to[loop above] node[auto] {$a,c$} (q23);
  \draw [->] (q1) ..controls (126.79bp,35.911bp) and (146.9bp,48.867bp)  .. node[auto] {$a,c$} (q23);
  \draw [->] (q0) ..controls (48.315bp,77.182bp) and (65.168bp,77.757bp)  .. (80bp,78bp) .. controls (106.51bp,78.434bp) and (136.64bp,77.795bp)  .. node[auto] {$a$} (q23);
  \draw [->] (q23) ..controls (222.17bp,76bp) and (234.88bp,76bp)  .. node[auto] {$b$} (q45);
  \draw [->] (q0) ..controls (44.591bp,56.971bp) and (61.407bp,44.466bp)  .. node[auto] {$c$} (q1);
  \draw [->] (q0) to[loop above] node[auto] {$b$} (q0);
  \draw [->] (q45) to[loop above] node[auto] {$a,b,c$} (q45);
%
\end{tikzpicture}

%%% end example7m %%%
\end{center}

Il est intéressant de voir comment des petits changements sur
l'automate initial modifient la minimisation.  Si on fait pointer la
transition étiquetée par $c$ de l'état $1$ vers lui-même (au lieu
d'aller vers l'état $3$), c'est-à-dire :

\begin{center}
%%% begin example7b %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,18bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,67bp) [draw,circle,state,initial] {$0$};
  \node (q3) at (178bp,18bp) [draw,circle,state] {$3$};
  \node (q2) at (98bp,105bp) [draw,circle,state] {$2$};
  \node (q5) at (258bp,67bp) [draw,circle,state,final] {$5$};
  \node (q4) at (178bp,105bp) [draw,circle,state,final] {$4$};
  \draw [->] (q2) ..controls (123.52bp,77.652bp) and (143.78bp,55.049bp)  .. node[auto] {$c$} (q3);
  \draw [->] (q0) ..controls (45.307bp,79.816bp) and (60.14bp,87.042bp)  .. node[auto] {$a$} (q2);
  \draw [->] (q2) to[loop above] node[auto] {$a$} (q2);
  \draw [->] (q5) to[loop below] node[auto] {$a,b,c$} (q5);
  \draw [->] (q4) ..controls (205.31bp,92.184bp) and (220.14bp,84.958bp)  .. node[auto] {$c$} (q5);
  \draw [->] (q1) ..controls (126.11bp,18bp) and (138.58bp,18bp)  .. node[auto] {$a$} (q3);
  \draw [->] (q4) to[loop above] node[auto] {$a,b$} (q4);
  \draw [->] (q1) to[loop below] node[auto] {$b,c$} (q1);
  \draw [->] (q3) ..controls (205bp,34.334bp) and (220.89bp,44.318bp)  .. node[auto] {$b$} (q5);
  \draw [->] (q3) to[loop below] node[auto] {$a,c$} (q3);
  \draw [->] (q0) ..controls (45.002bp,50.666bp) and (60.894bp,40.682bp)  .. node[auto] {$c$} (q1);
  \draw [->] (q0) to[loop above] node[auto] {$b$} (q0);
  \draw [->] (q2) ..controls (126.11bp,105bp) and (138.58bp,105bp)  .. node[auto] {$b$} (q4);
%
\end{tikzpicture}

%%% end example7b %%%
\end{center}

\noindent alors la minimisation ne sépare pas les états $0$ et $1$, et
on obtient

\begin{center}
%%% begin example7bm %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q45) at (198bp,21bp) [draw,circle,state,final] {$4\equiv 5$};
  \node (q01) at (22bp,21bp) [draw,circle,state,initial] {$0\equiv 1$};
  \node (q23) at (110bp,21bp) [draw,circle,state] {$2\equiv 3$};
  \draw [->] (q45) to[loop above] node[auto] {$a,b,c$} (q45);
  \draw [->] (q23) ..controls (142.17bp,21bp) and (154.88bp,21bp)  .. node[auto] {$b$} (q45);
  \draw [->] (q23) to[loop above] node[auto] {$a,c$} (q23);
  \draw [->] (q01) to[loop above] node[auto] {$b,c$} (q01);
  \draw [->] (q01) ..controls (54.17bp,21bp) and (66.885bp,21bp)  .. node[auto] {$a$} (q23);
%
\end{tikzpicture}

%%% end example7bm %%%
\end{center}

En revanche, si on change l'automate pour rendre l'état $4$ non-final
(avec ou sans la modification précédemment évoquée), la minimisation
aboutit sur la partition triviale en six états, c'est-à-dire que
l'automate est, en fait, déjà minimal.

\begin{cor}
On peut décider algorithmiquement si deux automates finis (de
n'importe quelle sorte), ou deux expressions rationnelles, ou un
automate et une expression rationnelle, sont équivalents (au sens de
dénoter le même langage).
\end{cor}
\begin{proof}
D'après ce qu'on a déjà vu, et quitte à transformer une expression
rationnelle en εNFA (cf. \ref{rational-languages-are-recognizable}),
et quitte à éliminer les ε-transitions
(cf. \ref{removal-of-epsilon-transitions}) et à déterminiser
(cf. \ref{determinization-of-nfa}), on peut construire
algorithmiquement un DFA reconnaissant le même langage que chacune des
deux données.  La question devient donc de savoir si deux DFA
reconnaissent le même langage.  Or d'après \ref{dfa-minimization}, on
sait transformer un DFA en DFA minimal reconnaissant le même langage,
et d'après \ref{myhill-nerode} on sait que ce DFA est unique à
renumérotation près des états.  On est donc ramené au problème
suivant : donnés deux DFA $A$ et $A'$ (complets et sans états
inaccessibles), trouver s'ils sont le même à renumérotation près
(i.e., s'ils sont isomorphes).

La correspondance entre états de $A$ et de $A'$ peut se construire
état par état : on fait correspondre l'état initial de $A$ à celui
de $A'$, puis pour chaque état $q$ de $A$ mis en correspondance avec
un état $q'$ de $A'$, on fait correspondre chacun des états
$\delta(q,x)$ avec chacun des états $\delta'(q',x)$ où $x$ parcourt
les lettres de l'alphabet.  Si on aboutit ainsi à une contradiction
(deux états de l'un des automates veulent être mis en correspondance
avec le même état de l'autre), on renvoie un échec ; sinon, tous les
états de $A$ et ceux de $A'$ seront mis en correspondance bijective,
et les langages reconnus sont les mêmes.
\end{proof}


\section{Grammaires hors contexte}

\setcounter{comcnt}{0}

\thingy Alors que les langages et expressions rationnelles servent,
dans le monde informatique, principalement à définir des outils de
recherche de « motifs » (pour la recherche et le remplacement dans un
texte, la validation d'entrées, la syntaxe de bas niveau, etc.), les
grammaires, dont les plus importantes sont les grammaires \emph{hors
  contexte} que nous allons maintenant considérer, ont pour principal
intérêt de définir des \emph{syntaxes structurées}, par exemple la
syntaxe d'un langage informatique (typiquement un langage de
programmation).  Cette fois-ci, on ne s'intéressera pas simplement au
langage défini (par la grammaire hors contexte, dit langage
« algébrique »), mais aussi à la manière dont ces mots s'obtiennent
par la grammaire, et donc, à la manière d'\emph{analyser} (en anglais,
\emph{to parse}) un mot / programme en une structure de données qui le
représente : pour cela, on va définir la notion d'\emph{arbre
  d'analyse}.


\subsection{Définition, notations et premier exemple}

\thingy\label{definition-context-free-grammar} Une \textbf{grammaire
  hors contexte} (on dit parfois aussi « sans contexte » ; en
anglais, « context-free grammar » ou « CFG » ; ou encore grammaire de
\textbf{type 2}) sur un alphabet $\Sigma$ est la donnée
\begin{itemize}
\item d'un second alphabet $N$, disjoint de $\Sigma$, appelé ensemble
  des \textbf{nonterminaux},
\item d'un élément $S \in N$ appelé \textbf{axiome} ou \textbf{symbole
  initial} de la grammaire,
\item d'un ensemble \emph{fini} $R \subseteq N \times (\Sigma\cup
  N)^*$ de couples $(T,\alpha)$ où $T$ est un nonterminal et $\alpha$
  un mot sur l'alphabet $\Sigma\cup N$, les éléments $(T,\alpha)$ de
  $R$ étant appelés les \textbf{règles} ou \textbf{productions} de la
  grammaire.
\end{itemize}

\thingy Une grammaire hors contexte fait donc intervenir deux
alphabets : l'alphabet $\Sigma$ sur lequel sera le langage (encore à
définir), et l'alphabet $N$ (disjoint de $\Sigma$) qui intervient dans
la définition de la grammaire.  Pour fixer la terminologie, on
appellera \textbf{symbole} un élément de $\Sigma \cup N$, ces symboles
étant dits \textbf{terminaux} lorsqu'ils appartiennent à $\Sigma$ (ou
simplement « lettres »), et \textbf{nonterminaux} lorsqu'ils
appartiennent à $N$.  Un mot sur $\Sigma\cup N$ (c'est-à-dire, une
suite finie de symboles) sera appelé \textbf{pseudo-mot}, tandis que
le terme « mot » sans précision supplémentaire sera utilisé pour
désigner un mot sur $\Sigma$ (autrement dit, un mot est un pseudo-mot
ne comportant que des symboles terminaux).

Typographiquement, on aura tendance à utiliser des lettres minuscules
pour désigner les symboles terminaux, et majuscules pour désigner les
symboles nonterminaux ; et on aura tendance à utiliser des lettres
grecques minuscules pour désigner les pseudo-mots.  (Mais il n'est pas
possible de suivre cette convention de façon complètement
systématique.)

\thingy Intuitivement, il faut comprendre la grammaire de la manière
suivante.  Les règles $(T,\alpha)$, où on rappelle que $T$ est un
symbole nonterminal et $\alpha$ un pseudo-mot (et on notera $T
\rightarrow \alpha$, cf. ci-dessous) doivent se comprendre
intuitivement comme « le symbole $T$ peut être remplacé
par $\alpha$ ».  On part de l'axiome $S$, et on peut effectuer
librement des substitutions $T \rightarrow \alpha$ (consistant à
remplacer un nonterminal $T$ par un pseudo-mot $\alpha$) autorisées
par les règles : le langage défini par la grammaire est l'ensemble de
tous les mots (ne comportant plus aucun nonterminal) qu'on peut
obtenir de la sorte.

Rendons maintenant cette définition précise :

\thingy Lorsque $G$ est une grammaire hors contexte comme
en \ref{definition-context-free-grammar}, on note $T
\mathrel{\rightarrow_G} \alpha$, ou simplement $T \rightarrow \alpha$
(lorsque $G$ est clair) pour signifier que $(T,\alpha)$ est une règle
de $G$.

On définit une relation $\Rightarrow$ en posant $\gamma T \gamma'
\Rightarrow \gamma\alpha\gamma'$ pour toute règle $(T,\alpha)$ et tous
pseudo-mots $\gamma,\gamma'$ : autrement dit, formellement, on définit
$\lambda\Rightarrow\xi$ lorsqu'il existe $\gamma,\gamma' \in
(\Sigma\cup N)^*$ et $(T,\alpha) \in R$ (ensemble des règles de $G$)
tels que $\lambda = \gamma T \gamma'$ et $\xi = \gamma\alpha\gamma'$.
Concrètement, $\lambda\Rightarrow\xi$ signifie donc que $\xi$ est
obtenu en remplaçant un nonterminal $T$ du pseudo-mot $\lambda$ par la
partie droite d'une production $T \rightarrow \alpha$ de la
grammaire $G$ : on dit encore que $\lambda \Rightarrow \xi$ est une
\textbf{dérivation immédiate} de $G$.  On pourra dire que $T
\rightarrow \alpha$ est la règle \textbf{appliquée} dans cette
dérivation immédiate, que $T$ est le \textbf{symbole réécrit} (souvent
souligné dans l'écriture de la dérivation immédiate), et que $\gamma$
et $\gamma'$ sont respectivement le \textbf{contexte gauche} et le
\textbf{contexte droit} de l'application de la règle\footnote{Pour
  être extrêmement rigoureux, une dérivation immédiate doit comporter
  la donnée du symbole réécrit (ou de façon équivalente, du contexte
  gauche et/ou droit), car elle ne peut pas se déduire de la seule
  donnée de $\lambda$ et $\mu$ (par exemple, dans $XX \Rightarrow
  XXX$, même si on sait que la règle appliquée était $X \rightarrow
  XX$, on ne peut pas deviner si c'est le $X$ de gauche ou de droite
  qui a été réécrit : il faut donc écrire $\underline{X}X \Rightarrow
  XXX$ ou bien $X\underline{X} \Rightarrow XXX$, en soulignant le
  symbole réécrit, pour distinguer les deux).  De même, dans une
  dérivation, on devrait inclure la donnée du symbole réécrit à chaque
  étape.}.  Bien sûr, si nécessaire, on précisera la grammaire
appliquée en écrivant $\lambda \mathrel{\Rightarrow_G} \xi$ au lieu de
simplement $\lambda\Rightarrow\xi$.

Une suite de pseudo-mots $(\lambda_0,\ldots,\lambda_n)$ telle que
\[
\lambda_0 \Rightarrow \lambda_1 \Rightarrow \cdots \Rightarrow \lambda_n
\]
autrement dit $\lambda_{i-1} \Rightarrow \lambda_i$ pour chaque $1\leq
i\leq n$, est appelée \textbf{dérivation} de $\lambda_n$ à partir de
$\lambda_0$ dans la grammaire $G$, et on note $\lambda_0
\mathrel{\Rightarrow^*} \lambda_n$ pour indiquer son existence
(c'est-à-dire, si on préfère, que la relation $\Rightarrow^*$ est la
clôture réflexive-transitive de $\Rightarrow$, i.e., la plus petite
relation binaire réflexive et transitive contenant $\Rightarrow$).
Remarquons que $n=0$ est permis, autrement dit $\lambda
\mathrel{\Rightarrow^*} \lambda$ pour tout pseudo-mot $\lambda$.  Bien
sûr, si nécessaire, on précisera la grammaire appliquée en écrivant
$\lambda \mathrel{\Rightarrow^*_G} \xi$ au lieu de simplement $\lambda
\mathrel{\Rightarrow^*} \xi$.

Concrètement, $\lambda \mathrel{\Rightarrow^*} \xi$ signifie donc
qu'on peut passer de $\lambda$ à $\xi$ en effectuant une suite
(finie !) de dérivations immédiates, c'est-à-dire en remplaçant à
chaque étape un nonterminal $T$ par la partie droite $\alpha$ d'une
règle $T \rightarrow \alpha$ de la grammaire $G$.

Il va de soi qu'un pseudo-mot qui ne comporte que des terminaux, i.e.,
qui est en fait un mot (sur $\Sigma$), ne peut pas être dérivé plus
loin.  Ceci justifie au moins en partie la terminologie de
« terminal ».

\thingy Le \textbf{langage engendré} $L(G)$ par une grammaire
hors contexte $G$ est l'ensemble des mots $w$ (ne comportant plus de
nonterminaux !) qui peuvent s'obtenir par dérivation à partir de
l'axiome $S$ de $G$, autrement dit :
\[
L(G) = \{w \in \Sigma^* : S \mathrel{\Rightarrow^*} w\}
\]

Un langage qui peut s'écrire sous la forme $L(G)$ où $G$ est une
grammaire hors contexte est appelé \textbf{langage hors contexte} ou
\textbf{algébrique}.

Deux grammaires hors contexte $G$ et $G'$ sont dites
\textbf{faiblement équivalentes} ou \textbf{langage-équivalentes}
lorsqu'elles engendrent le même langage ($L(G) = L(G')$).

\thingy\label{basic-example-context-free-grammar} À titre d'exemple,
considérons la grammaire sur l'alphabet $\Sigma = \{a,b\}$ donnée par
\[
\begin{aligned}
S &\rightarrow aSb\\
S &\rightarrow \varepsilon\\
\end{aligned}
\]
où implicitement $S$ est l'axiome et le seul nonterminal : autrement
dit, $G$ est donnée par $N = \{S\}$, d'axiome $S$, et de règles de
production $(S,aSb)$ et $(S,\varepsilon)$ (où $\varepsilon$, bien
entendu, désigne le mot vide).  Un pseudo-mot pour cette grammaire est
un mot sur l'alphabet $\Sigma\cup N = \{a,b,S\}$, et une dérivation
immédiate consiste \emph{soit} à ajouter un $a$ et un $b$ à gauche et
à droite d'un $S$ dans un pseudo-mot, \emph{soit} à retirer un $S$.

Dans ces conditions, il est clair qu'une dérivation partant de
l'axiome $S$ est constituée d'un certain nombre d'applications de la
première règle suivi d'au plus une application de la seconde (puisque
le nombre d'occurrences de $S$ va alors tomber de $1$ à $0$ et on ne
pourra plus dériver).  Autrement dit, une telle dérivation prend la
forme
\[
S \Rightarrow aSb \Rightarrow aaSbb \Rightarrow \cdots \Rightarrow a^n
S b^n
\]
ou éventuellement
\[
S \Rightarrow aSb \Rightarrow aaSbb \Rightarrow \cdots \Rightarrow a^n
S b^n \Rightarrow a^n b^n
\]
Le langage $L(G)$ défini par la grammaire est donc $\{a^n b^n :
n\in\mathbb{N}\}$.

On a vu en \ref{example-of-pumping-lemma} que ce langage n'est pas
rationnel : il existe donc des langages algébriques qui ne sont pas
rationnels.  En revanche, pour ce qui est de la réciproque, on verra
dans la section suivante que tout langage rationnel est algébrique.

\thingy Mentionnons brièvement qu'il existe des types de grammaires
plus généraux que les grammaires hors contexte.  Les
\textbf{grammaires contextuelles} (ou grammaires de \textbf{type 1})
sont définies par des règles du type $\gamma T \gamma' \rightarrow
\gamma \alpha \gamma'$ où $T$ est un nonterminal, et
$\alpha,\gamma,\gamma'$ des pseudo-mots (=mots sur l'alphabet de tous
les symboles), c'est-à-dire des règles qui autorisent la réécriture
d'un symbole $T$ en $\alpha$ mais uniquement s'il est entouré d'un
certain contexte ($\gamma$ à gauche, $\gamma'$ à droite).  Les
\textbf{grammaires syntagmatiques générales} (ou grammaires de
\textbf{type 0}) sont définies par des règles de réécriture $\lambda
\rightarrow \mu$ où $\lambda,\mu$ sont des pseudo-mots quelconques.


\subsection{Langages rationnels et algébriques, stabilité}

\begin{prop}\label{rational-languages-are-algebraic}
Tout langage rationnel est algébrique.  Mieux, on peut déduire
algorithmiquement une grammaire hors contexte $G$ d'un εNFA $A$ de
façon à avoir $L(G) = L(A)$.
\end{prop}
\begin{proof}
Soit $A$ un εNFA : on sait qu'on peut supposer sans perte de
généralité qu'il a un unique état initial $q_0$ (quitte à en créer un
et à remplacer tout état $q$ anciennement initial par une ε-transition
$q_0 \to q$).  Soit $Q$ son ensemble des états et $\delta \subseteq Q
\times (\Sigma\cup\{\varepsilon\}) \times Q$ sa fonction de
transition.  On construit une grammaire hors contexte $G$ dont
l'ensemble des nonterminaux est $Q$, l'axiome est $S := q_0$, (A) pour
chaque transition $(q,t,q') \in \delta$ une règle $q \to tq'$ (on
rappelle que $t \in \Sigma\cup\{\varepsilon\}$), et (B) pour chaque
état final $q\in F$ une règle $q\to\varepsilon$.

De même que dans l'exemple \ref{basic-example-context-free-grammar},
une dérivation partant de l'axiome va comporter un certain nombre
d'applications de règles de type (A) suivies éventuellement d'une
unique application d'une règle de type (B) (ce qui est nécessaire pour
faire passer le nombre de nonterminaux de $1$ à $0$).  Autrement dit,
elle prend la forme $q_0 \Rightarrow t_1 q_1 \Rightarrow t_1 t_2 q_2
\Rightarrow \cdots \Rightarrow t_1 t_2\cdots t_n q_n$ où
$(q_{i-1},t_i,q_i) \in \delta$ pour $1\leq i\leq n$, suivie
éventuellement par $t_1\cdots t_n q_n \Rightarrow t_1\cdots t_n$
lorsque $q_n \in F$.  Manifestement, les dérivations de la sorte
(terminant sur un mot sur $\Sigma$) sont en bijection avec les chemins
$q_0 \to \cdots \to q_n$ dans $A$ où $q_n \in F$, et le mot $t_1\cdots
t_n$ dérivé est précisément le mot formé en concacténant les
étiquettes du chemin.  On a donc bien $L(G) = L(A)$.
\end{proof}

\thingy Une grammaire hors contexte telle que construite dans la
preuve de \ref{rational-languages-are-algebraic} est dite
\textbf{régulière} : autrement dit, il s'agit d'une grammaire ayant
uniquement des règles de la forme (A) $Q \rightarrow tQ'$ où $t \in
\Sigma\cup\{\varepsilon\}$ (certains auteurs imposent $t \in \Sigma$,
ce qui revient à imposer qu'on part d'un NFA sans ε-transition dans la
construction) et (B) $Q \rightarrow \varepsilon$ (certains auteurs
préfèrent $Q \rightarrow x$ avec $x\in\Sigma$, ce qui impose des
petits changements dans la construction ci-dessus).  Les langages
définis par des grammaires régulières sont donc exactement les
langages rationnels.

\begin{prop}\label{cfg-union-concatenation-and-star}
Si $L_1,L_2$ sont des langages algébriques (sur un même
alphabet $\Sigma$), alors la réunion $L_1 \cup L_2$ est algébrique ;
de plus, une grammaire hors contexte l'engendrant se déduit
algorithmiquement de grammaires hors contexte engendrant $L_1$
et $L_2$.

Si $L_1,L_2$ sont des langages algébriques (sur un même
alphabet $\Sigma$), alors la concaténation $L_1 L_2$ est algébrique ;
de plus, une grammaire hors contexte l'engendrant se déduit
algorithmiquement de grammaires hors contexte engendrant $L_1$
et $L_2$.

Si $L$ est un langage algébrique, alors l'étoile de Kleene $L^*$ est
algébrique ; de plus, une grammaire hors contexte l'engendrant se
déduit algorithmiquement d'une grammaire hors contexte engendrant $L$.
\end{prop}
\begin{proof}
Pour la réunion : supposons que $G_1$ et $G_2$ engendrent $L_1$ et
$L_2$ respectivement, et ont des ensembles de nonterminaux $N_1$ et
$N_2$ disjoints, avec axiomes $S_1$ et $S_2$ respectivement.  On
construit une grammaire $G$ dont l'ensemble des nonterminaux est $N_1
\cup N_2 \cup \{S\}$ où $S$ est un nouveau nonterminal, choisi comme
axiome, et les règles de production de $G$ sont celles de $G_1$,
celles de $G_2$, et les deux règles supplémentaires $S \rightarrow
S_1$ et $S \rightarrow S_2$.  Il est évident qu'une dérivation de $G$
partant de $S$ est soit de la forme $S \Rightarrow S_1$ suivie d'une
dérivation de $G_1$, soit de la forme $S \Rightarrow S_2$ suivie d'une
dérivation de $G_2$ : ainsi, $L(G) = L_1 \cup L_2$.

Pour la concaténation : la construction est presque exactement la
même, mais on prend pour règle supplémentaire $S \rightarrow S_1 S_2$.

Pour l'étoile : si $G$ engendre $L$ et a pour ensemble de nonterminaux
$N$ et pour axiome $S$, on défit une nouvelle grammaire $G'$ dont
l'ensemble des nonterminaux est $N' = N \cup \{S'\}$ où $S'$ est un
nouveau nonterminal, choisi comme axiome, et les règles de production
de $G'$ sont celles de $G$ et les deux règles supplémentaires $S'
\rightarrow SS'$ et $S' \rightarrow \varepsilon$.  Il est facile de se
convaincre qu'une dérivation de $G'$ partant de $S'$ et utilisant $n$
fois la règle $S' \rightarrow SS'$ se ramène à $n$ dérivations de $G$
partant de $S$, et seule la règle $S' \rightarrow \varepsilon$ permet
de faire disparaître le symbole $S'$.  (Les détails sont omis et
peuvent être rendus plus clairs en utilisant la notion d'arbre de
dérivation.)
\end{proof}

\thingy Ceci fournit une nouvelle démonstration (partant d'une
expression rationnelle plutôt que d'un automate)
de \ref{rational-languages-are-algebraic}, tant il est évident que les
langages $\varnothing$, $\{\varepsilon\}$ et $\{x\}$
(pour $x\in\Sigma$) sont algébriques.

À cause de cette construction, on se permettra parfois, dans l'énoncé
des règles d'une grammaire, d'écrire $T \rightarrow \alpha_1 | \cdots
| \alpha_n$ pour réunir en une seule ligne plusieurs règles $T
\rightarrow \alpha_1$ jusqu'à $T \rightarrow \alpha_n$.  Par exemple,
la grammaire présentée en \ref{basic-example-context-free-grammar}
peut s'écrire $S \rightarrow aSb | \varepsilon$.  Il s'agit d'un
simple racourci d'écriture (comparer avec une convention semblable
faite pour les automates en \ref{graphical-representation-of-dfa}).

On pourrait même se permettre l'abus de notation consistant à écrire
$T \rightarrow U^*$ pour $T \rightarrow UT|\varepsilon$ (c'est-à-dire
$T \rightarrow UT$ et $T \rightarrow \varepsilon$), mais il vaut mieux
éviter car cela pourrait aussi bien signifier $T \rightarrow
TU|\varepsilon$, qui engendre le même langage (i.e., elle est
faiblement équivalente à la précédente) mais dont l'analyse peut être
plus problématique.  De façon encore plus générale, on pourrait
imaginer d'autoriser des règles de la forme $T \rightarrow r$ où $T$
est un nonterminal et $r$ une expression rationnelle quelconque sur
l'alphabet $\Sigma \cup N$ : de telles règles pourraient se ramener
aux règles qu'on a autorisées, quitte à introduire de nouveaux
nonterminaux pour les expressions intermédiaires (par exemple, $T
\rightarrow UV^*$ se transformerait par l'introduction d'un nouveau
nonterminal $V'$ en $T \rightarrow UV'$ et $V' \rightarrow
VV'|\varepsilon$).  Nous éviterons ces extensions aux grammaires hors
contexte pour ne pas introduire de confusion.

\thingy Il peut être utile, pour raisonner sur les langages
algébriques, d'introduire, lorsque $G$ est une grammaire hors contexte
et $T$ un nonterminal quelconque, le langage $L(G,T)$ des mots qui
dérivent de $T$, c'est-à-dire le langage engendré par la grammaire
$G'$ identique à $G$ à ceci près que son axiome est $T$.

On a alors $L(G) = L(G,S)$ où $S$ est l'axiome de $G$, et chaque règle
de production $T \rightarrow \alpha_1 | \cdots | \alpha_n$ se traduit
par une équation portant sur $L(G,T)$, par exemple $T \rightarrow aUbV
| cW$ implique $L(G,T) = a\, L(G,U)\, b\, L(G,V) \; \cup \; c L(G,W)$.
De cette manière, une grammaire hors contexte donne lieu à un système
d'équations portant sur des langages (par exemple, la grammaire de
\ref{basic-example-context-free-grammar} donne lieu à l'équation $L(G)
= (a\,L(G)\,b) \cup \{\varepsilon\}$ : on peut montrer que la
définition des grammaires hors contexte revient à considérer la plus
petite (au sens de l'inclusion) solution de ce système d'équations.

\thingy À la différence des langages rationnels, il \emph{n'est pas
  vrai} en général que l'intersection de deux langages algébriques
soit algébrique : un contre-exemple est fourni par les deux langages
$\{a^i b^i c^j : i,j\in\mathbb{N}\}$ et $\{a^i b^j c^j :
i,j\in\mathbb{N}\}$ (chacun des deux est algébrique : par exemple, le
premier est la concaténation du langage $\{a^i b^i : i\in\mathbb{N}\}$
dont on a vu en \ref{basic-example-context-free-grammar} qu'il était
algébrique, et du langage $\{c\}^*$, qui est algébrique car
rationnel) ; leur intersection $\{a^i b^i c^i : i\in\mathbb{N}\}$
n'est pas algébrique, comme on le démontrera
en \ref{example-of-pumping-lemma-for-algebraic-languages}.

En conséquence, il n'est pas non plus vrai en général que le
complémentaire d'un langage algébrique soit algébrique.

En revanche, le fait suivant, que nous admettons sans démonstration,
peut s'avérer utile :

\begin{prop}\label{intersection-of-algebraic-and-rational}
L'intersection d'un langage \emph{algébrique} et d'un langage
\emph{rationnel} est algébrique.
\end{prop}


\subsection{Autres exemples de grammaires hors contexte}

\thingy\label{example-lr-non-ll-grammar} Sur l'alphabet $\Sigma =
\{a,b\}$, considérons la grammaire (d'axiome $S$)
\[
\begin{aligned}
S &\rightarrow AT\\
A &\rightarrow aA \;|\; \varepsilon\\
T &\rightarrow aTb \;|\; \varepsilon\\
\end{aligned}
\]
Il est clair que le langage $L(G,A)$ des mots qui dérivent de $A$ est
simplement $\{a\}^* = \{a^i : i\in\mathbb{N}\}$ ; et le langage
$L(G,T)$ est $\{a^j b^j : j\in\mathbb{N}\}$ comme
en \ref{basic-example-context-free-grammar}.  Le langage $L(G) =
L(G,A)\, L(G,T)$ est donc $\{a^i b^j : i \geq j\}$, l'ensemble des
mots de la forme $a^i b^j$ pour lesquels $i \geq j$.

On peut aussi considérer la grammaire $G'$ définie par
\[
\begin{aligned}
S &\rightarrow T \;|\; aS\\
T &\rightarrow aTb \;|\; \varepsilon\\
\end{aligned}
\]
Il n'est pas difficile de se convaincre qu'elle engendre le même
langage $L(G)$ que la précédente (elle est donc faiblement équivalente
à $G$).  (Ce langage est intéressant sur le plan théorique, car bien
qu'il soit algébrique et ici défini par une grammaire inambiguë, il ne
peut pas être analysé par un analyseur LL.)

\thingy Sur l'alphabet $\Sigma = \{a,b\}$, considérons la grammaire
(d'axiome $S$)
\[
\begin{aligned}
S &\rightarrow U \;|\; V \;|\; \varepsilon\\
U &\rightarrow aUb \;|\; ab\\
V &\rightarrow aVbb \;|\; abb\\
\end{aligned}
\]
Il est clair que le langage $L(G,U)$ des mots qui dérivent de $U$ est
$\{a^i b^i : i>0\}$ comme en \ref{basic-example-context-free-grammar},
et de façon analogue, le langage $L(G,V)$ des mots qui dérivent de $V$
est $\{a^i b^{2i} : i>0\}$.  Le langage $L(G) = L(G,U) \cup L(G,V)$
est donc l'ensemble des mots de la forme $a^i b^j$ où $j=i$ \emph{ou
  bien} $j=2i$.  (Ce langage est intéressant sur le plan théorique,
car bien qu'il soit algébrique et défini par une grammaire inambiguë,
il n'est pas analysable par un automate à pile déterministe.)

\thingy\label{example-for-intrinsic-ambiguity} Sur l'alphabet $\Sigma
= \{a,b,c\}$, considérons la grammaire (d'axiome $S$)
\[
\begin{aligned}
S &\rightarrow UC \;|\; AV\\
A &\rightarrow aA \;|\; \varepsilon\\
C &\rightarrow cC \;|\; \varepsilon\\
U &\rightarrow aUb \;|\; \varepsilon\\
V &\rightarrow bVc \;|\; \varepsilon\\
\end{aligned}
\]
Il est clair que le langage $L(G,A)$ des mots qui dérivent de $A$ est
simplement $\{a\}^* = \{a^i : i\in\mathbb{N}\}$ et que le langage
$L(G,C)$ des mots qui dérivent de $C$ est simplement $\{c\}^* = \{c^j
: j\in\mathbb{N}\}$ ; le langage $L(G,U)$ est $\{a^i b^i :
i\in\mathbb{N}\}$ comme en \ref{basic-example-context-free-grammar},
et de même $L(G,V) = \{b^j c^j : j\in\mathbb{N}\}$.  Finalement, $L(G)
= L(G,U)\,L(G,C) \;\cup\; L(G,A)\,L(G,V)$ montre que $L(G) = \{a^i b^i
c^j : i,j\in\mathbb{N}\} \cup \{a^i b^j c^j : i,j\in\mathbb{N}\}$ est
le langage des mots de la forme $a^i b^r c^j$ où $r=i$ \emph{ou}
$r=j$.  (Ce langage est intéressant sur le plan théorique, car il est
algébrique mais « intrinsèquement ambigu ».)

\thingy\label{example-well-parenthesized-expressions} Sur l'alphabet
$\Sigma = \{a,b\}$, considérons la grammaire (d'axiome $S$)
\[
S\; \rightarrow\; aSbS \;|\; \varepsilon
\]
ou, ce qui revient au même
\[
\begin{aligned}
S &\rightarrow TS \;|\; \varepsilon\\
T &\rightarrow aSb\\
\end{aligned}
\]
(la première ligne revient par ailleurs à $S \rightarrow T^*$).  On a
alors $L(G) = L(G,T)^*$ où $L(G,T) = a\, L(G)\, b$ désigne le langage
des mots qui peuvent être dérivés à partir de $T$.

Ce langage $L(G)$ s'appelle langage des \textbf{expressions
  bien-parenthésées} où $a$ représente une parenthèse ouvrante et $b$
une parenthèse fermante (et $L(G,T)$ est le langage des blocs
parenthésés : autrement dit, une expression bien-parenthésée est une
suite de blocs parenthésés, et un bloc parenthésé est une expression
bien-parenthésée entourée par une parenthèse ouvrante et une
parenthèse fermante — c'est ce que traduit la grammaire).

\thingy\label{example-grammar-equal-a-and-b} Sur l'alphabet $\Sigma =
\{a,b\}$, montrons que la grammaire $G$ (d'axiome $S$) donnée par
\[
S\; \rightarrow\; aSbS \;|\; bSaS \;|\; \varepsilon
\]
(c'est-à-dire $N = \{S\}$ où $S$ est l'axiome, et pour règles $S
\rightarrow aSbS$ et $S \rightarrow bSaS$ et $S \rightarrow
\varepsilon$) engendre le langage $L$ formé des mots ayant un nombre
total de $a$ égal au nombre total de $b$, i.e., $L = \{w \in\Sigma^* :
|w|_a = |w|_b\}$ où $|w|_x$ désigne le nombre total d'occurrences de
la lettre $x$ dans le mot $w$.

Dans un sens il est évident que tout pseudo-mot obtenu en dérivant $S$
a un nombre de $a$ égal au nombre de $b$, puisque cette propriété est
conservée par toute dérivation immédiate.  Autrement dit, $L(G)
\subseteq L$.

Pour ce qui est de la réciproque, on va montrer par récurrence sur
$|w|$ que tout mot $w \in \Sigma^*$ ayant autant de $a$ que de $b$ est
dans $L(G)$.  Pour $|w|=0$ c'est trivial.  Sinon, on peut supposer
sans perte de généralité que le mot $w$ considéré commence par $a$,
soit $w = aw'$ où $w'$ vérifie $|w'|_b - |w'|_a = 1$.  Considérons
maintenant la fonction $h$ qui à un entier $k$ entre $0$ et $|w'|$
associe le nombre de $b$ moins le nombre de $a$ dans le préfixe de
longueur $k$ de $w'$ (i.e., parmi les $k$ premières lettres de $w'$) :
cette fonction prend les valeurs $h(0) = 0$ et $h(|w'|) = 1$, et elle
varie de $\pm 1$ à chaque fois (i.e., $h(i) = h(i-1) \pm 1$ selon que
la $i$-ième lettre de $w'$ est $b$ ou $a$).  Soit $k_0$ le plus grand
entier tel que $h(k_0) = 0$ : cet entier est bien défini car $h(0)=0$.
On a forcément $h(k_0+1) = 1$ car l'autre possibilité, $h(k_0+1) = -1$
impliquerait que $h$ devrait repasser par la valeur $0$ pour atteindre
la valeur finale $h(|w'|) = 1$, ce qui contredirait la maximalité de
$k_0$.  Bref, si $u$ est le préfixe de $w'$ de longueur $k_0$, on a
$|u|_b - |u|_a = h(k_0) = 0$ et la lettre suivante de $w'$ est un $b$,
si bien que $w' = ubv$ et finalement $w = aubv$ où $u$ et donc $v$ ont
autant que $a$ que de $b$, i.e., appartiennent à $L$, et par
récurrence (ils sont de longueur strictement plus courte que $w$)
appartiennent à $L(G)$.  On peut donc dériver $u$ et $v$ de $S$, donc
$w$ de $aSbS$, et comme $aSbS$ se dérive immédiatement de $S$, on a
bien $w \in L(G)$, ce qui conclut la récurrence.

Un raisonnement analogue montre que la grammaire $G'$ donnée par
\[
\begin{aligned}
S &\rightarrow aUbS \;|\; bVaS \;|\; \varepsilon\\
U &\rightarrow aUbU\\
V &\rightarrow bVaV\\
\end{aligned}
\]
engendre le même langage $L = \{w \in\Sigma^* : |w|_a = |w|_b\}$ que
ci-dessus (elle est donc faiblement équivalente à $G$) : l'idée est
que le langage $L(G,U)$ des mots qui dérivent de $U$ est l'ensemble
des expressions bien-parenthésées où $a$ est la parenthèse ouvrante et
$b$ la fermante (dans le raisonnement ci-dessus, ce sont les mots pour
lesquels la fonction $h$, partant de $0$, revient à $0$, et reste
toujours positive ou nulle), tandis que $L(G,V)$ est l'ensemble des
expressions bien-parenthésées où $b$ est la parenthèse ouvrante et $a$
la fermante (la fonction $h$ reste toujours négative ou nulle), et
tout mot de $L$ peut s'écrire comme concaténation de tels mots (en
divisant selon le signe de $h$).  Une différence entre $G$ et $G'$ est
que la grammaire $G$ est ambiguë (un terme qui sera défini plus bas)
tandis que $G'$ ne l'est pas.


\subsection{Arbres d'analyse, dérivations gauche et droite}

\thingy Soit $G$ une grammaire hors contexte sur un alphabet $\Sigma$
et $N$ l'ensemble de ses nonterminaux.  Un \textbf{arbre d'analyse}
(ou \textbf{arbre de dérivation} ; en anglais \textbf{parse tree})
\textbf{incomplet} pour $G$ est un arbre (fini, enraciné et
ordonné\footnote{C'est-à-dire que l'ensemble des fils d'un nœud
  quelconque de l'arbre est muni d'un ordre total, ou, ce qui revient
  au même, qu'ils sont numérotés (disons de la gauche vers la
  droite).}) dont les nœuds sont étiquetés par des éléments de $\Sigma
\cup N \cup \{\varepsilon\}$, vérifiant les propriétés suivantes :
\begin{itemize}
\item la racine de l'arbre est étiquetée par l'axiome $S$ de $G$ ;
\item si un nœud de l'arbre est étiqueté par $T$ et n'est pas une
  feuille (i.e., s'il a des fils), alors soit il a un unique fils
  étiqueté $\varepsilon$ et il existe une règle $T \rightarrow
  \varepsilon$ dans $G$, soit il a des fils étiquetés par des éléments
  $x_1\cdots x_n$ (où $n\geq 1$) de $\Sigma \cup N$ et il existe une
  règle $T \rightarrow x_1\cdots x_n$ dans $G$.
\end{itemize}

On dit de plus que l'arbre est \textbf{complet}, ou simplement qu'il
s'agit d'un arbre d'analyse, lorsqu'il vérifie la propriété
supplémentaire suivante :
\begin{itemize}
\item foute feuille de l'arbre est étiquetée soit par un terminal
  (élément de $\Sigma$) soit par $\varepsilon$.
\end{itemize}

(Les feuilles étiquetées $\varepsilon$ servent uniquement à marquer la
complétude de l'arbre : certains auteurs procèdent différemment.)

\thingy Si $T$ est un arbre d'analyse incomplet, et $\alpha$ le
pseudo-mot obtenu en lisant les étiquettes des \emph{feuilles} de $T$
en profondeur ordonnée (c'est-à-dire en commençant par toutes les
feuilles qui descendent du premier fils de la racine elles-mêmes dans
le même ordre, puis toutes celles qui descendent du second fils, et
ainsi de suite) et en ignorant tous les $\varepsilon$, alors on dit
que $T$ est un arbre d'analyse \emph{de} $\alpha$, ou que $\alpha$ est
le pseudo-mot analysé par $T$.  La définition d'un arbre d'analyse
complet signifie exactement qu'il est l'arbre d'analyse d'un
\emph{mot} (c'est-à-dire, d'un mot sur $\Sigma$).

\thingy\label{example-of-parse-tree} À titre d'exemple, considérons la
grammaire (considérée en \ref{example-well-parenthesized-expressions})
\[
\begin{aligned}
S &\rightarrow TS \;|\; \varepsilon\\
T &\rightarrow aSb\\
\end{aligned}
\]

L'arbre d'analyse suivant est un arbre d'analyse du mot $aabbab$ :
\begin{center}
\tikzstyle{automaton}=[scale=0.5]
%%% begin parsetree1 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (e3) at (99bp,18bp) [draw,draw=none] {$\varepsilon$};
  \node (S3) at (549bp,234bp) [draw,draw=none] {$S$};
  \node (S2) at (225bp,234bp) [draw,draw=none] {$S$};
  \node (S1) at (441bp,306bp) [draw,draw=none] {$S$};
  \node (S0) at (369bp,378bp) [draw,draw=none] {$S$};
  \node (T2) at (117bp,162bp) [draw,draw=none] {$T$};
  \node (S6) at (99bp,90bp) [draw,draw=none] {$S$};
  \node (T0) at (261bp,306bp) [draw,draw=none] {$T$};
  \node (T1) at (441bp,234bp) [draw,draw=none] {$T$};
  \node (a1) at (369bp,162bp) [draw,draw=none] {$a$};
  \node (a0) at (153bp,234bp) [draw,draw=none] {$a$};
  \coordinate (spacer) at (297bp,162bp);
  \node (a2) at (27bp,90bp) [draw,draw=none] {$a$};
  \node (b0) at (297bp,234bp) [draw,draw=none] {$b$};
  \node (S5) at (441bp,162bp) [draw,draw=none] {$S$};
  \node (b2) at (171bp,90bp) [draw,draw=none] {$b$};
  \node (S4) at (225bp,162bp) [draw,draw=none] {$S$};
  \node (e1) at (243bp,90bp) [draw,draw=none] {$\varepsilon$};
  \node (e0) at (585bp,162bp) [draw,draw=none] {$\varepsilon$};
  \node (e2) at (441bp,90bp) [draw,draw=none] {$\varepsilon$};
  \node (b1) at (513bp,162bp) [draw,draw=none] {$b$};
  \draw [] (S1) ..controls (484.16bp,277.03bp) and (505.72bp,263.05bp)  .. (S3);
  \draw [] (S0) ..controls (397.96bp,348.85bp) and (412.29bp,334.92bp)  .. (S1);
  \draw [] (S5) ..controls (441bp,132.85bp) and (441bp,118.92bp)  .. (e2);
  \draw [] (S2) ..controls (225bp,204.85bp) and (225bp,190.92bp)  .. (S4);
  \draw [] (T2) ..controls (109.76bp,132.85bp) and (106.18bp,118.92bp)  .. (S6);
  \draw [] (T1) ..controls (469.96bp,204.85bp) and (484.29bp,190.92bp)  .. (b1);
  \draw [] (T0) ..controls (217.84bp,277.03bp) and (196.28bp,263.05bp)  .. (a0);
  \draw [] (T2) ..controls (80.802bp,132.85bp) and (62.893bp,118.92bp)  .. (a2);
  \draw [] (T2) ..controls (138.72bp,132.85bp) and (149.46bp,118.92bp)  .. (b2);
  \draw [] (S1) ..controls (441bp,276.85bp) and (441bp,262.92bp)  .. (T1);
  \draw [] (S4) ..controls (232.24bp,132.85bp) and (235.82bp,118.92bp)  .. (e1);
  \draw [] (S3) ..controls (563.48bp,204.85bp) and (570.64bp,190.92bp)  .. (e0);
  \draw [] (S0) ..controls (325.84bp,349.03bp) and (304.28bp,335.05bp)  .. (T0);
  \draw [] (S6) ..controls (99bp,60.846bp) and (99bp,46.917bp)  .. (e3);
  \draw [] (T0) ..controls (275.48bp,276.85bp) and (282.64bp,262.92bp)  .. (b0);
  \draw [] (T0) ..controls (246.52bp,276.85bp) and (239.36bp,262.92bp)  .. (S2);
  \draw [] (T1) ..controls (412.04bp,204.85bp) and (397.71bp,190.92bp)  .. (a1);
  \draw [] (T1) ..controls (441bp,204.85bp) and (441bp,190.92bp)  .. (S5);
  \draw [] (S2) ..controls (181.84bp,205.03bp) and (160.28bp,191.05bp)  .. (T2);
%
\end{tikzpicture}

%%% end parsetree1 %%%
\end{center}

\thingy Si $S = \lambda_0 \Rightarrow \lambda_1 \Rightarrow \cdots
\Rightarrow \lambda_n$ est une dérivation à partir de l'axiome $S$
dans une grammaire hors contexte $G$, on lui associe, par récurrence
sur $n$, un arbre d'analyse incomplet du pseudo-mot $\lambda_n$, de la
manière suivante : si $n=0$, il s'agit de l'arbre trivial (ayant pour
seul nœud la racine $S$) ; sinon, on part de l'arbre pour la
dérivation $\lambda_0 \Rightarrow \cdots \Rightarrow \lambda_{n-1}$,
on considère le symbole $T$ réécrit dans la dernière dérivation
immédiate $\lambda_{n-1} \Rightarrow \lambda_n$, il correspond à une
certaine feuille de l'arbre pour $n-1$ (à savoir la feuille, étiquetée
$T$, qui a autant de feuilles à gauche et à droite dans l'ordre de
profondeur que la longueur des contextes gauche et droit de la
dérivation immédiate $\lambda_{n-1} \Rightarrow \lambda_n$), et on
ajoute à ce nœud des fils correspondant à la règle $T \to \alpha$
appliquée dans la dernière dérivation immédiate $\lambda_{n-1}
\Rightarrow \lambda_n$ (c'est-à-dire soit un unique fils étiqueté
$\varepsilon$ si $\alpha = \varepsilon$, soit $k$ fils étiquetés
$x_1,\ldots,x_k$ si $\alpha = x_1\cdots x_k$ avec $k\geq 1$).

Concrètement, donc, on construit l'arbre d'analyse d'une dérivation en
partant de la racine et, à chaque fois qu'un symbole est réécrit, en
faisant pousser des fils à la feuille correspondante de l'arbre (qui
cesse donc d'être une feuille) pour indiquer la règle appliquée.

Notons que l'arbre obtenu est complet exactement lorsque la dérivation
aboutit à un mot (sur $\Sigma$).  Notons aussi que le nombre $n$
d'étapes dans la dérivation est égal au nombre de nœuds de l'arbre qui
\emph{ne sont pas} des feuilles.

Deux dérivations (forcément du même mot ou pseudo-mot) auxquelles sont
associées le même arbre d'analyse sont dites \textbf{équivalentes}.

\thingy\label{example-of-derivations} À titre d'exemple, l'arbre
illustré en \ref{example-of-parse-tree} est associé à la dérivation
\[
\begin{aligned}
\underline{S} &\Rightarrow \underline{T}S \Rightarrow a\underline{S}bS \Rightarrow a\underline{T}SbS \Rightarrow
aa\underline{S}bSbS \Rightarrow aab\underline{S}bS \Rightarrow aabb\underline{S}\\
&\Rightarrow aabb\underline{T}S \Rightarrow aabba\underline{S}bS \Rightarrow aabbab\underline{S} \Rightarrow aabbab\\
\end{aligned}
\]
(on a souligné à chaque fois le symbole réécrit), mais aussi à la
dérivation
\[
\begin{aligned}
\underline{S} &\Rightarrow T\underline{S} \Rightarrow TT\underline{S} \Rightarrow T\underline{T} \Rightarrow Ta\underline{S}b \Rightarrow \underline{T}ab\\
&\Rightarrow a\underline{S}bab \Rightarrow aT\underline{S}bab \Rightarrow a\underline{T}bab \Rightarrow aa\underline{S}bbab \Rightarrow aabbab\\
\end{aligned}
\]
Ces deux dérivations sont donc équivalentes.  Elles ont toutes les
deux $10$ étapes puisque l'arbre considéré a $10$ nœuds qui ne sont
pas des feuilles.

\thingy On appelle \textbf{dérivation gauche} une dérivation (pour une
grammaire hors contexte donnée) dans laquelle le symbole réécrit est
toujours \emph{le nonterminal le plus à gauche} du pseudo-mot
courant : autrement dit, une dérivation gauche est une dérivation
telle que le contexte gauche de chaque dérivation immédiate la
constituant ne comporte que des symboles terminaux (i.e., appartient
à $\Sigma^*$).  Symétriquement, on appelle \textbf{dérivation droite}
une dérivation dans laquelle le symbole réécrit est toujours \emph{le
  nonterminal le plus à droite}, c'est-à-dire que le contexte droit de
chaque dérivation immédiate la constituant ne comporte que des
symboles terminaux.

À titre d'exemple, les deux dérivations données
en \ref{example-of-derivations} sont respectivement une dérivation
gauche et une dérivation droite.

À chaque arbre d'analyse est associée une et une seule dérivation
gauche : on l'obtient de façon évidente en réécrivant à chaque étape
le symbole nonterminal le plus à gauche en suivant la règle indiquée
par l'arbre d'analyse sous le nœud correspondant ; cela revient à
parcourir l'arbre d'analyse en profondeur de gauche à droite, et à
réécrire le symbole correspondant à chaque nœud que l'on rencontre qui
n'est pas une feuille.  De même, à chaque arbre d'analyse est associée
une et une seule dérivation droite.


\subsection{Ambiguïté}

\thingy On dit qu'une grammaire hors contexte est \textbf{ambiguë}
lorsqu'il existe un mot (i.e., un mot sur l'alphabet $\Sigma$ des
terminaux) qui admet deux arbres d'analyse \emph{différents}.  Dans le
cas contraire, elle est dite \textbf{inambiguë} : autrement dit, une
grammaire inambiguë est une grammaire $G$ pour laquelle tout $w \in
L(G)$ a un unique arbre d'analyse ; il revient au même de dire que
tout mot de $L(G)$ a une unique dérivation droite, ou encore que tout
mot de $L(G)$ a une unique dérivation gauche.

Les grammaires des langages informatiques réels sont évidemment
(presque ?) toujours inambiguës : on souhaite qu'un programme
(c'est-à-dire, dans la terminologie mathématique, un mot du langage)
admette une unique interprétation, une unique analyse, autrement dit,
un unique arbre d'analyse.

\thingy\label{trivial-example-ambiguity} À titre d'exemple, la
grammaire
\[
S\; \rightarrow\; SS \;|\; a
\]
sur l'alphabet $\{a\}$ est ambiguë.  En effet, le mot $aaa$ admet
l'arbre d'analyse
\begin{center}
\tikzstyle{automaton}=[scale=0.5]
%%% begin parsetree2 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (S3) at (99bp,90bp) [draw,draw=none] {$S$};
  \node (S2) at (99bp,162bp) [draw,draw=none] {$S$};
  \node (S1) at (27bp,162bp) [draw,draw=none] {$S$};
  \node (S0) at (63bp,234bp) [draw,draw=none] {$S$};
  \node (S4) at (171bp,90bp) [draw,draw=none] {$S$};
  \node (a1) at (99bp,18bp) [draw,draw=none] {$a$};
  \node (a0) at (27bp,90bp) [draw,draw=none] {$a$};
  \node (a2) at (171bp,18bp) [draw,draw=none] {$a$};
  \draw [] (S0) ..controls (48.521bp,204.85bp) and (41.357bp,190.92bp)  .. (S1);
  \draw [] (S1) ..controls (27bp,132.85bp) and (27bp,118.92bp)  .. (a0);
  \draw [] (S2) ..controls (127.96bp,132.85bp) and (142.29bp,118.92bp)  .. (S4);
  \draw [] (S2) ..controls (99bp,132.85bp) and (99bp,118.92bp)  .. (S3);
  \draw [] (S0) ..controls (77.479bp,204.85bp) and (84.643bp,190.92bp)  .. (S2);
  \draw [] (S4) ..controls (171bp,60.846bp) and (171bp,46.917bp)  .. (a2);
  \draw [] (S3) ..controls (99bp,60.846bp) and (99bp,46.917bp)  .. (a1);
%
\end{tikzpicture}

%%% end parsetree2 %%%
\end{center}
mais aussi
\begin{center}
\tikzstyle{automaton}=[scale=0.5]
%%% begin parsetree2b %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (S3) at (27bp,90bp) [draw,draw=none] {$S$};
  \node (S2) at (171bp,162bp) [draw,draw=none] {$S$};
  \node (S1) at (99bp,162bp) [draw,draw=none] {$S$};
  \node (S0) at (135bp,234bp) [draw,draw=none] {$S$};
  \node (S4) at (99bp,90bp) [draw,draw=none] {$S$};
  \node (a1) at (99bp,18bp) [draw,draw=none] {$a$};
  \node (a0) at (27bp,18bp) [draw,draw=none] {$a$};
  \node (a2) at (171bp,90bp) [draw,draw=none] {$a$};
  \draw [] (S1) ..controls (70.042bp,132.85bp) and (55.714bp,118.92bp)  .. (S3);
  \draw [] (S0) ..controls (120.52bp,204.85bp) and (113.36bp,190.92bp)  .. (S1);
  \draw [] (S0) ..controls (149.48bp,204.85bp) and (156.64bp,190.92bp)  .. (S2);
  \draw [] (S1) ..controls (99bp,132.85bp) and (99bp,118.92bp)  .. (S4);
  \draw [] (S3) ..controls (27bp,60.846bp) and (27bp,46.917bp)  .. (a0);
  \draw [] (S2) ..controls (171bp,132.85bp) and (171bp,118.92bp)  .. (a2);
  \draw [] (S4) ..controls (99bp,60.846bp) and (99bp,46.917bp)  .. (a1);
%
\end{tikzpicture}

%%% end parsetree2b %%%
\end{center}

Cette grammaire n'est donc pas ambiguë.  Remarquons que le langage
qu'elle engendre est $\{a\}^+ = \{a^n : n\geq 1\}$ (car il est évident
que tout mot engendré par la grammaire est dans $\{a\}^+$, et
réciproquement il est facile de fabriquer une dérivation de $a^n$ pour
tout $n\geq 1$, par exemple $\underline{S} \Rightarrow S\underline{S}
\Rightarrow \cdots \Rightarrow S^{n-1} S \Rightarrow \cdots a^n$).

Le \emph{même} langage $\{a\}^+ = \{a^n : n\geq 1\}$ peut aussi être
engendré par la grammaire
\[
S\; \rightarrow\; aS \;|\; a
\]
(faiblement équivalente à la précédente, donc) qui, elle, \emph{n'est
  pas} ambiguë : en effet, la seule manière de dériver $a^n$ consiste
à appliquer $n-1$ fois la règle $S \rightarrow aS$ et finalement une
fois la règle $S \rightarrow a$ (il y a donc une unique dérivation du
mot, et \textit{a fortiori} un unique arbre d'analyse).

\thingy La grammaire $G$ des expressions bien-parenthésées
\[
\begin{aligned}
S &\rightarrow TS \;|\; \varepsilon\\
T &\rightarrow aSb\\
\end{aligned}
\]
considérée en \ref{example-well-parenthesized-expressions} est
inambiguë.  Le point crucial pour s'en convaincre est que dans
l'application de la règle $S \rightarrow TS$ dans l'analyse d'un mot
$w \neq \varepsilon$ engendré par la grammaire, il n'y a qu'une seule
possibilité sur la limite du préfixe $u$ qui dérivera de $T$ (et donc
du suffixe qui dérivera de $S$) : en s'inspirant
de \ref{example-grammar-equal-a-and-b} on peut se convaincre que $u$
est le préfixe de $w$ de la plus petite longueur $>0$ possible
comportant autant de $b$ que de $a$ (par exemple si $w = aabbab$ alors
$u = aabb$) ; ce point étant acquis, tout mot $w\neq\varepsilon$ de la
grammaire $L(G) = L(G,S)$ s'analyse de façon unique comme
concaténation d'un mot $u \in L(G,T)$ (c'est-à-dire dérivant de $T$)
et d'un mot $v \in L(G,S)$, et chacun de ces morceaux s'analyse à son
tour de façon unique (la règle $T \rightarrow aSb$ ne permet
manifestement qu'une seule analyse d'un mot de $L(G,T)$ : une fois
qu'on enlève le $a$ initial et le $b$ final, il reste un mot de
$L(G,S)$).

Notamment, l'arbre représenté en \ref{example-of-parse-tree} est
l'\emph{unique} arbre d'analyse de $aabbab$ pour la grammaire
présentée ci-dessus.

\thingy Il arrive que le \emph{même} langage puisse être engendré par
une grammaire ambiguë et par une grammaire inambiguë (on a vu un
exemple en \ref{trivial-example-ambiguity}).  L'ambiguïté est donc une
caractéristique de la \emph{grammaire} hors contexte et non du
\emph{langage} algébrique qu'elle engendre.

Cependant, certains langages algébriques ne sont définis \emph{que}
par des grammaires hors contexte ambiguës.  De tels langages sont dits
\textbf{intrinsèquement ambigus}.  C'est le cas du langage $\{a^i b^i
c^j : i,j\in\mathbb{N}\} \cup \{a^i b^j c^j : i,j\in\mathbb{N}\}$ dont
on a vu en \ref{example-for-intrinsic-ambiguity} qu'il était
algébrique : il n'est pas évident (cela dépasse le cadre de ce cours)
de démontrer qu'il est intrinsèquement ambigu, mais on peut au moins
en donner une explication intuitive : quelle que soit la manière dont
on construit une grammaire engendrant ce langage, elle devra forcément
distinguer le cas de $a^i b^i c^j$ et celui de $a^i b^j c^j$, or ces
cas ne sont pas disjoints, il existe des mots $a^i b^i c^i$ qui sont à
l'intersection des deux, et ce sont ces mots qui forcent ce langage à
être intrinsèquement ambigu.


\subsection{Le lemme de pompage pour les langages algébriques}

\begin{prop}[lemme de pompage pour les langages algébriques]\label{pumping-lemma-for-algebraic-languages}
Soit $L$ un langage algébrique.  Il existe alors un entier $k$ tel que
tout mot de $t \in L$ de longueur $|t| \geq k$ admette une
factorisation $t = uvwxy$ en cinq facteurs $u,v,w,x,y$ où :
\begin{itemize}
\item[(i)] $|vx| \geq 1$ (c'est-à-dire $v\neq\varepsilon$ \emph{ou
  bien} $x\neq\varepsilon$),
\item[(ii)] $|vwx| \leq k$,
\item[(iii)] pour tout $i\geq 0$ on a $uv^iwx^iy \in L$.
\end{itemize}
\end{prop}
\begin{proof}\textcolor{red}{(Omise.)}\end{proof}

Donnons maintenant un exemple d'utilisation du lemme :

\begin{prop}\label{example-of-pumping-lemma-for-algebraic-languages}
Soit $\Sigma = \{a,b,c\}$.  Le langage $L = \{a^n b^n c^n :
n\in\mathbb{N}\} = \{\varepsilon, abc, aabbcc, aaabbbcc,\ldots\}$
n'est pas algébrique.
\end{prop}
\begin{proof}
Appliquons la proposition \ref{pumping-lemma-for-algebraic-languages}
au langage $L$ considéré : appelons $k$ l'entier dont le lemme de
pompage garantit l'existence.  Considérons le mot $t := a^k b^k c^k$ :
il doit alors exister une factorisation $t = uvwxy$ pour laquelle on a
(i) $|vx|\geq 1$, (ii) $|vwx|\leq k$ et (iii) $uv^iwx^iy \in L$ pour
tout $i\geq 0$.  La propriété (ii) assure que le facteur $vwx$ ne peut
pas contenir simultanément les lettres $a$ et $c$ : en effet, tout
facteur de $t$ comportant un $a$ et un $c$ doit avoir aussi le facteur
$b^k$, et donc être de longueur $\geq k+2$.  Supposons que $vwx$ ne
contienne pas la lettre $c$ (l'autre cas étant complètement
analogue) : en particulier, ni $v$ ni $x$ ne la contient, donc le mot
$uv^iwx^iy$, qui est dans $L$ d'après (iii), a le même nombre de $c$
que le mot $t$ initial ; mais comme son nombre de $a$ ou bien de $b$
est différent (d'après (i)), on a une contradiction.
\end{proof}

\thingy La proposition \ref{intersection-of-algebraic-and-rational}
peut s'avérer utile pour montrer qu'un langage n'est pas algébrique.
Par exemple, le langage $L$ formé des mots sur $\{a,b,c\}$ ayant le
même nombre total de $a$, de $b$ et de $c$ (autrement dit $\{w \in
\{a,b,c\}^* : |w|_a = |w|_b = |w|_c\}$ où $|w|_x$ désigne le nombre
d'occurrences de la lettre $x$ dans le mot $w$) n'est pas algébrique :
le plus simple pour le voir est de l'intersecter avec le langage
rationnel $M := \{a^i b^j c^k : i,j,k\in\mathbb{N}\}$ (dénoté par
l'expression rationnelle $a{*}b{*}c{*}$) : si $L$ était algébrique
alors d'après \ref{intersection-of-algebraic-and-rational}, le langage
$L\cap M$ le serait aussi ; mais $L\cap M = \{a^i b^i c^i :
i\in\mathbb{N}\}$, et on vient de voir
en \ref{example-of-pumping-lemma-for-algebraic-languages} qu'il n'est
pas algébrique ; c'est donc que $L$ n'est pas non plus algébrique.


\subsection{Notions sur l'analyse des langages hors contexte}

\thingy Il est naturel de se poser la question suivante : existe-t-il
un algorithme qui, donnée une grammaire hors contexte $G$, permet de
déterminer si un mot donné appartient au langage $L(G)$ engendré
par $G$, et, si oui, d'en trouver un arbre d'analyse ?  La réponse à
cette question est positive, mais plus délicate que dans le cadre des
langages rationnels où la notion d'automate fini a permis de donner un
point de vue clair (cf. \ref{rational-languages-are-recognizable}).

\thingy Il existe bien un modèle de calcul qu'on peut imaginer comme
l'analogue pour les langages algébriques (et grammaires hors contexte)
de ce que les automates finis sont pour les langages rationnels (et
expressions régulières) : il s'agit des \emph{automates à pile}.
Informellement, un automate à pile non déterministe fonctionne comme
un automate fini non déterministe à transitions spontanées, mais il a,
en plus de son état courant, accès à une « pile », qui contient des
éléments d'un autre alphabet (l'alphabet de pile), et pour choisir la
transition à effectuer, il peut consulter, en plus du symbole proposé,
les symboles au sommet de la pile (jusqu'à une profondeur bornée), et
une fois cette transition effectuée, décider de rajouter, retirer ou
remplacer des symboles au sommet de la pile.

{\footnotesize

De façon plus formelle, un automate à pile non déterministe est la
donnée d'un ensemble fini $Q$ d'états, d'un ensemble $I \subseteq Q$
d'états dits initiaux, d'un ensemble $F \subseteq Q$ d'états dits
finaux, d'un ensemble fini $\Gamma$ appelé alphabet de pile, et d'une
relation de transition $\delta \subseteq (Q \times
(\Sigma\cup\{\varepsilon\}) \times \Gamma^*) \times (Q \times
\Gamma^*)$.  Dire que $((q,t,\lambda), (q',\lambda')) \in \delta$
signifie que l'automate peut transitionner de l'état $q$ avec
$\lambda$ au sommet de la pile vers l'état $q'$ avec $\lambda'$ (à la
place de $\lambda$) au sommet de la pile en consommant la lettre $t$
(ou spontanément si $t=\varepsilon$), et l'automate \emph{accepte} un
mot $w$ lorsqu'il existe une suite de transitions d'un état initial
avec pile vide vers un état final avec pile vide qui consomme les
lettres de $w$.

De façon plus précise, l'automate accepte $w$ lorsqu'il existe
$q_0,\ldots,q_n \in Q$ (les états traversés) et $t_1,\ldots,t_n \in
(\Sigma\cup\{\varepsilon\})$ (les symboles consommés) et
$\gamma_1,\ldots,\gamma_n \in \Gamma^*$ (les états intermédiaires de
la pile) et $\lambda_1,\ldots,\lambda_n \in \Gamma^*$ (les mots
dépilés) et $\lambda'_1,\ldots,\lambda'_n \in \Gamma^*$ (les mots
empilés) tels que : $q_0 \in I$ et $q_n\in F$ et et $\lambda_1\gamma_1
= \varepsilon$ et $\lambda'_n\gamma_n = \varepsilon$ et
$((q_{i-1},t_i,\lambda_i),(q_i,\lambda'_i)) \in \delta$ pour
chaque $1\leq i\leq n$ et $w = t_1\cdots t_n$ et enfin
$\lambda_i\gamma_i = \lambda'_{i-1}\gamma_{i-1}$ pour chaque $1\leq
i\leq n$.

(Il existe différentes variations autour de cette notion, certaines
sans importance : notamment, on peut relaxer l'exigence que l'automate
termine le calcul avec la pile vide, cela ne change rien à la classe
des langages acceptés.)

\par}

On peut montrer qu'il y a équivalence entre grammaires hors contexte
et automates à pile non déterministes au sens où tout langage engendré
par une grammaire hors contexte est le langage accepté par un automate
à pile non déterministe et réciproquement.  Il n'est d'ailleurs pas
très difficile de construire algorithmiquement un automate à pile non
déterministe qui accepte le langage engendré par une grammaire hors
contexte donnée.  Mais une différence essentielle avec les automates
finis est que cette fois \emph{le non déterministe est essentiel} :
les automates à pile déterministes (qu'il faut définir soigneusement)
acceptent strictement moins de langages que les automates à pile
non déterministes.

\thingy Une approche possible pour résoudre algorithmiquement,
\emph{en théorie}, le problème de décider si un mot $w$ appartient au
langage $L(G)$ engendré par une grammaire $G$ est la suivante :
\begin{itemize}
\item réécrire la grammaire (i.e., la remplacer par une grammaire
  équivalente) de manière à ce que le membre de droite de chaque
  production soit de longueur $\geq 2$, quitte à traiter spécialement
  les éventuels mots de longueur $0$ et $1$ de $L(G)$,
\item on a ensuite affaire à une grammaire \emph{monotone},
  c'est-à-dire que l'application d'une règle ne peut qu'augmenter la
  longueur du pseudo-mot en cours de dérivation, ce qui permet
  d'explorer exhaustivement toutes les possibilités et de s'arrêter
  dès qu'on dépasse la longueur $|w|$ à atteindre.
\end{itemize}

Pour ce qui est de la première partie : l'idée est d'éliminer d'abord
les règles $T \rightarrow U$ (où $U$ est un nonterminal) : ces règles
peuvent s'éliminer quitte à ajouter une règle $T \rightarrow \alpha$
pour toute règle $U \rightarrow \alpha$ : on procède comme pour
l'élimination des ε-transitions dans les εNFA (autrement dit, si on a
une règle $V \rightarrow \alpha$ avec $V$ un nonterminal qui peut être
dérivé par une suite de règles $T \rightarrow \cdots \rightarrow V$ en
partant de $V$, on crée une règle $T \rightarrow \alpha$).  Ensuite,
si on dispose de règles $T \rightarrow \varepsilon$ ou $T \rightarrow
x$ (où $x$ est une lettre), on peut supprimer ces règles quitte à
ajouter à chaque règle ayant un $T$ dans le membre de droite la même
règle où $T$ a été remplacé par $\varepsilon$ ou $U$ ou $x$ selon le
cas ; il faudra simplement faire un cas spécial, si $T$ est l'axiome
de la grammaire, pour retenir que le mot $\varepsilon$ ou $x$ peut
être produit.  À titre d'exemple, dans la grammaire $S \rightarrow
aSbS \,|\, \varepsilon$, on peut écarter la règle $S \rightarrow
\varepsilon$ quitte à ajouter des règles $S \rightarrow aSb$ et $S
\rightarrow abS$ et $S \rightarrow ab$.

\thingy Du point de vue pratique, il existe deux approches principales
pour analyser les langages définis par des grammaires hors contexte
(supposées \emph{au minimum} inambiguës) :
\begin{itemize}
\item Les analyseurs LL procèdent de façon \emph{descendante} (en
  anglais « top-down »), parcourent le mot depuis la gauche (« L ») et
  génèrent la dérivation gauche (« L ») de l'arbre d'analyse fabriqué,
  en partant de la racine et en descendant jusqu'aux
  feuilles\footnote{En botanique, un arbre a la racine en bas et les
    feuilles en haut ; en informatique, on les représente plutôt
    racine en haut et feuille en bas.}.
\item Les analyseurs LR procèdent de façon \emph{ascendante} (en
  anglais « bottom-up »), parcourent le mot depuis la gauche (« L »)
  et génèrent la dérivation droite (« R ») de l'arbre d'analyse
  fabriqué, en partant des feuilles et en remontant jusqu'aux racines.
\end{itemize}

L'idée générale à retenir est que les analyseurs LR sont strictement
plus puissants que les analyseurs LL (ils sont capables d'analyser
strictement plus de grammaires, cf. \ref{example-lr-non-ll-grammar}),
mais leur écriture est plus difficile et les messages d'erreur qu'ils
retournent sont plus difficiles à comprendre.

\thingy Pour illustrer ces différences, considérons une grammaire très
simple à analyser comme
\[
\begin{aligned}
S &\rightarrow TS \;|\; c\\
T &\rightarrow aSb\\
\end{aligned}
\]

L'approche la plus évidente, si on doit écrire une fonction « analyser
un mot comme dérivant de $S$ dans cette grammaire » consiste à faire
deux fonctions mutuellement récursives, « chercher un préfixe qui
dérive de $S$ » et « chercher un préfixe qui dérive de $T$ ».  En
observant que tout mot qui dérive de $T$ doit commencer par la
lettre $a$, ce qui permet de distinguer les mots dérivant des règles
$S\rightarrow TS$ et $S\rightarrow c$, on va écrire :
\begin{itemize}
\item Fonction « rechercher un préfixe qui dérive de $S$ » (prenant en
  entrée un mot $w\in\{a,b\}^*$ et renvoyant un préfixe de $w$ et un
  arbre de dérivation de $w$ à partir de $S$ :
\begin{itemize}
\item si la première lettre de $w$ est $c$, renvoyer le préfixe $c$ et
  l'arbre trivial $S\to c$, sinon :
\item appeler la fonction « rechercher un préfixe qui dérive
  de $T$ » sur $w$, qui retourne un préfixe $u$ de $w$ et un
  arbre $\mathscr{U}$,
\item appeler la fonction « rechercher un préfixe qui dérive de $S$ »
  sur le suffixe correspondant $t$ de $w$ (c'est-à-dire le $t$ tel que
  $w=ut$), qui retourne un préfixe $v$ de $t$ et un arbre
  $\mathscr{V}$,
\item renvoyer le préfixe $uv$ de $w$ ainsi que l'arbre d'analyse dont
  la racine est donnée par la règle $S\rightarrow TS$ et les
  sous-arbres $\mathscr{U}$ et $\mathscr{V}$ (i.e., une racine
  étiquetée $S$ et deux fils étiquetés $T$ et $S$ qui sont chacun
  racines de sous-arbres donnés par $\mathscr{U}$ et $\mathscr{V}$
  respectivement).
\end{itemize}
\item Fonction « rechercher un préfixe qui dérive de $T$ » (prenant en
  entrée un mot $u\in\{a,b\}^*$ et renvoyant un préfixe de $u$ et un
  arbre de dérivation de $u$ à partir de $T$ :
\begin{itemize}
\item vérifier que la première lettre est un $a$ (sinon, soulever une
  exception indiquant une erreur d'analyse),
\item appeler la fonction « rechercher un préfixe qui dérive de $S$ »
  sur le suffixe correspondant $x$ de $u$ (c'est-à-dire le $x$ tel que
  $u=ax$), qui retourne un préfixe $w$ de $x$ et un
  arbre $\mathscr{W}$,
\item vérifier que la lettre qui suit $w$ dans $x$ est bien $b$,
  c'est-à-dire que $u$ commence par $awb$ (sinon, soulever une
  exception indiquant une erreur d'analyse),
\item renvoyer le préfixe $awb$ de $u$ ainsi que l'arbre d'analyse
  dont la racine est donnée par la règle $T\rightarrow aSb$ et les
  sous-arbres $a$, $\mathscr{W}$ et $b$ (i.e., une racine étiquetée
  $T$ et trois fils étiquetés $a$, $S$ et $b$, celui du milieu étant
  racine d'un sous-arbre donné par $\mathscr{W}$).
\end{itemize}
\end{itemize}

Cette approche réussit sur cette grammaire très simple (où on peut
notamment se convaincre que l'éventuel préfixe dérivant de $S$ ou de
$T$ est toujours défini de façon unique).  L'analyseur qu'on vient de
décrire s'appelle un « analyseur par descente récursive » ; mais
plutôt qu'utiliser la récursivité du langage de programmation
(c'est-à-dire la pile système), on peut aussi utiliser une pile comme
structure de données, et on obtient ainsi essentiellement un automate
à pile, qui utilise sa pile pour retenir les règles qu'il a commencé à
analyser (à partir de la racine de l'arbre d'analyse en cours de
construction).  On a essentiellement construit un analyseur LL, ou
plus exactement LL($1$) (le « $1$ » indiquant qu'on se contente de
lire une unique lettre du mot pour décider quelle règle chercher à
analyser), pour ce langage.  C'est ici l'approche « descendante » :
l'arbre se construit à partir de la racine et la pile sert à retenir
les règles qu'on a commencé à reconnaître.

\smallbreak

L'approche « ascendante » de la même grammaire serait plutôt la
suivante : on parcourt le mot de gauche à droite en gardant de côté
une pile (initialement vide) qui pourra contenir les symboles $a,S,T$,
les deux derniers étant alors associés à des arbres d'analyse ;
\begin{itemize}
\item si on lit un $a$, on se contente de l'empiler,
\item si on lit un $c$, on crée un arbre d'analyse $S\rightarrow c$ et
  on empile le $S$, puis, tant que la pile contient $T$ et $S$ en son
  sommet, on dépile ces deux symboles, on rassemble les deux arbres
  d'analyse associés en les mettant sous un $S\rightarrow TS$ et on
  empile le $S$ correspondant,
\item si on lit un $b$, on vérifie que les deux symboles au sommet de
  la pile sont $a$ et $S$ (sinon on soulève une erreur d'analyse), on
  les dépile et on rassemble l'arbre d'analyse associé au $S$ en le
  mettant sous un $T\rightarrow aSb$, et enfin on empile un $T$
  associé à cet arbre,
\item enfin, si on arrive à la fin du mot, la pile ne doit contenir
  qu'un unique symbole $S$ (sinon on soulève une erreur d'analyse), et
  l'arbre d'analyse final est celui qui lui est associé.
\end{itemize}

Il est un peu difficile d'expliquer en général comment construire un
tel analyseur, mais sur cet exemple précis il est facile de se
convaincre qu'il fonctionne et de comprendre pourquoi : il s'agit
essentiellement là d'un analyseur LR (en fait, LR($0$), le « $0$ »
indiquant qu'on n'a jamais eu besoin de regarder au-delà du symbole
courant pour décider quoi faire), C'est ici l'approche
« ascendante » : l'arbre se construit à partir des feuilles et la pile
sert à retenir les nonterminaux au sommet des morceaux d'arbre déjà
construits (et éventuellement les arbres eux-mêmes).


%
%
%

\section{Introduction à la calculabilité}

\setcounter{comcnt}{0}

\thingy\textbf{Discussion préalable.} On s'intéresse ici à la question
de savoir ce qu'un \textbf{algorithme} peut ou ne peut pas faire.
Pour procéder de façon rigoureuse, il faudrait formaliser la notion
d'algorithme (par exemple à travers le concept de machine de Turing) :
on a préféré rester informel sur cette définition — par exemple « un
algorithme est une série d'instruction précises indiquant des calculs
à effectuer étape par étape et qui ne manipulent, à tout moment, que
des données finies » ou « un algorithme est quelque chose qu'on
pourrait, en principe, implémenter sur un ordinateur » — étant entendu
que cette notion est déjà bien connue et comprise, au moins dans la
pratique.  Les démonstrations du fait que tel ou tel problème est
décidable par un algorithme ou que telle ou telle fonction est
calculable par un algorithme deviennent beaucoup moins lisibles quand
on les formalise avec une définition rigoureuse d'algorithme
(notamment, programmer une machine de Turing est encore plus
fastidieux que programmer en assembleur un ordinateur, donc s'il
s'agit d'exhiber un algorithme, c'est probablement une mauvaise idée
de l'écrire sous forme de machine de Turing).

Néanmoins, il est essentiel de savoir que ces formalisations
existent : on peut par exemple évoquer le paradigme du
$\lambda$-calcul de Church (la première formalisation rigoureuse de la
calculabilité), les fonctions générales récursives (=$\mu$-récursives)
à la Herbrand-Gödel-Kleene, les machines de Turing (des machines à
états finis capables de lire, d'écrire et de se déplacer sur un ruban
infini contenant des symboles d'un alphabet fini dont à chaque instant
tous sauf un nombre fini sont des blancs), les machines à registres,
le langage « FlooP » de Hofstadter, etc.  Toutes ces formalisations
sont équivalentes (au sens où, par exemple, elles conduisent à la même
notion de fonction calculable ou calculable partielle, définie
ci-dessous).  La \textbf{thèse de Church-Turing} affirme, au moins
informellement, que tout ce qui est effectivement calculable par un
algorithme\footnote{Voire, dans certaines variantes, physiquement
  calculable dans notre Univers.} est calculable par n'importe
laquelle de ces notions formelles d'algorithmes, qu'on peut rassembler
sous le nom commun de \textbf{calculabilité au sens de Church-Turing},
ou « calculabilité » tout court.

Notamment, quasiment tous les langages de programmation
informatique\footnote{C, C++, Java, Python, JavaScript, Lisp, OCaml,
  Haskell, Prolog, etc.  Certains langages se sont même révélés
  Turing-complets alors que ce n'était peut-être pas voulu : par
  exemple, HTML+CSS.}, au moins si on ignore les limites des
implémentations et qu'on les suppose capables de manipuler des
entiers, chaînes de caractère, tableaux, etc., de taille arbitraire
(mais toujours finie)\footnote{Autre condition : ne pas utiliser de
  générateur aléatoire matériel.}, sont « Turing-complets »,
c'est-à-dire équivalents dans leur pouvoir de calcul à la
calculabilité de Church-Turing.  Pour imaginer intuitivement la
calculabilité, on peut donc choisir le langage qu'on préfère et
imaginer qu'on programme dedans.  Essentiellement, pour qu'un langage
soit Turing-complet, il lui suffit d'être capable de manipuler des
entiers de taille arbitraire, de les comparer et de calculer les
opérations arithmétiques dessus, et d'effectuer des tests et des
boucles.

\medbreak

\thingy Il faut souligner qu'on s'intéresse uniquement à la question
de savoir ce qu'un algorithme peut ou ne peut pas faire
(calculabilité), pas au temps ou aux autres ressources qu'il peut
prendre pour le faire (complexité), et on ne cherche donc pas à rendre
les algorithmes efficaces en quelque sens que ce soit.  Par exemple,
pour arguër qu'il existe un algorithme qui décide si un entier naturel
$n$ est premier ou non, il suffit de dire qu'on peut calculer tous les
produits $pq$ avec $2\leq p,q\leq n-1$ et tester si l'un d'eux est
égal à $n$, peu importe que cet algorithme soit absurdement
inefficace.  De même, nos algorithmes sont capables de manipuler des
entiers arbitrairement grands : ceci permet de dire, par exemple, que
toute chaîne binaire peut être considérée comme un entier, peu importe
le fait que cet entier ait peut-être des milliards de chiffres (dans
les langages informatiques réels, on a rarement envie de considérer
toute donnée comme un entier, mais en calculabilité on peut se
permettre de le faire).

Notamment, plutôt que de considérer des « mots » (éléments
de $\Sigma^*$ avec $\Sigma$ un alphabet fini) et « langages » (parties
de $\Sigma^*$), il sera plus pratique de remplacer l'ensemble
$\Sigma^*$ des mots par l'ensemble des entiers naturels, quitte à
choisir un codage (calculable !) des mots par des entiers.  (À titre
d'exemple, on obtient une bijection de l'ensemble $\{0,1\}^*$ des mots
sur l'alphabet à deux lettres avec $\mathbb{N}$ de la façon suivante :
ajouter un $1$ au début du mot, lire celui-ci comme un nombre binaire,
et soustraire $1$.  Plus généralement, une fois choisi un ordre total
sur l'alphabet fini $\Sigma$, on peut trier les mots par ordre de
taille, et, à taille donnée, par ordre lexicographique, et leur
associer les entiers naturels dans le même ordre : il n'est pas
difficile de montrer que cela donne bien une bijection calculable
entre $\Sigma^*$ et $\mathbb{N}$.)

\medbreak

\thingy\textbf{Terminaison des algorithmes.} Un algorithme qui
effectue un calcul utile doit certainement terminer en temps fini.
Néanmoins, même si on voudrait ne s'intéresser qu'à ceux-ci, il n'est
pas possible d'ignorer le « problème » des algorithmes qui ne
terminent jamais (et ne fournissent donc aucun résultat).  C'est le
point central de la calculabilité (et du théorème de Turing
ci-dessous) qu'on ne peut pas se débarrasser des algorithmes qui ne
terminent pas : on ne peut pas, par exemple, formaliser une notion
suffisante\footnote{Tout dépend, évidemment, de ce qu'on appelle
  « suffisant » : il existe bien des notions de calculabilité, plus
  faibles que celle de Church-Turing, où tout calcul termine, voir par
  exemple la notion de fonction « primitive récursive » ou le langage
  « BlooP » de Hofstadter ; mais de telles notions ne peuvent pas
  disposer d'une machine universelle comme expliqué plus loin (en
  raison d'un argument diagonal), donc elles sont nécessairement
  incomplètes en un certain sens.} de calculabilité dans laquelle tout
algorithme termine toujours ; ni développer un langage de
programmation suffisamment général dans lequel il est impossible qu'un
programme « plante » indéfiniment ou parte en boucle infinie.  (Cette
subtilité est d'ailleurs sans doute en partie responsable de la
difficulté historique à dégager la bonne notion d'« algorithme » : on
a commencé par développer des notions d'algorithmes terminant
forcément, comme les fonctions primitives récursives, et on se rendait
bien compte que ces notions étaient forcément toujours incomplètes.)

\bigbreak

\begin{defn}
On dit qu'une fonction $f\colon\mathbb{N}\to\mathbb{N}$ est
\textbf{calculable} (ou « récursive ») lorsqu'il existe un algorithme
qui prend en entrée $n\in\mathbb{N}$, termine toujours en temps fini,
et calcule (renvoie) $f(n)$.

On dit qu'un ensemble $A \subseteq \mathbb{N}$ (« langage ») est
\textbf{décidable} (ou « calculable » ou « récursif ») lorsque sa
fonction indicatrice $\mathbf{1}_A \colon \mathbb{N} \to \mathbb{N}$
(valant $1$ sur $A$ et $0$ sur son complémentaire) est calculable.
Autrement dit : lorsqu'il existe un algorithme qui prend en entrée
$n\in\mathbb{N}$, termine toujours en temps fini, et renvoie
« oui » ($1$) si $n\in A$, « non » ($0$) si $n\not\in A$ (on dira que
l'algorithme « décide » $A$).

On dit qu'une fonction partielle
$f\colon\mathbb{N}\dasharrow\mathbb{N}$ (c'est-à-dire une fonction
définie sur une partie de $\mathbb{N}$, appelé ensemble de définition
de $f$) est \textbf{calculable partielle} (ou « récursive partielle »)
lorsqu'il existe un algorithme qui prend en entrée $n\in\mathbb{N}$,
termine en temps fini ssi $f(n)$ est définie, et dans ce cas calcule
(renvoie) $f(n)$.  (Une fonction calculable est donc simplement une
fonction calculable partielle qui est toujours définie : on dira
parfois « calculable totale » pour souligner ce fait.)

On dit qu'un ensemble $A \subseteq \mathbb{N}$ est
\textbf{semi-décidable} (ou « semi-calculable » ou « semi-récursif »)
lorsque la fonction partielle $\mathbb{N}\dasharrow\mathbb{N}$ définie
exactement sur $A$ et y valant $1$, est calculable partielle.
Autrement dit : lorsqu'il existe un algorithme qui prend en entrée
$n\in\mathbb{N}$, termine en temps fini ssi $n \in A$, et renvoie
« oui » ($1$) dans ce cas\footnote{En fait, la valeur renvoyée n'a pas
  d'importance ; on peut aussi définir un ensemble semi-décidable
  comme l'ensemble de définition d'une fonction calculable partielle.}
(on dira que l'algorithme « semi-décide » $A$).
\end{defn}

On s'est limité ici à des fonctions d'une seule variable (entière),
mais il n'y a pas de difficulté à étendre ces notions à plusieurs
variables, et de parler de fonction calculable $\mathbb{N}^k \to
\mathbb{N}$ (voire $\mathbb{N}^* \to \mathbb{N}$ avec $\mathbb{N}^*$
l'ensemble des suites finies d'entiers naturels) ou de fonction
calculable partielle de même type : de toute manière, on peut « coder »
un couple d'entiers naturels comme un seul entier naturel (par exemple
par $(m,n) \mapsto 2^m(2n+1)$, qui définit une bijection calculable
$\mathbb{N}^2 \to \mathbb{N}$), ou bien sûr un nombre fini quelconque
(même variable), ce qui permet de faire « comme si » on avait toujours
affaire à un seul paramètre entier.

{\footnotesize\thingy\textbf{Complément :} Comme on n'a pas défini
  formellement la notion d'algorithme, il peut être utile de signaler
  explicitement les faits suivants (qui devraient être évidents sur
  toute notion raisonnable d'algorithme) : les fonctions constantes
  sont calculables ; les opérations arithmétiques usuelles sont
  calculables ; les projections $(n_1,\ldots,n_k) \mapsto n_i$ sont
  calculables, ainsi que la fonction qui à $(m,n,p,q)$ associe $p$ si
  $m=n$ et $q$ sinon ; toute composée de fonctions calculables
  (partielle ou totale) est calculable idem ; si $\underline{m}
  \mapsto g(\underline{m})$ est calculable (partielle ou totale) et
  que $(\underline{m}, n, v) \mapsto h(\underline{m}, n, v)$ l'est,
  alors la fonction $f$ définie par récurrence par $f(\underline{m},0)
  = g(\underline{m})$ et $f(\underline{m},n+1) = h(\underline{m}, n,
  f(\underline{m},n))$ est encore calculable idem (algorithmiquement,
  il s'agit juste de boucler $n$ fois) ; et enfin, si $(\underline{m},
  n) \mapsto g(\underline{m},n)$ est calculable partielle, alors la
  fonction $f$ (aussi notée $\mu_n g$) définie par $f(\underline{m}) =
  \min\{n : g(\underline{m},n) = 0 \land \forall n'<n
  (g(\underline{m},n')\downarrow)\}$ (et non définie si ce $\min$
  n'existe pas) est calculable partielle (algorithmiquement, on teste
  $g(\underline{m},0),g(\underline{m},1),g(\underline{m},2)\ldots$
  jusqu'à tomber sur $0$).  Ces propriétés peuvent d'ailleurs servir à
  \emph{définir} rigoureusement la notion de fonction calculable,
  c'est le modèle des fonctions « générales récursives ».  (Dans ce
  qui précède, la notation $\underline{m}$ signifie
  $m_1,\ldots,m_k$.)\par}

\thingy\textbf{Exemples :} L'ensemble des nombres pairs, des carrés
parfaits, des nombres premiers, sont décidables, c'est-à-dire qu'il
est algorithmique de savoir si un nombre est pair, parfait, ou
premier.  Quitte éventuellement à coder les mots d'un alphabet fini
comme des entiers naturels (cf. plus haut), tout langage rationnel, et
même tout langage défini par une grammaire hors-contexte, est
décidable.  On verra plus bas des exemples d'ensembles qui ne le sont
pas, et qui sont ou ne sont pas semi-décidables.

\medbreak

Les deux propositions suivantes, outre leur intérêt intrinsèque,
servent à donner des exemples du genre de manipulation qu'on peut
faire avec la notion de calculabilité et d'algorithme :

\begin{prop}
Un ensemble $A \subseteq \mathbb{N}$ est décidable ssi $A$ et
$\mathbb{N}\setminus A$ sont tous les deux semi-décidables.
\end{prop}
\begin{proof}
Il est évident qu'un ensemble décidable est semi-décidable (si un
algorithme décide $A$, on peut l'exécuter puis effectuer une boucle
infinie si la réponse est « non » pour obtenir un algorithme qui
semi-décide $A$) ; il est également évident que le complémentaire d'un
ensemble décidable est décidable (quitte à échanger les réponses
« oui » et « non » dans un algorithme qui le décide).  Ceci montre
qu'un ensemble décidable est semi-décidable de complémentaire
semi-décidable, i.e., la partie « seulement si ».  Montrons maintenant
le « si » : si on dispose d'algorithmes $T_1$ et $T_2$ qui
semi-décident respectivement $A$ et son complémentaire, on peut lancer
leur exécution en parallèle sur $n \in \mathbb{N}$ (c'est-à-dire
exécuter une étape de $T_1$ puis une étape de $T_2$, puis de $T_1$, et
ainsi de suite jusqu'à ce que l'un des deux termine) : comme il y en a
toujours (exactement) un qui termine, selon lequel c'est, ceci permet
de décider algorithmiquement si $n \in A$ ou $n \not\in A$.
\end{proof}

\begin{prop}
Un ensemble $A \subseteq \mathbb{N}$ non vide est semi-décidable ssi
il existe une fonction calculable $f \colon \mathbb{N} \to \mathbb{N}$
dont l'image ($f(\mathbb{N})$) vaut $A$ (on dit aussi que $A$ est
« calculablement énumérable » ou « récursivement énumérable »).
\end{prop}
\begin{proof}
Montrons qu'un ensemble semi-décidable non vide est calculablement
énumérable.  Fixons $n_0 \in A$ une fois pour toutes.  Soit $T$ un
algorithme qui semi-décide $A$.  On définit une fonction $f \colon
\mathbb{N}^2 \to \mathbb{N}$ de la façon suivante : $f(m,n) = n$
lorsque l'algorithme $T$, exécuté sur l'entrée $n$, termine au
plus $m$ étapes ; sinon, $f(m,n) = n_0$.  On a bien sûr $f(m,n) \in A$
dans tous les cas ; par ailleurs, si $n \in A$, comme l'algorithme $T$
appliqué à $n$ doit terminer, on voit que pour $m$ assez grand on a
$f(m,n) = n$, donc $n$ est bien dans l'image de $f$.  Ceci montre que
$f(\mathbb{N}^2) = A$.  Passer à $f\colon \mathbb{N} \to\mathbb{N}$
est alors facile en composant par une bijection calculable $\mathbb{N}
\to \mathbb{N}^2$ (par exemple la réciproque de $(m,n) \mapsto
2^m(2n+1)$).

Réciproquement, si $A$ est calculablement énumérable, disons $A =
f(\mathbb{N})$ avec $f$ calculable, on obtient un algorithme qui
semi-décide $A$ en calculant successivement $f(0)$, $f(1)$, $f(2)$,
etc., jusqu'à trouver un $k$ tel que $f(k)=n$ (où $n$ est l'entrée
proposée), auquel cas l'algorithme renvoie « oui » (et sinon, il ne
termine jamais puisqu'il effectue une boucle infinie à la recherche
d'un tel $k$).
\end{proof}

{\footnotesize\thingy\textbf{Clarification :} Les deux démonstrations
  ci-dessus font appel à la notion intuitive d'« étape » de
  l'exécution d'un algorithme.  Un peu plus précisément, pour chaque
  entier $m$ et chaque algorithme $T$, il est possible d'« exécuter au
  plus $m$ étapes » de l'algorithme $T$, c'est-à-dire commencer
  l'exécution de celui-ci, et si elle n'est pas finie au bout de $m$
  étapes, s'arrêter (on n'aura pas le résultat de l'exécution de $T$,
  juste l'information « ce n'est pas encore fini » et d'éventuels
  résultats intermédiaires, mais on peut décider de faire autre chose,
  y compris reprendre l'exécution plus tard).  La longueur d'une
  « étape » n'est pas spécifiée et n'a pas d'importance, les choses
  qui importent sont que (A) le fait d'exécuter les $m$ premières
  étapes de $T$ termine toujours (c'est bien l'intérêt), et (B) si
  l'algorithme $T$ termine effectivement, alors pour $m$ suffisamment
  grand, exécuter au plus $m$ étapes donne bien le résultat final
  de $T$ résultat.\par}

{\footnotesize\thingy\textbf{Complément/exercice :} Un ensemble $A
  \subseteq \mathbb{N}$ infini est décidable ssi il existe une
  fonction calculable $f \colon \mathbb{N} \to \mathbb{N}$
  \underline{strictement croissante} dont l'image vaut $A$.
  (Esquisse : si $A$ est décidable, on peut trouver son $n$-ième
  élément par ordre croissant en testant l'appartenance à $A$ de tous
  les entiers naturels dans l'ordre jusqu'à trouver le $n$-ième qui
  appartienne ; réciproquement, si on a une telle fonction, on peut
  tester l'appartenance à $A$ en calculant les valeurs de la fonction
  jusqu'à tomber sur l'entier à tester ou le dépasser.)  En mettant
  ensemble ce fait et la proposition, on peut en déduire le fait
  suivant : tout ensemble semi-décidable infini a un sous-ensemble
  décidable infini (indication : prendre une fonction qui énumère
  l'ensemble et jeter toute valeur qui n'est pas strictement plus
  grande que toutes les précédentes).\par}

\bigbreak

\thingy\textbf{Codage et machine universelle.}  Les algorithmes sont
eux-mêmes représentables par des mots sur un alphabet fini donc, si on
préfère, par des entiers naturels : on parle aussi de \textbf{codage
  de Gödel} des algorithmes/programmes par des entiers.  On obtient
donc une énumération $\varphi_0, \varphi_1, \varphi_2,
\varphi_3\ldots$ de toutes les fonctions calculables partielles (la
fonction $\varphi_e$ étant la fonction que calcule l'algorithme [codé
  par l'entier] $e$, avec la convention que si cet algorithme est
syntaxiquement invalide ou erroné pour une raison quelconque, la
fonction $\varphi_e$ est simplement non-définie partout).  Les détails
de cette énumération dépendent de la formalisation utilisée pour la
calculabilité.

Un point crucial dans cette numérotation des algorithmes est
l'existence d'une \textbf{machine universelle}, c'est-à-dire d'un
algorithme $U$ qui prend en entrée un entier $e$ (codant un
algorithme $T$) et un entier $n$, et effectue la même chose que $T$
sur l'entrée $n$ (i.e., $U$ termine sur les entrées $e$ et $n$ ssi $T$
termine sur l'entrée $n$, et, dans ce cas, renvoie la même valeur).

Informatiquement, ceci représente le fait que les programmes
informatiques sont eux-mêmes représentables informatiquement : dans un
langage de programmation Turing-complet, on peut écrire un
\emph{interpréteur} pour le langage lui-même (ou pour un autre langage
Turing-complet), c'est-à-dire un programme qui prend en entrée la
représentation $e$ d'un autre programme et qui exécute ce programme
(sur une entrée $n$).

Mathématiquement, on peut le formuler comme le fait que la fonction
(partielle) $(e,n) \mapsto \varphi_e(n)$ (= résultat du $e$-ième
algorithme appliqué sur l'entrée $n$) est elle-même calculable
partielle.

Philosophiquement, cela signifie que la notion d'exécution d'un
algorithme est elle-même algorithmique : on peut écrire un algorithme
qui, donnée une description (formelle !) d'un algorithme et une entrée
à laquelle l'appliquer, effectue l'exécution de l'algorithme fourni
sur l'entrée fournie.

On ne peut pas démontrer ce résultat ici faute d'une description
rigoureuse d'un modèle de calcul précis, mais il n'a rien de
conceptuellement difficile (même s'il peut être fastidieux à écrire
dans les détails : écrire un interpréteur d'un langage de
programmation demande un minimum d'efforts).

{\footnotesize\thingy\textbf{Compléments :} Les deux résultats
  classiques suivants sont pertinents en lien avec la numérotation des
  fonctions calculables partielles.  $\bullet$ Le \emph{théorème de la
    forme normale de Kleene} assure qu'il existe un ensemble
  \underline{décidable} $\mathscr{T} \subseteq \mathbb{N}^4$ tel que
  $\varphi_e(n)$ soit défini ssi il existe $m,v$ tels que $(e,n,m,v)
  \in \mathscr{T}$, et dans ce cas $\varphi_e(n) = v$ (pour s'en
  convaincre, il suffit de définir $\mathscr{T}$ comme l'ensemble des
  $(e,n,m,v)$ tels que le $e$-ième algorithme exécuté sur l'entrée $n$
  termine en au plus $m$ étapes et renvoie le résultat $v$ : le fait
  qu'on dispose d'une machine universelle et qu'on puisse exécuter $m$
  étapes d'un algorithme assure que cet ensemble est bien décidable —
  il est même « primitif récursif »). $\bullet$ Le \emph{théorème
    s-m-n} assure qu'il existe une fonction calculable $s$ telle que
  $\varphi_{s(e,\underline{m})}(\underline{n}) =
  \varphi_e(\underline{m},\underline{n})$ (intuitivement, donné un
  algorithme qui prend plusieurs entrées et des valeurs
  $\underline{m}$ de certaines de ces entrées, on peut fabriquer un
  nouvel algorithme dans lequel ces valeurs ont été fixées — c'est à
  peu près trivial — mais de plus, cette transformation est
  \emph{elle-même algorithmique}, i.e., on peut algorithmiquement
  substituer des valeurs $\underline{m}$ dans un programme [codé par
    l'entier] $e$ : c'est intuitivement clair, mais cela ne peut pas
  se démontrer avec les seules explications données ci-dessus sur
  l'énumération des fonctions calculables partielles, il faut regarder
  précisément comment le codage standard est fait pour une
  formalisation de la calculabilité).\par}

La machine universelle n'a rien de « magique » : elle se contente de
suivre les instructions de l'algorithme $T$ qu'on lui fournit, et
termine ssi $T$ termine.  Peut-on savoir à l'avance si $T$ terminera ?
C'est le fameux « problème de l'arrêt ».

\smallbreak

Intuitivement, le « problème de l'arrêt » est la question
« l'algorithme suivant termine-t-il sur l'entrée suivante » ?

\begin{defn}
On appelle \textbf{problème de l'arrêt} l'ensemble des couples $(e,n)$
tels que le $e$-ième algorithme termine sur l'entrée $n$, i.e.,
$\{(e,n) \in \mathbb{N}^2 : \varphi_e(n)\downarrow\}$ (où la notation
« $\varphi_e(n)\downarrow$ » signifie que $\varphi_e(n)$ est défini,
i.e., l'algorithme termine).  Quitte à coder les couples d'entiers
naturels par des entiers naturels (par exemple par $(e,n) \mapsto
2^e(2n+1)$), on peut voir le problème de l'arrêt comme une partie
de $\mathbb{N}$.  On peut aussi préférer\footnote{Même si au final
  c'est équivalent, c'est \textit{a priori} plus fort de dire que $\{e
  \in \mathbb{N} : \varphi_e(e)\downarrow\}$ n'est pas décidable que
  de dire que $\{(e,n) \in \mathbb{N}^2 : \varphi_e(n)\downarrow\}$ ne
  l'est pas.} définir le problème de l'arrêt comme $\{e \in \mathbb{N}
: \varphi_e(e)\downarrow\}$, on va voir dans la démonstration
ci-dessous que c'est cet ensemble-là qui la fait fonctionner.
\end{defn}

{\footnotesize (On pourrait aussi définir le problème de l'arrêt comme
  $\{e \in \mathbb{N} : \varphi_e(0)\downarrow\}$ si on voulait, ce
  serait moins pratique pour la démonstration, mais cela ne changerait
  rien au résultat comme on peut le voir en appliquant le théorème
  s-m-n.)\par}

\begin{thm}[Turing]
Le problème de l'arrêt est semi-décidable mais non décidable.
\end{thm}
\begin{proof}
Le problème de l'arrêt est semi-décidable en vertu de l'existence
d'une machine universelle : donnés $e$ et $n$, on exécute le $e$-ième
algorithme sur l'entrée $n$ (c'est ce que fait la machine
universelle), et s'il termine on renvoie « oui » (et s'il ne termine
pas, bien sûr, on n'a pas de choix que de ne pas terminer).

Montrons par l'absurde que le problème de l'arrêt n'est pas décidable.
S'il l'était, on pourrait définir un algorithme qui, donné un entier
$e$, effectue les calculs suivants : (1º) utiliser le problème de
l'arrêt (supposé décidable !) pour savoir, algorithmiquement en temps
fini, si le $e$-ième algorithme termine quand on lui passe son propre
numéro $e$ en entrée, i.e., si $\varphi_e(e)\downarrow$, (2º) si oui,
effectuer une boucle infinie, et si non, terminer, en renvoyant,
disons, $42$.  L'algorithme qui vient d'être décrit aurait un certain
numéro, disons, $p$, et la description de l'algorithme fait que,
quelque soit $e$, la valeur $\varphi_p(e)$ est indéfinie si
$\varphi_e(e)$ est définie tandis que $\varphi_p(e)$ est définie (de
valeur $42$) si $\varphi_e(e)$ est indéfinie.  En particulier, en
prenant $e=p$, on voit que $\varphi_p(p)$ devrait être défini si et
seulement si $\varphi_p(p)$ n'est pas défini, ce qui est une
contradiction.
\end{proof}

La démonstration ci-dessus est une instance de l'« argument diagonal »
de Cantor, qui apparaît souvent en mathématiques.  (La « diagonale »
en question étant le fait qu'on considère $\varphi_e(e)$, i.e., on
passe le numéro $e$ d'un algorithme en argument à cet algorithme
lui-même, donc on regarde la diagonale de la fonction de deux
variables $(e,n) \mapsto \varphi_e(n)$ ; en modifiant les valeurs sur
cette diagonale, on produit une fonction qui ne peut pas se trouver
dans une ligne $\varphi_p$.)  Une variante facile du même argument
permet de fabriquer des ensembles non semi-décidables (voir le
« bonus » ci-dessous), ou bien on peut appliquer ce qui précède :

\begin{cor}
Le complémentaire du problème de l'arrêt n'est pas semi-décidable.
\end{cor}
\begin{proof}
On a vu que le problème de l'arrêt n'est pas décidable, et qu'un
ensemble est décidable ssi il est semi-décidable et que son
complémentaire l'est aussi : comme le problème de l'arrêt est bien
semi-décidable, son complémentaire ne l'est pas.
\end{proof}

{\footnotesize\thingy\textbf{Complément :} L'argument diagonal est
  aussi au cœur du (voire, équivalent au) \emph{théorème de récursion
    de Kleene}, qui affirme que pour toute fonction calculable
  partielle $h\colon\mathbb{N}^2\dasharrow\mathbb{N}$, il existe $p$
  tel que $\varphi_p(n) = h(p,n)$ pour tout $n$ (la signification
  intuitive de ce résultat est qu'on peut supposer qu'un programme a
  accès à son propre code source $p$, i.e., on peut programmer comme
  s'il recevait en entrée un entier $p$ codant ce code source ; ceci
  permet par exemple — de façon anecdotique mais amusante — d'écrire
  des programmes, parfois appelés « quines », qui affichent leur
  propre code source sans aller le chercher sur disque ou autre
  tricherie).  \textit{Démonstration :} donné $e \in \mathbb{N}$, on
  considère $s(e,m)$ tel que $\varphi_{s(e,m)}(n) = \varphi_e(m,n)$ :
  le théorème s-m-n (cf. ci-dessus) assure qu'une telle fonction
  calculable $(e,m) \mapsto s(e,m)$ existe, et $(e,n) \mapsto
  h(s(e,e), n)$ est alors aussi calculable partielle ; il existe donc
  $q$ tel que $\varphi_q(e,n) = h(s(e,e), n)$ : on pose $p = s(q,q)$,
  et on a $\varphi_p(n) = \varphi_q(q,n) = h(s(q,q), n) = h(p, n)$,
  comme annoncé. \smiley\ La non-décidabilité du problème de l'arrêt
  s'obtient en appliquant (de nouveau par l'absurde) ce résultat à
  $h(e, n)$ la fonction qui n'est pas définie si $\varphi_e(n)$ l'est
  et qui vaut $42$ si $\varphi_e(n)$ n'est pas définie.\par}

La non-décidabilité du problème de l'arrêt est un résultat
fondamental, car très souvent les résultats de non-décidabilité soit
sont démontrés sur un modèle semblable, soit s'y ramènent
directement : pour montrer qu'un certain ensemble $A$ (un
« problème ») n'est pas décidable, on cherche souvent à montrer que si
un algorithme décidant $A$ existait, on pourrait s'en servir pour
construire un algorithme résolvant le problème de l'arrêt.

{\footnotesize\thingy\textbf{Bonus / exemple(s) :} L'ensemble des $e
  \in \mathbb{N}$ tels que la fonction calculable partielle
  $\varphi_e$ soit \underline{totale} (i.e., définie sur
  tout $\mathbb{N}$) n'est pas semi-décidable.  En effet, s'il
  l'était, d'après ce qu'on a vu, il serait « calculablement
  énumérable », c'est-à-dire qu'il existerait une fonction calculable
  $f\colon\mathbb{N}\to\mathbb{N}$ dont l'image soit exactement
  l'ensemble des $e$ pour lesquels $\varphi_e$ est totale, i.e., toute
  fonction calculable totale s'écrirait sous la forme $\varphi_{f(k)}$
  pour un certain $k$.  Mais la fonction $n \mapsto \varphi_{f(n)}(n)
  + 1$ est calculable totale, donc il devrait exister un $m$ tel que
  cette fonction s'écrive $\varphi_{f(m)}$, c'est-à-dire
  $\varphi_{f(m)}(n) = \varphi_{f(n)}(n) + 1$, et on aurait alors en
  particulier $\varphi_{f(m)}(m) = \varphi_{f(m)}(m) + 1$, une
  contradiction. $\bullet$ Son complémentaire, c'est-à-dire l'ensemble
  des $e \in \mathbb{N}$ tels que la fonction calculable partielle
  $\varphi_e$ \underline{ne soit pas} totale, n'est pas non plus
  semi-décidable.  En effet, supposons qu'il existe un algorithme qui,
  donné $e$, termine ssi $\varphi_e$ n'est pas totale.  Donnés $e$ et
  $m$, considérons l'algorithme qui prend une entrée $n$,
  \emph{ignore} celle-ci, et effectue le calcul $\varphi_e(m)$ : ceci
  définit une fonction calculable partielle (soit totale et constante,
  soit définie nulle part !) $\varphi_{s(e,m)}$ où $s$ est calculable
  (on applique ici le théorème s-m-n) — en appliquant à $s(e,m)$
  l'algorithme supposé semi-décider si une fonction récursive
  partielle est non-totale, on voit qu'ici il semi-décide si
  $\varphi_e(m)$ est non-défini, autrement dit on semi-décide le
  complémentaire du problème de l'arrêt, et on a vu que ce n'était pas
  possible !\par}

{\footnotesize\thingy\textbf{Exercice :} Considérons une fonction $h$
  qui à $e$ associe un nombre au moins égal au nombre d'étapes
  (cf. ci-dessus) du calcul de $\varphi_e(e)$, si celui-ci termine, et
  une valeur quelconque si $\varphi_e(e)$ n'est pas défini.  Alors $h$
  n'est pas calculable.  (Indication : si elle l'était, on pourrait
  décider si $\varphi_e(e)$ est défini en exécutant son calcul pendant
  $h(e)$ étapes.)  On peut même montrer que $H(n) := \max\{h(i) :
  i\leq n\}$ domine asymptotiquement n'importe quelle fonction
  calculable mais c'est un peu plus difficile.\par}

\medbreak

{\footnotesize\thingy\textbf{Application à la logique :} Sans rentrer
  dans les détails de ce que signifie un « système formel », on peut
  esquisser, au moins informellement, les arguments suivants.
  Imaginons qu'on ait formalisé la notion de démonstration
  mathématique (c'est-à-dire qu'on les écrit comme des mots dans un
  alphabet indiquant quels axiomes et quelles règles logiques sont
  utilisées) : même sans savoir quelle est exactement la logique
  formelle, le fait de \emph{vérifier} qu'une démonstration est
  correcte doit certainement être algorithmique (il s'agit simplement
  de vérifier que chaque règle a été correctement appliquée),
  autrement dit, l'ensemble des démonstrations est décidable.
  L'ensemble des théorèmes, lui, est semi-décidable (on a un
  algorithme qui semi-décide si un certain énoncé est un théorème en
  énumérant toutes les chaînes de caractères possibles et en cherchant
  s'il s'agit d'une démonstration valable dont la conclusion est
  l'énoncé recherché).  Or l'ensemble des théorèmes n'est pas
  décidable : en effet, si on avait un algorithme qui permet de
  décider si un énoncé mathématique est un théorème, on pourrait
  appliquer cet algorithme à l'énoncé formel (*)« le $e$-ième
  algorithme termine sur l'entrée $e$ », en observant qu'un tel
  énoncé, s'il est vrai, est forcément démontrable (i.e., si
  l'algorithme termine, on peut \emph{démontrer} ce fait en écrivant
  étape par étape l'exécution de l'algorithme pour constituer une
  démonstration qu'il a bien été appliqué jusqu'au bout et a terminé),
  et en espérant que s'il est démontrable alors il est vrai : on
  aurait alors une façon de décider le problème de l'arrêt, une
  contradiction.  Mais du coup, l'ensemble des non-théorèmes ne peut
  pas être semi-décidable ; or comme l'ensemble des énoncés $P$ tels
  que $\neg P$ (« non-$P$ », la négation logique de $P$) soit un
  théorème est semi-décidable (puisque l'ensemble des théorèmes
  l'est), ils ne peuvent pas coïncider.  Ceci montre qu'il existe un
  énoncé tel que ni $P$ ni $\neg P$ ne sont des théorèmes : c'est une
  forme du \emph{théorème de Gödel} que Turing cherchait à démontrer ;
  mieux : en appliquant aux énoncés du type (*), on montre ainsi qu'il
  existe un algorithme qui \emph{ne termine pas} mais dont la
  non-terminaison \emph{n'est pas démontrable}.  (Modulo quelques
  hypothèses qui n'ont pas été explicitées sur le système formel dans
  lequel on travaille.)\par}





%
%
%
\end{document}