path: root/notes-inf105.tex

%% This is a LaTeX document.  Hey, Emacs, -*- latex -*- , get it?
\documentclass[12pt,a4paper]{article}
\usepackage[a4paper,hmargin=2cm,vmargin=3cm]{geometry}
\usepackage[francais]{babel}
\usepackage[utf8]{inputenc}
\usepackage[T1]{fontenc}
%\usepackage{ucs}
\usepackage{times}
% A tribute to the worthy AMS:
\usepackage{amsmath}
\usepackage{amsfonts}
\usepackage{amssymb}
\usepackage{amsthm}
%
\usepackage{mathrsfs}
\usepackage{wasysym}
\usepackage{url}
%
\usepackage{makeidx}
%% Self-note: compile index with:
%% xindy -M texindy -C utf8 -L french notes-inf105.idx
%
\usepackage{graphics}
\usepackage[usenames,dvipsnames]{xcolor}
\usepackage{tikz}
\usetikzlibrary{arrows,automata,positioning,calc}
\usepackage[hyperindex=false]{hyperref}
%
\theoremstyle{definition}
\newtheorem{comcnt}{Tout}[subsection]
\newcommand\thingy{%
\refstepcounter{comcnt}\smallskip\noindent\textbf{\thecomcnt.} }
\newtheorem{defn}[comcnt]{Définition}
\newtheorem{prop}[comcnt]{Proposition}
\newtheorem{lem}[comcnt]{Lemme}
\newtheorem{thm}[comcnt]{Théorème}
\newtheorem{cor}[comcnt]{Corollaire}
\newtheorem{scho}[comcnt]{Scholie}
\newtheorem{algo}[comcnt]{Algorithme}
\renewcommand{\qedsymbol}{\smiley}
%
\newcommand{\limp}{\mathrel{\Longrightarrow}\relax}
\newcommand{\liff}{\mathrel{\Longleftrightarrow}\relax}
%
\DeclareUnicodeCharacter{00A0}{~}
\DeclareUnicodeCharacter{03B5}{$\varepsilon$}
\DeclareUnicodeCharacter{1E47}{\d{n}}
%
\DeclareMathSymbol{\tiret}{\mathord}{operators}{"7C}
\DeclareMathSymbol{\traitdunion}{\mathord}{operators}{"2D}
%
%
\DeclareFontFamily{U}{manual}{} 
\DeclareFontShape{U}{manual}{m}{n}{ <->  manfnt }{}
\newcommand{\manfntsymbol}[1]{%
    {\fontencoding{U}\fontfamily{manual}\selectfont\symbol{#1}}}
\newcommand{\dbend}{\manfntsymbol{127}}% Z-shaped
\newcommand{\danger}{\noindent\hangindent\parindent\hangafter=-2%
  \hbox to0pt{\hskip-\hangindent\dbend\hfill}}
%
\newcommand{\defin}[2][]{\def\latexsucks{#1}\ifx\latexsucks\empty\index{#2}\else\index{\latexsucks}\fi\textbf{#2}}
%
%
% NOTE: compile dot files with
% dot2tex --figonly -f tikz --tikzedgelabels --graphstyle=automaton file.dot  > file.tex
\tikzstyle{automaton}=[>=stealth',initial text={},thick,every loop/.style={min distance=7mm,looseness=5}]
\tikzstyle{state}=[]
\tikzstyle{final}=[accepting by arrow]
%
%
%
\makeindex
\begin{document}
\title{THL (Théorie des langages)\\Notes de cours \textcolor{red}{provisoires}}
\author{David A. Madore}
\maketitle

\centerline{\textbf{INF105}}

{\footnotesize
\immediate\write18{sh ./vc > vcline.tex}
\begin{center}
Git: \input{vcline.tex}
\end{center}
\immediate\write18{echo ' (stale)' >> vcline.tex}
\par}

\pretolerance=8000
\tolerance=50000


%
%
%

{\color{red}\textbf{Mise en garde :} Ce document est \emph{inachevé et
    en cours de rédaction}.  Il a été très peu relu, et il est donc
  probable qu'il contienne de nombreuses erreurs, y compris dans les
  parties à peu près terminées.  La numérotation des parties, et à
  plus forte raison des sous-parties est sujette à modification ; la
  terminologie pourrait également être amenée à évoluer.  Consulter la
  ligne « Git » ci-dessus pour la date de dernière modification ;
  l'historique complet est disponible sur
  \url{http://git.madore.org/cgit/teach/inf105.git/} ; ne pas hésiter
  à faire remonter à l'auteur toutes sortes de corrections,
  suggestions d'amélioration ou questions sur le fond.\bigbreak}

{\footnotesize
\tableofcontents
\par}

\bigbreak

\section{Alphabets, mots et langages ; langages rationnels}

\subsection{Introduction, alphabets, mots et longueur}

\thingy L'objet de ces notes, au confluent des mathématiques et de
l'informatique, est l'étude des \textbf{langages} : un langage étant
un ensemble de \textbf{mots}, eux-mêmes suites finies de
\textbf{lettres} choisies dans un \textbf{alphabet}, on va commencer
par définir ces différents termes avant de décrire plus précisément
l'objet de l'étude.

\thingy Le point de départ est donc ce que les mathématiciens
appelleront un \defin{alphabet}, et qui correspond pour les
informaticiens à un \textbf{jeu de caractères}.  Il s'agit d'un
ensemble \emph{fini}, sans structure particulière, dont les éléments
s'appellent \defin[lettre]{lettres}, ou encore
\index{caractère|see{lettre}}\textbf{caractères} dans une terminologie
plus informatique, ou parfois aussi \defin[symbole]{symboles}.

Les exemples mathématiques seront souvent donnés sur un alphabet tel
que l'alphabet à deux lettres $\{a,b\}$ ou à trois lettres
$\{a,b,c\}$.  On pourra aussi considérer l'alphabet $\{0,1\}$ appelé
\defin{binaire} (puisque l'alphabet n'a pas de structure
particulière, cela ne fait guère de différence par rapport à n'importe
quel autre alphabet à deux lettres).  Dans un contexte informatique,
des jeux de caractères (=alphabets) souvent importants sont ASCII,
Latin-1 ou Unicode : en plus de former un ensemble, ces jeux de
caractère attribuent un numéro à chacun de leurs éléments (par
exemple, la lettre A majuscule porte le numéro 65 dans ces trois jeux
de caractères), mais cette structure supplémentaire ne nous
intéressera pas ici.  Dans tous les cas, il est important pour la
théorie que l'alphabet soit \emph{fini}.

L'alphabet sera généralement fixé une fois pour toutes dans la
discussion, et désigné par la lettre $\Sigma$ (sigma majuscule).

\thingy Un \defin{mot} sur l'alphabet $\Sigma$ est une suite finie de
lettres (éléments de $\Sigma$) ; dans la terminologie informatique, on
parle plutôt de \index{caractères (chaîne de)|see{chaîne de caractères}}\defin{chaîne de caractères}, qui est une suite finie
(=liste) de caractères.  Le mot est désigné en écrivant les lettres
les unes à la suite des autres : autrement dit, si $x_1,\ldots,x_n \in
\Sigma$ sont des lettres, le mot formé par la suite finie
$x_1,\ldots,x_n$ est simplement écrit $x_1\cdots x_n$.

À titre d'exemple, $abbcab$ est un mot sur l'alphabet $\Sigma =
\{a,b,c,d\}$, et \texttt{foobar} est un mot (=chaîne de caractères)
sur l'alphabet ASCII.  (Dans un contexte informatique, il est fréquent
d'utiliser une sorte de guillemet pour délimiter les chaînes de
caractères : on écrira donc \texttt{\char`\"foobar\char`\"} pour
parler du mot en question.  Dans ces notes, nous utiliserons peu cette
convention.)

L'ensemble de tous les mots sur un alphabet $\Sigma$ sera
désigné $\Sigma^*$ (on verra en \ref{kleene-star} ci-dessous cette
notation comme un cas particulier d'une construction « étoile » plus
générale).  Par exemple, si $\Sigma = \{0,1\}$, alors $\Sigma^*$ est
l'ensemble (infini !) dont les éléments sont toutes les suites finies
binaires (=suites finies de $0$ et de $1$).  Ainsi, écrire « $w \in
\Sigma^*$ » signifie « $w$ est un mot sur l'alphabet $\Sigma$ ».

{\footnotesize\thingy Typographiquement, on essaiera autant que
  possible de désigner des mots par des variables mathématiques telles
  que $u,v,w$, tandis que $x,y,z$ désigneront plutôt des lettres
  quelconques dans un alphabet (quant à $a,b,c$, ils serviront de
  lettres dans les exemples).  Il n'est malheureusement pas possible
  d'être complètement systématique (il arrivera que $x$ désigne un
  mot) : on cherchera donc à toujours rappeler le type de toute
  variable en écrivant, par exemple, $t \in\Sigma$ ou $t
  \in\Sigma^*$.\par}

\thingy\label{length-of-word} Le nombre $n$ de lettres dans un mot $w
\in \Sigma^*$ est appelé la \defin{longueur} du mot, et généralement
notée $|w|$ ou bien $\ell(w)$ : autrement dit, si $x_1,\ldots,x_n \in
\Sigma$, alors la longueur $|x_1\cdots x_n|$ du mot $x_1\cdots x_n$,
vaut $n$.  Ceci coïncide bien avec la notion usuelle de longueur d'une
chaîne de caractères en informatique.  À titre d'exemple, sur
l'alphabet $\Sigma=\{a,b,c,d\}$, la longueur du mot $abbcab$ vaut $6$
(on écrira $|abbcab|=6$ ou bien $\ell(abbcab)=6$).

\thingy Quel que soit l'alphabet, il existe un unique mot de
longueur $0$, c'est-à-dire un unique mot n'ayant aucune lettre, appelé
le \defin{mot vide} (ou la \textbf{chaîne [de caractères] vide}).
Étant donné qu'il n'est pas commode de désigner un objet par une
absence de symbole, on introduit un symbole spécial, généralement
$\varepsilon$, pour désigner ce mot vide : on a donc
$|\varepsilon|=0$.  On souligne que le symbole $\varepsilon$
\underline{ne fait pas partie} de l'alphabet $\Sigma$, c'est un
symbole \emph{spécial} qui a été introduit pour désigner le mot vide.
(Lorsque les mots sont délimités par des guillemets, comme il est
usage pour les chaînes de caractères en informatique, le mot vide n'a
pas besoin d'un symbole spécial : il s'écrit juste
\texttt{\char`\"\char`\"} — sans aucun caractère entre les
guillemets.)

{\footnotesize Lorsque l'alphabet $\Sigma$ est \emph{vide},
  c'est-à-dire $\Sigma=\varnothing$, alors le mot vide est le seul mot
  qui existe : on a $\Sigma^*=\{\varepsilon\}$ dans ce cas.  C'est la
  seule situation où l'ensemble $\Sigma^*$ des mots est un ensemble
  fini.  Dans la suite, nous négligerons parfois ce cas particulier,
  qu'on pourra oublier : c'est-à-dire que nous ferons parfois
  l'hypothèse tacite que $\Sigma \neq \varnothing$.\par}

La notation $\Sigma^+$ est parfois utilisée pour désigner l'ensemble
des mots \emph{non vides} sur l'alphabet $\Sigma$ (par opposition à
$\Sigma^*$ qui désigne l'ensemble de tous les mots, y compris le mot
vide) ; on verra en \ref{kleene-plus} ci-dessous que c'est un cas
particulier d'une construction plus générale.

\thingy\label{convention-on-words-of-length-one} Les mots d'une seule
lettre sont naturellement en correspondance avec les lettres
elles-mêmes : on identifiera souvent tacitement, quoique un peu
abusivement, une lettre $x\in\Sigma$ et le mot de longueur $1$ formé
de la seule lettre $x$.  (En informatique, cette identification entre
\emph{caractères} et \emph{chaînes de caractères de longueur $1$} est
faite par certains langages de programmation, mais pas par tous :
\textit{caveat programmator}.)  Cette convention permet d'écrire par
exemple $\Sigma \subseteq \Sigma^*$ ou bien $|x|=1 \liff x\in\Sigma$.

\thingy\label{number-of-words-of-length-n} Si le cardinal de
l'alphabet $\Sigma$ vaut $\#\Sigma = N$, alors, pour chaque $n$, le
nombre de mots de longueur exactement $n$ est égal à $N^n$
(combinatoire classique).  Le nombre de mots de longueur $\leq n$ vaut
donc $1 + N + \cdots + N^n = \frac{N^{n+1}-1}{N-1}$ (somme d'une série
géométrique).


\subsection{Concaténation de mots, préfixes, suffixes, facteurs, sous-mots}

\thingy Si $u := x_1\cdots x_m$ et $v := y_1\cdots y_n$ sont deux
mots, de longueurs respectives $m$ et $n$, sur un même
alphabet $\Sigma$, alors on définit un mot $uv := x_1\cdots x_m
y_1\cdots y_n$ de longueur $m+n$, dont les lettres sont obtenues en
mettant bout à bout celles de $u$ puis celles de $v$ (dans cet ordre),
et on l'appelle \defin{concaténation} (ou, si cela ne prête pas à
confusion, simplement \index{produit (de mots)|see{concaténation}}\textbf{produit}) des mots $u$ et $v$.  (Dans un
contexte informatique, on parle de concaténation de chaînes de
caractères.)

\thingy Parmi les propriétés de la concaténation, signalons les faits
suivants :
\begin{itemize}
\item le mot vide $\varepsilon$ est « \textbf{neutre} » pour la
  concaténation, ce qui signifie par définition : $\varepsilon w = w
  \varepsilon = w$ quel que soit le mot $w \in \Sigma^*$ ;
\item la concaténation est « \textbf{associative} », ce qui signifie
  par définition : $u(vw) = (uv)w$ quels que soient les mots $u,v,w
  \in \Sigma^*$ (on peut donc noter $uvw$ sans parenthèse).
\end{itemize}

On peut traduire de façon savante ces deux propriétés en une phrase :
l'ensemble $\Sigma^*$ est un \defin{monoïde}, d'élément
neutre $\varepsilon$, pour la concaténation (cela signifie exactement
ce qui vient d'être dit).

\thingy On a par ailleurs $|uv| = |u| + |v|$ (la longueur de la
concaténation de deux mots est la somme des concaténations), et on
rappelle par ailleurs que $|\varepsilon| = 0$ ; on peut traduire cela
de manière savante : la longueur est un \textbf{morphisme de monoïdes}
entre le monoïde $\Sigma^*$ des mots (pour la concaténation) et le
monoïde $\mathbb{N}$ des entiers naturels (pour l'addition) (cela
signifie exactement ce qui vient d'être dit).

{\footnotesize\thingy\label{universal-property-remark}
  \textbf{Complément :} Le monoïde $\Sigma^*$
  possède la propriété suivante par rapport à l'ensemble $\Sigma$ : si
  $M$ est un monoïde quelconque (c'est-à-dire un ensemble muni d'une
  opération binaire associative $\cdot$ et d'un élément $e$ neutre
  pour cette opération), et si $\psi\colon \Sigma\to M$ est une
  application quelconque, alors il existe un unique morphisme de
  monoïdes $\hat\psi\colon \Sigma^* \to M$ (c'est-à-dire une
  application préservant le neutre et l'opération binaire) tel que
  $\hat\psi(x) = \psi(x)$ si $x\in\Sigma$.  (Démonstration : on a
  nécessairement $\hat\psi(x_1\cdots x_n) = \psi(x_1)\cdots
  \psi(x_n)$, or ceci définit bien un morphisme comme annoncé.)  On
  dit qu'il s'agit là d'une propriété « universelle », et plus
  précisément que $\Sigma^*$ est le \textbf{monoïde libre} sur
  l'ensemble $\Sigma$.  Par exemple, le morphisme « longueur »
  $\ell\colon\Sigma^*\to\mathbb{N}$ est le $\ell = \hat\psi$ obtenu en
  appliquant cette propriété à la fonction (constante) $\psi(x) = 1$
  pour tout $x\in\Sigma$.\par}

\thingy\label{powers-of-a-word} Lorsque $w \in \Sigma^*$ et $r \in
\mathbb{N}$, on définit un mot $w^r$ comme la concaténation de $r$
facteurs tous égaux au mot $w$, autrement dit, comme la répétition $r$
fois du mot $w$.  Formellement, on définit par récurrence :
\begin{itemize}
\item $w^0 = \varepsilon$ (le mot vide),
\item $w^{r+1} = w^r w$.
\end{itemize}
(Ces définitions valent, d'ailleurs, dans n'importe quel monoïde.  On
peut constater que $w^r w^s = w^{r+s}$ quels que soient
$r,s\in\mathbb{N}$.)  On a bien sûr $|w^r| = r|w|$.

Cette définition sert notamment à désigner de façon concise les mots
comportant des répétitions d'une même lettre : par exemple, le mot
$aaaaa$ peut s'écrire tout simplement $a^5$, et le mot $aaabb$ peut
s'écrire $a^3 b^2$.  (De même que pour le mot vide, il faut souligner
que ces exposants \emph{ne font pas partie} de l'alphabet.)

\thingy Lorsque $u,v,w \in \Sigma^*$ vérifient $w = uv$, autrement dit
lorsque le mot $w$ est la concaténation des deux mots $u$ et $v$, on
dira également :
\begin{itemize}
\item que $u$ est un \defin{préfixe} de $w$, ou
\item que $v$ est un \defin{suffixe} de $w$.
\end{itemize}

De façon équivalente, si $w = x_1\cdots x_n$ (où $x_1,\ldots,x_n \in
\Sigma$) est un mot de longueur $n$, et si $0\leq k\leq n$ est un
entier quelconque compris entre $0$ et $n$, on dira que $u :=
x_1\cdots x_k$ (c'est-à-dire, le mot formé des $k$ premières lettres
de $w$, dans le même ordre) est le \textbf{préfixe de longueur $k$}
de $w$, et que $v := x_{k+1}\cdots x_n$ (mot formé des $n-k$ dernières
lettres de $w$, dans le même ordre) est le \textbf{suffixe de
  longueur $n-k$} de $w$.  Il est clair qu'il s'agit bien là de
l'unique façon d'écrire $w = uv$ avec $|u|=k$ et $|v|=n-k$, ce qui
fait le lien avec la définition donnée au paragraphe précédent ;
parfois on dira que $v$ est le suffixe \defin[correspondant (préfixe
  ou suffixe)]{correspondant} à $u$ ou que $u$ est le préfixe
correspondant à $v$ (dans le mot $w$).

Le mot vide est préfixe et suffixe de n'importe quel mot.  Le mot $w$
lui-même est aussi un préfixe et un suffixe de lui-même.  Entre les
deux, pour n'importe quelle longueur $k$ donnée, il existe un unique
préfixe et un unique suffixe de longueur $k$.  (Il peut tout à fait se
produire que le préfixe et le suffixe de longueur $k$ soient égaux
pour d'autres $k$ que $0$ et $|w|$, comme le montre l'exemple qui
suit.)

À titre d'exemple, le mot $abbcab$ sur l'alphabet $\Sigma=\{a,b,c,d\}$
a les sept préfixes suivants, rangés par ordre croissant de longueur :
$\varepsilon$ (le mot vide), $a$, $ab$, $abb$, $abbc$, $abbca$ et
$abbcab$ lui-même ; il a les sept suffixes suivants, rangés par ordre
croissant de longueur : $\varepsilon$ (le mot vide), $b$, $ab$, $cab$,
$bcab$, $bbcab$ et $abbcab$ lui-même.  Le suffixe correspondant au
préfixe $abb$ est $bcab$ puisque $abbcab = (abb)(bcab)$.

\thingy Comme généralisation à la fois de la notion de préfixe et de
celle de suffixe, on a la notion de facteur : si $u_0,v,u_1 \in
\Sigma^*$ sont trois mots quelconques sur un même alphabet $\Sigma$,
et si $w = u_0 v u_1$ est leur concaténation, on dira que $v$ est un
\defin{facteur} de $w$.  Alors qu'un préfixe ou suffixe du mot $w$
est déterminé simplement par sa longueur, un facteur est déterminé par
sa longueur et l'emplacement à partir duquel il commence.

À titre d'exemple, les facteurs du mot $abbcab$ sont : $\varepsilon$
(le mot vide), $a$, $b$, $c$, $ab$, $bb$, $bc$, $ca$, $abb$, $bbc$,
$bca$, $cab$, $abbc$, $bbca$, $bcab$, $abbca$, $bbcab$ et $abbcab$
lui-même.

Dans un contexte informatique, ce que nous appelons ici « facteur »
est souvent appelé « sous-chaîne [de caractères] ».  Il ne faut
cependant pas confondre ce concept avec celui de sous-mot défini
ci-dessous.

\thingy\label{definition-subword} Si $w = x_1\cdots x_n$ est un mot de
longueur $n$, on appelle \defin{sous-mot} de $w$ un mot de la forme
$x_{i_1} \cdots x_{i_k}$ où $1\leq i_1 < \cdots < i_k \leq n$.  En
plus clair, cela signifie que $v$ est obtenu en ne gardant que
certaines lettres du mot $w$, dans le même ordre, mais en en effaçant
d'autres ; à la différence du concept de facteur, celui de sous-mot
n'exige pas que les lettres gardées soient consécutives.

À titre d'exemple, le mot $acb$ est un sous-mot du mot $abbcab$
(obtenu en gardant les lettres soulignées ici :
$\underline{a}bb\underline{c}a\underline{b}$ ; pour se rattacher à la
définition ci-dessus, on pourra prendre $(i_1,i_2,i_3) = (1,4,6)$).

{\footnotesize\thingy Les remarques de dénombrement suivantes peuvent
  aider à mieux comprendre les notations de préfixe, suffixe, facteur
  et sous-mot : si $w$ est un mot de longueur $n$, alors il a
\begin{itemize}
\item exactement $n+1$ préfixes (car un préfixe est déterminé par sa
  longueur $k$ entre $0$ et $n$),
\item exactement $n+1$ suffixes (raison analogue),
\item au plus $\sum_{k=1}^n (n+1-k) + 1 = \frac{1}{2}(n^2+n+2)$
  facteurs (car un facteur est déterminé par sa longueur $k$ et son
  point de départ qui peut être choisi parmi $n+1-k$ possibilités, le
  $+1$ final étant mis pour le facteur vide),
\item au plus $2^n$ sous-mots (car un sous-mot est déterminé par
  l'ensemble $\{i_1,\ldots,i_k\}$ des indices de ses lettres).
\end{itemize}
Le nombre exact peut être plus petit en cas de coïncidences entre
certains choix (par exemple, $aaa$ n'a que $4$ facteurs, $\varepsilon,
a, aa, aaa$ alors que $abc$ en a bien $\frac{1}{2}(3^2+3+2) = 7$) ;
mais les bornes ci-dessus sont effectivement atteintes pour certains
mots.\par}

\thingy\label{definition-mirror-word} Si $w = x_1\cdots x_n$, où
$x_1,\ldots,x_n \in \Sigma$, est un mot de longueur $n$ sur un
alphabet $\Sigma$, alors on définit son mot \defin{miroir} ou
\index{transposé (mot)|see{miroir}}\textbf{transposé}, parfois noté
$w^{\textsf{R}}$ ou $w^{\textsf{T}}$ (parfois les exposants sont
écrits à gauche), comme le mot $x_n\cdots x_1$ dont les lettres sont
les mêmes que celles de $w$ mais dans l'ordre inverse.  À titre
d'exemple, $(ababb)^{\textsf{R}} = bbaba$.  On remarquera que $(w_1
w_2)^{\textsf{R}} = w_2^{\textsf{R}} w_1^{\textsf{R}}$ si $w_1,w_2$
sont deux mots quelconques.

Un mot $w$ est dit \defin{palindrome} lorsque $w = w^{\textsf{R}}$.
Par exemple, $abba$ est un palindrome sur $\{a,b,c,d\}$ (ou bien le
mot « ressasser » sur l'alphabet du français).

{\footnotesize\thingy\label{number-of-occurrences-of-letter} La
  notation suivante est souvent utile : si $w$ est un mot sur un
  alphabet $\Sigma$ et si $z$ est une lettre (= élément de $\Sigma$),
  on note $|w|_z$ le \index{occurrences (nombre d')}nombre total
  d'occurrences de la lettre $z$ dans $w$.  À titre d'exemple, sur
  l'alphabet $\Sigma=\{a,b,c,d\}$, le nombre d'occurrences des
  différentes lettres dans le mot $abbcab$ sont : $|abbcab|_a=2$,
  $|abbcab|_b=3$, $|abbcab|_c=1$ et $|abbcab|_d=0$.

Formellement, on peut définir $|w|_z$ de la façon suivante : si $w =
x_1 \cdots x_n$ où $x_1,\ldots,x_n \in \Sigma$, alors $|w|_z$ est le
cardinal de l'ensemble $\{i : x_i = z\}$.  On peut remarquer qu'on a :
$|w| = \sum_{z\in\Sigma} |w|_z$ (i.e., la longueur de $w$ est la somme
des nombres d'occurrences dedans des différentes lettres de
l'alphabet).\par}


\subsection{Langages et opérations sur les langages}

\thingy Un \defin{langage} $L$ sur l'alphabet $\Sigma$ est simplement
un ensemble de mots sur $\Sigma$.  Autrement dit, il s'agit d'un
sous-ensemble (=une partie) de l'ensemble $\Sigma^*$ (de tous les mots
sur $\Sigma$) : en symboles, $L \subseteq \Sigma^*$.

On souligne qu'on ne demande pas que $L$ soit fini (mais il peut
l'être, auquel cas on parlera fort logiquement de « langage fini »).

\thingy À titre d'exemple, l'ensemble $\{d,dc,dcc,dccc,dcccc,\ldots\}
= \{dc^r \colon r\in\mathbb{N}\}$ des mots formés d'un $d$ suivi d'un
nombre quelconque (éventuellement nul) de $c$ est un langage sur
l'alphabet $\Sigma = \{a,b,c,d\}$.  On verra plus loin que ce langage
est « rationnel » (et pourra être désigné par l'expression rationnelle
$dc{*}$).

Voici quelques autres exemples de langages :
\begin{itemize}
\item Le langage (fini) $\{foo,bar,baz\}$ constitué des seuls trois
  mots $foo$, $bar$, $baz$ sur l'alphabet $\Sigma = \{a,b,f,o,r,z\}$.
\item Le langage (fini) constitué des mots de longueur exactement $42$
  sur l'alphabet $\Sigma = \{p,q,r\}$.  Comme on l'a vu
  en \ref{number-of-words-of-length-n}, cet ensemble a pour cardinal
  exactement $3^{42}$.
\item Le langage constitué des mots de longueur exactement $1$ sur un
  alphabet $\Sigma$ (=mots de une seule lettre), qu'on peut identifier
  à $\Sigma$ lui-même (en identifiant un mot de une lettre à la lettre
  en question, cf. \ref{convention-on-words-of-length-one}).
\item Le langage (fini) constitué du seul mot vide (=mot de longueur
  exactement $0$) sur l'alphabet, disons, $\Sigma = \{p,q,r\}$.  Ce
  langage $\{\varepsilon\}$ a pour cardinal $1$ (ou $3^0$ si on veut).
  Il ne faut pas le confondre avec le suivant :
\item Le langage vide, qui ne contient aucun mot (sur un alphabet
  quelconque).  Ce langage a pour cardinal $0$.
\item Le langage sur l'alphabet $\Sigma=\{a,b\}$ constitué des mots
  qui commencent par trois $a$ consécutifs : ou, si on préfère, qui
  ont le mot $aaa$ comme préfixe.
\item Le langage sur l'alphabet $\Sigma=\{a,b\}$ constitué des mots
  qui contiennent trois $a$ consécutifs ; ou, si on préfère, qui ont
  $aaa$ comme facteur.
\item Le langage sur l'alphabet $\Sigma=\{a,b\}$ constitué des mots
  qui contiennent au moins trois $a$, non nécessairement consécutifs ;
  ou, si on préfère, qui ont $aaa$ comme sous-mot.
\item Le langage sur l'alphabet $\Sigma=\{a\}$ constitué de tous les
  mots dont la longueur est un nombre premier ($L = \{aa, aaa, a^5,
  a^7, a^{11},\ldots\}$).  Ce langage est infini.
\item Le langage sur l'alphabet $\Sigma=\{0,1\}$ constitué de tous les
  mots commençant par un $1$ et qui, interprétés comme un nombre écrit
  en binaire, désignent un nombre premier ($L = \{10, 11, 101, 111,
  1011, \ldots\}$).
\item Le langage sur l'alphabet Unicode constitué de tous les mots qui
  représentent un document XML bien-formé d'après la spécification
  XML 1.0.
\end{itemize}

\thingy On pourrait aussi considérer un langage (sur
l'alphabet $\Sigma$) comme une \emph{propriété} des mots (sur
l'alphabet en question).  Précisément, si $P$ est une propriété qu'un
mot $w \in \Sigma^*$ peut ou ne pas avoir, on considère le langage
$L_P = \{w \in \Sigma^* : w \text{~a la propriété~} P\}$, et
inversement, si $L \subseteq \Sigma^*$ est un langage, on considère la
propriété « appartenir à $L$ » : en identifiant la propriété et le
langage qu'on vient d'associer l'un à l'autre (par exemple, le langage
des mots commençant par $a$ et la propriété « commencer par $a$ »), un
langage pourrait être considéré comme une propriété des mots.

{\footnotesize(Ceci n'a rien de spécifique aux langages : une partie
  d'un ensemble $E$ quelconque peut être identifiée à une propriété
  que les éléments de $E$ peuvent ou ne pas avoir, à savoir,
  appartenir à la partie en question.)\par}

On évitera de faire cette identification pour ne pas introduire de
confusion, mais il est utile de la garder à l'esprit : par exemple,
dans un langage de programmation fonctionnel, un « langage » au sens
de ces notes peut être considéré comme une fonction (pure,
c'est-à-dire, déterministe et sans effet de bord) prenant en entrée
une chaîne de caractères et renvoyant un booléen.

\thingy\label{union-and-intersection-of-languages} Si $L_1$ et $L_2$
sont deux langages sur un même alphabet $\Sigma$ (autrement dit,
$L_1,L_2 \subseteq \Sigma^*$), on peut former les langages
\defin[union (de langages)]{union} $L_1\cup L_2$ et
\defin[intersection (de langages)]{intersection} $L_1\cap L_2$ qui
sont simplement les opérations ensemblistes usuelles (entre parties
de $\Sigma^*$).

Les opérations correspondantes sur les propriétés de mots sont
respectivement le « ou logique » (=disjonction) et le « et logique »
(=conjonction) : à titre d'exemple, sur $\Sigma = \{a,b\}$ si $L_1$
est le langage des mots commençant par $a$ et $L_2$ le langage des
mots finissant par $b$, alors $L_1 \cup L_2$ est le langage des mots
commençant par $a$ \emph{ou bien} finissant par $b$, tandis que $L_1
\cap L_2$ est le langage des mots commençant par $a$ \emph{et}
finissant par $b$.

\thingy Si $L$ est un langage sur l'alphabet $\Sigma$, autrement dit
$L \subseteq \Sigma^*$, on peut former le langage $\Sigma^*\setminus
L$, parfois noté simplement $\overline L$ si ce n'est pas ambigu, dit
\defin[complémentaire (langage)]{complémentaire} de $L$, et qui est
simplement l'ensemble des mots sur $\Sigma$ \emph{n'appartenant pas}
à $L$.  L'opération correspondante sur les propriétés de mots est la
négation logique.

À titre d'exemple, sur $\Sigma=\{a,b\}$, si $L$ est le langage des
mots commençant par $a$, alors $\overline{L}$ est le langage des mots
ne commençant pas par $a$, c'est-à-dire, la réunion de
$\{\varepsilon\}$ et du langage des mots commençant par $b$ (car sur
$\Sigma=\{a,b\}$, un mot ne commençant pas par $a$ est vide ou bien
commence par $b$).

\thingy\label{concatenation-of-languages} Si $L_1$ et $L_2$ sont deux
langages sur un même alphabet $\Sigma$ (autrement dit, $L_1,L_2
\subseteq \Sigma^*$), on peut former le langage \defin[concaténation
  (de langages)]{concaténation} $L_1 L_2$ : il est défini comme
l'ensemble des mots $w$ qui peuvent s'écrire comme concaténation d'un
mot $w_1$ de $L_1$ et d'un mot $w_2$ de $L_2$, soit
\[
\begin{aligned}
L_1 L_2 &:= \{w_1 w_2 : w_1 \in L_1,\, w_2 \in L_2\}\\
 &= \{w \in \Sigma^* : \exists w_1 \in L_1\, \exists w_2 \in L_2\,(w = w_1 w_2)\}\\
\end{aligned}
\]

À titre d'exemple, sur l'alphabet $\Sigma = \{a,b,c,d\}$, si on a $L_1
= \{a,bb\}$ et $L_2 = \{bc, cd\}$ alors $L_1 L_2 = \{abc, acd, bbbc,
bbcd\}$.

\thingy Si $L$ est un langage sur l'alphabet $\Sigma$, autrement dit
$L \subseteq \Sigma^*$, et si $r \in \mathbb{N}$, on peut définir un
langage $L^r$, par analogie avec \ref{powers-of-a-word}, comme le
langage $L^r = \{w_1\cdots w_r : w_1,\ldots,w_r \in L\}$ constitué des
concaténation de $r$ mots appartenant à $L$, ou si on préfère, par
récurrence :
\begin{itemize}
\item $L^0 = \{\varepsilon\}$,
\item $L^{r+1} = L^r L$.
\end{itemize}

À titre d'exemple, sur l'alphabet $\Sigma = \{a,b,c,d\}$, si on a $L =
\{a,bb\}$, alors $L^2 = \{aa, abb, bba, bbbb\}$ et $L^3 = \{aaa, aabb,
abba, abbbb, \penalty-100 bbaa, bbabb, bbbba, bbbbbb\}$.

\emph{Attention}, $L^r$ n'est pas le langage $\{w^r : w\in L\}$
constitué des répétitions $r$ fois ($w^r$) des mots $w$ de $L$ : c'est
le langage des concaténations de $r$ mots appartenant à $L$ \emph{mais
  ces mots peuvent être différents}.  À titre d'exemple, si $L =
\{a,b\}$ alors $L^r$ est le langage constitué des $2^r$ mots de
longueur exactement $r$ sur $\{a,b\}$, ce n'est pas l'ensemble à deux
éléments $\{a^r, b^r\}$ constitué des seuls deux mots $a^r = aaa\cdots
a$ et $b^r = bbb\cdots b$.

\thingy\label{kleene-star} Si $L$ est un langage sur
l'alphabet $\Sigma$, on définit enfin l'\index{Kleene (étoile
  de)|see{étoile de Kleene}}\defin{étoile de Kleene} $L^*$ de $L$
comme le langage constitué des concaténations d'un nombre
\emph{quelconque} de mots appartenant à $L$, c'est-à-dire la réunion
de tous les langages $L^r$ mentionnés ci-dessus :
\[
\begin{aligned}
L^* &:= \bigcup_{r=0}^{+\infty} L^r = \bigcup_{r\in\mathbb{N}} L^r\\
&= \{w_1\cdots w_r : r\in\mathbb{N},\, w_1,\ldots,w_r\in L\}\\
\end{aligned}
\]

À titre d'exemple, sur l'alphabet $\Sigma = \{a,b,c,d\}$, si on a $L =
\{a,bb\}$, alors on a $L^* = \{\varepsilon, a, bb, \penalty-200 aa,
abb, bba, bbbb, \penalty-200 aaa, aabb, abba, abbbb, \penalty-100
bbaa, bbabb, bbbba, bbbbbb, \ldots\}$.

Comme ci-dessus, il faut souligner que les mots $w_1,\ldots,w_r$
concaténés n'ont pas à être égaux : notamment, $\{a,b\}^*$ est le
langage constitué de tous les mots sur l'alphabet $\{a,b\}$, pas le
langage $\{a\}^* \cup \{b\}^*$ constitué des mots obtenus en répétant
la lettre $a$ ou en répétant la lettre $b$.

On remarquera que la définition de $L^*$ ci-dessus redonne bien,
lorsqu'on l'applique à l'alphabet $\Sigma$ lui-même (considéré comme
langage des mots de longueur $1$), l'ensemble $\Sigma^*$ de tous les
mots : la notation $\Sigma^*$ est donc justifiée \textit{a
  posteriori}.

Le mot vide appartient toujours à $L^*$ (quel que soit $L$) puisque
$L^0 = \{\varepsilon\}$ et qu'on peut prendre $r=0$ ci-dessus
(autrement dit, le mot vide est la concaténation de zéro mots de $L$).

\thingy\label{kleene-plus} On introduit parfois la notation $L^+ :=
\bigcup_{r=1}^{+\infty} L^r = \{w_1\cdots w_r : r>0,\penalty-100\,
w_1,\ldots,w_r\in L\}$ pour l'ensemble des mots formés par
concaténation d'un nombre \emph{non nul} de mots de $L$.  Lorsque le
mot vide $\varepsilon$ n'appartient pas déjà à $L$, ce langage $L^+$
diffère de $L^*$ seulement en ce qu'il ne contient pas $\varepsilon$ ;
tandis que si $\varepsilon$ appartient déjà à $L$, alors $L^+$ est
égal à $L^*$.  En toute généralité, on a $L^+ = LL^*$.

\thingy\label{definition-mirror-language} En rappelant la définition
du mot miroir faite en \ref{definition-mirror-word}, si $L$ est un
langage sur l'alphabet $\Sigma$, on définit le langage miroir
$L^{\mathsf{R}}$ comme l'ensemble des mots miroirs des mots de $L$,
c'est-à-dire $L^{\mathsf{R}} = \{w^{\mathsf{R}} : w \in L\}$.

\medbreak

\thingy\label{set-of-languages} De même que l'ensemble des mots sur un
alphabet $\Sigma$ admet une notation, à savoir $\Sigma^*$, on peut
introduire une notation pour l'ensemble de tous les \emph{langages}
(= ensembles de mots) sur $\Sigma$ : ce sera $\mathscr{P}(\Sigma^*)$.
Il s'agit d'un cas particulier de la construction « ensemble des
parties » (si $E$ est un ensemble, $\mathscr{P}(E) = \{A : A\subseteq
E\}$ est l'ensemble de tous les sous-ensembles de $A$ ; c'est un
axiome de la théorie des ensembles qu'un tel ensemble existe bien).
On pourrait donc écrire « $L \in \mathscr{P}(\Sigma^*)$ » comme
synonyme de « $L\subseteq \Sigma^*$ » ou de « $L$ est un langage
sur $\Sigma$ » ; on évitera cependant de le faire, car cette notation
est plus lourde qu'utile.

{\footnotesize Il sera marginalement question dans ces notes de
  « classes de langages » : une classe de langages est un ensemble de
  langages (c'est-à-dire une partie de $\mathscr{P}(\Sigma^*)$, ou si
  on préfère un élément de $\mathscr{P}(\mathscr{P}(\Sigma^*))$).  On
  ne développera pas de théorie générale des classes de langages et on
  n'en parlera pas de façon systématique, mais on parlera de certaines
  classes de langages importantes : la classe des langages rationnels
  ou reconnaissables (§\ref{subsection-rational-languages} à
  §\ref{section-recognizable-languages}), la classe des langages
  algébriques (§\ref{section-context-free-grammars}), la classe des
  langages décidables (§\ref{section-computability}) et la classe des
  langages semi-décidable (\textit{ibid.}).\par}


\subsection{Langages rationnels et expressions rationnelles}\label{subsection-rational-languages}

\thingy \textbf{Introduction :} Les langages qui vont jouer le rôle le
plus important dans ces notes sont les langages dits « rationnels »
(qui seront définis de \ref{rational-languages} à
\ref{regular-expressions} ci-dessous, et qui s'avéreront être les
mêmes que les langages « reconnaissables » par automates finis définis
en \ref{definition-recognizable-language}).

Pour donner un premier aperçu informel de ce dont il s'agit avant de
passer à une définition précise, commençons par donner quelques
exemples, disons, sur l'alphabet $\Sigma = \{a,b,c,d\}$, de langages
rationnels :
\begin{itemize}
\item le langage constitué des mots contenant au moins un $d$ ;
\item le langage constitué des mots ne contenant aucun $d$ ;
\item le langage constitué des mots commençant par un $d$ ;
\item le langage constitué des mots commençant par un $d$ et
  finissant par un $c$ ;
\item le langage constitué des mots commençant par un $d$ et finissant
  par un $c$, et dont toutes les lettres intermédiaires sont des $a$
  ou des $b$, c'est-à-dire, le langage constitué des mots de la forme
  suivante : un $d$, puis un nombre quelconque de $a$ et de $b$, et
  enfin un $c$ ;
\item le langage constitué des mots de la forme suivante : un $d$,
  puis un nombre quelconque de mots qui peuvent être soit $a$ soit
  $bb$, et enfin un $c$.
\end{itemize}

Ce dernier exemple est assez typique : on dira plus loin qu'il s'agit
du langage « dénoté » par l'expression rationnelle $d(a|bb){*}c$, à
lire comme « un $d$, puis autant qu'on veut (“$*$”) de mots qui
peuvent être soit (“$|$”) un $a$ soit $bb$, et enfin un $c$ ».  Les
constructions essentielles qui permettront de fabriquer les langages
rationnels sont : la réunion (j'autorise ceci \emph{ou} cela, par
exemple « un $a$ \emph{ou bien} $bb$ »,
cf. \ref{union-and-intersection-of-languages}), la concaténation (je
demande ceci \emph{puis} cela, par exemple « un $d$, \emph{puis} une
suite quelconque de $a$ ou de $b$ »,
cf. \ref{concatenation-of-languages}), et l'étoile de Kleene
(représentant une répétition quelconque d'un certain motif,
cf. \ref{kleene-star}).

L'importance des langages rationnels, et des expressions rationnelles
(=régulières) qui les décrivent, vient :
\begin{itemize}
\item du point de vue théorique : de ce qu'ils forment une classe à la
  fois suffisamment simple pour pouvoir être étudiée, suffisamment
  riche pour contenir toutes sortes de langages intéressants,
  suffisamment naturelle pour être définie de plusieurs manières
  différentes, et suffisamment flexible pour être stable un certain
  nombre d'opérations ;
\item du point de vue pratique et informatique : de ce qu'ils sont
  algorithmiquement commodes à manier (grâce à la théorie) et
  suffisent à représenter beaucoup de « recherches » qu'on a
  naturellement envie de faire dans un texte, de « motifs » qu'on peut
  vouloir trouver, ou de « contraintes » qu'on peut vouloir imposer à
  une chaîne de caractères.
\end{itemize}

Passons maintenant à une définition plus précise.

\bigbreak

\thingy\label{rational-languages} Soit $\Sigma$ un alphabet.  On va
considérer les langages de base triviaux suivants :
\begin{itemize}
\item le langage vide $\varnothing$,
\item le langage constitué du seul mot vide, $\{\varepsilon\}$, et
\item les langages constitué d'un seul mot lui-même formé d'une seule
  lettre, $\{x\}$ pour chaque $x\in\Sigma$,
\end{itemize}
et on va les combiner par les opérations dites « rationnelles »
suivantes :
\begin{itemize}
\item la réunion $(L_1,L_2) \mapsto L_1 \cup L_2$
  (discutée en \ref{union-and-intersection-of-languages}),
\item la concaténation $(L_1,L_2) \mapsto L_1 L_2$
  (définie en \ref{concatenation-of-languages}), et
\item l'étoile de Kleene $L \mapsto L^*$
  (définie en \ref{kleene-star}).
\end{itemize}

On obtient ainsi une certaine famille de langages (cf. ci-dessous pour
une définition plus précise), qu'on appelle \defin[rationnel
  (langage)]{langages rationnels} : les langages rationnels sont par
définition exactement ceux qui peuvent s'obtenir à partir des langages
de base énumérés ci-dessus par application (un nombre \emph{fini} de
fois) des opérations qu'on vient de dire.

Autrement dit, la réunion de deux langages rationnels, la
concaténation de deux langages rationnels, et l'étoile de Kleene d'un
langage rationnel, sont rationnels ; et les langages rationnels sont
exactement ceux qu'on obtient ainsi à partir des langages de base.

À titre d'exemple, sur l'alphabet $\{a,b,c,d\}$, comme le langage
$\{c\}$ (constitué du seul mot $c$) est rationnel, son étoile de
Kleene, c'est-à-dire $\{c\}^* = \{\varepsilon, c, cc, ccc,
cccc,\ldots\}$, est rationnel, et comme $\{d\}$ l'est aussi, la
concaténation $\{d\}(\{c\}^*) = \{d, dc, dcc, dccc, \ldots\}$ est
encore un langage rationnel.

\thingy\label{stable-under-rational-operations}
Formellement, la définition des langages rationnelles est la
suivante : un ensemble $\mathscr{C} \subseteq \mathscr{P}(\Sigma^*)$
de langages (où $\mathscr{P}(\Sigma^*)$ est l'ensemble des parties de
$\Sigma^*$, i.e., l'ensemble de tous les langages sur $\Sigma$,
cf. \ref{set-of-languages}) est dit \emph{stable par opérations
  rationnelles} lorsqu'il est stable par les opérations de réunion,
concaténation et étoile de Kleene, i.e., si $L_1,L_2 \in \mathscr{C}$
alors $L_1\cup L_2 \in \mathscr{C}$ et $L_1 L_2 \in \mathscr{C}$, et
si $L \in \mathscr{C}$ alors $L^* \in \mathscr{C}$ ; le \emph{plus
  petit}\footnote{La classe des langages rationnelles (qu'on cherche à
  définir) n'est pas le seul ensemble de langages stable par
  opérations rationnelles : l'ensemble $\mathscr{P}(\Sigma^*)$ de tous
  les langages est aussi évidemment stable par opérations
  rationnelles ; on s'intéresse au plus petit $\mathscr{C}$ possible
  pour n'avoir que ce qui est nécessairement construit à partir des
  langages de base triviaux par les opérations rationnelles.}  (pour
l'inclusion) ensemble de langages stable par opérations rationnelles
et contenant les langages $\varnothing$, $\{\varepsilon\}$ et $\{x\}$
pour $x \in \Sigma$ (i.e. $\varnothing\in\mathscr{C}$,
$\{\varepsilon\} \in \mathscr{C}$ et si $x\in\Sigma$ alors
$\{x\}\in\mathscr{C}$), ou plus exactement, l'intersection de tous les
ensembles $\mathscr{C}$ vérifiant tous ces propriétés, est la classe
$\mathscr{R}$ des langages rationnels (et un langage rationnel est
simplement un élément de $\mathscr{R}$).

\emph{Attention !}, le fait que la classe $\mathscr{R}$ des langages
rationnels soit stable par concaténation signifie que si $L_1$ et
$L_2$ sont rationnels alors le langage $L_1 L_2$ (constitué de tous
les mots concaténés d'un mot de $L_1$ et d'un mot de $L_2$) est
rationnel ; \emph{cela ne signifie pas} qu'un langage rationnel donné
soit stable par concaténation (un langage stable $L$ par concaténation
est un langage tel que si $w_1,w_2\in L$ alors $w_1 w_2 \in L$).

\thingy\label{regular-expressions} Pour décrire la manière dont un
langage rationnel est fabriqué (à partir des langages de base par les
opérations rationnelles), comme il est malcommode d'écrire quelque
chose comme $\{d\}(\{c\}^*)$, on introduit un nouvel objet, les
\index{expression rationnelle|see{rationnelle
    (expression)}}\defin[rationnelle (expression)]{expressions
  rationnelles} (certains préfèrent le terme d'\index{régulière
  (expression)|see{rationnelle}}\textbf{expressions régulières}), qui
sont des expressions servant à dénoter un langage rationnel.  Par
exemple, plutôt que d'écrire « $\{d\}(\{c\}^*)$ », on parlera du
langage « dénoté par l'expression rationnelle $dc{*}$ ».  Ceci fournit
du même coup une nouvelle définition des langages rationnels : ce sont
les langages dénotés par une expression rationnelle.

Plus exactement, une expression rationnelle (sur un alphabet $\Sigma$)
est un mot sur l'alphabet $\Sigma \cup \{\bot,
\underline{\varepsilon}, {(}, {)}, {|}, {*}\}$, où $\bot,
\underline{\varepsilon}, {(}, {)}, {|}, {*}$ sont de nouveaux
caractères \emph{n'appartenant pas} à l'alphabet $\Sigma$, appelés
\defin[métacaractère]{métacaractères}, et qui servent à marquer la
manière dont est formée l'expression rationnelle.  On définit
simultanément la notion d'expression rationnelle $r$ et de
\defin[dénoté (langage)]{langage dénoté} (ou \textbf{désigné}) $L_r$
par l'expression $r$, de la manière suivante :
\begin{itemize}
\item $\bot$ est une expression rationnelle et son langage dénoté
  est $L_\bot := \varnothing$,
\item $\underline{\varepsilon}$ est une expression rationnelle et son
  langage dénoté est $L_{\underline{\varepsilon}} :=
  \{\varepsilon\}$,
\item si $x\in\Sigma$ est une lettre de l'alphabet $\Sigma$, alors le
  mot $x$ est une expression rationnelle et son langage dénoté
  est $L_x := \{x\}$,
\item si $r_1,r_2$ sont deux expressions rationnelles et $L_1 =
  L_{r_1}$ et $L_2 = L_{r_2}$ les langages dénotés correspondants,
  alors $r_1 r_2$ est une expression rationnelle et son langage
  dénoté est $L_{r_1 r_2} := L_1 L_2$,
\item si $r_1,r_2$ sont deux expressions rationnelles et $L_1 =
  L_{r_1}$ et $L_2 = L_{r_2}$ les langages dénotés correspondants,
  alors $(r_1|r_2)$ est une expression rationnelle et son langage
  dénoté est $L_{(r_1|r_2)} := L_1\cup L_2$,
\item si $r$ est une expression rationnelle et $L = L_r$ les langage
  dénoté correspondant, alors $(r){*}$ est une expression rationnelle
  et son langage dénoté est $L_{(r){*}} := L^*$.
\end{itemize}

Un langage rationnel est par construction la même chose qu'un langage
pour lequel il existe une expression rationnelle qui le dénote.

\thingy À titre d'exemple, sur l'alphabet $\Sigma = \{a,b,c,d\}$, $c$ est une
expression rationnelle qui dénote le langage $\{c\}$, donc $(c){*}$ en
est une qui dénote le langage $\{c\}^* = \{\varepsilon, c, cc,
ccc,\ldots\}$, et enfin $d(c){*}$ en est une qui dénote le langage $\{d,
dc, dcc, \ldots\}$ des mots formés d'un $d$ et d'une succession
quelconques de $c$.  Voici quelques autres exemples, toujours sur
$\Sigma = \{a,b,c,d\}$ :
\begin{itemize}
\item l'expression rationnelle $(a|b)$ dénote le langage $\{a\} \cup
  \{b\} = \{a,b\}$ constitué des deux mots d'une seule lettre $a$ et
  $b$ ;
\item l'expression rationnelle $(a|b)c$ dénote le langage
  $\{a,b\}\{c\} = \{ac,bc\}$, de même que $(ac|bc)$ ;
\item l'expression rationnelle $(bc){*}$ dénote le langage $\{bc\}^* =
  \{\varepsilon, bc, bcbc, bcbcbc, \ldots\}$ ;
\item l'expression rationnelle $(a|(bc){*})$ dénote le langage $\{a\}
  \cup \{bc\}^* = \{a, \varepsilon, bc, bcbc, bcbcbc, \ldots\}$ ;
\item l'expression rationnelle $(a|(bc){*})d$ dénote le langage $\{a, d,
  bcd, bcbcd, bcbcbcd, \ldots\}$ ;
\item l'expression rationnelle $\bot d$ dénote le langage
  vide $\varnothing$ (car il n'y a pas de mot dans le langage vide,
  donc pas non plus de mot dans sa concaténation avec le
  langage $\{d\}$) ;
\item l'expression rationnelle $\underline{\varepsilon} d$ dénote le
  langage $\{d\}$ ;
\item l'expression rationnelle $(\bot|c)$ dénote le langage $\{c\}$ ;
\item l'expression rationnelle $(\underline{\varepsilon}|c)$ dénote le
  langage $\{\varepsilon, c\}$.
\end{itemize}

\thingy On dira qu'un mot $w$ \defin[vérifier (une expression
  rationnelle)]{vérifie} une expression rationnelle $r$ lorsque ce mot
appartient au langage qu'elle dénote (i.e., $w \in L_r$).  Par
exemple, $dccc$ vérifie l'expression rationnelle $d(c){*}$.

\thingy Deux expressions rationnelles $r_1,r_2$ sont dites
\defin[équivalentes (expressions rationnelles)]{équivalentes}
lorsqu'elles dénotent le même langage.  À titre d'exemple, sur
l'alphabet $\{a,b\}$, les deux expressions rationnelles $(ab){*}a$ et
$a(ba){*}$ sont équivalentes (toutes les deux dénotent le langage
$\{a, aba, ababa, \ldots\}$ constitué des mots commençant et finissant
par un $a$ et dans lesquels chaque paire de $a$ est séparée par un
unique $b$).

On verra plus loin (en \ref{equivalence-of-regexps-is-decidable})
qu'on dispose d'un algorithme permettant de décider si deux
expressions rationnelles sont équivalentes.

{\footnotesize\thingy Voici quelques exemples d'équivalences
  d'expressions rationnelles (valables en remplaçant les différents
  $r$ qui interviennent dedans par des expressions rationnelles
  quelconques) :

\begin{itemize}
\item identités « triviales » :\quad $(r|\bot)\equiv r$,\quad
  $(\bot|r)\equiv r$,\quad $r\bot\equiv \bot$,\quad $\bot r\equiv
  \bot$, \quad $r\underline{\varepsilon} \equiv r$,\quad
  $\underline{\varepsilon}r \equiv r$,\quad $(\bot){*}\equiv
  \underline{\varepsilon}$ ;
\item identité d'associativité :\quad $((r_1|r_2)|r_3)\equiv
  (r_1|(r_2|r_3))$ ;
\item identités de distributivité :\quad $r(r_1|r_2)\equiv
  (rr_1|rr_2)$,\quad $(r_1|r_2)r\equiv (r_1r|r_2r)$ ;
\item identité de commutativité :\quad $(r_1|r_2)\equiv (r_2|r_1)$ ;
\item identités « apériodiques » :\quad $((r_1|r_2)){*} \equiv
  (r_1){*}(r_2(r_1){*}){*}$,\quad $((r_1|r_2)){*} \equiv
  ((r_1){*}r_2){*}(r_1){*}$\quad et\quad $(r_1 r_2){*} \equiv
  (\underline{\varepsilon}|r_1(r_2 r_1){*}r_2)$ ;
\item identités « cycliques » :\quad $(r){*} \equiv
  (\underline{\varepsilon}|r)(rr){*} \equiv
  (\underline{\varepsilon}|r|rr)(rrr){*} \equiv
  (\underline{\varepsilon}|r|rr|rrr)(rrrr){*} \equiv \cdots$ ;
\item identités d'« idempotence » :\quad $(r|r)\equiv r$,\quad
  $((r){*}){*} \equiv (r){*}$ ;
\end{itemize}

Ces différentes identités présentent un intérêt théorique dont
l'explication dépasserait le cadre de ces notes ; cependant, il peut
être intéressant de réfléchir à ce que chacune signifie.

Signalons au passage que toutes ces identités \emph{ne suffisent pas}
à produire toutes les équivalences entre expressions rationnelles.
Par exemple, elles ne permettent pas de démontrer l'équivalence
suivante : $(a|b){*} \equiv
((a|b)(b|ab{*}ab{*}ab{*}a)){*}(\underline{\varepsilon}|(a|b)(|ab{*}|ab{*}ab{*}|ab{*}ab{*}ab{*}))$
(écrite avec les conventions de \ref{convention-on-writing-regexps}) ;
la question d'arriver à trouver un système d'axiomes qui permet de
déduire toutes les équivalences entre expressions rationnelles est un
problème délicat.

\par}

\thingy\label{convention-on-writing-regexps}
La convention de parenthésage introduite ci-dessus est
inambiguë mais parfois inutilement lourde : on se permettra parfois de
l'alléger, par exemple d'écrire $(r_1|r_2|r_3)$ pour $((r_1|r_2)|r_3)$
(ou pour $(r_1|(r_2|r_3))$, ce qui n'a guère d'importance vu qu'elles
dénotent le même langage), ou encore $x{*}$ pour $(x){*}$ lorsque $x$
est formé d'un seul caractère.

Pour retirer des parenthèses, la convention sur la priorité des
opérations est la suivante : l'opération d'étoile ${*}$ est la plus
prioritaire (c'est-à-dire que $ab{*}$ se lit comme $a(b){*}$ et non
pas comme $(ab){*}$), la concaténation est de priorité intermédiaire,
et la barre de disjonction $|$ est la moins prioritaire (c'est-à-dire
que $ab|cd$ se lit comme $(ab|cd)$ et pas comme $a(b|c)d$).

{\footnotesize Les métacaractères $\bot$ et $\underline{\varepsilon}$
  sont introduits ici par souci de complétude mais font rarement
  utilisés dans les expressions rationnelles (le métacaractère
  $\underline{\varepsilon}$ a été souligné parce qu'il s'agit d'une
  vraie lettre et non pas du mot vide ; on peut ignorer cette
  subtilité qui n'a que très peu d'importance).\par}

La barre de disjonction que nous avons notée « ${|}$ » est souvent
plutôt notée « $+$ » par les mathématiciens\footnote{Dans le même
  contexte mathématique, il est alors fréquent de noter « $0$ » pour
  ce que nous avons noté « $\bot$ » (c'est un élément neutre pour la
  disjonction), et on en profite souvent pour noter « $1$ » pour
  « $\varepsilon$ » et/ou « $\underline{\varepsilon}$ » (c'est un
  élément neutre pour la concaténation).}.  Il y a ici un risque de
confusion lié au fait que, en informatique, le symbole \texttt{+} est
utilisé par de nombreux moteurs d'expressions régulières (par exemple,
\texttt{egrep}) pour dénoter l'opération évoquée en \ref{kleene-plus},
i.e., « au moins une répétition » alors que l'étoile signifie « un
nombre quelconque de répétitions » : si on veut, $r{\scriptstyle +}$ a
le même sens que $rr{*}$.  Dans le même contexte, le symbole
\texttt{?} est souvent utilisé pour désigner « au plus une
répétition » : si on veut, $r{?}$ a le même sens
que $(\underline{\varepsilon}|r)$ (cf. \ref{remarks-egrep-plus-etc}).


\subsection{Remarques sur les moteurs d'expressions régulières en informatique}\label{subsection-remarks-on-regexp-syntax}

\thingy Dans le monde informatique, il existe de nombreux
\emph{moteurs d'expressions régulières}, c'est-à-dire outils (qu'il
s'agisse de primitives d'un langage, de bibliothèques externes, de
programmes en ligne de commande, ou autres) permettant de savoir si un
mot est reconnu par une expression régulière (=rationnelle), autrement
dit, s'il appartient au langage dénoté par elle.  L'un de ces moteurs
est le programme \texttt{egrep} standard sous Unix/POSIX.

\thingy Les expressions régulières au sens de ces différents moteurs
sont généralement plus puissantes que les expressions rationnelles au
sens mathématique défini ci-dessus : différentes extensions permettent
de désigner des langages qui ne sont pas rationnels au sens
mathématique.  L'extension la plus fréquente est celle des
\emph{références arrière} (ou \emph{backreferences} en anglais) qui
permettent de demander qu'un facteur du mot se retrouve à un autre
emplacement.  Par exemple, pour beaucoup de moteurs (notamment
\texttt{egrep}), l'expression régulière \texttt{(a*)b\char"5C\relax 1}
désigne le langage $\{a^nba^n : a\in\mathbb{N}\} = \{b,aba,
aabaa,\ldots\}$ des mots formés d'un nombre quelconque de $a$ puis
d'un $b$ puis de la \emph{même suite de $a$}, et ce langage
\emph{n'est pas rationnel} au sens mathématique (ce sera une
conséquence du « lemme de pompage » \ref{pumping-lemma}).

\thingy\label{remarks-egrep-plus-etc} Il existe aussi un certain nombre de constructions qui, sans
dépasser la puissance des expressions rationnelles au sens
mathématique, apportent des commodités d'écriture dans un contexte
informatique.  On a déjà mentionné les symboles \texttt{+} (pour « au
moins une répétition » : $r{\scriptstyle +}$ est équivalent à $rr{*}$)
et \texttt{?} (pour « au plus une répétition » : $r{?}$ est équivalent
à $(\underline{\varepsilon}|r)$).  Parmi d'autres constructions du
genre, mentionnons encore le point \texttt{.} qui désigne un caractère
quelconque de l'alphabet (on peut le voir comme une abréviation pour
$(x_1|x_2|\ldots|x_N)$ où $x_1,x_2,\ldots,x_N$ sont tous les éléments
de $\Sigma$ — ce qui serait très fastidieux à écrire si on devait
énumérer tout Unicode), ou bien \texttt{[$xyz$]} qui désigne un
caractère quelconque parmi ceux listés (c'est donc la même chose que
$(x|y|z)$ mais cela ne fonctionne qu'avec des caractères individuels ;
en contrepartie, on peut écrire des intervalles comme \texttt{[a-z]}
qui désigne un caractère quelconque entre \texttt{a} et \texttt{z}
dans l'ordre ASCII/Unicode, ou bien des négations d'intervalles comme
\texttt{[\char"5Ea-z]} qui désigne un caractère qui \emph{n'est pas}
entre \texttt{a} et \texttt{z}).

Toutes sortes d'autres racourcis ou commodités de notation peuvent
exister, par exemple \texttt{\char"5C<} et \texttt{\char"5C>} pour
désigner un début et une fin de mot (la définition précise de « mot »
pouvant varier), ou encore \texttt{$r$\{$n_1$,$n_2$\}} qui cherche
entre $n_1$ et $n_2$ répétitions de $r$.

\thingy Une autre subtilité est que la plupart des moteurs
d'expressions régulières en informatique vont, par défaut,
\emph{rechercher un facteur} (appelé « sous-chaîne » en informatique)
vérifiant l'expression à l'intérieur de la chaîne donnée, plutôt que
tester si la chaîne elle-même vérifie l'expression.  Pour éviter ce
comportement, on peut utiliser des \emph{ancres}, typiquement
commandées par les caractères \texttt{\char"5E} et \texttt{\char"24}
qui servent à ancrer l'expression au début et à la fin de la chaîne
respectivement : c'est-à-dire que rechercher \texttt{a} recherche un
\texttt{a} quelconque à l'intérieur de la chaîne donnée, rechercher
\texttt{\char"5E\relax a} demande que le \texttt{a} soit au début de
la chaîne donnée rechercher \texttt{a\char"24} demande que le
\texttt{a} soit à la fin de la chaîne donnée, et rechercher
\texttt{\char"5E\relax a\char"24} demande que la chaîne donnée soit
exactement \texttt{a} (cet exemple n'est donc pas très utile, mais de
façon générale, trouver si une chaîne vérifie une expression
rationnelle $r$, revient à y chercher \texttt{\char"5E\relax
  $r$\char"24}).

\thingy Comme les expressions régulières en informatique sont
représentées par des chaînes de caractères qui appartiennent au même
alphabet (ASCII ou Unicode) que les chaînes sur lesquelles on effectue
la recherche, le problème se pose de distinguer les métacaractères
(l'étoile de Kleene \texttt{*}, par exemple) des caractères eux-mêmes
(comment rechercher les chaînes contenant le caractère \texttt{*} si
\texttt{*} est utilisé par l'étoile de Kleene ?).  La solution est
d'introduire un mécanisme d'\emph{échappement} : ainsi,
\texttt{x\char"5C*} recherche un \texttt{x} suivi d'un
astérisque \texttt{*}, tandis que \texttt{x*} recherche un nombre
quelconque de répétitions de la lettre \texttt{x}.

\thingy Il existe malheureusement de nombreuses différences, parfois
très subtiles, entre moteurs, ne serait-ce que dans les notations : un
moteur pourra par exemple noter \texttt{(?)} ce qu'un autre note
\texttt{\char"5C(\char"5C?\char"5C)} et vice versa.  La seule solution
est de consulter attentivement la documentation de chaque moteur
d'expressions régulières pour connaître la syntaxe utilisée.

Signalons tout de même qu'il existe deux principales familles de
syntaxes d'expressions régulières en informatique : les expressions
régulières « POSIX étendues », utilisée notamment par le programme
Unix \texttt{egrep}, et les expressions régulières Perl, qui ont été
réadaptées dans beaucoup de langages, notamment Java, JavaScript,
Python et d'autres.

\thingy Signalons comme complication supplémentaire que dans de
nombreux langages, les expressions régulières sont saisies comme des
chaînes de caractères plutôt que d'avoir une syntaxe spéciale, et ceci
a pour effet d'introduire un niveau supplémentaire d'échappement : par
exemple, en Java, pour rechercher si une chaîne de caractères $s$
contient un astérisque, on utilisera
\texttt{$s$.matches("\char"5C\char"5C*")} puisque l'expression
régulière à utiliser est \texttt{\char"5C*} et que cette chaîne de
caractères s'écrit \texttt{"\char"5C\char"5C*"} en Java.


\section{Automates finis}\label{section-finite-automata}

\setcounter{comcnt}{0}

\thingy Les automates finis sont un modèle de calcul particulièrement
simple et particulièrement appropriés à l'étude et à l'analyse des
langages rationnels.  Il faut imaginer un automate fini comme une
machine disposant d'une quantité finie (et sous-entendu, très limitée)
de mémoire : la configuration complète de cette mémoire est décrite
par un \emph{état}, qui appartient à un ensemble fini d'états
possibles.  On fournit un mot à l'automate en le lui faisant consommer
lettre par lettre (de la première à la dernière), et à chaque lettre
qu'il reçoit, l'automate prend une décision (à savoir, passer dans un
nouvel état) en fonction de son état actuel et de la lettre qu'on lui
donne à consommer ; l'automate commence par un état dit
\emph{initial} ; lorsque le mot a été entièrement consommé, l'état
dans lequel l'automate se trouve a pour conséquence soit que
l'automate \emph{accepte} le mot (s'il se trouve dans un état
\emph{final}), soit qu'il le \emph{rejette}.  L'ensemble des mots
acceptés par l'automate est un langage dit \emph{reconnaissable}.  On
va voir que ces langages reconnaissables sont en fait les mêmes que
les langages rationnels définis en \ref{rational-languages}.

\thingy Une subtilité est qu'il existe plusieurs sortes d'automates
finis.  Nous allons en définir quatre ou cinq, de plus en plus
généraux, mais nous allons voir qu'ils sont, finalement, tous
équivalents, c'est-à-dire que leur puissance de calcul, ou les
langages qu'ils sont capables de reconnaître, sont toujours les mêmes
(en revanche, cette équivalence peut avoir un coût algorithmique, car
la conversion d'une sorte d'automate en une autre n'est pas gratuite).
Du plus particulier au plus général, les automates que nous allons
définir sont informellement décrits ainsi :
\begin{itemize}
\item les automates finis déterministes (complets)
  (cf. \ref{definition-dfa}) : ceux-ci partent d'un état initial bien
  défini, suivent à chaque lettre consommée une transition bien
  définie vers un nouvel état, et leur comportement est donc
  entièrement déterministe (d'où le nom) ;
\item les automate fini déterministe à spécification incomplète
  (cf. \ref{definition-dfai}) : la différence est qu'ici l'automate
  n'a pas forcément d'instruction sur quoi faire quand il est dans un
  certain état et reçoit un certain symbole, il peut manquer des
  transitions, auquel cas l'automate cesse de fonctionner et rejette
  le mot ;
\item les automates non-déterministes (cf. \ref{definition-nfa}) :
  ceux-ci peuvent admettre \emph{plusieurs} possibilités de nouvel
  état dans lequel transitionner lorsqu'on leur donne une lettre
  donnée à consommer depuis un état donné, et l'automate accepte le
  mot s'il y a une manière de faire les transitions qui résulte en ce
  que le mot soit accepté ;
\item les automates non-déterministes à transitions spontanées
  (cf. \ref{definition-enfa}) : ceux-ci ont, en plus des précédents,
  le pouvoir d'évoluer spontanément, sans consommer de lettre ;
\item on introduira aussi des automates encore plus généraux, à
  transitions étiquetées par des expressions rationnelles
  (cf. \ref{definition-rnfa}) pour montrer que tout langage
  reconnaissable est rationnel.
\end{itemize}

\thingy Dans tous les cas, les automates se représenteront comme des
graphes orientés (cf. \ref{discussion-example1} ci-dessous pour un
exemple simple), dont les sommets sont les états de l'automate (on
leur donne généralement des noms pour les reconnaître, mais ces noms
sont arbitraires), dont les arêtes sont étiquetées par des symboles
(des lettres de l'alphabet, ou éventuellement le mot vide
$\varepsilon$ ou une expression rationnelle sur l'alphabet), et dont
certains sommets (=états) sont distingués comme « initiaux » et/ou
« finaux » (par une flèche pointant depuis nulle part vers l'état en
question ou depuis l'état en question vers nulle part).

Un mot sera accepté par l'automate toujours selon la même logique :
s'il y a moyen de relier un état initial à un état final par un chemin
orienté dans le graphe tel que le mot corresponde à la lecture des
étiquettes des arêtes du chemin dans l'ordre.

\subsection{Automates finis déterministes complets (=DFA)}

\thingy\label{definition-dfa} Un \defin{automate fini déterministe}
(complet), ou en abrégé \index{DFA|see{automate fini
    déterministe}}\textbf{DFA} (pour \textit{deterministic finite
  automaton}), sur un alphabet $\Sigma$ est la donnée
\begin{itemize}
\item d'un ensemble fini $Q$ dont les éléments sont appelés
  \defin[état]{états},
\item d'un état $q_0 \in Q$ appelé \defin[initial (état)]{état
  initial} (un DFA a un \emph{unique} état initial),
\item d'un ensemble $F \subseteq Q$ d'états appelés états \defin[final
  (état)]{finaux}\footnote{Le pluriel de « final » est indifféremment
  « finaux » ou « finals ».} ou \index{acceptant
  (état)|see{final}}\textbf{acceptants},
\item d'une fonction $\delta \colon Q\times\Sigma \to Q$ appelée
  \defin[transition (fonction de)]{fonction de transition}.
\end{itemize}

\thingy\label{graphical-representation-of-dfa} Graphiquement, on
représente un DFA comme un graphe orienté aux arêtes étiquetées par
des éléments de $\Sigma$ : plus exactement, on trace un nœud pour
chaque élément $q \in Q$, et lorsque $\delta(q,x) = q'$ on introduit
une flèche $q \to q'$ étiquetée par la lettre $x$.

La condition sur $\delta$ (pour être un DFA) est alors que, pour
chaque état $q \in Q$ et chaque lettre $x \in \Sigma$, \emph{il existe
  une unique} arête partant de $q$ et étiquetée par $x$.

En outre, on introduit une flèche pointant de nulle part vers $q_0$
(pour marquer celui-ci comme l'état initial), et pour chaque $q\in F$
une flèche pointant de $q$ vers nulle part\footnote{Certains auteurs
  préfèrent d'autres conventions, par exemple celle consistant à
  entourer deux fois les états finaux.} (pour marquer ceux-ci comme
états finaux).

Pour abréger la représentation graphique, lorsque plusieurs arêtes
étiquetées par des lettres $x,y$ différentes relient les mêmes sommets
$q,q'$ (i.e., lorsqu'on a à la fois $\delta(q,x) = q'$ et $\delta(q,y)
= q'$), on pourra écrire « $x,y$ », voire « $x|y$ », sur l'arête en
question et ne la tracer qu'une seule fois.
(Voir \ref{discussion-example2} ci-dessous pour un exemple.)

\thingy\label{discussion-example1} Pour donner un exemple simple,
l'automate sur $\Sigma = \{a,b\}$ représenté ci-dessous a $Q =
\{0,1\}$ et $q_0 = 0$ et $F = \{1\}$ et la fonction de transition
$\delta$ donnée par $\delta(0,a) = 0$ et $\delta(0,b) = 1$ et
$\delta(1,a) = 1$ et $\delta(1,b) = 0$.  On pourra se convaincre (une
fois lues les définitions plus loin) que cet automate accepte les mots
dont le nombre de $b$ est impair.

\begin{center}
%%% begin example1 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,20.306bp) [draw,circle,state,final] {$1$};
  \node (q0) at (18bp,20.306bp) [draw,circle,state,initial] {$0$};
  \draw [->] (q1) ..controls (75.212bp,3.6347bp) and (64.284bp,-1.3057bp)  .. (54bp,1.3057bp) .. controls (50.042bp,2.3107bp) and (46.047bp,3.8633bp)  .. node[auto] {$b$} (q0);
  \draw [->] (q0) ..controls (46.106bp,20.306bp) and (58.578bp,20.306bp)  .. node[auto] {$b$} (q1);
  \draw [->] (q1) to[loop above] node[auto] {$a$} (q1);
  \draw [->] (q0) to[loop above] node[auto] {$a$} (q0);
%
\end{tikzpicture}

%%% end example1 %%%
\end{center}

\thingy Il faut comprendre le fonctionnement d'un DFA de la manière
suivante : initialement, l'automate est dans l'état initial $q_0$.  On
va lui présenter un mot $w \in \Sigma^*$, lettre par lettre, de la
gauche vers la droite : i.e., si $w = x_1\cdots x_n$ on va faire
consommer à l'automate les lettres $x_1,x_2,\ldots,x_n$ dans cet
ordre.  Le fait de consommer une lettre $x$ fait passer l'automate de
l'état $q$ à l'état $\delta(q,x)$ (autrement dit, l'automate passe
successivement dans les états $q_0$ puis $q_1 := \delta(q_0,x_1)$ puis
$q_2 := \delta(q_1,x_2)$, et ainsi de suite jusqu'à $q_n :=
\delta(q_{n-1},x_n)$) ; on dit que l'automate effectue les transitions
$q_0\to q_1$ (en consommant $x_1$) puis $q_1\to q_2$ (en
consommant $x_2$) et ainsi de suite.  Si $q_n$ est l'état dans lequel
se trouve l'automate une fois qu'il a consommé le mot $w$, on dira que
l'automate \emph{acepte} ou \emph{rejette} le mot selon que $q_n \in
F$ ou que $q_n \not\in F$.

Graphiquement, on peut présenter la procédure de la manière suivante :
on part de l'état $q_0$ (sommet du graphe représentant l'automate)
indiqué par la flèche entrante (pointant de nulle part), et pour
chaque lettre du mot $w = x_1\cdots x_n$ considéré, on suit l'arête
portant cette lettre pour étiquette (et partant de l'état où on se trouve
actuellement).  Si à la fin l'état $q_n$ est acceptant (représenté par
une flèche pointant vers nulle part), le mot $w$ est accepté, sinon il
est rejeté.

Cela revient encore à dire que le mot $w$ est accepté lorsqu'il existe
un chemin orienté dans l'automate, reliant l'état $q_0$ initial à un
état $q_n$ final, et tel que le mot $w = x_1 \cdots x_n$ soit obtenu
en lisant dans l'ordre les étiquettes $x_i$ des différentes arêtes
$q_{i-1} \to q_i$ de ce chemin.  Cette définition pourra resservir
presque à l'identique pour les autres sortes d'automates, la
spécificité des DFA est que l'état initial $q_0$ est unique et que
connaissant l'étiquette $x_i$ il n'y a qu'une seule transition
$q_{i-1} \to q_i$ possible (il n'y a pas de choix à faire, pas de
non-déterminisme).

\thingy\label{definition-multiple-transition-function} Pour donner de
façon plus formelle la définition du langage accepté par un automate,
il sera utile d'introduire une fonction $\delta^*$ de transition
multiple (une généralisation de $\delta$), qui définit l'état
$\delta^*(q,w)$ dans lequel aboutit un DFA si à partir de l'état $q$
on lui fait consommer successivement les lettres d'un mot $w$.

Formellement : si $A = (Q,q_0,F,\delta)$ est un DFA sur
l'alphabet $\Sigma$, on définit une fonction $\delta^* \colon
Q\times\Sigma^* \to Q$ par $\delta^*(q,x_1\cdots x_n) =
\delta(\cdots\delta(\delta(q,x_1),x_2)\cdots,x_n)$ ou, ce qui revient
au même (par récurrence sur la longueur du second argument) :
\begin{itemize}
\item $\delta^*(q,\varepsilon) = q$ quel que soit $q\in Q$ (où
  $\varepsilon$ désigne le mot vide),
\item $\delta^*(q,wx) = \delta(\delta^*(q,w),x)$ quels que soient
  $q\in Q$, $w\in\Sigma^*$ et $x\in\Sigma$,
\end{itemize}
(en particulier, $\delta^*(q,x) = \delta(q,x)$ si $x\in\Sigma$, donc
avec la convention faite en \ref{convention-on-words-of-length-one},
on peut dire que $\delta^*$ prolonge $\delta$ ; il sera par ailleurs
utile de remarquer que $\delta^*(q,ww') =
\delta^*(\delta^*(q,w),w')$, ce qui se démontre par récurrence).

Cette fonction $\delta^*$ étant définie, on dira que l'automate $A$
\defin[accepter]{accepte} ou
\index{reconnaître|see{accepter}}\textbf{reconnaît} un mot $w$ lorsque
$\delta^*(q_0,w) =: q_n \in F$ ; dans le cas contraire, on dira qu'il
\textbf{rejette} le mot $w$.

\thingy\label{definition-recognizable-language} L'ensemble $L_A$ des
mots acceptés par l'automate $A$ s'appelle \textbf{langage accepté},
ou \textbf{reconnu}, ou \textbf{défini}, par l'automate $A$.

Un langage $L \subseteq \Sigma^*$ qui peut s'écrire sous la forme du
langage $L_A$ accepté par un DFA $A$ s'appelle \defin[reconnaissable
  (langage)]{reconnaissable} (sous-entendu : par automate déterministe
fini).

On dit que deux DFA $A,A'$ sont \defin[équivalents
  (automates)]{équivalents} lorsqu'ils reconnaissent le même langage,
i.e., $L_A = L_{A'}$.

\thingy\label{discussion-example2} L'automate fini ci-dessous sur
$\Sigma := \{a,b,c\}$ a trois états, $Q = \{0,1,2\}$.  On peut en
faire la description informelle suivante : l'automate commence dans
l'état $0$, où il reste jusqu'à rencontrer un $a$ qui le fait passer
dans l'état $1$, où il reste ensuite jusqu'à rencontrer un $b$ qui le
fait passer dans l'état $2$, où il reste définitivement et qui
constitue le seul état acceptant.

\begin{center}
%%% begin example2 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,18bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,18bp) [draw,circle,state,initial] {$0$};
  \node (q2) at (178bp,18bp) [draw,circle,state,final] {$2$};
  \draw [->] (q0) ..controls (46.106bp,18bp) and (58.578bp,18bp)  .. node[auto] {$a$} (q1);
  \draw [->] (q1) to[loop above] node[auto] {$a,c$} (q1);
  \draw [->] (q1) ..controls (126.11bp,18bp) and (138.58bp,18bp)  .. node[auto] {$b$} (q2);
  \draw [->] (q0) to[loop above] node[auto] {$b,c$} (q0);
  \draw [->] (q2) to[loop above] node[auto] {$a,b,c$} (q2);
%
\end{tikzpicture}

%%% end example2 %%%
\end{center}

Cette description rend claire le fait que l'automate en question
accepte exactement les mots contenant un $a$ suivi, pas forcément
immédiatement, d'un $b$ ; autrement dit, les mots dont $ab$ est un
sous-mot (cf. \ref{definition-subword}).  Ce langage est donc
reconnaissable.  (Il est aussi rationnel puisque dénoté par
l'expression rationnelle $(b|c){*}a(b|c){*}b(a|b|c){*}$.)

\thingy\label{definition-dfa-accessible-state} Un état $q$ d'un DFA
est dit \defin[accessible (état)]{accessible} lorsqu'il existe un mot
$w \in \Sigma^*$ tel que $q = \delta(q_0,w)$, autrement dit,
graphiquement, lorsqu'il existe un chemin orienté
$q_0,q_1,\ldots,q_n=q$ reliant l'état initial $q_0$ à l'état $q$
considéré : bref, cela correspond à un état auquel il est possible que
l'automate arrive (en partant de l'état initial et en consommant un
certain mot).  Dans le cas contraire, l'état est dit
\textbf{inaccessible}.  Il est évident qu'ajouter ou supprimer (ou
modifier) les états inaccessibles dans un DFA ne change rien au
langage reconnu au sens où on obtient des langages équivalents.

Par exemple, dans le DFA qui suit, l'état $2$ est inaccessible
(l'automate est donc équivalent à celui représenté
en \ref{discussion-example1}).  On remarquera qu'il ne change rien que
cet état soit final ou non.

\begin{center}
%%% begin example1b %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,20.306bp) [draw,circle,state,final] {$1$};
  \node (q0) at (18bp,20.306bp) [draw,circle,state,initial] {$0$};
  \node (q2) at (172bp,20.306bp) [draw,circle,state,final] {$2$};
  \draw [->] (q1) ..controls (75.212bp,3.6347bp) and (64.284bp,-1.3057bp)  .. (54bp,1.3057bp) .. controls (50.042bp,2.3107bp) and (46.047bp,3.8633bp)  .. node[auto] {$b$} (q0);
  \draw [->] (q0) ..controls (46.106bp,20.306bp) and (58.578bp,20.306bp)  .. node[auto] {$b$} (q1);
  \draw [->] (q1) to[loop above] node[auto] {$a$} (q1);
  \draw [->] (q0) to[loop above] node[auto] {$a$} (q0);
%
\end{tikzpicture}

%%% end example1b %%%
\end{center}

\thingy On va maintenant introduire différentes variations sur le
thème des automates finis, c'est-à-dire différentes généralisations de
la définition faite en \ref{definition-dfa} correspondant à des types
d'automates finis plus puissants que les DFA mais dont on va montrer,
à chaque fois, qu'ils peuvent se ramener à des DFA au sens où pour
chacun de ces automates généralisés on pourra construire
algorithmiquement un DFA qui reconnaît le même langage (si bien que la
classe des langages reconnaissables par n'importe laquelle de ces
sortes d'automates sera toujours la même).  Les plus simples sont les
automates déterministes finis incomplets et on va donc commencer par
eux.


\subsection{Automates finis déterministes à spécification incomplète (=DFAI)}

\thingy\label{definition-dfai} Un \textbf{automate fini déterministe à
  spécification incomplète} ou \textbf{...partielle}, ou simplement
\defin{automate fini déterministe
  incomplet}\footnote{\label{footnote-on-word-incomplete}Le mot
  « incomplet » signifie en fait « non nécessairement complet », i.e.,
  l'automate a le droit de manquer certaines transitions, il peut très
  bien être complet.}, en abrégé \index{DFAI|see{automate fini
    déterministe incomplet}}\textbf{DFAI}, sur un alphabet $\Sigma$
est la donnée
\begin{itemize}
\item d'un ensemble fini $Q$ d'états,
\item d'un état initial $q_0 \in Q$,
\item d'un ensemble $F \subseteq Q$ d'états finaux,
\item d'une fonction de transition \emph{partielle}\footnote{Une
  « fonction partielle » $f\colon X\dasharrow Y$, où $X, Y$ sont deux
  ensembles est, par définition, la même chose qu'une fonction
  $f\colon D\to Y$ où $D\subseteq X$ est un sous-ensemble de $X$
  appelé \textbf{ensemble de définition} de $f$.  (Lorsque en fait
  $D=X$, la fonction est dite « totale ».)} $\delta \colon
  Q\times\Sigma \dasharrow Q$,
\end{itemize}
autrement dit, la seule différence avec la définition faite
en \ref{definition-dfa} est que la fonction $\delta$ est partielle, ce
qui signifie qu'elle n'est pas obligatoirement définie sur tout couple
$(q,x) \in Q\times\Sigma$.

(Un DFA est considéré comme un DFAI particulier où la fonction de
transition $\delta$ se trouve être définie partout.)

\thingy Graphiquement, on représente un DFAI comme un DFA, à la
différence près que pour chaque $q\in Q$ et chaque $x\in \Sigma$, il y
a maintenant \emph{au plus une} (et non plus exactement une) arête
partant de $q$ et étiquetée par $x$.

L'intérêt informatique des DFAI est de ne pas s'obliger à stocker
inutilement des transitions et de états inutiles au sens où elles ne
permettront jamais d'accepter le mot (voir la notion d'automate
« émondé » en \ref{coaccessible-and-useful-states} ci-dessous).  C'est
la raison pour laquelle, même si les DFA complets sont théoriquement
plus satisfaisants à manier (pour la même raison qu'une fonction
totale est plus satisfaisante qu'une fonction partielle), il est
souvent algorithmiquement plus judicieux de travailler sur des DFAI.

\thingy Le fonctionnement d'un DFAI est le même que celui d'un DFA, à
la modification suivante près : si on donne à consommer à l'automate
une lettre pour laquelle la transition n'est pas définie, i.e., s'il
rencontre un $x$ pendant qu'il se trouve dans un état $q$ pour lequel
$\delta(q,x)$ n'est pas défini, alors l'automate cesse de
fonctionner : l'automate n'a plus d'état, n'effectue plus de
transition, et n'acceptera pas le mot quelles que soient les lettres
ultérieures.

Cela revient une fois de plus à dire que le mot $w$ est accepté
lorsqu'il existe un chemin orienté dans l'automate, reliant l'état
$q_0$ initial à un état $q_n$ final, et tel que le mot $w = x_1 \cdots
x_n$ soit obtenu en lisant dans l'ordre les étiquettes $x_i$ des
différentes arêtes $q_{i-1} \to q_i$ de ce chemin.  La différence des
DFAI par rapport aux DFA est que, cette fois, la tentative de chemin
pourrait s'arrêter prématurément (on ne peut plus consommer un symbole
et passer dans un nouvel état, et à plus forte raison, aboutir à un
état final).

\thingy Formellement : si $A = (Q,q_0,F,\delta)$ est un DFAI sur
l'alphabet $\Sigma$, on définit une fonction $\delta^* \colon
Q\times\Sigma^* \dasharrow Q$ par $\delta^*(q,x_1\cdots x_n) =
\delta(\cdots\delta(\delta(q,x_1),x_2)\cdots,x_n)$ avec la convention
que dès qu'une sous-expression n'est pas définie, toute l'expression
n'est pas définie, ou, ce qui revient au même (par récurrence sur la
longueur du second argument) :
\begin{itemize}
\item $\delta^*(q,\varepsilon) = q$ quel que soit $q\in Q$ (où
  $\varepsilon$ désigne le mot vide),
\item $\delta^*(q,wx) = \delta(\delta^*(q,w),x)$ à condition que $q'
  := \delta^*(q,w)$ soit défini et que $\delta(q',x)$ le soit (et si
  ces deux conditions ne sont pas satisfaites, $\delta^*(q,wx)$ n'est
  pas défini).
\end{itemize}

Enfin, l'automate $A$ accepte un mot $w$ lorsque $\delta^*(q_0,w)$
\emph{est défini} et appartient à $F$ ; dans le cas contraire (que ce
soit parce que $\delta^*(q_0,w)$ n'est pas défini ou parce qu'étant
défini il n'appartient pas à $F$), l'automate rejette le mot.

Le langage accepté $L_A$ et l'équivalence de deux automates sont
définis de façon analogue aux DFA
(cf. \ref{definition-recognizable-language}).

\thingy\label{discussion-example2b} Voici un exemple de DFAI sur
l'alphabet $\Sigma = \{a,b,c\}$.  Cet automate reconnaît exactement
les mots formés d'un nombre quelconque de $c$, suivis d'un $a$, suivis
d'un nombre quelconque de $c$, suivis d'un $b$, suivis d'un nombre
quelconque de $c$.

\begin{center}
%%% begin example2b %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,18bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,18bp) [draw,circle,state,initial] {$0$};
  \node (q2) at (178bp,18bp) [draw,circle,state,final] {$2$};
  \draw [->] (q0) ..controls (46.106bp,18bp) and (58.578bp,18bp)  .. node[auto] {$a$} (q1);
  \draw [->] (q1) to[loop above] node[auto] {$c$} (q1);
  \draw [->] (q1) ..controls (126.11bp,18bp) and (138.58bp,18bp)  .. node[auto] {$b$} (q2);
  \draw [->] (q0) to[loop above] node[auto] {$c$} (q0);
  \draw [->] (q2) to[loop above] node[auto] {$c$} (q2);
%
\end{tikzpicture}

%%% end example2b %%%
\end{center}

(Ce langage est aussi dénoté par l'expression rationnelle
$c{*}ac{*}bc{*}$.)

\begin{prop}\label{completion-of-dfai}
Soit $A = (Q,q_0,F,\delta)$ un DFAI sur un alphabet $\Sigma$.  Alors
il existe un DFA $A' = (Q',q'_0,F',\delta')$ (sur le même
alphabet $\Sigma$) qui soit équivalent à $A$ au sens où il reconnaît
le même langage $L_{A'} = L_A$.  De plus, $A'$ se déduit
algorithmiquement de $A$ en ajoutant au plus un état « puits » à $A$ :
on a $\#Q' \leq \#Q + 1$.
\end{prop}
\begin{proof}
On définit $Q' = Q \cup \{q_\bot\}$ où $q_\bot$ est un nouvel état
(n'appartenant pas à $Q$), qu'on appellera « puits ».  On garde l'état
initial $q'_0 = q_0$.  On garde l'ensemble $F' = F$ d'états finaux,
c'est-à-dire notamment que le puits n'est pas acceptant.  Enfin, on
définit $\delta'(q,x)$ pour $q\in Q'$ et $x\in\Sigma$ par
\[
\begin{aligned}
\delta'(q,x) &= \delta(q,x)\text{ si $\delta(q,x)$ est défini}\\
\delta'(q,x) &= q_\bot\text{ sinon}\\
\end{aligned}
\]
(notamment, $\delta'(q_\bot,x) = q_\bot$ quel que soit $x$).

Il est alors facile de voir que $A'$ a le même comportement que $A$ au
sens où $\delta^{\prime*}(q,w) = \delta^*(q,w)$ lorsque le terme de
droite est défini et $\delta^{\prime*}(q,w) = q_\bot$ sinon (le DFA
$A'$ « tombe dans le puits » lorsque le DFAI $A$ cesse de
fonctionner).  En particulier, ils reconnaissent les mêmes langages.
\end{proof}

\thingy De façon générale, un état \defin[puits (état)]{puits} dans un
DFA est un état $q_\bot$ tel que $\delta(q_\bot,x)=q_\bot$ pour toute
lettre $x$.

On dit que le DFA $A'$ est obtenu en \defin[compléter (un
  DFAI)]{complétant} le DFAI $A$ lorsqu'il est obtenu par la procédure
décrite dans la démonstration de cette proposition, c'est-à-dire par
l'addition d'un état puits vers lequel on fait pointer toutes les
transitions manquantes (sauf si $A$ est déjà complet, auquel cas on
convient qu'il est son propre complété, i.e., on n'ajoute un puits que
quand c'est réellement nécessaire).

\thingy À titre d'exemple, le DFA suivant représente la complétion du
DFAI représenté en \ref{discussion-example2b} :

\begin{center}
%%% begin example2c %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\begin{scope}
  \pgfsetstrokecolor{black}
  \definecolor{strokecol}{rgb}{1.0,1.0,1.0};
  \pgfsetstrokecolor{strokecol}
  \definecolor{fillcol}{rgb}{1.0,1.0,1.0};
  \pgfsetfillcolor{fillcol}
  \filldraw (0bp,0bp) -- (0bp,182bp) -- (214bp,182bp) -- (214bp,0bp) -- cycle;
\end{scope}
  \node (q1) at (102bp,131bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,85bp) [draw,circle,state,initial] {$0$};
  \node (q2) at (196bp,85bp) [draw,circle,state,final] {$2$};
  \node (qbot) at (102bp,22bp) [draw,circle,state] {$\bot$};
  \draw [->] (q1) to[loop above] node[auto] {$c$} (q1);
  \draw [->] (q2) to[loop above] node[auto] {$c$} (q2);
  \draw [->] (qbot) to[loop below] node[auto] {$a,b,c$} (qbot);
  \draw [->] (q0) ..controls (44.565bp,65.359bp) and (61.506bp,52.343bp)  .. node[auto] {$b$} (qbot);
  \draw [->] (q0) to[loop above] node[auto] {$c$} (q0);
  \draw [->] (q1) ..controls (102bp,96.993bp) and (102bp,73.356bp)  .. node[auto] {$a$} (qbot);
  \draw [->] (q0) ..controls (46.061bp,100.18bp) and (63.141bp,109.76bp)  .. node[auto] {$a$} (q1);
  \draw [->] (q2) ..controls (166.87bp,65.735bp) and (145.76bp,51.281bp)  .. node[auto] {$a,b$} (qbot);
  \draw [->] (q1) ..controls (132.83bp,116.08bp) and (154.08bp,105.46bp)  .. node[auto] {$b$} (q2);
%
\end{tikzpicture}

%%% end example2c %%%
\end{center}

\thingy\label{coaccessible-and-useful-states} On définit un état
accessible d'un DFAI comme pour un DFA
(cf. \ref{definition-dfa-accessible-state}).

On dira en outre d'un état $q$ d'un DFAI qu'il est
\defin[co-accessible (état)]{co-accessible} lorsqu'il existe un mot $w
\in \Sigma^*$ tel que $\delta(q,w)$ soit défini et soit final,
autrement dit, graphiquement, lorsqu'il existe un chemin orienté
reliant l'état $q$ considéré à un état final (remarquer que les états
finaux eux-mêmes sont co-accessibles : prendre $w=\varepsilon$ dans ce
qu'on vient de dire).  Un état non co-accessible est donc un état à
partir duquel il est impossible de faire accepter le mot.  Cette
définition pourrait également être faite pour les DFA, mais pour les
DFAI elle présente l'intérêt qu'on peut supprimer les états
non co-accessibles dans un DFAI (ainsi, bien sûr, que toutes les
transitions qui y conduisent).

Un DFAI dont tous les états sont à la fois accessibles et
co-accessibles (on les dit aussi \defin[utile (état)]{utiles}) est
parfois appelé \defin[émondé (automate)]{émondé}.  On peut émonder un
DFAI en ne conservant que ses états utiles : ainsi, tout DFAI est
équivalent à un DFAI émondé.

\thingy Il faut prendre garde au fait que certains auteurs définissent
les « automates finis déterministes » (sans précision supplémentaire)
comme étant complets par défaut, d'autres comme étant incomplets par
défaut.  Le plus prudent est de préciser systématiquement « complet »
ou « incomplet » (en se rappelant qu'« incomplet » signifie « non
nécessairement complet », cf. la
note \ref{footnote-on-word-incomplete} sous \ref{definition-dfai}) dès
qu'il est important de ne pas confondre.


\subsection{Automates finis non-déterministes (=NFA)}

\thingy\textbf{Idée générale :} Le principe directeur général du
non-déterminisme en informatique est, grossièrement parlant, le
suivant : on a un mécanisme de calcul (ici, un automate fini) qui doit
accepter ou rejeter une certaine donnée (ici, un mot qui lui est
présenté), mais plutôt que d'évoluer de façon déterministe d'une
configuration à une autre (ici, d'un état à un autre), il se peut
qu'il existe plusieurs possibilités différentes, autrement dit, une
configuration peut évoluer de plusieurs manières différentes, ce qui
donne lieu à plusieurs chemins de calcul différents.  Selon le point
de vue qu'on adopte, et éventuellement la stratégie algorithmique pour
modéliser le non-déterminisme, on peut considérer que ces chemins sont
empruntés tous simultanément (et qu'on est dans tous les états
possibles à la fois\footnote{Certains sont parfois tentés de comparer
  avec une superposition quantique : il existe effectivement une
  analogie, mais le quantique implique une description bien précise
  des états (avec des amplitudes associées) qui n'est pas pertinente
  ici, et l'analogie mal appliquée conduirait à des erreurs en
  complexité algorithmique ; il vaut donc mieux ne pas y penser.},
c'est d'ailleurs l'approche qui servira
en \ref{determinization-of-nfa}), ou que tous les chemins possibles
sont testés successivement, ou encore que l'appareil non-déterministe
« devine » quel est le bon ; mais en tout cas la règle fondamentale du
non-déterminisme est toujours la suivante : \emph{la donnée est
  acceptée dès lors qu'il existe au moins un chemin de calcul possible
  qui conduit à l'accepter} (dans notre cas, cela signifiera au moins
un chemin acceptant le mot).

\thingy\label{definition-nfa} Un \defin{automate fini
  non-déterministe}, en abrégé \index{NFA|see{automate fini
    non-déterministe}}\textbf{NFA}, sur un alphabet $\Sigma$ est la
donnée
\begin{itemize}
\item d'un ensemble fini $Q$ d'états,
\item d'un ensemble $I \subseteq Q$ d'états dits initiaux,
\item d'un ensemble $F \subseteq Q$ d'états dits finaux,
\item d'une \emph{relation} de \index{transition (relation
  de)}transition $\delta \subseteq Q \times \Sigma \times Q$
  (c'est-à-dire une partie du produit cartésien $Q \times \Sigma
  \times Q$, i.e., un ensemble de triplets $(q,x,q') \in Q \times
  \Sigma \times Q$) ; lorsque $(q,x,q') \in \delta$, on dira qu'il
  existe une transition étiquetée par $x$ de $q$ vers $q'$.
\end{itemize}
Autrement dit, on autorise maintenant un ensemble quelconque d'états
initiaux, et de même, au lieu qu'un état $q$ et une lettre $x$
déterminent un unique état $q' = \delta(q,x)$, on a maintenant affaire
à un ensemble quelconque de triplets $(q,x,q')$.

\thingy Un DFAI (ou \textit{a fortiori} un DFA) est considéré comme un
NFA particulier en définissant l'ensemble des états initiaux du NFA
comme un singleton, $I_{\mathrm{NFA}} = \{q_{0,\mathrm{DFAI}}\}$, et
en définissant la relation de transition du NFA comme le graphe de la
fonction de transition du DFAI (c'est-à-dire $(q,x,q') \in
\delta_{\mathrm{NFA}}$ lorsque $\delta_{\mathrm{DFAI}}(q,x)$ est
défini et vaut $q'$).

\thingy Graphiquement, on représente un NFA comme un DFA : comme un
graphe orienté dont les nœuds sont les éléments de $Q$, et où on place
une arête étiquetée $x$ de $q$ vers $q'$ pour chaque triplet $(q,x,q')
\in \delta$ ; comme précédemment, on marque les états initiaux par une
flèche entrante (i.e., pointant de nulle part) et les états finaux par
une flèche sortante (i.e., pointant vers nulle part).

\thingy Il faut comprendre le fonctionnement d'un NFA de la manière
suivante : un mot $w$ est accepté par l'automate lorsqu'\emph{il
  existe} un chemin orienté conduisant d'\emph{un} état initial $q_0$
à un état final $q_n$ et tel que le mot $w = x_1 \cdots x_n$ soit
obtenu en lisant dans l'ordre les étiquettes $x_i$ des différentes
arêtes $q_{i-1} \to q_i$ de ce chemin ; autrement dit, $w$ est accepté
lorsqu'\emph{il existe} $q_0,\ldots,q_n \in Q$ tels que $q_0 \in I$ et
$q_n\in F$ et $(q_{i-1},x_i,q_i) \in \delta$ pour chaque $1\leq i\leq
n$.

La différence cruciale avec les DFAI est donc que, maintenant, il
pourrait exister plusieurs chemins possibles partant d'un état initial
dont les transitions sont étiquetées par les lettres du même mot.
Insistons bien sur le fait que le mot est accepté dès lors que
\emph{l'un} au moins de ces chemins relie un état initial à un état
final.

\thingy De même que dans le cadre des DFA et DFAI on a étendu la
fonction de transition $\delta$ à une fonction $\delta^*$ qui décrit
le comportement de l'automate quand on consomme plusieurs caractères
(cf. \ref{definition-multiple-transition-function}), on va étendre la
relation de transition $\delta$ d'un NFA à la situation où on consomme
plusieurs caractères.

Formellement : si $A = (Q,I,F,\delta)$ est un NFA sur
l'alphabet $\Sigma$, on définit une relation $\delta^* \subseteq Q
\times \Sigma^* \times Q$ par $(q,w,q') \in \delta^*$ lorsque $w =
x_1\cdots x_n$ et qu'il existe $(q_0,\ldots,q_n)$ tels que $q_0 = q$
et $q_n = q'$ et $(q_{i-1},x_i,q_i) \in \delta$ pour chaque $1\leq
i\leq n$ ; ou, ce qui revient au même (par récurrence sur la longueur
de $w$) :
\begin{itemize}
\item $(q,\varepsilon,q') \in \delta^*$ si et seulement si $q'=q$,
\item $(q,wx,q') \in \delta^*$ si et seulement si il existe $q^\sharp$
  tel que $(q,w,q^\sharp) \in \delta^*$ et $(q^\sharp,x,q') \in
  \delta$.
\end{itemize}

Enfin, l'automate $A$ accepte un mot $w$ lorsqu'il existe $q_0\in I$
et $q_\infty\in F$ tels que $(q_0,w,q_\infty) \in \delta^*$.  Le
langage accepté $L_A$ et l'équivalence de deux automates sont définis
de façon analogue aux DFA
(cf. \ref{definition-recognizable-language}).

\thingy\label{discussion-example4} Pour illustrer le fonctionnement
des NFA, considérons l'automate à trois états sur $\Sigma=\{a,b\}$
représenté par la figure suivante : on a $Q = \{0,1,2\}$ avec
$I=\{0\}$ et $F=\{2\}$ et $\delta = \{(0,a,0),\penalty0
(0,b,0),\penalty-100 (0,a,1),\penalty-50 (1,a,2),\penalty0 (1,b,2)\}$.

\begin{center}
%%% begin example4 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,18bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,18bp) [draw,circle,state,initial] {$0$};
  \node (q2) at (188bp,18bp) [draw,circle,state,final] {$2$};
  \draw [->] (q0) ..controls (46.106bp,18bp) and (58.578bp,18bp)  .. node[auto] {$a$} (q1);
  \draw [->] (q1) ..controls (128.76bp,18bp) and (145.63bp,18bp)  .. node[auto] {$a,b$} (q2);
  \draw [->] (q0) to[loop above] node[auto] {$a,b$} (q0);
%
\end{tikzpicture}

%%% end example4 %%%
\end{center}

Cet automate n'est pas déterministe car il existe deux transitions
étiquetées $a$ partant de l'état $0$.  En considérant les différents
chemins possibles entre $0$ et $2$ dans ce graphe, on comprend que le
langage qu'il reconnaît est le langage des mots sur $\{a,b\}$ dont
l'avant-dernière lettre est un $a$ (c'est aussi le langage dénoté par
l'expression rationnelle $(a|b){*}a(a|b)$).  Une façon de présenter le
non-déterminisme est que l'automate « devine », quand il est dans
l'état $0$ et qu'on lui fait consommer un $a$, si ce $a$ sera
l'avant-dernière lettre, et, dans ce cas, passe dans l'état $1$ pour
pouvoir accepter le mot.

\begin{prop}\label{determinization-of-nfa}
Soit $A = (Q,I,F,\delta)$ un NFA sur un alphabet $\Sigma$.  Alors il
existe un DFA $A' = (Q',q'_0,F',\delta')$ (sur le même
alphabet $\Sigma$) qui soit équivalent à $A$ au sens où il reconnaît
le même langage $L_{A'} = L_A$.  De plus, $A'$ se déduit
algorithmiquement de $A$ avec une augmentation au plus exponentielle
du nombre d'états : $\#Q' \leq 2^{\#Q}$.
\end{prop}
\begin{proof}
On définit $Q' = \mathscr{P}(Q) = \{\mathbf{q} \subseteq Q\}$
l'\emph{ensemble des parties} de $Q$ : c'est ce qui servira d'ensemble
d'états du DFA $A'$ qu'on construit (i.e., un état de $A'$ est un
ensemble d'états de $A$ — intuitivement, c'est l'ensemble des états
dans lesquels on se trouve simultanément).  On pose $q'_0 = I$ et $F'
= \{\mathbf{q}\subseteq Q :\penalty-100 \mathbf{q}\cap F
\neq\varnothing\}$ l'ensemble des états de $A'$ qui, vus comme des
ensembles d'états de $A$, contiennent \emph{au moins un} état final.
Enfin, pour $\mathbf{q}\subseteq Q$ et $x \in \Sigma$, on définit
$\delta'(\mathbf{q},x) = \{q_1\in Q : \exists q_0\in\mathbf{q}
((q_0,x,q_1) \in \delta)\}$ comme l'ensemble de tous les états $q_1$
de $A$ auxquels on peut accéder depuis un état $q_0$ dans $\mathbf{q}$
par une transition $(q_0,x,q_1)$ (étiquetée par $x$) de $A$.

Il est alors facile de voir (par récurrence sur $|w|$) que
$\delta^{\prime*}(\mathbf{q},w)$ est l'ensemble de tous les les états
$q_1 \in Q$ tels que $(q_0,w,q_1)\in\delta^*$, i.e., auxquels on peut
accéder depuis un état $q_0$ dans $\mathbf{q}$ par une suite de
transitions de $A$ étiquetées par les lettres de $w$.  En particulier,
$\delta^{\prime*}(I,w)$ est l'ensemble de tous les états de $A$
auxquels on peut accéder depuis un état initial de $A$ par une suite
de transitions de $A$ étiquetées par les lettres de $w$ : le mot $w$
appartient à $L_A$ si et seulement si cet ensemble contient un élément
de $F$, ce qui par définition de $F'$ signifie exactement
$\delta^{\prime*}(I,w) \in F'$.  On a bien prouvé $L_{A'} = L_A$.

Enfin, $\#Q' = \#\mathscr{P}(Q) = 2^{\#Q}$ (car une partie de $Q$ peut
se voir comme sa fonction indicatrice, qui est une fonction $Q \to
\{0,1\}$).
\end{proof}

\thingy On dit que le DFA $A'$ est obtenu en \defin[déterminiser (un
  NFA)]{déterminisant} le NFA $A$ lorsqu'il est obtenu par la
procédure décrite dans la démonstration de cette proposition en ne
gardant que les états accessibles.

Algorithmiquement, la déterminisation de $A$ s'obtient par la
procéduire suivante :
\begin{itemize}
\item créer une file (ou une pile) d'ensembles d'états de $A$ ;
  initialiser cette file avec le seul élément $I$ (vu comme un
  sous-ensemble de $Q$) ; et créer l'automate $A'$ avec initialement
  l'unique état $I$, marqué comme état initial, et aussi comme final
  s'il contient un état final de $A$ ;
\item tant que la file/pile n'est pas vide : en extraire un élément
  $\mathbf{q}$, et, pour chaque lettre $x\in\Sigma$,
\begin{itemize}
\item calculer l'ensemble $\mathbf{q}' = \{q_1\in Q : \exists
  q_0\in\mathbf{q} ((q_0,x,q_1) \in \delta)\}$ (en listant tous les
  triplets $(q_0,x,q_1)$ dont le premier élément est dans $\mathbf{q}$
  et le second élément est $x$),
\item si $\mathbf{q}'$ n'existe pas déjà comme état de $A'$, l'y
  ajouter, et dans ce cas, l'ajouter à la file/pile, et de plus, si
  $\mathbf{q}'$ contient un état final de $A$, marquer cet état comme
  final pour $A'$,
\item et ajouter à $A'$ la transition $\delta'(\mathbf{q},x) =
  \mathbf{q}'$.
\end{itemize}
\end{itemize}

La file/pile sert à stocker les états de $A'$ qui ont été créés mais
pour lesquels les transitions sortantes n'ont pas encore été
calculées.  L'algorithme se termine quand la file/pile se vide, ce qui
se produit toujours en au plus $2^{\#Q}$ étapes car chaque $\mathbf{q}
\subseteq Q$ ne peut apparaître qu'une seule fois dans la file/pile.

Il se peut que l'état $\varnothing$ soit créé : cet état servira
effectivement de puits, au sens où on aura $\delta'(\varnothing,x) =
\varnothing$ quel que soit $x$ (et l'état n'est pas acceptant).

Il arrive souvent que l'automate déterminisé soit plus petit que les
$2^{\#Q}$ états qu'il a dans le pire cas.

\thingy À titre d'exemple, déterminisons le NFA $A$ présenté
en \ref{discussion-example4} : on commence par construire un état
$\{0\}$ pour $A'$ car le NFA a $\{0\}$ pour ensemble d'états
initiaux ; on a $\delta'(\{0\},a) = \{0,1\}$ car $0$ et $1$ sont les
deux états auxquels on peut arriver dans $A$ par une transition
partant de $0$ et étiquetée par $a$, tandis que $\delta'(\{0\},b) =
\{0\}$ ; ensuite, $\delta'(\{0,1\},a) = \{0,1,2\}$ car $0,1,2$ sont
les trois états auxquels on peut arriver dans $A$ par une transition
partant de $0$ ou $1$ et étiquetée par $a$ ; et ainsi de suite.  En
procédant ainsi, on construit l'automate à $4$ états qui suit :

\begin{center}
\footnotesize
%%% begin example4det %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\begin{scope}
  \pgfsetstrokecolor{black}
  \definecolor{strokecol}{rgb}{1.0,1.0,1.0};
  \pgfsetstrokecolor{strokecol}
  \definecolor{fillcol}{rgb}{1.0,1.0,1.0};
  \pgfsetfillcolor{fillcol}
  \filldraw (0bp,0bp) -- (0bp,163bp) -- (212bp,163bp) -- (212bp,0bp) -- cycle;
\end{scope}
  \node (q02) at (188bp,27bp) [draw,circle,state,final] {$\{0,2\}$};
  \node (q0) at (18bp,18bp) [draw,circle,state,initial] {$\{0\}$};
  \node (q01) at (100bp,56bp) [draw,circle,state] {$\{0,1\}$};
  \node (q012) at (188bp,106bp) [draw,circle,state,final] {$\{0,1,2\}$};
  \draw [->] (q01) ..controls (127.39bp,49.663bp) and (137.27bp,46.959bp)  .. (146bp,44bp) .. controls (150.77bp,42.384bp) and (155.77bp,40.486bp)  .. node[auto] {$b$} (q02);
  \draw [->] (q02) ..controls (159.35bp,21.739bp) and (147.76bp,21.451bp)  .. (138bp,25bp) .. controls (132.05bp,27.164bp) and (126.38bp,30.754bp)  .. node[auto] {$a$} (q01);
  \draw [->] (q0) ..controls (45.691bp,30.678bp) and (60.407bp,37.668bp)  .. node[auto] {$a$} (q01);
  \draw [->] (q0) to[loop above] node[auto] {$b$} (q0);
  \draw [->] (q01) ..controls (128.64bp,72.07bp) and (144.34bp,81.198bp)  .. node[auto] {$a$} (q012);
  \draw [->] (q012) to[loop above] node[auto] {$a$} (q012);
  \draw [->] (q02) ..controls (155.56bp,18.853bp) and (136.78bp,14.735bp)  .. (120bp,13bp) .. controls (102.32bp,11.172bp) and (97.763bp,12.273bp)  .. (80bp,13bp) .. controls (68.968bp,13.451bp) and (56.843bp,14.36bp)  .. node[auto] {$b$} (q0);
  \draw [->] (q012) ..controls (188bp,73.926bp) and (188bp,64.965bp)  .. node[auto] {$b$} (q02);
%
\end{tikzpicture}

%%% end example4det %%%
\end{center}

On remarquera qu'on a construit moins que les $2^3 = 8$ états qu'on
pouvait craindre.

Il est par ailleurs instructif de regarder comment fonctionne
l'automate $A'$ ci-dessus pour déterminer si l'avant-dernière lettre
d'un mot est un $a$ : intuitivement, l'état $\{0\}$ mémorise
l'information « la dernière lettre n'était pas un $a$, et la
  précédente ne l'était pas », l'état $\{0,1\}$ mémorise « la dernière
  lettre était un $a$, mais la précédente ne l'état pas », l'état
$\{0,1,2\}$ mémorise « les deux dernières lettres étaient des $a$ »,
et l'état $\{0,2\}$ mémorise « la dernière lettre était un $b$, mais
  la précédente était un $a$ ».

\thingy On vient donc de voir que les NFA sont équivalents aux DFA en
ce sens qu'ils permettent de définir les mêmes langages.  Il est
néanmoins intéressant de les définir et de les étudier pour plusieurs
raisons : d'une part, l'équivalence qu'on vient de voir, c'est-à-dire
la déterminisation d'un NFA en DFA, a un coût algorithmique important
(exponentiel en nombre d'états dans le pire cas), d'autre part,
certaines opérations sur les automates se définissent plus
naturellement sur les NFA que sur les DFA, et certaines constructions
conduisent naturellement à un NFA.  On verra en particulier
en \ref{subsection-recognizable-languages-under-rational-operations}
que pour transformer une expression rationnelle en automate, on
passera naturellement par un NFA, même si on peut souhaiter le
déterminiser ensuite.


\subsection{Automates finis non-déterministes à transitions spontanées (=εNFA)}

\thingy\label{definition-enfa} Un \defin{automate fini
  non-déterministe à transitions spontanées} ou \textbf{...à
  $\varepsilon$-transitions}, en abrégé
\index{epsilon-NFA@$\varepsilon$NFA|see{automate fini non-déterministe
    à transitions spontanées}}\textbf{εNFA}, sur un alphabet $\Sigma$
est la donnée
\begin{itemize}
\item d'un ensemble fini $Q$ d'états,
\item d'un ensemble $I \subseteq Q$ d'états dits initiaux,
\item d'un ensemble $F \subseteq Q$ d'états dits finaux,
\item d'une relation de transition $\delta \subseteq Q \times
  (\Sigma\cup\{\varepsilon\}) \times Q$.
\end{itemize}
Autrement dit, on autorise maintenant des transitions étiquetées par
le mot vide $\varepsilon$ plutôt que par une lettre $x \in\Sigma$ :
ces transitions sont dites \defin[spontanée (transition)]{spontanées},
ou
\index{epsilon-transition@$\varepsilon$-transition|see{spontanée}}\textbf{ε-transitions}.

Soulignons qu'on ne définit les ε-transitions \emph{que} pour les
automates non-déterministes : ou, pour dire les choses autrement,
\emph{un automate qui possède des ε-transitions est par nature même
  non-déterministe}.

La représentation graphique des εNFA est évidente (on utilisera le
symbole « $\varepsilon$ » pour étiqueter les transitions spontanées).
Un NFA est considéré comme un εNFA particulier pour lequel il n'y a
pas de ε-transition.

\thingy Intuitivement, les transitions spontanées signifient que
l'automate a la possibilité de passer spontanément, c'est-à-dire
\emph{sans consommer de lettre}, d'un état $q$ à un état $q'$, lorsque
ces états sont reliés par une ε-transition.  (On comprend, du coup,
pourquoi un automate à transition spontanée est forcément
non-déterministe : ces transitions spontanées ne sont qu'une
\emph{possibilité}, ce qui sous-entend le non-déterminisme.)

De façon plus précise, un εNFA accepte un mot $w$ lorsqu'\emph{il
  existe} un chemin orienté conduisant d'un état initial $q_0$ à un
état final $q_n$ et tel que $w$ coïncide avec le mot obtenu en lisant
dans l'ordre les étiquettes $x_i$ des différentes arêtes $q_{i-1} \to
q_i$ de ce chemin, quitte à ignorer les $\varepsilon$.

Autrement dit, $w$ est accepté lorsqu'\emph{il existe} $q_0,\ldots,q_n
\in Q$ et $t_1,\ldots,t_n \in (\Sigma\cup\{\varepsilon\})$ tels que
$q_0 \in I$ et $q_n\in F$ et $(q_{i-1},t_i,q_i) \in \delta$ pour
chaque $1\leq i\leq n$ et $w = t_1\cdots t_n$ (\emph{attention} : dans
cette écriture, $t_1,\ldots,t_n$ ne sont pas forcément les lettres
de $w$, certains des $t_i$ peuvent être le symbole $\varepsilon$, les
lettres de $w$ sont obtenues en ignorant ces symboles).

\thingy Voici une formalisation possible : si $A = (Q,I,F,\delta)$ est
un εNFA sur l'alphabet $\Sigma$, on définit une relation $\delta^*
\subseteq Q \times \Sigma^* \times Q$ par $(q,w,q') \in \delta^*$
lorsqu'il existe $q_0,\ldots,q_n \in Q$ et $t_1,\ldots,t_n \in
(\Sigma\cup\{\varepsilon\})$ tels que $q_0 = q$ et $q_n = q'$ et
$(q_{i-1},t_i,q_i) \in\delta$ pour chaque $1\leq i\leq n$, et enfin $w
= t_1\cdots t_n$.

Enfin, l'automate $A$ accepte un mot $w$ lorsqu'il existe $q_0\in I$
et $q_\infty\in F$ tels que $(q_0,w,q_\infty) \in \delta^*$.  Le
langage accepté $L_A$ et l'équivalence de deux automates sont définis
de façon analogue aux DFA
(cf. \ref{definition-recognizable-language}).

\thingy\label{discussion-example5} Voici un exemple de εNFA
particulièrement simple sur $\Sigma = \{a,b,c\}$:

\begin{center}
%%% begin example5 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,18bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,18bp) [draw,circle,state,initial] {$0$};
  \node (q2) at (178bp,18bp) [draw,circle,state,final] {$2$};
  \draw [->] (q0) ..controls (46.106bp,18bp) and (58.578bp,18bp)  .. node[auto] {$\varepsilon$} (q1);
  \draw [->] (q1) to[loop above] node[auto] {$b$} (q1);
  \draw [->] (q1) ..controls (126.11bp,18bp) and (138.58bp,18bp)  .. node[auto] {$\varepsilon$} (q2);
  \draw [->] (q0) to[loop above] node[auto] {$a$} (q0);
  \draw [->] (q2) to[loop above] node[auto] {$c$} (q2);
%
\end{tikzpicture}

%%% end example5 %%%
\end{center}

En considérant les différents chemins possibles entre $0$ et $2$ sur
ce graphe, on comprend que le langage qu'il reconnaît est celui des
mots sur $\{a,b,c\}$ formés d'un nombre quelconque de $a$ suivi d'un
nombre quelconque de $b$ suivi d'un nombre quelconque de $c$, ou, si
on préfère, le langage dénoté par l'expression rationnelle
$a{*}b{*}c{*}$.

\thingy Si $q$ est un état d'un εNFA, on appelle
\defin[epsilon-fermeture@$\varepsilon$-fermeture]{ε-fermeture} de $q$
l'ensemble des états $q'$ (y compris $q$ lui-même) accessibles depuis
$q$ par une succession quelconque de ε-transitions, c'est-à-dire, si
on veut, $\{q'\in Q :\penalty0 (q,\varepsilon,q') \in\delta^*\}$.  On
notera temporairement $C(q)$ cet ensemble.  (Par exemple, dans
l'exemple \ref{discussion-example5} ci-dessus, on a $C(0) = \{0,1,2\}$
et $C(1) = \{1,2\}$ et $C(2) = \{2\}$.  Dans tout NFA sans
ε-transitions, on a $C(q) = \{q\}$ pour tout état $q$.)

Il est clair qu'on peut calculer algorithmiquement $C(q)$ (par exemple
par un algorithme de Dijkstra sur le graphe dont l'ensemble des
sommets est $Q$ et l'ensemble des arêtes est l'ensemble des
ε-transitions de $A$ : la ε-fermeture $C(q)$ est simplement l'ensemble
des sommets accessibles depuis $q$ dans ce graphe).

\begin{prop}\label{removal-of-epsilon-transitions}
Soit $A = (Q,I,F,\delta)$ un εNFA sur un alphabet $\Sigma$.  Alors il
existe un NFA $A^\S = (Q,I^\S,F^\S,\delta^\S)$ (sur le même
alphabet $\Sigma$) ayant le même ensemble d'états $Q$ que $A$ et qui
soit équivalent à $A$ au sens où il reconnaît le même langage
$L_{A^\S} = L_A$.  De plus, $A^\S$ se déduit algorithmiquement de $A$.
\end{prop}
\begin{proof}
On pose $I^\S = I$ (mêmes états initiaux).  L'idée est maintenant de
faire une transition $(q,x,q') \in \delta^\S$ à chaque fois qu'on peut
atteindre $q'$ à partir de $q$ dans $A$ par une suite quelconque de
ε-transitions suivie d'une unique transition étiquetée par $x$,
autrement dit, $(q,\varepsilon,q^\sharp) \in \delta^*$ (c'est-à-dire
$q^\sharp \in C(q)$) et $(q^\sharp,x,q') \in \delta$.

On définit donc $\delta^\S \subseteq Q\times\Sigma\times Q$ par
$(q,x,q') \in \delta^\S$ lorsqu'il existe $q^\sharp \in C(q)$ tel que
$(q^\sharp,x,q') \in \delta$ : autrement dit, pour créer les
transitions $q\to q'$ dans $A^\S$, on parcourt tous les $q^\sharp \in
C(q)$, et on crée une transition $q\to q'$ étiquetée par $x$
dans $A^\S$ lorsqu'il existe une transition $q^\sharp\to q'$ étiquetée
par ce $x$ dans $A$.  De même, on définit $F^\S \subseteq Q$ comme
l'ensemble des $q\in Q$ tels que $C(q) \cap F \neq \varnothing$,
c'est-à-dire, qu'on peut atteindre un état final par une succession de
ε-transitions.

Si on a un chemin $q_0 \to q_1 \to \cdots \to q_n$ dans $A$ menant
d'un état initial $q_0 \in I$ à un état final $q_n \in F$ et
étiquetées par $t_1,\ldots,t_n \in (\Sigma\cup\{\varepsilon\})$
(c'est-à-dire $(q_{i-1},t_i,q_i) \in \delta$), appelons
$j_1<\ldots<j_m$ les indices tels que $t_j \in\Sigma$, autrement dit,
tels que la transition $q_{j-1} \to q_j$ ne soit pas spontanée, et
posons $j_0 = 0$.  Alors on passe de $q_{j_{i-1}}$ à $q_{j_i}$ par une
succession de ε-transitions (de $q_{j_{i-1}}$ à $q_{(j_i)-1}$) suivie
par une unique transition non spontanée : on a $q_{(j_i)-1} \in
C(q_{j_{i-1}})$ et $(q_{(j_i)-1},t_{j_i},q_{j_i}) \in \delta$,
autrement dit $(q_{j_{i-1}},t_{j_i},q_{j_i}) \in \delta^\S$ ; et comme
le mot $w = t_1\cdots t_n$ s'écrit aussi $t_{j_1}\cdots t_{j_m}$, on a
un chemin reliant $q_{j_0} = q_0 \in I$ à $q_{j_m} \in F^\S$ (puisque
$q_n \in C(q_{j_m}) \cap F$).  Le mot $w$ supposé accepté par $A$ est
donc accepté par $A^\S$.  La réciproque est analogue.
\end{proof}

\thingy On dit que le NFA $A^\S$ est obtenu en \defin[éliminer (les
  transitions spontanées)]{éliminant les ε-transitions} dans le
εNFA $A$ lorsqu'il est obtenu par la procédure décrite dans la
démonstration de cette proposition, et en supprimant tous les états
non-initiaux de $A^\S$ auxquels n'aboutissent dans $A$ que des
ε-transitions (ces états sont devenus inaccessibles dans $A^\S$).
Algorithmiquement, il s'agit donc, pour chaque état $q\in Q$ et chaque
$q^\sharp$ dans la ε-femerture $C(q)$ de $q$, de créer une transition
$q\to q'$ étiquetée par $x$ dans $A^\S$ pour chaque transition
$q^\sharp\to q'$ étiquetée par $x$ dans $A$.

\thingy\label{removal-of-epsilon-transitions-from-example5}
À titre d'exemple, éliminons les ε-transitions du εNFA $A$
présenté en \ref{discussion-example5} : comme $C(0) = \{0,1,2\}$, on
fait partir de $0$ toutes les transitions partant d'un des états
$0,1,2$ et étiquetées par une lettre, et de même, comme $C(1) =
\{1,2\}$, on fait pratir de $1$ toutes les transitions partant d'un
des états $1,2$ et étiquetées par une lettre.  On obtient finalement
l'automate suivant :

\begin{center}
%%% begin example5ne %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (97bp,48bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,18bp) [draw,circle,state,initial] {$0$};
  \node (q2) at (176bp,18bp) [draw,circle,state,final] {$2$};
  \draw [->] (q0) ..controls (47.643bp,10.917bp) and (64.2bp,7.4655bp)  .. (79bp,6bp) .. controls (94.922bp,4.4234bp) and (99.078bp,4.4234bp)  .. (115bp,6bp) .. controls (125.98bp,7.0877bp) and (137.94bp,9.2693bp)  .. node[auto] {$c$} (q2);
  \draw [->] (q2) to[loop above] node[auto] {$c$} (q2);
  \draw [->] (q0) to[loop above] node[auto] {$a$} (q0);
  \draw [->] (q1) to[loop above] node[auto] {$b$} (q1);
  \draw [->] (q1) ..controls (124.28bp,37.762bp) and (137.94bp,32.438bp)  .. node[auto] {$c$} (q2);
  \draw [->] (q0) ..controls (45.279bp,28.238bp) and (58.943bp,33.562bp)  .. node[auto] {$b$} (q1);
%
\end{tikzpicture}

%%% end example5ne %%%
\end{center}

(Sur cet exemple précis, on obtient un automate déterministe
incomplet, mais ce n'est pas un phénomène général : en général il faut
s'attendre à obtenir un NFA.)

{\footnotesize

\thingy\textbf{Remarque :} La manière dont on a éliminé les
ε-transitions ci-dessus consiste à remplacer \emph{une succession de
  ε-transitions suivie d'une unique transition étiquetée $x$} par une
transition étiquetée $x$ (et de même, on modifie les états finaux,
mais pas les états initiaux).  Il existait un moyen « dual »
d'éliminer les ε-transitions, à savoir remplacer \emph{une unique
  transition étiquetée $x$ suivie d'une succession de ε-transitions}
par une transition étiquetée $x$ (et de même, on modifie les états
initiaux, mais pas les états finaux).  Autrement dit, la construction
$A \mapsto A^\S$ décrite en \ref{removal-of-epsilon-transitions}
définit $(q,x,q') \in \delta^\S$ lorsqu'il existe $q^\sharp \in C(q)$
tel que $(q^\sharp,x,q') \in \delta$, et $I^\S=I$ et $F^\S$ comme
l'ensemble des états $q$ tels que $C(q) \cap F \neq \varnothing$ ; la
construction « duale » $A \mapsto A^\P$ consiste à poser $(q,x,q') \in
\delta^\P$ lorsqu'il existe $q^{\flat\prime} \in C(q)$ tel que
$(q,x,q^{\flat\prime}) \in \delta$, et $F^\P=F$ et $I^\P$ comme la
réunion des $C(q)$ pour tout $q\in I$.

Ces deux manières d'éliminer les ε-transitions donnent des NFA
équivalents.  En fait, on peut passer de l'une à l'autre en utilisant
la définition de l'automate transposé $A^{\mathsf{R}}$ présentée
en \ref{nfa-mirror} plus bas (et qui consiste simplement à inverser le
sens de toutes les flèches de l'automate) : si on inverse les flèches,
qu'on élimine les ε-transitions à la manière décrite
en \ref{removal-of-epsilon-transitions}, et qu'on inverse de nouveau
les flèches, on obtient l'élimination « duale », autrement dit, $A^\P
= ((A^{\mathsf{R}})^\S)^{\mathsf{R}}$.

L'une ou l'autre manière d'éliminer les ε-transitions était possible,
mais il vaut mieux ne pas les mélanger.  C'est pour cette raison qu'on
a fait un choix en \ref{removal-of-epsilon-transitions} ; la présente
remarque a principalement pour objectif d'expliquer la raison d'une
perte de symétrie (notamment entre états initiaux et finaux) dans ce
choix.

\par}

\thingy L'intérêt des εNFA, même s'ils sont finalement équivalents aux
NFA, est que certaines constructions sur les automates sont plus
simples ou plus transparentes lorsqu'on s'autorise à fabriquer des
εNFA (à titre d'exemple, l'automate présenté
en \ref{discussion-example5} est beaucoup plus transparent à lire que
le NFA équivalent donné
en \ref{removal-of-epsilon-transitions-from-example5}).  On verra
notamment en \ref{subsection-thompson-construction} qu'il est facile
(quoique inefficace) de construire un εNFA reconnaissant le langage
dénoté par une expression rationnelle quelconque ; et
en \ref{subsection-recognizable-languages-under-rational-operations}
que, même si on fabrique directement un NFA, il peut être utile
d'introduire temporairement des transitions spontanées dans la
construction de ce NFA, quitte à les éliminer immédiatement (cela
simplifie la description).


\section{Langages reconnaissables et langages rationnels}\label{section-recognizable-languages}

\subsection{Stabilité des langages reconnaissables par opérations booléennes et miroir}

\thingy On rappelle qu'on a défini un langage \index{reconnaissable
  (langage)}reconnaissable comme un langage $L$ pour lequel il existe
un DFA $A$ tel que $L = L_A$.  D'après \ref{completion-of-dfai},
\ref{determinization-of-nfa} et \ref{removal-of-epsilon-transitions},
on peut remplacer « DFA » dans cette définition par « DFAI », « NFA »
ou « εNFA » sans changer la définition.

Nous allons maintenant montrer que les langages reconnaissables sont
stables par différentes opérations.  Dans cette section, nous traitons
le cas des opérations booléennes (complémentaire, union, intersection)
et l'opération « miroir » ; la
section \ref{subsection-recognizable-languages-under-rational-operations}
traite des opérations booléennes.

\begin{prop}\label{dfa-complement}
Si $L$ est un langage reconnaissable sur un alphabet $\Sigma$, alors
le complémentaire $\Sigma^*\setminus L$ de $L$ est reconnaissable ; de
plus, un DFA reconnaissant l'un se déduit algorithmiquement d'un DFA
reconnaissant l'autre.
\end{prop}
\begin{proof}
Par hypothèse, il existe un DFA (complet !) $A = (Q,q_0,F,\delta)$ tel
que $L = L_A$.  Considérons le DFA $A'$ défini par l'ensemble d'états
$Q' = Q$, l'état initial $q'_0 = q_0$, la fonction de transition
$\delta' = \delta$ et pour seul changement l'ensemble d'états finaux
$F' = Q \setminus F$ complémentaire de $F$.

Si $w \in \Sigma^*$, on a $w \in L_{A'}$ si et seulement si
$\delta^{\prime*}(q_0,w) \in F'$, c'est-à-dire $\delta^*(q_0,w) \in
F'$ (puisque $\delta' = \delta$), c'est-à-dire $\delta^*(q_0,w)
\not\in F$ (par définition du complémentaire), c'est-à-dire $w \not\in
L_A$.  Ceci montre bien que $L_{A'}$ est le complémentaire de $L_A$.
\end{proof}

\thingy Cette démonstration a utilisé la caractérisation des langages
reconnaissables par les DFA : il était crucial de le faire, et les
autres sortes d'automates définis plus haut n'auraient pas permis
d'arriver (simplement) à la même conclusion.  Il est intéressant de
réfléchir à pourquoi.  (Essentiellement, dans un NFA, un mot est
accepté dès qu'\emph{il existe} un chemin qui l'accepte, or
l'existence d'un chemin aboutissant à un état non-final n'est pas la
même chose que l'inexistence d'un chemin aboutissant à un état final.)

\begin{prop}\label{dfa-union-and-intersection}
Si $L_1,L_2$ sont des langages reconnaissables (sur un même
alphabet $\Sigma$), alors la réunion $L_1\cup L_2$ et l'intersection
$L_1\cap L_2$ sont reconnaissables ; de plus, un DFA reconnaissant
l'un comme l'autre se déduit algorithmiquement de DFA reconnaissant
$L_1$ et $L_2$.
\end{prop}
\begin{proof}
Traitons le cas de l'intersection.  Par hypothèse, il existe des DFA
(complets !) $A_1 = (Q_1,q_{0,1},F_1,\delta_1)$ et $A_2 =
(Q_2,q_{0,2},F_2,\delta_2)$ tels que $L_1 = L_{A_1}$ et $L_2 =
L_{A_2}$.  Considérons le DFA $A'$ défini par l'ensemble d'états $Q' =
Q_1 \times Q_2$ (c'est-à-dire l'ensemble des couples formés d'un état
de $A_1$ et d'un état de $A_2$), l'état initial $q'_0 =
(q_{0,1},q_{0,2})$, la fonction de transition $\delta' \colon
((p_1,p_2),x) \mapsto (\delta_1(p_1,x), \delta_2(p_2,x))$ et pour
ensemble d'états finaux $F' = F_1\times F_2$.  Remarquons que
$(p_1,p_2) \in Q'$ appartient à $F' = F_1\times F_2$ si et seulement
si $p_1 \in F_1$ \emph{et} $p_2 \in F_2$ (i.e., $F' \subseteq Q'$ est
l'ensemble des couples dont les deux composantes sont finales).  Par
ailleurs, si $w\in \Sigma^*$, on a $\delta^{\prime*}(q_0',w) =
(\delta_1^*(q_{0,1},w), \delta_2^*(q_{0,2},w))$, et par ce qui vient
d'être dit, ceci appartient à $F'$ si et seulement
$\delta_1^*(q_{0,1},w) \in F_1$ et $\delta_2^*(q_{0,2},w) \in F_2$.
On voit donc qu'un mot $w$ appartient à $L_{A'}$ si et seulement il
appartient à la fois à $L_1$ et à $L_2$, ce qu'il fallait démontrer.

Pour la réunion, on peut invoquer le fait que la réunion est le
complémentaire de l'intersection des complémentaires, et
utiliser \ref{dfa-complement} ; si on déroule cette démonstration, on
voit qu'on construit un DFA $A''$ exactement égal à $A'$ construit
ci-dessus, à la seule différence près que son ensemble d'états finaux
est $F'' = (F_1\times Q_2) \cup (Q_1\times F_2)$, qui est le
sous-ensemble de $Q'' = Q_1\times Q_2$ formé des couples dont
\emph{l'une au moins} des deux composantes est finale.
\end{proof}

\thingy La construction $A'$ ci-dessus est parfois appelée automate
\index{produit (d'automates)}\emph{produit} des DFA $A_1$ et $A_2$.

La construction de l'automate produit pour fabriquer le langage
intersection utilise la caractérisation des langages reconnaissables
par les DFA : elle aurait aussi fonctionné pour les DFAI mais pas pour
les NFA ; il est intéressant de réfléchir à pourquoi.  (Une
construction du type produit pourrait fonctionner sur les NFA pour le
langage réunion, mais elle n'a aucun intérêt par rapport à la
construction présentée en \ref{nfa-union}.)

\begin{prop}\label{nfa-mirror}
Si $L$ est un langage reconnaissable sur un alphabet $\Sigma$, alors
le langage miroir (cf. \ref{definition-mirror-language})
$L^{\mathsf{R}}$ de $L$ est reconnaissable ; de plus, un NFA ou εNFA
reconnaissant l'un se déduit algorithmiquement d'un NFA ou εNFA
reconnaissant l'autre : il s'agit simplement d'inverser le sens de
toutes les flèches (y compris celles qui marquent les états initiaux
et finaux).
\end{prop}

L'automate ainsi construit en inversant toutes les flèches d'un
automate $A$ (la définition précise est donnée dans la démonstration
qui suit) et qui reconnaît le langage miroir de celui reconnu par $A$
peut s'appeller automate \defin[transposé (automate)]{transposé}
$A^{\mathsf{R}}$ de $A$.

\begin{proof}
Par hypothèse, il existe un NFA ou un εNFA $A = (Q,I,F,\delta)$ tel
que $L = L_A$.  Considérons l'automate $A^{\mathsf{R}}$ de même type
défini par l'ensemble d'états $Q^{\mathsf{R}} = Q$ et inversant toutes
les flèches de $A$, c'est-à-dire $I^{\mathsf{R}} = F$ et
$F^{\mathsf{R}} = I$ et $(q,t,q') \in \delta^{\mathsf{R}}$ si et
seulement si $(q^{\mathsf{R}},t,q) \in \delta$.  Un chemin existe dans
$A^{\mathsf{R}}$ si et seulement si le même chemin inversé existe
dans $A$, ce qui montre qu'un mot appartient à $L_{A^{\mathsf{R}}}$ si
et seulement si son miroir appartient à $L_A$.  On a donc bien
$L_{A^{\mathsf{R}}}=L^{\mathsf{R}}$, langage miroir de $L$.
\end{proof}

\thingy Alors que les constructions du complémentaire et de
l'intersection s'effectuaient naturellement sur les DFA, celle du
langage miroir s'effectue naturellement sur les NFA.  (On peut, bien
sûr, considérer un DFA comme un NFA particulier, et effectuer dessus
l'opération d'inversion des flèches qu'on vient de décrire, mais en
général on n'obtiendra pas un DFA, seulement un NFA ; les NFA dont
l'automate transposé est déterministe — c'est-à-dire tels que, pour
chaque état $q$ et chaque lettre $x$, il existe une unique arête
aboutissant à $q$ et étiquetée par $x$ — sont parfois dits
« co-déterministes ».)

\subsection{Stabilité des langages reconnaissables par opérations rationnelles, automates standards, construction de Glushkov}\label{subsection-recognizable-languages-under-rational-operations}

\thingy Nous allons maintenant montrer que la classe des langages
reconnaissables est stable par les opérations rationnelles (union,
concaténation et étoile de Kleene,
cf. \ref{stable-under-rational-operations} ; on l'a déjà vu sur les
DFA en \ref{dfa-union-and-intersection} pour la réunion, mais on va en
donner une nouvelle démonstration, cette fois basée sur les NFA, qui a
un contenu algorithmique utile dans des circonstances différentes).
Cela permettra de conclure que les langages rationnels sont
reconnaissables (la réciproque faisant l'objet de la
section \ref{subsection-rnfa-and-kleenes-algorithm}).

Pour établir ces stabilités, on va travailler sur les NFA et utiliser
la construction parfois appelée « de Glushkov » ou « automate
standard » ; ceci fournira un « automate de Glushkov » pour chaque
expression rationnelle $r$.  Cette construction travaille, en fait,
sur des NFA vérifiant une propriété supplémentaire facile à assurer,
et on va commencer par un lemme dans ce sens :

\begin{lem}\label{standard-automaton-lemma}
Soit $A$ un NFA.  Alors il existe un NFA $A'$ (sur le même
alphabet $\Sigma$) qui soit équivalent à $A$ et qui possède la
propriété supplémentaire d'avoir un \emph{unique} état initial $q_0$
et qu'aucune transition n'aboutit à $q_0$.  De plus, $A'$ se déduit
algorithmiquement de $A$ et a au plus un état de plus que $A$.

(On pourra appeler \defin[standard (automate)]{standard} un NFA
vérifiant cette propriété d'avoir un unique état initial qui n'est la
cible d'aucune transition.  L'affirmation est donc que tout NFA est
équivalent à un NFA \emph{standard} qui s'en déduit algorithmiquement
par l'ajout d'au plus un état.)
\end{lem}
\begin{proof}
On fabrique $A'$ en reprenant le même ensemble d'états $Q$ que
dans $A$ auquel on ajoute un unique nouvel état $q_0$ qui sera le seul
état initial de $A'$ ; pour chaque transition partant d'un état
initial de $A$, on ajoute dans $A'$ une transition identiquement
étiquetée partant de $q_0$.

Formellement : soit $A = (Q,I,F,\delta)$.  On définit alors $A' =
(Q',\{q_0\},F,\delta')$ de la manière suivante : $Q' = Q \uplus
\{q_0\}$ (où $\uplus$ désigne une réunion
disjointe\footnote{C'est-à-dire qu'on s'arrange pour que $q_0$
  n'appartienne pas à $Q$.}), et $\delta'$ est la réunion des
transitions $(q,x,q')$ qui étaient déjà dans $\delta$ et des
$(q_0,x,q')$ telles qu'il existe une transition $(q,x,q') \in \delta$
avec $q\in I$.

La figure suivante illustre la transformation en question :
\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A) at (0bp,0bp) [draw,dotted,circle,minimum size=75bp] {$A$};
\node (q) at (-15bp,15bp) [draw,circle,state,initial] {\footnotesize $q$};
\node (qp) at (15bp,15bp) [draw,circle,state] {\footnotesize\vbox to0pt{\vss\hbox to0pt{$q'$\hss}}\phantom{$q$}};
\draw [->] (A.east) -- ($(A.east)+(3ex,0)$);
\draw [->] (q) -- node[auto] {\footnotesize $x$} (qp);
\end{tikzpicture}
\quad devient\quad
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A) at (0bp,0bp) [draw,dotted,circle,minimum size=75bp] {\phantom{$A$}};
\node (q) at (-15bp,15bp) [draw,circle,state] {\footnotesize $q$};
\node (qp) at (15bp,15bp) [draw,circle,state] {\footnotesize\vbox to0pt{\vss\hbox to0pt{$q'$\hss}}\phantom{$q$}};
\node (q0) at (-40bp,0bp) [draw,circle,state,initial,fill=white] {$q_0$};
\draw [->] (A.east) -- ($(A.east)+(3ex,0)$);
\draw [->] (q) -- node[auto] {\footnotesize $x$} (qp);
\draw [->] (q0) to[out=0,in=270] node[auto,swap] {\footnotesize $x$} (qp.south);
\end{tikzpicture}
\end{center}

(\emph{Remarque : } De façon équivalente, on peut fabriquer $A'$ en
ajoutant d'abord un unique état initial $q_0$ et des ε-transitions de
$q_0$ vers chacun des états qui étaient initiaux dans $A$, puis en
éliminant les ε-transitions qu'on vient d'ajouter
(cf. \ref{removal-of-epsilon-transitions}).  Cela donne le même
résultat que ce qui vient d'être dit.)
\end{proof}

\medbreak

On a vu en \ref{dfa-union-and-intersection} une preuve, à base de DFA,
que $L_1 \cup L_2$ est reconnaissable lorsque $L_1$ et $L_2$ le sont.
Donnons maintenant une autre preuve de ce fait, à base de NFA :

\begin{prop}\label{nfa-union}
Si $L_1,L_2$ sont des langages reconnaissables (sur un même
alphabet $\Sigma$), alors la réunion $L_1 \cup L_2$ est
reconnaissable ; de plus, un NFA la reconnaissant se déduit
algorithmiquement de NFA reconnaissant $L_1$ et $L_2$.
\end{prop}
\begin{proof}
Par hypothèse, il existe des NFA reconnaissant $L_1$ et $L_2$ :
d'après \ref{standard-automaton-lemma}, on peut supposer qu'ils sont
\emph{standards} en ce sens qu'ils ont un unique état initial qui
n'est la cible d'aucune transition.  Disons que $A_1 =
(Q_1,\{q_1\},F_1,\delta_1)$ et $A_2 = (Q_2,\{q_2\},F_2,\delta_2)$ sont
des NFA standards tels que $L_1 = L_{A_1}$ et $L_2 = L_{A_2}$.

L'automate $A'$ s'obtient réunissant $A_1$ et $A_2$ mais en
« fusionnant » les états initiaux $q_1$ et $q_2$ de $A_1$ et $A_2$ en
un unique état initial $q'_0$, d'où partent les mêmes transitions
(avec les mêmes étiquettes) que depuis l'un ou de l'autre de
$q_1$ ou $q_2$.  Graphiquement :

\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A) at (0bp,0bp) [draw,dotted,circle,minimum size=60bp] {$A_1$};
\node (q0) at (-35bp,0bp) [draw,circle,state,initial,fill=white] {$q_1$};
\node (i1) at (-10bp,20bp) [circle,inner sep=2bp,fill] {};
\node (i2) at (-10bp,-20bp) [circle,inner sep=2bp,fill] {};
\node (o1) at (15bp,20bp) [circle,inner sep=2bp,fill] {};
\node (o2) at (25bp,0bp) [circle,inner sep=2bp,fill] {};
\node (o3) at (15bp,-20bp) [circle,inner sep=2bp,fill] {};
\draw [->] (q0) -- (i1);
\draw [->] (q0) -- (i2);
\draw [->] (o1) -- ($(o1.east)+(3ex,0)$);
\draw [->] (o2) -- ($(o2.east)+(3ex,0)$);
\draw [->] (o3) -- ($(o3.east)+(3ex,0)$);
\end{tikzpicture}
et
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A) at (0bp,0bp) [draw,dotted,circle,minimum size=60bp] {$A_2$};
\node (q0) at (-35bp,0bp) [draw,circle,state,initial,fill=white] {$q_2$};
\node (i1) at (-10bp,20bp) [circle,inner sep=2bp,fill] {};
\node (i2) at (-10bp,-20bp) [circle,inner sep=2bp,fill] {};
\node (o1) at (15bp,20bp) [circle,inner sep=2bp,fill] {};
\node (o2) at (25bp,0bp) [circle,inner sep=2bp,fill] {};
\node (o3) at (15bp,-20bp) [circle,inner sep=2bp,fill] {};
\draw [->] (q0) -- (i1);
\draw [->] (q0) -- (i2);
\draw [->] (o1) -- ($(o1.east)+(3ex,0)$);
\draw [->] (o2) -- ($(o2.east)+(3ex,0)$);
\draw [->] (o3) -- ($(o3.east)+(3ex,0)$);
\end{tikzpicture}
\\deviennent\\
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A1) at (0bp,0bp) [draw,dotted,circle,minimum size=60bp] {\phantom{$A_1$}};
\node (q0) at (-35bp,0bp) [draw,circle,state,initial,fill=white] {$q'_0$};
\node (A1) at (90bp,0bp) [draw,dotted,circle,minimum size=60bp] {\phantom{$A_2$}};
\node (i1) at (-10bp,20bp) [circle,inner sep=2bp,fill] {};
\node (i2) at (-10bp,-20bp) [circle,inner sep=2bp,fill] {};
\node (l1) at (15bp,20bp) [circle,inner sep=2bp,fill] {};
\node (l2) at (25bp,0bp) [circle,inner sep=2bp,fill] {};
\node (l3) at (15bp,-20bp) [circle,inner sep=2bp,fill] {};
\node (r1) at (80bp,20bp) [circle,inner sep=2bp,fill] {};
\node (r2) at (80bp,-20bp) [circle,inner sep=2bp,fill] {};
\node (o1) at (105bp,20bp) [circle,inner sep=2bp,fill] {};
\node (o2) at (115bp,0bp) [circle,inner sep=2bp,fill] {};
\node (o3) at (105bp,-20bp) [circle,inner sep=2bp,fill] {};
\draw [->] (q0) -- (i1);
\draw [->] (q0) -- (i2);
\draw [->] (l1) -- ($(l1.east)+(3ex,0)$);
\draw [->] (l2) -- ($(l2.east)+(3ex,0)$);
\draw [->] (l3) -- ($(l3.east)+(3ex,0)$);
\draw [->] (o1) -- ($(o1.east)+(3ex,0)$);
\draw [->] (o2) -- ($(o2.east)+(3ex,0)$);
\draw [->] (o3) -- ($(o3.east)+(3ex,0)$);
\draw [->] (q0) to[out=10,in=180] (r1);
\draw [->] (q0) to[out=350,in=180] (r2);
\end{tikzpicture}
\end{center}

De façon plus formelle, considérons un nouvel ensemble d'états $Q' =
(Q_1 \uplus Q_2) \setminus \{q_1,q_2\} \uplus \{q'_0\}$ où $\uplus$
désigne la réunion disjointe (autrement dit, on prend la réunion
disjointe des états non-initiaux de $A_1$ et $A_2$ et on ajoute un
nouvel état $q'_0$), et la fonction $\varphi_1\colon Q_1 \to Q'$ qui
envoie $q_1$ sur $q'_0$ et tout autre état de $Q_1$ sur lui-même, et
$\varphi_2\colon Q_2 \to Q'$ de même.  On définit alors l'automate
$A'$ dont l'ensemble d'états est $Q'$, l'état initial est $q'_0$, les
états finaux $F' = \varphi_1(F_1) \cup \varphi_2(F_2)$, et la relation
de transition $\delta'$ est formée des triplets $(\varphi_1(q),x,q')$
où $q\in Q_1$ et $(\varphi_2(q),x,q')$ où $q\in Q_2$.

(\emph{Remarque : } De façon équivalente, on peut fabriquer $A'$ en
ajoutant d'abord un unique état initial $q'_0$ à la réunion disjointe
de $A_1$ et $A_2$ et des ε-transitions de $q'_0$ vers $q_1$ et $q_2$,
puis en éliminant les ε-transitions qu'on vient d'ajouter
(cf. \ref{removal-of-epsilon-transitions}) ainsi que les états $q_1$
et $q_2$ devenus inutiles.  Cela donne le même résultat que ce qui
vient d'être dit.)

Il est alors clair qu'un chemin de l'état initial à un état final dans
cet automate $A'$ consiste soit en un chemin d'un état initial à un
état final dans $A_1$ soit en un tel chemin dans $A_2$.  On a donc
bien $L_{A'} = L_1 \cup L_2$.
\end{proof}

\begin{prop}\label{nfa-concatenation}
Si $L_1,L_2$ sont des langages reconnaissables (sur un même
alphabet $\Sigma$), alors la concaténation $L_1 L_2$ est
reconnaissable ; de plus, un NFA la reconnaissant se déduit
algorithmiquement de NFA reconnaissant $L_1$ et $L_2$.
\end{prop}
\begin{proof}
Par hypothèse, il existe des NFA reconnaissant $L_1$ et $L_2$ :
d'après \ref{standard-automaton-lemma}, on peut supposer qu'ils sont
\emph{standards} en ce sens qu'ils ont un unique état initial qui
n'est la cible d'aucune transition.  Disons que $A_1 =
(Q_1,\{q_1\},F_1,\delta_1)$ et $A_2 = (Q_2,\{q_2\},F_2,\delta_2)$ sont
des NFA standards tels que $L_1 = L_{A_1}$ et $L_2 = L_{A_2}$.

L'automate $A'$ s'obtient en réunissant $A_1$ et $A_2$, en ne gardant
que les états finaux de $A_2$, en supprimant $q_2$ et en remplaçant
chaque transition sortant de $q_2$ par une transition identiquement
étiquetée partant de \emph{chaque} état final de $A_1$.
Graphiquement :

\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A) at (0bp,0bp) [draw,dotted,circle,minimum size=60bp] {$A_1$};
\node (q0) at (-35bp,0bp) [draw,circle,state,initial,fill=white] {$q_1$};
\node (i1) at (-10bp,20bp) [circle,inner sep=2bp,fill] {};
\node (i2) at (-10bp,-20bp) [circle,inner sep=2bp,fill] {};
\node (o1) at (15bp,20bp) [circle,inner sep=2bp,fill] {};
\node (o2) at (25bp,0bp) [circle,inner sep=2bp,fill] {};
\node (o3) at (15bp,-20bp) [circle,inner sep=2bp,fill] {};
\draw [->] (q0) -- (i1);
\draw [->] (q0) -- (i2);
\draw [->] (o1) -- ($(o1.east)+(3ex,0)$);
\draw [->] (o2) -- ($(o2.east)+(3ex,0)$);
\draw [->] (o3) -- ($(o3.east)+(3ex,0)$);
\end{tikzpicture}
et
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A) at (0bp,0bp) [draw,dotted,circle,minimum size=60bp] {$A_2$};
\node (q0) at (-35bp,0bp) [draw,circle,state,initial,fill=white] {$q_2$};
\node (i1) at (-10bp,20bp) [circle,inner sep=2bp,fill] {};
\node (i2) at (-10bp,-20bp) [circle,inner sep=2bp,fill] {};
\node (o1) at (15bp,20bp) [circle,inner sep=2bp,fill] {};
\node (o2) at (25bp,0bp) [circle,inner sep=2bp,fill] {};
\node (o3) at (15bp,-20bp) [circle,inner sep=2bp,fill] {};
\draw [->] (q0) -- (i1);
\draw [->] (q0) -- (i2);
\draw [->] (o1) -- ($(o1.east)+(3ex,0)$);
\draw [->] (o2) -- ($(o2.east)+(3ex,0)$);
\draw [->] (o3) -- ($(o3.east)+(3ex,0)$);
\end{tikzpicture}
\\deviennent\\
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A1) at (0bp,0bp) [draw,dotted,circle,minimum size=60bp] {\phantom{$A_1$}};
\node (q0) at (-35bp,0bp) [draw,circle,state,initial,fill=white] {$q_1$};
\node (A1) at (90bp,0bp) [draw,dotted,circle,minimum size=60bp] {\phantom{$A_2$}};
\node (i1) at (-10bp,20bp) [circle,inner sep=2bp,fill] {};
\node (i2) at (-10bp,-20bp) [circle,inner sep=2bp,fill] {};
\node (l1) at (15bp,20bp) [circle,inner sep=2bp,fill] {};
\node (l2) at (25bp,0bp) [circle,inner sep=2bp,fill] {};
\node (l3) at (15bp,-20bp) [circle,inner sep=2bp,fill] {};
\node (r1) at (80bp,20bp) [circle,inner sep=2bp,fill] {};
\node (r2) at (80bp,-20bp) [circle,inner sep=2bp,fill] {};
\node (o1) at (105bp,20bp) [circle,inner sep=2bp,fill] {};
\node (o2) at (115bp,0bp) [circle,inner sep=2bp,fill] {};
\node (o3) at (105bp,-20bp) [circle,inner sep=2bp,fill] {};
\draw [->] (q0) -- (i1);
\draw [->] (q0) -- (i2);
\draw [->] (l1) to[out=0,in=180] (r1);
\draw [->] (l1) to[out=0,in=180] (r2);
\draw [->] (l2) to[out=0,in=180] (r1);
\draw [->] (l2) to[out=0,in=180] (r2);
\draw [->] (l3) to[out=0,in=180] (r1);
\draw [->] (l3) to[out=0,in=180] (r2);
\draw [->] (o1) -- ($(o1.east)+(3ex,0)$);
\draw [->] (o2) -- ($(o2.east)+(3ex,0)$);
\draw [->] (o3) -- ($(o3.east)+(3ex,0)$);
\end{tikzpicture}
\end{center}

De façon plus formelle, considérons un nouvel ensemble d'états $Q' =
(Q_1 \uplus Q_2) \setminus \{q_2\}$ où $\uplus$ désigne la réunion
disjointe.  On définit alors l'automate $A'$ dont l'ensemble d'états
est $Q'$, l'état initial est $q_1$, les états finaux $F' = F_2$, et la
relation de transition $\delta$ est la réunion de $\delta_1$, de
l'ensemble des triplets $(q,x,q') \in \delta_2$ tels que $q\neq q_2$,
et enfin de l'ensemble des triplets $(q,x,q')$ tels que $(q_2,x,q')
\in \delta_2$ et que $q\in F_1$.

(\emph{Remarque : } De façon équivalente, on peut fabriquer $A'$ en
ajoutant d'abord à la réunion disjointe de $A_1$ et $A_2$ une
ε-transition de chaque état final de $A_1$ vers $q_2$, puis en
éliminant les ε-transitions qu'on vient d'ajouter
(cf. \ref{removal-of-epsilon-transitions}) ainsi que l'état $q_2$
devenu inutile.  Cela donne le même résultat que ce qui vient d'être
dit.)

Il est alors clair qu'un chemin de l'état initial $q_1$ à un état
final dans cet automate $A'$ consiste en un chemin de $q_1$ à un état
final dans $A_1$ suivi d'un chemin de $q_2$ à un état final dans $A_2$
(moins $q_2$ lui-même).  On a donc bien $L_{A'} = L_1 L_2$.
\end{proof}

\begin{prop}\label{nfa-star}
Si $L$ est un langage reconnaissable (sur un alphabet $\Sigma$), alors
l'étoile de Kleene $L^*$ est reconnaissable ; de plus, un NFA la
reconnaissant se déduit algorithmiquement de NFA reconnaissant $L$.
\end{prop}
\begin{proof}
Par hypothèse, il existe un NFA reconnaissant $L$ :
d'après \ref{standard-automaton-lemma}, on peut supposer qu'ils est
\emph{standard} en ce sens qu'il a un unique état initial qui n'est la
cible d'aucune transition.  Disons que $A = (Q,\{q_0\},F,\delta)$ est
un NFA standard tel que $L = L_A$.

L'automate $A'$ s'obtient en ajoutant à $A$, pour chaque transition
sortant de $q_0$, une transition identiquement étiquetée partant de
chaque état final de $A$, et en rendant $q_0$ final s'il ne l'était
pas déjà :

\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A) at (0bp,0bp) [draw,dotted,circle,minimum size=60bp] {$A$};
\node (q0) at (-35bp,0bp) [draw,circle,state,initial,fill=white] {$q_0$};
\node (i1) at (-10bp,20bp) [circle,inner sep=2bp,fill] {};
\node (i2) at (-10bp,-20bp) [circle,inner sep=2bp,fill] {};
\node (o1) at (15bp,20bp) [circle,inner sep=2bp,fill] {};
\node (o2) at (25bp,0bp) [circle,inner sep=2bp,fill] {};
\node (o3) at (15bp,-20bp) [circle,inner sep=2bp,fill] {};
\draw [->] (q0) -- (i1);
\draw [->] (q0) -- (i2);
\draw [->] (o1) -- ($(o1.east)+(3ex,0)$);
\draw [->] (o2) -- ($(o2.east)+(3ex,0)$);
\draw [->] (o3) -- ($(o3.east)+(3ex,0)$);
\end{tikzpicture}
devient
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A) at (0bp,0bp) [draw,dotted,circle,minimum size=60bp] {\phantom{$A$}};
\node (q0) at (-35bp,0bp) [draw,circle,state,initial,accepting below,fill=white] {$q_0$};
\node (i1) at (-10bp,20bp) [circle,inner sep=2bp,fill] {};
\node (i2) at (-10bp,-20bp) [circle,inner sep=2bp,fill] {};
\node (o1) at (15bp,20bp) [circle,inner sep=2bp,fill] {};
\node (o2) at (25bp,0bp) [circle,inner sep=2bp,fill] {};
\node (o3) at (15bp,-20bp) [circle,inner sep=2bp,fill] {};
\draw [->] (q0) -- (i1);
\draw [->] (q0) -- (i2);
\draw [->] (o1) -- ($(o1.east)+(3ex,0)$);
\draw [->] (o2) -- ($(o2.east)+(3ex,0)$);
\draw [->] (o3) -- ($(o3.east)+(3ex,0)$);
\draw [->] (o1) -- (i1);
\draw [->] (o1) -- (i2);
\draw [->] (o2) -- (i1);
\draw [->] (o2) -- (i2);
\draw [->] (o3) -- (i1);
\draw [->] (o3) -- (i2);
\end{tikzpicture}
\end{center}

De façon plus formelle, on considère l'automate $A'$ dont l'ensemble
d'états est $Q' := Q$, l'état initial est $q_0$, les états finaux $F'
:= F$, et la relation de transition $\delta'$ est la réunion de
$\delta$ et de l'ensemble des triplets $(q,x,q')$ tels que $(q_0,x,q')
\in \delta$ et que $q \in F$.

(\emph{Remarque : } De façon équivalente, on peut fabriquer $A'$ en
ajoutant d'abord à $A$ une ε-transition de chaque état final de $A$
vers $q_0$, puis en éliminant les ε-transitions qu'on vient d'ajouter
(cf. \ref{removal-of-epsilon-transitions}), et enfin en marquant $q_0$
comme final.  Cela donne le même résultat que ce qui vient d'être
dit.)

Il est alors clair qu'un chemin de l'état initial $q_0$ à un état
final dans cet automate $A'$ consiste en un nombre quelconque
(éventuellement nul) de chemins d'un état initial à un état final
dans $A$.  On a donc bien $L_{A'} = L^*$.
\end{proof}

\thingy\label{trivial-standard-automata} Il sera utile de fixer
également des NFA (« standards » au sens de
\ref{standard-automaton-lemma}) reconnaissant les langages de base
triviaux $\varnothing$, $\{\varepsilon\}$ et $\{x\}$ (pour
chaque $x\in\Sigma$), c'est-à-dire ceux dénotés par les expressions
rationnelles $\bot$, $\underline{\varepsilon}$ et $x$ respectivement.
On prendra les suivants :

\begin{center}
\begin{tabular}{ll}
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(q0.base)]
\node (q0) at (0bp,0bp) [draw,circle,state,initial] {$q_0$};
\end{tikzpicture}
&pour le langage $\varnothing$ (i.e., pour l'expression rationnelle $\bot$),\\[1.75ex]
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(q0.base)]
\node (q0) at (0bp,0bp) [draw,circle,state,initial,final] {$q_0$};
\end{tikzpicture}
&pour le langage $\{\varepsilon\}$ (i.e., pour l'expression
rationnelle $\underline{\varepsilon}$), et\\[1.75ex]
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(q0.base)]
\node (q0) at (0bp,0bp) [draw,circle,state,initial] {$q_0$};
\node (q1) at (60bp,0bp) [draw,circle,state,final] {$q_1$};
\draw [->] (q0) to node[auto,swap] {$x$} (q1);
\end{tikzpicture}
&pour le langage $\{x\}$ (i.e., pour l'expression rationnelle $x$).
\end{tabular}
\end{center}

\begin{cor}\label{rational-languages-are-recognizable}
Tout langage rationnel est reconnaissable ; de plus, un NFA le
reconnaissant se déduit algorithmiquement d'une expression rationnelle
le dénotant.  (Et en particulier, il est possible de décider
algorithmiquement si un mot vérifie une expression rationnelle.)
\end{cor}
\begin{proof}
Cela résulte de façon évidente de la définition des langages
rationnels (cf. §\ref{subsection-rational-languages}), du fait que les
langages $\varnothing$, $\{\varepsilon\}$ et $\{x\}$ (pour
chaque $x\in\Sigma$) sont reconnaissables par automates finis
(cf. \ref{trivial-standard-automata}), et grâce aux propositions
\ref{nfa-union}, \ref{nfa-concatenation} et \ref{nfa-star}.
(Cf. \ref{glushkov-construction} ci-dessous pour une description
algorithmique plus précise.)

Pour décider si un mot vérifie une expression rationnelle, on peut
commencer par transformer cette expression rationnelle en NFA standard
(i.e., construire un NFA standard reconnaissant le langage qu'elle
dénote) comme on vient de l'expliquer, et déterminiser ensuite cet
automate (cf. \ref{determinization-of-nfa}), après quoi il est facile
de tester si le DFA résultant de la déterministaion accepte le mot
considéré.
\end{proof}

\thingy\label{glushkov-construction} Les constructions que nous avons
décrites dans cette section associent naturellement un NFA standard à
chaque expression rationnelle : il s'obtient en partant des automates
de base décrits en \ref{trivial-standard-automata} et en appliquant
les constructions décrites dans les démonstrations de \ref{nfa-union},
\ref{nfa-concatenation} et \ref{nfa-star}.

Plus exactement, on associe à chaque expression rationnelle $r$ (sur
un alphabet $\Sigma$ fixé) un automate $A_r$ standard, appelé
\defin[Glushkov (construction d'automate de)]{automate de Glushkov},
qui reconnaît le langage $L_r$ dénoté par $r$, de la manière suivante
(par induction sur la complexité de l'expression rationnelle telle que
définie en \ref{regular-expressions}) :
\begin{itemize}
\item les automates de Glushkov de $\bot$, $\underline{\varnothing}$
  et $x$ (pour $x\in\Sigma$) sont définis comme ceux décrits et
  illustrés en \ref{trivial-standard-automata},
\item connaissant les automates de Glushkov $A_1$ et $A_2$ de $r_1$ et
  $r_2$ respectivement, celui de $(r_1|r_2)$ est celui décrit et
  illustré dans la démonstration de \ref{nfa-union},
\item connaissant les automates de Glushkov $A_1$ et $A_2$ de $r_1$ et
  $r_2$ respectivement, celui de $r_1 r_2$ est celui décrit et
  illustré dans la
  démonstration de \ref{nfa-concatenation},
\item connaissant l'automate de Glushkov $A$ de $r$, celui de $(r){*}$
  est celui décrit et illustré dans la démonstration
  de \ref{nfa-star}.
\end{itemize}

Cette automate de Glushkov $A_r$ possède les propriétés suivantes :
\begin{itemize}
\item c'est un NFA reconnaissant le langage $L_r$ dénoté par
  l'expression rationnelle $r$ dont on est parti,
\item il est standard au sens de \ref{standard-automaton-lemma},
  c'est-à-dire qu'il possède un unique état initial auquel n'aboutit
  aucune transition,
\item les transitions aboutissant à n'importe quel état donné sont
  toutes étiquetées par la même lettre,
\item son nombre d'états est égal à $1$ plus le nombre de lettres (à
  l'exclusion des métacaractères) contenues dans l'expression $r$.
\end{itemize}

Les deux dernières propriétés se vérifient inductivement, c'est-à-dire
qu'on observe qu'elles sont satisfaites sur les automates de base
décrits en \ref{trivial-standard-automata} qu'elles sont préservées
par les constructions de \ref{nfa-union}, \ref{nfa-concatenation}
et \ref{nfa-star}.  En fait, on peut être un peu plus précis : chaque
état, autre que l'état initial, de l'automate de Glushkov associé à
l'expression rationnelle $r$ correspond à une lettre $x$ (à
l'exclusion des métacaractères) de $r$, l'état en question provient de
l'état $q_1$ de l'automate décrit en \ref{trivial-standard-automata}
pour le langage $\{x\}$, et toutes les transitions menant à cet état
sont étiquetées par $x$.

Ces observations sont utiles pour détecter des erreurs lors de la
construction de l'automate.

\thingy À titre d'exemple pour illustrer la construction de Glushkov,
construsions l'automate qu'elle associe à l'expression rationnelle
$((a{*}|b)c){*}$ sur l'alphabet $\Sigma = \{a,b,c\}$.  On doit obtenir
un automate ayant $4$ états.

L'automate de Glushkov de $a{*}$ est le suivant, obtenu en appliquant
la construction de \ref{nfa-star} à l'automate trivial pour le
langage $\{a\}$ (donné en \ref{trivial-standard-automata}) :

\begin{center}
%%% begin example8a %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (97bp,18bp) [draw,circle,state,final] {$1$};
  \node (q0) at (18bp,18bp) [draw,circle,state,initial,final,accepting below] {$0$};
  \draw [->] (q0) ..controls (45.659bp,18bp) and (57.817bp,18bp)  .. node[auto] {$a$} (q1);
  \draw [->] (q1) to[loop above] node[auto] {$a$} (q1);
%
\end{tikzpicture}

%%% end example8a %%%
\end{center}

On en déduit au moyen de \ref{nfa-union} l'automate suivant
pour $a{*}|b$ :

\begin{center}
%%% begin example8b %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (97bp,72bp) [draw,circle,state,final] {$1$};
  \node (q0) at (18bp,41bp) [draw,circle,state,initial,final,accepting below] {$0$};
  \node (q2) at (97bp,18bp) [draw,circle,state,final] {$2$};
  \draw [->] (q0) ..controls (45.279bp,51.58bp) and (58.943bp,57.081bp)  .. node[auto] {$a$} (q1);
  \draw [->] (q0) ..controls (40.761bp,31.564bp) and (47.615bp,28.946bp)  .. (54bp,27bp) .. controls (58.828bp,25.529bp) and (64.04bp,24.206bp)  .. node[auto] {$b$} (q2);
  \draw [->] (q1) to[loop above] node[auto] {$a$} (q1);
%
\end{tikzpicture}

%%% end example8b %%%
\end{center}

On en déduit au moyen de \ref{nfa-concatenation} l'automate suivant
pour $(a{*}|b)c$ :

\begin{center}
%%% begin example8c %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (97bp,99.608bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,45.608bp) [draw,circle,state,initial] {$0$};
  \node (q3) at (176bp,45.608bp) [draw,circle,state,final] {$3$};
  \node (q2) at (97bp,45.608bp) [draw,circle,state] {$2$};
  \draw [->] (q0) ..controls (42.871bp,23.135bp) and (60.567bp,9.4181bp)  .. (79bp,3.6077bp) .. controls (94.26bp,-1.2026bp) and (99.74bp,-1.2026bp)  .. (115bp,3.6077bp) .. controls (129.69bp,8.2379bp) and (143.91bp,17.889bp)  .. node[auto] {$c$} (q3);
  \draw [->] (q2) ..controls (124.66bp,45.608bp) and (136.82bp,45.608bp)  .. node[auto] {$c$} (q3);
  \draw [->] (q0) ..controls (45.659bp,45.608bp) and (57.817bp,45.608bp)  .. node[auto] {$b$} (q2);
  \draw [->] (q1) to[loop above] node[auto] {$a$} (q1);
  \draw [->] (q0) ..controls (44.341bp,63.379bp) and (60.249bp,74.535bp)  .. node[auto] {$a$} (q1);
  \draw [->] (q1) ..controls (123.34bp,81.836bp) and (139.25bp,70.68bp)  .. node[auto] {$c$} (q3);
%
\end{tikzpicture}

%%% end example8c %%%
\end{center}

Et enfin, de nouveau par \ref{nfa-star} l'automate suivant
pour $((a{*}|b)c)*$ :

\begin{center}
%%% begin example8d %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\begin{scope}
  \pgfsetstrokecolor{black}
  \definecolor{strokecol}{rgb}{1.0,1.0,1.0};
  \pgfsetstrokecolor{strokecol}
  \definecolor{fillcol}{rgb}{1.0,1.0,1.0};
  \pgfsetfillcolor{fillcol}
\end{scope}
  \node (q1) at (97bp,101.45bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,45.453bp) [draw,circle,state,initial,final,accepting below] {$0$};
  \node (q3) at (176bp,63.453bp) [draw,circle,state,final] {$3$};
  \node (q2) at (97bp,45.453bp) [draw,circle,state] {$2$};
  \draw [->] (q0) ..controls (49.576bp,16.777bp) and (84.747bp,-9.0778bp)  .. (115bp,3.4533bp) .. controls (133.15bp,10.97bp) and (148.67bp,26.932bp)  .. node[auto,below,near start] {$c$} (q3);
  \draw [->] (q2) ..controls (124.6bp,51.671bp) and (137.34bp,54.651bp)  .. node[auto] {$c$} (q3);
  \draw [->] (q0) ..controls (45.659bp,45.453bp) and (57.817bp,45.453bp)  .. node[auto] {$b$} (q2);
  \draw [->] (q3) ..controls (148.91bp,76.331bp) and (134.76bp,83.311bp)  .. node[auto] {$a$} (q1);
  \draw [->] (q1) to[loop above] node[auto] {$a$} (q1);
  \draw [->] (q3) ..controls (156.78bp,44.679bp) and (148.66bp,38.493bp)  .. (140bp,35.453bp) .. controls (134.61bp,33.562bp) and (128.7bp,33.684bp)  .. node[auto] {$b$} (q2);
  \draw [->] (q3) to[loop above] node[auto] {$c$} (q3);
  \draw [->] (q0) ..controls (44.52bp,64.013bp) and (60.758bp,75.823bp)  .. node[auto] {$a$} (q1);
  \draw [->] (q1) ..controls (120.07bp,117.96bp) and (130.95bp,122.37bp)  .. (140bp,117.45bp) .. controls (151.16bp,111.39bp) and (159.31bp,100.06bp)  .. node[auto,above] {$c$} (q3);
%
\end{tikzpicture}

%%% end example8d %%%
\end{center}

Toutes les transitions aboutissant à l'état $1$ sont étiquetées $a$,
toutes celles aboutissant à l'état $2$ sont étiquetées $b$, et toutes
celles aboutissant à $3$ sont étiquetées $c$.


\subsection{L'automate de Thompson (alternative à l'automate de Glushkov)}\label{subsection-thompson-construction}

\thingy La construction de Glushkov (exposée
en \ref{glushkov-construction}) d'un automate reconnaissant le langage
dénoté par expression rationnelle $r$ fabrique un NFA.  Cette
constrution produit un automate raisonnablement compact (en nombre
d'états), mais il peut être intéressant de disposer d'une autre
construction, plus transparente mais moins efficace : la
\defin[Thompson (construction d'automate de)]{construction de
  Thompson} fournit un autre moyen d'associer à une expression
rationnelle $r$ un automate reconnaissant le langage qu'elle dénote.
Elle possède pour sa part les propriétés suivantes :
\begin{itemize}
\item c'est un εNFA reconnaissant le langage $L_r$ dénoté par
  l'expression rationnelle $r$ dont on est parti,
\item il possède un unique état initial auquel n'aboutit aucune
  transition, et un unique état final duquel ne part aucune
  transition,
\item son nombre d'états est égal au double du nombre de symboles
  autres que les parenthèses constituant l'expression $r$ (en comptant
  aussi bien les lettres de $\Sigma$ que les métacaractères $\bot$,
  $\underline{\varepsilon}$, $|$ et $*$ ; mais sans compter la
  concaténation implicite).
\end{itemize}

Dans les dessins qui suivent, on symbolisera de la manière suivante un
automate de Thompson $A$ quelconque :
\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A) at (30bp,0bp) [draw,dotted,circle,minimum size=50bp] {$A$};
\node (qi) at (0bp,0bp) [draw,circle,state,initial,fill=white] {$q_0$};
\node (qf) at (60bp,0bp) [draw,circle,state,final,fill=white] {\vbox to0pt{\vss\hbox to0pt{$q_\infty$\hss}}\phantom{$q_0$}};
\end{tikzpicture}
\end{center}

\thingy\label{trivial-thompson-automata} Les automates de Thompson des
expressions rationnelles $\bot$, $\underline{\varepsilon}$ et $x$
(pour $x\in\Sigma$) seront les suivants :

\begin{center}
\begin{tabular}{ll}
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(qi.base)]
\node (qi) at (0bp,0bp) [draw,circle,state,initial] {$q_0$};
\node (qf) at (60bp,0bp) [draw,circle,state,final] {\vbox to0pt{\vss\hbox to0pt{$q_\infty$\hss}}\phantom{$q_0$}};
\end{tikzpicture}
&pour le langage $\varnothing$ (i.e., pour l'expression rationnelle $\bot$),\\
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(qi.base)]
\node (qi) at (0bp,0bp) [draw,circle,state,initial] {$q_0$};
\node (qf) at (60bp,0bp) [draw,circle,state,final] {\vbox to0pt{\vss\hbox to0pt{$q_\infty$\hss}}\phantom{$q_0$}};
\draw [->] (qi) to node[auto] {$\varepsilon$} (qf);
\end{tikzpicture}
&pour le langage $\{\varepsilon\}$ (i.e., pour l'expression
rationnelle $\underline{\varepsilon}$), et\\
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(qi.base)]
\node (qi) at (0bp,0bp) [draw,circle,state,initial] {$q_0$};
\node (qf) at (60bp,0bp) [draw,circle,state,final] {\vbox to0pt{\vss\hbox to0pt{$q_\infty$\hss}}\phantom{$q_0$}};
\draw [->] (qi) to node[auto,swap] {$x$} (qf);
\end{tikzpicture}
&pour le langage $\{x\}$ (i.e., pour l'expression rationnelle $x$).
\end{tabular}
\end{center}

\thingy\label{thompson-union} Si $A_1$ et $A_2$ sont les automates de
Thompson pour les expressions rationnelles $r_1$ et $r_2$, celui de
$(r_1|r_2)$ sera construit de la manière suivante :
\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A) at (30bp,0bp) [draw,dotted,circle,minimum size=50bp] {$A_1$};
\node (qi) at (0bp,0bp) [draw,circle,state,initial,fill=white] {$q_0$};
\node (qf) at (60bp,0bp) [draw,circle,state,final,fill=white] {\vbox to0pt{\vss\hbox to0pt{$q_\infty$\hss}}\phantom{$q_0$}};
\end{tikzpicture}
et
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A) at (30bp,0bp) [draw,dotted,circle,minimum size=50bp] {$A_2$};
\node (qi) at (0bp,0bp) [draw,circle,state,initial,fill=white] {$q_0$};
\node (qf) at (60bp,0bp) [draw,circle,state,final,fill=white] {\vbox to0pt{\vss\hbox to0pt{$q_\infty$\hss}}\phantom{$q_0$}};
\end{tikzpicture}
\\deviennent\\
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(qi.base)]
\node (qi) at (-35bp,0bp) [draw,circle,state,initial,fill=white] {$q_0$};
\node (qf) at (95bp,0bp) [draw,circle,state,final,fill=white] {\vbox to0pt{\vss\hbox to0pt{$q_\infty$\hss}}\phantom{$q_0$}};
\node (A1) at (30bp,35bp) [draw,dotted,circle,minimum size=50bp] {$A_1$};
\node (qi1) at (0bp,35bp) [draw,circle,state,fill=white] {\phantom{$q_0$}};
\node (qf1) at (60bp,35bp) [draw,circle,state,fill=white] {\phantom{$q_0$}};
\node (A2) at (30bp,-35bp) [draw,dotted,circle,minimum size=50bp] {$A_2$};
\node (qi2) at (0bp,-35bp) [draw,circle,state,fill=white] {\phantom{$q_0$}};
\node (qf2) at (60bp,-35bp) [draw,circle,state,fill=white] {\phantom{$q_0$}};
\draw[->] (qi) to node[auto] {$\varepsilon$} (qi1);  \draw[->] (qi) to node[auto] {$\varepsilon$} (qi2);
\draw[->] (qf1) to node[auto] {$\varepsilon$} (qf);  \draw[->] (qf2) to node[auto] {$\varepsilon$} (qf);
\end{tikzpicture}
\end{center}

\thingy\label{thompson-concatenation} Si $A_1$ et $A_2$ sont les
automates de Thompson pour les expressions rationnelles $r_1$ et
$r_2$, celui de $r_1 r_2$ sera construit de la manière suivante :
\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A) at (30bp,0bp) [draw,dotted,circle,minimum size=50bp] {$A_1$};
\node (qi) at (0bp,0bp) [draw,circle,state,initial,fill=white] {$q_0$};
\node (qf) at (60bp,0bp) [draw,circle,state,final,fill=white] {\vbox to0pt{\vss\hbox to0pt{$q_\infty$\hss}}\phantom{$q_0$}};
\end{tikzpicture}
et
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A) at (30bp,0bp) [draw,dotted,circle,minimum size=50bp] {$A_2$};
\node (qi) at (0bp,0bp) [draw,circle,state,initial,fill=white] {$q_0$};
\node (qf) at (60bp,0bp) [draw,circle,state,final,fill=white] {\vbox to0pt{\vss\hbox to0pt{$q_\infty$\hss}}\phantom{$q_0$}};
\end{tikzpicture}
\\deviennent\\
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(qi.base)]
\node (A1) at (30bp,0bp) [draw,dotted,circle,minimum size=50bp] {$A_1$};
\node (qi) at (0bp,0bp) [draw,circle,state,initial,fill=white] {$q_0$};
\node (ql) at (60bp,0bp) [draw,circle,state,fill=white] {\phantom{$q_0$}};
\node (A2) at (150bp,0bp) [draw,dotted,circle,minimum size=50bp] {$A_2$};
\node (qr) at (120bp,0bp) [draw,circle,state,fill=white] {\phantom{$q_0$}};
\node (qf) at (180bp,0bp) [draw,circle,state,final,fill=white] {\vbox to0pt{\vss\hbox to0pt{$q_\infty$\hss}}\phantom{$q_0$}};
\draw[->] (ql) to node[auto] {$\varepsilon$} (qr);
\end{tikzpicture}
\end{center}

\thingy\label{thompson-star} Si $A$ est l'automate de Thompson pour
l'expression rationnelle $r$, celui de $(r){*}$ sera construit de la
manière suivante :
\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (A) at (30bp,0bp) [draw,dotted,circle,minimum size=50bp] {$A$};
\node (qi) at (0bp,0bp) [draw,circle,state,initial,fill=white] {$q_0$};
\node (qf) at (60bp,0bp) [draw,circle,state,final,fill=white] {\vbox to0pt{\vss\hbox to0pt{$q_\infty$\hss}}\phantom{$q_0$}};
\end{tikzpicture}
devient
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(A.base)]
\node (qi) at (0bp,0bp) [draw,circle,state,initial,fill=white] {$q_0$};
\node (qf) at (180bp,0bp) [draw,circle,state,final,fill=white] {\vbox to0pt{\vss\hbox to0pt{$q_\infty$\hss}}\phantom{$q_0$}};
\node (A) at (90bp,0bp) [draw,dotted,circle,minimum size=50bp] {$A$};
\node (qai) at (60bp,0bp) [draw,circle,state,fill=white] {\phantom{$q_0$}};
\node (qaf) at (120bp,0bp) [draw,circle,state,fill=white] {\phantom{$q_0$}};
\draw[->] (qi) to node[auto] {$\varepsilon$} (qai);
\draw[->] (qaf) to node[auto] {$\varepsilon$} (qf);
\draw[->] (qi) ..controls (60bp,-60bp) and (120bp,-60bp)  .. node[auto] {$\varepsilon$} (qf);
\draw[->] (qaf) ..controls (120bp,60bp) and (60bp,60bp)  .. node[auto,above] {$\varepsilon$} (qai);
\end{tikzpicture}
\end{center}

\thingy Comme on le voit ci-dessus, la construction de Thompson est
très simple à appliquer ; mais elle conduit à des automates rapidement
énormes, comportant un nombre considérable d'états et de transitions
spontanées « stupides ».

À titre d'exemple, voici l'automate de Thompson, déjà gros, de
l'expression rationnelle $(a|b){*}b$ :

\begin{center}
\scalebox{0.75}{%
%%% begin example9 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (97bp,61bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,23bp) [draw,circle,state,initial] {$0$};
  \node (q3) at (255bp,138bp) [draw,circle,state] {$3$};
  \node (q2) at (176bp,138bp) [draw,circle,state] {$2$};
  \node (q5) at (255bp,84bp) [draw,circle,state] {$5$};
  \node (q4) at (176bp,84bp) [draw,circle,state] {$4$};
  \node (q7) at (413bp,23bp) [draw,circle,state] {$7$};
  \node (q6) at (334bp,61bp) [draw,circle,state] {$6$};
  \node (q9) at (571bp,23bp) [draw,circle,state,final] {$9$};
  \node (q8) at (492bp,23bp) [draw,circle,state] {$8$};
  \draw [->] (q3) ..controls (280.5bp,113.5bp) and (299.16bp,94.836bp)  .. node[auto] {$\varepsilon$} (q6);
  \draw [->] (q2) ..controls (203.66bp,138bp) and (215.82bp,138bp)  .. node[auto] {$a$} (q3);
  \draw [->] (q6) ..controls (303.95bp,58.621bp) and (287.5bp,57.483bp)  .. (273bp,57bp) .. controls (221.92bp,55.299bp) and (209.08bp,55.299bp)  .. (158bp,57bp) .. controls (147.24bp,57.358bp) and (135.4bp,58.078bp)  .. node[auto] {$\varepsilon$} (q1);
  \draw [->] (q8) ..controls (519.66bp,23bp) and (531.82bp,23bp)  .. node[auto] {$b$} (q9);
  \draw [->] (q7) ..controls (440.66bp,23bp) and (452.82bp,23bp)  .. node[auto] {$\varepsilon$} (q8);
  \draw [->] (q5) ..controls (282.27bp,76.154bp) and (295.19bp,72.293bp)  .. node[auto] {$\varepsilon$} (q6);
  \draw [->] (q6) ..controls (361.12bp,48.108bp) and (375.27bp,41.127bp)  .. node[auto] {$\varepsilon$} (q7);
  \draw [->] (q4) ..controls (203.66bp,84bp) and (215.82bp,84bp)  .. node[auto] {$b$} (q5);
  \draw [->] (q1) ..controls (124.27bp,68.846bp) and (137.19bp,72.707bp)  .. node[auto] {$\varepsilon$} (q4);
  \draw [->] (q0) ..controls (49.792bp,8.7612bp) and (73.956bp,0bp)  .. (96bp,0bp) .. controls (96bp,0bp) and (96bp,0bp)  .. (335bp,0bp) .. controls (352.91bp,0bp) and (372.22bp,5.7837bp)  .. node[auto] {$\varepsilon$} (q7);
  \draw [->] (q0) ..controls (45.123bp,35.892bp) and (59.268bp,42.873bp)  .. node[auto] {$\varepsilon$} (q1);
  \draw [->] (q1) ..controls (122.5bp,85.495bp) and (141.16bp,104.16bp)  .. node[auto] {$\varepsilon$} (q2);
%
\end{tikzpicture}

%%% end example9 %%%
}
\end{center}

(Il a $10$ états puisqu'il y a $5$ autres que les parenthèses
dans $(a|b){*}b$.)

Pour comparaison, voici son automate de Glushkov :

\begin{center}
%%% begin example9b %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\begin{scope}
  \pgfsetstrokecolor{black}
  \definecolor{strokecol}{rgb}{1.0,1.0,1.0};
  \pgfsetstrokecolor{strokecol}
  \definecolor{fillcol}{rgb}{1.0,1.0,1.0};
  \pgfsetfillcolor{fillcol}
\end{scope}
  \node (q9) at (176bp,45.608bp) [draw,circle,state,final] {$9$};
  \node (q0) at (18bp,45.608bp) [draw,circle,state,initial] {$0$};
  \node (q3) at (97bp,150.61bp) [draw,circle,state] {$3$};
  \node (q5) at (97bp,45.608bp) [draw,circle,state] {$5$};
  \draw [->] (q0) ..controls (42.244bp,77.303bp) and (64.303bp,107.38bp)  .. node[auto] {$a$} (q3);
  \draw [->] (q5) ..controls (124.66bp,45.608bp) and (136.82bp,45.608bp)  .. node[auto] {$b$} (q9);
  \draw [->] (q3) ..controls (121.24bp,118.91bp) and (143.3bp,88.83bp)  .. node[auto] {$b$} (q9);
  \draw [->] (q5) to[loop below] node[auto] {$b$} (q5);
  \draw [->] (q0) ..controls (45.659bp,45.608bp) and (57.817bp,45.608bp)  .. node[auto] {$b$} (q5);
  \draw [->] (q0) ..controls (42.871bp,23.135bp) and (60.567bp,9.4181bp)  .. (79bp,3.6077bp) .. controls (94.26bp,-1.2026bp) and (99.74bp,-1.2026bp)  .. (115bp,3.6077bp) .. controls (129.69bp,8.2379bp) and (143.91bp,17.889bp)  .. node[auto] {$b$} (q9);
  \draw [->] (q3) to[loop above] node[auto] {$a$} (q3);
  \draw [->] (q5) ..controls (112.04bp,72.544bp) and (117.47bp,87.733bp)  .. (115bp,101.61bp) .. controls (113.63bp,109.34bp) and (111.12bp,117.45bp)  .. node[auto,swap,pos=-0.2] {$a$} (q3);
  \draw [->] (q3) ..controls (97bp,116.41bp) and (97bp,92.55bp)  .. node[auto,swap,near end] {$b$} (q5);
%
\end{tikzpicture}

%%% end example9b %%%
\end{center}

Il a $4$ états puisqu'il y a $3$ lettres dans $(a|b){*}b$.  Ces états
ont été étiquetés de manière à illustrer la proposition suivante, qui
fait le lien entre les deux constructions :

\begin{prop}
L'élimination des transitions spontanées (au sens
de \ref{removal-of-epsilon-transitions}, suivie de la suppression des
états devenus inutiles) dans l'automate de Thompson d'une expression
rationnelle conduit à l'automate de Glushkov de cette même expression.
\end{prop}




\subsection{Automates à transitions étiquetées par des expressions rationnelles (=RNFA), algorithme d'élimination des états}\label{subsection-rnfa-and-kleenes-algorithm}

\thingy On cherche dans cette section à montrer la réciproque
de \ref{rational-languages-are-recognizable}.  On va pour cela donner
un algorithme (très coûteux !) qui transforme un automate en
expression rationnelle (dénotant le langage qu'il reconnaît).  Cette
algorithme « d'élimination des états » fonctionne naturellement sur
une sorte d'automate encore plus générale que tous ceux que nous avons
définis jusqu'à présent : on va donc commencer par définir ces
automates, même si leur intérêt réside presque uniquement en la preuve
de \ref{recognizable-languages-are-rational} ci-dessous.

\thingy\label{definition-rnfa} Un \defin[automate fini à transitions
  étiquetées par des expressions rationnelles]{automate fini
  (non-déterministe) à transitions étiquetées par des expressions
  rationnelles}, en abrégé \index{RNFA|see{automate fini à transitions
    étiquetées par des expressions rationnelles}}\textbf{RNFA}, sur un
alphabet $\Sigma$ est la donnée
\begin{itemize}
\item d'un ensemble fini $Q$ d'états,
\item d'un ensemble $I \subseteq Q$ d'états dits initiaux,
\item d'un ensemble $F \subseteq Q$ d'états dits finaux,
\item d'un ensemble \emph{fini} de transitions $\delta \subseteq Q
  \times (\mathrm{regexp}(\Sigma)) \times Q$ où
  $(\mathrm{regexp}(\Sigma))$ désigne l'ensemble des expressions
  rationnelles sur $\Sigma$.
\end{itemize}
Autrement dit, on autorise maintenant des transitions étiquetées par
des expressions rationnelles quelconques sur $\Sigma$.  Remarquons
qu'on doit maintenant demander \emph{explicitement} que l'ensemble
$\delta$ des transitions permises soit fini car l'ensemble $Q \times
(\mathrm{regexp}(\Sigma)) \times Q$, lui, ne l'est pas.

\thingy\label{rnfa-multiple-transition-relation} Pour un tel automate, on définit une relation $\delta^*
\subseteq Q \times \Sigma^* \times Q$ par $(q,w,q') \in \delta^*$
lorsqu'il existe $q_0,\ldots,q_n \in Q$ et $r_1,\ldots,r_n \in
\mathrm{regexp}(\Sigma)$ tels que $q_0 = q$ et $q_n = q'$ et
$(q_{i-1},r_i,q_i) \in\delta$ pour chaque $1\leq i\leq n$, et enfin $w
\in L_{r_1\cdots r_n}$.

Concrètement, $(q,w,q') \in \delta^*$ signifie que le RNFA peut
passer de l'état $q$ à l'état $q'$ en effectuant des transitions
($q_0\to q_1 \to \cdots \to q_n$ étiquetées par $r_1,\ldots,r_n \in
\mathrm{regexp}(\Sigma)$) et en consommant le mot $w$ au sens où ce
dernier se décompose comme concaténation d'autant de facteurs que de
transitions ($w = v_1\cdots v_n$), chacun vérifiant l'expression
rationnelle qui étiquette la transition (soit $v_i \in L_{r_i}$).

Enfin, l'automate $A$ accepte un mot $w$ lorsqu'il existe $q_0\in I$
et $q_\infty\in F$ tels que $(q_0,w,q_\infty) \in \delta^*$.  Le
langage accepté $L_A$ et l'équivalence de deux automates sont définis
de façon analogue aux DFA
(cf. \ref{definition-recognizable-language}).

\thingy Un εNFA (ou \textit{a fortiori} un NFA, DFAI ou DFA) est
considéré comme un RNFA particulier dont les transitions sont
étiquetées soit par une unique lettre (considérée comme expression
rationnelle) soit par le symbole $\underline{\varepsilon}$ (dénotant
le langage $\{\varepsilon\}$) dans le cas des transitions spontanées.

Une expression rationnelle $r$ peut aussi être considérée comme un
RNFA particulier comportant un unique état initial, un unique état
final, et une unique transition de l'un vers l'autre, étiquetée par
l'expression $r$ elle-même.  Il est évident que ce RNFA reconnaît
exactement le langage dénoté par $r$.

La représentation graphique des RNFA ne pose pas de problème
particulier (voir en \ref{example-of-state-elimination} pour
différents exemples).

\thingy\label{give-rnfa-single-transitions} On peut toujours modifier
un RNFA de manière à ce qu'il y ait au plus une, ou même si on le
souhaite, exactement une, transition entre deux états $q$ et $q'$
donnés.  En effet, s'il existe plusieurs transitions
$(q,r_1,q'),\ldots, \penalty0 (q,r_k,q') \in \delta$ possibles entre
$q$ et $q'$, on peut les remplacer par une unique transition
$(q,(r_1|\cdots|r_k),q')$, cela ne change visiblement rien au
fonctionnement de l'automate (et notamment pas le langage reconnu).
S'il n'y a \emph{aucune} transition de $q$ vers $q'$, on peut toujours
choisir d'en ajouter une $(q,\bot,q')$ (qui ne peut pas être
empruntée !) si c'est commode.

Comme les εNFA, les NFA et les DFAI avant eux, les RNFA peuvent se
ramener aux automates précédemment définis :

\begin{prop}
Soit $A = (Q,I,F,\delta)$ un RNFA sur un alphabet $\Sigma$.  Alors il
existe un εNFA $A' = (Q',I',F',\delta')$ (sur le même
alphabet $\Sigma$) et qui soit équivalent à $A$ au sens où il
reconnaît le même langage $L_{A'} = L_A$.  De plus, $A'$ se déduit
algorithmiquement de $A$.
\end{prop}
\begin{proof}
On a vu en \ref{rational-languages-are-recognizable} que pour chaque
expression rationnelle $r$ on peut trouver (algorithmiquement) un εNFA
$A_r$ (par exemple l'automate de Glushkov ou l'automate de Thompson)
qui reconnaît le langage dénoté par $r$.  On peut donc construire $A'$
en remplaçant chaque transition $(q,r,q')$ de $A$ par une copie de
l'automate $A_r$ placée entre les états $q$ et $q'$.  Symboliquement :

\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(q1.base)]
\node (q1) at (0bp,0bp) [draw,circle,state] {$q$};
\node (q2) at (70bp,0bp) [draw,circle,state] {$q'$};
  \draw [->] (q1) to node[auto] {$r$} (q2);
\end{tikzpicture}
\quad devient\quad
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(q1.base)]
\node (q1) at (0bp,0bp) [draw,circle,state] {$q$};
\node (q2) at (100bp,0bp) [draw,circle,state] {$q'$};
\node (A) at (50bp,0bp) [draw,dotted,circle] {$A_r$};
  \draw [->] (q1) to node[auto] {$\varepsilon$} (A);
  \draw [->] (A) to node[auto] {$\varepsilon$} (q2);
\end{tikzpicture}
\end{center}

Plus précisément, si $\{(q_j,r_j,q'_j) : 1\leq j\leq M\}$ est une
énumération de $\delta$, on construit $A'$ en lui donnant pour
ensemble d'états $Q \uplus \biguplus_{j=1}^M Q_{r_j}$ où $Q_{r_j}$ est
l'ensemble d'états de l'automate $A_{r_j}$ construit pour
reconnaître $r_j$, les ensembles d'états initiaux et finaux sont
$I'=I$ et $F'=F$ comme dans $A$, et la relation de transition
$\delta'$ est la réunion de chacune $\delta_{r_j}$ de celle des
εNFA $A_{r_j}$ à quoi on ajoute encore des transitions spontanées
$(q_j,\varepsilon,q^\sharp)$ pour tout état initial $q^\sharp \in
I_{r_j}$ de $A_{r_j}$ et des transitions spontanées
$(q^\flat,\varepsilon,q'_j)$ pour tout état final $q^\flat \in
F_{r_j}$ de $A_{r_j}$.  Il est clair que faire un chemin dans $A'$
revient à un faire un chemin dans $A$ où, à chaque fois qu'on fait la
transition $q_j\to q'_j$ étiquetée par $r_j$, on la remplace par un
chemin $q_j \to q^\sharp \to \cdots \to q^\flat \to q'_j$ formé d'une
transition spontanée vers un état initial de $A_{r_j}$ suivi d'un
chemin dans ce dernier, suivi d'une transition spontanée depuis un
état final de $A_{r_j}$.
\end{proof}

Mais la surprise des RNFA est qu'ils peuvent aussi se ramener à des
expressions rationnelles !

\begin{prop}\label{recognizable-languages-are-rational}
Soit $A = (Q,I,F,\delta)$ un RNFA (ou, en particulier, un NFA ou
DFA(I)) sur un alphabet $\Sigma$.  Alors il existe une expression
rationnelle $r$ sur $\Sigma$ qui dénote le langage reconnu par $A$,
soit $L_r = L_A$.  De plus, $r$ se déduit algorithmiquement de $A$.
\end{prop}
\begin{proof}
On a vu qu'on pouvait considérer une expression rationnelle comme un
RNFA ayant un unique état initial, un unique état final, et une unique
transition de l'un vers l'autre (étiquetée par l'expression
rationnelle en question).  On va construire montrer que $A$ est
équivalent à un RNFA de cette nature, ce qui montrera bien qu'il est
équivalent à une expression rationnelle.

Remarquons tout d'abord qu'on peut supposer que $A$ a un unique état
initial $q_0$, qui ne soit pas final, et qui n'ait aucune transition
qui y aboutisse (si ce n'est pas le cas, il suffit de créer un nouvel
état $q_0$, d'en faire le seul état initial, et de le munir de
transitions spontanées — c'est-à-dire étiquetées par
$\underline{\varepsilon}$ — vers tous les états précédemment
initiaux).  De même (symétriquement), on peut supposer que $A$ a un
unique état final $q_\infty$, qui ne soit pas initial, et sans aucune
transition qui en part.  On fera l'hypothèse que $A$ a ces propriétés,
et on s'arrangera pour les préserver dans ce qui suit.

Soient maintenant $q$ un état de $A$ qui n'est ni l'état initial $q_0$
ni l'état final $q_\infty$.  On va montrer qu'on peut \emph{éliminer}
$q$, c'est-à-dire, quitte à ajouter des transitions, remplacer $A$ par
un automate équivalent $A'$ qui n'a pas cet état.  Pour cela, soient
$q_1,q_2$ deux états quelconques de $A$, autres que $q$ mais
possiblement égaux entre eux, où $q_1$ peut être l'état initial (mais
pas l'état final) et $q_2$ peut être l'état final (mais pas l'état
initial).  On a vu en \ref{give-rnfa-single-transitions} qu'on pouvait
supposer qu'il existait une unique transition $(q_1,r_{12},q_2)$ et de
même $(q_1,r_1,q)$ et $(q,r_2,q_2)$ et $(q,s,q)$ (transition de $q$
vers lui-même).  En même temps qu'on élimine $q$, on met dans $A'$ la
transition $(r_{12}|r_1(s){*}r_2)$ entre $q_1$ et $q_2$.
Symboliquement :

\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(q1.base)]
\node (q1) at (0bp,0bp) [draw,circle,state] {$q_1$};
\node (q2) at (70bp,0bp) [draw,circle,state] {$q_2$};
\node (q) at (35bp,50bp) [draw,circle,state] {$q$};
  \draw [->] (q1) to node[auto] {$r_{12}$} (q2);
  \draw [->] (q1) to node[auto] {$r_1$} (q);
  \draw [->] (q) to node[auto] {$r_2$} (q2);
  \draw [->] (q) to[loop above] node[auto] {$s$} (q);
\end{tikzpicture}
\quad devient\quad
\begin{tikzpicture}[>=latex,line join=bevel,automaton,baseline=(q1.base)]
\node (q1) at (0bp,0bp) [draw,circle,state] {$q_1$};
\node (q2) at (100bp,0bp) [draw,circle,state] {$q_2$};
  \draw [->] (q1) to node[auto] {$\scriptstyle (r_{12}|r_1(s){*}r_2)$} (q2);
\end{tikzpicture}
\end{center}

Cette transformation doit être effectuée \emph{simultanément pour
  toute paire} $(q_1,q_2)$ d'états de $A$ pour laquelle
$q_1\not\in\{q,q_\infty\}$ et $q_2\not\in\{q,q_0\}$ : pour chaque
telle paire, on remplace l'étiquette de la transition $r_{12}$ entre
eux par $(r_{12}|r_1(s){*}r_2)$.  Ceci ne change pas le fonctionnement
de l'automate, car tout chemin dans $A$ peut être remplacé par un
chemin dans $A'$ en effaçant simplement les $q$ (si on considère
$q_1$ et $q_2$ les états avant un bloc de de $q$ dans le chemin, on
voit que le chemin $q_1 \to q \to q \to \cdots \to q \to q_2$ peut se
transformer en $q_1 \to q_2$ en consommant un mot qui vérifie
l'expression rationnelle $(r_{12}|r_1(s){*}r_2)$).

En éliminant (dans n'importe quel ordre) tous les états autres que
$q_0$ et $q_\infty$, on aboutit ainsi à un automate ayant une unique
transition $(q_0,r,q_\infty)$, qui est donc essentiellement
l'expression rationnelle $r$.
\end{proof}

\thingy La procédure qu'on a décrite dans la démonstration de cette
proposition s'appelle l'algorithme d'\defin{élimination des états} ou
\index{Kleene (algorithme de)|see{élimination des
    états}}\textbf{algorithme de Kleene}\footnote{Peut-être
  abusivement (le théorème \ref{kleenes-theorem} est indubitablement
  dû à Kleene, mais le contenu algorithmique ne l'est peut-être pas) ;
  il est peut-être plus correct d'attribuer l'algorithme à Brzozowski
  et McCluskey.}.

Il va de soi qu'on peut la simplifier un petit peu : s'il n'y a pas de
transition de de $q_1$ vers $q$ ou qu'il n'y en a pas de $q$
vers $q_2$ (c'est-à-dire que soit $r_1$ soit $r_2$ doit être considéré
comme valant $\bot$), on ne touche simplement pas à $r_{12}$ (et si la
transition de $q_1$ vers $q_2$ n'existait pas non plus, il n'y a pas
besoin de la créer) ; de même, s'il n'y a pas de transition de $q$
vers lui-même, on ignore la partie $s{*}$.  En revanche, il faut bien
penser à créer une transition de $q_1$ vers $q_2$, même si elle
n'existait pas au départ, lorsqu'on peut arriver de l'un vers l'autre
en passant par $q$.  Et il faut se souvenir que le cas $q_2=q_1$ est à
traiter aussi.

En général, l'élimination des états conduit à un expression
extrêmement compliquée (exponentielle dans le nombre d'états de
l'automate, au moins dans le pire cas, mais aussi dans beaucoup de cas
« typiques »).

\thingy\label{example-of-state-elimination} À titre d'exemple,
considérons le DFA suivant sur l'alphabet $\{0,1\}$, qui reconnaît les
suites binaires qui représentent un nombre multiple de $3$ écrit en
binaire (en convenant que le mot vide est une représentation binaire
du nombre $0$, ce qui est logique) :

\begin{center}
%%% begin example6 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (97bp,20.28bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,20.28bp) [draw,circle,state,initial,final,accepting below] {$0$};
  \node (q2) at (176bp,20.28bp) [draw,circle,state] {$2$};
  \draw [->] (q1) ..controls (74.757bp,3.6593bp) and (64.084bp,-1.2803bp)  .. (54bp,1.2803bp) .. controls (50.042bp,2.2853bp) and (46.047bp,3.838bp)  .. node[auto] {$1$} (q0);
  \draw [->] (q2) to[loop above] node[auto] {$1$} (q2);
  \draw [->] (q2) ..controls (153.76bp,3.6593bp) and (143.08bp,-1.2803bp)  .. (133bp,1.2803bp) .. controls (129.04bp,2.2853bp) and (125.05bp,3.838bp)  .. node[auto] {$0$} (q1);
  \draw [->] (q0) to[loop above] node[auto] {$0$} (q0);
  \draw [->] (q0) ..controls (45.659bp,20.28bp) and (57.817bp,20.28bp)  .. node[auto] {$1$} (q1);
  \draw [->] (q1) ..controls (124.66bp,20.28bp) and (136.82bp,20.28bp)  .. node[auto] {$0$} (q2);
%
\end{tikzpicture}

%%% end example6 %%%
\end{center}

On commence par ajouter un état initial $q_0$ et un état
final $q_\infty$, avec des ε-transitions $q_0 \to 0$ et $0\to
q_\infty$.  Pour gagner de la place, nous ne figurerons pas ces deux
états sur les dessins qui suivent, mais il faut s'imaginer qu'ils sont
toujours là.

L'élimination de l'état $2$ conduit à l'automate suivant :

\begin{center}
%%% begin example6b %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (97bp,20.28bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,20.28bp) [draw,circle,state,initial,final,accepting below] {$0$};
  \draw [->] (q1) ..controls (74.757bp,3.6593bp) and (64.084bp,-1.2803bp)  .. (54bp,1.2803bp) .. controls (50.042bp,2.2853bp) and (46.047bp,3.838bp)  .. node[auto] {$1$} (q0);
  \draw [->] (q0) ..controls (45.659bp,20.28bp) and (57.817bp,20.28bp)  .. node[auto] {$1$} (q1);
  \draw [->] (q1) to[loop right] node[auto] {$01{*}0$} (q1);
  \draw [->] (q0) to[loop above] node[auto] {$0$} (q0);
%
\end{tikzpicture}

%%% end example6b %%%
\end{center}

\noindent (Répétons qu'on n'a pas figuré l'état initial $q_0$ ni
l'état final $q_\infty$ : les flèches vers et depuis l'état $0$
doivent se comprendre comme des ε-transitions $q_0\to 0$ et $0\to
q_\infty$.)

L'élimination de l'état $1$ conduit alors à l'automate ayant un unique
état $0$, avec une transition vers lui-même étiquetée
$0|1(01{*}0){*}1$.  Enfin, en éliminant l'état $0$, il ne reste qu'une
transition de l'état initial vers l'état final, étiquetée par
$(0|1(01{*}0){*}1){*}$ : le langage reconnu par l'automate de départ
est donc celui dénoté par l'expression
rationnelle $(0|1(01{*}0){*}1){*}$.

On pouvait aussi choisir d'éliminer l'état $1$ en premier, ce qui
conduit à l'automate suivant :

\begin{center}
%%% begin example6c %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q0) at (18bp,20.114bp) [draw,circle,state,initial,final,accepting below] {$0$};
  \node (q2) at (104bp,20.114bp) [draw,circle,state] {$2$};
  \draw [->] (q2) ..controls (82.598bp,6.6202bp) and (75.237bp,2.9515bp)  .. (68bp,1.1137bp) .. controls (59.228bp,-1.1137bp) and (49.898bp,1.2372bp)  .. node[auto] {$01$} (q0);
  \draw [->] (q0) ..controls (47.743bp,20.114bp) and (62.773bp,20.114bp)  .. node[auto] {$10$} (q2);
  \draw [->] (q0) to[loop above] node[auto] {$0|11$} (q0);
  \draw [->] (q2) to[loop above] node[auto] {$1|00$} (q2);
%
\end{tikzpicture}

%%% end example6c %%%
\end{center}

\noindent et finalement à l'expression rationnelle
$(0|11|10(1|00){*}01){*}$, qui est équivalente à la précédente.

\bigbreak

Récapitulons le contenu essentiel à retenir comme conséquence
immédiate de \ref{rational-languages-are-recognizable}
et \ref{recognizable-languages-are-rational} :

\begin{cor}[Kleene]\label{kleenes-theorem}\index{Kleene (théorème de)}
La classe des langages rationnels et celle des langages
reconnaissables coïncident.  (On pourra donc considérer ces termes
comme synonymes.)
\end{cor}

Il faut cependant retenir que s'il y a, mathématiquement, équivalence
entre ces deux classes de langages, cette équivalence \emph{a un coût
  algorithmique}, c'est-à-dire que la conversion d'une expression
rationnelle en automate (surtout si on souhaite un DFA), ou à plus
forte raison d'un automate en expression rationnelle, a une complexité
exponentielle dans le pire cas.  Il est donc pertinent, en
informatique, de ne pas considérer les descriptions d'un langage par
une expression rationnelle, un DFA, et un NFA, comme interchangeables.


\subsection{Le lemme de pompage}

\thingy On ne dispose à ce stade-là d'aucun moyen pour montrer qu'un
langage \emph{n'est pas} rationnel.  La
proposition \ref{pumping-lemma} qui va suivre, et qui s'appelle
couramment « lemme de pompage » (une traduction abusive de l'anglais
« pumping lemma ») constitue le moyen le plus fréquent permettant d'y
arriver : il énonce une condition \emph{nécessaire} pour qu'un langage
soit rationnel, si bien qu'on peut arriver à montrer qu'un langage
n'est pas rationnel en invalidant cette condition (généralement en
procédant par l'absurde).

\begin{prop}[lemme de pompage pour les langages rationnels]\label{pumping-lemma}\index{pompage (lemme de)}
Soit $L$ un langage rationnel.  Il existe alors un entier $k$ tel que
tout mot de $t \in L$ de longueur $|t| \geq k$ admette une
factorisation $t = uvw$ en trois facteurs $u,v,w$ où :
\begin{itemize}
\item[(i)] $|v| \geq 1$ (c'est-à-dire $v\neq\varepsilon$),
\item[(ii)] $|uv| \leq k$,
\item[(iii)] pour tout $i\geq 0$ on a $uv^iw \in L$.
\end{itemize}
\end{prop}
\begin{proof}
Soit $A$ un DFA (complet) qui reconnaît $L$, et soit $k$ son nombre
d'états : on va montrer que $k$ vérifie les propriétés énoncées.  Pour
cela, soit $t = x_1 \cdots x_n$ un mot de $L$ de longueur $n \geq k$,
et soient $q_0,\ldots,q_n$ les états traversés par $A$ pendant la
consommation de $t$, autrement dit, $q_0$ est l'état initial, et $q_j
= \delta(q_{j-1}, x_j)$ pour chaque $1\leq j\leq n$ ; l'état $q_n =
\delta^*(q_0, t)$ est final puisque $t \in L$.  Comme $n+1 > k$ et
comme l'automate $A$ a $k$ états, par le principe des tiroirs, il
existe $j_1\neq j_2$ tels que $q_{j_1} = q_{j_2}$ : pour être plus
précis, soit $j_2$ le plus petit possible tel que les états
$q_0,\ldots,q_{j_2}$ ne soient pas tous distincts, autrement dit, le
premier état répété, et soit $j_1$ la précédente occurrence (forcément
unique) de cet état, c'est-à-dire l'indice tel que $j_1<j_2$ et
$q_{j_1} = q_{j_2}$.

\begin{center}
\begin{tikzpicture}[>=latex,line join=bevel,automaton]
\draw[draw=none,fill=green!20!white] (-58.476bp,-58.476bp) rectangle (58.476bp,58.476bp);
\draw[dotted] (29.238bp,50.642bp) arc (60:-100:58.476bp);
\draw[draw=none,fill=red!20!white] (-188.476bp,-25bp) rectangle (-68.476bp,25bp);
\draw[draw=none,fill=blue!20!white] (-48.476bp,-25bp) rectangle (110bp,25bp);
\node[anchor=south west] at (-188.476bp,-25bp) {$u$};
\node[anchor=south east] at (58.476bp,-58.476bp) {$v$};
\node[anchor=south east] at (110bp,-25bp) {$w$};
\node (q0) at (-198.476bp,0bp) [draw,circle,state,fill=white,initial] {\vbox to0pt{\vss\hbox to0pt{$q_0$\hss}}\phantom{$q_{j_0}$}};
\node (q1) at (-138.476bp,0bp) [draw,circle,state,fill=white] {\vbox to0pt{\vss\hbox to0pt{$q_1$\hss}}\phantom{$q_{j_0}$}};
\node (q2) at (-98.476bp,0bp) {$\cdots$};
\node (qj1) at (-58.476bp,0bp) [draw,circle,state,fill=white] {\vbox to0pt{\vss\hbox to0pt{$q_{j_1}$\hss}}\phantom{$q_{j_0}$}};
\node (qj1p1) at (-44.795bp,37.588bp) [draw,circle,state,fill=white] {\phantom{$q_{j_0}$}};
\node (qj1p2) at (-10.154bp,57.588bp) [draw,circle,state,fill=white] {\phantom{$q_{j_0}$}};
\node (qj1p3) at (29.238bp,50.642bp) {};
\node (qj2m2) at (-10.154bp,-57.588bp) {};
\node (qj2m1) at (-44.795bp,-37.588bp) [draw,circle,state,fill=white] {\phantom{$q_{j_0}$}};
\node (qj2p1) at (0bp,0bp) [draw,circle,state,fill=white] {\phantom{$q_{j_0}$}};
\node (qj2p2) at (60bp,0bp) {$\cdots$};
\node (qn) at (120bp,0bp) [draw,circle,state,fill=white,final] {\vbox to0pt{\vss\hbox to0pt{$q_n$\hss}}\phantom{$q_{j_0}$}};
\draw[->] (q0) -- node[auto] {\footnotesize $x_1$} (q1);
\draw[->] (q1) -- (q2);
\draw[->] (q2) -- node[auto] {\footnotesize $x_{j_1}$} (qj1);
\draw[->] (qj1) -- node[auto] {\footnotesize $x_{j_1+1}$} (qj1p1);
\draw[->] (qj1p1) -- node[auto] {\footnotesize $x_{j_1+2}$} (qj1p2);
\draw[->] (qj1p2) -- (qj1p3);
\draw[->] (qj2m2) -- (qj2m1);
\draw[->] (qj2m1) -- node[auto] {\footnotesize $x_{j_2}$} (qj1);
\draw[->] (qj1) -- node[auto] {\footnotesize $x_{j_2+1}$} (qj2p1);
\draw[->] (qj2p1) -- (qj2p2);
\draw[->] (qj2p2) --  node[auto] {\footnotesize $x_n$}(qn);
\end{tikzpicture}
\end{center}

Posons $u = x_1\cdots x_{j_1}$ (le préfixe de $t$ de longueur $j_1$,
qui est le mot vide si $j_1 = 0$) et $v = x_{j_1+1}\cdots x_{j_2}$ (de
longueur $j_2 - j_1$), et enfin $w = x_{j_2+1}\cdots x_n$ (le suffixe
de $t$ de longueur $n-j_2$, avec la convention $w = \varepsilon$ si
$j_2 = n$).  Ceci définit bien une factorisation $t = uvw$.

On a bien (i) $|v| \geq 1$ puisque $j_2 > j_1$.  On a par ailleurs
(ii) $|uv| \leq k$ puisque $|uv| = j_2$ et que les $j_2$ états
$q_0,\ldots,q_{j_2-1}$ sont distincts (c'est la minimalité de $j_2$)
de sorte que $j_2 \leq k$ (toujours par le principe des tiroirs).

Montrons enfin (iii).  On rappelle tout d'abord que
$\delta^*(q,x_1\cdots x_j) =\penalty0 \delta(\cdots\penalty500
\delta(\delta(q,x_1),x_2)\cdots,x_j)$.  Remarquons que
$\delta^*(q_0,u) = \delta^*(q_0,x_1\cdots x_{j_1}) = q_{j_1}$, et que
$\delta^*(q_{j_1},v) = \delta^*(q_{j_1},x_{j_1+1}\cdots x_{j_2}) =
q_{j_2} = q_{j_1}$.  De cette dernière égalité, on tire
$\delta^*(q_{j_1},v^i) = q_{j_1}$ pour tout $i \geq 0$ (par récurrence
sur $i$).  Enfin, $\delta^*(q_{j_1},w) = \delta^*(q_{j_2},w) =
\delta^*(q_{j_2}, x_{j_2+1}\cdots x_n) = q_n$ (qui est un état final).
En mettant ces faits ensemble, on a $\delta^*(q_0, uv^iw) =
\delta^*(q_{j_1}, v^iw) = \delta^*(q_{j_1}, w) = q_n$, et puisque
$q_n$ est final, ceci montre que le mot $uv^iw$ est accepté par $A$,
i.e., $uv^iw \in L$.
\end{proof}

\thingy On attire l'attention sur l'alternation des quantificateurs.
Le lemme de pompage énonce le fait que :
\begin{itemize}
\item\emph{pour tout} langage rationnel $L$,
\item\emph{il existe} un entier $k\geq 0$ tel que
\item\emph{pour tout} mot $t\in L$ de longueur $|t|\geq k$,
\item\emph{il existe} une factorisation $t=uvw$ vérifiant les
  propriétés (i) $|v|\geq 1$, (ii) $|uv|\leq k$ et (iii) qui suit :
\item\emph{pour tout} $i\geq 0$ on a $uv^iw \in L$.
\end{itemize}

La complexité logique d'un énoncé étant justement mesurée par le
nombre d'alernations de quantificateurs (passages entre « pour tout »
et « il existe » ou vice versa), celui-ci mérite une attention
particulière.  Rappelons donc, du point de vue logique, que, quand on
veut \emph{appliquer} un résultat de ce genre, on \emph{choisit
  librement} les objets introduits par un quantificateur universel
(« pour tout »), mais \emph{on ne choisit pas} ceux qui sont
introduits par un quantificateur existentiel (« il existe ») (ces
derniers sont, si on veut, choisis par l'énoncé qu'on applique : on ne
fait que recevoir leur existence) ; les choses sont inversées quand on
doit démontrer un tel énoncé, mais la démonstration a été faite
ci-dessus et il est donc plus fréquent de devoir appliquer le lemme de
pompage.

Le modèle d'une démonstration par l'absurde pour montrer qu'un langage
$L$ n'est pas rationnel est donc quelque chose comme ceci :
\begin{itemize}
\item on entame un raisonnement par l'absurde en supposant que $L$ est
  rationnel, et on choisit $L$ pour appliquer le lemme de pompage
  (parfois on l'applique à autre chose, comme l'intersection de $L$
  avec un langage connu pour être rationnel, mais en général ce
  sera $L$),
\item le lemme de pompage fournit un $k$ (on \emph{ne choisit donc
  pas} ce $k$, il est donné par le lemme),
\item on choisit alors un mot $t \in L$ de longueur $\geq k$, et c'est
  là que réside la difficulté principale de la démonstration,
\item le lemme de pompage fournit une factorisation $t = uvw$, qu'on
  \emph{ne choisit pas} non plus mais qu'on peut analyser, souvent en
  utilisant (i) et (ii),
\item et on cherche à appliquer la propriété (iii), ce qui implique de
  choisir un $i$, pour arriver à une contradiction (typiquement : le
  mot $uv^i w$ n'est pas dans le langage alors qu'il est censé y
  être).
\end{itemize}

Donnons maintenant un exemple d'utilisation du lemme :

\begin{prop}\label{example-of-pumping-lemma}
Soit $\Sigma = \{a,b\}$.  Le langage $L = \{a^n b^n : n\in\mathbb{N}\}
= \{\varepsilon, ab, aabb, aaabbb,\ldots\}$ constitué des mots formés
d'un certain nombre ($n$) de $a$ suivis du même nombre de $b$ n'est
pas rationnel.
\end{prop}
\begin{proof}
Appliquons la proposition \ref{pumping-lemma} au langage $L$
considéré : appelons $k$ l'entier dont le lemme de pompage garantit
l'existence.  Considérons le mot $t := a^k b^k$ : il doit alors
exister une factorisation $t = uvw$ pour laquelle on a (i) $|v|\geq
1$, (ii) $|uv|\leq k$ et (iii) $uv^iw \in L$ pour tout $i\geq 0$.  La
propriété (ii) assure que $uv$ est formé d'un certain nombre de
répétitions de la lettre $a$ : disons $u = a^\ell$ et $v = a^m$, si
bien que $w = a^{k-\ell-m} b^k$.  La propriété (ii) donne $m\geq 1$.
Enfin, la propriété (iii) affirme que le mot $uv^iw = a^{k+(i-1)m}
b^k$ appartient à $L$ ; mais dès que $i\neq 1$, ceci est faux : il
suffit donc de prendre $i=0$ pour avoir une contradiction.
\end{proof}


\subsection{L'automate minimal, et la minimisation}

\thingy On sait maintenant convertir une expression rationnelle en un
automate équivalent, et réciproquement convertir un automate en
expression rationnelle équivalente.  Il reste un problème auquel nous
n'avons pas donné de réponse : comment savoir si deux automates
\emph{donnés} ou deux expressions rationnelles données (ou un de
chaque) sont équivalents ?

Pour cela, on va introduire un DFA particulier, \emph{canonique},
associé à un langage rationnel, qu'on pourra calculer
algorithmiquement, et qui sera véritablement associé au langage,
c'est-à-dire que deux descriptions équivalentes du même langage
donneront exactement le \emph{même} automate canonique ; par
conséquent, pour tester l'égalité de deux langages, quelle que soit
leur description, il suffira de calculer leurs automates canoniques et
de les comparer.  En fait, cet automate canonique est simplement le
DFA ayant le plus petit nombre d'états reconnaissant le langage en
question ; ce qui est remarquable, et qui n'est pas du tout évident
\textit{a priori}, c'est qu'il est effectivement canonique
(c'est-à-dire qu'il n'existe qu'un seul DFA ayant un nombre minimal
d'états reconnaissant le langage) et qu'on peut le calculer
algorithmiquement.

\begin{thm}[Myhill-Nerode]\label{myhill-nerode}\index{Myhill-Nerode (théorème de)}
Soit $L$ un langage.  Pour $w\in \Sigma^*$, notons $w^{-1} L := \{t
\in \Sigma^* : wt \in L\}$ (autrement dit, l'ensemble des mots qu'on
peut concaténer à $w$ pour obtenir un mot de $L$).  Considérons la
relation d'équivalence $\equiv$ sur $\Sigma^*$ définie par $u \equiv
v$ si et seulement si $u^{-1}L = v^{-1}L$ ; ce qui signifie, si on
préfère, que $\forall t\in \Sigma^*\,((ut\in L) \liff (vt \in L))$.

Alors :
\begin{itemize}
\item le langage $L$ est rationnel si et seulement si la relation
  d'équivalence $\equiv$ possède un nombre \emph{fini} $k$ de classes
  d'équivalence,
\item lorsque c'est le cas, il existe un DFA (complet) ayant $k$ états
  qui reconnaît $L$, il est unique à renommage des
  états\footnote{C'est-à-dire, si on préfère ce terme, isomorphisme
    d'automates.} près, et il n'existe pas de DFA (complet) ayant $<k$
  états qui reconnaisse $L$.
\end{itemize}
\end{thm}
\begin{proof}
Supposons d'abord que l'ensemble $\Sigma^*/{\equiv}$ des classes
d'équivalence pour $\equiv$ soit fini : appelons-le $Q$, et expliquons
comment on peut construire un DFA reconnaissant $L$ et dont l'ensemble
des états soit $Q$.  Notons $[u] := \{v \in \Sigma^* :\penalty-100
u\equiv v\}$ pour la classe d'équivalence de $u$ pour $\equiv$.
Posons $q_0 := [\varepsilon]$ la classe du mot vide.  Remarquons que
si $u\equiv v$ (pour $u,v\in\Sigma^*$), alors on a $u\in L$ si et
seulement si $v\in L$ (en effet, la définition de $\equiv$ est que
$(ut\in L) \liff (vt \in L)$ pour tout $t$, et on applique ça
à $t=\varepsilon$) : autrement dit, une classe $[u] \in Q$ est soit
entièrement incluse dans $L$ soit disjointe de $L$ ; appelons $F$
l'ensemble $\{[u] : u\in L\}$ des classes incluses dans $L$.  Enfin
remarquons que si $u\equiv v$ (pour $u,v\in\Sigma^*$) et $x\in\Sigma$,
on a encore $ux \equiv vx$ (en effet, $uxt \in L \liff vxt \in L$ pour
tout $t\in L$) : il y a donc un sens à définir $\delta([u], x) =
[ux]$.  On a ainsi fabriqué un automate fini $A = (Q,q_0,F,\delta)$.
Vues les définitions de $q_0$ et $\delta$, il est clair que
$\delta^*(q_0,w) = [w]$ pour cet automate, et vue la définition de
$F$, on a $\delta^*(q_0,w) \in F$ si et seulement si $w\in L$.  Ceci
montre bien que $A$ reconnaît le langage $L$.  On a donc prouvé que si
$\Sigma^*/{\equiv}$ est fini, le langage $L$ est rationnel et même il
existe un DFA ayant $k := \#(\Sigma^*/{\equiv})$ états qui le
reconnaît.

Supposons maintenant que $B = (Q_B, q_{0,B}, F_B, \delta_B)$ soit un
DFA reconnaissant $L$.  Définissons une nouvelle relation
d'équivalence $\mathrel{\equiv_B}$ sur $\Sigma^*$ par : $u
\mathrel{\equiv_B} v$ si et seulement si $\delta_B^*(q_{0,B}, u) =
\delta_B^*(q_{0,B}, v)$ (autrement dit, les mots $u$ et $v$ mettent
l'automate $B$ dans le même état).  Si on a $u \mathrel{\equiv_B} v$,
on a aussi $u \equiv v$ : en effet, pour tout $t\in L$ on a
$\delta_B^*(q_{0,B}, ut) = \delta_B^*(q_{0,B}, vt)$, et notamment le
membre de gauche appartient à $F_B$ si et seulement si le membre de
droite y appartient, c'est-à-dire que $ut\in L \liff vt\in L$.  On
vient donc de montrer que $u \mathrel{\equiv_B} v$ implique $u \equiv
v$ (la relation $\equiv_B$ est \emph{plus fine} que $\equiv$) : si on
préfère, chaque classe d'équivalence pour $\equiv$ est donc une
réunion de classes d'équivalences pour $\equiv_B$.  Notamment, comme
$\equiv_B$ a un nombre fini de classes d'équivalence (puisque
$\delta_B^*(q_{0,B}, u)$ ne peut prendre qu'un nombre fini de valeurs,
celles dans $Q_B$), il en va de même de $\equiv$, et plus précisément,
comme $\equiv_B$ a au plus $\#Q_B$ classes d'équivalence, il en va de
même de $\equiv$, c'est-à-dire $k \leq \#Q_B$.  Il n'existe donc pas
de DFA ayant $<k$ états reconnaissant $L$.

Enfin, si $B$ a $k$ états et reconnaît $L$, cela signifie que les deux
relations $\equiv$ et $\equiv_B$ coïncident, et on définit une
bijection $\psi$ entre le $Q = Q_A$ du paragraphe précédent et $Q_B$
en associant à une classe $[w] \in Q$ l'état $\psi([w]) :=
\delta_B^*(q_{0,B},w)$ (qui ne dépend que de la classe de $w$
pour $\equiv_B$ et on vient de voir que c'est la classe de $w$
modulo $\equiv$, c'est-à-dire $[w]$ : ceci est donc bien défini).
Cette bijection $\psi$ vérifie $\psi(q_0) = \psi([\varepsilon]) =
\delta_B^*(q_{0,B},\varepsilon) = q_{0,B}$ ; on a $[w] \in F$ si et
seulement si $w\in L$, c'est-à-dire si et seulement si
$\delta_B^*(q_{0,B},w) \in F_B$ autrement dit $\psi([w]) \in F_B$.  Et
enfin, pour $w\in\Sigma^*$ et $x\in \Sigma$, on a $\psi(\delta([w],x))
= \psi([wx]) = \delta_B^*(q_{0,B},wx) = \delta_B(\delta_B^*(q_0,w), x)
= \delta_B(\psi([w]), x)$.  Bref, $\psi$ préserve l'état initial, les
états finaux, et la relation de transition : c'est donc bien un
isomorphisme d'automates (un renommage des états).
\end{proof}

\thingy Ce théorème affirme donc qu'il existe (à renommage des états
près) un unique DFA (complet) ayant un nombre minimal d'états parmi
ceux qui reconnaissent le langage rationnel $L$ : on l'appelle
\defin[minimal (automate)]{automate minimal} ou \index{canonique
  (automate)|see{minimal}}\textbf{automate canonique} du langage $L$.  La
démonstration ci-dessus en donne une construction à partir d'une
relation d'équivalence, mais cette démonstration n'est pas
algorithmique : on va voir comment on peut le construire de fącon
algorithmique à partir d'un DFA quelconque qui reconnaît $L$.

\begin{prop}\label{dfa-minimization}
Soit $B = (Q_B, q_{0,B}, F_B, \delta_B)$ un DFA (complet !)
reconnaissant un langage $L$, et dont tous les états sont accessibles
(cf. \ref{definition-dfa-accessible-state}).  Alors l'automate
canonique $A$ de $L$ peut s'obtenir en fusionnant dans $B$ chaque
classe d'équivalence pour la relation d'équivalence $\equiv$ définie
sur $Q_B$ par
\[
q \equiv q' \;\liff\; \forall t\in\Sigma^*\,(\delta^*_B(q,t)\in F_B \liff \delta^*_B(q',t)\in F_B)
\]
(Fusionner chaque classe d'équivalence signifie qu'on construit
l'automate $A$ dont l'ensemble d'états est l'ensemble $Q_A :=
Q_B/{\equiv}$ des classes d'équivalence, l'état initial $q_{0,A}$ est
la classe $[q_{0,B}]$ de $q_{0,B}$ pour $\equiv$, les états finaux
sont les classes contenant au moins un état final et qui d'ailleurs
sont entièrement constituées d'états finaux, et la relation de
transition est donnée par $\delta_A([q],x) = [\delta_B(q,x)]$ en
notant $[q]$ la classe de $q$ pour $\equiv$.)

De plus, cet automate $A$ (ou de façon équivalente, la
relation $\equiv$) peut se déduire algorithmiquement de $B$.
\end{prop}
\begin{proof}
On a vu dans le cours de la démonstration de \ref{myhill-nerode} que
l'automate canonique a pour ensemble d'états $\Sigma^*/{\equiv_L}$ où
$\equiv_L$ désigne la relation d'équivalence (alors notée $\equiv$)
définie par $u \mathrel{\equiv_L} v$ lorsque $\forall t\in \Sigma^*
((ut\in L) \liff (vt \in L))$.  Si $q,q' \in Q_B$, comme $q,q'$ sont
accessibles, il existe $w,w'\in\Sigma^*$ tels que
$\delta_B^*(q_{0,B},w) = q$ et $\delta_B^*(q_{0,B},w') = q'$ ; et on a
$q \equiv q'$ si et seulement si $\delta^*_B(q,t)\in F_B \liff
\delta^*_B(q',t)\in F_B$ pour tout $t\in\Sigma^*$, c'est-à-dire
$\delta^*_B(q_{0,B},wt)\in F_B \liff \delta^*_B(q_{0,B},w't)\in F_B$,
c'est-à-dire $wt\in L \liff w't\in L$, autrement dit, $w
\mathrel{\equiv_L} w'$.  L'application $\varphi$ qui à un état $[w]_L$
de l'automate canonique associe la classe de $\delta_B^*(q_{0,B},w)$
pour $\equiv$ est donc une bijection, et comme dans la démonstration
de \ref{myhill-nerode} on vérifie qu'elle préserve l'état initial, les
états finaux, et la relation de transition.  On obtient donc bien
l'automate canonique en fusionnant chaque classe d'équivalence
pour $\equiv$.

Montrons maintenant comment on peut construre $\equiv$
algorithmiquement.  Pour cela, on va définir des relations
d'équivalence $\equiv_i$ pour $i\in\mathbb{N}$ par
\[
q \mathrel{\equiv_i} q' \;\liff\; \forall t\, (|t|\leq i \limp (\delta^*_B(q,t)\in F_B \liff \delta^*_B(q',t)\in F_B))
\]
C'est-à-dire par récurrence
\[
\begin{aligned}
q \mathrel{\equiv_0} q' \;&\liff\; (q\in F_B \liff q'\in F_B)\\
q \mathrel{\equiv_{i+1}} q' \;&\liff\; (q\mathrel{\equiv_{i}}q' \hbox{~et~} \forall x\in\Sigma\,(\delta_B(q,x) \mathrel{\equiv_i} \delta_B(q',x)))\\
\end{aligned}
\]
(la première équivalence vient de ce que $\delta^*_B(q,\varepsilon) =
q$, et la seconde de ce que $\delta^*_B(q,xt) =
\delta^*_B(\delta_B(q,x), t)$).

Il est trivial que $q \mathrel{\equiv_{i+1}} q'$ implique $q
\mathrel{\equiv_i} q'$, c'est-à-dire que $\equiv_{i+1}$ est plus fine
que $\equiv_i$, mais $\equiv$ est plus fine que toutes, et comme elle
n'a qu'un nombre fini de classes d'équivalence, le nombre de classes
ne peut croître strictement qu'un nombre fini de fois, et il doit donc
stationner : il existe $i$ tel que $({\equiv_{i+1}}) = ({\equiv_i})$,
et à ce moment-là, la seconde équivalence de la récurrence montre que
$({\equiv_j}) = ({\equiv_i})$ pour tout $j\geq i$ et donc $(\equiv) =
({\equiv_i})$.

On peut donc calculer $\equiv$ selon l'algorithme suivant : calculer
$\equiv_0$, et par récurrence calculer les $\equiv_i$ jusqu'à ce que
la relation ne change plus, $({\equiv_{i+1}}) = ({\equiv_i})$, auquel
cas la dernière relation calculée est la relation recherchée $(\equiv)
= ({\equiv_i})$, et l'automate canonique $A$ s'obtient en fusionnant
chaque classe d'équivalence pour $\equiv$.
\end{proof}

\thingy L'algorithme décrit par la proposition \ref{dfa-minimization}
porte le nom d'algorithme \index{Moore (algorithme
  de)|see{minimisation}}\textbf{de Moore} ou \defin[minimisation
  (algorithme de)]{de minimisation} ou \textbf{de réduction}.  Voici
comment on peut le mettre en œuvre de façon plus concrète :
\begin{itemize}
\item s'assurer qu'on a affaire à un DFA \underline{\emph{complet sans
    état inaccessible}} (si nécessaire, déterminiser l'automate s'il
  n'est pas déterministe, le compléter s'il est incomplet, et
  supprimer les états inaccessibles s'il y en a) ;
\item appeler $\Pi$ la partition des automates en deux classes : les
  états finaux d'un côté, et les non-finaux de l'autre ;
\item répéter l'opération suivante tant que la partition $\Pi$
  change : pour chaque classe $C$ de $\Pi$ et chaque lettre $x \in
  \Sigma$, s'il existe deux états $q,q' \in C$ tels que $\delta(q,x)$
  et $\delta(q',x)$ ne tombent pas dans la même classe de $\Pi$,
  séparer cette classe $C$ selon la classe de $\delta(\tiret,x)$
  (autrement dit, $q,q'$ restent dans la même classe pour la nouvelle
  partition lorsqu'ils sont dans la même classe pour l'ancienne et que
  pour chaque lettre $x$ leurs images $\delta(q,x)$ et $\delta(q',x)$
  sont aussi dans la même classe) ;
\item si $\Pi$ est la (dernière) partition ainsi obtenue, l'ensemble
  des états de l'automate construit est l'ensemble des classes
  de $\Pi$, les états finaux sont les classes qui contiennent un état
  final (ils sont alors forcément tous finaux), et la fonction de
  transition est obtenue en prenant la fonction de transition sur un
  représentant quelconque de la classe (la classe ne doit pas dépendre
  du représentant).
\end{itemize}

La dernière étape (construction de l'automate) permet de vérifier
qu'on a correctement terminé l'étape précédente (raffinement de la
partition) : si deux états dans la même classe ont une transition
sortante d'étiquette $x$ et qui mènent vers des classes différentes,
c'est que ces états auraient dû être séparés.  Il est donc utile de
refaire un contrôle à ce niveau.

\thingy À titre d'exemple d'exécution de l'algorithme de minimisation,
considérons l'automate suivant :

\begin{center}
%%% begin example7 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,18bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,67bp) [draw,circle,state,initial] {$0$};
  \node (q3) at (186bp,18bp) [draw,circle,state] {$3$};
  \node (q2) at (98bp,105bp) [draw,circle,state] {$2$};
  \node (q5) at (266bp,67bp) [draw,circle,state,final] {$5$};
  \node (q4) at (186bp,105bp) [draw,circle,state,final] {$4$};
  \draw [->] (q2) ..controls (125.5bp,78.193bp) and (148.96bp,54.459bp)  .. node[auto] {$c$} (q3);
  \draw [->] (q0) ..controls (45.307bp,79.816bp) and (60.14bp,87.042bp)  .. node[auto] {$a$} (q2);
  \draw [->] (q2) to[loop above] node[auto] {$a$} (q2);
  \draw [->] (q5) to[loop below] node[auto] {$a,b,c$} (q5);
  \draw [->] (q4) ..controls (213.31bp,92.184bp) and (228.14bp,84.958bp)  .. node[auto] {$c$} (q5);
  \draw [->] (q1) ..controls (128.25bp,18bp) and (144.18bp,18bp)  .. node[auto] {$a,c$} (q3);
  \draw [->] (q4) to[loop above] node[auto] {$a,b$} (q4);
  \draw [->] (q1) to[loop below] node[auto] {$b$} (q1);
  \draw [->] (q3) ..controls (213bp,34.334bp) and (228.89bp,44.318bp)  .. node[auto] {$b$} (q5);
  \draw [->] (q3) to[loop below] node[auto] {$a,c$} (q3);
  \draw [->] (q0) ..controls (45.002bp,50.666bp) and (60.894bp,40.682bp)  .. node[auto] {$c$} (q1);
  \draw [->] (q0) to[loop above] node[auto] {$b$} (q0);
  \draw [->] (q2) ..controls (128.25bp,105bp) and (144.18bp,105bp)  .. node[auto] {$b$} (q4);
%
\end{tikzpicture}

%%% end example7 %%%
\end{center}

Cet automate est bien déterministe, complet et sans état inaccessible.
Dans un premier temps, on partitionne les états en états non-finaux et
finaux, soit $\{0,1,2,3\}$ d'un côté et $\{4,5\}$ de l'autre.
Ensuite, on doit séparer la classe $\{0,1,2,3\}$ en deux selon que la
transition étiquetée par $b$ tombe dans la classe $\{0,1,2,3\}$
elle-même ou bien dans la classe $\{4,5\}$ : on arrive donc à trois
classes, $\{0,1\}$, $\{2,3\}$ et $\{4,5\}$.  Enfin, on doit séparer la
classe $\{0,1\}$ en deux selon que la transition étiquetée par $c$
tombe dans la classe $\{0,1\}$ elle-même ou bien dans la classe
$\{2,3\}$ : on arrive alors à quatre classes, $\{0\}$, $\{1\}$,
$\{2,3\}$ et $\{4,5\}$, et à l'automate minimal suivant :

\begin{center}
%%% begin example7m %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,18bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,76bp) [draw,circle,state,initial] {$0$};
  \node (q23) at (190bp,76bp) [draw,circle,state] {$2\equiv 3$};
  \node (q45) at (278bp,76bp) [draw,circle,state,final] {$4\equiv 5$};
  \draw [->] (q1) to[loop below] node[auto] {$b$} (q1);
  \draw [->] (q23) to[loop above] node[auto] {$a,c$} (q23);
  \draw [->] (q1) ..controls (126.79bp,35.911bp) and (146.9bp,48.867bp)  .. node[auto] {$a,c$} (q23);
  \draw [->] (q0) ..controls (48.315bp,77.182bp) and (65.168bp,77.757bp)  .. (80bp,78bp) .. controls (106.51bp,78.434bp) and (136.64bp,77.795bp)  .. node[auto] {$a$} (q23);
  \draw [->] (q23) ..controls (222.17bp,76bp) and (234.88bp,76bp)  .. node[auto] {$b$} (q45);
  \draw [->] (q0) ..controls (44.591bp,56.971bp) and (61.407bp,44.466bp)  .. node[auto] {$c$} (q1);
  \draw [->] (q0) to[loop above] node[auto] {$b$} (q0);
  \draw [->] (q45) to[loop above] node[auto] {$a,b,c$} (q45);
%
\end{tikzpicture}

%%% end example7m %%%
\end{center}

Il est intéressant de voir comment des petits changements sur
l'automate initial modifient la minimisation.  Si on fait pointer la
transition étiquetée par $c$ de l'état $1$ vers lui-même (au lieu
d'aller vers l'état $3$), c'est-à-dire :

\begin{center}
%%% begin example7b %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q1) at (98bp,18bp) [draw,circle,state] {$1$};
  \node (q0) at (18bp,67bp) [draw,circle,state,initial] {$0$};
  \node (q3) at (178bp,18bp) [draw,circle,state] {$3$};
  \node (q2) at (98bp,105bp) [draw,circle,state] {$2$};
  \node (q5) at (258bp,67bp) [draw,circle,state,final] {$5$};
  \node (q4) at (178bp,105bp) [draw,circle,state,final] {$4$};
  \draw [->] (q2) ..controls (123.52bp,77.652bp) and (143.78bp,55.049bp)  .. node[auto] {$c$} (q3);
  \draw [->] (q0) ..controls (45.307bp,79.816bp) and (60.14bp,87.042bp)  .. node[auto] {$a$} (q2);
  \draw [->] (q2) to[loop above] node[auto] {$a$} (q2);
  \draw [->] (q5) to[loop below] node[auto] {$a,b,c$} (q5);
  \draw [->] (q4) ..controls (205.31bp,92.184bp) and (220.14bp,84.958bp)  .. node[auto] {$c$} (q5);
  \draw [->] (q1) ..controls (126.11bp,18bp) and (138.58bp,18bp)  .. node[auto] {$a$} (q3);
  \draw [->] (q4) to[loop above] node[auto] {$a,b$} (q4);
  \draw [->] (q1) to[loop below] node[auto] {$b,c$} (q1);
  \draw [->] (q3) ..controls (205bp,34.334bp) and (220.89bp,44.318bp)  .. node[auto] {$b$} (q5);
  \draw [->] (q3) to[loop below] node[auto] {$a,c$} (q3);
  \draw [->] (q0) ..controls (45.002bp,50.666bp) and (60.894bp,40.682bp)  .. node[auto] {$c$} (q1);
  \draw [->] (q0) to[loop above] node[auto] {$b$} (q0);
  \draw [->] (q2) ..controls (126.11bp,105bp) and (138.58bp,105bp)  .. node[auto] {$b$} (q4);
%
\end{tikzpicture}

%%% end example7b %%%
\end{center}

\noindent alors la minimisation ne sépare pas les états $0$ et $1$, et
on obtient

\begin{center}
%%% begin example7bm %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (q45) at (198bp,21bp) [draw,circle,state,final] {$4\equiv 5$};
  \node (q01) at (22bp,21bp) [draw,circle,state,initial] {$0\equiv 1$};
  \node (q23) at (110bp,21bp) [draw,circle,state] {$2\equiv 3$};
  \draw [->] (q45) to[loop above] node[auto] {$a,b,c$} (q45);
  \draw [->] (q23) ..controls (142.17bp,21bp) and (154.88bp,21bp)  .. node[auto] {$b$} (q45);
  \draw [->] (q23) to[loop above] node[auto] {$a,c$} (q23);
  \draw [->] (q01) to[loop above] node[auto] {$b,c$} (q01);
  \draw [->] (q01) ..controls (54.17bp,21bp) and (66.885bp,21bp)  .. node[auto] {$a$} (q23);
%
\end{tikzpicture}

%%% end example7bm %%%
\end{center}

En revanche, si on change l'automate pour rendre l'état $4$ non-final
(avec ou sans la modification précédemment évoquée), la minimisation
aboutit sur la partition triviale en six états, c'est-à-dire que
l'automate est, en fait, déjà minimal.

\begin{cor}\label{equivalence-of-regexps-is-decidable}
On peut décider algorithmiquement si deux automates finis (de
n'importe quelle sorte), ou deux expressions rationnelles, ou un
automate et une expression rationnelle, sont équivalents (au sens de
reconnaître/dénoter le même langage).
\end{cor}
\begin{proof}
D'après ce qu'on a déjà vu, et quitte à transformer une expression
rationnelle en εNFA (cf. \ref{rational-languages-are-recognizable}),
et quitte à éliminer les ε-transitions
(cf. \ref{removal-of-epsilon-transitions}) et à déterminiser
(cf. \ref{determinization-of-nfa}), on peut construire
algorithmiquement un DFA reconnaissant le même langage que chacune des
deux données.  La question devient donc de savoir si deux DFA
reconnaissent le même langage.  Or d'après \ref{dfa-minimization}, on
sait transformer un DFA en DFA minimal reconnaissant le même langage,
et d'après \ref{myhill-nerode} on sait que ce DFA est unique à
renumérotation près des états.  On est donc ramené au problème
suivant : donnés deux DFA $A$ et $A'$ (complets et sans états
inaccessibles), trouver s'ils sont le même à renumérotation près
(i.e., s'ils sont isomorphes).

La correspondance entre états de $A$ et de $A'$ peut se construire
état par état : on fait correspondre l'état initial de $A$ à celui
de $A'$, puis pour chaque état $q$ de $A$ mis en correspondance avec
un état $q'$ de $A'$, on fait correspondre chacun des états
$\delta(q,x)$ avec chacun des états $\delta'(q',x)$ où $x$ parcourt
les lettres de l'alphabet.  Si on aboutit ainsi à une contradiction
(deux états de l'un des automates veulent être mis en correspondance
avec le même état de l'autre), on renvoie un échec ; sinon, tous les
états de $A$ et ceux de $A'$ seront mis en correspondance bijective,
et les langages reconnus sont les mêmes.
\end{proof}


\section{Grammaires hors contexte}\label{section-context-free-grammars}

\setcounter{comcnt}{0}

\thingy Alors que les langages et expressions rationnelles servent,
dans le monde informatique, principalement à définir des outils de
recherche de « motifs » (pour la recherche et le remplacement dans un
texte, la validation d'entrées, la syntaxe de bas niveau, etc.), les
grammaires formelles, dont les plus importantes sont les grammaires
\emph{hors contexte} que nous allons maintenant considérer, ont pour
principal intérêt de définir des \emph{syntaxes structurées}, par
exemple la syntaxe d'un langage informatique (typiquement un langage
de programmation).  En fait, l'étude des grammaires formelles en
général, et des grammaires hors contexte en particulier, a été
démarré\footnote{Certains font remonter leur origine bien plus loin :
  on peut trouver une forme de grammaire hors contexte dans la manière
  dont l'Indien Pāṇini (probablement au IV\textsuperscript{e} siècle
  av. notre ère) décrit la grammaire du sanskrit.} en 1956 par le
linguiste (et activiste politique) Noam Chomsky pour servir dans
l'analyse des langues naturelles ; mais c'est plus en informatique
qu'en linguistique qu'elles ont trouvé leur utilité.

Cette fois-ci, on ne s'intéressera pas simplement au langage défini
(par la grammaire hors contexte, dit langage « algébrique »), mais
aussi à la manière dont ces mots s'obtiennent par la grammaire, et
donc, à la manière d'\emph{analyser} (en anglais, \emph{to parse}) un
mot / programme en une structure de données qui le représente : pour
cela, on va définir la notion d'\emph{arbre d'analyse}.

\thingy Un exemple typique d'usage de grammaire hors contexte pour
définir la syntaxe d'un langage de programmation hypothétique pourrait
ressembler à ceci :
\[
\begin{aligned}
\mathit{Statement} &\rightarrow \mathtt{begin}\ \mathit{Block}\ \mathtt{end}\\
\mathit{Statement} &\rightarrow \mathtt{if}\ \mathit{Expression}\ \mathtt{then}\ \mathit{Block}\ \mathtt{fi}\\
\mathit{Statement} &\rightarrow \mathtt{if}\ \mathit{Expression}\ \mathtt{then}\ \mathit{Block}\ \mathtt{else}\ \mathit{Block}\ \mathtt{fi}\\
\mathit{Block} &\rightarrow \varepsilon\\
\mathit{Block} &\rightarrow \mathit{Statement}\ \mathit{Block}\\
\end{aligned}
\]
Il faut comprendre ces règles de la manière suivante : « pour définir
une instruction ($\mathit{Statement}$), on peut mettre un
$\mathtt{begin}$ suivi d'un bloc ($\mathit{Block}$) suivi d'un
$\mathtt{end}$, ou bien un $\mathtt{if}$ suivi d'une expression
($\mathit{Expression}$) suivi d'un $\mathtt{then}$ suivi d'une
instruction, éventuellement suivie encore d'un $\mathtt{else}$ et
d'une nouvelle instruction, et enfin un $\mathtt{fi}$ ; pour définir
un bloc ($\mathit{Block}$), on peut soit ne rien mettre du tout, soit
mettre une instruction suivi d'un nouveau bloc ».

Notre but va être d'expliquer quel genre de règles de ce genre on peut
autoriser, comment elles se comportent, quels types de langages elles
définissent, et comment on peut analyser (essentiellement, retrouver
la manière dont on a construit) un texte produit par une application
de telles règles.

\thingy Dans un contexte informatique, l'usage des grammaires
formelles se fait à un niveau différent de celui des chaînes de
caractères où nous nous sommes placés dans les sections précédentes :
cette fois, les lettres de notre alphabet ne seront généralement pas
des caractères mais des \defin[token]{tokens} du langage dont on
définit la grammaire, un « token » pouvant être une unité variable
selon le langage, mais généralement soit un caractère spécial, soit un
mot-clé du langage (\texttt{begin}, \texttt{end}, \texttt{for}, etc.,
constituent donc généralement un unique token dans l'analyse, et ne
sont pas divisés en leurs lettres individuelles), soit encore une
unité (« nombre », « identificateur », éventuellement « commentaire »)
qui aura été découpée dans une première phase d'analyse, appelée
« analyse lexicale ».

Nous ne rentrerons pas ici dans ces considérations, et nous nous en
tiendrons à l'approche mathématique où on continue à avoir affaire à
des lettres d'un alphabet $\Sigma$ abstrait.


\subsection{Définition, notations et premier exemple}

\thingy\label{definition-context-free-grammar} Une \defin{grammaire
  hors contexte} (on dit parfois aussi « sans contexte » ; en anglais,
« context-free grammar » ou \index{CFG|see{grammaire hors
    contexte}}« CFG » ; ou encore grammaire de \textbf{type 2}) sur un
alphabet $\Sigma$ est la donnée
\begin{itemize}
\item d'un second alphabet $N$, disjoint de $\Sigma$, appelé ensemble
  des \defin[nonterminal]{nonterminaux},
\item d'un élément $S \in N$ appelé \defin[axiome (d'une
  grammaire)]{axiome} ou \index{initial
  (symbole)|see{axiome}}\textbf{symbole initial} de la grammaire,
\item d'un ensemble \emph{fini} $R \subseteq N \times (\Sigma\cup
  N)^*$ de couples $(T,\alpha)$ où $T$ est un nonterminal et $\alpha$
  un mot sur l'alphabet $\Sigma\cup N$, les éléments $(T,\alpha)$ de
  $R$ étant appelés les \index{règle (d'une
    grammaire)|see{production}}\textbf{règles} ou
  \defin[production]{productions} de la grammaire.
\end{itemize}

\thingy Une grammaire hors contexte fait donc intervenir deux
alphabets : l'alphabet $\Sigma$ sur lequel sera le langage (encore à
définir), et l'alphabet $N$ (disjoint de $\Sigma$) qui intervient dans
la définition de la grammaire.  Pour fixer la terminologie, on
appellera \defin{symbole} un élément de $\Sigma \cup N$, ces symboles
étant dits \defin[terminal]{terminaux} lorsqu'ils appartiennent
à $\Sigma$ (ou simplement « lettres »), et \textbf{nonterminaux}
lorsqu'ils appartiennent à $N$.  Un mot sur $\Sigma\cup N$
(c'est-à-dire, une suite finie de symboles) sera appelé
\defin{pseudo-mot} (ou parfois une « forme »), tandis que le terme
« \index{mot}mot » sans précision supplémentaire sera utilisé pour
désigner un mot sur $\Sigma$ (autrement dit, un mot est un pseudo-mot
ne comportant que des symboles terminaux).

Pour redire les choses autrement, les symboles terminaux sont les
lettres des mots du langage qu'on cherche à définir ; les symboles
nonterminaux sont des symboles qui servent uniquement à titre
transitoire dans l'utilisation de la grammaire, et qui sont destinés à
disparaître finalement.  Un « pseudo-mot » est un mot pouvant contenir
des nonterminaux, tandis qu'un « mot » sans précision du contraire ne
contient que des terminaux.

{\footnotesize Typographiquement, on aura tendance à utiliser des
  lettres minuscules pour désigner les symboles terminaux, et
  majuscules pour désigner les symboles nonterminaux ; et on aura
  tendance à utiliser des lettres grecques minuscules pour désigner
  les pseudo-mots.  Il n'est malheureusement pas possible d'être
  complètement systématique.\par}

\thingy Intuitivement, il faut comprendre la grammaire de la manière
suivante.  Les règles $(T,\alpha)$, où on rappelle que $T$ est un
symbole nonterminal et $\alpha$ un pseudo-mot (et on notera $T
\rightarrow \alpha$, cf. ci-dessous) doivent se comprendre
intuitivement comme « le symbole $T$ peut être remplacé
par $\alpha$ ».  On part de l'axiome $S$, et on peut effectuer
librement des substitutions $T \rightarrow \alpha$ (consistant à
remplacer un nonterminal $T$ par un pseudo-mot $\alpha$) autorisées
par les règles : le langage défini par la grammaire est l'ensemble de
tous les mots (ne comportant plus aucun nonterminal) qu'on peut
obtenir de la sorte.

Rendons maintenant cette définition précise :

\thingy Lorsque $G$ est une grammaire hors contexte comme
en \ref{definition-context-free-grammar}, on note $T
\mathrel{\rightarrow_G} \alpha$, ou simplement $T \rightarrow \alpha$
(lorsque $G$ est clair) pour signifier que $(T,\alpha)$ est une règle
de $G$.

On définit une relation $\Rightarrow$ en posant $\gamma T \gamma'
\Rightarrow \gamma\alpha\gamma'$ pour toute règle $(T,\alpha)$ et tous
pseudo-mots $\gamma,\gamma'$ : autrement dit, formellement, on définit
$\lambda\Rightarrow\xi$ lorsqu'il existe $\gamma,\gamma' \in
(\Sigma\cup N)^*$ et $(T,\alpha) \in R$ (ensemble des règles de $G$)
tels que $\lambda = \gamma T \gamma'$ et $\xi = \gamma\alpha\gamma'$.
Concrètement, $\lambda\Rightarrow\xi$ signifie donc que $\xi$ est
obtenu en remplaçant un nonterminal $T$ du pseudo-mot $\lambda$ par la
partie droite d'une production $T \rightarrow \alpha$ de la
grammaire $G$ : on dit encore que $\lambda \Rightarrow \xi$ est une
\defin{dérivation immédiate} de $G$.  On pourra dire que $T
\rightarrow \alpha$ est la règle \textbf{appliquée} dans cette
dérivation immédiate, que $T$ est le \textbf{symbole réécrit} (souvent
souligné dans l'écriture de la dérivation immédiate), et que $\gamma$
et $\gamma'$ sont respectivement le \index{contexte}\textbf{contexte
  gauche} et le \textbf{contexte droit} de l'application de la
règle\footnote{Pour être extrêmement rigoureux, une dérivation
  immédiate doit comporter la donnée du symbole réécrit (ou de façon
  équivalente, du contexte gauche et/ou droit), car elle ne peut pas
  se déduire de la seule donnée de $\lambda$ et $\mu$ (par exemple,
  dans $XX \Rightarrow XXX$, même si on sait que la règle appliquée
  était $X \rightarrow XX$, on ne peut pas deviner si c'est le $X$ de
  gauche ou de droite qui a été réécrit : il faut donc écrire
  $\underline{X}X \Rightarrow XXX$ ou bien $X\underline{X} \Rightarrow
  XXX$, en soulignant le symbole réécrit, pour distinguer les deux).
  De même, dans une dérivation, on devrait inclure la donnée du
  symbole réécrit à chaque étape.}.  Bien sûr, si nécessaire, on
précisera la grammaire appliquée en écrivant $\lambda
\mathrel{\Rightarrow_G} \xi$ au lieu de simplement
$\lambda\Rightarrow\xi$.

Une suite de pseudo-mots $(\lambda_0,\ldots,\lambda_n)$ telle que
\[
\lambda_0 \Rightarrow \lambda_1 \Rightarrow \cdots \Rightarrow \lambda_n
\]
autrement dit $\lambda_{i-1} \Rightarrow \lambda_i$ pour chaque $1\leq
i\leq n$, est appelée \defin{dérivation} de $\lambda_n$ à partir de
$\lambda_0$ dans la grammaire $G$, et on note $\lambda_0
\mathrel{\Rightarrow^*} \lambda_n$ pour indiquer son existence
(c'est-à-dire, si on préfère, que la relation $\Rightarrow^*$ est la
clôture réflexive-transitive de $\Rightarrow$, i.e., la plus petite
relation binaire réflexive et transitive contenant $\Rightarrow$).
Remarquons que $n=0$ est permis, autrement dit $\lambda
\mathrel{\Rightarrow^*} \lambda$ pour tout pseudo-mot $\lambda$.  Bien
sûr, si nécessaire, on précisera la grammaire appliquée en écrivant
$\lambda \mathrel{\Rightarrow^*_G} \xi$ au lieu de simplement $\lambda
\mathrel{\Rightarrow^*} \xi$.

Concrètement, $\lambda \mathrel{\Rightarrow^*} \xi$ signifie donc
qu'on peut passer de $\lambda$ à $\xi$ en effectuant une suite
(finie !) de dérivations immédiates, c'est-à-dire en remplaçant à
chaque étape un nonterminal $T$ par la partie droite $\alpha$ d'une
règle $T \rightarrow \alpha$ de la grammaire $G$.

Il va de soi qu'un pseudo-mot qui ne comporte que des terminaux, i.e.,
qui est en fait un mot (sur $\Sigma$), ne peut pas être dérivé plus
loin.  Ceci justifie au moins en partie la terminologie de
« terminal ».

\thingy Le \defin[engendré (langage)]{langage engendré} $L(G)$ par une
grammaire hors contexte $G$ est l'ensemble des mots $w$ (ne comportant
plus de nonterminaux !) qui peuvent s'obtenir par dérivation à partir
de l'axiome $S$ de $G$, autrement dit :
\[
L(G) = \{w \in \Sigma^* : S \mathrel{\Rightarrow^*} w\}
\]

Un langage qui peut s'écrire sous la forme $L(G)$ où $G$ est une
grammaire hors contexte est appelé \index{hors contexte
  (langage)|see{algébrique}}\textbf{langage hors contexte} ou
\defin[algébrique (langage)]{algébrique}.

Deux grammaires hors contexte $G$ et $G'$ sont dites \defin[faiblement
  équivalentes (grammaires)]{faiblement équivalentes} ou
\index{langage-équivalentes (grammaires)|see{faiblement
    équivalentes}}\textbf{langage-équivalentes} lorsqu'elles
engendrent le même langage ($L(G) = L(G')$).

\thingy\label{basic-example-context-free-grammar} À titre d'exemple,
considérons la grammaire sur l'alphabet $\Sigma = \{a,b\}$ donnée par
\[
\begin{aligned}
S &\rightarrow aSb\\
S &\rightarrow \varepsilon\\
\end{aligned}
\]
où implicitement $S$ est l'axiome et le seul nonterminal : autrement
dit, $G$ est donnée par $N = \{S\}$, d'axiome $S$, et de règles de
production $(S,aSb)$ et $(S,\varepsilon)$ (où $\varepsilon$, bien
entendu, désigne le mot vide).  Un pseudo-mot pour cette grammaire est
un mot sur l'alphabet $\Sigma\cup N = \{a,b,S\}$, et une dérivation
immédiate consiste \emph{soit} à ajouter un $a$ et un $b$ à gauche et
à droite d'un $S$ dans un pseudo-mot, \emph{soit} à retirer un $S$.

Dans ces conditions, il est clair qu'une dérivation partant de
l'axiome $S$ est constituée d'un certain nombre d'applications de la
première règle suivi d'au plus une application de la seconde (puisque
le nombre d'occurrences de $S$ va alors tomber de $1$ à $0$ et on ne
pourra plus dériver).  Autrement dit, une telle dérivation prend la
forme
\[
S \Rightarrow aSb \Rightarrow aaSbb \Rightarrow \cdots \Rightarrow a^n
S b^n
\]
ou éventuellement
\[
S \Rightarrow aSb \Rightarrow aaSbb \Rightarrow \cdots \Rightarrow a^n
S b^n \Rightarrow a^n b^n
\]
Le langage $L(G)$ défini par la grammaire est donc $\{a^n b^n :
n\in\mathbb{N}\}$.

On a vu en \ref{example-of-pumping-lemma} que ce langage n'est pas
rationnel : il existe donc des langages algébriques qui ne sont pas
rationnels.  En revanche, pour ce qui est de la réciproque, on verra
dans la section suivante que tout langage rationnel est algébrique.

\thingy Mentionnons brièvement qu'il existe des types de grammaires
plus généraux que les grammaires hors contexte.  Les \defin[grammaire
  contextuelle]{grammaires contextuelles} (ou grammaires de
\textbf{type 1}) sont définies par des règles du type $\gamma T
\gamma' \rightarrow \gamma \alpha \gamma'$ où $T$ est un nonterminal,
et $\alpha,\gamma,\gamma'$ des pseudo-mots (=mots sur l'alphabet de
tous les symboles), c'est-à-dire des règles qui autorisent la
réécriture d'un symbole $T$ en $\alpha$ mais uniquement s'il est
entouré d'un certain contexte ($\gamma$ à gauche, $\gamma'$ à droite).
Les \defin[grammaire syntagmatique]{grammaires syntagmatiques
  générales} (ou grammaires de \textbf{type 0}) sont définies par des
règles de réécriture $\lambda \rightarrow \mu$ où $\lambda,\mu$ sont
des pseudo-mots quelconques.


\subsection{Langages rationnels et algébriques, stabilité}

\begin{prop}\label{rational-languages-are-algebraic}
Tout langage rationnel est algébrique.  Mieux, on peut déduire
algorithmiquement une grammaire hors contexte $G$ d'un εNFA $A$ de
façon à avoir $L(G) = L(A)$.
\end{prop}
\begin{proof}
Soit $A$ un εNFA : on sait qu'on peut supposer sans perte de
généralité qu'il a un unique état initial $q_0$ (quitte à en créer un
et à remplacer tout état $q$ anciennement initial par une ε-transition
$q_0 \to q$).  Soit $Q$ son ensemble des états et $\delta \subseteq Q
\times (\Sigma\cup\{\varepsilon\}) \times Q$ sa fonction de
transition.  On construit une grammaire hors contexte $G$ dont
l'ensemble des nonterminaux est $Q$, l'axiome est $S := q_0$, (A) pour
chaque transition $(q,t,q') \in \delta$ une règle $q \to tq'$ (on
rappelle que $t \in \Sigma\cup\{\varepsilon\}$), et (B) pour chaque
état final $q\in F$ une règle $q\to\varepsilon$.

De même que dans l'exemple \ref{basic-example-context-free-grammar},
une dérivation partant de l'axiome va comporter un certain nombre
d'applications de règles de type (A) suivies éventuellement d'une
unique application d'une règle de type (B) (ce qui est nécessaire pour
faire passer le nombre de nonterminaux de $1$ à $0$).  Autrement dit,
elle prend la forme $q_0 \Rightarrow t_1 q_1 \Rightarrow t_1 t_2 q_2
\Rightarrow \cdots \Rightarrow t_1 t_2\cdots t_n q_n$ où
$(q_{i-1},t_i,q_i) \in \delta$ pour $1\leq i\leq n$, suivie
éventuellement par $t_1\cdots t_n q_n \Rightarrow t_1\cdots t_n$
lorsque $q_n \in F$.  Manifestement, les dérivations de la sorte
(terminant sur un mot sur $\Sigma$) sont en bijection avec les chemins
$q_0 \to \cdots \to q_n$ dans $A$ où $q_n \in F$, et le mot $t_1\cdots
t_n$ dérivé est précisément le mot formé en concacténant les
étiquettes du chemin.  On a donc bien $L(G) = L(A)$.
\end{proof}

\thingy Une grammaire hors contexte telle que construite dans la
preuve de \ref{rational-languages-are-algebraic} est dite
\index{régulière (grammaire)|see{grammaire régulière}}\defin[grammaire
  régulière]{régulière} : autrement dit, il s'agit d'une grammaire
ayant uniquement des règles de la forme (A) $Q \rightarrow tQ'$ où $t
\in \Sigma\cup\{\varepsilon\}$ (certains auteurs imposent $t \in
\Sigma$, ce qui revient à imposer qu'on part d'un NFA sans
ε-transition dans la construction) et (B) $Q \rightarrow \varepsilon$
(certains auteurs préfèrent $Q \rightarrow x$ avec $x\in\Sigma$, ce
qui impose des petits changements dans la construction ci-dessus).
Les langages définis par des grammaires régulières sont donc
exactement les langages rationnels.

\begin{prop}\label{cfg-union-concatenation-and-star}
Si $L_1,L_2$ sont des langages algébriques (sur un même
alphabet $\Sigma$), alors la réunion $L_1 \cup L_2$ est algébrique ;
de plus, une grammaire hors contexte l'engendrant se déduit
algorithmiquement de grammaires hors contexte engendrant $L_1$
et $L_2$.

Si $L_1,L_2$ sont des langages algébriques (sur un même
alphabet $\Sigma$), alors la concaténation $L_1 L_2$ est algébrique ;
de plus, une grammaire hors contexte l'engendrant se déduit
algorithmiquement de grammaires hors contexte engendrant $L_1$
et $L_2$.

Si $L$ est un langage algébrique, alors l'étoile de Kleene $L^*$ est
algébrique ; de plus, une grammaire hors contexte l'engendrant se
déduit algorithmiquement d'une grammaire hors contexte engendrant $L$.
\end{prop}
\begin{proof}
Pour la réunion : supposons que $G_1$ et $G_2$ engendrent $L_1$ et
$L_2$ respectivement, et ont des ensembles de nonterminaux $N_1$ et
$N_2$ disjoints, avec axiomes $S_1$ et $S_2$ respectivement.  On
construit une grammaire $G$ dont l'ensemble des nonterminaux est $N_1
\cup N_2 \cup \{S\}$ où $S$ est un nouveau nonterminal, choisi comme
axiome, et les règles de production de $G$ sont celles de $G_1$,
celles de $G_2$, et les deux règles supplémentaires $S \rightarrow
S_1$ et $S \rightarrow S_2$.  Il est évident qu'une dérivation de $G$
partant de $S$ est soit de la forme $S \Rightarrow S_1$ suivie d'une
dérivation de $G_1$, soit de la forme $S \Rightarrow S_2$ suivie d'une
dérivation de $G_2$ : ainsi, $L(G) = L_1 \cup L_2$.

Pour la concaténation : la construction est presque exactement la
même, mais on prend pour règle supplémentaire $S \rightarrow S_1 S_2$.

Pour l'étoile : si $G$ engendre $L$ et a pour ensemble de nonterminaux
$N$ et pour axiome $S$, on défit une nouvelle grammaire $G'$ dont
l'ensemble des nonterminaux est $N' = N \cup \{S'\}$ où $S'$ est un
nouveau nonterminal, choisi comme axiome, et les règles de production
de $G'$ sont celles de $G$ et les deux règles supplémentaires $S'
\rightarrow SS'$ et $S' \rightarrow \varepsilon$.  Il est facile de se
convaincre qu'une dérivation de $G'$ partant de $S'$ et utilisant $n$
fois la règle $S' \rightarrow SS'$ se ramène à $n$ dérivations de $G$
partant de $S$, et seule la règle $S' \rightarrow \varepsilon$ permet
de faire disparaître le symbole $S'$.  (Les détails sont omis et
peuvent être rendus plus clairs en utilisant la notion d'arbre de
dérivation.)
\end{proof}

\thingy Ceci fournit une nouvelle démonstration (partant d'une
expression rationnelle plutôt que d'un automate)
de \ref{rational-languages-are-algebraic}, tant il est évident que les
langages $\varnothing$, $\{\varepsilon\}$ et $\{x\}$
(pour $x\in\Sigma$) sont algébriques.

À cause de cette construction, on se permettra parfois, dans l'énoncé
des règles d'une grammaire, d'écrire $T \rightarrow \alpha_1 | \cdots
| \alpha_n$ pour réunir en une seule ligne plusieurs règles $T
\rightarrow \alpha_1$ jusqu'à $T \rightarrow \alpha_n$.  Par exemple,
la grammaire présentée en \ref{basic-example-context-free-grammar}
peut s'écrire $S \rightarrow aSb | \varepsilon$.  Il s'agit d'un
simple racourci d'écriture (comparer avec une convention semblable
faite pour les automates en \ref{graphical-representation-of-dfa}).

On pourrait même se permettre l'abus de notation consistant à écrire
$T \rightarrow U^*$ pour $T \rightarrow UT|\varepsilon$ (c'est-à-dire
$T \rightarrow UT$ et $T \rightarrow \varepsilon$), mais il vaut mieux
éviter car cela pourrait aussi bien signifier $T \rightarrow
TU|\varepsilon$, qui engendre le même langage (i.e., elle est
faiblement équivalente à la précédente) mais dont l'analyse peut être
plus problématique.  De façon encore plus générale, on pourrait
imaginer d'autoriser des règles de la forme $T \rightarrow r$ où $T$
est un nonterminal et $r$ une expression rationnelle quelconque sur
l'alphabet $\Sigma \cup N$ : de telles règles pourraient se ramener
aux règles qu'on a autorisées, quitte à introduire de nouveaux
nonterminaux pour les expressions intermédiaires (par exemple, $T
\rightarrow UV^*$ se transformerait par l'introduction d'un nouveau
nonterminal $V'$ en $T \rightarrow UV'$ et $V' \rightarrow
VV'|\varepsilon$).  Nous éviterons ces extensions aux grammaires hors
contexte pour ne pas introduire de confusion.

\thingy Il peut être utile, pour raisonner sur les langages
algébriques, d'introduire, lorsque $G$ est une grammaire hors contexte
et $T$ un nonterminal quelconque, le langage $L(G,T)$ des mots qui
dérivent de $T$, c'est-à-dire le langage engendré par la grammaire
$G'$ identique à $G$ à ceci près que son axiome est $T$.

On a alors $L(G) = L(G,S)$ où $S$ est l'axiome de $G$, et chaque règle
de production $T \rightarrow \alpha_1 | \cdots | \alpha_n$ se traduit
par une équation portant sur $L(G,T)$, par exemple $T \rightarrow aUbV
| cW$ implique $L(G,T) = a\, L(G,U)\, b\, L(G,V) \; \cup \; c L(G,W)$.
De cette manière, une grammaire hors contexte donne lieu à un système
d'équations portant sur des langages (par exemple, la grammaire de
\ref{basic-example-context-free-grammar} donne lieu à l'équation $L(G)
= (a\,L(G)\,b) \cup \{\varepsilon\}$ : on peut montrer que la
définition des grammaires hors contexte revient à considérer la plus
petite (au sens de l'inclusion) solution de ce système d'équations.

\thingy À la différence des langages rationnels, il \emph{n'est pas
  vrai} en général que l'intersection de deux langages algébriques
soit algébrique : un contre-exemple est fourni par les deux langages
$\{a^i b^i c^j : i,j\in\mathbb{N}\}$ et $\{a^i b^j c^j :
i,j\in\mathbb{N}\}$ (chacun des deux est algébrique : par exemple, le
premier est la concaténation du langage $\{a^i b^i : i\in\mathbb{N}\}$
dont on a vu en \ref{basic-example-context-free-grammar} qu'il était
algébrique, et du langage $\{c\}^*$, qui est algébrique car
rationnel) ; leur intersection $\{a^i b^i c^i : i\in\mathbb{N}\}$
n'est pas algébrique, comme on le démontrera
en \ref{example-of-pumping-lemma-for-algebraic-languages}.

En conséquence, il n'est pas non plus vrai en général que le
complémentaire d'un langage algébrique soit algébrique.

En revanche, le fait suivant, que nous admettons sans démonstration,
peut s'avérer utile :

\begin{prop}\label{intersection-of-algebraic-and-rational}
L'intersection d'un langage \emph{algébrique} et d'un langage
\emph{rationnel} est algébrique.
\end{prop}


\subsection{Autres exemples de grammaires hors contexte}

\thingy\label{example-lr-non-ll-grammar} Sur l'alphabet $\Sigma =
\{a,b\}$, considérons la grammaire (d'axiome $S$)
\[
\begin{aligned}
S &\rightarrow AT\\
A &\rightarrow aA \;|\; \varepsilon\\
T &\rightarrow aTb \;|\; \varepsilon\\
\end{aligned}
\]
Il est clair que le langage $L(G,A)$ des mots qui dérivent de $A$ est
simplement $\{a\}^* = \{a^i : i\in\mathbb{N}\}$ ; et le langage
$L(G,T)$ est $\{a^j b^j : j\in\mathbb{N}\}$ comme
en \ref{basic-example-context-free-grammar}.  Le langage $L(G) =
L(G,A)\, L(G,T)$ est donc $\{a^i b^j : i \geq j\}$, l'ensemble des
mots de la forme $a^i b^j$ pour lesquels $i \geq j$.

On peut aussi considérer la grammaire $G'$ définie par
\[
\begin{aligned}
S &\rightarrow T \;|\; aS\\
T &\rightarrow aTb \;|\; \varepsilon\\
\end{aligned}
\]
Il n'est pas difficile de se convaincre qu'elle engendre le même
langage $L(G)$ que la précédente (elle est donc faiblement équivalente
à $G$).  (Ce langage est intéressant sur le plan théorique, car bien
qu'il soit algébrique et ici défini par une grammaire inambiguë, il ne
peut pas être analysé par un analyseur LL.)

\thingy Sur l'alphabet $\Sigma = \{a,b\}$, considérons la grammaire
(d'axiome $S$)
\[
\begin{aligned}
S &\rightarrow U \;|\; V \;|\; \varepsilon\\
U &\rightarrow aUb \;|\; ab\\
V &\rightarrow aVbb \;|\; abb\\
\end{aligned}
\]
Il est clair que le langage $L(G,U)$ des mots qui dérivent de $U$ est
$\{a^i b^i : i>0\}$ comme en \ref{basic-example-context-free-grammar},
et de façon analogue, le langage $L(G,V)$ des mots qui dérivent de $V$
est $\{a^i b^{2i} : i>0\}$.  Le langage $L(G) = L(G,U) \cup L(G,V)$
est donc l'ensemble des mots de la forme $a^i b^j$ où $j=i$ \emph{ou
  bien} $j=2i$.  (Ce langage est intéressant sur le plan théorique,
car bien qu'il soit algébrique et défini par une grammaire inambiguë,
il n'est pas analysable par un automate à pile déterministe.)

\thingy\label{example-for-intrinsic-ambiguity} Sur l'alphabet $\Sigma
= \{a,b,c\}$, considérons la grammaire (d'axiome $S$)
\[
\begin{aligned}
S &\rightarrow UC \;|\; AV\\
A &\rightarrow aA \;|\; \varepsilon\\
C &\rightarrow cC \;|\; \varepsilon\\
U &\rightarrow aUb \;|\; \varepsilon\\
V &\rightarrow bVc \;|\; \varepsilon\\
\end{aligned}
\]
Il est clair que le langage $L(G,A)$ des mots qui dérivent de $A$ est
simplement $\{a\}^* = \{a^i : i\in\mathbb{N}\}$ et que le langage
$L(G,C)$ des mots qui dérivent de $C$ est simplement $\{c\}^* = \{c^j
: j\in\mathbb{N}\}$ ; le langage $L(G,U)$ est $\{a^i b^i :
i\in\mathbb{N}\}$ comme en \ref{basic-example-context-free-grammar},
et de même $L(G,V) = \{b^j c^j : j\in\mathbb{N}\}$.  Finalement, $L(G)
= L(G,U)\,L(G,C) \;\cup\; L(G,A)\,L(G,V)$ montre que $L(G) = \{a^i b^i
c^j : i,j\in\mathbb{N}\} \cup \{a^i b^j c^j : i,j\in\mathbb{N}\}$ est
le langage des mots de la forme $a^i b^r c^j$ où $r=i$ \emph{ou}
$r=j$.  (Ce langage est intéressant sur le plan théorique, car il est
algébrique mais « intrinsèquement ambigu ».)

\thingy\label{example-well-parenthesized-expressions} Sur l'alphabet
$\Sigma = \{a,b\}$, considérons la grammaire (d'axiome $S$)
\[
S\; \rightarrow\; aSbS \;|\; \varepsilon
\]
ou, ce qui revient au même
\[
\begin{aligned}
S &\rightarrow TS \;|\; \varepsilon\\
T &\rightarrow aSb\\
\end{aligned}
\]
(la première ligne revient par ailleurs à $S \rightarrow T^*$).  On a
alors $L(G) = L(G,T)^*$ où $L(G,T) = a\, L(G)\, b$ désigne le langage
des mots qui peuvent être dérivés à partir de $T$.

Ce langage $L(G)$ s'appelle langage des \defin[bien-parenthésée
  (expression)]{expressions bien-parenthésées} où $a$ représente une
parenthèse ouvrante et $b$ une parenthèse fermante (et $L(G,T)$ est le
langage des blocs parenthésés : autrement dit, une expression
bien-parenthésée est une suite de blocs parenthésés, et un bloc
parenthésé est une expression bien-parenthésée entourée par une
parenthèse ouvrante et une parenthèse fermante — c'est ce que traduit
la grammaire).

\thingy\label{example-grammar-equal-a-and-b} Sur l'alphabet $\Sigma =
\{a,b\}$, montrons que la grammaire $G$ (d'axiome $S$) donnée par
\[
S\; \rightarrow\; aSbS \;|\; bSaS \;|\; \varepsilon
\]
(c'est-à-dire $N = \{S\}$ où $S$ est l'axiome, et pour règles $S
\rightarrow aSbS$ et $S \rightarrow bSaS$ et $S \rightarrow
\varepsilon$) engendre le langage $L$ formé des mots ayant un nombre
total de $a$ égal au nombre total de $b$, i.e., $L = \{w \in\Sigma^* :
|w|_a = |w|_b\}$ où $|w|_x$ désigne le nombre total d'occurrences de
la lettre $x$ dans le mot $w$ (cf. \ref{number-of-occurrences-of-letter}).

Dans un sens il est évident que tout pseudo-mot obtenu en dérivant $S$
a un nombre de $a$ égal au nombre de $b$, puisque cette propriété est
conservée par toute dérivation immédiate.  Autrement dit, $L(G)
\subseteq L$.

Pour ce qui est de la réciproque, on va montrer par récurrence sur
$|w|$ que tout mot $w \in \Sigma^*$ ayant autant de $a$ que de $b$ est
dans $L(G)$.  Pour $|w|=0$ c'est trivial.  Sinon, on peut supposer
sans perte de généralité que le mot $w$ considéré commence par $a$,
soit $w = aw'$ où $w'$ vérifie $|w'|_b - |w'|_a = 1$.  Considérons
maintenant la fonction $h$ qui à un entier $k$ entre $0$ et $|w'|$
associe le nombre de $b$ moins le nombre de $a$ dans le préfixe de
longueur $k$ de $w'$ (i.e., parmi les $k$ premières lettres de $w'$) :
cette fonction prend les valeurs $h(0) = 0$ et $h(|w'|) = 1$, et elle
varie de $\pm 1$ à chaque fois (i.e., $h(i) = h(i-1) \pm 1$ selon que
la $i$-ième lettre de $w'$ est $b$ ou $a$).  Soit $k_0$ le plus grand
entier tel que $h(k_0) = 0$ : cet entier est bien défini car $h(0)=0$.
On a forcément $h(k_0+1) = 1$ car l'autre possibilité, $h(k_0+1) = -1$
impliquerait que $h$ devrait repasser par la valeur $0$ pour atteindre
la valeur finale $h(|w'|) = 1$, ce qui contredirait la maximalité de
$k_0$.  Bref, si $u$ est le préfixe de $w'$ de longueur $k_0$, on a
$|u|_b - |u|_a = h(k_0) = 0$ et la lettre suivante de $w'$ est un $b$,
si bien que $w' = ubv$ et finalement $w = aubv$ où $u$ et donc $v$ ont
autant que $a$ que de $b$, i.e., appartiennent à $L$, et par
récurrence (ils sont de longueur strictement plus courte que $w$)
appartiennent à $L(G)$.  On peut donc dériver $u$ et $v$ de $S$, donc
$w$ de $aSbS$, et comme $aSbS$ se dérive immédiatement de $S$, on a
bien $w \in L(G)$, ce qui conclut la récurrence.

Un raisonnement analogue montre que la grammaire $G'$ donnée par
\[
\begin{aligned}
S &\rightarrow aUbS \;|\; bVaS \;|\; \varepsilon\\
U &\rightarrow aUbU\\
V &\rightarrow bVaV\\
\end{aligned}
\]
engendre le même langage $L = \{w \in\Sigma^* : |w|_a = |w|_b\}$ que
ci-dessus (elle est donc faiblement équivalente à $G$) : l'idée est
que le langage $L(G,U)$ des mots qui dérivent de $U$ est l'ensemble
des expressions bien-parenthésées où $a$ est la parenthèse ouvrante et
$b$ la fermante (dans le raisonnement ci-dessus, ce sont les mots pour
lesquels la fonction $h$, partant de $0$, revient à $0$, et reste
toujours positive ou nulle), tandis que $L(G,V)$ est l'ensemble des
expressions bien-parenthésées où $b$ est la parenthèse ouvrante et $a$
la fermante (la fonction $h$ reste toujours négative ou nulle), et
tout mot de $L$ peut s'écrire comme concaténation de tels mots (en
divisant selon le signe de $h$).  Une différence entre $G$ et $G'$ est
que la grammaire $G$ est ambiguë (un terme qui sera défini plus bas)
tandis que $G'$ ne l'est pas.


\subsection{Arbres d'analyse, dérivations gauche et droite}

\thingy Soit $G$ une grammaire hors contexte sur un alphabet $\Sigma$
et $N$ l'ensemble de ses nonterminaux.  Un \defin{arbre d'analyse} (ou
\index{dérivation (arbre de)|see{arbre d'analyse}}\index{arbre de
  dérivation|see{arbre d'analyse}}\textbf{arbre de dérivation} ; en
anglais \textbf{parse tree}) \textbf{incomplet} pour $G$ est un arbre
(fini, enraciné et ordonné\footnote{C'est-à-dire que l'ensemble des
  fils d'un nœud quelconque de l'arbre est muni d'un ordre total, ou,
  ce qui revient au même, qu'ils sont numérotés (disons de la gauche
  vers la droite).}) dont les nœuds sont étiquetés par des éléments de
$\Sigma \cup N \cup \{\varepsilon\}$, vérifiant les propriétés
suivantes :
\begin{itemize}
\item la racine de l'arbre est étiquetée par l'axiome $S$ de $G$ ;
\item si un nœud de l'arbre est étiqueté par $T$ et n'est pas une
  feuille (i.e., s'il a des fils), alors soit il a un unique fils
  étiqueté $\varepsilon$ et il existe une règle $T \rightarrow
  \varepsilon$ dans $G$, soit il a des fils étiquetés par des éléments
  $x_1\cdots x_n$ (où $n\geq 1$) de $\Sigma \cup N$ et il existe une
  règle $T \rightarrow x_1\cdots x_n$ dans $G$.
\end{itemize}

On dit de plus que l'arbre est \textbf{complet}, ou simplement qu'il
s'agit d'un arbre d'analyse, lorsqu'il vérifie la propriété
supplémentaire suivante :
\begin{itemize}
\item foute feuille de l'arbre est étiquetée soit par un terminal
  (élément de $\Sigma$) soit par $\varepsilon$.
\end{itemize}

(Les feuilles étiquetées $\varepsilon$ servent uniquement à marquer la
complétude de l'arbre : certains auteurs procèdent différemment.)

\thingy Si $T$ est un arbre d'analyse incomplet, et $\alpha$ le
pseudo-mot obtenu en lisant les étiquettes des \emph{feuilles} de $T$
en profondeur ordonnée (c'est-à-dire en commençant par toutes les
feuilles qui descendent du premier fils de la racine elles-mêmes dans
le même ordre, puis toutes celles qui descendent du second fils, et
ainsi de suite) et en ignorant tous les $\varepsilon$, alors on dit
que $T$ est un arbre d'analyse \emph{de} $\alpha$, ou que $\alpha$ est
le pseudo-mot analysé par $T$.  La définition d'un arbre d'analyse
complet signifie exactement qu'il est l'arbre d'analyse d'un
\emph{mot} (c'est-à-dire, d'un mot sur $\Sigma$).

\thingy\label{example-of-parse-tree} À titre d'exemple, considérons la
grammaire (considérée en \ref{example-well-parenthesized-expressions})
\[
\begin{aligned}
S &\rightarrow TS \;|\; \varepsilon\\
T &\rightarrow aSb\\
\end{aligned}
\]

L'arbre d'analyse suivant est un arbre d'analyse du mot $aabbab$ :
\begin{center}
\tikzstyle{automaton}=[scale=0.5]
%%% begin parsetree1 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (e3) at (99bp,18bp) [draw,draw=none] {$\varepsilon$};
  \node (S3) at (549bp,234bp) [draw,draw=none] {$S$};
  \node (S2) at (225bp,234bp) [draw,draw=none] {$S$};
  \node (S1) at (441bp,306bp) [draw,draw=none] {$S$};
  \node (S0) at (369bp,378bp) [draw,draw=none] {$S$};
  \node (T2) at (117bp,162bp) [draw,draw=none] {$T$};
  \node (S6) at (99bp,90bp) [draw,draw=none] {$S$};
  \node (T0) at (261bp,306bp) [draw,draw=none] {$T$};
  \node (T1) at (441bp,234bp) [draw,draw=none] {$T$};
  \node (a1) at (369bp,162bp) [draw,draw=none] {$a$};
  \node (a0) at (153bp,234bp) [draw,draw=none] {$a$};
  \coordinate (spacer) at (297bp,162bp);
  \node (a2) at (27bp,90bp) [draw,draw=none] {$a$};
  \node (b0) at (297bp,234bp) [draw,draw=none] {$b$};
  \node (S5) at (441bp,162bp) [draw,draw=none] {$S$};
  \node (b2) at (171bp,90bp) [draw,draw=none] {$b$};
  \node (S4) at (225bp,162bp) [draw,draw=none] {$S$};
  \node (e1) at (243bp,90bp) [draw,draw=none] {$\varepsilon$};
  \node (e0) at (585bp,162bp) [draw,draw=none] {$\varepsilon$};
  \node (e2) at (441bp,90bp) [draw,draw=none] {$\varepsilon$};
  \node (b1) at (513bp,162bp) [draw,draw=none] {$b$};
  \draw [] (S1) ..controls (484.16bp,277.03bp) and (505.72bp,263.05bp)  .. (S3);
  \draw [] (S0) ..controls (397.96bp,348.85bp) and (412.29bp,334.92bp)  .. (S1);
  \draw [] (S5) ..controls (441bp,132.85bp) and (441bp,118.92bp)  .. (e2);
  \draw [] (S2) ..controls (225bp,204.85bp) and (225bp,190.92bp)  .. (S4);
  \draw [] (T2) ..controls (109.76bp,132.85bp) and (106.18bp,118.92bp)  .. (S6);
  \draw [] (T1) ..controls (469.96bp,204.85bp) and (484.29bp,190.92bp)  .. (b1);
  \draw [] (T0) ..controls (217.84bp,277.03bp) and (196.28bp,263.05bp)  .. (a0);
  \draw [] (T2) ..controls (80.802bp,132.85bp) and (62.893bp,118.92bp)  .. (a2);
  \draw [] (T2) ..controls (138.72bp,132.85bp) and (149.46bp,118.92bp)  .. (b2);
  \draw [] (S1) ..controls (441bp,276.85bp) and (441bp,262.92bp)  .. (T1);
  \draw [] (S4) ..controls (232.24bp,132.85bp) and (235.82bp,118.92bp)  .. (e1);
  \draw [] (S3) ..controls (563.48bp,204.85bp) and (570.64bp,190.92bp)  .. (e0);
  \draw [] (S0) ..controls (325.84bp,349.03bp) and (304.28bp,335.05bp)  .. (T0);
  \draw [] (S6) ..controls (99bp,60.846bp) and (99bp,46.917bp)  .. (e3);
  \draw [] (T0) ..controls (275.48bp,276.85bp) and (282.64bp,262.92bp)  .. (b0);
  \draw [] (T0) ..controls (246.52bp,276.85bp) and (239.36bp,262.92bp)  .. (S2);
  \draw [] (T1) ..controls (412.04bp,204.85bp) and (397.71bp,190.92bp)  .. (a1);
  \draw [] (T1) ..controls (441bp,204.85bp) and (441bp,190.92bp)  .. (S5);
  \draw [] (S2) ..controls (181.84bp,205.03bp) and (160.28bp,191.05bp)  .. (T2);
%
\end{tikzpicture}

%%% end parsetree1 %%%
\end{center}

\thingy Si $S = \lambda_0 \Rightarrow \lambda_1 \Rightarrow \cdots
\Rightarrow \lambda_n$ est une dérivation à partir de l'axiome $S$
dans une grammaire hors contexte $G$, on lui associe, par récurrence
sur $n$, un arbre d'analyse incomplet du pseudo-mot $\lambda_n$, de la
manière suivante : si $n=0$, il s'agit de l'arbre trivial (ayant pour
seul nœud la racine $S$) ; sinon, on part de l'arbre pour la
dérivation $\lambda_0 \Rightarrow \cdots \Rightarrow \lambda_{n-1}$,
on considère le symbole $T$ réécrit dans la dernière dérivation
immédiate $\lambda_{n-1} \Rightarrow \lambda_n$, il correspond à une
certaine feuille de l'arbre pour $n-1$ (à savoir la feuille, étiquetée
$T$, qui a autant de feuilles à gauche et à droite dans l'ordre de
profondeur que la longueur des contextes gauche et droit de la
dérivation immédiate $\lambda_{n-1} \Rightarrow \lambda_n$), et on
ajoute à ce nœud des fils correspondant à la règle $T \to \alpha$
appliquée dans la dernière dérivation immédiate $\lambda_{n-1}
\Rightarrow \lambda_n$ (c'est-à-dire soit un unique fils étiqueté
$\varepsilon$ si $\alpha = \varepsilon$, soit $k$ fils étiquetés
$x_1,\ldots,x_k$ si $\alpha = x_1\cdots x_k$ avec $k\geq 1$).

Concrètement, donc, on construit l'arbre d'analyse d'une dérivation en
partant de la racine et, à chaque fois qu'un symbole est réécrit, en
faisant pousser des fils à la feuille correspondante de l'arbre (qui
cesse donc d'être une feuille) pour indiquer la règle appliquée.

Notons que l'arbre obtenu est complet exactement lorsque la dérivation
aboutit à un mot (sur $\Sigma$).  Notons aussi que le nombre $n$
d'étapes dans la dérivation est égal au nombre de nœuds de l'arbre qui
\emph{ne sont pas} des feuilles.

Deux dérivations (forcément du même mot ou pseudo-mot) auxquelles sont
associées le même arbre d'analyse sont dites \defin[équivalentes
  (dérivations)]{équivalentes}.

\thingy\label{example-of-derivations} À titre d'exemple, l'arbre
illustré en \ref{example-of-parse-tree} est associé à la dérivation
\[
\begin{aligned}
\underline{S} &\Rightarrow \underline{T}S \Rightarrow a\underline{S}bS \Rightarrow a\underline{T}SbS \Rightarrow
aa\underline{S}bSbS \Rightarrow aab\underline{S}bS \Rightarrow aabb\underline{S}\\
&\Rightarrow aabb\underline{T}S \Rightarrow aabba\underline{S}bS \Rightarrow aabbab\underline{S} \Rightarrow aabbab\\
\end{aligned}
\]
(on a souligné à chaque fois le symbole réécrit), mais aussi à la
dérivation
\[
\begin{aligned}
\underline{S} &\Rightarrow T\underline{S} \Rightarrow TT\underline{S} \Rightarrow T\underline{T} \Rightarrow Ta\underline{S}b \Rightarrow \underline{T}ab\\
&\Rightarrow a\underline{S}bab \Rightarrow aT\underline{S}bab \Rightarrow a\underline{T}bab \Rightarrow aa\underline{S}bbab \Rightarrow aabbab\\
\end{aligned}
\]
Ces deux dérivations sont donc équivalentes.  Elles ont toutes les
deux $10$ étapes puisque l'arbre considéré a $10$ nœuds qui ne sont
pas des feuilles.

\thingy On appelle \defin{dérivation gauche} une dérivation (pour une
grammaire hors contexte donnée) dans laquelle le symbole réécrit est
toujours \emph{le nonterminal le plus à gauche} du pseudo-mot
courant : autrement dit, une dérivation gauche est une dérivation
telle que le contexte gauche de chaque dérivation immédiate la
constituant ne comporte que des symboles terminaux (i.e., appartient
à $\Sigma^*$).  Symétriquement, on appelle \textbf{dérivation droite}
une dérivation dans laquelle le symbole réécrit est toujours \emph{le
  nonterminal le plus à droite}, c'est-à-dire que le contexte droit de
chaque dérivation immédiate la constituant ne comporte que des
symboles terminaux.

À titre d'exemple, les deux dérivations données
en \ref{example-of-derivations} sont respectivement une dérivation
gauche et une dérivation droite.

À chaque arbre d'analyse est associée une et une seule dérivation
gauche : on l'obtient de façon évidente en réécrivant à chaque étape
le symbole nonterminal le plus à gauche en suivant la règle indiquée
par l'arbre d'analyse sous le nœud correspondant ; cela revient à
parcourir l'arbre d'analyse en profondeur de gauche à droite, et à
réécrire le symbole correspondant à chaque nœud que l'on rencontre qui
n'est pas une feuille.  De même, à chaque arbre d'analyse est associée
une et une seule dérivation droite.


\subsection{Ambiguïté}

\thingy On dit qu'une grammaire hors contexte est \defin[ambiguë
  (grammaire)]{ambiguë} lorsqu'il existe un mot (i.e., un mot sur
l'alphabet $\Sigma$ des terminaux) qui admet deux arbres d'analyse
\emph{différents}.  Dans le cas contraire, elle est dite
\defin[inambiguë (grammaire)]{inambiguë} : autrement dit, une
grammaire inambiguë est une grammaire $G$ pour laquelle tout $w \in
L(G)$ a un unique arbre d'analyse ; il revient au même de dire que
tout mot de $L(G)$ a une unique dérivation droite, ou encore que tout
mot de $L(G)$ a une unique dérivation gauche.

Les grammaires des langages informatiques réels sont évidemment
(presque ?) toujours inambiguës : on souhaite qu'un programme
(c'est-à-dire, dans la terminologie mathématique, un mot du langage)
admette une unique interprétation, une unique analyse, autrement dit,
un unique arbre d'analyse.

\thingy\label{trivial-example-ambiguity} À titre d'exemple, la
grammaire
\[
S\; \rightarrow\; SS \;|\; a
\]
sur l'alphabet $\{a\}$ est ambiguë.  En effet, le mot $aaa$ admet
l'arbre d'analyse
\begin{center}
\tikzstyle{automaton}=[scale=0.5]
%%% begin parsetree2 %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (S3) at (99bp,90bp) [draw,draw=none] {$S$};
  \node (S2) at (99bp,162bp) [draw,draw=none] {$S$};
  \node (S1) at (27bp,162bp) [draw,draw=none] {$S$};
  \node (S0) at (63bp,234bp) [draw,draw=none] {$S$};
  \node (S4) at (171bp,90bp) [draw,draw=none] {$S$};
  \node (a1) at (99bp,18bp) [draw,draw=none] {$a$};
  \node (a0) at (27bp,90bp) [draw,draw=none] {$a$};
  \node (a2) at (171bp,18bp) [draw,draw=none] {$a$};
  \draw [] (S0) ..controls (48.521bp,204.85bp) and (41.357bp,190.92bp)  .. (S1);
  \draw [] (S1) ..controls (27bp,132.85bp) and (27bp,118.92bp)  .. (a0);
  \draw [] (S2) ..controls (127.96bp,132.85bp) and (142.29bp,118.92bp)  .. (S4);
  \draw [] (S2) ..controls (99bp,132.85bp) and (99bp,118.92bp)  .. (S3);
  \draw [] (S0) ..controls (77.479bp,204.85bp) and (84.643bp,190.92bp)  .. (S2);
  \draw [] (S4) ..controls (171bp,60.846bp) and (171bp,46.917bp)  .. (a2);
  \draw [] (S3) ..controls (99bp,60.846bp) and (99bp,46.917bp)  .. (a1);
%
\end{tikzpicture}

%%% end parsetree2 %%%
\end{center}
mais aussi
\begin{center}
\tikzstyle{automaton}=[scale=0.5]
%%% begin parsetree2b %%%

\begin{tikzpicture}[>=latex,line join=bevel,automaton]
%%
\node (S3) at (27bp,90bp) [draw,draw=none] {$S$};
  \node (S2) at (171bp,162bp) [draw,draw=none] {$S$};
  \node (S1) at (99bp,162bp) [draw,draw=none] {$S$};
  \node (S0) at (135bp,234bp) [draw,draw=none] {$S$};
  \node (S4) at (99bp,90bp) [draw,draw=none] {$S$};
  \node (a1) at (99bp,18bp) [draw,draw=none] {$a$};
  \node (a0) at (27bp,18bp) [draw,draw=none] {$a$};
  \node (a2) at (171bp,90bp) [draw,draw=none] {$a$};
  \draw [] (S1) ..controls (70.042bp,132.85bp) and (55.714bp,118.92bp)  .. (S3);
  \draw [] (S0) ..controls (120.52bp,204.85bp) and (113.36bp,190.92bp)  .. (S1);
  \draw [] (S0) ..controls (149.48bp,204.85bp) and (156.64bp,190.92bp)  .. (S2);
  \draw [] (S1) ..controls (99bp,132.85bp) and (99bp,118.92bp)  .. (S4);
  \draw [] (S3) ..controls (27bp,60.846bp) and (27bp,46.917bp)  .. (a0);
  \draw [] (S2) ..controls (171bp,132.85bp) and (171bp,118.92bp)  .. (a2);
  \draw [] (S4) ..controls (99bp,60.846bp) and (99bp,46.917bp)  .. (a1);
%
\end{tikzpicture}

%%% end parsetree2b %%%
\end{center}

Cette grammaire n'est donc pas ambiguë.  Remarquons que le langage
qu'elle engendre est $\{a\}^+ = \{a^n : n\geq 1\}$ (car il est évident
que tout mot engendré par la grammaire est dans $\{a\}^+$, et
réciproquement il est facile de fabriquer une dérivation de $a^n$ pour
tout $n\geq 1$, par exemple $\underline{S} \Rightarrow S\underline{S}
\Rightarrow \cdots \Rightarrow S^{n-1} S \Rightarrow \cdots a^n$).

Le \emph{même} langage $\{a\}^+ = \{a^n : n\geq 1\}$ peut aussi être
engendré par la grammaire
\[
S\; \rightarrow\; aS \;|\; a
\]
(faiblement équivalente à la précédente, donc) qui, elle, \emph{n'est
  pas} ambiguë : en effet, la seule manière de dériver $a^n$ consiste
à appliquer $n-1$ fois la règle $S \rightarrow aS$ et finalement une
fois la règle $S \rightarrow a$ (il y a donc une unique dérivation du
mot, et \textit{a fortiori} un unique arbre d'analyse).

\thingy La grammaire $G$ des expressions bien-parenthésées
\[
\begin{aligned}
S &\rightarrow TS \;|\; \varepsilon\\
T &\rightarrow aSb\\
\end{aligned}
\]
considérée en \ref{example-well-parenthesized-expressions} est
inambiguë.  Le point crucial pour s'en convaincre est que dans
l'application de la règle $S \rightarrow TS$ dans l'analyse d'un mot
$w \neq \varepsilon$ engendré par la grammaire, il n'y a qu'une seule
possibilité sur la limite du préfixe $u$ qui dérivera de $T$ (et donc
du suffixe qui dérivera de $S$) : en s'inspirant
de \ref{example-grammar-equal-a-and-b} on peut se convaincre que $u$
est le préfixe de $w$ de la plus petite longueur $>0$ possible
comportant autant de $b$ que de $a$ (par exemple si $w = aabbab$ alors
$u = aabb$) ; ce point étant acquis, tout mot $w\neq\varepsilon$ de la
grammaire $L(G) = L(G,S)$ s'analyse de façon unique comme
concaténation d'un mot $u \in L(G,T)$ (c'est-à-dire dérivant de $T$)
et d'un mot $v \in L(G,S)$, et chacun de ces morceaux s'analyse à son
tour de façon unique (la règle $T \rightarrow aSb$ ne permet
manifestement qu'une seule analyse d'un mot de $L(G,T)$ : une fois
qu'on enlève le $a$ initial et le $b$ final, il reste un mot de
$L(G,S)$).

Notamment, l'arbre représenté en \ref{example-of-parse-tree} est
l'\emph{unique} arbre d'analyse de $aabbab$ pour la grammaire
présentée ci-dessus.

\thingy Il arrive que le \emph{même} langage puisse être engendré par
une grammaire ambiguë et par une grammaire inambiguë (on a vu un
exemple en \ref{trivial-example-ambiguity}).  L'ambiguïté est donc une
caractéristique de la \emph{grammaire} hors contexte et non du
\emph{langage} algébrique qu'elle engendre.

Cependant, certains langages algébriques ne sont définis \emph{que}
par des grammaires hors contexte ambiguës.  De tels langages sont dits
\defin[intrinsèquement ambigu (langage algébrique)]{intrinsèquement
  ambigus}.  C'est le cas du langage $\{a^i b^i c^j :
i,j\in\mathbb{N}\} \cup \{a^i b^j c^j : i,j\in\mathbb{N}\}$ dont on a
vu en \ref{example-for-intrinsic-ambiguity} qu'il était algébrique :
il n'est pas évident (cela dépasse le cadre de ce cours) de démontrer
qu'il est intrinsèquement ambigu, mais on peut au moins en donner une
explication intuitive : quelle que soit la manière dont on construit
une grammaire engendrant ce langage, elle devra forcément distinguer
le cas de $a^i b^i c^j$ et celui de $a^i b^j c^j$, or ces cas ne sont
pas disjoints, il existe des mots $a^i b^i c^i$ qui sont à
l'intersection des deux, et ce sont ces mots qui forcent ce langage à
être intrinsèquement ambigu.


\subsection{Le lemme de pompage pour les langages algébriques}

\begin{prop}[lemme de pompage pour les langages algébriques]\label{pumping-lemma-for-algebraic-languages}\index{pompage (lemme de)}
Soit $L$ un langage algébrique.  Il existe alors un entier $k$ tel que
tout mot de $t \in L$ de longueur $|t| \geq k$ admette une
factorisation $t = uvwxy$ en cinq facteurs $u,v,w,x,y$ où :
\begin{itemize}
\item[(i)] $|vx| \geq 1$ (c'est-à-dire $v\neq\varepsilon$ \emph{ou
  bien} $x\neq\varepsilon$),
\item[(ii)] $|vwx| \leq k$,
\item[(iii)] pour tout $i\geq 0$ on a $uv^iwx^iy \in L$.
\end{itemize}
\end{prop}
\begin{proof}\textcolor{red}{(Omise.)}\end{proof}

Donnons maintenant un exemple d'utilisation du lemme :

\begin{prop}\label{example-of-pumping-lemma-for-algebraic-languages}
Soit $\Sigma = \{a,b,c\}$.  Le langage $L = \{a^n b^n c^n :
n\in\mathbb{N}\} = \{\varepsilon, abc, aabbcc, aaabbbcc,\ldots\}$
n'est pas algébrique.
\end{prop}
\begin{proof}
Appliquons la proposition \ref{pumping-lemma-for-algebraic-languages}
au langage $L$ considéré : appelons $k$ l'entier dont le lemme de
pompage garantit l'existence.  Considérons le mot $t := a^k b^k c^k$ :
il doit alors exister une factorisation $t = uvwxy$ pour laquelle on a
(i) $|vx|\geq 1$, (ii) $|vwx|\leq k$ et (iii) $uv^iwx^iy \in L$ pour
tout $i\geq 0$.  La propriété (ii) assure que le facteur $vwx$ ne peut
pas contenir simultanément les lettres $a$ et $c$ : en effet, tout
facteur de $t$ comportant un $a$ et un $c$ doit avoir aussi le facteur
$b^k$, et donc être de longueur $\geq k+2$.  Supposons que $vwx$ ne
contienne pas la lettre $c$ (l'autre cas étant complètement
analogue) : en particulier, ni $v$ ni $x$ ne la contient, donc le mot
$uv^iwx^iy$, qui est dans $L$ d'après (iii), a le même nombre de $c$
que le mot $t$ initial ; mais comme son nombre de $a$ ou bien de $b$
est différent (d'après (i)), on a une contradiction.
\end{proof}

\thingy La proposition \ref{intersection-of-algebraic-and-rational}
peut s'avérer utile pour montrer qu'un langage n'est pas algébrique.
Par exemple, le langage $L$ formé des mots sur $\{a,b,c\}$ ayant le
même nombre total de $a$, de $b$ et de $c$ (autrement dit $\{w \in
\{a,b,c\}^* : |w|_a = |w|_b = |w|_c\}$ où $|w|_x$ désigne le nombre
d'occurrences de la lettre $x$ dans le mot $w$) n'est pas algébrique :
le plus simple pour le voir est de l'intersecter avec le langage
rationnel $M := \{a^i b^j c^k : i,j,k\in\mathbb{N}\}$ (dénoté par
l'expression rationnelle $a{*}b{*}c{*}$) : si $L$ était algébrique
alors d'après \ref{intersection-of-algebraic-and-rational}, le langage
$L\cap M$ le serait aussi ; mais $L\cap M = \{a^i b^i c^i :
i\in\mathbb{N}\}$, et on vient de voir
en \ref{example-of-pumping-lemma-for-algebraic-languages} qu'il n'est
pas algébrique ; c'est donc que $L$ n'est pas non plus algébrique.


\subsection{Notions sur l'analyse des langages hors contexte}

\thingy Il est naturel de se poser la question suivante : existe-t-il
un algorithme qui, donnée une grammaire hors contexte $G$, permet de
déterminer si un mot donné appartient au langage $L(G)$ engendré
par $G$, et, si oui, d'en trouver un arbre d'analyse ?  La réponse à
cette question est positive, mais plus délicate que dans le cadre des
langages rationnels où la notion d'automate fini a permis de donner un
point de vue clair (cf. \ref{rational-languages-are-recognizable}).

\thingy Il existe bien un modèle de calcul qu'on peut imaginer comme
l'analogue pour les langages algébriques (et grammaires hors contexte)
de ce que les automates finis sont pour les langages rationnels (et
expressions régulières) : il s'agit des \emph{automates à pile}.
Informellement, un automate à pile non déterministe fonctionne comme
un automate fini non déterministe à transitions spontanées, mais il a,
en plus de son état courant, accès à une « pile », qui contient des
éléments d'un autre alphabet (l'alphabet de pile), et pour choisir la
transition à effectuer, il peut consulter, en plus du symbole proposé,
les symboles au sommet de la pile (jusqu'à une profondeur bornée), et
une fois cette transition effectuée, décider de rajouter, retirer ou
remplacer des symboles au sommet de la pile.

{\footnotesize

De façon plus formelle, un \index{automate à pile}automate à pile non déterministe est la
donnée d'un ensemble fini $Q$ d'états, d'un ensemble $I \subseteq Q$
d'états dits initiaux, d'un ensemble $F \subseteq Q$ d'états dits
finaux, d'un ensemble fini $\Gamma$ appelé alphabet de pile, et d'une
relation de transition $\delta \subseteq (Q \times
(\Sigma\cup\{\varepsilon\}) \times \Gamma^*) \times (Q \times
\Gamma^*)$.  Dire que $((q,t,\lambda), (q',\lambda')) \in \delta$
signifie que l'automate peut transitionner de l'état $q$ avec
$\lambda$ au sommet de la pile vers l'état $q'$ avec $\lambda'$ (à la
place de $\lambda$) au sommet de la pile en consommant la lettre $t$
(ou spontanément si $t=\varepsilon$), et l'automate \emph{accepte} un
mot $w$ lorsqu'il existe une suite de transitions d'un état initial
avec pile vide vers un état final avec pile vide qui consomme les
lettres de $w$.

De façon plus précise, l'automate accepte $w$ lorsqu'il existe
$q_0,\ldots,q_n \in Q$ (les états traversés) et $t_1,\ldots,t_n \in
(\Sigma\cup\{\varepsilon\})$ (les symboles consommés) et
$\gamma_1,\ldots,\gamma_n \in \Gamma^*$ (les états intermédiaires de
la pile) et $\lambda_1,\ldots,\lambda_n \in \Gamma^*$ (les mots
dépilés) et $\lambda'_1,\ldots,\lambda'_n \in \Gamma^*$ (les mots
empilés) tels que : $q_0 \in I$ et $q_n\in F$ et et $\lambda_1\gamma_1
= \varepsilon$ et $\lambda'_n\gamma_n = \varepsilon$ et
$((q_{i-1},t_i,\lambda_i),(q_i,\lambda'_i)) \in \delta$ pour
chaque $1\leq i\leq n$ et $w = t_1\cdots t_n$ et enfin
$\lambda_i\gamma_i = \lambda'_{i-1}\gamma_{i-1}$ pour chaque $1\leq
i\leq n$.

(Il existe différentes variations autour de cette notion, certaines
sans importance : notamment, on peut relaxer l'exigence que l'automate
termine le calcul avec la pile vide, cela ne change rien à la classe
des langages acceptés.)

\par}

On peut montrer qu'il y a équivalence entre grammaires hors contexte
et automates à pile non déterministes au sens où tout langage engendré
par une grammaire hors contexte est le langage accepté par un automate
à pile non déterministe et réciproquement.  Il n'est d'ailleurs pas
très difficile de construire algorithmiquement un automate à pile non
déterministe qui accepte le langage engendré par une grammaire hors
contexte donnée.  Mais une différence essentielle avec les automates
finis est que cette fois \emph{le non déterministe est essentiel} :
les automates à pile déterministes (qu'il faut définir soigneusement)
acceptent strictement moins de langages que les automates à pile
non déterministes.

\thingy Une approche possible pour résoudre algorithmiquement,
\emph{en théorie}, le problème de décider si un mot $w$ appartient au
langage $L(G)$ engendré par une grammaire $G$ est la suivante :
\begin{itemize}
\item réécrire la grammaire (i.e., la remplacer par une grammaire
  équivalente) de manière à ce que le membre de droite de chaque
  production soit de longueur $\geq 2$, quitte à traiter spécialement
  les éventuels mots de longueur $0$ et $1$ de $L(G)$,
\item on a ensuite affaire à une grammaire \emph{monotone},
  c'est-à-dire que l'application d'une règle ne peut qu'augmenter la
  longueur du pseudo-mot en cours de dérivation, ce qui permet
  d'explorer exhaustivement toutes les possibilités et de s'arrêter
  dès qu'on dépasse la longueur $|w|$ à atteindre.
\end{itemize}

Pour ce qui est de la première partie : l'idée est d'éliminer d'abord
les règles $T \rightarrow U$ (où $U$ est un nonterminal) : ces règles
peuvent s'éliminer quitte à ajouter une règle $T \rightarrow \alpha$
pour toute règle $U \rightarrow \alpha$ : on procède comme pour
l'élimination des ε-transitions dans les εNFA (autrement dit, si on a
une règle $V \rightarrow \alpha$ avec $V$ un nonterminal qui peut être
dérivé par une suite de règles $T \rightarrow \cdots \rightarrow V$ en
partant de $V$, on crée une règle $T \rightarrow \alpha$).  Ensuite,
si on dispose de règles $T \rightarrow \varepsilon$ ou $T \rightarrow
x$ (où $x$ est une lettre), on peut supprimer ces règles quitte à
ajouter à chaque règle ayant un $T$ dans le membre de droite la même
règle où $T$ a été remplacé par $\varepsilon$ ou $U$ ou $x$ selon le
cas ; il faudra simplement faire un cas spécial, si $T$ est l'axiome
de la grammaire, pour retenir que le mot $\varepsilon$ ou $x$ peut
être produit.  À titre d'exemple, dans la grammaire $S \rightarrow
aSbS \,|\, \varepsilon$, on peut écarter la règle $S \rightarrow
\varepsilon$ quitte à ajouter des règles $S \rightarrow aSb$ et $S
\rightarrow abS$ et $S \rightarrow ab$.

\thingy Du point de vue pratique, il existe deux approches principales
pour analyser les langages définis par des grammaires hors contexte
(supposées \emph{au minimum} inambiguës) :
\begin{itemize}
\item Les analyseurs \defin[LL (analyse)]{LL} procèdent de façon \emph{descendante} (en
  anglais « top-down »), parcourent le mot depuis la gauche (« L ») et
  génèrent la dérivation gauche (« L ») de l'arbre d'analyse fabriqué,
  en partant de la racine et en descendant jusqu'aux
  feuilles\footnote{En botanique, un arbre a la racine en bas et les
    feuilles en haut ; en informatique, on les représente plutôt
    racine en haut et feuille en bas.}.
\item Les analyseurs \defin[LR (analyse)]{LR} procèdent de façon \emph{ascendante} (en
  anglais « bottom-up »), parcourent le mot depuis la gauche (« L »)
  et génèrent la dérivation droite (« R ») de l'arbre d'analyse
  fabriqué, en partant des feuilles et en remontant jusqu'aux racines.
\end{itemize}

L'idée générale à retenir est que les analyseurs LR sont strictement
plus puissants que les analyseurs LL (ils sont capables d'analyser
strictement plus de grammaires, cf. \ref{example-lr-non-ll-grammar}),
mais leur écriture est plus difficile et les messages d'erreur qu'ils
retournent sont plus difficiles à comprendre.

\thingy Pour illustrer ces différences, considérons une grammaire très
simple à analyser comme
\[
\begin{aligned}
S &\rightarrow TS \;|\; c\\
T &\rightarrow aSb\\
\end{aligned}
\]

L'approche la plus évidente, si on doit écrire une fonction « analyser
un mot comme dérivant de $S$ dans cette grammaire » consiste à faire
deux fonctions mutuellement récursives, « chercher un préfixe qui
dérive de $S$ » et « chercher un préfixe qui dérive de $T$ ».  En
observant que tout mot qui dérive de $T$ doit commencer par la
lettre $a$, ce qui permet de distinguer les mots dérivant des règles
$S\rightarrow TS$ et $S\rightarrow c$, on va écrire :
\begin{itemize}
\item Fonction « rechercher un préfixe qui dérive de $S$ » (prenant en
  entrée un mot $w\in\{a,b\}^*$ et renvoyant un préfixe de $w$ et un
  arbre de dérivation de $w$ à partir de $S$ :
\begin{itemize}
\item si la première lettre de $w$ est $c$, renvoyer le préfixe $c$ et
  l'arbre trivial $S\to c$, sinon :
\item appeler la fonction « rechercher un préfixe qui dérive
  de $T$ » sur $w$, qui retourne un préfixe $u$ de $w$ et un
  arbre $\mathscr{U}$,
\item appeler la fonction « rechercher un préfixe qui dérive de $S$ »
  sur le suffixe correspondant $t$ de $w$ (c'est-à-dire le $t$ tel que
  $w=ut$), qui retourne un préfixe $v$ de $t$ et un arbre
  $\mathscr{V}$,
\item renvoyer le préfixe $uv$ de $w$ ainsi que l'arbre d'analyse dont
  la racine est donnée par la règle $S\rightarrow TS$ et les
  sous-arbres $\mathscr{U}$ et $\mathscr{V}$ (i.e., une racine
  étiquetée $S$ et deux fils étiquetés $T$ et $S$ qui sont chacun
  racines de sous-arbres donnés par $\mathscr{U}$ et $\mathscr{V}$
  respectivement).
\end{itemize}
\item Fonction « rechercher un préfixe qui dérive de $T$ » (prenant en
  entrée un mot $u\in\{a,b\}^*$ et renvoyant un préfixe de $u$ et un
  arbre de dérivation de $u$ à partir de $T$ :
\begin{itemize}
\item vérifier que la première lettre est un $a$ (sinon, soulever une
  exception indiquant une erreur d'analyse),
\item appeler la fonction « rechercher un préfixe qui dérive de $S$ »
  sur le suffixe correspondant $x$ de $u$ (c'est-à-dire le $x$ tel que
  $u=ax$), qui retourne un préfixe $w$ de $x$ et un
  arbre $\mathscr{W}$,
\item vérifier que la lettre qui suit $w$ dans $x$ est bien $b$,
  c'est-à-dire que $u$ commence par $awb$ (sinon, soulever une
  exception indiquant une erreur d'analyse),
\item renvoyer le préfixe $awb$ de $u$ ainsi que l'arbre d'analyse
  dont la racine est donnée par la règle $T\rightarrow aSb$ et les
  sous-arbres $a$, $\mathscr{W}$ et $b$ (i.e., une racine étiquetée
  $T$ et trois fils étiquetés $a$, $S$ et $b$, celui du milieu étant
  racine d'un sous-arbre donné par $\mathscr{W}$).
\end{itemize}
\end{itemize}

Cette approche réussit sur cette grammaire très simple (où on peut
notamment se convaincre que l'éventuel préfixe dérivant de $S$ ou de
$T$ est toujours défini de façon unique).  L'analyseur qu'on vient de
décrire s'appelle un « analyseur par descente récursive » ; mais
plutôt qu'utiliser la récursivité du langage de programmation
(c'est-à-dire la pile système), on peut aussi utiliser une pile comme
structure de données, et on obtient ainsi essentiellement un automate
à pile, qui utilise sa pile pour retenir les règles qu'il a commencé à
analyser (à partir de la racine de l'arbre d'analyse en cours de
construction).  On a essentiellement construit un analyseur LL, ou
plus exactement LL($1$) (le « $1$ » indiquant qu'on se contente de
lire une unique lettre du mot pour décider quelle règle chercher à
analyser), pour ce langage.  C'est ici l'approche « descendante » :
l'arbre se construit à partir de la racine et la pile sert à retenir
les règles qu'on a commencé à reconnaître.

\smallbreak

L'approche « ascendante » de la même grammaire serait plutôt la
suivante : on parcourt le mot de gauche à droite en gardant de côté
une pile (initialement vide) qui pourra contenir les symboles $a,S,T$,
les deux derniers étant alors associés à des arbres d'analyse ;
\begin{itemize}
\item si on lit un $a$, on se contente de l'empiler,
\item si on lit un $c$, on crée un arbre d'analyse $S\rightarrow c$ et
  on empile le $S$, puis, tant que la pile contient $T$ et $S$ en son
  sommet, on dépile ces deux symboles, on rassemble les deux arbres
  d'analyse associés en les mettant sous un $S\rightarrow TS$ et on
  empile le $S$ correspondant,
\item si on lit un $b$, on vérifie que les deux symboles au sommet de
  la pile sont $a$ et $S$ (sinon on soulève une erreur d'analyse), on
  les dépile et on rassemble l'arbre d'analyse associé au $S$ en le
  mettant sous un $T\rightarrow aSb$, et enfin on empile un $T$
  associé à cet arbre,
\item enfin, si on arrive à la fin du mot, la pile ne doit contenir
  qu'un unique symbole $S$ (sinon on soulève une erreur d'analyse), et
  l'arbre d'analyse final est celui qui lui est associé.
\end{itemize}

Il est un peu difficile d'expliquer en général comment construire un
tel analyseur, mais sur cet exemple précis il est facile de se
convaincre qu'il fonctionne et de comprendre pourquoi : il s'agit
essentiellement là d'un analyseur LR (en fait, LR($0$), le « $0$ »
indiquant qu'on n'a jamais eu besoin de regarder au-delà du symbole
courant pour décider quoi faire), C'est ici l'approche
« ascendante » : l'arbre se construit à partir des feuilles et la pile
sert à retenir les nonterminaux au sommet des morceaux d'arbre déjà
construits (et éventuellement les arbres eux-mêmes).


%
%
%

\section{Introduction à la calculabilité}\label{section-computability}

\setcounter{comcnt}{0}

\thingy\textbf{Discussion préalable.} On s'intéresse ici à la question
de savoir ce qu'un \defin{algorithme} peut ou ne peut pas faire.
Pour procéder de façon rigoureuse, il faudrait formaliser la notion
d'algorithme (par exemple à travers le concept de machine de Turing) :
on a préféré rester informel sur cette définition — par exemple « un
algorithme est une série d'instruction précises indiquant des calculs
à effectuer étape par étape et qui ne manipulent, à tout moment, que
des données finies » ou « un algorithme est quelque chose qu'on
pourrait, en principe, implémenter sur un ordinateur » — étant entendu
que cette notion est déjà bien connue et comprise, au moins dans la
pratique.  Les démonstrations du fait que tel ou tel problème est
décidable par un algorithme ou que telle ou telle fonction est
calculable par un algorithme deviennent beaucoup moins lisibles quand
on les formalise avec une définition rigoureuse d'algorithme
(notamment, programmer une machine de Turing est encore plus
fastidieux que programmer en assembleur un ordinateur, donc s'il
s'agit d'exhiber un algorithme, c'est probablement une mauvaise idée
de l'écrire sous forme de machine de Turing).

Néanmoins, il est essentiel de savoir que ces formalisations
existent : on peut par exemple évoquer le paradigme du
$\lambda$-calcul de Church (la première formalisation rigoureuse de la
calculabilité), les fonctions générales récursives (=$\mu$-récursives)
à la Herbrand-Gödel-Kleene, les machines de Turing (des machines à
états finis capables de lire, d'écrire et de se déplacer sur un ruban
infini contenant des symboles d'un alphabet fini dont à chaque instant
tous sauf un nombre fini sont des blancs), les machines à registres,
le langage « FlooP » de Hofstadter, etc.  Toutes ces formalisations
sont équivalentes (au sens où, par exemple, elles conduisent à la même
notion de fonction calculable ou calculable partielle, définie
ci-dessous).  La \defin[Church-Turing (thèse de)]{thèse de
  Church-Turing} affirme, au moins informellement, que tout ce qui est
effectivement calculable par un algorithme\footnote{Voire, dans
  certaines variantes, physiquement calculable dans notre Univers.}
est calculable par n'importe laquelle de ces notions formelles
d'algorithmes, qu'on peut rassembler sous le nom commun de
\defin[calculable (fonction)]{calculabilité au sens de Church-Turing},
ou « calculabilité » tout court.

Notamment, quasiment tous les langages de programmation
informatique\footnote{C, C++, Java, Python, JavaScript, Lisp, OCaml,
  Haskell, Prolog, etc.  Certains langages se sont même révélés
  Turing-complets alors que ce n'était peut-être pas voulu : par
  exemple, HTML+CSS.}, au moins si on ignore les limites des
implémentations et qu'on les suppose capables de manipuler des
entiers, chaînes de caractère, tableaux, etc., de taille arbitraire
(mais toujours finie)\footnote{Autre condition : ne pas utiliser de
  générateur aléatoire matériel.}, sont « Turing-complets »,
c'est-à-dire équivalents dans leur pouvoir de calcul à la
calculabilité de Church-Turing.  Pour imaginer intuitivement la
calculabilité, on peut donc choisir le langage qu'on préfère et
imaginer qu'on programme dedans.  Essentiellement, pour qu'un langage
soit Turing-complet, il lui suffit d'être capable de manipuler des
entiers de taille arbitraire, de les comparer et de calculer les
opérations arithmétiques dessus, et d'effectuer des tests et des
boucles.

\medbreak

\thingy Il faut souligner qu'on s'intéresse uniquement à la question
de savoir ce qu'un algorithme peut ou ne peut pas faire
(calculabilité), pas au temps ou aux autres ressources qu'il peut
prendre pour le faire (complexité), et on ne cherche donc pas à rendre
les algorithmes efficaces en quelque sens que ce soit.  Par exemple,
pour arguër qu'il existe un algorithme qui décide si un entier naturel
$n$ est premier ou non, il suffit de dire qu'on peut calculer tous les
produits $pq$ avec $2\leq p,q\leq n-1$ et tester si l'un d'eux est
égal à $n$, peu importe que cet algorithme soit absurdement
inefficace.  De même, nos algorithmes sont capables de manipuler des
entiers arbitrairement grands : ceci permet de dire, par exemple, que
toute chaîne binaire peut être considérée comme un entier, peu importe
le fait que cet entier ait peut-être des milliards de chiffres (dans
les langages informatiques réels, on a rarement envie de considérer
toute donnée comme un entier, mais en calculabilité on peut se
permettre de le faire).

Notamment, plutôt que de considérer des « mots » (éléments
de $\Sigma^*$ avec $\Sigma$ un alphabet fini) et « langages » (parties
de $\Sigma^*$), il sera plus pratique de remplacer l'ensemble
$\Sigma^*$ des mots par l'ensemble des entiers naturels, quitte à
choisir un codage (calculable !) des mots par des entiers.  (À titre
d'exemple, on obtient une bijection de l'ensemble $\{0,1\}^*$ des mots
sur l'alphabet à deux lettres avec $\mathbb{N}$ de la façon suivante :
ajouter un $1$ au début du mot, lire celui-ci comme un nombre binaire,
et soustraire $1$.  Plus généralement, une fois choisi un ordre total
sur l'alphabet fini $\Sigma$, on peut trier les mots par ordre de
taille, et, à taille donnée, par ordre lexicographique, et leur
associer les entiers naturels dans le même ordre : il n'est pas
difficile de montrer que cela donne bien une bijection calculable
entre $\Sigma^*$ et $\mathbb{N}$.)

\medbreak

\thingy\textbf{Terminaison des algorithmes.} Un algorithme qui
effectue un calcul utile doit certainement terminer en temps fini.
Néanmoins, même si on voudrait ne s'intéresser qu'à ceux-ci, il n'est
pas possible d'ignorer le « problème » des algorithmes qui ne
terminent jamais (et ne fournissent donc aucun résultat).  C'est le
point central de la calculabilité (et du théorème de Turing
ci-dessous) qu'on ne peut pas se débarrasser des algorithmes qui ne
terminent pas : on ne peut pas, par exemple, formaliser une notion
suffisante\footnote{Tout dépend, évidemment, de ce qu'on appelle
  « suffisant » : il existe bien des notions de calculabilité, plus
  faibles que celle de Church-Turing, où tout calcul termine, voir par
  exemple la notion de fonction « primitive récursive » ou le langage
  « BlooP » de Hofstadter ; mais de telles notions ne peuvent pas
  disposer d'une machine universelle comme expliqué plus loin (en
  raison d'un argument diagonal), donc elles sont nécessairement
  incomplètes en un certain sens.} de calculabilité dans laquelle tout
algorithme termine toujours ; ni développer un langage de
programmation suffisamment général dans lequel il est impossible qu'un
programme « plante » indéfiniment ou parte en boucle infinie.  (Cette
subtilité est d'ailleurs sans doute en partie responsable de la
difficulté historique à dégager la bonne notion d'« algorithme » : on
a commencé par développer des notions d'algorithmes terminant
forcément, comme les fonctions primitives récursives, et on se rendait
bien compte que ces notions étaient forcément toujours incomplètes.)

\bigbreak

\begin{defn}
On dit qu'une fonction $f\colon\mathbb{N}\to\mathbb{N}$ est
\defin{calculable (fonction)} (ou \index{récursive
  (fonction)|see{calculable}}« récursive ») lorsqu'il existe un
algorithme qui prend en entrée $n\in\mathbb{N}$, termine toujours en
temps fini, et calcule (renvoie) $f(n)$.

On dit qu'un ensemble $A \subseteq \mathbb{N}$ (« langage ») est
\defin{décidable} (ou \index{calculable
  (langage)|see{décidable}}« calculable » ou \index{récursif
  (langage)|see{décidable}}« récursif ») lorsque sa fonction
indicatrice $\mathbf{1}_A \colon \mathbb{N} \to \mathbb{N}$ (valant
$1$ sur $A$ et $0$ sur son complémentaire) est calculable.  Autrement
dit : lorsqu'il existe un algorithme qui prend en entrée
$n\in\mathbb{N}$, termine toujours en temps fini, et renvoie
« oui » ($1$) si $n\in A$, « non » ($0$) si $n\not\in A$ (on dira que
l'algorithme « décide » $A$).

On dit qu'une fonction partielle
$f\colon\mathbb{N}\dasharrow\mathbb{N}$ (c'est-à-dire une fonction
définie sur une partie de $\mathbb{N}$, appelé ensemble de définition
de $f$) est \defin[calculable partielle (fonction)]{calculable
  partielle} (ou « récursive partielle ») lorsqu'il existe un
algorithme qui prend en entrée $n\in\mathbb{N}$, termine en temps fini
ssi $f(n)$ est définie, et dans ce cas calcule (renvoie) $f(n)$.  (Une
fonction calculable est donc simplement une fonction calculable
partielle qui est toujours définie : on dira parfois « calculable
totale » pour souligner ce fait.)

On dit qu'un ensemble $A \subseteq \mathbb{N}$ est
\defin{semi-décidable} (ou \index{semi-calculable
  (langage)|see{semi-décidable}}« semi-calculable » ou
\index{semi-récursif (langage)|see{semi-décidable}}« semi-récursif »)
lorsque la fonction partielle $\mathbb{N}\dasharrow\mathbb{N}$ définie
exactement sur $A$ et y valant $1$, est calculable partielle.
Autrement dit : lorsqu'il existe un algorithme qui prend en entrée
$n\in\mathbb{N}$, termine en temps fini ssi $n \in A$, et renvoie
« oui » ($1$) dans ce cas\footnote{En fait, la valeur renvoyée n'a pas
  d'importance ; on peut aussi définir un ensemble semi-décidable
  comme l'ensemble de définition d'une fonction calculable partielle.}
(on dira que l'algorithme « semi-décide » $A$).
\end{defn}

On s'est limité ici à des fonctions d'une seule variable (entière),
mais il n'y a pas de difficulté à étendre ces notions à plusieurs
variables, et de parler de fonction calculable $\mathbb{N}^k \to
\mathbb{N}$ (voire $\mathbb{N}^* \to \mathbb{N}$ avec $\mathbb{N}^*$
l'ensemble des suites finies d'entiers naturels) ou de fonction
calculable partielle de même type : de toute manière, on peut « coder »
un couple d'entiers naturels comme un seul entier naturel (par exemple
par $(m,n) \mapsto 2^m(2n+1)$, qui définit une bijection calculable
$\mathbb{N}^2 \to \mathbb{N}$), ou bien sûr un nombre fini quelconque
(même variable), ce qui permet de faire « comme si » on avait toujours
affaire à un seul paramètre entier.

{\footnotesize\thingy\textbf{Complément :} Comme on n'a pas défini
  formellement la notion d'algorithme, il peut être utile de signaler
  explicitement les faits suivants (qui devraient être évidents sur
  toute notion raisonnable d'algorithme) : les fonctions constantes
  sont calculables ; les opérations arithmétiques usuelles sont
  calculables ; les projections $(n_1,\ldots,n_k) \mapsto n_i$ sont
  calculables, ainsi que la fonction qui à $(m,n,p,q)$ associe $p$ si
  $m=n$ et $q$ sinon ; toute composée de fonctions calculables
  (partielle ou totale) est calculable idem ; si $\underline{m}
  \mapsto g(\underline{m})$ est calculable (partielle ou totale) et
  que $(\underline{m}, n, v) \mapsto h(\underline{m}, n, v)$ l'est,
  alors la fonction $f$ définie par récurrence par $f(\underline{m},0)
  = g(\underline{m})$ et $f(\underline{m},n+1) = h(\underline{m}, n,
  f(\underline{m},n))$ est encore calculable idem (algorithmiquement,
  il s'agit juste de boucler $n$ fois) ; et enfin, si $(\underline{m},
  n) \mapsto g(\underline{m},n)$ est calculable partielle, alors la
  fonction $f$ (aussi notée $\mu_n g$) définie par $f(\underline{m}) =
  \min\{n : g(\underline{m},n) = 0 \land \forall n'<n
  (g(\underline{m},n')\downarrow)\}$ (et non définie si ce $\min$
  n'existe pas) est calculable partielle (algorithmiquement, on teste
  $g(\underline{m},0),g(\underline{m},1),g(\underline{m},2)\ldots$
  jusqu'à tomber sur $0$).  Ces propriétés peuvent d'ailleurs servir à
  \emph{définir} rigoureusement la notion de fonction calculable,
  c'est le modèle des fonctions « générales récursives ».  (Dans ce
  qui précède, la notation $\underline{m}$ signifie
  $m_1,\ldots,m_k$.)\par}

\thingy\textbf{Exemples :} L'ensemble des nombres pairs, des carrés
parfaits, des nombres premiers, sont décidables, c'est-à-dire qu'il
est algorithmique de savoir si un nombre est pair, parfait, ou
premier.  Quitte éventuellement à coder les mots d'un alphabet fini
comme des entiers naturels (cf. plus haut), tout langage rationnel, et
même tout langage défini par une grammaire hors contexte, est
décidable.  On verra plus bas des exemples d'ensembles qui ne le sont
pas, et qui sont ou ne sont pas semi-décidables.

\medbreak

Les deux propositions suivantes, outre leur intérêt intrinsèque,
servent à donner des exemples du genre de manipulation qu'on peut
faire avec la notion de calculabilité et d'algorithme :

\begin{prop}
Un ensemble $A \subseteq \mathbb{N}$ est décidable ssi $A$ et
$\mathbb{N}\setminus A$ sont tous les deux semi-décidables.
\end{prop}
\begin{proof}
Il est évident qu'un ensemble décidable est semi-décidable (si un
algorithme décide $A$, on peut l'exécuter puis effectuer une boucle
infinie si la réponse est « non » pour obtenir un algorithme qui
semi-décide $A$) ; il est également évident que le complémentaire d'un
ensemble décidable est décidable (quitte à échanger les réponses
« oui » et « non » dans un algorithme qui le décide).  Ceci montre
qu'un ensemble décidable est semi-décidable de complémentaire
semi-décidable, i.e., la partie « seulement si ».  Montrons maintenant
le « si » : si on dispose d'algorithmes $T_1$ et $T_2$ qui
semi-décident respectivement $A$ et son complémentaire, on peut lancer
leur exécution en parallèle sur $n \in \mathbb{N}$ (c'est-à-dire
exécuter une étape de $T_1$ puis une étape de $T_2$, puis de $T_1$, et
ainsi de suite jusqu'à ce que l'un des deux termine) : comme il y en a
toujours (exactement) un qui termine, selon lequel c'est, ceci permet
de décider algorithmiquement si $n \in A$ ou $n \not\in A$.
\end{proof}

\begin{prop}
Un ensemble $A \subseteq \mathbb{N}$ non vide est semi-décidable ssi
il existe une fonction calculable $f \colon \mathbb{N} \to \mathbb{N}$
dont l'image ($f(\mathbb{N})$) vaut $A$ (on dit aussi que $A$ est
« calculablement énumérable » ou « récursivement énumérable »).
\end{prop}
\begin{proof}
Montrons qu'un ensemble semi-décidable non vide est calculablement
énumérable.  Fixons $n_0 \in A$ une fois pour toutes.  Soit $T$ un
algorithme qui semi-décide $A$.  On définit une fonction $f \colon
\mathbb{N}^2 \to \mathbb{N}$ de la façon suivante : $f(m,n) = n$
lorsque l'algorithme $T$, exécuté sur l'entrée $n$, termine au
plus $m$ étapes ; sinon, $f(m,n) = n_0$.  On a bien sûr $f(m,n) \in A$
dans tous les cas ; par ailleurs, si $n \in A$, comme l'algorithme $T$
appliqué à $n$ doit terminer, on voit que pour $m$ assez grand on a
$f(m,n) = n$, donc $n$ est bien dans l'image de $f$.  Ceci montre que
$f(\mathbb{N}^2) = A$.  Passer à $f\colon \mathbb{N} \to\mathbb{N}$
est alors facile en composant par une bijection calculable $\mathbb{N}
\to \mathbb{N}^2$ (par exemple la réciproque de $(m,n) \mapsto
2^m(2n+1)$).

Réciproquement, si $A$ est calculablement énumérable, disons $A =
f(\mathbb{N})$ avec $f$ calculable, on obtient un algorithme qui
semi-décide $A$ en calculant successivement $f(0)$, $f(1)$, $f(2)$,
etc., jusqu'à trouver un $k$ tel que $f(k)=n$ (où $n$ est l'entrée
proposée), auquel cas l'algorithme renvoie « oui » (et sinon, il ne
termine jamais puisqu'il effectue une boucle infinie à la recherche
d'un tel $k$).
\end{proof}

{\footnotesize\thingy\textbf{Clarification :} Les deux démonstrations
  ci-dessus font appel à la notion intuitive d'« étape » de
  l'exécution d'un algorithme.  Un peu plus précisément, pour chaque
  entier $m$ et chaque algorithme $T$, il est possible d'« exécuter au
  plus $m$ étapes » de l'algorithme $T$, c'est-à-dire commencer
  l'exécution de celui-ci, et si elle n'est pas finie au bout de $m$
  étapes, s'arrêter (on n'aura pas le résultat de l'exécution de $T$,
  juste l'information « ce n'est pas encore fini » et d'éventuels
  résultats intermédiaires, mais on peut décider de faire autre chose,
  y compris reprendre l'exécution plus tard).  La longueur d'une
  « étape » n'est pas spécifiée et n'a pas d'importance, les choses
  qui importent sont que (A) le fait d'exécuter les $m$ premières
  étapes de $T$ termine toujours (c'est bien l'intérêt), et (B) si
  l'algorithme $T$ termine effectivement, alors pour $m$ suffisamment
  grand, exécuter au plus $m$ étapes donne bien le résultat final
  de $T$ résultat.\par}

{\footnotesize\thingy\textbf{Complément/exercice :} Un ensemble $A
  \subseteq \mathbb{N}$ infini est décidable ssi il existe une
  fonction calculable $f \colon \mathbb{N} \to \mathbb{N}$
  \underline{strictement croissante} dont l'image vaut $A$.
  (Esquisse : si $A$ est décidable, on peut trouver son $n$-ième
  élément par ordre croissant en testant l'appartenance à $A$ de tous
  les entiers naturels dans l'ordre jusqu'à trouver le $n$-ième qui
  appartienne ; réciproquement, si on a une telle fonction, on peut
  tester l'appartenance à $A$ en calculant les valeurs de la fonction
  jusqu'à tomber sur l'entier à tester ou le dépasser.)  En mettant
  ensemble ce fait et la proposition, on peut en déduire le fait
  suivant : tout ensemble semi-décidable infini a un sous-ensemble
  décidable infini (indication : prendre une fonction qui énumère
  l'ensemble et jeter toute valeur qui n'est pas strictement plus
  grande que toutes les précédentes).\par}

\bigbreak

\thingy\textbf{Codage et machine universelle.}  Les algorithmes sont
eux-mêmes représentables par des mots sur un alphabet fini donc, si on
préfère, par des entiers naturels : on parle aussi de \defin{codage
  de Gödel} des algorithmes/programmes par des entiers.  On obtient
donc une énumération $\varphi_0, \varphi_1, \varphi_2,
\varphi_3\ldots$ de toutes les fonctions calculables partielles (la
fonction $\varphi_e$ étant la fonction que calcule l'algorithme [codé
  par l'entier] $e$, avec la convention que si cet algorithme est
syntaxiquement invalide ou erroné pour une raison quelconque, la
fonction $\varphi_e$ est simplement non-définie partout).  Les détails
de cette énumération dépendent de la formalisation utilisée pour la
calculabilité.

Un point crucial dans cette numérotation des algorithmes est
l'existence d'une \defin[universelle (machine)]{machine universelle},
c'est-à-dire d'un algorithme $U$ qui prend en entrée un entier $e$
(codant un algorithme $T$) et un entier $n$, et effectue la même chose
que $T$ sur l'entrée $n$ (i.e., $U$ termine sur les entrées $e$ et $n$
ssi $T$ termine sur l'entrée $n$, et, dans ce cas, renvoie la même
valeur).

Informatiquement, ceci représente le fait que les programmes
informatiques sont eux-mêmes représentables informatiquement : dans un
langage de programmation Turing-complet, on peut écrire un
\emph{interpréteur} pour le langage lui-même (ou pour un autre langage
Turing-complet), c'est-à-dire un programme qui prend en entrée la
représentation $e$ d'un autre programme et qui exécute ce programme
(sur une entrée $n$).

Mathématiquement, on peut le formuler comme le fait que la fonction
(partielle) $(e,n) \mapsto \varphi_e(n)$ (= résultat du $e$-ième
algorithme appliqué sur l'entrée $n$) est elle-même calculable
partielle.

Philosophiquement, cela signifie que la notion d'exécution d'un
algorithme est elle-même algorithmique : on peut écrire un algorithme
qui, donnée une description (formelle !) d'un algorithme et une entrée
à laquelle l'appliquer, effectue l'exécution de l'algorithme fourni
sur l'entrée fournie.

On ne peut pas démontrer ce résultat ici faute d'une description
rigoureuse d'un modèle de calcul précis, mais il n'a rien de
conceptuellement difficile (même s'il peut être fastidieux à écrire
dans les détails : écrire un interpréteur d'un langage de
programmation demande un minimum d'efforts).

{\footnotesize\thingy\textbf{Compléments :} Les deux résultats
  classiques suivants sont pertinents en lien avec la numérotation des
  fonctions calculables partielles.  $\bullet$ Le \emph{théorème de la
    forme normale de Kleene} assure qu'il existe un ensemble
  \underline{décidable} $\mathscr{T} \subseteq \mathbb{N}^4$ tel que
  $\varphi_e(n)$ soit défini ssi il existe $m,v$ tels que $(e,n,m,v)
  \in \mathscr{T}$, et dans ce cas $\varphi_e(n) = v$ (pour s'en
  convaincre, il suffit de définir $\mathscr{T}$ comme l'ensemble des
  $(e,n,m,v)$ tels que le $e$-ième algorithme exécuté sur l'entrée $n$
  termine en au plus $m$ étapes et renvoie le résultat $v$ : le fait
  qu'on dispose d'une machine universelle et qu'on puisse exécuter $m$
  étapes d'un algorithme assure que cet ensemble est bien décidable —
  il est même « primitif récursif »). $\bullet$ Le \emph{théorème
    s-m-n} assure qu'il existe une fonction calculable $s$ telle que
  $\varphi_{s(e,\underline{m})}(\underline{n}) =
  \varphi_e(\underline{m},\underline{n})$ (intuitivement, donné un
  algorithme qui prend plusieurs entrées et des valeurs
  $\underline{m}$ de certaines de ces entrées, on peut fabriquer un
  nouvel algorithme dans lequel ces valeurs ont été fixées — c'est à
  peu près trivial — mais de plus, cette transformation est
  \emph{elle-même algorithmique}, i.e., on peut algorithmiquement
  substituer des valeurs $\underline{m}$ dans un programme [codé par
    l'entier] $e$ : c'est intuitivement clair, mais cela ne peut pas
  se démontrer avec les seules explications données ci-dessus sur
  l'énumération des fonctions calculables partielles, il faut regarder
  précisément comment le codage standard est fait pour une
  formalisation de la calculabilité).\par}

La machine universelle n'a rien de « magique » : elle se contente de
suivre les instructions de l'algorithme $T$ qu'on lui fournit, et
termine ssi $T$ termine.  Peut-on savoir à l'avance si $T$ terminera ?
C'est le fameux « problème de l'arrêt ».

\smallbreak

Intuitivement, le « problème de l'arrêt » est la question
« l'algorithme suivant termine-t-il sur l'entrée suivante » ?

\begin{defn}
On appelle \index{arrêt (problème de l')|see{problème de
    l'arrêt}}\defin{problème de l'arrêt} (ou « langage de l'arrêt »)
l'ensemble des couples $(e,n)$ tels que le $e$-ième algorithme termine
sur l'entrée $n$, i.e., $\{(e,n) \in \mathbb{N}^2 :
\varphi_e(n)\downarrow\}$ (où la notation « $\varphi_e(n)\downarrow$ »
signifie que $\varphi_e(n)$ est défini, i.e., l'algorithme termine).
Quitte à coder les couples d'entiers naturels par des entiers naturels
(par exemple par $(e,n) \mapsto 2^e(2n+1)$), on peut voir le problème
de l'arrêt comme une partie de $\mathbb{N}$.  On peut aussi
préférer\footnote{Même si au final c'est équivalent, c'est \textit{a
    priori} plus fort de dire que $\{e \in \mathbb{N} :
  \varphi_e(e)\downarrow\}$ n'est pas décidable que de dire que
  $\{(e,n) \in \mathbb{N}^2 : \varphi_e(n)\downarrow\}$ ne l'est pas.}
définir le problème de l'arrêt comme $\{e \in \mathbb{N} :
\varphi_e(e)\downarrow\}$, on va voir dans la démonstration ci-dessous
que c'est cet ensemble-là qui la fait fonctionner.
\end{defn}

{\footnotesize (On pourrait aussi définir le problème de l'arrêt comme
  $\{e \in \mathbb{N} : \varphi_e(0)\downarrow\}$ si on voulait, ce
  serait moins pratique pour la démonstration, mais cela ne changerait
  rien au résultat comme on peut le voir en appliquant le théorème
  s-m-n.)\par}

\begin{thm}[Turing]\index{Turing (théorème de)}
Le problème de l'arrêt est semi-décidable mais non décidable.
\end{thm}
\begin{proof}
Le problème de l'arrêt est semi-décidable en vertu de l'existence
d'une machine universelle : donnés $e$ et $n$, on exécute le $e$-ième
algorithme sur l'entrée $n$ (c'est ce que fait la machine
universelle), et s'il termine on renvoie « oui » (et s'il ne termine
pas, bien sûr, on n'a pas de choix que de ne pas terminer).

Montrons par l'absurde que le problème de l'arrêt n'est pas décidable.
S'il l'était, on pourrait définir un algorithme qui, donné un entier
$e$, effectue les calculs suivants : (1º) utiliser le problème de
l'arrêt (supposé décidable !) pour savoir, algorithmiquement en temps
fini, si le $e$-ième algorithme termine quand on lui passe son propre
numéro $e$ en entrée, i.e., si $\varphi_e(e)\downarrow$, (2º) si oui,
effectuer une boucle infinie, et si non, terminer, en renvoyant,
disons, $42$.  L'algorithme qui vient d'être décrit aurait un certain
numéro, disons, $p$, et la description de l'algorithme fait que,
quelque soit $e$, la valeur $\varphi_p(e)$ est indéfinie si
$\varphi_e(e)$ est définie tandis que $\varphi_p(e)$ est définie (de
valeur $42$) si $\varphi_e(e)$ est indéfinie.  En particulier, en
prenant $e=p$, on voit que $\varphi_p(p)$ devrait être défini si et
seulement si $\varphi_p(p)$ n'est pas défini, ce qui est une
contradiction.
\end{proof}

La démonstration ci-dessus est une instance de l'« argument diagonal »
de Cantor, qui apparaît souvent en mathématiques.  (La « diagonale »
en question étant le fait qu'on considère $\varphi_e(e)$, i.e., on
passe le numéro $e$ d'un algorithme en argument à cet algorithme
lui-même, donc on regarde la diagonale de la fonction de deux
variables $(e,n) \mapsto \varphi_e(n)$ ; en modifiant les valeurs sur
cette diagonale, on produit une fonction qui ne peut pas se trouver
dans une ligne $\varphi_p$.)  Une variante facile du même argument
permet de fabriquer des ensembles non semi-décidables (voir le
« bonus » ci-dessous), ou bien on peut appliquer ce qui précède :

\begin{cor}
Le complémentaire du problème de l'arrêt n'est pas semi-décidable.
\end{cor}
\begin{proof}
On a vu que le problème de l'arrêt n'est pas décidable, et qu'un
ensemble est décidable ssi il est semi-décidable et que son
complémentaire l'est aussi : comme le problème de l'arrêt est bien
semi-décidable, son complémentaire ne l'est pas.
\end{proof}

{\footnotesize\thingy\textbf{Complément :} L'argument diagonal est
  aussi au cœur du (voire, équivalent au) \index{Kleene (théorème de récursion de)}\emph{théorème de récursion
    de Kleene}, qui affirme que pour toute fonction calculable
  partielle $h\colon\mathbb{N}^2\dasharrow\mathbb{N}$, il existe $p$
  tel que $\varphi_p(n) = h(p,n)$ pour tout $n$ (la signification
  intuitive de ce résultat est qu'on peut supposer qu'un programme a
  accès à son propre code source $p$, i.e., on peut programmer comme
  s'il recevait en entrée un entier $p$ codant ce code source ; ceci
  permet par exemple — de façon anecdotique mais amusante — d'écrire
  des programmes, parfois appelés « quines », qui affichent leur
  propre code source sans aller le chercher sur disque ou autre
  tricherie).  \textit{Démonstration :} donné $e \in \mathbb{N}$, on
  considère $s(e,m)$ tel que $\varphi_{s(e,m)}(n) = \varphi_e(m,n)$ :
  le théorème s-m-n (cf. ci-dessus) assure qu'une telle fonction
  calculable $(e,m) \mapsto s(e,m)$ existe, et $(e,n) \mapsto
  h(s(e,e), n)$ est alors aussi calculable partielle ; il existe donc
  $q$ tel que $\varphi_q(e,n) = h(s(e,e), n)$ : on pose $p = s(q,q)$,
  et on a $\varphi_p(n) = \varphi_q(q,n) = h(s(q,q), n) = h(p, n)$,
  comme annoncé. \smiley\ La non-décidabilité du problème de l'arrêt
  s'obtient en appliquant (de nouveau par l'absurde) ce résultat à
  $h(e, n)$ la fonction qui n'est pas définie si $\varphi_e(n)$ l'est
  et qui vaut $42$ si $\varphi_e(n)$ n'est pas définie.\par}

La non-décidabilité du problème de l'arrêt est un résultat
fondamental, car très souvent les résultats de non-décidabilité soit
sont démontrés sur un modèle semblable, soit s'y ramènent
directement : pour montrer qu'un certain ensemble $A$ (un
« problème ») n'est pas décidable, on cherche souvent à montrer que si
un algorithme décidant $A$ existait, on pourrait s'en servir pour
construire un algorithme résolvant le problème de l'arrêt.

{\footnotesize\thingy\textbf{Bonus / exemple(s) :} L'ensemble des $e
  \in \mathbb{N}$ tels que la fonction calculable partielle
  $\varphi_e$ soit \underline{totale} (i.e., définie sur
  tout $\mathbb{N}$) n'est pas semi-décidable.  En effet, s'il
  l'était, d'après ce qu'on a vu, il serait « calculablement
  énumérable », c'est-à-dire qu'il existerait une fonction calculable
  $f\colon\mathbb{N}\to\mathbb{N}$ dont l'image soit exactement
  l'ensemble des $e$ pour lesquels $\varphi_e$ est totale, i.e., toute
  fonction calculable totale s'écrirait sous la forme $\varphi_{f(k)}$
  pour un certain $k$.  Mais la fonction $n \mapsto \varphi_{f(n)}(n)
  + 1$ est calculable totale, donc il devrait exister un $m$ tel que
  cette fonction s'écrive $\varphi_{f(m)}$, c'est-à-dire
  $\varphi_{f(m)}(n) = \varphi_{f(n)}(n) + 1$, et on aurait alors en
  particulier $\varphi_{f(m)}(m) = \varphi_{f(m)}(m) + 1$, une
  contradiction. $\bullet$ Son complémentaire, c'est-à-dire l'ensemble
  des $e \in \mathbb{N}$ tels que la fonction calculable partielle
  $\varphi_e$ \underline{ne soit pas} totale, n'est pas non plus
  semi-décidable.  En effet, supposons qu'il existe un algorithme qui,
  donné $e$, termine ssi $\varphi_e$ n'est pas totale.  Donnés $e$ et
  $m$, considérons l'algorithme qui prend une entrée $n$,
  \emph{ignore} celle-ci, et effectue le calcul $\varphi_e(m)$ : ceci
  définit une fonction calculable partielle (soit totale et constante,
  soit définie nulle part !) $\varphi_{s(e,m)}$ où $s$ est calculable
  (on applique ici le théorème s-m-n) — en appliquant à $s(e,m)$
  l'algorithme supposé semi-décider si une fonction récursive
  partielle est non-totale, on voit qu'ici il semi-décide si
  $\varphi_e(m)$ est non-défini, autrement dit on semi-décide le
  complémentaire du problème de l'arrêt, et on a vu que ce n'était pas
  possible !\par}

{\footnotesize\thingy\textbf{Exercice :} Considérons une fonction $h$
  qui à $e$ associe un nombre au moins égal au nombre d'étapes
  (cf. ci-dessus) du calcul de $\varphi_e(e)$, si celui-ci termine, et
  une valeur quelconque si $\varphi_e(e)$ n'est pas défini.  Alors $h$
  n'est pas calculable.  (Indication : si elle l'était, on pourrait
  décider si $\varphi_e(e)$ est défini en exécutant son calcul pendant
  $h(e)$ étapes.)  On peut même montrer que $H(n) := \max\{h(i) :
  i\leq n\}$ domine asymptotiquement n'importe quelle fonction
  calculable mais c'est un peu plus difficile.\par}

\medbreak

{\footnotesize\thingy\textbf{Application à la logique :} Sans rentrer
  dans les détails de ce que signifie un « système formel », on peut
  esquisser, au moins informellement, les arguments suivants.
  Imaginons qu'on ait formalisé la notion de démonstration
  mathématique (c'est-à-dire qu'on les écrit comme des mots dans un
  alphabet indiquant quels axiomes et quelles règles logiques sont
  utilisées) : même sans savoir quelle est exactement la logique
  formelle, le fait de \emph{vérifier} qu'une démonstration est
  correcte doit certainement être algorithmique (il s'agit simplement
  de vérifier que chaque règle a été correctement appliquée),
  autrement dit, l'ensemble des démonstrations est décidable.
  L'ensemble des théorèmes, lui, est semi-décidable (on a un
  algorithme qui semi-décide si un certain énoncé est un théorème en
  énumérant toutes les chaînes de caractères possibles et en cherchant
  s'il s'agit d'une démonstration valable dont la conclusion est
  l'énoncé recherché).  Or l'ensemble des théorèmes n'est pas
  décidable : en effet, si on avait un algorithme qui permet de
  décider si un énoncé mathématique est un théorème, on pourrait
  appliquer cet algorithme à l'énoncé formel (*)« le $e$-ième
  algorithme termine sur l'entrée $e$ », en observant qu'un tel
  énoncé, s'il est vrai, est forcément démontrable (i.e., si
  l'algorithme termine, on peut \emph{démontrer} ce fait en écrivant
  étape par étape l'exécution de l'algorithme pour constituer une
  démonstration qu'il a bien été appliqué jusqu'au bout et a terminé),
  et en espérant que s'il est démontrable alors il est vrai : on
  aurait alors une façon de décider le problème de l'arrêt, une
  contradiction.  Mais du coup, l'ensemble des non-théorèmes ne peut
  pas être semi-décidable ; or comme l'ensemble des énoncés $P$ tels
  que $\neg P$ (« non-$P$ », la négation logique de $P$) soit un
  théorème est semi-décidable (puisque l'ensemble des théorèmes
  l'est), ils ne peuvent pas coïncider.  Ceci montre qu'il existe un
  énoncé tel que ni $P$ ni $\neg P$ ne sont des théorèmes : c'est une
  forme du \emph{théorème de Gödel} que Turing cherchait à démontrer ;
  mieux : en appliquant aux énoncés du type (*), on montre ainsi qu'il
  existe un algorithme qui \emph{ne termine pas} mais dont la
  non-terminaison \emph{n'est pas démontrable}.  (Modulo quelques
  hypothèses qui n'ont pas été explicitées sur le système formel dans
  lequel on travaille.)\par}



%
%
%

\printindex







%
%
%
\end{document}