RESEAU DE NEURONE CONVOLUTIF

Vue d'ensemble

Architecture d'un CNN traditionnelLes réseaux de neurones convolutionnels (en anglais Convolutional neural networks), aussi connus sous le nom de CNNs, sont un type spécifique de réseaux de neurones qui sont généralement composés des couches suivantes :

La couche convolutionnelle et la couche de pooling peuvent être ajustées en utilisant des paramètres qui sont décrites dans les sections suivantes.

Types de couche

Couche convolutionnelle (CONV)La couche convolutionnelle (en anglais convolution layer) (CONV) utilise des filtres qui scannent l'entrée $I$ suivant ses dimensions en effectuant des opérations de convolution. Elle peut être réglée en ajustant la taille du filtre $F$ et le stride $S$. La sortie $O$ de cette opération est appelée feature map ou aussi activation map.

Remarque : l'étape de convolution peut aussi être généralisée dans les cas 1D et 3D.

Pooling (POOL)La couche de pooling (en anglais pooling layer) (POOL) est une opération de sous-échantillonnage typiquement appliquée après une couche convolutionnelle. En particulier, les types de pooling les plus populaires sont le max et l'average pooling, où les valeurs maximales et moyennes sont prises, respectivement.

Fully Connected (FC)La couche de fully connected (en anglais fully connected layer) (FC) s'applique sur une entrée préalablement aplatie où chaque entrée est connectée à tous les neurones. Les couches de fully connected sont typiquement présentes à la fin des architectures de CNN et peuvent être utilisées pour optimiser des objectifs tels que les scde classe.

Paramètres du filtre

La couche convolutionnelle contient des filtres pour lesquels il est important de savoir comment ajuster ses paramètres.

Dimensions d'un filtreUn filtre de taille $F\times F$ appliqué à une entrée contenant $C$ canaux est un volume de taille $F \times F \times C$ qui effectue des convolutions sur une entrée de taille $I \times I \times C$ et qui produit un feature map de sortie (aussi appelé activation map) de taille $O \times O \times 1$.

Remarque : appliquer $K$ filtres de taille $F\times F$ engendre un feature map de sortie de taille $O \times O \times K$.

StrideDans le contexte d'une opération de convolution ou de pooling, la stride $S$ est un paramètre qui dénote le nombre de pixels par lesquels la fenêtre se déplace après chaque opération.

Zero-paddingLe zero-padding est une technique consistant à ajouter $P$ zeros à chaque côté des frontières de l'entrée. Cette valeur peut être spécifiée soit manuellement, soit automatiquement par le biais d'une des configurations détaillées ci-dessous :

Réglage des paramètres

Compatibilité des paramètres dans la couche convolutionnelleEn notant $I$ le côté du volume d'entrée, $F$ la taille du filtre, $P$ la quantité de zero-padding, $S$ la stride, la taille $O$ de la feature map de sortie suivant cette dimension est telle que :

$\boxed{O=\frac{I-F+P_\text{start} + P_\text{end}}{S}+1}$

Remarque : on a souvent $P_\text{start} = P_\text{end} \triangleq P$, auquel cas on remplace $P_\text{start} + P_\text{end}$ par $2P$ dans la formule au-dessus.

Comprendre la complexité du modèlePour évaluer la complexité d'un modèle, il est souvent utile de déterminer le nombre de paramètres que l'architecture va avoir. Dans une couche donnée d'un réseau de neurones convolutionnels, on a :

Champ récepteurLe champ récepteur à la couche $k$ est la surface notée $R_k \times R_k$ de l'entrée que chaque pixel de la $k$-ième activation map peut 'voir'. En notant $F_j$ la taille du filtre de la couche $j$ et $S_i$ la valeur de stride de la couche $i$ et avec la convention $S_0 = 1$, le champ récepteur à la couche $k$ peut être calculé de la manière suivante :

$\boxed{R_k = 1 + \sum_{j=1}^{k} (F_j - 1) \prod_{i=0}^{j-1} S_i}$

Dans l'exemple ci-dessous, on a $F_1 = F_2 = 3$ et $S_1 = S_2 = 1$, ce qui donne $R_2 = 1 + 2\cdot 1 + 2\cdot 1 = 5$.

Fonctions d'activation communément utilisées

Unité linéaire rectifiéeLa couche d'unité linéaire rectifiée (en anglais rectified linear unit layer) (ReLU) est une fonction d'activation $g$ qui est utilisée sur tous les éléments du volume. Elle a pour but d'introduire des complexités non-linéaires au réseau. Ses variantes sont récapitulées dans le tableau suivant :

ReLU	Leaky ReLU	ELU
$g(z)=\max(0,z)$	$g(z)=\max(\epsilon z,z)$ with $\epsilon\ll1$	$g(z)=\max(\alpha(e^z-1),z)$ with $\alpha\ll1$
• Complexités non-linéaires interprétables d'un point de vue biologique	• Répond au problème de dying ReLU	• Dérivable partout

SoftmaxL'étape softmax peut être vue comme une généralisation de la fonction logistique qui prend comme argument un vecteur de scores $x\in\mathbb{R}^n$ et qui renvoie un vecteur de probabilités $p\in\mathbb{R}^n$ à travers une fonction softmax à la fin de l'architecture. Elle est définie de la manière suivante :

$\boxed{p=\begin{pmatrix}p_1\\\vdots\\p_n\end{pmatrix}}\quad\textrm{où}\quad\boxed{p_i=\frac{e^{x_i}}{\displaystyle\sum_{j=1}^ne^{x_j}}}$

Détection d'objet

Types de modèlesIl y a 3 principaux types d'algorithme de reconnaissance d'objet, pour lesquels la nature de ce qui est prédit est different. Ils sont décrits dans la table ci-dessous :

Classification d'image	Classification avec localisation	Détection
• Classifie une image • Prédit la probabilité d'un objet	• Détecte un objet dans une image • Prédit la probabilité de présence d'un objet et où il est situé	• Peut détecter plusieurs objets dans une image • Prédit les probabilités de présence des objets et où ils sont situés
CNN traditionnel	YOLO simplifié, R-CNN	YOLO, R-CNN

DétectionDans le contexte de la détection d'objet, des méthodes différentes sont utilisées selon si l'on veut juste localiser l'objet ou alors détecter une forme plus complexe dans l'image. Les deux méthodes principales sont résumées dans le tableau ci-dessous :

Détection de zone délimitante	Détection de forme complexe
• Détecte la partie de l'image où l'objet est situé	• Détecte la forme ou les caractéristiques d'un objet (e.g. yeux) • Plus granulaire
Zone de centre $(b_x,b_y)$, hauteur $b_h$ et largeur $b_w$	Points de référence $(l_{1x},l_{1y}),$ $...,$ $(l_{nx},l_{ny})$

Intersection sur UnionIntersection sur Union (en anglais Intersection over Union), aussi appelé $\textrm{IoU}$, est une fonction qui quantifie à quel point la zone délimitante prédite $B_p$ est correctement positionnée par rapport à la zone délimitante vraie $B_a$. Elle est définie de la manière suivante :

$\boxed{\textrm{IoU}(B_p,B_a)=\frac{B_p\cap B_a}{B_p\cup B_a}}$

Remarque : on a toujours $\textrm{IoU}\in[0,1]$. Par convention, la prédiction $B_p$ d'une zone délimitante est considérée comme étant satisfaisante si l'on a $\textrm{IoU}(B_p,B_a)\geqslant0.5$.

Zone d'accrocheLa technique des zones d'accroche (en anglais anchor boxing) sert à prédire des zones délimitantes qui se chevauchent. En pratique, on permet au réseau de prédire plus d'une zone délimitante simultanément, où chaque zone prédite doit respecter une forme géométrique particulière. Par exemple, la première prédiction peut potentiellement être une zone rectangulaire d'une forme donnée, tandis qu'une seconde prédiction doit être une zone rectangulaire d'une autre forme.

Suppression non-maxLa technique de suppression non-max (en anglais non-max suppression) a pour but d'enlever des zones délimitantes qui se chevauchent et qui prédisent un seul et même objet, en sélectionnant les zones les plus représentatives. Après avoir enlevé toutes les zones ayant une probabilité prédite de moins de 0.6, les étapes suivantes sont répétées pour éliminer les zones redondantes :

Pour une classe donnée,
• Étape 1 : Choisir la zone ayant la plus grande probabilité de prédiction.
• Étape 2 : Enlever toute zone ayant $\textrm{IoU}\geqslant0.5$ avec la zone choisie précédemment.

YOLOL'algorithme You Only Look Once (YOLO) est un algorithme de détection d'objet qui fonctionne de la manière suivante :

• Étape 1 : Diviser l'image d'entrée en une grille de taille $G\times G$.
• Étape 2 : Pour chaque cellule, faire tourner un CNN qui prédit $y$ de la forme suivante :

$\boxed{y=\big[\underbrace{p_c,b_x,b_y,b_h,b_w,c_1,c_2,...,c_p}_{\textrm{répété }k\textrm{ fois}},...\big]^T\in\mathbb{R}^{G\times G\times k\times(5+p)}}$

où $p_c$ est la probabilité de détecter un objet, $b_x,b_y,b_h,b_w$ sont les propriétés de la zone délimitante détectée, $c_1,...,c_p$ est une représentation binaire (en anglais one-hot representation) de l'une des $p$ classes détectée, et $k$ est le nombre de zones d'accroche.
• Étape 3 : Faire tourner l'algorithme de suppression non-max pour enlever des doublons potentiels qui chevauchent des zones délimitantes.

Remarque : lorsque $p_c=0$, le réseau ne détecte plus d'objet. Dans ce cas, les prédictions correspondantes $b_x, ..., c_p$ doivent être ignorées.

R-CNNL'algorithme de région avec des réseaux de neurones convolutionnels (en anglais Region with Convolutional Neural Networks) (R-CNN) est un algorithme de détection d'objet qui segmente l'image d'entrée pour trouver des zones délimitantes pertinentes, puis fait tourner un algorithme de détection pour trouver les objets les plus probables d'apparaître dans ces zones délimitantes.

Remarque : bien que l'algorithme original soit lent et coûteux en temps de calcul, de nouvelles architectures ont permis de faire tourner l'algorithme plus rapidement, tels que le Fast R-CNN et le Faster R-CNN.

Vérification et reconnaissance de visage

Types de modèlesDeux principaux types de modèle sont récapitulés dans le tableau ci-dessous :

Vérification de visage	Reconnaissance de visage
• Est-ce la bonne personne ? • Un à un	• Est-ce une des $K$ personnes dans la base de données ? • Un à plusieurs

Apprentissage par coupL'apprentissage par coup (en anglais One Shot Learning) est un algorithme de vérification de visage qui utilise un training set de petite taille pour apprendre une fonction de similarité qui quantifie à quel point deux images données sont différentes. La fonction de similarité appliquée à deux images est souvent notée $d(\textrm{image 1}, \textrm{image 2}).$

Réseaux siamoisLes réseaux siamois (en anglais Siamese Networks) ont pour but d'apprendre comment encoder des images pour quantifier le degré de différence de deux images données. Pour une image d'entrée donnée $x^{(i)}$, l'encodage de sortie est souvent notée $f(x^{(i)})$.

Loss tripleLe loss triple (en anglais triplet loss) $\ell$ est une fonction de loss calculée sur une représentation encodée d'un triplet d'images $A$ (accroche), $P$ (positif), et $N$ (négatif). L'exemple d'accroche et l'exemple positif appartiennent à la même classe, tandis que l'exemple négatif appartient à une autre. En notant $\alpha\in\mathbb{R}^+$ le paramètre de marge, le loss est défini de la manière suivante :

$\boxed{\ell(A,P,N)=\max\left(d(A,P)-d(A,N)+\alpha,0\right)}$

Transfert de style neuronal

MotivationLe but du transfert de style neuronal (en anglais neural style transfer) est de générer une image $G$ à partir d'un contenu $C$ et d'un style $S$.

ActivationDans une couche $l$ donnée, l'activation est notée $a^{[l]}$ et est de dimensions $n_H\times n_w\times n_c$.

Fonction de coût de contenuLa fonction de coût de contenu (en anglais content cost function), notée $J_{\textrm{content}}(C,G)$, est utilisée pour quantifier à quel point l'image générée $G$ diffère de l'image de contenu original $C$. Elle est définie de la manière suivante :

$\boxed{J_{\textrm{content}}(C,G)=\frac{1}{2}||a^{[l](C)}-a^{[l](G)}||^2}$

Matrice de styleLa matrice de style (en anglais style matrix) $G^{[l]}$ d'une couche $l$ donnée est une matrice de Gram dans laquelle chacun des éléments $G_{kk'}^{[l]}$ quantifie le degré de corrélation des canaux $k$ and $k'$. Elle est définie en fonction des activations $a^{[l]}$ de la manière suivante :

$\boxed{G_{kk'}^{[l]}=\sum_{i=1}^{n_H^{[l]}}\sum_{j=1}^{n_w^{[l]}}a_{ijk}^{[l]}a_{ijk'}^{[l]}}$

Remarque : les matrices de style de l'image de style et de l'image générée sont notées $G^{[l](S)}$ and $G^{[l](G)}$ respectivement.

Fonction de coût de styleLa fonction de coût de style (en anglais style cost function), notée $J_{\textrm{style}}(S,G)$, est utilisée pour quantifier à quel point l'image générée $G$ diffère de l'image de style $S$. Elle est définie de la manière suivante :

$\boxed{J_{\textrm{style}}^{[l]}(S,G)=\frac{1}{(2n_Hn_wn_c)^2}||G^{[l](S)}-G^{[l](G)}||_F^2=\frac{1}{(2n_Hn_wn_c)^2}\sum_{k,k'=1}^{n_c}\Big(G_{kk'}^{[l](S)}-G_{kk'}^{[l](G)}\Big)^2}$

Fonction de coût totalLa fonction de coût total (en anglais overall cost function) est définie comme étant une combinaison linéaire des fonctions de coût de contenu et de style, pondérées par les paramètres $\alpha,\beta$, de la manière suivante :

$\boxed{J(G)=\alpha J_{\textrm{contenu}}(C,G)+\beta J_{\textrm{style}}(S,G)}$

Remarque : plus $\alpha$ est grand, plus le modèle privilégiera le contenu et plus $\beta$ est grand, plus le modèle sera fidèle au style.

Architectures utilisant des astuces de calcul

Réseau antagoniste génératifLes réseaux antagonistes génératifs (en anglais generative adversarial networks), aussi connus sous le nom de GANs, sont composés d'un modèle génératif et d'un modèle discriminant, où le modèle génératif a pour but de générer des prédictions aussi réalistes que possibles, qui seront ensuite envoyées dans un modèle discriminant qui aura pour but de différencier une image générée d'une image réelle.

Remarque : les GANs sont utilisées dans des applications pouvant aller de la génération de musique au traitement de texte vers image.

ResNetL'architecture du réseau résiduel (en anglais Residual Network), aussi appelé ResNet, utilise des blocs résiduels avec un nombre élevé de couches et a pour but de réduire l'erreur de training. Le bloc résiduel est caractérisé par l'équation suivante :

$\boxed{a^{[l+2]}=g(a^{[l]}+z^{[l+2]})}$

Inception NetworkCette architecture utilise des modules d'inception et a pour but de tester toute sorte de configuration de convolution pour améliorer sa performance en diversifiant ses attributs. En particulier, elle utilise l'astuce de la convolution $1\times1$

$1\times 1$ pour limiter sa complexité de calcul.