ImageNet : le jeu de données qui allait apprendre aux machines à voir (2006)
Fei-Fei Li a parié que les données, et pas seulement des algorithmes plus malins, débloqueraient la vision par ordinateur. ImageNet est devenu la référence qui a allumé l'ère de l'apprentissage profond.
Au milieu des années 2000, la recherche en vision par ordinateur poursuivait surtout de meilleurs algorithmes sur de petits jeux de données bien rangés. Fei-Fei Li, alors à Princeton et bientôt à Stanford, a fait un autre pari : le goulot d’étranglement, c’étaient les données. Pour qu’un système reconnaisse un jour le monde visuel désordonné, il fallait d’abord qu’il voie ce monde à grande échelle.
Le résultat fut ImageNet, un projet lancé au milieu des années 2000 et publié comme base de données en 2009. Il finit par contenir plus de quatorze millions d’images, étiquetées à la main dans des milliers de catégories.
Ranger le monde visuel
ImageNet a emprunté sa structure à WordNet, une base lexicale qui organise les mots en une hiérarchie de concepts. Chaque concept (« golden retriever », « voilier », « fraise ») devenait un contenant à remplir de photographies d’exemple.
L’étiquetage fut la partie difficile. L’équipe s’est tournée vers Amazon Mechanical Turk, répartissant le tri et la vérification des images entre des dizaines de milliers de travailleurs en ligne. Ce fut l’une des premières démonstrations qu’on peut bâtir de grands jeux de données bien étiquetés en combinant le web ouvert et le jugement humain de la foule.
La référence qui a donné le tempo
À partir de 2010, ImageNet a porté une compétition annuelle, l’ImageNet Large Scale Visual Recognition Challenge, où les équipes tentaient de classer des images dans mille catégories. Une référence commune et publique rendait le progrès soudain mesurable : tout le monde concourait sur la même tâche, et le classement se moquait du battage médiatique.
Pendant deux ans, les résultats ne progressèrent que lentement. Puis, en 2012, un système d’apprentissage profond entraîné sur GPU a réduit drastiquement le taux d’erreur et changé le domaine du jour au lendemain. Cette participation, AlexNet, est généralement citée comme l’étincelle de l’essor moderne de l’apprentissage profond, mais elle avait besoin d’une piste de décollage, et ImageNet fut cette piste.
Pourquoi c’est important
ImageNet a reformulé une hypothèse centrale de l’apprentissage automatique : le jeu de données peut compter autant que le modèle. Les grandes collections étiquetées sont devenues le carburant de l’apprentissage supervisé, et la recette « rassembler des données à grande échelle, puis entraîner » s’est propagée de la vision à la parole, au langage, et finalement aux grands modèles des années 2020.
La leçon a survécu à la référence particulière. Quand on a soutenu plus tard que l’échelle, plus de données et plus de calcul, était en soi une stratégie de recherche, on ne faisait que prolonger une idée qu’ImageNet avait prouvée une décennie plus tôt.