IA : du mythe à la réalité

Romain Lesur
Responsable du SSP Lab

2023-10-19

Quiz

Question 1

Un célèbre chercheur en IA a déclaré :

Mon but n’est pas de vous surprendre ou de vous choquer, mais pour résumer, nous disposons maintenant de machines qui pensent, apprennent et créent. En outre, leurs capacités va augmenter rapidement jusqu’à ce que, à un horizon proche, le type des problèmes qu’elles pourront résoudre sera proche de ce que l’esprit humain peut faire.

De quand date cette citation ?

  • 1957
  • 1979
  • 2019
  • 2023

Question 2

Un célèbre ingénieur en informatique a écrit :

Les oiseaux de mauvais augure qui nous prédisent un monde délirant où les robots prendraient le pouvoir et nous domineraient, où ceux qui nous font miroiter un monde dans lequel l’intelligence artificielle résoudrait tous nos problèmes, nous racontent tous n’importe quoi.

De quand date cette citation ?

  • 1957
  • 1979
  • 2019
  • 2023

Question 3

Quand a été créée la première intelligence artificielle à l’Insee ?

  • 1957
  • 1979
  • 2019
  • 2023

Réponses au quiz

Question 1

Mon but n’est pas de vous surprendre ou de vous choquer, mais pour résumer, nous disposons maintenant de machines qui pensent, apprennent et créent. En outre, leurs capacités va augmenter rapidement jusqu’à ce que, à un horizon proche, le type des problèmes qu’elles pourront résoudre sera proche de ce que l’esprit humain peut faire.

De quand date cette citation ?

Herbert Simon en 1957 (voir Russell et Norvig 2010)

et 66 ans plus tard, Yoshua Bengio répète encore la même chose (voir Radio Canada 2023)

Alors que l’on pensait qu’il faudrait attendre des décennies, voire des siècles, pour que l’IA atteigne le niveau des capacité cognitives des êtres humains, moi-même et d’autres scientifiques pensons que la technologie pour y arriver pourrait être développée au cours des deux prochaines décennies, voire dans les quelques années à venir.

Question 2

Un célèbre ingénieur en informatique a écrit :

Les oiseaux de mauvais augure qui nous prédisent un monde délirant où les robots prendraient le pouvoir et nous domineraient, où ceux qui nous font miroiter un monde dans lequel l’intelligence artificielle résoudrait tous nos problèmes, nous racontent tous n’importe quoi.

De quand date cette citation ?

Luc Julia en 2019 (voir Julia et Khayat 2019)

Question 3

Quand a été créée la première intelligence artificielle à l’Insee ?

Une rapide histoire de l’IA

La période 1950-1970

  • Souvent appelée l’âge d’or de l’IA (débute en 1956)
  • Un foisonnement d’idées et d’espoirs
    • reconnaissance de l’écriture
    • traduction
    • …
  • Les fondements de l’IA ont été inventés à cette époque (general problem solver, réseaux de neurones)
  • Mais puissance de calcul très limitée
  • Résultats décevants, coupe des budgets en 1974
  • De 1974 à 1980 : le premier hiver de l’IA

La période 1980-1987

  • Systèmes experts
  • IA symbolique : moteurs de règles
  • De puissantes machines dépassées par les ordinateurs individuels à la fin des années 80
  • A l’Insee, QUID puis SICORE
  • Un second (deuxième ?) hiver de l’IA à partir de la deuxième moitié des années 80

A partir de 1993

  • De nouveaux supercalculateurs
  • Deep Blue (IBM) bat Kasparov en 1997
  • La loi de Moore : postulat d’un doublement tous les 2 ans du nombre de transistors présents sur un microprocesseur
  • Essor du machine learning (apprentissage automatique)
  • 2015 : modèles de diffusion
  • 2017 : transformers, une architecture spécifique fondés sur le mécanisme d’attention
  • Depuis 2018 : BERT, GPT2/3 (LLM)
  • 2022-2023 : IA génératives grand public (DALL-E, ChatGPT, Midjourney…), multimodales

IA génératives : des espoirs démesurés ?

Figure 1: Hype Cycle for Emerging Technologies, 2023 (Rimol DeLisi et Howley 2023)

IA génératives : une bulle ?

Il y a trois mondes. Le premier monde de l’IA est le monde de la recherche, du futur. […] Le deuxième monde de l’IA est le monde de l’application, du présent. Les ingénieurs utilisent les méthodes inventées par le premier monde pour construire des outils d’aide à la décision efficaces, rapides et pertinents. Le troisième monde de l’IA est le monde du mythe, du récit. La sphère médiatique s’empare de sujets qu’elle ne maîtrise pas et construit l’imaginaire collectif, à grand renforts d’exagération, de délires, de fantasme.

Ces trois mondes sont découplés. Les outils créés par le premier monde, celui de la science, sont réinterprétés librement par le troisième monde, celui du récit. Les scientifiques disent un possible, un potentiel, un pensable, qui est transformé par les communicants en récits parfois plausibles, souvent exagérés – voire faux.

Anatomie d’une bulle (AltGR 2023)

Et maintenant ?

  • Les limites des LLM : l’hallucination (les IA donnent souvent des informations erronées)
    • utiles pour faire un premier jet, avoir une base de départ
    • le résultat doit être contrôlé, ne pas faire confiance
  • Des modèles de plus en plus gourmands, l’entraînement des LLM notamment
    • Falcon-40B : 2000 GPU A100 pendant 2 mois
    • GPT-3 : 175 milliards de paramètres (~$ 4,6M)
  • Few-shot et zero-shot à partir de modèles pré-entrainés
  • Un apport pour les moteurs de recherche : la recherche sémantique

La trajectoire est-elle soutenable ?

  • Effet rebond
  • Quel avenir ? des modèles de plus en plus gros ? ou plus petits et spécialisés ?
  • Quels humains sont en charge d’annoter les données pour ces modèles ?
    Le Turc mécanique, Sama
  • A l’Insee, 85% de l’empreinte environnementale du SI est lié à la fabrication du matériel

Et à l’Insee ?

Et à l’Insee ?

  • Remplacement de SICORE (IA simples) :
    • codification de l’APE dans SIRENE
    • codification de la PCS
    • codification en COICOP
  • Test des IA génératives pour l’assistance au passage de SAS à R
  • Modèles de segmentation pour les images satellitaires
  • Assistance à l’exploitation des bilans et comptes sociaux
  • Une démarche internationale :
    • one stop shop for AI/ML for ESS
    • UNECE Modernstats ML group (éthique, IA générative)
    • GB : recherche dans les publications diffusées par l’ONS
    • FMI : aide à la génération de requêtes SDMX

Pour en savoir plus

AltGR. 2023. « Anatomie d’une bulle ». AltGR. https://www.alt-gr.tech/history-of-ai.
Julia, Luc, et Ondine Khayat. 2019. L’intelligence artificielle n’existe pas. Paris: First éditions.
Lorigny, Jacques. 1988. « QUID, une méthode générale de chiffrement automatique ». Techniques d’enquête 14 (2): 307‑16. https://www150.statcan.gc.ca/n1/fr/pub/12-001-x/1988002/article/14587-fra.pdf.
Meyer, Eric, et Pascal Rivière. 1997. « SICORE, un outil et une méthode pour le chiffrement automatique à I’INSEE ». In Actes de la 4ème Conférence Internationale des Utilisateurs de Blaise, 280‑93. Paris, France. http://www.blaiseusers.org/1997/papers/meyer97.pdf.
Radio Canada. 2023. « L’IA atteindrait le niveau de l’intelligence humaine d’ici 5 à 20 ans, croit Bengio ». Radio-Canada. https://ici.radio-canada.ca/nouvelle/1998915/ia-conscience-evolution-bengio.
Rimol DeLisi, Meghan, et Catherine Howley. 2023. « Gartner Places Generative AI on the Peak of Inflated Expectations on the 2023 Hype Cycle for Emerging Technologies ». Gartner. https://www.gartner.com/en/newsroom/press-releases/2023-08-16-gartner-places-generative-ai-on-the-peak-of-inflated-expectations-on-the-2023-hype-cycle-for-emerging-technologies.
Rivière, Pascal. 1995. « SICORE, un outil et une méthode pour le chiffrement automatique à l’INSEE ». Courrier des statistiques, nᵒ 74 (août): 65‑69. https://www.nomenclature-pcs.fr/uploads/documents/L8_Article_Riviere.pdf.
Russell, Stuart J., et Peter Norvig. 2010. Artificial intelligence: a modern approach. 3rd ed. Prentice Hall series in artificial intelligence. Upper Saddle River: Prentice Hall.

Séminaire des PIC