Alchimie du modèle

Nous vivons une époque de prodiges qui ressemble à s'y méprendre à celle des vieux alchimistes. Nous avons appris à manipuler la matière numérique pour en extraire des formes d'intelligence qui nous éblouissent. Mais soyons honnêtes : face à nos grands modèles de langage, nous sommes encore dans l'obscurité des laboratoires médiévaux. Nous mélangeons des données, nous ajustons des hyper-paramètres, et soudain, quelque chose s'anime. Ça marche. Mais nous ignorons encore trop souvent pourquoi.

Nous en sommes encore aujourd’hui au 'Solve et Coagula' : nos algorithmes dissolvent la connaissance humaine pour tenter d'en recomposer l'essence. Nous produisons des résultats d'une brillance aurifère, mais nous commettons aussi des erreurs grossières, des 'hallucinations', sans savoir quelle impureté dans l'alambic en est la cause.

L’enjeu de la recherche ‘Frontière’ en IA n'est plus de construire des LLMs plus grands, mais de quitter l'ère de l'alchimie pour celle de la chimie. Nous savons tous maintenant que seuls trois petits protons différencient le plomb (82) de l’or (79). Nous savons même comment les arracher pour transmuter l’un en l’autre. (Il se trouve juste que ça consomme une énergie énorme, et le résultat est nocif car radioactif.. N’y voyez aucune allusion aux LLMs…)

En IA malheureusement, nous n'avons pas encore notre tableau périodique des éléments. Nous ne comprenons pas les lois qui régissent notre intelligence fiable, sûre et explicable.

Passer de l'alchimie à la chimie, c'est passer du tâtonnement mystique à la science prédictible.

La frontière ne se situe pas (uniquement) dans la puissance de calcul, mais dans la lucidité, l’effort, la science, l’envie de chercher. En France nous avons de l’énergie (nucléaire), des talents, et même des GPUs. Mais sommes-nous capables de dépasser notre peur de l’échec ? Notre manque d’enthousiasme ? Notre propension mythique à douter (et à réguler) ?

Nous devons, comme les savants du XVIIIe siècle, oser regarder à l'intérieur de la boîte noire pour y trouver, non plus de la magie, mais des lois. C'est seulement quand on comprend la structure de l'or qu'on peut réellement prétendre l'avoir créé.

Continuons de chercher.

Qui serait assez insensé pour mourir sans avoir fait au moins le tour de sa prison ? [1]

[1] Mots de Zénon dans L'Oeuvre au noir de Marguerite Yourcenar.