Tolkien, Dostoievsky et chatGPT

[Coeur de Canard]

Dessillons les yeux ébaubis, la technologie n'est même pas nouvelle, ses prémices ont déjà 20 ans au bas mot, sinon plus.

Hmmm pourrais tu partager une reference ? Certes Eliza est cinquantenaire mais on ne parle pas de la meme chose. Au debut des années 2000 les reseaux de neuronnes qui "marchait" traiter essentiellement de reconnaissance de forme. L'avenement du "NLP" est plus tardif avec une bascule avec le "word embedding" par exemple word2vec en 2013 et c'etait tres rudiementaire par rapport aux outils modernes les transfomer comme BERT (2018) et ses successeurs de plus en plus gros.
Fondementalement ce que chatGTP montre c'est ce qu'on peut avoir des "Large Language Models" tres, tres grand. Certes il existait deja des outils similaires mais pouvant repondre sur les corpus nettement plus petit.

Connaissances humaines, et in fine apprentissage supervisé humain (non sans opacité, ici)

La maniere dont l'apprentissage d'un transfomer est supervisé est quand meme tres partiel, mais quoiqu'il en soit la "supervision" veut essentiellement dire que le concepteur fournit un dataset d'apprentissage labelé. Quand ce dataset est gigantesque "supervision" n'est pas à comprendre au sens usuel.
Alors apres, quand un programme est entrainé à partir de stackoverflow, ce n'est pas un miracle qu'il reponde aussi bien sur les questions de programmation. Ce qui interressant dans ce cas est la maniere (au sens de la modalité) dont on pose la question et la maniere dont on la recoit. J'imagine que l'usage dira si cette interface dans la pratique est mieux ou moins bien.

Par contre, les amateurs de Go qui ont suivie le match contre Lee Sedol, ont pu constaté qu'un outil pouvait produire quelque chose de nouveau, surprenant et intereessant (le coup sur la 5eme ligne par exemple). Il faut noter que AlphaGo Zero avait apris "par lui meme" (enfin on lui avait pas donner d'ensemble d'entrainement).

Un outil ne produit pas du neuf, il nous épargne un effort voire une fainéantise (fût-elle physique ou intellectuelle), avec tous les bénéfices mais aussi les coûts induits en contrepartie.

La faineantise est souvent un moteur de progres important. Nouveaux outils impliquent nouvelles possibilités. Hubble et ses successeurs ont revolutioné l'astronomie, les ordinateurs ont tout changés, les tracteurs et les engrais ont evitent d'avoir 40% de la population dans les champs... L'imagerie medicale (IRM, scanner, radio) sauvent des vies.
Et tout ce qui consoment des matieres premieres a un cout d'autant plus que les dites matieres premieres sont en quantités finies, certes. Mais ca reste tres, tres generale....

Apres il y a toujours le Jihad butlérien...

C'est un outil, certes - et un changement de paradigme probablement important à venir, je l'admets - mais rien de plus encore.

Je ne crois pas que personne ici est pretendu le contraire. Il ne s'agit certes pas du retour du messie ou de l'avenement d'une IA generaliste ou je ne sais pas quoi d'autre.

"Toutes choses sont dites déjà ; mais comme personne n’écoute, il faut toujours recommencer"

CdC