Thread Rating:
  • 0 Vote(s) - 0 Average
  • 1
  • 2
  • 3
  • 4
  • 5
Tolkien, Dostoievsky et chatGPT
#32
CdC Wrote:Hmmm pourrais tu partager une reference ?

Les bases du machine learning remontent aux années 60-70. IBM DeepBlue, autour de 2000... L'augmentation de la puissance de calcul, du stockage, l'avènement des GPUs et du cloud computing, à présent des TPUs, etc. (ne) fait (qu') accélérer les choses, évidemment. Je ne dis pas autre chose.

Le NLP dans la synthèse de la parole ou la reconnaissance vocale a atteint de très bons résultats dès les années 2000-2005, une démocratisation autour de 2010 (Siri, Nuance, etc.), des taux quasi-humains en 2017... La "compréhension de texte" (dans un sens large et simplificateur) et la génération de dialogues "cohérents" est assez bien maîtrisée et ne devrait pas trop étonner.

Oui, les modèles sont de plus en plus grands, et GPT est assez impressionnant, tant en démesure qu'en efficacité: Centaines de milliards d'unités textuelles, centaines de gigaoctets de RAM, etc. Est-ce que les corpus ne sont pas trop gros? A la hauteur des investissements en dizaines de milliards...

CdC Wrote:La faineantise est souvent un moteur de progrès important. Nouveaux outils impliquent nouvelles possibilités. (...)

Je n'ai pas prétendu le contraire non plus :-)

CdC Wrote:Et tout ce qui consomment des matières premières a un coût d'autant plus que les dites matières premières sont en quantités finies, certes.

On peut néanmoins en effet s'interroger, en ce siècle, sur nos limites énergétiques et matérielles et notre dépendances à elles tandis que nos outils sont toujours plus demandeurs.
(Un AlphaGo nécessitait vers 2015 à grosse maille entre 500kW et 1MW quand le cerveau humain tourne autour de 20W... Il y a un progrès à la baisse, mais c'est encore beaucoup.)

D.
Reply


Messages In This Thread

Forum Jump:


Users browsing this thread: 1 Guest(s)