Une vidéo bien faites sur chatGPT et comment il fonctionne: https://www.youtube.com/v/7ell8KEbhJo

J'avais également fait des demandes de biblio (dans mon domaine de recherche qui est la chimie) et il m'avait sorti des publications inexistantes. Après m'être renseigné sur le fonctionnement de chatGPT et des IA conversationnelles de manière générale et bien je me rend compte que c'est tout à fait "normal". ChatGPT (ou toutes les autres IA basée sur un réseau de neurones) n'ont pas de connaissances à proprement parler, il ne sait rien. En fait basé sur la question que vous lui posez, il entame une phrase et chaque mot qui suit le précédent qu'il a écrit est celui qui est le plus probable basé sur les données avec lesquelles il a été "nourri". Placer une suite d'auteur (même s'ils n'ont pas de rapport avec le sujet évoqué) n'a donc rien d'improbable pour lui, une suite d'auteur n'ayant rien de plus semblable qu'une autre.

C'est pour ça que je trouve que parler d'intelligence artificielle est pour le moment exagéré. Cet outil n'est pas intelligent, il ne comprend pas ce qu'il écrit, c'est un gigantesque outil statistique, ultra performant certes mais loin d'une véritable forme d'intelligence.

_________________
"Quand on peut user de violence, il n'est nul besoin de procès" Thucydide

Théoriquement, il y a un volet "éthique" dans le fonctionnement de ChatGPT, mais apparemment, celui-ci ne l'empêche pas de proférer des énormités. En fait, il serait un peu comme un enfant qui ne comprend pas la différence entre ce qui est licite et illicite. Il doit donner une réponse cohérente, que cette réponse soit juste ou fausse n'a aucune importance. Il se comporte un peu comme un jeune enfant qui maîtrise déjà le langage, mais qui raconte n'importe quoi car il n'a pas encore les filtres nécessaires à faire la différence entre fantaisie créative et réalité.

Donc, il est important de comprendre cette "limitation", tout ce que "raconte" ChatGPT est sujet à caution. Il n'a aucune expertise dans aucun domaine. Ce qui peut interpeller sur ses résultats lorsqu'on lui pose les questions correspondant à des examens. Cela voudrait donc dire que quelqu'un qui a une grande "culture", mais peu d’expertise pourrait devenir avocat, journaliste, professeur, ... car ChatGPT a réussit les examens nécessaires...

_________________
Une théorie n'est scientifique que si elle est réfutable.
Appelez-moi Charlie

La notion de vrai ou faux n'existe pas pour lui, ce qui est important c'est la cohérence de la phrase c'est tout. Phrase qui est construite en suivant des lois de probabilité qui ne mettent à aucun moment en jeu la véracité des propos tenus.

La version accessible gratuitement actuellement est la version 3.5, la version 4 qui est celle qui a réussi avec brio les examens du barreau américain, est sans doute plus performante à voir dans le futur si les chercheurs seront capables de développer une véritable intelligence artificielle.

_________________
"Quand on peut user de violence, il n'est nul besoin de procès" Thucydide

Faudrait déjà que tous soient d'accord sur la définition de "véritable intelligence artificielle". Car on n'a pas une définition unique de l'intelligence naturelle.

_________________
Une théorie n'est scientifique que si elle est réfutable.
Appelez-moi Charlie

J'ai dans ma bibliothèque un ouvrage déjà ancien, "biologie de la conscience", qui faisait le point sur les neurosciences dans les années 95. Le titre signale un point crucial : l'intelligence humaine se différencie (de l'intelligence animale et de toute espèce d'intelligence artificielle) par le fait que l'individu a conscience d'être lui-même et d'exister individuellement. Il a la connaissance du fait qu'il est une intelligence unique, parmi d'autres et dans son environnement.

Autant dire que les chercheurs en IA ont du pain sur la planche pour simplement s'approcher de ce point nodal, ou même le simuler. (Je me souviens que la préface estimait que pour répondre à la problématique ouverte par ce livre, "avoir conscience de sa conscience", si j'ose dire, - ou comment un assemblage de neurones a-t-il conscience d'exister en tant qu'individu - il faudrait 5 à 600 ans. Un chiffre qui à mon avis ne repose sur rien : comment faire des prédictions sur un tel sujet ?)

_________________
Les raisonnables ont duré, les passionnés ont vécu. (Chamfort)

Un point qui me semble important est que quasiment personne dans le monde de l'IA ne pense qu'on veut/peut créer une intelligence similaire à celle d'un être humain. Le terme intelligence artificielle est d'ailleurs source de confusion. Ce qu'on veut créer est un programme intelligent, i.e. qui peut inférer des règles et faire des prédictions à partir de données là ou les programmes traditionnels sont juste des suites de "si x fait y mais si z et w alors fait p mais si ..." qui ont été décidées par le programmeur.

Personnellement je ne vois même pas pourquoi on voudrait créer une intelligence similaire à celle des humains, avec une conscience et tout. Ce qu'on veut ce sont des outils intelligents qui peuvent accomplir une ou des tâches spécifiques et nous faciliter la vie. Les IA généralistes dont je parlais seraient toujours des outils de ce type, juste capable de résoudre plusieurs types de problèmes ou de nouveau problèmes sans avoir à être ré-entraînées. Mais, à nouveau, cela ne veut pas dire qu'on veut faire une intelligence humaine. On n'en a juste pas besoin.

Les résultats de recherches plus ou moins récentes semblent montrer que la conscience de soi n'est pas spécifique aux humains, mais que certaines espèces animales possèdent aussi cette capacité. En fait, comme souvent plus on cherche, et moins la réalité parait simple.

_________________
Une théorie n'est scientifique que si elle est réfutable.
Appelez-moi Charlie

Effectivement, un certain nombre de spécialistes du secteurs militent pour qu'on cesse de parler d'intelligence. Mais face à la force marketing du terme, il serait douteux qu'ils soient entendus.


Effectivement, ce qu'on recherche à faire et ce qui correspond aux annonces faites dans les médias économiques, c'est qu'on va remplacer les humains pour des tâches relativement simples. D'ici quelques années, quand vous téléphonerez à un établissement public ou commercial, vous tomberez sûrement sur un chatbot dopé à l'IA et c'est lui qui répondra à vos questions basiques et vous n'aurez accès à un humain que si vous passez ce barrage. Quelle différence avec les chatbots actuels ? Hé bien, avec les actuels vous savez que vous parlez à une machine. Avec les prochains, vous pourrez croire que vous discutez avec un humain très agréable qui vous conseille utilement.

On attends aussi beaucoup dans le domaine de la traduction des notices et des modes d'emplois. Puisqu'on sait générer des textes similaires à ce que produiraient un humain "moyen". On pourrait aussi déléguer des tâches comme la présentation des bulletins météos dans les médias. L'annonce de nouvelles simples. En fait, quasiment tout ce qu'un bachelier actuel pourrait faire sans trop se spécialiser dans de nombreux domaines où l'écrit ou la parole sont prépondérantes.

Il y a actuellement une grève des scénaristes et des acteurs hollywoodiens. L'une des demandes, que les producteurs refusent de garantir, est le fait qu'on n'utilisera pas une IA pour rédiger des scénarios. Une autre, du coté des comédiens concerne le droit à l'image, ils veulent être sûrs qu'on n'utilisera pas, sans leur consentement, leurs voix ou leur image pour générer des scènes par IA dans des produits futurs.

Des bruits ont couru sur la vente de son image par Bruce Willis a une société de deep-face. Ce serait plus complexe, car l'utilisation de ce droit serait limité par le fait qu'il faut l'accord de Bruce Willis pour utiliser son image. Ce qui limiterait ce droit aux utilisations pour les projets déjà en cours, et pas pour de futurs projets. Surtout s'il ne serrait plus en état de donner un accord éclairé.
https://www.ecranlarge.com/films/news/1451146-bruce-willis-na-pas-vraiment-vendu-son-visage-pour-du-deep-fake

_________________
Une théorie n'est scientifique que si elle est réfutable.
Appelez-moi Charlie

Pour ce qui est de l'IA (Intelligence Artificielle), de plus en plus de personnes l'utilisent dans un cadre professionnel. Parfois, ils s'en servent comme d'une secrétaire qui améliorerait la présentation de leurs lettres commerciales.

Pour citer un exemple, voici une de mes premières interventions sur le forum :


Et le voici, une fois corrigée, les 10 erreurs détectées par une IA spécialisée dans la correction de textes en français :


Certaines IA sont encore plus performantes, car elles me proposeraient des modifications pour améliorer le fond du texte, par exemple : "Nous avons évoqué l'époque où" à la place de "l'on évoqua que".

_________________
Une théorie n'est scientifique que si elle est réfutable.
Appelez-moi Charlie

J'en ai repéré une que l'IA a loupé

_________________
Il n'est pas nécessaire d'espérer pour entreprendre, ni de réussir pour persévérer (Guillaume le Taciturne)

Comme dit plus haut, l'IA est encore pefectible...

_________________
Une théorie n'est scientifique que si elle est réfutable.
Appelez-moi Charlie

Bonjour,

Je me permets de partager cette vidéo YouTube de la chaîne Underscore, à propos de la régression manifeste des versions actuelles de ChatGPT dans la qualité des réponses fournies.

Voici la vidéo en question : https://www.youtube.com/v/rAG5YtBsBTw

Comme quoi, la soi-disant amélioration exponentielle de ce type d'IA est à nuancer.

Cela dit, il ne faut pas sous-estimer les profondes perturbations que ces outils vont engendrer. Rien que dans les domaines de l'illustration et du graphisme, l'inquiétude est grande...

_________________
La vie est variable aussi bien que l'Euripe - Apollinaire

Des analyses récentes montrent que les résultats de chatGPT 4 se dégradent avec le temps. À qui la faute ? Aux données fournies par les utilisateurs...

https://generationia.flint.media/p/guide-2024-meilleures-alternatives-chatgpt-claude-3

_________________
Une théorie n'est scientifique que si elle est réfutable.
Appelez-moi Charlie

Oui, la vidéo que j'ai partagée juste avant en parle justement. Apparemment, "La faute aux utilisateurs" serait l'une des hypothèses les plus probables, car les feedbacks que l'on pouvait donner à ChatGPT - parmi une sélection de propositions de réponses -n'étaient pas forcément les plus pertinents. Ils explorent d'autres hypothèses également.

Les utilisateurs l'auraient rendu con, je trouve ça plutôt marrant

_________________
La vie est variable aussi bien que l'Euripe - Apollinaire