ChatGPT est merveilleux, ah bon?

Mise à jour: cet article a été modifié le 27 mars 2022. J’ai laissé pendant un mois les sottises que pouvaient raconter ChatGPT à propos du propriétaire du site que vous lisez maintenant.
C’était ma foi fort rigolo, mais au final, cela ne faisait que le conforter dans ses erreurs. J’ai donc modifié l’article pour que ce ne soit plus le cas ce 27 mars.

François Cuneo

Je vais faire court, ce soir.

Je pose la question suivante à ChatGPT: « Qui est le propriétaire du Blog du Cuk? »

Réponse de ChatGPT:

Comme indiqué en introduction, la réponse de ChatGPT a été retirée le 27 mars. Trop d’erreurs, trop de n’importe quoi.

En plus, en laissant cette réponse, indirectement, j’induisais en erreur les autres intelligences artificielles, en plus de ChatGPT, bien sûr.

Je laisse la suite, même si elle n’a plus beaucoup de sens sans mon exemple.

Non, mais vous vous rendez compte?

Le truc, avec grande assurance, ne vous raconte que des conneries.

Bon…

Ça peut faire rire, peut-être, mais j’ai plutôt tendance à trouver que cet exemple est pour le moins inquiétant.

Si les réponses de l’AI la plus connue actuellement et dont tout le monde ne dit que le plus grand bien sont à ce point nulles lorsqu’elles ont à voir avec quelque chose que je connais tout de même bien, on va dire que je perds le peu de confiance que j’aurais pu avoir dès qu’il s’agit de me renseigner sur tout sujet que je ne connais pas.

Franchement, l’air de rien, oui, tant d’erreurs, sur un tout petit sujet, avec un tel aplomb, ça fait peur…

3 2 votes
Évaluation de l'article
S’abonner
Notification pour
guest

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

36 Commentaires
Commentaires en ligne
Afficher tous les commentaires

Tetardbleu
Tetardbleu
Member
il y a 1 année

Quelque part, je trouve ça rassurant. Des spécialistes de l’IA ont expliqué, à plusieurs reprises, que ChatGPT se contentait de recracher du texte sans en comprendre la signification. Donc en gros, il est nul pour rapporter des faits. Il s’en sort mieux pour générer du contenu neutre. Encore que… https://www.lematin.ch/story/a-geneve-chatgpt-se-trahit-avec-des-ufs-de-vaches-860304181436

Skynet ce n’est pas pour demain !

renaudlaffontleenhardt
renaudlaffontleenhardt
Member
il y a 1 année

Perso j’ai testé pour un domaine que je connais bien (sorry c’est en anglais): Je lui ai demandé « explain the changes in the passport market following the rebound in demand at end of pandemic”

Et voici sa réponse en moins de 10 secondes
“The demand for passports has increased significantly following the end of the pandemic, as people are eager to travel again after being restricted for so long. This has led to changes in the passport market, including longer processing times and increased fees for expedited services. In addition, many countries have implemented new health protocols for travelers, such as mandatory testing and quarantine periods, which may also affect the demand for passports. Some countries are also facing issues with a shortage of materials for the production of passport books, which is further exacerbating delays. Overall, the rebound in demand for passports is putting pressure on governments and passport-issuing agencies to adapt and adjust to the new reality of increased travel.”
Et tout ce qu’il dit est fort pertinent.

Crifan
Crifan
il y a 1 année

🤣
c’est presque rassurant de prendre les technologies en défaut dans ce monde de plus en plus algorithmisé….

Noisequik
Active Member
En réponse à  Crifan
il y a 1 année

Je me demande où il est allé chercher ces noms. Admettons qu’il confonde cuk.ch avec le présent site (ce qui peut encore se comprendre).
Mais pour le reste ?

Noisequik
Active Member
il y a 1 année

J’avais testé avec 3 questions faciles : aucune réponse de correcte !
il paraît que ses sources ne sont pas récentes ni en temps réel donc c’est d’avantage une grosse encyclopédie capable de parler. Mouais…

La version fournie par Bing corrigerait ses tares mais il faut s’inscrire chez Micro$oft. Pas folle, la guêpe !

Le pire, c’est l’effet de mode que cela prend avec des gens qui tentent de saisir l’AI au bond pour exister. Pas plus tard qu’hier, je suis tombé sur un type qui prétend avoir passé des centaines d’heures à étudier Chat GPT mais qui dans son infime bonté, nous permet d’acquérir 90% de ses connaissances moyennant un cours, bien évidemment payant. 🤣

jerome3167
Active Member
il y a 1 année

Même question posée à l’AI de Notion:

Modification du contenu par la rédaction
Désolé jerome3167, mais comme indiqué en introduction de l’article, je retire tout ce qui est une erreur de l’intelligence artificielle sur cette page concernant le propriétaire de ce site.
Cela étant, la réponse de Notion n’était pas meilleure que celle de ChatGPT, ce qui est normal, il s’agit de la même intelligence artificielle.
Merci de ta compréhension, il ne s’agit évidemment pas d’une modération quelconque, ton commentaire était parfaitement intéressant.
François Cuneo

Dernière modification le il y a 11 mois par François Cuneo
Pierre K
Pierre K
il y a 1 année

Ce qui me gêne le plus, ce n’est pas les réponses farfelues. C’est le fait que quelqu’un de non averti puisse se dire « puisque c’est l’AI qui parle c’est que c’est vrai ».
C’est sur ces prémices que l’on va déverser des dizaines de milliards de dollars dans l’intégration de l’AI à la vie courante….avec des réponses d’une qualité approximatives mais qui auront gagné une fausse légitimité.

Les réponses farfelues que l’on trouve parfois dans les résultats d’une recherche Google nous obligent à trier et à exercer notre esprit critique. Tout ceci disparaît derrière la couche de peinture de l’IA (oui je l’ai mis en français). Et dans cette ère de désinformation massive, c’est ce qui me parait le plus inquiétant.

Fabien
Fabien
il y a 1 année

En fait, il faut bien comprendre ce qu’est ChatGPT et surtout ce qu’il n’est pas. ChatGPT n’est pas un moteur de recherche. Il n’est pas connecté à Internet et n’est pas en mesure de chercher de l’information. C’est un gros réseau de neurone qui a été entraîné avec une masse d’informations.
Il ne sera donc jamais en mesure de répondre correctement à ce genre de questions, tout simplement parce qu’il n’est pas conçu pour ça.
Il y a dix milles façon d’obtenir des réponses farfelues comme celle que tu montres, mais il faut plutôt admirer ce qu’il est capable de faire lorsqu’on lui pose une question qui implique ce qu’on pourrait appeler une réflexion (ça n’en est évidemment pas une) plutôt que de lui demander de juste cracher des réponses.
Lorsqu’on lui demande par exemple de générer du code informatique, ou d’écrire une lettre, ou de développer un sujet, là les réponses sont globalement très pertinentes.
Pour revenir à ta question, il ne faudrait pas la poser à ChatGPT, mais à Google, car ce que tu demandes là relève plutôt d’un moteur de recherche, pas d’une IA.
Après, on peut débattre sur l’aplomb avec lequel il donne sa réponse, avec aucune trace de doute. Mais finalement, c’est exactement ce que font les humains. Et cet aplomb avec lequel il assène ses “vérités” est peut-être ce qui rend ChatGPT très humain.

Fabien
Fabien
En réponse à  François Cuneo
il y a 1 année

Tout comme on croit tout ce que dit le Pr. Raoult, parce que c’est un médecin qui le dit ?

La désinformation n’est malheureusement pas l’apanage de ChatGPT.

Loïc
Loïc
il y a 1 année

Par défaut son but est de générer du texte, ce qu’il fait très bien, par contre il est possible de le cadrer:

https://sharegpt.com/c/uJT6EnU

Loïc
Loïc
il y a 1 année

Après le fait d’avoir écrit cet article crée de la fake news 😉

Modification du contenu par la rédaction
Désolé Loïc, mais comme indiqué en introduction de l’article, je retire tout ce qui est une erreur de l’intelligence artificielle sur cette page concernant le propriétaire de ce site.
Cela étant, la réponse de Notion n’était pas meilleure que celle de ChatGPT, ce qui est normal, il s’agit de la même intelligence artificielle.

Merci de ta compréhension, il ne s’agit évidemment pas d’une modération quelconque, ton commentaire était parfaitement intéressant.
François Cuneo

Dernière modification le il y a 11 mois par François Cuneo
Caplan
Trusted Member
il y a 1 année

On n’arrête pas le progrès!

ai.JPG
ysengrain
ysengrain
En réponse à  Caplan
il y a 1 année

👍 👍 👍

ysengrain
ysengrain
il y a 1 année

Heureusement que je suis là pour tout vous expliquer.
Chat GPT est probablement Trumpiste. Donc il énonce des post-vérités.
et avec le présentisme ambiant, ça va devenir une vraie vérité à laquelle tout le monde va pouvoir se référer.
Le bloc du Cuk a changé de monde.
merci qui ?

Dominique Python
Active Member
En réponse à  ysengrain
il y a 1 année

merci Y !
(Y serait-il un pseudonyme de Q?)

Dominique Python
Active Member
il y a 1 année

La tentation était trop forte:

Moi: Qui est le propriétaire du Blog à Dom?

ChatGPT: Je suis désolé, mais en tant que modèle de langage, je ne peux pas accéder à toutes les informations disponibles sur Internet. Je ne suis pas en mesure de déterminer le propriétaire du blog “à Dom” que vous mentionnez. Pouvez-vous me fournir plus de contexte ou de détails pour que je puisse mieux comprendre votre demande?

Moi: leblogadom.ch

ChatGPT:  Le propriétaire du blog “Le Blog à Dom” est Dominique Nussbaumer. Il s’agit d’un blog personnel en français qui propose des articles sur différents sujets tels que le lifestyle, les voyages, la culture, la gastronomie et la santé. Dominique Nussbaumer est une blogueuse suisse passionnée de voyages, de découvertes et de partage, qui a créé son blog en 2017.

—————

Bon. Je retourne à des occupations intelligentes.

Dernière modification le il y a 1 année par Dominique Python
ysengrain
ysengrain
il y a 1 année

Dans le monde, daté de demain, un journaliste nommé Arnaud Leparmentier dans une chronique appelé «Les chers perroquets de l’intelligence artificielle » place l’intelligence artificielle dans le giron du Grand business

Daniel Pesch
Noble Member
En réponse à  ysengrain
il y a 1 année

Merci ysengrain.

Un extrait de cet article :

Dans le Wall Street Journal, Eric Schmidt, ancien patron de Google, Henry Kissinger, ancien secrétaire d’Etat de Richard Nixon et Daniel Huttenlocher, doyen de l’école d’informatique du Massachusetts Institute of Technology […] décrivent une « révolution intellectuelle » et un « défi philosophique et pratique » sans précédent depuis l’invention de l’imprimerie par Gutenberg. Cette dernière avait permis l’éclosion de la méthode scientifique, faite de partage d’expériences reproductibles. Rien de tel avec l’IA qui produit un résultat non sourcé à partir des milliards de données non vérifiées accumulées sur la planète. « La science des Lumières accumulait des certitudes. La nouvelle intelligence artificielle génère des ambiguïtés cumulatives » […] « L’intelligence artificielle infusera la diplomatie et la stratégie de sécurité », affirment-ils. Et s’interrogent : « Pourrons-nous apprendre à questionner plutôt qu’à obéir ? Ou serons-nous finalement obligés de nous soumettre ? Et si un élément de malveillance émergeait dans l’IA ? »  […] « Une troisième manière de connaître le monde peut émerger, celle qui n’est ni la raison humaine ni la foi. Que devient la démocratie dans un tel monde ? »

“Trop de questions sans doute pour un perroquet”, conclut l’auteur de l’article, Arnaud Leparmentier.

Brrrrrr… !

Noisequik
Active Member
il y a 1 année

Le Blog du Cuk est un site web suisse francophone consacré à l’informatique et aux technologies de l’information. Le nom “Cuk” vient de la prononciation suisse-allemande du mot “cucu”, qui signifie “coucou” en français. Le blog a été créé en 2001 par Didier Müller, un informaticien passionné, et depuis lors, il a évolué pour devenir l’un des sites les plus populaires de Suisse romande consacré à l’informatique.

Nicola
Active Member
il y a 1 année

Si on veut recevoir les informations fakes; on sait maintenant demander à qui ====> ChatGPT !  😂 

fake-news-news-min.gif
Gilles
Gilles
il y a 11 mois

J’avais fait une recherche de ce type sur les auteurs d’ouvrages Lightroom. Il m’a sorti une liste fantaisiste de noms d’auteurs (un pilote de rallye, des sportifs, des experts de divers domaines sans aucun rapport) et une liste d’ouvrages qui n’existent pas. Pas une seule fois, ni mon travail, ni celui de mes “concurrents” n’est cité.
Ce qui est curieux et un peu inquiétant, c’est que le système n’hésite pas à inventer des informations alors que dans d’autre cas, il annonce clairement qu’il ne dispose pas des informations nécessaires.
Pour que les choses soient claires, je pense sincèrement que l’intelligence artificielle est une vraie révolution et qu’elle nous apportera beaucoup, d’ailleurs, elle s’est déjà invitée dans nos vies depuis des années déjà. Mais attention quand même aux approximations et aux dérives.

Dernière modification le il y a 11 mois par Gilles
Gérard Trilles
Gérard Trilles
il y a 11 mois

Ce n’est qu’un début pour l’IA.
il est vrai que dans le cas présenté par François, les données sont fausses et réitérées à chaque demande.
Mais, l’IA de Notion, que j’ai testé récemment sur des sujets techniques en engineering, donne des résultats bluffants, mais non dénués de quelques d’erreurs.
Cela peut aider un rédacteur, en gain de temps indéniablement.
Pour l’instant l’IA ne remplace pas (encore) un humain expérimenté et professionnel dans son domaine.

hercut
hercut
il y a 11 mois

Petite vidéo très intéressante sur cette ia :
https://invidious.fdn.fr/watch?v=R2fjRbc9Sa0

Mais, pourquoi faire confiance a une ia qui puise des informations sur internet qui lui-même est truffé de mauvaises informations ???

jerome3167
Active Member
il y a 11 mois

L’autre jour, je pensais (et oui, cela m’arrive parfois !) à la détection des écrits générés par une IA, quelque qu’elle soit:

Imaginons un chercheur qui écrit un texte et le rend disponible sur internet (un billet de blog par exemple), hors du circuit des revues à comité de lecture.

Quelques temps plus tard, on veut vérifier si le chercheur en question écrit bien ses textes lui-même. On fait une recherche, et là, on s’aperçoit que les IA recrachent peu ou prou ce que le gars avait écrit, disons 6 mois auparavant. Normal me direz-vous puisque l’IA va élaborer ses réponses à partir de ce qu’elle trouve sur internet.

Mais que va-t-on en conclure ? Que le chercheur générait ses billets de blog avec une IA, donc que sa production est artificielle ? Ou bien mon raisonnement est trop tordu ? J’aurais pu prendre l’exemple d’un journaliste dont on veut vérifier qu’il écrit bien ses articles lui-même?

Dichant
il y a 11 mois

Ravi de voir que tu obtiens les mêmes réponses délirantes que j’ai obtenues en interrogeant chatGPT sur mon nom et mes blogs.
Une aide, oui, peut-être (bien que) mais une source d’info, non, sans aucun doute.

Yves
Yves
il y a 11 mois

J’ai testé sur Annecy : en 1944 Annecy a été libéré par les Americains ! , dixit chat GPT: En réalité la Haute-Savoie s’est libérée ‘seule’ si on peut dire: C’est vraiment inquiétant de voir de telles âneries, mises en exergue par la presse , la télé etc: On va bientôt apprendre que Lausanne est une petite commune au bord du lac d’Annecy: Amitiès Yves ( ex suiveur de CUK;CH)

Yves
Yves
En réponse à  François Cuneo
il y a 11 mois

 😊 

36
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x