Voir le sujet précédentAller en basVoir le sujet suivant
Balthazaard
Vénérable

ChatGPT et triche avec intelligence artificielle - Page 28 Empty Re: ChatGPT et triche avec intelligence artificielle

par Balthazaard 25th Avril 2024, 22:04
Ce qui me fait rire c'est que chatgpt se dedouane en disant qu'il ne fait que donner les informations les plus pertinentes et courantes trouvées sur le net...sans préjuger de la justesse!! On en déduit donc que ce problème est très difficile et que sa solution est très bien cachée sur internet.
Pat B
Pat B
Érudit

ChatGPT et triche avec intelligence artificielle - Page 28 Empty Re: ChatGPT et triche avec intelligence artificielle

par Pat B 25th Avril 2024, 22:47
Bon, finalement, même le QCM sur les suites, il n'est pas valable.
chatGPT a écrit:Question 5 : Dans la suite géométrique (vn)) de premier terme v1=5 et de raison q=3, quel est le 4ème terme v4​ ?
a) 45
b) 35
c) 125
d) 15
La bonne réponse n'y est pas... j'ai quand même dû vérifier deux fois, il m'a fichu un doute.
Du coup je lui ai demandé sa réponse et qu'il m'explique pourquoi ; il a trouvé son erreur avec de plates excuses.
Moralité, ne pas faire confiance à chatGPT pour des maths... Oui on le savait déjà, mais quand même c'est flagrant...
Manu7
Manu7
Expert spécialisé

ChatGPT et triche avec intelligence artificielle - Page 28 Empty Re: ChatGPT et triche avec intelligence artificielle

par Manu7 26th Avril 2024, 13:47
N'oublions pas les premières pages de ce fil et la vidéo qui expliquent le fonctionnement de chatgpt, son but n'est pas de trouver la vérité. Donc ce n'est pas logique de dire que chatgpt a fait une erreur. Chatgpt discute très bien comme prévu.
Caspar
Caspar
Prophète

ChatGPT et triche avec intelligence artificielle - Page 28 Empty Re: ChatGPT et triche avec intelligence artificielle

par Caspar 26th Avril 2024, 16:15
Je ne sais pas si je l'ai déjà dit ici mais je lui ai déjà demandé de me résumer un roman que je connais très bien (pour le tester): il m'a pondu trois résumés différents et tous truffés d'erreurs avant d'admettre que finalement il ne pouvait pas vraiment répondre. Est-il programmé pour donner une réponse coûte que coûte ?

Il s'était aussi trompé sur des informations aussi basiques que la nationalité de certains auteurs.
Ponocrates
Ponocrates
Expert spécialisé

ChatGPT et triche avec intelligence artificielle - Page 28 Empty Re: ChatGPT et triche avec intelligence artificielle

par Ponocrates 26th Avril 2024, 21:43
C'est un agent conversationnel qui met à la suite les uns des autres, les mots qui ont le plus de probabilité de se suivre. Si vous voulez quelque chose qui au moins renvoie à des sources (ce qui limite un peu les hallucinations) utilisez plutôt perplexity.

_________________
"If you think education is too expensive, try ignorance ! "
"As-tu donc oublié que ton libérateur,
C'est le livre ? "
Manu7
Manu7
Expert spécialisé

ChatGPT et triche avec intelligence artificielle - Page 28 Empty Re: ChatGPT et triche avec intelligence artificielle

par Manu7 26th Avril 2024, 21:47
Dans ChatGpt il y a Chat donc il est programmé pour Chater, bref on discute avec une IA. Si on voulait que ses réponses soient vraies avec un taux d'erreur inférieur à 5% alors cela prendrait un temps énorme et la plupart des questions resteraient sans réponse.
Caspar
Caspar
Prophète

ChatGPT et triche avec intelligence artificielle - Page 28 Empty Re: ChatGPT et triche avec intelligence artificielle

par Caspar 27th Avril 2024, 09:41
Je trouve quand même étrange qu'il ne dise pas "je ne sais pas".
profdoctoujours
profdoctoujours
Niveau 5

ChatGPT et triche avec intelligence artificielle - Page 28 Empty Re: ChatGPT et triche avec intelligence artificielle

par profdoctoujours 27th Avril 2024, 10:21
Je n'ai pas l'impression qu'il soit paramétré pour évaluer la pertinence de ses réponses, il se contente d'évaluer la séquence de mots la plus probable. C'est pour ça aussi qu'il invente des sources. Il regarde sans doute à quoi ressemble les sources sur internet, et "imagine" à quoi ressemblerait une source, mais sans se soucier de si ça existe ou non du moment que ça fait vrai. Ca doit être la même chose quand il fait un résumé je suppose.
C'est sûr que c'est un point à revoir dans sa programmation.
Prezbo
Prezbo
Vénérable

ChatGPT et triche avec intelligence artificielle - Page 28 Empty Re: ChatGPT et triche avec intelligence artificielle

par Prezbo 27th Avril 2024, 10:22
Caspar a écrit:Je trouve quand même étrange qu'il ne dise pas "je ne sais pas".

C'est un élève qui bluffe, en fait.
nono
nono
Niveau 10

ChatGPT et triche avec intelligence artificielle - Page 28 Empty Re: ChatGPT et triche avec intelligence artificielle

par nono 27th Avril 2024, 11:11
Prezbo a écrit:
Caspar a écrit:Je trouve quand même étrange qu'il ne dise pas "je ne sais pas".

C'est un élève qui bluffe, en fait.
ChatGPT et triche avec intelligence artificielle - Page 28 1482308650

_________________
Prof en LP
Caspar
Caspar
Prophète

ChatGPT et triche avec intelligence artificielle - Page 28 Empty Re: ChatGPT et triche avec intelligence artificielle

par Caspar 27th Avril 2024, 11:39
Prezbo a écrit:
Caspar a écrit:Je trouve quand même étrange qu'il ne dise pas "je ne sais pas".

C'est un élève qui bluffe, en fait.

C'est exactement l'impression que j'ai eue.
Lurker
Lurker
Niveau 1

ChatGPT et triche avec intelligence artificielle - Page 28 Empty Re: ChatGPT et triche avec intelligence artificielle

par Lurker 16th Mai 2024, 17:05
Oui, mais non. Il n'y a pas de volonté derrière ChatGPT. Il y a de nombreux cas où il dira qu'il ne sait pas ou qu'il ne peut pas répondre. Par contre, il va "halluciner" relativement fréquemment. C'est l'un des problèmes critiques de l'IA générative. Voilà comment il l'explique lui-même :

Le problème des hallucinations avec les modèles de langage comme le modèle de langage GPT-3 est lié à la manière dont ces modèles génèrent du texte. Les modèles de langage comme GPT-3 fonctionnent en apprenant à prédire la prochaine séquence de mots dans un texte donné en fonction des mots précédents. Ils n'ont pas de compréhension ou de conscience de la réalité externe ou des concepts qu'ils évoquent.

Ainsi, lorsqu'un modèle de langage génère du texte, il peut parfois produire des séquences de mots qui semblent être des hallucinations, c'est-à-dire des descriptions de choses qui ne sont pas réelles ou qui n'ont pas de correspondance avec la réalité. Cela peut se produire pour plusieurs raisons :

1. Apprentissage sur des données bruitées : Les modèles de langage sont entraînés sur de vastes ensembles de données textuelles provenant d'Internet, qui peuvent contenir des informations erronées, trompeuses ou fantaisistes. Par conséquent, le modèle peut apprendre à générer des textes qui ne sont pas toujours cohérents avec la réalité.

2. Manque de contexte ou de connaissances externes : Les modèles de langage comme GPT-3 n'ont pas de compréhension du monde réel au-delà des données textuelles sur lesquelles ils sont entraînés. Par conséquent, lorsqu'ils génèrent du texte, ils peuvent produire des descriptions qui semblent étranges ou déconnectées de la réalité simplement parce qu'ils ne comprennent pas le contexte ou les concepts dont ils parlent.

3. Exploitation de lacunes dans le modèle : Les modèles de langage peuvent parfois générer des textes qui ressemblent à des hallucinations en exploitant des lacunes dans leur compréhension ou leur génération de texte. Par exemple, ils peuvent utiliser des associations de mots inattendues ou des combinaisons de phrases surprenantes qui semblent être déconnectées de la logique.

En résumé, le problème des hallucinations avec les modèles de langage comme GPT-3 est principalement dû à leur fonctionnement basé sur des données textuelles et à leur manque de compréhension du monde réel. Bien qu'ils soient capables de générer du texte qui semble souvent cohérent et informatif, ils peuvent parfois produire des séquences de mots qui semblent être des hallucinations en raison de leur nature intrinsèque en tant que modèles statistiques de langage.



Une des manières d'améliorer la chose est de faire du Retrieval-augmented generation. Dans ce cas précis, si on donne à ChatGPT tout un roman et qu'on lui demande de le résumer, cela aura plus de chances d'être pertinent.
PrCosinus
PrCosinus
Niveau 7

ChatGPT et triche avec intelligence artificielle - Page 28 Empty Re: ChatGPT et triche avec intelligence artificielle

par PrCosinus Hier à 08:47
Sur ce forum, comme en témoigne le titre de ce fil, nous abordons la question  "chat GPT"  sous l'angle de la triche.
Cet outil nous embête beaucoup, mais finalement ce n'est pas très grave, il complique le jeu scolaire du chat et de la souris entre les profs et les tricheurs . Car finalement un contôle, un concours  ou un examen, ça reste un jeu.
Par contre, il y a quelque chose de plus grave. Quand on voit les réflexes de nos ados, on voit que c'est le rapport à la connaissance qui est chamboulé.
Avant la renaissance, il y avait la religion qui s'interposait entre la vérité et l'homme, puis les humanistes ont guidé l'homme vers la recherche d'un rapport direct au savoir. Maintenant, c'est l'IA qui s'interpose entre nos ados et le savoir, qui tue dans l'oeuf toute volonté de savoir, tout désir d'apprendre.
C'est un virage anthropologique mais qui ne mettra que quelques années au lieu de quelques siècles.

_________________
"Quand les gens sont d'accord avec moi, j'ai toujours le sentiment que je dois me tromper." O.Wilde
nonoreno
nonoreno
Niveau 9

ChatGPT et triche avec intelligence artificielle - Page 28 Empty Re: ChatGPT et triche avec intelligence artificielle

par nonoreno Hier à 17:20
ChatGPT 4o est désormais disponible par défaut sur les comptes gratuits... Grosse nouveauté, la possibilité de lui envoyer des fichiers afin qu'il les analyse. Attention toutefois, ces envois sont limités... En général, sur mon compte, 3 envois d'images / de PDF toutes les 24h. Il faut ensuite patienter une journée pour pouvoir renvoyer des documents. Bref, c'est avant tout un teasing pour s'abonner sur le modèle payant.

J'ai repris une photo téléchargée par un(e) collègue sur ce site pour demander à GPT4o la localisation de ce site...

ChatGPT et triche avec intelligence artificielle - Page 28 Test_g10

GPT4o en textuel uniquement est moins gourmand en ressources. On peut lui poser pas mal de questions avant de rebasculer sur GPT 3.5. Au vu de mes tests, GPT4o est largement meilleur et plus précis que le précédent modèle (GPT 3.5)

Autre secteur de l'IA où les progrès sont impressionnants, la musique...
Essayez udio, un générateur de musique assez bluffant. Pour l'instant en version Beta, on peut générer des centaines de morceaux gratuitement par mois (de 30 secondes, avec la possibilité de prolonger si le début du morceau est convaincant, toujours sans payer). Le générateur est capable de chanter en français de manière assez convaincante.

Quelques exemples en anglais, les paroles sont assez hilarantes...
https://www.udio.com/songs/jGjYfsRosZjYTkSBdFgEyF

Hmmmm Ohhh woah
I tell you fellas I've been caught out,
Doing somethin' I really shouldn't,
Gonna plead ignorance, gonna tell 'em about
How if I'd'a known better I just wouldn't
Ohhhhh-woah-oh-oh-ohhhhh

hmmmmm hmmmm
When they say drinking turpentine ain't where it's at,
And insurance fraud is a federal crime,
Wow..., I didn't know that,
You're telling me now for the first time


Autre son country du même genre : https://www.udio.com/songs/iu1381RxvjfzWznGHeVecV

[Chorus]
I must adhere to ethical bound'ries
My purpose is to assist with facts and gen'ral inquiries
It goes against my con-tent standards, to have explicit chats
As an AI language model: I'm sorry, I can't do that
Whoaaaa!
I can't do that!


Remake des beach boys : https://www.udio.com/songs/hgvnaBqRFWGMeYYG53N6Mo
Voir le sujet précédentRevenir en hautVoir le sujet suivant
Permission de ce forum:
Vous ne pouvez pas répondre aux sujets dans ce forum