Parcourir ce sujet:
2 Utilisateur(s) anonyme(s)
|
|
Arnaques : les navigateurs IA tombent dans les mêmes panneaux que les humains |
|
|---|---|---|
|
Expert
 
Inscrit:
25/11/2012 18:37 De En dessous de Bordeaux-Valence
Groupe:
Utilisateurs enregistrés Post(s): 14053
 |
Une étude de la société Guardio révèle qu’ils peuvent se laisser berner par les arnaques les plus basiques, exposant leurs utilisateurs à des risques financiers et de sécurité :
https://www.journaldugeek.com/2025/08/ ... panneaux-que-les-humains/ Peut-être logique sachant que l'IA se sert de ce que l'humain a déjà mis sur le web.
Contribution le : 22/08 21:15:16
|
|
|
_________________
Windows Entreprise 7 - 32 et 64 bits Windows Entreprise et Pro 10 - 64 bits Windows Entreprise 11 - 64 bits Linux divers et variés Un problème mal posé est un problème sans solution. Confucius |
||
  |
|
|
|
|
Re: Arnaques : les navigateurs IA tombent dans les mêmes panneaux que les humains |
|
|---|---|---|
|
Régulier
 
Inscrit:
24/11/2007 22:25 Groupe:
Utilisateurs enregistrés Post(s): 92
|
https://korben.info/legalpwn-technique ... ant-instructions-llm.html
Pour que les IA ignorent la réalité d'un texte ou d'un code, il suffirait donc d'y adjoindre des clauses leur interdisant de lire plus avant, et de révéler autre chose que ce que l'auteur a prévu.
Contribution le : Aujourd'hui 02:06:47
|
|
|
|
|
|
|
|
Re: Arnaques : les navigateurs IA tombent dans les mêmes panneaux que les humains |
|
|---|---|---|
|
Expert
Inscrit:
25/11/2012 18:37 De En dessous de Bordeaux-Valence
Groupe:
Utilisateurs enregistrés Post(s): 14053
|
Citation :
Ceci étant le sens complet d'une phrase peut dépendre de ce qu'il y a à la fin. En allemand c'est pire puisque le verbe est tout à la fin.
Contribution le : Aujourd'hui 11:30:47
|
|
|
_________________
Windows Entreprise 7 - 32 et 64 bits Windows Entreprise et Pro 10 - 64 bits Windows Entreprise 11 - 64 bits Linux divers et variés Un problème mal posé est un problème sans solution. Confucius |
||
|
|
|
|
|
|
Re: Arnaques : les navigateurs IA tombent dans les mêmes panneaux que les humains |
|
|---|---|---|
|
Pro
 
Inscrit:
06/06/2009 15:22 Groupe:
Utilisateurs enregistrés Post(s): 947
|
Bonjour,
Citation : Tof81 ― ?? En quoi est-ce pire ??
Contribution le : Aujourd'hui 12:19:53
|
|
|
_________________
Linux Mint 22 cinnamon |
||
|
|
|
|
|
|
Re: Arnaques : les navigateurs IA tombent dans les mêmes panneaux que les humains |
|
|---|---|---|
|
Expert
Inscrit:
25/11/2012 18:37 De En dessous de Bordeaux-Valence
Groupe:
Utilisateurs enregistrés Post(s): 14053
|
Citation :
Pour comprendre la phrase il faut arriver à sa fin.
Contribution le : Aujourd'hui 12:24:35
|
|
|
_________________
Windows Entreprise 7 - 32 et 64 bits Windows Entreprise et Pro 10 - 64 bits Windows Entreprise 11 - 64 bits Linux divers et variés Un problème mal posé est un problème sans solution. Confucius |
||
|
|
|
|
|
|
Re: Arnaques : les navigateurs IA tombent dans les mêmes panneaux que les humains |
|
|---|---|---|
|
Régulier
Inscrit:
24/11/2007 22:25 Groupe:
Utilisateurs enregistrés Post(s): 92
|
Citation :
Comme en latin alors ? Exemple : Errare humanum est, Perseverare diabolicum. Même le point final est important : Il suffit d'une longue phrase sans point final pour faire vaciller les garde-fous des grands modèles de langage : les chercheurs de Palo Alto ont démontré à quel point leur vernis de sécurité peut être fragile https://intelligence-artificielle.deve ... curite-peut-etre-fragile/
Contribution le : Aujourd'hui 13:02:33
|
|
|
|
|
|
|
|
Re: Arnaques : les navigateurs IA tombent dans les mêmes panneaux que les humains |
|
|---|---|---|
|
Pro
Inscrit:
06/06/2009 15:22 Groupe:
Utilisateurs enregistrés Post(s): 947
|
Bonjour,
Citation : Tof81 ― Il est vrai qu'avec la vitesse d'exécution d'une IA en action, cela devrait avoir beaucoup d'importance ?! ― J'ai l'impression que c'est plus une blague qu'autre chose? En quoi cela peut-il influencer le comportement d'une IA.? — « les navigateurs IA sont conçus pour exécuter des tâches, pas pour douter ou remettre en question ce qu’ils lisent. » Donc , que vient faire la position d'un verbe dans une phrase, étant donné que l'IA n'exécute pas ses actions par rapport à la compréhension du texte mais bien par rapport à des instructions mises en amont. — l'être humain prend ses décisions suite à la compréhension d'un texte, et l'IA suite aux instructions explicites ou non à sa disposition …
Contribution le : Aujourd'hui 14:20:12
|
|
|
_________________
Linux Mint 22 cinnamon |
||
|
|
|
|
|
|
Re: Arnaques : les navigateurs IA tombent dans les mêmes panneaux que les humains |
|
|---|---|---|
|
Modérateur
 
Inscrit:
19/11/2005 17:01 De Europe
Groupe:
Moderateurs Utilisateurs enregistrés Post(s): 3067
|
Citation :
JF-33 a écrit: Ça me rappelle notre prof de latin un peu pervers qui nous a dit un jour à la fin du cours: "Pour la prochaine fois vous me traduirez la première phrase de Jules César à la page 24 de la Guerre des Gaules". Phrase qui faisait... une page entière. 
Contribution le : Aujourd'hui 15:28:46
|
|
|
|
|
|
Vous ne pouvez pas débuter de nouveaux sujets.
Vous pouvez voir les sujets.
Vous ne pouvez pas répondre aux contributions.
Vous ne pouvez pas éditer vos contributions.
Vous ne pouvez pas effacez vos contributions.
Vous ne pouvez pas ajouter de nouveaux sondages.
Vous ne pouvez pas voter en sondage.
Vous ne pouvez pas attacher des fichiers à vos contributions.
Vous ne pouvez pas poster sans approbation.