Defend Intelligence (Anis Ayari) @DFintelligence

I’M BEGGING YOU: MAKE THE SOFTWARE OPEN SOURCE, PLEASE! Or give us an API or a developer platform. PLEASEEEEEE, I need the hardware.

Muse @Muse

6 hours ago

charmed to meet you!

191 212 4K 182K 342

@Deimon6659 TOUUUUUUT 🤝🤝🫡😍😁

Codex Messenger is up-to-date ! You can use codex with a MSN Messenger skin, including all new features (search, history, MCP , streaming, validation and more..). Everything is opensource and on my github have fun !

Cheers github.com/anisayari/code…

@RemiMathis Sauf qu'ici on est pas dans l'ordre du plan ni de l'idée.

Pour clore cette page sur la détection de contenu textuel par IA et pourquoi ca me saoul de voir certains vendre une solution comme parfaite: en fait, dites-vous que ce sont les mêmes réflexes qu'en 2019, quand on nous pondait des « guides » de détection d'images générées par IA avec des techniques soi-disant « infaillibles ». Eh bien, c'est pareil pour le texte. Ce qui est vrai aujourd'hui sera faux demain. Et en faisant croire à la masse qu'on est capable de détecter du contenu généré par IA, on l'enferme dans un faux sentiment de sécurité qui peut durer bien longtemps. Pangram, ou n'importe quel autre site ou méthode aussi fort ou faible, finira par se faire rattraper par les avancées technologiques. Et comme je l'ai dit trois fois en dix posts : tout bon discriminateur fait un bon générateur. Donc il faut arrêter de croire qu'il existe des méthodes pour détecter du faux qui soient durables, infaillibles et parfaites. Ça n'existe pas. Hormis peut-être les tatouages numériques, mais ça réduit la qualité et, oui : "there is no free lunch". Donc là c'est des questions pour les gens dont l'évolution de la langue est leur spécialité: - est ce que dans le futur tout les humains vont écrire de moins en moins bien pour prouver qu'on est humain ? Car l'IA écrira de mieux en mieux par rapport à nous ? - Ou est ce qu'on va aller vers une fusion des deux et on s'en foutra de l'outil utilisé ? - Pourquoi ca frustre tellement l'égo de voir une machine faire des choses , comme parlé, mieux que nous même ?

@thibautchourre Mdr regarde ces gens. JPP . C'est des malades en vrai.

Voici un cas d'utilisation concret. J'ai pris un de mes textes d'un réel YouTube de 2024 que j'ai écrit à la main. Je suis dyslexique et dysorthographique, donc je fais beaucoup de fautes d'orthographe et de français. Je lui ai donc demandé : « Corrige les fautes d'orthographe et reprends le texte pour corriger les fautes de français, de vocabulaire, de grammaire, etc., ainsi que les tournures de phrases qui ne sont pas françaises. » Résultat : mon texte écrit à la main devient « 100 % IA ». Et donc, ça veut dire que mon texte a été « écrit par l'IA » ? Non. Là, ça devient presque une question quasi-philosophique, je pense. Mais j'en reviens toujours à mon point : les chasses aux sorcières qui prétendent avoir tort ou raison et détenir les clés de la morale et de la vérité en utilisant des outils imparfaits, tout en présentant leurs résultats comme parfaits, ce n'est pas une bonne direction pour la société. Je maintiens que non on ne prétend pas détenir une réalité binaire sur des outils imparfait, et qui le resteront. Allez je passe à autre chose maintenant.

keyboard_arrow_left Previous keyboard_arrow_right Next

Quand vous comprenez le principe d'un détecteur de texte IA alors vous savez que c'est peine perdue pour que ça soit vraiment efficace sur le long terme. Un texte est qualifié d'IA car il a certains patterns reconnaissables. Si on arrive à gommer ces "patterns IA" à l'aide de l'IA, quels seront les nouveaux patterns qui permettront de qualifier un texte fait par IA ? C'est clairement sans fin cette histoire. À part un signal clairement indélébile sur un texte généré par IA, on ne peut pas assurer la robustesse d'un détecteur IA juste sur sa capacité à séparer les distributions des textes humains et générés, ces mêmes distributions qui peuvent être totalement indiscernables. Un humain et une IA peuvent produire exactement la même phrase.

Defend Intelligence (Anis Ayari) @DFintelligence

19 hours ago

« Rajoute des fautes d'orthographe et des chiffres » sur un texte 100 % généré par IA. Et pouf, ça devient 100 % humain. C'est fou, non ??????🫡🫡 MA-GIE. En fait, c'est ridicule. On peut continuer les preuves et contre-preuves pendant des années avec ces outils. Dans ce cas

keyboard_arrow_left Previous keyboard_arrow_right Next

46 41 436 60K 73

I get 3 kind of comments: 1. The text is too short, confidence is low, can't you read correctly? 2. I manpulated the text (omitted last line, removed newlines, etc) 3. Studies have proven it is reliable. For 1, pangram accepts text with 50 words, see screenshot. If it is unreliable for 100 words text then why do they accept them? For 2, removing one line in a poem makes it AI and you trust this system? I don't. I didn't. omit the line on purpose, I cut and pasted from another tweet not from me. For 3. the only study I see is from pangram …ram-public.s3.us-east-1.amazonaws.com/pdf/pangram_4_… I welcome pointers to any independent study. Pangram's report is only for English text.

JFPuget 🇫🇷🇺🇦🇨🇦🇬🇱 @JFPuget

21 hours ago

I reproduced this false positive for pangram. It is a text from Victor Hugo.

45 30 332 79K 75

Plus j’y pense, plus je pense que c’est une bonne idée. Je n’étais pas convaincu à la base parce que ça restera imparfait et manipulable, mais quand je vois que c’est déjà largement suffisant pour le tatouage des images d’OpenAI, je me dis que c’est intéressant.( vu que la plupart des gens ont la flemme). Mais il reste une grosse limite : ce tatouage réduit énormément la qualité de l’image. Donc ce sera forcément pareil pour le texte. Le prochain défi pour les labs, c’est donc de savoir comment avoir du watermarking sans réduire la qualité. Et est-ce que cette solution sera tenable dans le temps ? Et évidemment, ça reste des solutions « Nice Guy only », ou destinées à la masse qui a la flemme. Parce que les acteurs malveillants qui veulent créer du faux y arriveront toujours.

Briac Marcatté @briacm

18 hours ago

@DFintelligence Dans les 5 années qui viennent, l’Europe force tous les providers à mettre des watermarks partout anthropic.com/news/claude-te…. Donc ça sera encore plus simple à détecter

3 0 5 12K 1

c'est exactement ce type de limite qui sont discutés dans la littérature scientifique actuellement x.com/DFintelligence…

Defend Intelligence (Anis Ayari) @DFintelligence

22 hours ago

On vit quand même un moment d’anthologie. Un compte qui date d’il y a 5 jours fait la promotion, sans se cacher, d’un outil payant qui prétend être ultra-fort pour détecter du texte IA et tout les journalistes sautent sur un post d’un compte random, donc prenons un peu de hauteur

24 12 71 20K 24

x.com/DFintelligence…

Defend Intelligence (Anis Ayari) @DFintelligence

19 hours ago

Il y a des méthodes mixtes qui permettent d’identifier assez bien les probabilités sur un texte. C’est ce que fait cet outil. Ça peut fonctionner souvent bien , souvent mal en fonction de 1000 critères. L’architecture est smart , mais ça a ces limites que je lis pas beaucoup

6 1 21 8K 6

x.com/DFintelligence…

Defend Intelligence (Anis Ayari) @DFintelligence

18 hours ago

Voici un cas d'utilisation concret. J'ai pris un de mes textes d'un réel YouTube de 2024 que j'ai écrit à la main. Je suis dyslexique et dysorthographique, donc je fais beaucoup de fautes d'orthographe et de français. Je lui ai donc demandé : « Corrige les fautes d'orthographe

keyboard_arrow_left Previous keyboard_arrow_right Next

72 34 246 76K 55

« Rajoute des fautes d'orthographe et des chiffres » sur un texte 100 % généré par IA. Et pouf, ça devient 100 % humain. C'est fou, non ??????🫡🫡 MA-GIE. En fait, c'est ridicule. On peut continuer les preuves et contre-preuves pendant des années avec ces outils. Dans ce cas de démonstration les raisonnement inductifs ne fonctionnent pas. Chacun voit midi à sa porte. Encore une fois, ce genre d'outil c'est une direction, jamais une réponse finale. Ceux qui prétendent l'inverse sont tout bonnement des charlatans.

keyboard_arrow_left Previous keyboard_arrow_right Next

@referencement x.com/DFintelligence…

Defend Intelligence (Anis Ayari) @DFintelligence

19 hours ago

Et evidemment il était 100% IA avant.

4 0 14 5K 0

@lolfe12 Oui ça marche bien. Comme pour l’image .

Il y a des méthodes mixtes qui permettent d’identifier assez bien les probabilités sur un texte. C’est ce que fait cet outil. Ça peut fonctionner souvent bien , souvent mal en fonction de 1000 critères. L’architecture est smart , mais ça a ces limites que je lis pas beaucoup depuis hier sur ce réseau, et finalement surtout chacun voit ce qu’il veut voir. Mais ce type de chose reste encore un sujet de recherche continue , c’est l’œuf avant la poule ou l’inverse. Le reste c’est du marketing pour un produit payant. En fait, il faut juste arriver à comprendre que tout bon discriminateur peut servir à construire un bon générateur. Là, il suffit que quelqu’un prenne cet outil, demande à une IA d’écrire, récolte les scores jusqu’à commencer à identifier des patterns récurrents sur un million de documents, par exemple. Et pouf : tu en fais un skill, et je pense que tu peux assez facilement leurrer ce genre d’outils. C’est une fuite continue en avant quoi qu’il arrive. Mais le problème c’est pas de savoir si c’est vrai ou faux en général, il faut simplement partir du principe qu’à terme, il sera impossible de savoir à 100 % si quelque chose a été généré par une IA ou non. Il faut l’accepter : c’est comme ça que ça va évoluer.

Sebastien_ruaux @recifalnews

19 hours ago

@DFintelligence Est-ce que l’outil de détection IA est de l’IA lui même ? ( 👀)

0 0 0 5K 0

@kzariajg Exactement.