Brainy Sunday #12 - Fake news avec ou sans IA
Une IA qui lit les pensées, un parrain repenti et des liens en pagaille
Bonjour,
Nous ne sommes plus dimanche et cette nouvelle édition de Brainy Sunday arrive donc en retard. La faute aux vacances qui perturbent un peu mon emploi du temps et m’ont surtout donné envie de profiter d’un dimanche avec mon fils. Au point que cet email a failli ne jamais partir…
Mais je me suis dit qu’une édition en retard, c’était toujours mieux que de ne rien envoyer, non ?
Si tu as reçu ce Brainy Sunday d’un·e ami·e ou que tu l'as trouvé sur Internet, n'oublie pas de t'abonner pour recevoir les futures éditions !
Fausses IA, vraies fake news
As tu vu passer cette photo de Selena Gomez au Met Gala sur Twitter ?
Le moins que l’on puisse dire, c’est qu’elle n’est pas passée inaperçue. De toutes les images de la soirée partagées sur Twitter, c’est même celle qui a reçu le plus de likes.
Et pourtant, la star n’était pas au Met Gala. Elle n’y participe plus depuis plusieurs années. C’est donc un faux, une fake news.
Le buzz provoqué par cette image aura forcément rappelé à certains le coup des policiers français réconfortant les manifestants ou du Pape en Balenciaga… Avec une conclusion évidente : c’est encore un coup des IA !
Le sujet était parfait et les réseaux sociaux, puis les médias, s’en sont évidemment emparés.
Que ce soit pour applaudir la qualité de l’image ou dénoncer la supercherie, le message qui est ressorti est a peu près le même : “voyez comme cette nouvelle technologie brouille les pistes et rend impossible la distinction entre le vrai et le faux.”
Sauf que c’est encore une fake news !
En réalité ce n’est pas Midjourney ou une autre IA de génération d’image qui a généré cette image. C’est simplement un photomontage réalisé par un fan à partir d’une photo de Lily James au Met Gala de l’an dernier. La technologie est celle de ce bon vieux Photoshop que les infographistes utilisent depuis plus de 20 ans.
Pour moi, cette histoire est un excellent exemple de la tendance actuelle quand on parle d’intelligence artificielle (IA) : un mélange d’enthousiasme et de craintes qui la présente comme une technologie surpuissante, capable de réaliser des choses impossibles auparavant - et posant donc des problèmes et des questions inédits.
Oui, les avancées dans le traitement et la génération des images et du langage naturel ont permis de créer des outils performants et incroyables. Pour autant l’IA n’est ni la solution miracle à tous nos problèmes ni la source infernale de nouvelles et insurmontables difficultés.
Bon nombre des problèmes soulevés par l'IA ne sont en réalité pas nouveaux et existaient déjà avant son arrivée sur la scène technologique.
La désinformation, par exemple, est un problème de longue date. Et si l’IA lui donne un nouveau souffle et de nouvelles manières de se propager (comme l’ont fait les réseaux sociaux), je ne suis pas sûr qu’elle soit fondamentalement différente d’il y a 50 ans.
Je pense notamment à la Rumeur d’Orléans d’Edgard Morin - un classique dont les enseignements sur la manière dont les fausses informations se développent et se propagent en dépis du réel sont toujours pertinents - bien plus à mon avis que le fantasme d’une frontière certaine entre le vrai et le faux qui aurait soudain disparue…
Face aux discours qui oscillent entre la hype et la panique en présentant l’IA comme une force toute-puissante qui peut tout faire, je t’invite à prendre un peu de recul et à te rappeler que l’IA est juste un outil.
Un outil qui peut effectivement être utilisé pour créer de fausses images ou de faux textes - mais qui pourrait aussi servir pour détecter ces manipulations et nous aider à trier et comprendre les informations qui nous parviennent.
Plutôt que de craindre l'IA, je trouve que nous devrions nous concentrer sur la manière de l'utiliser de manière responsable et éthique, tout en étant conscients de ses limites et des défis qu'elle pose.
🛠️ App, outils et autres bons liens
A essayer : PI, pour Personal Intelligence, est conçu pour être un compagnon bienveillant et soutenant, offrant des conversations, des conseils amicaux et des informations concises.
Audiopen fonctionne comme un super dictaphone grâce à l’IA : il transcrit un enregistrement, prend des notes et crée un résumé automatique.
Parsio utilise l’IA pour lire vos documents (factures, bon de commandes,…) et en extraire des informations structurées.
Kadoa fait a peu près la même chose, mais à partir du contenu des sites web.
Shap-E est un nouveau modèle d’OpenAI qui permet de créer des objets en 3D à partir de texte.
Landing AI permet de créer un site web avec l’aide de l’IA.
📰 L’actu en (très) bref
Des chercheurs parviennent à lire dans les pensées grâce à l'IA
En utilisant une combinaison de scans IRMf et la technologie IA de GPT, les chercheurs ont montré un film à des sujets et ont réussi à décoder l'idée générale de ce dont traitait le film à partir de l’analyse des scans.
Le modèle a en effet été entraîné à associer l'activité des scans IRMf avec des contenus vidéo/audio connus.
L’IA est ensuite parvenue à examiner un scan IRMf et déterminer ce que les personnes regardaient ou écoutaient.
Le décodeur est capable de saisir l'essentiel de la pensée des participants, même lorsqu'ils imaginent leurs propres histoires.
A vos agendas : On attend des (grandes) annonces de Google ce mercredi
Le 10/05 à 19h00, c’est Google I/O, la grande conférence annuelle où Google fait généralement des annonces importantes.
On s’attend évidemment à ce qu’ils parlent de Bard et de son intégration aux autres outils comme Gmail ou Google Assistant.
Les rumeurs parlent aussi d’un générateur d’image par IA pour les smartphones Pixel.
Google aurait déjà perdu la course à l’IA - et OpenAI aussi
Dans un document interne, un ingénieur senior de Google s'inquiète de l'avancée rapide de l'intelligence artificielle open source.
Google a préféré se concentrer sur son rival OpenAI sans se soucier des avancées significatives de la communauté.
Google doit se demander où se situe sa valeur ajoutée face aux modèles open source plus rapides, personnalisables, privés et performants.
Microsoft annonce une série d’améliorations pour Bing AI
Bing AI n’est plus limité à quelques utilisateurs. Tout le monde peut se rendre sur bing.com/chat et l’utiliser.
Le chatbot comprend et parle maintenant une centaine de langues différentes.
Bing va se voir ajouter de plugins similaires à ceux de ChatGPT pour permettre aux utilisateurs d'accomplir des tâches directement dans le chat de Bing.
Bing devrait aussi prochainement pouvoir lire et générer des images directement depuis le chat.
Rencontre au sommet à Washington
La vice-présidente Kamala Harris et d'autres responsables américains ont discuté avec les CEO d'OpenAI, Alphabet, Microsoft et Anthropic.
La Maison Blanche souligne les risques que présente l’IA pour la sécurité, les droits humains et civils, la vie privée, les emplois et les valeurs démocratiques.
Les CEO se sont engagés à travailler avec l'Administration américaine pour garantir les bénéfices de l'innovation en IA pour les Américains.
Les États-Unis n'envisagent pas actuellement de législation sur l'IA, contrairement à l'Europe qui prépare son AI Act.
Le parrain de l'IA quitte Google et tire la sonnette d’alarme
Le chercheur Geoffrey Hinton, reconnu pour ses travaux sur les réseaux neuronaux, s’inquiète des dangers des IA qu’il a contribué à créer.
Il craint notamment qu'une personne moyenne ne puisse plus discerner le vrai du faux à cause des contenus truqués créés par l'IA.
Il s'inquiète également de l'impact de l'IA sur les emplois comportant de nombreuses tâches routinières.
À long terme, Hinton redoute des risques pour l'humanité, y compris l'émergence d'armes autonomes.
Midjourney améliore (encore) son modèle (et redevient gratuit)
Midjourney explique que sa nouvelle version V5.1 est plus "opiniated" et est BEAUCOUP plus facile à utiliser avec des prompt courts.
La V5.1 offre aussi une plus grande cohérence, une meilleure précision avec les prompts, moins de bordures indésirables et une netteté améliorée.
Dans la foulée, Midjourney a aussi réactivé les essais gratuits ce week-end.
C’est tout pour cette semaine !
On se retrouve normalement dimanche pour une nouvelle édition.
- Thomas
PS : Si ce n’est pas déjà fait, n'oublie pas de t’abonner pour recevoir Brainy Sunday la semaine prochaine. Pense aussi à partager autour de toi et sur tes réseaux :
Brainy Sunday #12 - Fake news avec ou sans IA
Merci pour ces newsletters parfaites : de l'esprit, des liens pertinents et une durée de lecture parfaite.
Ne lâche pas ✌️