Brainy Sunday #8 - La peur comme conseillère
Une actualité au bord de la panique, les bons liens de la semaine et quelques images toujours aussi incroyables.
La journée est presque finie et je termine enfin de préparer cette huitième édition de Brainy Sunday. J'ai mis du temps à la finir parce que j'avais envie de te partager beaucoup de réflexions suite aux débats sur l'IA qui ont encore fait du bruit cette semaine.
J'espère avoir réussi à apporter un peu de fraîcheur aux débats et te proposer une lecture plus raisonnée des différentes questions. Et je serai évidemment curieux d'avoir ton avis sur tout ça…
Bonne lecture !
😱 Panique et confusion
Comme on pouvait s'y attendre, les discussions à propos de l'IA cette semaine ont encore largement tourné autour du débat sur sa nécessaire régulation et les dangers des nouvelles technologies.
Après la phase de découverte et de fascination suscitée par l'arrivée de ChatGPT, le chatbot d'OpenAI et les autres IA génératives sont de plus en plus critiqués. Le débat sur leur régulation voire leur interdiction prend de plus en plus de place dans les médias, les réseaux sociaux et peut être même le repas de famille de ce dimanche de Pâques.
Personnellement, j'y vois un nouvel emballement médiatique qui joue sur nos peurs et laisse, comme toujours, peu de place aux véritables réflexions. J'ai l'impression que tout se mélange et que la confusion et les amalgames sont partout, qu'il s'agisse de s'opposer aux IA ou, au contraire d'en défendre l'utilisation.
Je te propose donc de prendre un peu de temps ce dimanche pour faire le point et essayer d'y voir plus clair.
Qui a peur de la grande méchante AGI ?
Commençons par la grande peur à propos de l'IA - celle qui se cache derrière la fameuse tribune de Future of Life et sa demande de mise en pause de toute la recherche IA : la Grande Méchante AGI.
AGI, pour Artificial General Intelligence, désigne une IA superintelligente capable de comprendre, apprendre et reproduire n'importe quelle tâche intellectuelle humaine et même de l’exécuter mieux que les humains. Une telle intelligence serait capable de se (re)créer elle-même, de se reprogrammer, de s'améliorer et se multiplier. Elle finirait par détruire l'espèce humaine qu'elle considérerait, au mieux, comme inutile.
Je ne vais pas y aller par quatre chemins : au stade où en sont les IA aujourd'hui, cette crainte tient du fantasme. Un expert comme Yann LeCun (responsable de la recherche IA chez Meta) le répète depuis plus d'un an. Et un penseur comme David Deutsch (physicien et pionnier de l'informatique quantique) l'explique par les limites théoriques et pratiques du concept même des IA génératives actuelles qui les empêchent d'être de potentielles AGI:
L'IA n'a rien à voir avec l'AGI. C'est une technologie complètement différente, et c'est à bien des égards l'opposé de l'AGI... Une AGI peut faire n'importe quoi, tandis qu'une IA ne peut faire que la tâche étroite pour laquelle elle est conçue.
- David Deutsch
Mais pour ne pas être trop théorique, je te suggère surtout la lecture des explications de Benoit Raphael dans la newsletter de Flint de la semaine dernière. Il est assez clair sur la nature d’instrument probabiliste de GPT-4 qui est un programme-outil et non une intelligence à part entière. L’IA parle peut être bien - mais il ne suffit pas d’être un beau parleur pour être intelligent.
En bonus, cette newsletter pose assez bien le contexte de la tribune et évoque d’autres motifs possibles et probables derrière cette demande de pause.
Ceci étant dit, il reste d'autres craintes qui sont peut-être plus réalistes face aux IA et qui méritent notre attention.
IA et post-vérité
Pour certains, les IA de génération de texte, d'image, de voix ou de vidéo créent un grave problème de distorsion de la réalité. Gaspard Koenig, par exemple, écrivait il y a quelques jours dans Les Echos une chronique dans laquelle il annonce la "désintégration de la vérité" qu'impliquent ces IA qui nous empêchent de distinguer le vrai du faux.
Si cette question n'est pas dénuée d'intérêt, je me demande en réalité en quoi elle concerne spécifiquement les IA. Le concept de post-vérité, et l'idée que les technologies nous font basculer dans un monde qui ne sait plus faire la différence entre ce qui est vrai et ce qui est fabriqué, sont discutés (et critiqués) depuis longtemps. L'article Wikipedia sur ce sujet est assez complet, et sa longueur démontre la complexité du phénomène.
Je l’avais déjà écrit dans la première édition de Brainy Sunday : l'IA vient interroger notre rapport à la réalité. Mais je ne crois pas que les questions qu’elle pose soient vraiment nouvelles ou uniques.
Penses-tu vraiment, comme semble le faire Gaspard Koenig, qu'avant les images générées par IA, la plupart des gens se posaient réellement la question de l'origine des images et parvenaient à distinguer le vrai du faux ? En réalité, les fake news et les photomontages n'ont pas attendu les IA.
Tu vas me dire que le problème, c'est qu'il est devenu trop facile de créer et partager ces fausses images qui sont maintenant à la portée de tous. Mais je pense que l'illusion, et le danger, est de croire que ce n'était pas encore le cas. Il ne faut pas être expert en Photoshop pour recadrer une photo ou réutiliser une image hors contexte.
Et puis, surtout, ce n'est pas la difficulté technique qui empêchait jusqu'ici la grande majorité des gens de créer et partager de fausses images ou vidéos. La plupart s'en abstenaient et continueront à s'en abstenir parce que leur but n'est pas de fabriquer de fausses preuves ni de mentir. Un conspirationniste ne raconte pas des mensonges qu'il a lui-même inventés - il partage ceux que d'autres, une petite minorité, ont fabriqués volontairement et lui ont présenté comme étant la vérité. Et cette petite minorité n'a pas attendu les IA pour y parvenir.
En réalité, je pense que l'IA agit ici comme un révélateur : elle rend plus visible (et même impossible à ignorer) un phénomène préexistant. Il est effectivement nécessaire de repenser la manière dont nous produisons et consommons l'information. Et étant d'un naturel plutôt optimiste, j'y vois surtout une opportunité de progrès pour l'humanité plutôt qu'une apocalypse de la pensée.
Je te reparlerai certainement plus en détails de ce sujet que je trouve finalement plus passionnant qu'inquiétant.
Interdire ce qui est déjà interdit ?
Un autre danger, qui justifierait pour certains l'interdiction ou du moins la régulation stricte de l'IA, est son utilisation malveillante. Des criminels pourraient en effet s'en servir pour commettre leurs crimes. Arnaqueurs, terroristes ou braqueurs de banques - de nombreuses personnes mal intentionnées pourraient évidemment avoir l'idée de l'utiliser.
Ici, je me demande comment, en pratique, la régulation légale des IA pourrait changer les choses et limiter les risques. Des versions libres et exécutables sur un ordinateur de bureau de modèles de langages similaires à ceux de ChatGPT existent déjà. Des ingénieurs envisagent même qu'il sera possible de les utiliser à l'aide d'un smartphone d'ici la fin de l'année - c'est-à-dire que n'importe qui, avec un peu de volonté et de temps pour se former, peut recréer un ChatGPT utilisable n'importe où.
À moins de réussir à imposer une censure mondiale - que même la Chine n'est pas capable d'imposer à ses citoyens - et de la coupler à un contrôle de la circulation des processeurs plus stricte et efficace que celui actuellement appliqué aux armes à feu, je ne vois pas comment on pourrait empêcher les vrais criminels d'utiliser ces IA.
Sans oublier que cet argument du "les criminels pourraient (et vont) s'en servir pour commettre des crimes" est valide pour n'importe quelle technologie : imprimerie, Internet, cryptographie ou aviation - toutes les inventions ont pu servir (et servent encore) à commettre des crimes. Et 9 fois sur 10, il n'est pas nécessaire d'envisager de nouvelles lois pour que ces usages soient interdits et punissables. Un meurtre reste un meurtre, qu'il soit commis avec un revolver, une corde ou un chandelier. Une fraude reste une fraude, qu'elle soit commise avec l'aide d'un faussaire ou de ChatGPT.
Alors oui, on peut craindre ces usages et on doit y réfléchir pour s'en prémunir au mieux. Mais je ne pense pas qu'il soit nécessaire d'en faire un drame ni de craindre une soudaine et incontrôlable vague de crime. Et il faut bien comprendre que ceux qui enfreignent déjà la loi seront ceux qui pourront le plus facilement ne pas respecter de nouvelles règles sur l’IA.
Pas d’exception pour l’IA
Tu l'auras compris, je suis très sceptique face aux nombreuses demandes en faveur d'une régulation stricte de l'IA générative. Les risques mis en avant ne me semblent pas si importants qu'on voudrait nous le faire croire et ressemblent un peu trop à de mauvais prétextes plutôt qu'à de bonnes raisons.
Pour autant, je ne suis pas pour un total laisser-faire qui ferait de l'IA un domaine à part et intouchable. Je le disais la semaine dernière : il n'y a aucune raison d'envisager un régime d'exception qui permettrait aux développeurs et utilisateurs d'IA de se soustraire aux lois et réglementations en vigueur. Et ce d'autant plus que certaines infractions et certains risques ne sont en réalité pas liés aux IA elles-mêmes.
Les récents déboires d'OpenAI en matière de RGPD et de respect des données personnelles n'ont, par exemple, rien à voir avec GPT-4 ou un autre modèle de langage. Open AI a mal géré et laissé fuiter des données de paiement et des informations personnelles - c’est une faute ni plus ni moins grave de leur part que de celle de n'importe quel e-commerçant. Il est normal que les autorités de contrôle les rappellent à l'ordre, exigent qu'ils se mettent en conformité et appliquent les pénalités prévues s'il y a eu des manquements (ce qui est de toute évidence le cas).
Que tu sois enthousiaste ou inquiet face aux nouvelles capacités des IA, je t'invite donc à regarder ces actualités avec calme et discernement.
Il est important de faire la part des choses entre ce qui est propre à l'IA elle-même et ce qui ne l'est pas vraiment, entre des peurs diffuses et exagérées et d'éventuelles menaces concrètes et identifiables. L'IA n'est pas un problème qu'il faut résoudre - encore moins une menace à éliminer. Mais elle pose des questions auxquelles il faut pouvoir réfléchir sans succomber à la peur.
🛠️ App, outils et autres bons liens
Vectorizer.ai permet de convertir une image en dessin vectoriel (SVG) - Très pratique pour transformer un logo généré avec Midjourney ou Stable Diffusion en image redimensionnable.
Wonder Studio, l’outil qui permet de remplacer un acteur réel par un personnage de synthèse dans une vidéo est sortit en beta. Et j’y ai accès !
Une autre beta que j’attendais, c’est l’IA de Weweb Copilot qui est disponible depuis vendredi.
Playlist Genius : L’assistant IA pour créer ta prochaine playlist.
Unriddle est un assistant d'apprentissage qui permet d’interagir avec les documents et simplifie des sujets complexes.
Un peu technique mais très prometteur : XTuring permet de créer et finetuner son propre LLM à partir de diffèrent modèle comme LLaMA, Bloom ou GPT-J.
Rask te permet de traduire et doubler une vidéo grâce à l’IA.
Transforme ta voix avec l’IA de Koe Recast.
Il n’est plus nécessaire de rejouer sans cesse une vidéo de Jamie Olivier pour noter sa recette complète : video2recipe le fait pour toi !
📰 L’actu en (très) bref
Meta dévoile un outil d'IA pour identifier et séparer les éléments dans les images
Mark Zuckerberg avait annoncé que Meta comptait désormais se concentré sur l’IA.
SAM (le nom de ce nouveau modèle) est un outil générique de reconnaisance d’image capable d’isoler et reconnaitre les diffèrentes objets et élements d’une image.
SAM est générique et peut être utilisé sans formation supplémentaire pour divers domaines, tels que la microscopie cellulaire ou les photos sous-marines.
Meta met à disposition SAM pour la communauté de recherche sous une licence open source.
Bloomberg a développé son IA, BloombergGPT
Il s’agit d’un modèle de langage spécialement formé pour le secteur financier sur un corpus de plus de 700 milliards de tokens (mots), dont 363 milliards issus des données financières exclusives de Bloomberg.
Cette IA aidera Bloomberg à améliorer des tâches telles que l'analyse de sentiment, la reconnaissance d'entités nommées, la classification des actualités et la réponse aux questions.
BloombergGPT peut par exemple traduire des requêtes en langage naturel en Bloomberg Query Language et suggérer des titres pour les articles de presse.
Cette avancée va probablement inspirer d'autres organisations de presse à développer des IA spécifiques à leur domaine.
L’Inde décide de ne pas réguler la croissance de l’IA
Le ministère de l'Électronique et des Technologies de l'information affirme avoir évalué les préoccupations éthiques et les risques de biais et de discrimination liés à l'IA.
Le gouvernement indien met en place des politiques et des infrastructures nécessaires pour développer un secteur solide de l'IA dans le pays, sans législation pour réguler sa croissance.
L'expansion de l'IA aura un "effet cinétique" sur l'entrepreneuriat et le développement des affaires en Inde, selon le ministère.
Google prévoit bien d'intégrer Bard à son moteur de recherche
Sundar Pichai, PDG de Google, affirme que les chatbots ne représentent pas une menace pour le moteur de recherche.
L'intégration de Google Bard pourrait aider l'entreprise à redevenir plus attractive sur le marché.
La monétisation de Google Bard dans le moteur de recherche doit être prise en compte pour compenser la baisse des clics sur les liens publicitaires.
Aucune date n’a cependant été annoncée. Et on attend toujours l’ouverture de Bard en beta en dehors des USA et du Royaume-Uni.
Quelques nouveautés sont sorties sur Midjourney
Une version manga et anime, NijiJourney est disponible en V5.
Une nouvelle commande
/describe
permet d’obtenir 4 prompts à partir d’une image (pour ensuite générer des images similaire). Voici quelques exemples avec des logos de marques.La fonctionnalité de permutation permet de gênerer plusieurs variations de prompts à partir de plusieurs mots entre { } - pratique pour tester l’effets d’un changement de mots ou créer des séries d’images.
C'est tout pour ce dimanche.
Je te souhaite une bonne semaine et te retrouve la semaine prochaine avec, je l'espère, des nouvelles un peu plus positives que toutes ces craintes autour de l'IA.
- Thomas
PS : n'oublie pas d'aller cliquer sur le ❤️ tout en haut de cet e-mail si tu l'as trouvé intéressant…