Vous connaissez cette sensation étrange qui commence à l’arrière du cou. On a l’impression que les poils se dressent légèrement.
La première fois que je l’ai ressentie, c’était au milieu des années 70. J’étais au lycée. J’étais assis devant un télétype ASR-33 et j’ai touché quelque chose, probablement la touche RE-TURN. C’est comme ça que ça s’écrivait. Les touches étaient toutes très petites et rondes, et RE- était en haut et TURN en bas de la touche. J’ai appuyé sur la touche, et ça a indiqué « READY ».
Aucune machine ne m’avait jamais répondu de manière interactive auparavant. J’étais scotché. Bien que je me destinais à l’origine à une carrière d’ingénieur nucléaire, la nature interactive de cette toute première informatique m’a fait changer de cap. Je n’ai plus jamais été le même.
Avance rapide de deux décennies. Nous sommes en 1997 et je joue au jeu Diablo (la première version de ce qui est devenu depuis un classique). C’était un jeu d’exploration de donjon. J’avais joué à de nombreuses variations sur ce thème. J’étais quelque part au fond d’une caverne en train de me faire battre par les monstres. Soudain, un autre combattant s’est approché de moi et m’a offert des potions de soins et des armes plus puissantes.
C’était la toute première fois que je jouais à un jeu en ligne où il y avait une autre personne avec moi. Le fait de voir comment de vraies personnes pouvaient jouer ensemble dans un monde en ligne m’a donné le sentiment d’être dans le coup. Les choses étaient en train de changer. Bien sûr, l’idée que quelqu’un puisse être gentil dans un monde virtuel est difficile à croire dans le monde d’aujourd’hui. Mais cela est bel et bien arrivé.
Puis il y a eu Amazon. Pas le Amazon que nous avons aujourd’hui. Mais celui qui pouvait vous procurer tous les livres que vous vouliez. J’ai grandi en chérissant les librairies. Si j’étais dans une nouvelle ville et qu’il y avait une grande librairie, je devais y aller. Plus tard, je me suis rendu compte que c’était uniquement parce que les livres n’étaient disponibles que dans les bibliothèques et certaines librairies.
Quand Amazon et consorts sont apparus sur Internet, tout à coup, vous pouviez obtenir presque tous les livres que vous vouliez. Et si Amazon ne l’avait pas en stock, il essayait de l’obtenir pour vous. Les choses ont changé, bien sûr. Aujourd’hui, nous pouvons couramment commander à peu près n’importe quoi sur Internet, même de la nourriture, et l’obtenir en quelques heures. Mais au début de l’histoire d’Amazon, j’ai été bluffé.
J’ai également eu ce sentiment il y a quinze ans, l’App Store de l’iPhone. Tout à coup, les non-techniciens pouvaient installer leurs propres logiciels. Et les applications pouvaient être emportées partout. Je me suis empressé de m’acheter un Mac et d’écrire un tas d’applications pour iPhone. Je le sentais. Le monde de la technologie était en train de changer.
Eh bien, j’ai à nouveau cette sensation. En vieillissant, j’ai appris à mieux identifier les composantes de ce sentiment. L’étonnement en fait partie. Voici quelque chose que nous ne pouvions pas faire avant. Ouah. Une autre partie est l’ennui. Voici quelque chose que nous aurions dû être capables de faire, et c’est juste maintenant possible. Pourquoi tant de temps ? Et c’est aussi une question de peur. Cela va provoquer des perturbations, casser des choses, coûter des emplois et peut-être même tuer des entreprises. Oh oh.
A chaque fois, j’ai ressenti une grande perturbation dans la Force.
L’IA générative me bluffe
J’ai beaucoup travaillé sur ChatGPT et d’autres outils d’IA générative. Je m’intéresse à l’IA depuis que j’ai fait une thèse sur le sujet à l’université. Mais si l’IA a toujours été intéressante, elle n’a jamais suscité d’excitation. Mais à présent, je ressens cette excitation, et elle est en surrégime.
A l’époque du boom de l’internet, les investisseurs demandaient toujours si les idées étaient disruptives. Leur conviction était que si quelque chose perturbait le statu quo, il y avait une chance de gagner beaucoup d’argent. Pour les investisseurs, les investissements disruptifs étaient le Saint-Graal. Mais ils ne tenaient pas compte de ce que signifiait « disrupteur ». Disrupteur signifie la destruction (ou du moins des dommages importants) des industries existantes.
Craigslist était disrupteur. A tel point que la principale source de revenus des journaux, les petites annonces, n’est plus que l’ombre d’elle-même. Plus personne ne pense que le secteur de la presse écrite est une opportunité de croissance.
Amazon a été disrupteur, à bien des égards. Son service d’informatique dans le cloud AWS a permis de retirer les serveurs des sites de production. Son énorme réseau de distribution a contribue à faire disparaître les centres commerciaux et les grandes surfaces. Et la livraison gratuite avec Prime a rendu la concurrence beaucoup plus difficile pour tous les autres vendeurs en ligne.
Netflix. Un mot : Blockbuster. On n’en dit pas plus. Uber. Airbnb. Google. Facebook. Spotify (et avant lui, Napster). Toutes ces entreprises sont devenues des mastodontes et ont dansé sur les tombes d’industries plus anciennes et des personnes qu’elles employaient.
Et donc ChatGPT est disrupteur. Brutalement disrupteur. Terriblement disrupteur.
ChatGPT va remplacer beaucoup d’emplois intellectuels
J’ai beaucoup expérimenté avec ChatGPT. Jusqu’à présent, je lui ai demandé d’écrire du code pour moi et de patcher du code. Et dans ces deux cas, il a réussi.
Mais il a aussi clairement montré ses limites. Il semble radoter sur les réponses de plus de 800-1 500 mots. Il perd parfois le fil de la discussion après de multiples questions. Et il peut se tromper de manière spectaculaire. Une limite fondamentale aux capacités de ChatGPT est l’arrêt définitif de ses connaissances. Son corpus se termine en 2021. ChatGPT n’est pas au courant des informations, des tendances, des problèmes ou des thèmes culturels populaires qui se sont produits depuis 2021.
Et malgré cela, ChatGPT est assez bon pour de nombreuses tâches.
Les éditeurs web, qui achètent et mettent en ligne du contenu écrit, sont ici une cible idéale pour ChatGPT. Ils sont prêts à accepter des titres moins accrocheurs s’ils obtiennent plus de jus SEO de Google. Ils acceptent souvent des articles de moindre qualité s’ils génèrent des revenus plus rapidement. Ils accepteront donc des articles de qualité suffisante s’ils les aident à compléter leur offre dans les domaines où ils sont faibles.
Et pourquoi les éditeurs web acceptent-ils souvent des articles tout juste « satisfaisants » ? Parce que les clients humains manquent souvent de discernement. Les lecteurs acceptent des théories manifestement ridicules qui soutiennent une vision du monde qui leur est chère. Ils acceptent des données inventées parce qu’ils n’ont ni le temps ni l’envie de vérifier chaque affirmation. La preuve sociale est devenue le substitut accepté et même préféré de l’expertise.
En bref, ChatGPT est assez bon. Assez bon pour écrire des articles courts, des articles de blog et bien plus encore. Il fait un travail adéquat. Malheureusement, le produit attendu par les employeurs et les clients de la plupart des travailleurs de la connaissance se situe également autour de la limite du convenable. Donc ChatGPT peut être en mesure de remplacer ces personnes ou, à tout le moins, de consolider un ensemble de tâches en les confiant à un seul employé capable de rédiger des invites (prompt, NDLR) et de modifier les résultats de l’IA.
ChatGPT va donner du pouvoir à beaucoup de rédacteurs médiocres
Ne lisez pas cette titraille comme une critique. Pour mettre en perspective, je dois vous raconter deux histoires personnelles.
Au début des années 1990, j’ai créé ma première entreprise, un éditeur de logiciels. Au départ, elle était autofinancée, même si Apple a fini par mettre quelques dollars dedans pour nous donner un peu de marge de manœuvre. Mais à l’époque de l’autofinancement, j’avais besoin de beaucoup d’illustrations originales – pour les logos, les emballages (les logiciels étaient vendus en magasin à l’époque), le marketing (nous utilisions des prospectus imprimés lors des salons professionnels), et bien d’autres choses encore.
Lorsque je me suis mis à la recherche d’un graphiste et que j’ai passé un contrat avec lui, j’ai constaté que le coût était prohibitif. Tout mon budget marketing était absorbé par le coût de la conception d’une seule publicité. J’ai donc décidé que je devais devenir mon propre graphiste. C’est ainsi qu’a commencé une quête de 20 ans pour apprendre les outils et les compétences de la conception graphique.
Aujourd’hui, bon nombre de ces outils – et de ces compétences – sont incarnés dans des services comme Adobe Express, Canva, Prezi et Pixlr, qui fournissent des modèles de conception, des graphiques, des schémas de couleurs assortis, etc. Il n’est plus nécessaire de passer des années à apprendre les compétences d’un graphiste. Au lieu de cela, pour quelques dollars par mois, ils peuvent produire des graphiques suffisamment bons par eux-mêmes.
Regardez comme ces étagères sont régulières. Je n’aurais jamais pu faire ça moi-même.
Un autre exemple est le CNC. C’est un appareil qui coupe et sculpte le bois à partir de plans numériques. Je suis très, très bon pour faire des plans numériques. Mais je suis très, très mauvais pour couper du bois en ligne droite. Récemment, j’ai voulu fabriquer une armoire. Il fallait 25 étagères. Pour cela, il fallait que je découpe 50 fentes exactement identiques dans deux plaques de bois.
Dire que cela dépassait mes compétences en menuiserie est un euphémisme. Mais avec l’aide de la CNC, j’ai conçu les fentes. La CNC les a parfaitement découpées. Des outils comme Adobe Express et le CNC permettent aux utilisateurs expérimentés d’en faire plus, plus rapidement. Mais ils ouvrent également la porte à des personnes qui, autrement, ne pourraient pas produire des résultats « suffisamment bons ».
ChatGPT va faire la même chose. Il aidera peut-être un mécanicien qui n’est pas particulièrement doué pour l’écriture, mais qui a besoin d’un texte publicitaire pour son magasin. Peut-être pourra-t-il aider une personne pour qui le français est une deuxième langue à rédiger un billet de blog ou un article.
Une IA comme ChatGPT pourrait transformer le travail de beaucoup de gens, comme le CNC a transformé ma capacité à créer des étagères qui fonctionnent vraiment.
Et pourtant, je m’inquiète
Les disruptions ne sont pas douces. Si l’internet a ouvert les portes de nouvelles industries, il en a tué d’autres. Le pouvoir et l’argent sont devenus plus concentrés. Si les ressources et la disponibilité des informations ont augmenté dans des proportions sans précédent, il en est allé de même pour la désinformation, les escroqueries et les activités criminelles.
L’un des principaux problèmes de ChatGPT est qu’il présente des informations totalement erronées avec autant d’éloquence que des informations exactes. À moins qu’on ne le lui demande, il ne fournit pas de sources et ne cite pas l’origine de ces informations. Étant donné qu’il rassemble une énorme quantité d’informations, il est souvent impossible de savoir comment il a mentionné ses connaissances et ses affirmations.
Elle se prête donc parfaitement à la corruption et à la manipulation. A un moment donné, les concepteurs d’IA devront ouvrir leurs systèmes à l’Internet au sens large. Et quand ils le feront, oh là là, ça risque d’être un vrai problème.
Aujourd’hui, des industries entières se consacrent à la manipulation des résultats de recherche de Google. Mes clients me demandent souvent de soumettre mes articles à des applications logicielles qui évaluent chaque mot et chaque phrase en fonction de la puissance de Google qu’ils produisent, puis de modifier ce que j’écris pour plaire davantage aux algorithmes de Google.
Pouvez-vous imaginer ce qui se passera lorsque les génies du référencement et des criminels commenceront à alimenter en informations l’internet pour manipuler ce que l’IA générative produit ?
N’oubliez pas que la plupart des lecteurs ne font pas preuve de discernement ou ne qualifient pas les informations qu’ils consomment. Ils se contentent de la comparer à leurs propres croyances et à leur vision du monde, et dévorent ce biais de confirmation comme s’il s’agissait d’un paquet de chips.
Ce qui m’inquiète, c’est que l’IA générative puisse nourrir, entretenir et amplifier deux aspects inquiétants de la nature humaine : le désir de biais de confirmation et de « vérité » sociale, et la volonté paresseuse d’accepter « ce qui est bien » comme bien suffisant. Une qualité médiocre, mélangée à de faux faits, et présentée avec autorité et assurance a déjà produit des résultats effrayants. Je crains qu’avec la puissance et la praticité de l’IA générative, ce niveau de discours corrompu et déformé ne soit amplifié au-delà de toute raison.
L’IA générative vous inquiète-t-elle ? L’avez-vous essayée ? Y voyez-vous un potentiel effrayant ou des avantages valorisants ?
Source : ZDNet.com
Cliquez ici pour lire l’article depuis sa source.