Les forces et les faiblesses de GPT en rédaction
Poursuivre vers
Les forces et les faiblesses de GPT en rédaction
Autant j’ai du mal avec mes collègues qui pensent que GPT est « désincarné » ou « incapable de transmettre une émotion », autant je suis parfois découragée devant la position inverse : les gens qui pensent que l’IA peut tout faire et qu’elle est véritablement « intelligente ».
Beaucoup ont l’anthropomorphisme facile, et je pense que le terme « intelligence artificielle » n’aide pas. 😅
Au fait, j’écris ce chapitre confortablement installée dans un café, et les deux amies bien humaines qui m’accompagnent me signalent que tout le monde ne sait peut-être pas ce que signifie « anthropomorphisme ».
Et si on demandait à ChatGPT?
Prompt : Explique-moi ce qu’est l’anthropomorphisme.
Chat GTP : L’anthropomorphisme est le phénomène consistant à attribuer des caractéristiques ou des comportements humains à des objets, des animaux, des plantes, des phénomènes naturels ou des entités abstraites. Ce terme provient du grec ancien « anthropos » qui signifie « être humain » et « morphé » qui signifie « forme ».
L’anthropomorphisme est fréquemment utilisé dans la littérature, les films, les dessins animés et d’autres formes d’art pour donner vie à des personnages non humains. Par exemple, les animaux qui parlent et agissent comme des humains dans les contes pour enfants ou les films d’animation sont des exemples d’anthropomorphisme.
Ce concept peut également se manifester dans la façon dont les gens interagissent avec leurs animaux de compagnie, leurs objets personnels ou même dans la façon dont ils perçoivent des phénomènes naturels comme des orages ou des tremblements de terre.
L’anthropomorphisme est étroitement lié à la psychologie humaine, car il reflète notre tendance à chercher des modèles familiers et à comprendre le monde qui nous entoure en nous appuyant sur nos propres expériences et caractéristiques humaines.
Trop de gens pensent que les modèles de langage larges possèdent une intelligence analogue à celle d’un être humain, alors que ce n’est pas le cas du tout. (En tout cas pas encore, mais c’est un tout autre débat!)
Oui, les intelligences artificielles qui génèrent du texte sont sophistiquées.
Oui, leurs capacités sont étonnantes.
Mais non, elles ne sont pas intelligentes comme toi et moi nous le sommes.
Pour simplifier au maximum, GPT fonctionne en analysant des séquences de mots et en prédisant les mots suivants en fonction du contexte. Un peu comme un modèle statistique ultra puissant qui fait des prédictions.
Connaître les forces et les faiblesses de GPT est essentiel pour l’utiliser intelligemment dans ton travail.
Faiblesse n°1 : L’absence d’intention
Lorsqu’il écrit, GPT le fait un mot à la fois. Il a une compréhension plutôt limitée de la structure globale du texte et surtout, contrairement à toi et moi, il n’a pas d’intention réelle.
Il fait ce pourquoi il a été programmé — des prédictions— mais il ne comprend pas pourquoi il est en train de le faire.
Quand tu écris un texte, je suis certaine que tu n’écris pas mot à mot, sans jamais revenir en arrière. Tu t’arrêtes, tu réfléchis, tu te relis.
Parfois, en cours de route, tu t’aperçois qu’une meilleure idée mériterait de se retrouver au début du texte… et tu réécris complètement ton introduction.
D’autres fois, tu réalises au beau milieu de ton processus d’écriture qu’un argument que tu croyais solide ne tient pas la route… et tu reviens en arrière.
Ce back and forth, cette capacité à enrichir ta réflexion tout au long de l’écriture, à raffiner tes idées et à changer d’avis, sans jamais perdre de vue ton intention, te permet de rédiger des textes longs qui demeurent cohérents du début à la fin (et même agréables à lire, si tu es doué·e).
GPT, lui, a du mal à rester cohérent sur plusieurs paragraphes.
Plus un contenu s’étire, plus il est plus probable que l’IA perde le fil de l’argumentation ou du contexte initial. Plus un texte s’allonge, moins GPT est convaincant.
Pas seulement parce qu’il n’a pas la capacité de « voir » assez loin, mais parce qu’il ne réfléchit pas comme un humain. Même les modèles les plus puissants — qui peuvent traiter des textes de plusieurs dizaines de milliers de mots — souffrent de leur absence d’intention.
C’est pour ça que les promptogénistes avertis conseillent souvent de scinder les contenus longs en sections plus courtes et de guider explicitement le modèle en précisant des questions, des thèmes ou des arguments précis pour chaque passage.
Ils mettent GPT au service de leur intention bien humaine.
Faiblesse n°2 : Les hallucinations
Tu écris des contenus éducatifs ou factuels?
Tu devras faire preuve de vigilance, parce que les hallucinations sont un problème fréquent avec les modèles de langage large comme GPT.
Hallucination (IA)
On parle d’hallucination quand le modèle génère des réponses qui n’ont pas de sens, sont incorrectes ou ne correspondent pas à la réalité.
Non seulement GPT peut inventer des faussetés, mais il le fait avec une assurance et un certain panache qui donnent à ses propos une apparence de véracité.
Par exemple, il n’y a pas si longtemps, quand tu demandais à ChatGPT de citer des études sur un sujet donné, il n’avait aucun mal à s’exécuter… sauf qu’il inventait des articles scientifiques qui n’existaient pas réellement. (Oups!)
Il a d’ailleurs inventé plusieurs fausses jurisprudences, ce qui a mis un avocat un peu naïf dans l’embarras.
Le modèle peut aussi carrément inventer des théories scientifiques.
L’équipe derrière ChatGPT essaie tant bien que mal de réduire les occurrences d’hallucinations, mais Twitter, Reddit et le serveur Discord d’OpenAi regorgent d’explications faussement scientifiques signées par le modèle.
Il s’est exprimé avec confiance sur des choses aussi ridicules que les gènes et le cycle reproductif des étoiles ou le « skydiving baseball », qu’il a longuement défendu à une utilisatrice comme étant un véritable sport.
Beaucoup de gens pensent que GPT fonctionne comme un moteur de recherche, mais les modèles de langage larges ne puisent pas leurs réponses dans une base de données! GPT et les autres modèles similaires sont entraînés pour apprendre à prédire et à générer des séquences de mots.
C’est ce qui leur permet de « sonner » aussi humains, aussi crédibles.
Toutefois, ces modèles n’ont pas la capacité de vérifier la véracité ou la pertinence des informations en temps réel. Et ils ne s’abreuvent pas à une base de données comme le ferait un moteur de recherche.
Ils suivent les schémas linguistiques qu’ils ont appris sans véritablement tenir compte du contexte ou des implications de leurs réponses.
On ne peut même pas dire qu’ils sont menteurs ; ils sont simplement indifférents à ce qui est « vrai ». Le concept de la vérité n’a aucune signification pour eux.
Faiblesse n°3 : La perpétuation de biais
Les modèles de langage larges sont, bien sûr, dépendants des données avec lesquelles ils ont été entraînés.
En tant que fière féministe et fan d’économie comportementale, je ne suis pas surprise que les modèles comme GPT — qui ont « appris » en lisant des pans entiers de l’internet — fassent écho à nos biais et préjugés bien humains.
Tiens, et si on demandait à GPT de nous expliquer ce qu’est l’économie comportementale?
Prompt : Explique simplement ce qu’est l’économie comportementale.
Chat GTP : L’économie comportementale est une branche de l’économie qui étudie comment les individus prennent des décisions et se comportent dans des situations économiques. Elle combine les connaissances de l’économie traditionnelle et de la psychologie pour comprendre pourquoi les gens agissent d’une certaine manière lorsqu’ils prennent des décisions financières ou économiques.
Contrairement à l’économie classique, qui suppose que les individus sont toujours rationnels et cherchent à maximiser leur utilité, l’économie comportementale reconnaît que les gens sont influencés par des biais cognitifs, des émotions et d’autres facteurs psychologiques qui les rendent parfois irrationnels.
Ces biais peuvent conduire à des décisions économiques qui ne sont pas optimales, et l’économie comportementale cherche à identifier et à comprendre ces biais pour améliorer les résultats économiques et informer les politiques publiques.
Bref, les êtres humains sont plein de biais.
Et tous les biais qui sont présents dans nos sociétés humaines se retrouvent aussi dans les modèles de langage larges : biais genrés ou sexuels, raciaux, ethniques, culturels, politiques et plus encore.
Par exemple, l’IA associe, comme nous, certains métiers à un genre plutôt qu’à un autre. Elle peut aussi favoriser l’hétéronormativité ou perpétuer le discours politique populaire.
En science, l’IA va naturellement favoriser les théories plus répandues, ou qui sont déjà largement acceptées, aux dépens des théories émergentes qui sont moins représentées dans ses données d’apprentissage.
Tu demandes à GPT de t’aider avec ta stratégie marketing? Les idées qu’il va te donner seront les plus répandues, pas nécessairement les plus pertinentes ou les plus originales.
La promptogénie permet, en partie, de contourner ou prévenir les biais présents dans les modèles de langage larges.
Encore faut-il que les utilisatrice·teurs soient conscient·es du problème!
Force n°1 : La polyvalence
Une des grandes forces de GPT découle de la vaste quantité de données textuelles utilisées pour l’entraîner. Les données utilisées pour entraîner GPT-3 représentaient plus de 300 milliards de mots ; c’est gargantuesque!
(Pour GPT-4, on ne le sait même pas. OpenAI sont restés discrets.)
À cause de cette vastitude, GPT est capable de traiter des tâches variées :
- Rédiger des articles, des pages de vente, des publications pour les réseaux sociaux, des courriels, etc. ;
- Améliorer un CV ;
- Répondre aux questions qu’on lui pose ;
- Composer un haïku traditionnel ;
- Traduire un site web entier en quelques minutes ;
- Résoudre une équation mathématique ;
- Et tellement plus encore.
C’est un généraliste polyvalent.
Le modèle est aussi capable de parler de toutes sortes de sujets différents et de le faire dans plusieurs formats (texte suivi, dialogue, tableau, etc.).
Et comme l’internet rassemble des humains de toutes sortes, GPT peut aussi adopter des styles rédactionnels radicalement différents.
Il sait même faire la différence entre le français typiquement québécois et le français de France.
Force n°2 : La rapidité
Force incontestable des intelligences artificielles : elles sont beaucoup plus rapides que les humains.
GPT est infatigable.
En quelques secondes, il peut rédiger un texte qui demanderait quelques heures de travail à un être humain.
Il n’a jamais besoin de prendre une pause, et si tu es insatisfait·e du résultat, tu peux lui demander de recommencer autant de fois que tu le souhaites ; il va s’exécuter sans rechigner.
Récemment, une amie qui est propriétaire d’une boutique en ligne me confiait avoir délégué à GPT la rédaction de plus d’une centaine de fiches de produits. Même si les textes ont dû être révisés par des humains par la suite, elle a économisé littéralement des heures de travail (et des milliers de dollars).
Dans tous les domaines de la rédaction, des êtres humains utilisent GPT pour générer un premier jet en quelques secondes, qu’ils éditent ensuite à leur goût.
Quand tu dois livrer un texte dans un délai serré, l’attrait de la rapidité n’est pas à négliger.
Force n°3 : La créativité
Parce qu’il se base sur des données d’entraînement, on pourrait penser que GPT est incapable de créer quelque chose de véritablement nouveau… mais c’est plus compliqué que ça.
Un peu plus tôt, je te parlais des « hallucinations » des modèles de langage larges.
Autant ces hallucinations sont vues comme des erreurs dans un contexte où on cherche à créer du contenu véridique, autant elles sont un effet secondaire d’une des facultés les plus intéressantes de GPT : sa créativité. 👀
C’est vrai, GPT n’est pas un moteur de recherche! Mais c’est justement son fonctionnement différent qui lui permet de générer des idées nouvelles.
Si tu es surpris·e qu’un engin informatique soit capable de générer des idées créatives, tu n’as peut-être pas lu le classique Steal Like an Artist d’Austin Kleon.
Tiens, je vais demander à GPT de t’expliquer l’idée derrière le livre!
Prompt : Explique la prémisse du livre « Steal Like an Artist » d’Austin Kleon à quelqu’un qui ne l’a jamais lu.
Chat GTP : « Steal Like an Artist » est un livre écrit par Austin Kleon qui encourage les artistes et les créateurs à embrasser l’influence et à reconnaître que l’originalité n’existe pas en soi. La prémisse du livre repose sur l’idée que toute création est le résultat d’un mélange d’influences et d’inspirations antérieures.
Kleon soutient que le vol artistique n’est pas une question de plagiat, mais plutôt d’apprendre à partir des œuvres des autres et de les incorporer dans son propre processus créatif. Cela inclut l’observation des idées, des styles et des techniques qui nous inspirent et les adapter pour créer quelque chose de nouveau et de personnel.
Oui, c’est vrai, l’IA part de ce qu’elle a « appris » pour créer… mais dis-toi que les humains aussi puisent dans leurs inspirations, leurs apprentissages et leurs expériences pour y arriver.
Attention, je ne suis pas en train de te dire que l’IA « crée » de la même manière qu’un être humain!
Toutefois, je pense qu’il ne faut pas sous-estimer sa capacité à fusionner des concepts et des idées de manière inattendue (et savoureuse).
J’utilise l’IA presque tous les jours pour :
- Réfléchir à de nouveaux concepts ;
- Approfondir ou développer un concept préexistant ;
- Rafraîchir des vieilles idées ;
- Développer un argument ;
- Et plus encore!
C’est ma façon préférée d’utiliser l’intelligence artificielle. Et encore une fois, c’est une utilisation qui bénéficie énormément de la promptogénie! 🥰
Poursuivre vers
Comment citer ce guide
Alors comme ça tu parles de mon guide dans ton contenu? Génial!
Voici comment tu peux le citer :
En incluant un lien dans le texte vers https://lesmotspourvendre.com/ia
Ou en respectant les normes de citation habituelles pour les sites web.
Par exemple, style Harvard :
Martel, A. (2023) La promptogénie avec ChatGPT : Guide de survie à l’intelligence artificielle pour les rédacteur·trices humain·es. Disponible sur : https://lesmotspourvendre.com/ia (Consulté le : 1er juin 2023).
Tu as cité mon guide et tu penses que ton contenu pourrait intéresser mes lectrice·trices? Remplis ce formulaire et j’ajouterai peut-être ton texte dans mon annexe « Pour continuer d’apprendre sur l’IA ».
Tu ne veux pas manquer mes prochains contenus sur l'IA? Abonne-toi à mon infolettre!
© 2023 Les Mots pour Vendre – Tous droits réservés. Site Web réalisé par Julie Brouillette