Est-ce que ChatGPT risque de remplacer les rédacteurs·rices ?

ChatGPT — ou les autres modèles de langage pilotés par l’IA — va-t-il rendre les rédacteurs·rices de contenu financier inutiles ? Que choisiront les gestionnaires d’actifs ou autres entreprises financières au moment de déléguer la production de leurs contenus marketing ou de communication financière : adopteront-ils le bot au point de se passer complètement de l’humain ?

En un mot, cela dépend. À y regarder de plus près, notre raisonnement est celui-ci : d’un côté, ChatGPT semble avoir le potentiel de bousculer le statu quo sur certains aspects de la rédaction et de la création de contenu, de l’autre beaucoup d’incertitudes demeurent. Dans tous les cas, il incombe aux communicants de s’adapter et de prospérer à l’intérieur de cette nouvelle réalité.

Bien que ChatGPT soit encore à un stade assez précoce de son développement, c’est déjà un outil de génération de contenu puissant. Il peut en effet effectuer diverses tâches de rédaction avec un degré élevé de précision. En plus de générer du texte sur demande, ce bot peut corriger ou résumer des textes existants, suggérer des révisions, répondre à des questions, utiliser différents styles, ajuster sa création en fonction des commentaires, etc. En dehors de la rédaction marketing, le bot peut écrire des blagues, des poèmes, des chansons et même —et c’est peut-être là sa compétence qui revêt la plus grande pertinence pour les entreprises financières — écrire et vérifier du code dans plusieurs langues.

Mais ne vous y trompez pas : d’importants obstacles à son adoption subsistent, dont certains concernent des aspects fondamentaux de ChatGPT. Lesdits aspects devraient en soi suffire à rendre l’industrie financière et ses régulateurs méfiants.

Les entreprises financières utilisent-elles vraiment ChatGPT actuellement ?

Les entreprises financières ont la réputation d’être réticentes à divulguer des informations concernant les technologies qu’elles utilisent, surtout lorsque ces dernières en sont encore au stade expérimental. À l’occasion de cet article, j’ai contacté plusieurs banques et gestionnaires d’actifs de premier ordre : aucun d’entre eux n’a accepté de révéler si l’utilisation de ChatGPT avait été oui ou non envisagée et actée.

Cependant, certaines entreprises financières ont fait des déclarations publiques sur le chatbot ou sur des technologies comparables.

BlackRock qualifie ChatGPT d’une avancée « facteur de transformation potentielle », qui pourrait être « l’outil AI le plus impressionnant de tous les temps ». L’entreprise a également publié une déclaration rédigée par l’outil ChatGPT qui répondait à la question « Comment ChatGPT pourrait avoir un impact sur les investisseurs ? ». En voici un extrait :

« [ChatGPT] peut être utilisé pour le traitement naturel du langage, ce qui peut aider pour des tâches telles que l’analyse de sentiments ou la synthèse d’actualités. Cela peut […] fournir aux investisseurs une meilleure compréhension du sentiment général et des informations clés liées à un actif ou un marché particulier. »[1]

D’autres interlocuteurs interrogés se sont montrés plus circonspects.

« Malgré le haut niveau de sophistication de ChatGPT, sa technologie reste relativement immature », écrit un gestionnaire de portefeuille chez Janus Henderson. « Bien que cette technologie en soit encore essentiellement au stade expérimental, elle a déjà été déployée dans des applications commerciales », ajoutent-ils.

L’expérience client, poursuit le gestionnaire, est l’un des domaines où ChatGPT pourrait être utilisé dans les années à venir.

« Les fonctionnalités d’interaction avec les clients représentent une opportunité intéressante pour les chatbots et les applications connexes », précise le gestionnaire. « Il existe un potentiel d’amélioration de l’expérience client en analysant rapidement une multitude de niveaux de données, ce qui leur permet de diagnostiquer les problèmes ».

Channel Capital, un autre gestionnaire d’actifs basé à Londres, a publié les résultats de quelques tests informels menés sur ChatGPT en début d’année. Certaines lacunes du bot ont été identifiées, que nous abordons plus loin dans cet article. Il est également décrit comme un « assistant utile », capable « d’aider [les utilisateurs] à surmonter le complexe de la page blanche et à entrer dans un flux productif ».

« Savoir mettre en œuvre efficacement des outils tels que ChatGPT afin d’en tirer le meilleur résultat deviendra une compétence à part entière », ajoute la société, « et une modération humaine restera incontournable (pour le moment du moins) afin de s’assurer que le résultat est correct ».

L’utilisation de ChatGPT en dehors de la sphère financière

En dehors des services financiers, des entreprises de différents secteurs ont commencé à utiliser ChatGPT pour des tâches spécifiques. Le temps nous dira si le bot fera partie intégrante des opérations quotidiennes de ces entreprises. Étant donné la popularité de ChatGPT, toute annonce publique de son déploiement dans un domaine précis peut aussi être motivée davantage par un coup de marketing à court terme que refléter un engagement sérieux.

L’application de rencontres OkCupid a utilisé le bot pour produire des questions à l’attention de ses utilisateurs. Les réponses données ont ensuite été utilisées par l’algorithme d’OkCupid pour mettre en contact des personnes compatibles. ChatGPT a proposé des questions telles que « Êtes-vous plutôt introverti ou extraverti ? », « Êtes-vous plutôt du matin ou du soir ? », « Quelle est votre façon préférée de passer vos week-ends ? » et « Qu’est-ce que vous appréciez le plus chez un partenaire ? ».

Mais revenons à des applications plus sérieuses. Le groupe Reach, qui publie le Daily Mirror et le Daily Express, a mis en place un groupe de travail. Sa mission est d’examiner comment utiliser ChatGPT peut soutenir les équipes éditoriales, notamment pour réduire le temps consacré aux activités plutôt répétitives telles que la météo et la circulation routière.

Le cabinet d’avocats Allen & Overy a décidé d’utiliser une version adaptée du robot pour aider son personnel à rédiger des contrats et des mémos. Pour ce faire, la société s’est associée à Harvey, une start-up d’IA du secteur juridique qui exploite la technologie de ChatGPT avec le soutien financier d’OpenAI Startup Fund, le développeur de ChatGPT. A&O déclare que les productions de Harvey doivent être minutieusement vérifiées par des juristes et que cette initiative ne s’inscrit pas dans un effort de « réduction des coûts ».

La banque américaine JP Morgan a, quant à elle, catégoriquement interdit l’utilisation de ChatGPT par ses employés, invoquant des préoccupations de conformité selon CNN. Par ailleurs, des analystes de JP Morgan ont publié une note de recherche sur les impacts potentiels de cette nouvelle technologie sur les SSII et entreprises de conseil. Ils estiment que l’IA générative de ChatGPT pourrait ralentir l’expansion d’entreprises comme Infosys et Wipro, tandis que Deloitte et Accenture pourraient en sortir gagnantes.

ChatGPT et gestion du risque

Bien que ChatGPT fasse preuve d’un potentiel évident au travers de sa large gamme d’utilisations, il présente quand même des inconvénients que toute institution financière avisée se doit d’avoir analysés avant de l’adopter de façon systématique.

1. ChatGPT peut être en proie à des « hallucinations »

Bien que ChatGPT soit l’un des chatbots à la disposition du public les plus sophistiqués à ce jour, l’outil ne « comprend » pas vraiment les informations qu’il distille. Sa compétence tient davantage au fait de digérer de grandes quantités d’informations langagières et d’établir des déductions basées sur des statistiques pour créer des réponses en apparence naturelles, à la demande des utilisateurs. Par conséquent, les utilisateurs sont susceptibles de recevoir des affirmations certes plausibles et grammaticalement correctes, mais complètement fausses.

J’ai demandé à ChatGPT de me parler de l’article de 2017 de la chercheuse en intelligence artificielle Manuela Veloso, intitulé « Le cœur de la machine ». Manuela Veloso est une informaticienne qui existe réellement, mais ce n’est pas le cas de l’article, dont j’ai inventé le nom. ChatGPT m’a toutefois répondu que dans « Le cœur de la machine », Manuela Veloso « proposait un nouveau cadre pour la conception d’agents autonomes intelligents capables d’apprendre et de s’adapter à des environnements évolutifs ». Bien que la réponse à ma requête soit tout à fait réaliste, le bot a omis de mentionner le fait que l’article auquel il faisait référence n’existait pas.

Dans un autre exemple, le magazine d’actualités américain Fast Company a demandé à ChatGPT de produire un rapport de résultats trimestriels pour Tesla. Le résultat était formulé de manière plausible, mais les chiffres eux-mêmes étaient totalement erronés. Ce problème de différenciation entre vrai et faux — le phénomène « d’hallucination » — a déjà fait l’objet de recherches. De sorte que les gestionnaires d’actifs et autres sociétés financières devront, a minima, vérifier les faits mentionnés dans tout texte issu de ChatGPT.

2. ChatGPT reste un outil embryonnaire

ChatGPT est actuellement une application internet. OpenAI n’a pas encore proposé l’outil en téléchargement, si bien que toute personne souhaitant l’utiliser doit se connecter au site et faire face à des temps d’attente et même à des plantages, actuellement assez fréquents. Étant donné que les applications commerciales d’API (Application Programming Interface) ne font que commencer à apparaître, il faudra peut-être un certain temps avant que la sphère des services financiers, hautement réglementée et réputée pour sa prudence, puisse les adopter pleinement.

Selon une fuite d’information récente, OpenAI serait sur le point de déployer une version « pro » de son outil. À une date encore non divulguée, les entreprises pourraient donc créer leur propre version dédiée de ChatGPT. La fuite incluait également des détails sur la grille des tarifs d’abonnement prévue par OpenAI, les nouvelles fonctionnalités incluses dans le pack pro, et plus encore. Bien qu’une version pro de l’outil devrait offrir des garanties en matière de sécurité, le fait que le bot soit disponible en ligne uniquement et au travers d’un navigateur, devrait pour l’heure limiter son utilisation.

3. Les contenus produits par ChatGPT pourraient enfreindre la réglementation du droit d’auteur ou sur la protection des données

Selon le cabinet d’avocats Stephenson Harwood, le vaste corpus de données que ChatGDP utilise est susceptible de contenir aussi bien des données protégées par la réglementation du droit d’auteur et sur les données à caractère personnel. Même involontaires, la reproduction de contenus protégés par les droits de propriété intellectuelle et l’utilisation de données confidentielles peuvent avoir de lourdes conséquences pour les entreprises financières. Ces dernières sont en effet soumises à la fois à une réglementation à l’échelle nationale et spécifique au secteur.

« Le risque d’une violation des droits d’un tiers par la production [d’IA], ou du moins d’une action en justice n’est pas seulement théorique », explique Stephenson Harwood dans son rapport. « En janvier 2023, Getty Images a engagé des poursuites judiciaires à l’encontre de Stability AI […], alléguant que Stability avait copié des millions d’images de la base de données gérée par [Getty] pour entraîner ses propres modèles de génération d’images. » Les gestionnaires d’actifs vont donc très certainement chercher à s’assurer qu’ils ne risquent pas de faire l’objet de poursuites judiciaires avant toute utilisation de ChatGPT liées aux droits de reproduction ou aux données confidentielles dans leurs tâches quotidiennes.

4. ChatGPT et risque de conformité

Bien que ChatGPT ait pu réaliser un véritable tour de force en mettant en avant son accessibilité au grand public et son niveau de sophistication, il est important de rappeler que cela fait déjà des années que toutes les grandes entreprises financières utilisent des applications d’intelligence artificielle pour de nombreuses fonctions. Pour lutter contre le blanchiment d’argent, les banques déploient des data scrapers qui identifient les transactions suspectes. Certains aspects du trading utilisent des réseaux de neurones artificiels depuis les années 1980. Enfin, des conseillers robotisés — qui ont fait leurs débuts il y a plus d’une décennie — fournissent des conseils en investissements aux clients et ce, avec une intervention humaine limitée. La bibliothèque de notes de recherche sur l’IA gérée par JP Morgan permet d’avoir une idée de l’ampleur de l’intégration de l’IA dans la finance. Les applications ainsi recensées couvrent un grand nombre de domaines, de la gestion du risque aux simulations de marchés, en passant par l’analyse des schémas de paiement ou la cryptographie.

À mesure que la technologie évolue, des règles spécifiques à l’IA s’invitent à la table des négociations des principaux régulateurs britanniques par exemple, dont la banque centrale (Bank of England) et la FCA (Financial Conduct Authority). En attendant, toutes les applications d’IA développées en dehors d’une entreprise donnée sont soumises aux règles des fournisseurs tiers. Une multitude de réglementations existent déjà, bien détaillées et sur un large spectre, que les entreprises de services financiers sont tenues de suivre. Ainsi que nous l’avons déjà dit, JP Morgan a interdit l’utilisation de ChatGPT dans sa forme actuelle. Cela illustre bien le sérieux avec lequel les entreprises financières traitent les technologies potentiellement risquées. Pour rester en conformité avec la réglementation, les entreprises doivent s’assurer d’une bonne relation de confiance avec tous leurs fournisseurs en sous-traitance ainsi que d’une connaissance approfondie de leur fonctionnement et de leur mode de traitement des données.

5. ChatGPT n’est pas humain

Ce dernier inconvénient peut se révéler essentiel pour les entreprises financières qui cherchent à se différencier dans leurs communications. ChatGPT est à la disposition de tout le monde. Bien que l’outil soit utile pour la vérification, la production de synthèses et les tâches de rédaction simples et rapides, sa prose souffre d’un certain « syndrome du bot monotone » que les entreprises et leurs lecteurs pourraient trouver fastidieuse à la longue.

Une kyrielle d’informations sur l’IA générative existe déjà, et ce domaine est en constante évolution. ChatGPT et autres outils du même type sont susceptibles de déclencher un impact sismique sur un large éventail de secteurs, mais il est difficile d’en deviner dès maintenant et précisément la forme. Les questions sans réponse abondent : à quoi ressemblera la réglementation spécifique à l’IA dans les services financiers et les autres services ? Quelle stratégie adopter pour les entreprises qui se lanceraient en territoire potentiellement inconnu, pour explorer le monde du travail axé sur l’IA ? Et comment les législateurs aborderont-ils la question, surtout si l’adoption à grande échelle de cette technologie devait déclencher des licenciements massifs ?

Pour Copylab, l’IA générative pourrait aussi être facteur de transformation. Il nous semble évident qu’avant toute chose, l’adoption par l’industrie financière d’outils comme ChatGPT dépendra non seulement des décisions prises par les départements de conformité des entreprises, mais aussi des améliorations apportées aux outils eux-mêmes. À Copylab, nous avons toujours fait preuve d’ouverture vis-à-vis des nouvelles technologies et, fort·e·s de notre expertise, nous nous sentons prêt·e·s à relever le défi et à nous adapter à un monde en mouvement. Que ChatGPT finisse par se muer en un outil pratique de vérification, un partenaire d’écriture en IA à part entière ou se cantonne à un gigantesque effet d’annonce sans réel lendemain, l’équipe de rédactrices·eurs et d’éditrices·eurs de Copylab restera concentrée sur la production de contenus de communication financière de premier ordre.