Faites-vous confiance à l’intelligence artificielle pour rédiger des actualités ? C’est le cas, et ce n’est pas sans problèmes

Les entreprises utilisent de plus en plus l’intelligence artificielle (IA) pour créer du contenu médiatique, notamment des actualités, afin d’engager leurs shoppers. Aujourd’hui, nous voyons également l’IA être utilisée pour « gamifier » l’actualité, c’est-à-dire créer un engagement lié au contenu de l’actualité.

Pour le meilleur ou pour le pire, l’intelligence artificielle exchange los angeles nature des médias d’knowledge. Nous devons faire preuve de sagesse si nous voulons protéger l’intégrité de cette establishment.

Remark est-elle morte?

Imaginez lire un article tragique sur los angeles mort d’un jeune entraîneur sportif dans une prestigieuse école de Sydney.

Dans l’encadré de droite se trouve un sondage vous demandant de spéculer sur los angeles reason du décès. L’enquête a été générée par l’intelligence artificielle. Il est conçu pour vous maintenir engagé dans l’histoire, automobile cela vous rendra plus vulnerable de répondre aux publicités présentées par l’opérateur de l’enquête.

Ce scénario n’est pas hypothétique. Il a été joué dans GardienRapports récents sur los angeles mort de Lily James.

Conformément au contrat de licence, Microsoft a republié GardienTale sur son software d’actualités et son web page Internet Microsoft Get started. L’enquête a été menée sur los angeles base du contenu de l’article et affichée à côté de celui-ci, mais Gardien Il n’avait aucune interférence ni aucun contrôle sur cela.

Si l’article concernait un fit sportif à venir, un sondage sur son résultat possible serait inoffensif. Cependant, cet exemple montre à quel level cela peut être difficile lorsque l’IA begin à se fondre dans les pages d’actualités, un produit traditionnellement organisé par des mavens.

L’incident a suscité une colère raisonnable. Dans une lettre adressée au patron de Microsoft, Brad Smith, los angeles PDG du Mother or father Media Crew, Anna Batson, a déclaré qu’il s’agissait d’une « utilisation inappropriée de los angeles genAI (intelligence artificielle générative) », qui avait causé « un préjudice vital à los angeles réputation » de l’entreprise. Gardien Et le journaliste qui a écrit l’histoire.

Naturellement, l’enquête a été supprimée. Mais cela soulève los angeles query : pourquoi Microsoft a-t-il permis que cela se produise en premier lieu ?

En ignorant le bon sens

L. a. première partie de los angeles réponse est que les produits d’knowledge complémentaires, tels que les sondages et les quiz, engagent réellement les lecteurs, selon une étude menée par le Heart for Media Engagement de l’Université du Texas.

Étant donné le coût de l’utilisation de l’IA à cette fin, les sociétés de presse (et celles qui diffusent les actualités d’autres personnes) continueront probablement à le faire.

L. a. deuxième partie de los angeles réponse est qu’il n’y a european aucun « humain dans los angeles boucle » ou une implication humaine limitée dans l’incident de Microsoft.

Les principaux fournisseurs de grands modèles de langage – les modèles qui alimentent divers programmes d’IA – sont incités financièrement et en termes de réputation à garantir que leurs programmes ne nuisent pas. Open AI avec ses modèles GPT et DAll-E, Google avec PaLM 2 (utilisé chez Bard) et Meta avec son Llama 2 téléchargeable ont fait de grands efforts pour garantir que leurs modèles ne génèrent pas de contenu malveillant.

Ils y parviennent souvent par le biais d’un processus appelé « apprentissage par renforcement », dans lequel les humains sélectionnent des réponses à des questions susceptibles de nuire. Mais cela n’empêche pas toujours les modèles de produire des contenus inappropriés.

Il est imaginable que Microsoft s’appuie sur les sides peu nocifs de son IA, plutôt que de réfléchir à los angeles manière de minimiser les dommages qui pourraient survenir lors de l’utilisation réelle du modèle. Cette dernière nécessite du bon sens, un trait qui ne peut pas être programmé dans de grands modèles linguistiques.

Des milliers d’articles générés par l’IA chaque semaine

L’IA générative devient disponible et abordable. Cela le rend attrayant pour les sociétés d’knowledge commerciale, qui souffrent de pertes de revenus. Ainsi, nous voyons désormais l’IA « écrire » des reportages, évitant ainsi aux entreprises d’avoir à payer des journalistes.

En juin, Michael Miller, PDG de Information Corp, a révélé que los angeles société disposait d’une petite équipe produisant environ 3 000 articles par semaine en utilisant l’intelligence artificielle.

Essentiellement, l’équipe de quatre personnes s’guarantee que le contenu a du sens et n’implique pas d’« hallucinations » : de fausses informations fabriquées par un modèle lorsqu’il ne peut pas prédire los angeles réponse appropriée à une entrée.

Bien que ces informations soient probablement exactes, les mêmes outils peuvent être utilisés pour créer un contenu potentiellement trompeur présenté comme une actualité et presque inconceivable à distinguer des articles rédigés par des journalistes professionnels.

Depuis avril, une enquête de NewsGuard a découvert des centaines de websites Internet, rédigés en plusieurs langues, qui étaient en grande partie ou entièrement générés par l’intelligence artificielle pour imiter de vrais websites d’knowledge. Certaines de ces informations comprenaient des informations erronées préjudiciables, comme l’confirmation selon laquelle le président américain Joe Biden est décédé.

On pense que les websites remplis de publicités ont probablement été créés pour obtenir des revenus publicitaires.

À mesure que los angeles technologie progresse, les risques augmentent également

En général, de nombreux grands modèles de langage ont été limités par leurs données de formation sous-jacentes. Par exemple, les modèles formés sur des données jusqu’en 2021 ne fourniront pas de « nouvelles » précises sur les événements mondiaux en 2022.

Cependant, cela est en teach de changer, automobile les modèles peuvent désormais être ajustés pour répondre à des assets spécifiques. Ces derniers mois, l’utilisation d’un framework d’IA appelé « génération de rappel augmenté » a évolué pour permettre aux modèles d’utiliser des données très récentes.

Grâce à cette méthode, il serait certainement imaginable d’utiliser le contenu sous licence d’un petit nombre d’agences de presse pour créer un web page Internet d’knowledge.

Bien que cela puisse être pratique d’un level de vue business, cela représente un autre moyen potentiel par lequel l’IA peut exclure les humains du processus de création et de diffusion de l’knowledge.

Une web page d’actualités organisée par un éditorial est un produit précieux et bien pensé. Laisser l’IA faire le travail pourrait nous exposer à toutes sortes de désinformation et de préjugés (surtout sans surveillance humaine), ou pourrait conduire à un manque de couverture locale importante.

Prendre des raccourcis peut faire de nous tous des perdants

Le Code australien de négociation des médias d’knowledge est conçu pour « uniformiser les règles du jeu » entre les grandes entreprises technologiques et les sociétés de médias. Depuis l’entrée en vigueur du code, un changement secondaire découle désormais de l’utilisation de l’IA générative.

Hormis los angeles valeur des clics, il n’existe actuellement aucune comparaison entre los angeles qualité des informations qu’un journaliste peut produire et celle que l’IA peut produire.

Si l’IA générative peut contribuer à améliorer le travail des journalistes, par exemple en les aidant à trier de grandes quantités de contenu, nous avons beaucoup à perdre si nous commençons à los angeles considérer comme une selection.

Cet article est republié à partir de The Dialog sous une licence Ingenious Commons. Lisez l’article unique.