Remark les machines ont le pouvoir de changer notre façon de voir le monde

Il y a des signes d’IA partout, des chatbots du carrier shopper aux publicités personnalisées que nous recevons lorsque nous naviguons sur Web. Cependant, nous ignorons encore largement les algorithmes cachés qui font le travail acharné en coulisses.

Nous travaillons actuellement sur un projet de recherche axé sur les conversations avec des professionnels du domaine de l’intelligence artificielle. Nous les interrogeons sur leur pensée et leurs valeurs, ainsi que sur les considérations éthiques qu’ils considèrent comme les plus importantes – et pourquoi. Les normes et valeurs des développeurs peuvent devenir partie intégrante des systèmes d’IA qu’ils conçoivent. Cependant, ils – et nous – l’ignorons souvent, ainsi que ses conséquences.

Il est essentiel de comprendre autant que imaginable le développement de l’intelligence artificielle automotive los angeles technologie nous transforme déjà dans des instructions dont nous ne semblons pas nous rendre compte. Par exemple, une recherche publiée en 2017 a montré que les algorithmes des médias sociaux créent des résultats basés sur des hypothèses concernant les utilisateurs, mais que les utilisateurs s’adaptent également à ces résultats, comme les histoires qui apparaissent dans leurs flux, et modifient également los angeles logique de l’algorithme.

Nos interactions quotidiennes avec l’IA nous rendent de plus en plus dépendants d’elle, mais los angeles dynamique de pouvoir dans cette relation favorise massivement les systèmes d’IA. Il s’agit d’une technologie dont les créateurs ne comprennent pas pleinement son fonctionnement interne.

L. a. dépendance humaine à l’égard de los angeles technologie peut réduire los angeles pensée créative et critique. L’IA a déjà supplanté les emplois et le chômage. Même si les avertissements selon lesquels cela pourrait conduire à l’extinction de l’humanité ne doivent pas être pris au sérieux, nous ne pouvons pas les rejeter complètement.

Il a été démontré que les algorithmes contiennent des tendances discriminatoires envers los angeles race, le sexe et d’autres caractéristiques protégées. Nous devons comprendre remark ces problèmes et d’autres liés au développement de l’intelligence artificielle surviennent.

Certains commentateurs ont attiré l’consideration sur ce qu’ils considèrent comme un manquement à los angeles prise en compte de los angeles sécurité et de los angeles confidentialité par les entreprises développant l’intelligence artificielle. Il existe également un manque de transparence et de responsabilité concernant les projets d’IA. Bien que cela ne soit pas inhabituel dans le monde compétitif de los angeles grande technologie, nous devons certainement adopter une approche plus rationnelle de los angeles technologie, succesful d’exercer un tel pouvoir sur nos vies.

Crise d’identité?

Ce qui a été négligé dans le discours sur l’IA, c’est los angeles manière dont notre sens du sens, notre identité et notre réalité dépendront de plus en plus de notre engagement dans les products and services qu’elle facilite. L’IA n’a peut-être pas de sense of right and wrong, mais elle exerce son pouvoir d’une manière qui affecte notre sentiment d’identité. En effet, nous reconnaissons et participons librement aux efforts que son lifestyles permet.

En ce sens, l’intelligence artificielle n’est pas une grande conspiration destinée à contrôler le monde et tous ses habitants, mais plutôt une pressure qui n’est pas nécessairement bonne ou mauvaise. Cependant, même si l’extinction est peu possible à court docket terme, le threat le plus présent est que notre dépendance à l’égard de los angeles technologie amène les humains à servir efficacement los angeles technologie. Ce n’est une state of affairs qu’aucun d’entre nous ne souhaiterait, surtout lorsque los angeles technologie implique des normes humaines que beaucoup considéreraient comme loin d’être idéales.

Pour exemple de ce dont nous parlons ici, prenons le pilotage et le suivi des performances des chauffeurs-livreurs, qui sont facilités par des systèmes automatisés utilisant l’intelligence artificielle. Un groupe parlementaire multipartite au Royaume-Uni a décrit cette state of affairs comme ayant un have an effect on négatif sur los angeles santé mentale et body des travailleurs, automotive ils sont « sous une pression intense due à une microgestion constante en temps réel et à une évaluation automatisée ».

Un autre exemple a été souligné par Erik Brynjolfsson, économiste à l’Université de Stanford, qui a évoqué los angeles possibilité de ce qu’on appelle un « piège de Turing ». Cela témoigne des inquiétudes selon lesquelles l’automatisation des activités humaines pourrait laisser los angeles richesse et le pouvoir entre de moins en moins de mains. Dans son livre The Turing Lure: The Promise and Peril of Human-Like Synthetic Intelligence, Brynjolfsson écrit : « Avec cette focus (du pouvoir), vient le threat de tomber dans un piège d’équilibre dans lequel ceux qui n’ont pas de pouvoir n’ont aucun moyen d’améliorer leurs résultats. .» “.

Récemment, Jeremy Howard, chercheur en intelligence artificielle, a décrit remark il avait présenté ChatGPT à sa fille de sept ans après qu’elle lui ait posé plusieurs questions à ce sujet. Il a conclu qu’il pourrait devenir un nouveau sort de tuteur workforce, enseignant les mathématiques, les sciences, l’anglais et d’autres matières.

Cela impliquerait évidemment de déplacer le rôle des enseignants. Cependant, Howard a également averti sa fille qu’elle ne devrait pas croire tout ce qu’ils disent. Cet facet constitue un réel threat pour l’apprentissage. Et même si ChatGPT transmet des connaissances précises, sa fille retiendra-t-elle ces informations aussi facilement que lorsqu’elles étaient communiquées par los angeles parole « incarnée », en d’autres termes, par un humain ?

Ce que voit l’algorithme

Ces cas concrets illustrent los angeles manière dont l’IA peut changer notre façon de voir le monde et nous-mêmes. Cela suggère qu’il existe une dynamique de pouvoir entre les utilisateurs et l’IA dans laquelle los angeles system exerce un pouvoir sur ceux qui interagissent avec elle.

Comme l’explique Tina Bucher, professeure adjointe de applied sciences de los angeles communique et de l’knowledge à l’Université de Copenhague, dans un article de 2016 rédigé à l’aide d’une étude de consommation : « Ce n’est pas seulement que les catégories et les classifications sur lesquelles s’appuient les algorithmes correspondent à notre belief de soi, mais aussi à los angeles dans quelle mesure nous pouvons nous voir à travers eux. » Les yeux de l’algorithme.

L’IA est souvent available simplement by way of nos écrans d’ordinateur ou d’autres médias plus abstraits, et n’est incarnée que dans le sens le plus limité. En tant que telle, son affect est souvent limitée au niveau cognitif de l’identité, dépourvu d’« âme », de sensibilité émotionnelle ou de ce que l’on appelle parfois l’énergie émotionnelle. Il s’agit d’une description des façons naturelles dont les humains interagissent et stimulent les réponses les uns des autres.

Si vous demandez à ChatGPT s’il est imaginable d’incarner l’intelligence artificielle, los angeles réponse portera uniquement sur l’incarnation de l’intelligence system sous une forme body, comme dans un robotic. Mais l’incarnation est aussi une query d’émotions, de sentiments et d’empathie. Il ne peut être réduit à une séquence linéaire d’directions.

Cela ne veut pas dire que l’intelligence artificielle n’affecte pas nos sentiments et nos émotions. Mais les machines ne pourront jamais reproduire los angeles riche vie émotionnelle inhérente aux interactions entre deux ou plusieurs êtres humains. Comme nos vies semblent davantage liées à l’IA, nous devrions peut-être ralentir cette relation, d’autant plus qu’il est clair qu’il s’agit loin d’un partenariat égalitaire.

Cet article est republié à partir de The Dialog sous une licence Inventive Commons. Lisez l’article authentic.