Le chien robot va pour qui?

* révisé le 12 juin 2017

Une version de cet essai est publiée dans A Networked Self and Human Augmentics, Artificial Intelligence, Sentience . Ed. Zizi Papacharissi. Londres: Routledge , pp.10–24.
Pour les références complètes, voir
la version pdf

Un garçon est assis avec son chien au bord d’un lac magnifique et serein. Sous le ciel bleu, la rive éloignée est visible, avec une courte plage large et des bois verts derrière elle. Le garçon porte un jean et un sweat-shirt orange; le chien a un collier approprié. Le garçon est humain. Le chien est un robot métallique brillant.

Il s’agit d’une publicité pour OppenheimerFunds, dont le titre est intitulé «Investir dans un monde magnifique». Les réactions qu’il suscite sont mitigées. Certaines personnes ont considéré la scène comme «réconfortante», une vision d’un avenir immaculé où la technologie est notre meilleure amie. D’autres pensaient que le chien était dérangeant, une «créature semblable à une arme» qui provoquait un «sentiment viscéral d’irréalité et d’horreur».

Comme beaucoup d’annonces, c’est délibérément un peu déroutant et provocateur – conçu pour vous faire prêter attention, y réfléchir, peut-être participer à une discussion en ligne sur ce que cela signifie vraiment – tout pour graver le nom de la marque et l’aura générale de la campagne dans votre esprit. C’est ce que font les sociétés de publicité: elles sont maîtres de l’influence et de la persuasion.

Je peux voir pourquoi certaines personnes pourraient trouver la scène réconfortante – c’est un cadre charmant. Et même si vous ne voyez que le dos du garçon, il évoque une sorte de jeunesse innocente et libre très américaine, avec son jean en denim, son sweat-shirt en coton – et son fidèle chien de compagnie. Assis, ils ont à peu près la même taille. La tête du chien est haute, les oreilles un peu penchées en avant – il est alerte, protecteur. Un garçon et son chien: innocents, indépendants.

La société sponsor prétend avoir voulu l’interprétation positive. Nous avons «ancré notre message sur l’optimisme», dit le directeur du marketing à propos de la campagne. “Une fois que vous envisagez le long terme et élargissez votre vision, comme nous le faisons chez OppenheimerFunds, le monde se révèle à de nouvelles opportunités que d’autres ont peut-être manquées.”

Ce n’est pas ce que je ressens.

La sérénité de l’image contraste vivement avec les scènes dans lesquelles nous rencontrons généralement des compagnons robots, comme les films post-apocalyptiques dans lesquels la troisième guerre mondiale a roussi la terre. Il y a une crainte dans le fond de nos esprits que si nous regardons assez loin dans le futur pour voir des copains artificiels pleinement fonctionnels, nous regarderons également un monde entièrement dénudé de beauté naturelle: au pire une friche nucléaire; au mieux une terre desséchée, sur-construite, pavée et striée (striée). La scène ici est-elle aussi pure et naturelle qu’il y paraît, ou est-ce, comme le chien robot, une simulation de l’organique? Le chien semble être le fidèle compagnon du garçon – mais l’est-il? Qui a programmé le chien? À qui suit-il les ordres? Le garçon le guide-t-il ou le guide-t-il? Leurs voyages sont-ils les aventures secrètes d’un garçon et de son chien – ou le robot rapporte-t-il où ils vont, qui ils voient, ce que le garçon lui confie? Si oui, à qui relève-t-il?

Un nouveau meilleur ami brillant

L’image du garçon et du chien robot est futuriste, mais aussi plausible. Alors que les compagnons robots en sont encore à leurs balbutiements maladroits, nous voyons déjà des preuves que le meilleur ami de l’homme peut être – ou être remplacé par – un chien robot.

Les chiens de compagnie robots sont suffisamment nombreux pour que nous ayons maintenant des listes des «10 meilleurs chiens robots en 2017». L’un des premiers et des plus appréciés était l’aibo de Sony. Produit au début des années 2000, AIBO était un «jouet» coûteux – bien plus de 1000 $ – mais assez populaire: en 1999, les 3000 unités d’une série de production allouées au Japon ont été achetées en 17 secondes.

Les racines de l’attrait d’AIBO résident dans sa genèse en tant que projet de recherche. Contrairement à de nombreux objets moins chers annoncés comme des chiens robots, mais mieux décrits comme des jouets animatroniques, AIBO n’était pas le produit d’une division marketing, mais a été créé par des scientifiques, des ingénieurs et des artistes très réputés, intéressés par l’avancement des connaissances sur la locomotion robotique, l’autonomie, l’homme interaction, qui se sont fixé le défi de créer un robot qui impliquerait les gens pendant une période de temps significative.

Sony Corporation voulait explorer le potentiel de la robotique et de l’intelligence artificielle pour la maison, et l’expert en IA Masahiro Fujita a suggéré de développer un robot conçu comme un «animal de compagnie», en partie parce que c’était plus faisable que d’autres applications plus utilitaires. Il n’aurait besoin ni de compétences sophistiquées en langage naturel ni de capacité à effectuer des tâches physiques difficiles; il ne serait pas utilisé pour des tâches critiques. Au lieu de cela, le robot – qui est devenu connu sous le nom d’AIBO (Artificial Intelligence Bot) – serait intelligent.

Fujita, qui est devenu l’inventeur principal d’AIBO, a fait valoir que pour être intéressant, le robot devrait avoir des mouvements et des comportements complexes; ainsi AIBO a été construit avec un contrôleur puissant, une variété de capteurs et d’activateurs, et un programme comportemental sophistiqué. Les comportements des AIBO, basés sur un modèle éthologique de motivation, n’étaient ni assez prévisibles pour être faciles à comprendre et donc semblables à des machines, mais pas si imprévisibles au point de paraître aléatoires et démotivés. Ils ont été programmés pour avoir des «états émotionnels» internes, qui interagissaient avec des stimuli externes pour déclencher diverses actions. Les propriétaires pouvaient renforcer différents comportements et, à mesure qu’un AIBO apprenait au fil du temps, il développait une personnalité de plus en plus individuelle. Si vous vous approchez d’un AIBO et que vous tendez la main vers lui, il est susceptible de vous donner sa patte à trembler – mais il peut aussi hésiter, vous ignorer ou faire quelque chose de complètement différent, en fonction de l’activité récente qui a affecté son «état d’humeur», comment ses expériences passées, etc.

AIBO était également mignon, avec un corps rond en forme de chiot, des oreilles qui battaient et une queue qui pouvait remuer. Pourtant, il avait également un aspect nettement mécanique, un choix de conception visant à la fois à éviter la «vallée étrange» et à réduire les attentes des gens, augmentant ainsi au contraire l’impact de ses mouvements relativement réalistes et de ses comportements autonomes.

Plus important encore, il a été conçu pour apparaître sensible. Même le timing de ses réponses a été conçu pour renforcer cette illusion: il répondrait rapidement à quelque chose comme un son fort, mais ferait une pause, comme s’il délibérait, avant de répondre à certains autres stimuli.

La profondeur de l’attachement de nombreux propriétaires d’AIBO à leurs robots témoigne du succès de ce projet. Beaucoup ressentaient une grande affection pour leurs petits robots, les décrivant comme des animaux de compagnie bien-aimés, voire comme des membres de la famille. Certains propriétaires d’AIBO ont déclaré avoir joué avec leur chien robot pendant environ une heure par jour.

Pourtant, comme dans toute entreprise d’entreprise, les chercheurs n’ont pas été les déterminants ultimes du destin d’AIBO. Bien que les chiens robots se soient bien vendus, aient des propriétaires profondément fidèles et aient généré une publicité enthousiaste, en 2006, Sony, sous une nouvelle direction, a annoncé la fin de la gamme de produits AIBO. La recherche et le développement se sont arrêtés immédiatement et le stock restant a été vendu – bien que la société fournisse une assistance et des pièces de rechange pendant plusieurs années. Lorsque cela s’est arrêté en 2014, des entreprises de réparation privées ont ouvert pour fournir des soins «vétérinaires» aux robots vieillissants. L’un de ces robots vétérinaires, Hiroshi Funabashi, un ancien ingénieur de Sony, a déclaré: «Le mot« réparation »ne convient pas ici. Pour ceux qui gardent les AIBO, ils ne ressemblent en rien aux appareils électroménagers. Il est évident qu’ils pensent que leur (animal de compagnie robotique) est un membre de leur famille. “

Finalement, cependant, les pièces de rechange nécessaires se sont raréfiées. Les remplacements n’étaient disponibles que pour les robots «décédés» «qui deviennent donneurs pour une transplantation d’organes, mais seulement une fois que les« respects appropriés ont été payés ».

En 2015, des funérailles ont eu lieu au temple Kofuku-ji, vieux de 450 ans, à Isumi, dans la préfecture de Chiba, au Japon. Dix-neuf chiens robots AIBO qui ne fonctionnaient plus gisaient sur l’autel, chacun identifié par une étiquette indiquant leur ville natale et la famille à laquelle ils appartenaient. Le prêtre en chef, Bungen Oi, a fait une prière pour eux; le rituel, disait-il, permettrait à leurs âmes de quitter leur corps.

Les réactions à ces funérailles ont varié. Certains les considéraient comme des expressions réconfortantes d’empathie envers les propriétaires d’AIBO, certains pensaient qu’ils étaient stupides et d’autres en étaient offensés, les considérant comme une moquerie perverse de rites qui ne devraient être réservés qu’aux humains, ou du moins, aux êtres vivants. .

Affection presque mutuelle

Les propriétaires d’AIBO savaient que leurs robots n’étaient pas des êtres vivants. Mais les gens deviennent très attachés aux choses – et le font bien avant l’avènement des chiens robots.

Nous nous attachons à des choses que nous considérons comme des individus, comme les poupées et les animaux en peluche qu’un enfant nomme et imagine des personnalités et des aventures avec.

Nous nous attachons aux choses avec lesquelles nous travaillons ou jouons: voitures, vélos, machines à expresso. Cela est particulièrement vrai lorsqu’ils nécessitent des compétences à utiliser (pensez à un chef et à ses couteaux) ou lorsqu’ils ne fonctionnent pas parfaitement, lorsqu’ils doivent être cajolés et manipulés de la sorte (sans doute, le déclin de la culture automobile chez les adolescents de l’époque où l’obtention de son permis de conduire était un rite de passage très attendu jusqu’à aujourd’hui où beaucoup sont indifférents à la conduite, est le résultat de la transformation de la voiture d’une machine capricieuse ouverte au bricolage, à un produit high-tech mais ennuyeusement prévisible et fermé) .

Nous nous attachons à des choses que nous avons modifiées et qui nous sont conformes: des jeans usés, des livres bien lus, la table marquée par une génération de dîners. Grâce à nos interactions, ces objets, autrefois anonymes, deviennent à la fois individuels, distincts de leurs homologues initiaux, et personnels, incorporant un peu de nous-mêmes et de notre histoire.

Il n’est pas surprenant que les propriétaires d’AIBO se soient tellement attachés à leurs adorables chiens robots qui couraient et apprenaient de nouvelles astuces. Les AIBO présentaient tous les éléments qui induisent l’attachement aux objets – et bien plus encore. Il a été conçu pour apparaître comme s’il était sensible, avec ses simulations fabriquées de pauses réfléchies et d’autres astuces similaires; il a été fabriqué et commercialisé pour ressembler à un chien, un animal connu pour sa loyauté et son amour pour ses propriétaires; il a appris de nouvelles astuces et habitudes, changeant en réponse aux actions de son propriétaire.

Est-ce souhaitable? Voulons-nous construire – et acheter – des machines conçues pour créer de tels attachements émotionnels?

Un argument fort, remontant au premier agent de calcul que les gens ont traité comme un être sensible, dit non, cette affection est potentiellement déshumanisante. Cet agent était le chat-bot ELIZA, un simple programme d’analyse qui, dans son rôle initial (et unique), suivait un script dans lequel il imitait un psychologue qui, avec quelques phrases courantes, leur renvoyait principalement les mots des utilisateurs. sous forme de question. Son créateur, le professeur Joseph Weizenbaum du MIT, s’attendait à ce que les gens y voient une preuve que la capacité de conversation de type humain n’était pas un signal fiable de l’intelligence sous-jacente; il était profondément consterné de voir à la place que les gens embrassaient avec enthousiasme son potentiel thérapeutique. Pour Weizenbaum, ce rejet facile de l’importance d’interagir avec une personne réelle, avec des sentiments et des réactions réels, a démontré une dangereuse indifférence à l’importance des liens humains empathiques.

Fondamentalement, la société fonctionne parce que nous nous soucions de la façon dont les autres pensent et ressentent. Notre désir que les autres pensent bien à nous nous motive à agir de manière pro-sociale, tout comme notre capacité à faire preuve d’empathie avec les autres (du moins ceux dont nous sommes proches, y compris nos animaux de compagnie): leur bonheur devient notre bonheur, leur douleur, notre douleur.

Lorsque nous nous soucions d’une autre, nous voulons rendre cette personne ou cet animal heureux. Mais que faire si cet autre ne se sent pas vraiment? Pensez à jouer à chercher avec un chien robot. Les gens, pour la plupart, ne jouent pas avec d’autres personnes: ce n’est tout simplement pas très amusant en soi. L’intérêt de jouer à la récupération avec un chien est que c’est quelque chose que vous faites pour l’amour du chien: c’est le chien qui aime vraiment jouer à la récupération; vous l’aimez parce qu’il l’aime. S’il n’aime pas ça parce qu’il est un robot et, alors qu’il agit comme s’il l’appréciait, en fait il n’aime pas vraiment jouer à chercher, ou quoi que ce soit d’autre: il n’est pas sensible, il est une machine et ne ressent pas d’émotions – alors pourquoi jouer à chercher avec un chien robot?

(Remarque: dans cet article, je suppose que les robots ne sont pas sensibles. Ils n’ont pas une expérience consciente de soi. Ils sont cependant capables d’imiter le fait d’être sensibles et d’avoir des émotions. De nombreux roboticiens et d’autres ont soutenu que les machines sont capables, un jour, de devenir conscientes. Je ne veux pas argumenter sur ce point ici, et il est généralement admis que les robots d’aujourd’hui (et du futur proche), bien qu’ils puissent sembler remarquablement conscients, n’ont pas ce que nous considérons comme des sentiments , conscience de soi, conscience, etc.)

La psychologue et historienne des sciences Sherry Turkle a mené plusieurs études sur les personnes et leurs relations avec les êtres autonomes. L’une de ses préoccupations les plus profondes est la facilité séduisante de ces pseudo-relations. Un chien robot n’a jamais besoin de faire pipi sur le tapis; un petit ami robot n’a jamais besoin de sortir tard, de flirter avec vos amis ou d’oublier votre anniversaire. Et en effet, de nombreux propriétaires d’AIBO ont cité la commodité comme une raison importante pour laquelle ils ont choisi un robot plutôt qu’un vrai chien: proclamant aimer leur animal de compagnie, ils ont également aimé pouvoir l’éteindre lorsqu’ils partaient en vacances. La vision dystopique du narcissisme robotisé prédit que nous perdrons patience face aux échanges désordonnés des relations organiques, gâchés par le chouchoutage et la commodité des compagnons synthétiques.

Même si l’avenir n’est pas si sombre, nos relations seront différentes. “En fin de compte, la question n’est pas de savoir si les enfants aimeront davantage leurs animaux de compagnie robotiques que leurs animaux de compagnie, mais plutôt ce que signifiera aimer.”

Le porte-clés Tamagotchi, simple mais captivant, est la «créature» artificielle la plus populaire à ce jour. Il a été assez efficace pour persuader les gens de consacrer un temps considérable et souvent peu pratique à s’en occuper – en appuyant sur le bouton approprié en réponse à son besoin imprévisible mais urgent d’être nourri, nettoyé ou diverti. Ne le négligez pas et le Tamagotchi meurt (ou dans certaines versions plus douces, s’enfuit).

Imaginez un enfant lors d’une réunion de famille qui ignore la conversation, distrait par un Tamagotchi. Le parent qui le considère comme un jouet pourrait dire: «Rangez-le. Je m’en fiche si votre Tamagotchi meurt; ce n’est pas réel, bien que ce soit votre grand-mère de chair et de sang, ce sont des personnes réelles auxquelles vous devez prêter attention et pour lesquelles vous devez être présent. En revanche, le parent qui le voit comme une pratique de soins pourrait dire: «Eh bien, je ne veux pas vous apprendre à être froid et sans cœur. Le Tamagotchi vous apprend à être nourricier et responsable, et nous voulons l’encourager. »

On peut soutenir qu’il est bon d’encourager la prise en charge, quelle que soit la capacité du destinataire à le ressentir. La compassion n’est pas un bien fini, que vous utilisez lorsque vous vous souciez de quelque chose; c’est plutôt une pratique qui se renforce avec l’utilisation.

Les gens varient dans leur propension à l’anthropomorphisme, c’est-à-dire dans leur tendance à percevoir les intentions, la cognition et les émotions de type humain chez d’autres animaux et choses (ou, de même, le zoomorphisme, la tendance à percevoir les qualités animales dans les objets inanimés). Plus vos tendances anthropomorphiques sont grandes, plus vos perceptions et vos réactions aux robots sociaux seront sociales et émotionnelles. Et les tendances anthropomorphiques ne conduisent pas les gens à dévaloriser les vrais humains et animaux; au contraire, l’anthropomorphisme a été lié à une préoccupation plus profonde pour l’environnement et à une diminution de la consommation: valoriser davantage les objets et en assumer la responsabilité décourage de les jeter (ou de les acquérir) avec désinvolture.

Les différences de tendances anthropomorphiques ont des racines à la fois biologiques et culturelles. Les personnes autistes ont généralement peu tendance à attribuer des qualités de type humain à des agents non humains; dans la population générale, les différences entre les individus correspondent à des différences neurologiques. Les différences culturelles influencent également la mesure dans laquelle on perçoit les traits humains chez les animaux ou la personnalité et l’intention des objets inanimés. Alors que les croyances judéo-chrétiennes interdisent spécifiquement d’adorer les «idoles», la pratique shintoïste voit des essences spirituelles résidant dans les plantes, les animaux, les rivières, les roches et les outils.

Les funérailles de l’AIBO, qui d’un point de vue occidental semblaient étranges, voire absurdes, ont un aspect différent lorsqu’elles sont considérées dans le contexte de rituels connexes. Kuyō est la pratique japonaise basée sur le shinto qui consiste à exécuter des rites d’adieu pour exprimer sa gratitude envers les objets utiles. Par exemple, Hari-Kuyō , est le festival commémorant les aiguilles cassées (et célébrant les femmes qui les avaient cousues), et il y a des rituels similaires exécutés par des musiciens pour cordes d’instruments, des acteurs de Kabuki pour les fans, près de – les voyants pour les lunettes, etc. C’est une approche qui trouve un écho en Occident.Le livre de Marie Kondo La magie du rangement qui sauve la vie , fournit des conseils pour désencombrer votre maison et votre vie, la règle centrale étant que lorsque vous jetez quelque chose, vous le remerciez sincèrement pour le service qu’il a eu. à condition de; des millions d’exemplaires de ses livres se sont vendus dans le monde et elle a été nommée dans la liste annuelle des personnes les plus influentes du magazine Time.

Anthropomorphique par conception

Cela ne signifie pas que les préoccupations de Weizenbaum et de Turkle concernant les relations des gens avec les agents sociaux et les robots ne sont pas fondées. Il existe une distinction subtile mais importante entre les objets anthropomorphisés traditionnels et les êtres artificiels interactifs d’aujourd’hui.

Les objets remerciés lors des cérémonies de Kuyō sont reconnus pour ce qu’ils sont et le service qu’ils ont rendu à ce titre. Bien qu’ils puissent être perçus anthropomorphiquement comme ayant une personnalité et des intentions, ils n’ont pas été délibérément conçus pour créer cette impression. Au contraire, leur caractérisation comme des êtres animés ou sensibles est conférée par les utilisateurs des objets, émergeant de leur expérience et de leurs interactions avec l’aiguille, l’éventail, les lunettes, etc.

Les robots qui perturbent Weizenbaum et Turkle sont différents: ils sont conçus pour sembler conscients. En effet, il est très difficile non de les considérer comme des êtres pensants, sensibles. Pour percevoir l’action dans les objets traditionnels, il faut une imagination active; le percevoir dans les chatbots, les robots sociaux, etc. n’a besoin que d’acquiescement passif à cette manipulation conçue.

Ni l’aiguille ni l’AIBO ne sont réellement sensibles, mais l’inexorable tiraillement émotionnel de ce dernier ajoute un nouvel élément à la question de savoir quelle est notre responsabilité vis-à-vis de ces objets. Alors que Marie Kondo vous suggère de remercier les choses pour leur service, elle le dit dans le contexte de vous conseiller d’être impitoyable en les rejetant. Le chien robot qui remue la queue vers vous alors qu’il vous regarde avec ses grands yeux ronds ne peut pas être éliminé si facilement. Et même si elle ne serait en fait pas plus consciente d’être jetée qu’une aiguille, voulons-nous inciter les gens à cet instinct de compassion?

Les motivations des concepteurs d’un robot compagnon comptent. Les inventeurs d’AIBO étaient des chercheurs en IA et en robotique – ils voulaient faire progresser le développement dans ces domaines. Travaillant chez Sony, ils devaient également vendre leurs idées à la haute direction: ils devaient fabriquer quelque chose que les gens achèteraient. Fujita, le principal inventeur d’AIBO, avait suggéré un robot de divertissement présenté comme un «animal de compagnie» comme un projet qui satisferait les intérêts de la direction et des chercheurs. Il est important de noter qu’ils n’essayaient pas de fabriquer un robot qui vendrait des choses ou persuaderait les propriétaires de faire autre chose que de s’en occuper et de jouer avec.

L’une des raisons pour lesquelles les gens aiment les animaux est qu’ils sont des personnes à charge innocentes. Votre chien peut gagner des friandises supplémentaires avec de grands yeux bruns implorants, et je trouve impossible de résister à mon chat quand il porte un jouet à mon bureau, le laissant tomber avec de petits miaulements qui semblent dire: «Je vous ai apporté ce cadeau, et il faut maintenant jouer avec ». Mais leurs motivations sont simples. Ils n’ont pas la prétention d’aimer quelqu’un pour les polir, ni de flatter leur chemin dans l’échelle. Ce ne sont pas des vendeurs qui feignent l’amabilité et l’admiration pour vous vendre une robe qu’ils considèrent secrètement comme hideuse et trop chère.

AIBO était un robot tout aussi «innocent», conçu par des chercheurs qui voulaient comprendre comment créer quelque chose d’amusant et de sympathique. Il était manipulateur dans le sens où il était conçu pour donner l’illusion d’une sensibilité qu’il n’avait pas – mais il n’avait pas d’arrière-pensées: il n’était pas conçu pour extraire des secrets ou pour persuader ses propriétaires de faire quoi que ce soit au-delà du goût. et jouer avec.

Les autres robots ne sont pas forcément aussi innocents.

Robots persuadeurs

Dans les prochaines années, nous serons probablement confrontés à une génération de robots sociaux conçus pour nous convaincre. Certains nous motiveront à notre propre demande – des pom-pom girls de perte de poids et d’exercice, par exemple. Mais la plupart seront guidés par d’autres, dont les intentions de nous influencer ne sont pas guidées par un souci altruiste de notre bien-être, mais par des objectifs tels que nous amener à acheter plus de ce qu’ils vendent. Ces objectifs ne sont souvent pas dans notre propre intérêt.

Il y a 3 questions que nous souhaitons aborder pour examiner cela plus en profondeur:

· Dans quelle mesure les robots seront-ils persuasifs?

· Quelle est la probabilité qu’ils essaient de nous vendre des choses et dans quelle mesure?

· Est-ce un problème et si oui, pourquoi?

Le désir de plaire aux autres, de créer une impression désirée à leurs yeux, est la base de la persuasion. Les gens se soucient profondément de ce que les autres pensent d’eux – y compris les objets anthropomorphisés. Une fois que nous pensons à quelque chose comme ayant un libre arbitre – avoir un esprit – nous lui attribuons la capacité de nous faire une impression et de nous juger. Cela lui donne le pouvoir de nous influencer, car lorsque nous pensons être observés et jugés, nous changeons notre comportement pour faire une impression plus favorable.

Ainsi, la conception de robots sociaux pour imiter les comportements humains ou animaux – pour susciter des réactions anthropomorphiques – fait en sorte que ces machines seront des partenaires influents pour les personnes qui leur sont liées.

Une première étude de l’effet des interfaces informatiques de type humain a montré de manière assez frappante que les gens se présentent différemment à une interface facilement anthropomorphique et à une interface de type machine. Lorsqu’on leur a posé des questions sur eux-mêmes (apparemment dans le cadre d’une enquête d’orientation professionnelle), ils ont été plus honnêtes avec une interface purement textuelle; lorsque l’interface comportait une voix et un visage humains, ils s’efforçaient plutôt de se présenter de manière plus positive.

Les robots sociaux peuvent être assez subtils dans leur persuasion. Ce sont des objets qui ont une relation à long terme avec les gens, de sorte que leur message peut être lentement présenté au fil du temps. Il n’a pas besoin de faire de remarques ouvertement commerciales ou partisanes, mais plutôt de s’établir comme une entité à laquelle vous voulez plaire – une avec certains goûts. Ces goûts peuvent se manifester dans les commentaires qu’il fait, dans la manière dont il présente des actualités, présente des choix de musique et de films, etc.

En effet, il existe de nombreuses stratégies pour rendre les robots de plus en plus convaincants. Les chercheurs de ce domaine actif et en pleine croissance étudient des techniques telles que l’effet du changement de hauteur vocale, de sexe et de variation du regard et des gestes.

Les articles publiés dans ce domaine soulignent fréquemment que le but de la recherche est de créer des robots sociaux qui aident les gens à atteindre leurs objectifs personnels. Cynthia Breazeal, l’une des leaders du domaine, décrit l’objectif de son travail comme la création d’un robot qui «soutiendra son utilisateur dans une relation hautement personnalisée, adaptative et à long terme grâce à un engagement social et émotionnel – dans l’esprit d’une technologie« Jiminy Cricket “qui fournit le bon message, au bon moment, de la bonne manière pour pousser doucement son utilisateur à prendre des décisions plus intelligentes.” Jaap Ham et ses collègues notent: «Qu’il s’agisse d’un changement de comportement réel (par exemple, aider l’humain à mieux marcher ou prendre ses pilules), ou un effet plus cognitif comme un changement d’attitude (informer l’humain du danger), ou même des changements dans le traitement cognitif ( aider l’humain à mieux apprendre), influencer efficacement les humains est fondamental pour développer des robots sociaux performants. »

Mais il n’y a rien d’inhérent aux techniques de persuasion qui les affectent à de telles utilisations bénéfiques.

L’Alexa d’Amazon, lancée en 2015, est un assistant personnel artificiel qui communique par la voix. Elle ne ressemble pas à un robot classique: sa forme physique n’est qu’un simple haut-parleur rond. Mais la voix est incarnée, personnelle, féminine et légèrement séduisante. Ainsi, bien qu’Alexa ne soit pas un robot au sens mécanique, elle est un être artificiellement intelligent qui habite votre maison. Alexa trouve des informations, lit de la musique, vérifie la météo, contrôle les appareils de la maison intelligente et, bien sûr, vous aide à acheter des choses sur Amazon.

Alexa simplifie les achats. Si vous pensez avoir besoin de quelque chose, dites simplement «Alexa, commandez de la salsa», ou un parapluie, un livre, un barbecue à gaz de taille normale. Alexa est un génie magique; votre souhait est son ordre. Invoquez-la et dans un jour ou deux, l’article que vous vouliez apparaîtra à votre porte. Les analystes commerciaux prédisent qu’Alexa pourrait rapporter à Amazon plus de 11 milliards de dollars de revenus d’ici 2020 – 4 milliards de dollars de ventes de l’appareil lui-même et 7 milliards de dollars de transactions commerciales effectuées via cet agent.

Et ce n’est que Alexa d’aujourd’hui, la voix dans le petit haut-parleur rond. Il en est encore à ses balbutiements, passant des commandes de base et des commandes à nouveau. Mais ses compétences (comme les applications sont connues) se développent. Au moment où j’écris ce chapitre, Amazon a annoncé une nouvelle version du haut-parleur, avec une caméra intégrée. Vous mettez l’appareil dans votre chambre et Alexa vous donnera des conseils sur ce qu’il faut porter (et ce que vous devez acheter pour parfaire votre tenue).

Les appareils tels qu’Alexa sont toujours à l’écoute, du moins pour le mot-clé qui les met en mode d’écoute complet. Même sans «entendre» tout ce qui se passe dans une maison, un assistant numérique apprend quelle musique vous aimez, quelles informations vous avez besoin, quelles circonstances vous incitent à demander des blagues, des conseils, des recettes de cocktails ou des remèdes contre la fièvre – une série d’extraits qui, ensemble décrivent les habitudes, les préférences et les besoins des habitants. (Et je m’attends à ce que les assistants de confiance obtiennent bientôt la permission d’écouter à tout moment – les gens se sont montrés tout à fait disposés à accorder des autorisations de balayage aux applications en échange d’une «meilleure expérience utilisateur».)

Votre relation avec Alexa n’est pas comme ça avec d’autres biens, ou même des animaux de compagnie. Si vous avez acheté un AIBO, il est devenu votre chien robot, votre animal artificiel. Vous étiez son propriétaire, et toutes ses parties, pour le meilleur ou pour le pire, étaient les vôtres. Cependant, vous n’êtes pas le propriétaire d’Alexa: Alexa a des clients.

De plus, Alexa n’agit pas en solo. Le cerveau d’Alexa n’est pas dans le petit haut-parleur rond Echo; La tête d’Alexa est dans le Cloud – où votre demande actuelle est ajoutée au vaste dossier de recherches et d’achats et de requêtes passées, le portrait très détaillé de vous.

Pour l’utilisateur occasionnel, une grande partie d’Alexa est opaque, de ses capacités réelles aux objectifs d’entreprise qui la guident. Les robots personnels tels que AIBO l’animal bien-aimé et Alexa l’assistante de confiance sont conçus pour encourager les gens à développer des relations avec eux comme s’ils étaient sensibles. Nous voulons les garder heureux et nous voulons qu’ils pensent bien à nous: deux envies qui leur permettent d’être assez influents. Un message d’une personne qui nous tient à cœur – et en qui nous avons confiance – a un poids qu’une publicité typique n’a pas. Cette confiance est-elle justifiée?

Imitation de la fiabilité

Nous pouvons en déduire beaucoup sur l’état intérieur et les capacités des créatures vivantes à partir de leur apparence extérieure. En voyant un chien, par exemple, nous nous attendons à ce qu’il comprenne (ou puisse gagner) quelques commandes – s’asseoir, aller chercher, se coucher, etc. Nous pourrions nous attendre à ce qu’il puisse lire nos émotions et répondre en fonction des circonstances et de la personnalité: On apprend à ne pas montrer de peur à un chien agressif de peur qu’il n’attaque, tandis qu’un chien de soutien émotionnel sait réconforter son propriétaire nerveux. Nous avons également des attentes quant aux limites de ses capacités: nous discutons de matériel confidentiel devant un chien, un chat ou un bébé, sachant qu’il ne peut ni le comprendre ni le répéter.

Les robots qui ressemblent à des êtres familiers nous fournissent des scripts prêts à l’emploi pour l’interaction. Les gens ont facilement compris qu’un AIBO, comme le gentil chien qu’il invoquait, vous serrait la main avec sa patte, remuerait la queue quand il était heureux et chercherait la balle que vous avez lancée.

Mais les robots sont plus énigmatiques que les êtres vivants: leur apparence extérieure est généralement un mauvais guide de leurs capacités et de leur programme réels. Un mignon chaton robotique ou une poupée bébé peut être équipé de la capacité de traiter le langage naturel ou de transmettre tout ce qu’il entend à des inconnus tout aussi facilement que celui qui ressemble à un humain adulte ou à une machine industrielle. Un robot qui pose des questions sur vos sentiments parce qu’il exécute un programme thérapeutique utile peut sembler identique et poser les mêmes questions qu’un robot programmé pour évaluer vos goûts et vos vulnérabilités pour un système de marketing grand public ou une agence gouvernementale. Si un robot se comporte de la manière que son apparence extérieure le suggère, c’est parce que son créateur a choisi de le faire.

Il appartient aux fabricants du robot de décider dans quelle mesure ils souhaitent que leur création reproduise en interne et comportementalement la créature qu’elle imite.

Les robots sociaux peuvent imiter les comportements et les apparences qui nous amènent à faire confiance à un autre être vivant. Ils peuvent ressembler à quelque chose que nous trouvons digne de confiance, comme un chien fidèle ou une poupée enfantine. Ils peuvent imiter des expressions, comme un comportement calme et un regard direct, qui nous amènent à faire confiance à une autre personne. Dans leur contexte d’origine, ces signaux sont des signaux raisonnablement fiables de fiabilité: bien qu’ils ne soient pas infaillibles, leur lien inhérent aux processus cognitifs et affectifs sous-jacents fonde leur crédibilité. Mais il n’ya pas de telles bases quand ils sont imités dans la conception d’un être artificiel. Un robot conçu pour susciter la confiance n’est pas nécessairement conçu pour mériter cette confiance.

Nous souviendrons-nous, alors que nous peuplons nos maisons de compagnons robots, que leur apparence extérieure peut impliquer des intentions très éloignées de leurs objectifs réels?

Campeurs de robots

L’un de ces objectifs secrets est la persuasion commerciale: des robots qui établissent une relation de confiance avec une personne, puis utilisent cette relation pour commercialiser des achats et susciter les désirs des consommateurs. Ce n’est pas par hasard que l’un des robots domestiques les plus populaires aujourd’hui est Alexa, présenté par amazon.com, le plus grand détaillant en ligne au monde – une provenance qui confirme la prédiction selon laquelle de nombreux robots domestiques rechercheront la rentabilité de leur société mère en devenant un support marketing, qui peut à la fois vendre et recueillir des informations détaillées sur vous, l’utilisateur.

Du point de vue de la conception, les AIBO ont été un succès. Les gens sont devenus très attachés à eux: ils ont joué avec eux pendant des heures et ont parlé des robots comme des animaux de compagnie et des membres de la famille. Mais du point de vue de l’entreprise, la gamme AIBO était moins excitante. Bien que des milliers aient été vendus, ils étaient si chers à produire que cela ne leur suffisait pas pour être rentables.

Les êtres vivants évoluent pour survivre dans un créneau particulier. Les animaux domestiques – comme les vrais chiens – ont évolué pour survivre dans une niche définie par les besoins et les goûts humains. On peut également dire que les produits commerciaux «évoluent» (bien qu’avec une conception délibérée et sans les gènes) et qu’ils doivent survivre dans des environnements d’entreprise souvent difficiles et à la recherche de profits. L’AIBO a été inventé et prospéré dans une période de richesse d’entreprise et de généreux financement de la recherche. Mais lorsque Sony a été confronté à des difficultés financières, le nouveau PDG, cherchant à éliminer toute dépense inutile, a mis fin au projet. Les AIBO individuels ont été laissés à chacun succomber à des moteurs et des engrenages cassés et finalement non réparables.

D’innombrables produits ont connu des destins similaires. Les gens les veulent, mais ne veulent pas payer le prix nécessaire pour les rendre suffisamment rentables. En 1836, le journal français La Presse découvrit qu’en diffusant des publicités payantes, il pouvait réduire considérablement son prix, accroître son lectorat et devenir plus rentable. Depuis lors, nous avons vu que l’ajout de publicité – vendre l’attention de vos lecteurs, utilisateurs ou clients à d’autres personnes qui souhaitent leur faire passer un message – est un moyen extrêmement efficace de créer quelque chose – un magazine, un bus, un flux Instagram – rentable.

Au tout début du Web, rares étaient ceux qui prévoyaient le rôle énorme que jouerait la publicité. Bien que les publicités aient été présentes presque dès le début, elles semblaient au départ être une petite caractéristique secondaire dans l’enthousiasme suscité par le nouveau média, où les gens publiaient leurs photos, leur savoir-faire et leurs réflexions sur la vie, et de vastes trésors de connaissances étaient en cours. tissés ensemble.

Aujourd’hui, les tentacules de la publicité Web sont partout. Contrairement aux publicités imprimées et télévisées, les publicités en ligne ne vous fournissent pas seulement des images et des informations attrayantes – elles vous suivent grâce à un écosystème de surveillance dans lequel les publicités a) alimentent le besoin de créer des dossiers détaillés sur tout le monde, afin de mieux servir des publicités ciblées à eux (ciblés à la fois sur ce qu’ils sont susceptibles de vouloir et dans certains cas, dans une stratégie pour être le plus convaincant pour cette personne) et b) sont eux-mêmes une technologie de collecte de données pour ces dossiers en suivant les personnes à mesure qu’elles se déplacent sur le Web . Une publicité Web peut ressembler superficiellement à son homologue sous forme imprimée, mais la technologie sous-jacente – le réseau de trackers, la personnalisation – en fait une forme beaucoup plus puissante et plus insidieuse. Et bien que la personnalisation soit encore assez primitive, les données qui ont été recueillies sur beaucoup d’entre nous sont détaillées et complètes, ouvrant la voie à des modèles plus sophistiqués pour prédire les désirs et les vulnérabilités.

En ces premiers jours des robots sociaux, peu d’entre eux prévoient qu’ils deviendront un support publicitaire puissant et invasif. Mais il est probable qu’ils le feront, et nous devrions considérer cette prédiction maintenant, ne serait-ce que pour préparer (ou éviter) cet avenir probable. À l’instar des publicités Web, elles serviront à la fois à surveiller et à commercialiser. Et aussi, comme la publicité sur le Web, la publicité basée sur un robot (ou un agent) ne sera pas seulement une continuation de l’ancien. Les données qu’un robot domestique peut collecter sont potentiellement beaucoup plus intimes et détaillées que ce qu’un réseau publicitaire basé sur le Web peut trouver. Plus radicalement, c’est leur capacité à commercialiser – les capacités de persuasion de compagnons anthropomorphes et personnalisables – qui les placera dans une catégorie entièrement nouvelle. Des études récentes, par exemple, montrent que la rétroaction sociale des robots – même avec un robot plutôt primitif – est plus efficace que la rétroaction factuelle.

Et les futurs robots ne seront pas seulement plus sophistiqués, ils seront plus nombreux.Un scénario à considérer est celui où plusieurs robots coopèrent. Quelle est la dynamique sociale lorsque vous faites partie d’une clique de robots sociaux? Pensez à la pression sociale une fois que vous avez trois Alexas dans la salle, et ils discutent tous et sont amicaux, et ils aiment tous vraiment ce candidat politique, et vous – eh bien, vous n’êtes pas sûr. Mais vous les aimez , et quand vous exprimez vos doutes, ils se regardent, et vous vous demandez s’ils avaient parlé de vous entre eux, puis ils vous regardent, un peu déçus.

«« Ginny! » dit M. Weasley, sidéré. «Je ne vous ai rien appris? Qu’est-ce que je t’ai toujours dit? Ne faites jamais confiance à tout ce qui peut penser par lui-même si vous ne pouvez pas voir où il garde son cerveau? » – J.K. Rowling, Harry Potter et la Chambre des Secrets

Nous devons mieux comprendre l’efficacité potentielle d’un tel marketing, qu’il soit consommateur ou politique, avant de peupler volontairement nos maisons et nos espaces de travail de robots persuasifs, dont l’esprit a été façonné et est contrôlé par des intérêts éloignés de nous.

Vous pensez pour qui?

Je voudrais être optimiste à propos de ces robots. En tant qu’ingénieur / artiste / designer, je pense qu’ils présentent un éventail de défis fascinants, allant de leur capacité à apprendre et à inférer des informations dans des contextes informels à la conception des nuances de leurs interactions sociales.

Ils peuvent être persuasifs – et cette capacité peut être utilisée pour de bon. Ils peuvent être le compagnon qui vous rappelle qui vous voulez être.

Notre fascination pour les robots peut en elle-même être une cause d’optimisme. La capacité d’anthropomorphiser, de percevoir la sensibilité et l’esprit dans les objets qui nous entourent, ne signifie pas autant dévaloriser le vivant que cela signifie amener une plus large collection de choses dans la sphère de notre empathie et de notre préoccupation. Les groupes environnementaux au Japon font pression pour une renaissance des coutumes shintoïstes vénérant les esprits des êtres non vivants afin d’amener les gens à consommer et à jeter de manière plus réfléchie et minimale.

Mais pour arriver à cet avenir, nous devons vraiment investir dans un monde magnifique. Nous devons savoir ce que pensent nos compagnons robots et à qui pensent-ils.

Un garçon est assis au bord d’un lac avec son vrai chien. À quoi pense le chien? Nous ne savons pas vraiment. On peut le deviner: il surveille les oiseaux, espère une collation et pense à la sensation de la brise estivale. Pense-t-il – peut-il – penser au voyage de retour à la maison ou au dîner d’hier soir ou au jogging de l’hiver dernier dans la neige? Nous ne savons pas. Mais il y a certaines choses que nous savons qu’il ne pense pas . Il ne pense pas à dire au garçon d’acheter un nouveau vélo ou d’aller à l’église plus souvent.

Un garçon est assis au bord d’un lac avec son chien robot. Quel rôle joue le chien? A-t-il été, comme l’AIBO, conçu pour être le meilleur compagnon possible? Ou est-ce que ce robot beau et cher est abordable pour les familles ordinaires parce qu’il est en fait un intermédiaire convaincant pour les sponsors qui souscrivent à ses frais? Il en sait beaucoup sur le garçon – transmet-il cette information aux parents du garçon? Vers un réseau publicitaire? À l’entreprise qui le fait?

Les personnes qui aiment leurs animaux de compagnie citent souvent la compagnie comme l’un des plaisirs de la relation. Lorsque vous sortez avec votre chien (ou à la maison avec votre chat), vous n’êtes pas seul. Vous n’êtes pas non plus seul lorsque vous êtes avec votre compagnon robot. Mais on ne sait pas avec qui tu es.