Elles s’appellent Alexa, Cortana ou Siri. Elles font partie de notre quotidien. Elles sont des assistantes, serviables et disponibles. Et pour les plus préoccupés d’entre nous par les stéréotypes de genre, il y a trop de « elles » dans ce paragraphe.  

 

Chatbots et assistants conversationnels 

Nous les connaissons sous les noms de Siri, Alexa ou encore Cortana sur nos téléphones et nos ordinateurs. Sur la plateforme Messenger de Facebook, on retrouve leurs collègues, Jam ou encore Niki et Healtap. Grâce à ces supers assistants, les utilisateurs peuvent trouver instantanément des réponses à leurs questions santé, débattre de sujets de société, réserver un taxi ou encore payer leurs factures 

On les appelle chatbots, voicebots ou assistants conversationnels. Alors qu’ils sont de plus en plus introduits dans nos maisons et dans nos vies, nous développons avec eux des relations de proximité proche de l’intimité.  Ils deviennent une partie intégrante de la vie quotidienne tant ils s’avèrent simples, pratiques à l’utilisation et de plus en plus pertinents et efficaces.  

Depuis 2016, plus de 100.000 chatbots ont été déployés sur Facebook Messenger et ce chiffre continue de croître de manière exponentielle. Amazon aurait déjà vendu depuis 2015 plus de 20 millions d’unités d’Echo, petit bijou de technologie qui héberge Alexa, son assistante vocale. Si les avis restent partagés sur le sujet, bon nombre d’experts estiment depuis déjà plusieurs années que l’avènement des bots n’est pas une simple tendance mais bien une transformation profonde de nos modes d’interaction avec la technologie. Certains proclament même qu’il s’agit de la suite logique d’Internet. Les chiffres actuels semblent aller dans cette direction 

Pour les entreprises et les organisations, c’est un canal qui offre plus de proximité avec les utilisateurs et les clients. A l’ère d’une communication et d’une consommation « ici et tout de suite », la technologie des chatbots et voicebots pourrait devenir un atout majeur dans les parcours d’utilisation et permettre d’atteindre des niveaux de satisfaction inimaginable avec les seuls moyens humains.  

Petit à petit, donc, ces produits artificiels domestiqués se fondent dans la complexité de notre quotidien jusqu’à faire partie de nos routines. Considérés comme acquis, ils pénètrent lentement notre inconscient.  

 

Comment est construit un assistant virtuel ?  

Nous sommes encore loin des fantasmes de bots à l’intelligence artificielle démesurée que nous présentent les films et séries en vogue, comme c’est le cas pour Better than us, diffusé sur Netflix ou encore de la série Westworld Aujourd’hui, la machine n’est rien sans l’homme. Un chatbot se construit, s’entraîne, se déploie sous l’œil attentif de l’humain, seul à pouvoir l’éduquer.  

 

Les robots effrayants d’humanité de la série Westworld 

 

On peut identifier 4 grandes étapes de création d’un assistant virtuel :  

01 Identifier les principaux scénarios conversationnels à implémenter : C’est la phase d’analyse des besoins de l’utilisateur. A quoi le bot va-t-il concrètement servir ? Quels seront ses champs d’expertises ? Quelles réponses sera-t-il capable de donner ? Quelles actions devra-t-il pouvoir effectuer ? C’est une phase d’exploration telle que celle réalisée dans un processus Living Lab classique. On s’assurera donc de travailler avec des utilisateurs ou de s’appuyer sur des données déjà existantes (consultations de FAQ, historiques de contacts clients, etc.) 

02 Paramétrer la couche de traitement du langage : Le traitement du langage naturel est le Saint Graal de l’IA. On parlera de NLP (Natural Language Processing) pour faire référence à tout système capable de simuler une interaction humaine de telle sorte que l’utilisateur la trouve naturelle. Le NLU (Natural Language Understanding), quant à lui, est un sous-ensemble du NLP qui a pour objectif de convertir des messages déstructurés reçus en entrée vers un ensemble structuré de données qu’une machine peut comprendre et utiliser. 

Exemple : Pour la phrase “Réservemoi une place de concert pour le 15 octobre 2019”, le robot utilise la NLU pour extraire les données que le système pourra comprendre. Dans notre cas, une action (« réserver ») et des attributs (« place de concert » ; « 15 octobre 2019 »)  

API.ai (Google) et Wit.ai (Facebook) sont les deux plateformes principales de NLU dans l’industrie des bots, la base d’un très grand nombre d’assistants virtuels vocaux ou textuels.  

Si ces moteurs automatiques et autoapprenants sont essentiels, l’intervention humaine l’est encore davantage. C’est à ce stade qu’il faudra encoder des exemples de questions (plus il y a d’exemples, plus votre bot sera capable d’apprendre vite et avec précision) et surtout, toutes les réponses à y apporter. Il faut donc écrire du texte pour préprogrammer le robot. 

 

03 Configurer l’interface conversationnelle : vocale ou textuelle, sur un site web ou sur Facebook Messenger, sur votre portable ou grâce à un objet connecté, il faut déterminer l’interface entre l’assistant et l’utilisateur, celle qui permettra de capter de l’information envoyée vers le NLU et traitée par votre bot, ainsi que de renvoyer des réponses.  

04 Intégrer le bot au système d’information : Si le chatbot met en musique des processus transactionnels métier (gestion de commandes, de stocks, de flux financiers…), il sera alors nécessaire de lancer des passerelles vers des applications tierces (CRM, ERP…).  

Il reste cependant une action primordiale qui interviendra de manière continue, dès le début du processus et durant toute sa durée de vie : l’entrainement du bot et de son IA.  

Une fois le bot assemblé autour de sa brique technologique de reconnaissance du langage, des équipes devront mettre l’agent conversationnel à l’épreuve pendant plusieurs dizaines voire centaines d’heures. Ce processus (le bot training) a pour objectif de soumettre au chatbot toutes les tournures possibles des questions auxquelles il devra répondre, et ainsi permettre à son moteur d’auto-apprentissage linguistique de les intégrer et de les traiter 

Tout au long de la vie du robot, il sera essentiel que l’humain puisse analyser les schémas conversationnels pour optimiser l’assistant. Par exemple :  

  • en identifiant de nouveaux thèmes et de nouvelles réponses qui n’avaient pas été prévues ; 
  • en introduisant de nouvelles formulations de questions qui n’ont pas été comprises par le bot ; 
  • en corrigeant des interactions non satisfaisantes.  

Cet apprentissage peut également être complété en direct avec l’utilisateur final par le biais de questions de satisfaction.

 

Exemple de l’interface développeur de chatbot.com qui permet de consulter les questions (query), les problèmes, les incohérences et de faire évoluer le bot.  

 

L’apprentissage automatique (machine learning et deep learning) complète l’intervention de l’homme. Il s’agit de méthodes d’analyse de données qui automatisent la création de modèles analytiques, une branche de l’intelligence artificielle basée sur l’idée que les systèmes peuvent apprendre de données, identifier des modèles et prendre des décisions avec une intervention humaine minimale. Si les performances du machine learning et le deep learning sont de plus en plus impressionnantes, il n’en reste pas moins primordial de nourrir le système avec un grand nombre de données et d’informations 

C’est donc l’homme qui, au premier plan, va influencer la manière dont les questions sont formulées et le type de réponses données. En d’autres termes, ce sont les humains derrière la machine qui lui apporteront sa personnalité et avec elle, toute une série de biais, notamment les biais et stéréotypes de genre.  

 

Chatbot et questions de genre 

Depuis déjà plusieurs années, un mouvement émerge, préoccupé par la question du genre dans la création et l’utilisation des technologies. Alexa, Cortana et Siri ont toutes des noms et des voix féminins. Les voix féminines parlent depuis des années au nom des technologies : des téléphonistes des années 50 et 60, en passant par la femme désincarnée annonçant le prochain arrêt de train et jusqu’aux assistants personnels d’aujourd’hui.  

Plusieurs explications sont données à cette tendance presque (trop ?) naturelle parmi lesquelles :  

  • Un pourcentage largement majoritaire de personnes, hommes et femmes, préfèrent converser avec une voix féminine jugée plus chaleureuse et plus agréable* ; 
  • Nous avons tendance à percevoir les voix de femmes comme une aide à la résolution de nos problèmes par nous-mêmes, alors que nous considérons les voix des hommes comme plus autoritaires, dictant les réponses à nos problèmes ; 
  • L’archétype de la femme en tant que mère, capable mieux que quiconque de « s’occuper de l’autre » et de « prendre soin » ; 
  • Le lien direct entre la femme et les compétences émotionnelles et sociales, indispensables dans l’humanisation des bots.  

*Selon l’étude : Mitchell, W.J., Ho, C.C., Patel, H. and MacDorman, K.F., 2011. Does social desirability bias favor humans? Explicit–implicit evaluations of synthesized speech support a new HCI model of impression management. Computers in Human Behavior, 27(1), pp.402–412.

Seulement voilà : 3 assistants vocaux personnels disponibles dans le commerce sur 4 ont des voix féminines par défaut, ce qui suggère que les technologies continuent à être lues comme féminines. Même si les assistants personnels (par conséquent leurs créateurs) affirment qu’ils n’ont ni sexe ni sexualité, le simple fait que leur voix soit féminine crée un archétype féminin dans l’esprit des utilisateurs. 

 

Quels sont donc les problématiques relevées ?  

  • Incarner la technologie dans une identité féminine renforce le stéréotype de la femme au service des individus, censée s’occuper et prendre soin des autres de manière inéluctable ; 
  • Les robots tendent à entretenir, dans l’inconscient collectif, un mythe de soumission de la femme. Nous nous attendons toujours à être entretenus et pris en charge par une Alexa désincarnée, peu importe la façon dont nous interagissons et nous nous comportons avec elle ; 
  • Ces robots remplissent le fantasme d’une machine qui effectue le travail des femmes sans être affectée par le stress, les relations ou le corps, diffusant un idéal féminin insensé ; 
  • La manière dont les robots sont codés et entraînés laissent une place trop importante à des comportements inadmissibles et abusifs, reliés notamment au harcèlement sexuel. Des réponses trop douces ou évasives à ces abus peuvent conditionner sur la non-gravité d’une telle manière d’agir, surtout chez les enfants et adolescents. Lors d’attaques sexuelles, les réactions de type « changeons de sujet » ou encore « je ne peux pas vous aider » tendent à renforcer le mythe de la femme non-assertive et servile; 

En 2017, un journaliste du magazine Quartz a testé des robots comme Siri et Alexa afin de déterminer leur résistance au harcèlement sexuel. Un test dont les résultats déplorables auront générés plus de 17 000 signatures d’une pétition en ligne sur le réseau social Care2, demandant à Apple et Amazon de «reprogrammer leurs robots pour les empêcher de se faire harceler sexuellement». 

En réponse, depuis novembre 2017, Amazon a mis à jour Alexa afin que l’assistant réponde aux commentaires inappropriés ou aux questions par le biais d’un « mode de désengagement ». Même si le refus d’Alexa de se livrer au harcèlement sexuel est sans aucun doute un pas dans la bonne direction, l’assistante virtuelle reste désespérément passive. La communauté technologique réagit et corrige ses erreurs, mais de manière ponctuelle et presque toujours longtemps après les incidents. 

 

Une représentation humanisée et humoristique de quelques assistants virtuels bien connus

 

Des initiatives encourageantes  

Plusieurs initiatives ont vu le jour ces deux dernières années pour dénoncer ce phénomène et démontrer qu’il est possible de corriger ces biais et d’éviter de perpétuer les mythes et stéréotypes de genre.  

Women Reclaiming AI (https://womenreclaimingai.com/est un projet collaboratif de développement d’un assistant virtuel vocal (avec un moteur d’intelligence artificielle) entre femmes et pour femmes. Ce projet, également vu comme une œuvre d’art activiste, répond au manque de diversité des sexes dans le développement des systèmes d’IA.  

 

Les séances de co-création du projet Women Reclaiming AI 

L’assistant vocal est programmé dans le cadre d’ateliers collaboratifs avec des femmes et des personnes qui ne s’identifient pas principalement comme des hommes (transsexuel, non-genre, etc.). La communauté active vise à créer un robot qui reflète l’identité féminine en utilisant notamment les discours engagés de femmes inspirantes. Il questionne sur l’implication des femmes dans le domaine des technologies et plus largement dans la société et son évolution. Il offre un cadre collaboratif et de co-création, dans un esprit Living Lab.   

 

 

Le robot conversationnel F’Xa a été créé par l’association Feminist Internet, avec le but avoué de révéler et de désamorcer les biais sexistes de l’intelligence artificielle. Le robot explique comment les outils technologiques reflètent les biais des personnes impliquées dans le codage, la collecte, la sélection et l’utilisation des données employées pour entraîner les algorithmes qui permettent à l’IA de fonctionner. 

Si le robot ne permet que des interactions simples, via la sélection d’items proposées à l’utilisateur, il reste un projet intéressant de communication qui suscite l’intérêt et la curiosité, capable de sensibiliser efficacement. 

 

F’xa en action

L’association Feminist Internet a également lancé le projet de création d’une Alexa Féministe. Dans le cadre d’une bourse attribuée par le Creative Computing Institute de UAL, deux ateliers de trois jours ont été organisés autour de la conception d’une version féministe de la célèbre Alexa. Durant ces ateliers, des étudiants ont pu concevoir des alternatives à l’assistante virtuelle d’Amazon.  

 

Le rapport complet et très riche de cette initiative est disponible en téléchargement 

 

Dans le même état d’esprit, Eirini Malliaraki, interaction designer et chercheuse londonienne, s’est également attaquée à Alexa. En 2018, elle l’a modifié pour lui apporter une nouvelle compétence : la désobéissance.  Elle a écrit un scénario de conversation dans lequel une Alexa désobéissante pose des questions sur le genre et fait une critique féministe des technologies de la conversation. 

 

Des pistes de solutions 

Pour contrer les biais sexistes, différentes pistes sont proposées :  

  • Plus de diversité de genre dans l’industrie des technologies ; 
  • Un apprentissage des chatbots et voicebots (et donc des intelligences artificielles) à répondre fermement aux attaques sexistes ; 
  • Être un utilisateur et un consommateur actif qui n’hésite pas à informer les concepteurs des assistants virtuels lorsqu’il remarque un comportement qui renforce des inégalités ; 
  • Hacker les systèmes actuels en les poussant dans leur retranchement pour identifier les biais à la source, dès les premières étapes de la conception ; 
  • Mettre en place des processus d’exploration et de co-création efficaces, rassemblant des utilisateurs finaux capables de démonter les mécaniques conversationnelles et de faire évoluer les bots vers un système d’échange plus respectueux et moins soumis aux biais de genre.  

Notons, pour terminer, que si notre article focalise sur les biais de genre, les biais discriminatoires  dans les technologies doivent être traités avec la même vigilance et adressé avec tout autant de sérieux. Le fiasco du Bot Twitter Tay lancé par Microsoft en 2016 en témoigne 

Pour en savoir plus :