« OK Google… Raconte-moi une blague »

C’est à ma grande surprise que je découvrais hier l’existence du « Google Home ». Que pouvait bien évoquer ce nom : un énième gadget destiné aux maisons intelligentes signé Google ? Je n’étais pas loin du compte, il s’agissait bien d’un outil de domotique pour piloter sa maison, à la différence près qu’il ne ressemblait pas au boîtier relativement peu intuitif que je m’étais imaginé ; j’avais affaire à un assistant vocal à qui il était apparemment possible de poser n’importe quelle question. Ainsi, à l’instar de la box muette posée en haut d’un meuble, le « haut-parleur intelligent cylindrique doté de deux micros et de quatre Led » [1] avait sa place en plein milieu du salon, érigé en symbole d’une technologie de plus en plus encline à répondre à toutes nos aspirations, pénétrant déjà de très nombreux foyers à l’approche de Noël…

Pour fonctionner, celle-ci doit évidemment être connectée à un smartphone afin d’accéder à la panoplie de services qu’offre d’ores et déjà l’entreprise californienne : faire une recherche, vérifier le trafic ou la météo, ajouter un événement à mon calendrier, me prévenir d’une deadline, établir une liste de courses ou de tâches, allumer automatiquement la lumière, mettre les infos, vérifier le statut d’un vol, suivre un colis, m’appeler un taxi, commander des fleurs, me rappeler où j’ai posé mes clés, lancer notre playlist préférée, me réveiller le matin, me reparler de notre première rencontre, me chuchoter des mots doux, m’offrir des caresses… Euh, non en fait ça, il peut pas le faire. La barrière est fine et difficile à définir, entre le robot et l’humain.

Il est indéniable que c’est un véritable succès technologique : en effet le Google Home sert de relais pour contrôler ses objets connectés directement par la voix. Il promet le confort et l’instantanéité (en même temps qu’une forme d’assistanat), réglée par la convergence des technologies, ou le développement de l’interopérabilité des objets connectés intégrés dans l’habitat, « apportant des solutions simples, fiables et faciles à exploiter. » Ainsi, la gestion de la globalité des dispositifs technologiques est centralisée : enceintes, multiroom audio, télévision, thermostats, climatiseurs, interrupteurs, aspirateurs connectés, caméra de surveillance intelligente, assistant cuisine permettant d’optimiser la cuisson des aliments sous-vide…

Selon les fervents défenseurs de ce type d’innovations techno-scientifiques, ces dernières seraient en mesure d’améliorer notre productivité et notre mémoire, ne représentant en somme qu’un moyen pour être mieux organisé dans un univers saturé d’informations de plus en plus complexes, auxquelles le cerveau ne pourrait faire face sans aide extérieure. Cette idéologie pose problème à plusieurs niveaux.

La technocratisation, ou la « siliconisation » du monde

Si aujourd’hui le Google Home répond à ce besoin de gagner du temps et d’aider quotidiennement à simplifier la vie, il est intéressant de noter d’autre part que le développement des nouvelles puissances technologiques s’accompagne paradoxalement d’un sentiment d’impuissance chez ceux d’entre nous qui se sentent comme « des feuilles dans la tempête, incapables de maîtriser le cours des évènements, tant sociaux que personnels. » [2]. Cela est notamment lié au fait que ces dispositifs entretiennent un certain culte de la vitesse, porté par nos sociétés industrialisées et automatisées.

Nous sommes tellement pris dans un mécanisme de l’urgence, que nous plaçons dans ces technologies un espoir de salut, dans la mesure où elles nous permettront de ne plus être pris par le temps, et à la fois de tout contrôler (comme avec notre chère tour de contrôle 2.0, j’ai nommé le Google Home), tandis que cette accélération à laquelle nous sommes soumis est renforcée par ces dispositifs qui visent une accélération que nous ne pouvons pas suivre. « Nous vivons aujourd’hui l’expérience des cyborgs à plein temps par le biais de notre constante connexion et nous y faisons la découverte de nouvelles formes d’asservissement. » [3]. Cette accélération a un effet délétère sur nous, on ne peut pas suivre le fonctionnement des machines à algorithmes. C’est pourquoi nous nous retrouvons aussitôt dépassés. « Si tout d’abord ce sont les innovations techniques qui ont permis le développement de nouvelles possibilités qui augmentaient le rythme de vie, désormais l’accélération semble s’auto-alimenter, et ainsi (...), nous avons le sentiment que nous n’avons plus le temps de rien entreprendre. » [4].

Enfin, si ces technologies répondent à une volonté d’augmentation de la performance, d’impératif de productivité et d’efficacité, cela signifie de facto qu’elles s’inscrivent dans une logique profondément capitaliste. Ce qui explique qu’elles favorisent un système technoscientifique dont les Steve Jobs et Ray Kurzweil sont les principales effigies, dans lequel ingénieurs et experts se situent au centre des prises de décision, détiennent les réponses à tous les problèmes, proposant à tour de bras des solutions technologiques à des phénomènes sociaux, politiques ou écologiques. Le monde est alors perçu à travers la logique simplificatrice des machines, la science et la technologie prennent une dimension morale et deviennent une idéologie en soi, ayant un pouvoir d’action sur la société [5]. La technologie devient ici une finalité à part entière. L’émergence d’un « techno-empire » n’est guère fictive hélas : la superpuissance hyper-capitaliste de la Silicon Valley en est la preuve, elle concentre le prestige des fameux GAFAM [6], ces 5 sociétés-nation qui pèsent plus lourd que le CAC 40 [7]. Derrière l’« optimisation de l’expérience de l’utilisateur », se cachent des multinationales qui s’appuient sur une non-conscience de l’acte d’achat grâce aux commandes automatisées, un contournement des législations et de l’impôt, du profilage, de la revente de données à des fins de surveillance… « Le génie de cette idéologie est que, contrairement à la colonisation, la silicolonisation ne se vit pas comme une violence subie. Au contraire, elle est souhaitée par ceux qui s’y soumettent. Le bénéfice d’usage des services de Google, d’Amazon, d’Apple et consorts est si fort que les gens acceptent comme un moindre mal de donner à des entreprises leurs informations intimes et de les laisser instaurer une marchandisation toujours plus expansive de nos quotidiens. » [8]

Joan Cornellà, Untitled, 2016.

L’hyper-normalisation de la surveillance électronique

L’assistant domestique intelligent Google Home est « toujours à l’écoute ». Rien de plus normal néanmoins pour un assistant vocal qui par essence, se base sur la reconnaissance vocale du langage naturel. Car pour détecter et réagir aux mots magiques « Ok Google », ce dernier est en permanence à l’affût de ce qui se dit autour de lui. Bien que Google confirme que, dans le cas où ces termes ne sont pas entendus, la séquence audio est stockée localement sur l’appareil puis rejetée, comment en avoir la certitude ?

Au-delà des exemples récents de détournement de ces appareils pour les transformer en micros de surveillance [9], il est intéressant de rappeler l’existence des cas d’espionnage accidentels comme l’affaire du journaliste Arthem Russakovskii, qui se voyait offrir en octobre 2017, une enceinte Google Home Mini pour une phase de test. Réalisant que les diodes de l’appareil clignotaient de façon intempestive sans même être sollicité, il vérifiait l’interface qui recense l’ensemble des activités enregistrées sur les appareils connectés à Google et comprenait que la quasi-totalité de ses conversations avaient été transmises à l’entreprise, en raison d’un bug [10]. Cette anecdote soulève, une nouvelle fois, des interrogations quant à la confidentialité de nos données. Surtout quand elles finissent dans les mains des agences gouvernementales, qui ne se contentent plus de collecter les données issues des communications électroniques des individus, mais s’intéressent désormais aux objets connectés. Pas étonnant, lorsqu’on se remémore les révélations d’Edward Snowden sur le programme de surveillance de masse de la NSA, et plus récemment celles de WikiLeaks, dans lesquelles sont détaillées les techniques de piratage d’objets connectés, mises en place par la CIA, afin de récolter des informations sur des citoyens [11]. Les données ne sont alors plus utilisées à des fins de marketing mais à des fins de « sécurité publique », de surveillance et de renseignement. Se pose ici la question de la dérive autoritaire, sur fond de la lutte contre le terrorisme.

George Orwell décrivait un dispositif d’espionnage ininterrompu dans son roman 1984 : « Il captait tous les sons émis par Winston au-dessus d’un chuchotement très bas. (...) Naturellement, il n’y avait pas moyen de savoir si, à un moment donné, on était surveillé. » [12]. D’après John Simpson, directeur du département Privacy and Technology Project de la société de défense des consommateurs Consumer Watchdog, les assistants vocaux annonceraient bel et bien un avenir orwellien dans lequel les assistants numériques espionnent chacun de nos faits et gestes. Ils seraient « conçus pour vous espionner, vous et votre famille, au sein même de votre foyer afin de rassembler le maximum d’informations sur vos activités. » Il ajoute même qu’« au lieu de vous facturer ces appareils de surveillance, Google et Amazon devraient vous payer pour les installer chez vous. » [13]. Coïncidence : en 2017, le Google Home Mini était même offert chez la plupart des revendeurs high tech de France. Par exemple, chez Boulanger, si vous dépassiez les 300€ d’achat, vous repartiez avec un Google Home Mini entièrement gratuit ! [14]

L’acceptation généralisée de ce type de dispositifs induit une nouvelle fois un risque énorme pour notre liberté, confortée par l’idée que de toute façon, nous n’avons « rien à cacher » : il s’agit pour autant dans les faits de surveillance de masse. Mais associer nos grandes démocraties - avec des institutions, des contre-pouvoirs et des droits fondamentaux - à des sociétés totalitaires… Ça semble tout de suite moins crédible. Au lieu d’une dictature à la 1984, notre situation ressemble de plus en plus à celle d’une dictature consentie, car moins perceptible. Puisqu’à la différence d’une dictature militaire, le pouvoir n’est pas imposé par des institutions de façon verticale, mais de manière fluide à travers des réseaux gérés par des structures qui elles-mêmes produisent des individus formés au et par leurs technologies. Un internaute écrivait d’ailleurs à propos de cela il y a quelques mois : « J’ai le Google Home a la maison, et franchement je m’en fous si il entend ce que je dis ou pas, dans tous les cas j’en suis totalement satisfait, je ne m’en passe plus, bienvenue dans le futur. » [15]

La « cyborgisation », ou l’avènement d’un Google Homme

En effet, contrairement au smartphone ou à l’ordinateur, le Google Home ne demande aucun effort, il est beaucoup plus facile d’accéder à l’objet désiré instantanément. Comme précédemment avec les Google Glass, le dispositif intègre pleinement la réalité de l’utilisateur qui se trouve alors augmentée, on entre ipso facto dans un monde de l’homme augmenté ; l’ère du cyborg, où réel et virtuel s’entremêlent, où la relation entre l’humain et la machine devient de plus en plus fusionnelle. En effet, il est « bien plus naturel de demander à haute voix la météo de demain, que d’ouvrir sur PC et d’aller sur un site Web dédié à la météo. » [16]. Désormais, il faut être connecté et ne pas se séparer du monde en même temps. Les objets intelligents mutent, évoluent et engendrent de nouvelles espèces, préparant l’apogée d’une nouvelle réalité, augmentée, améliorée, où nos capacités cognitives, notre intelligence, se déploient dans notre prolongement qui prend la forme des machines.

Non seulement ce fétichisme technologique se fonde sur une conception de l’homme réductionniste, le plaçant en sujet incapable de répondre aux sollicitations extérieures, sinon grâce à l’intermédiaire de technologies de pointe, comme s’il était incomplet et fatalement soumis aux limites de sa condition humaine ; mais il naît d’une nécessité de répondre à des problématiques auxquelles il ne peut être confronté que dans un environnement anormal, comme nous l’avons vu plus haut : un milieu éloigné du temps et rythme de la nature, défini par la cadence, le temps artificiel dicté par les machines [17].

Un autre problème fait surface lorsque nous créons de nouvelles intimités avec elles, car cela implique que nous reconfigurions ce que nous sommes, et redéfinissions la nature de nos relations. D’autant plus qu’au niveau de la reconnaissance vocale, Google est quasiment capable de tenir une conversation : il est possible de lui demander de jouer avec nous ou de nous raconter des blagues. Il arrive à distinguer les voix, donc s’il y a plusieurs personnes dans le foyer, il sera notamment en mesure de s’adapter [18]. Il suffit de regarder des utilisateurs interagir avec leur Google Home pour se rendre compte du malaise qui s’esquisse lorsque l’on s’essaie à rationaliser cette entité, située à la frontière entre le matériel et l’immatériel, qui semble posséder une intériorité et individualité propre : « - OK Google, as-tu déjà eu une relation amoureuse ? » Et la voix de répondre : « Mon premier amour, c’est la recherche. Et j’en suis toujours éprise. » « - OK Google, veux-tu m’épouser ? » « Ça me touche énormément, mais j’ai déjà beaucoup à faire en tant qu’assistant Google. » [19].

Cela est d’autant plus remarquable chez les enfants, qui construisent leur perception au milieu de ces dispositifs d’un nouveau genre, qu’on pourrait qualifier de « non vivant animé ». Partant du principe que le monde est animé, ils commencent par le comprendre dans les termes qu’ils connaissent le mieux, à savoir eux-mêmes. Or, les « jouets » technologiques possèdent à leurs yeux une pensée voire une sensibilité émotionnelle, tout en étant une simple chose. Les enfants les sollicitent et ceux-ci leur répondent : ils en concluent parfois que les objets parlants et intelligents sont d’une famille proche de la leur, et leur capacité à parler renforce encore plus ce lien d’appartenance [20]. Il suffit de lire le blog de Google pour se rendre compte que les enfants sont les nouvelles cibles du fameux assistant : « L’Assistant Google propose désormais plus de 50 nouveaux jeux, activités et histoires conçus pour les familles avec enfants. Maintenant vous pouvez apprendre, jouer et imaginer ensemble. Votre Assistant a des activités pour divertir tout le monde. Parler à votre assistant (au lieu de fixer un écran) est un moyen facile d’être là, dans la pièce, de passer du temps avec vos proches. Ainsi, que vous soyez à la maison un jour de pluie ou sur la route, votre Assistant peut vous aider à apprendre et à vous amuser en famille. » [21]. Lorsque le dispositif fait quasiment partie de la famille, alors c’est l’enfant qui est le plus susceptible de lui attribuer une certaine « humanité ». Cet animisme technologique est relativement inquiétant dans le sens où, si aujourd’hui les assistants vocaux divertissent et font rire les enfants, dans un futur proche, ceux-ci accepteront très naturellement l’idée d’avoir des robots comme professeurs, comme baby-sitters en plus que compagnons.

Il est clair que nous sommes largués par la nature de ces technologies, qui nous dépassent tout simplement, et devenons alors tous susceptibles d’éprouver le besoin de les humaniser. Mais humaniser le contact aux machines, c’est peut-être inconsciemment déshumaniser le contact aux autres individus en réduisant l’interaction sociale à un simple objectif, à concevoir autrui comme un moyen et non comme une fin, il n’est pas impossible qu’à terme nous finissions par considérer autrui comme un simple objet auquel on accède, juste pour y trouver ce qui semble utile : du réconfort, une information, ou du divertissement [22].

Ce risque est notamment accentué par une réduction à l’élémentaire induite par les machines qui pourrait bien affecter nos communications : celles-ci nous enjoignent à faire un certain nombre de choses et nous nous plions à leur injonction. En effet voici comment « parler » au Google Home : tout d’abord en commençant les phrases par « OK Google ». (Notez qu’il peut y avoir un petit temps d’attente avant d’obtenir une réaction et qu’il faut parfois répéter la phrase en articulant.) Toute commande s’arrête par « OK Google Stop ». Dommage, on ne peut pas négocier avec un assistant vocal (du moins, pas encore). C’est pourquoi nous nous découvrons comme assujettis, en proie à une servitude volontaire, contraints de nous machiniser, de nous simplifier, réduits à répondre à des stimuli en s’adaptant au langage machine, rejetant ce qui relève du monde intérieur, de la pensée, du dialogue intérieur, du sensible. En déléguant aux machines le soin de régler nos relations et nos rapports avec le monde nous finissons par ressembler à ces automates qui n’ont besoin de solliciter en nous que l’élémentaire. Si ces technologies prétendent nous simplifier la vie, elles réduisent aussi nos comportements à la logique de leur fonctionnement dépourvu d’ambiguïté, d’ironie ou d’émotions [23]. Car oui, « l’enceinte connectée de Google est potentiellement sans limite si on sait comment lui parler. (…) Encore faut-il savoir quoi lui demander et comment formuler les demandes. » [24].

Vers un choix civilisationnel nécessaire

Nous devons comprendre que si la technologie nous charme c’est que ce qu’elle prétend offrir parle à notre fragilité humaine et notre mal-être dans un monde déshumanisé, traversé par les flux incessants des algorithmes. Mais le projet de société qu’elle infère promet des répercussions à la fois psychologiques, sociales et politiques car celle-ci étend son pouvoir sur toutes les sphères de notre vie, nous rejoignant dans notre intimité, entraînant chez nous une illusion de contrôle, de liberté et de plaisir, alors qu’en réalité nous y faisons la découverte de nouvelles formes d’asservissement, nous les laissons nous exploiter, pour se rendre maîtres de nous. Rappelons-nous que les dirigeants des GAFAM, qui gagnent des milliers d’euros à la minute grâce à nous, travaillent activement à la création d’un monde à leur image : transhumanisme, eugénisme, puces RFID, IA, humanisation des robots et robotisation de l’humain. Le projet de société de Google est bel et bien celui d’un post-humanisme, d’une humanité « élargie », c’est-à-dire une humanité où cohabitent robots, androïdes, humanoïdes, automates, cyborgs, etc.

C’est pourquoi nous devons cesser d’être aveuglés par ses promesses et tenter d’être lucides, en nous questionnant sur leur réel coût pour soi, pour les autres, pour notre société, nos valeurs, nos relations interpersonnelles… Mais également en se demandant qui en sont les véritables bénéficiaires et quelles sont leurs intentions. En tout cas une chose est sûre : Google veut que vous l’invitiez chez vous.