La semaine dernière, Google a fait une démonstration de Duplex, une IA destinée à passer des appels téléphoniques au nom des utilisateurs. Selon la personne à qui vous demandez, c’est époustouflant ou dystopique.
Voici la présentation, si vous l’avez manquée – la démo commence vers 1:12 si vous souhaitez ignorer le préambule.
La première chose que vous remarquerez: cette chose est assez bonne pour penser sur ses pieds. Ceci est un enregistrement, pas une démo en direct, ce qui signifie que c’est le meilleur scénario pour la technologie. Mais il n’est pas difficile d’imaginer que quelque chose comme ça soit utile, surtout si vous détestez passer des appels téléphoniques. En savoir plus sur le blog Google si vous êtes intéressé par la façon dont tout cela fonctionne, il y a aussi quelques démos.
Plus de quelques personnes ont remarqué que Duplex insère des mots de remplissage comme «umm», ce qui est clairement destiné à rendre la machine plus humaine. Est-ce une fonctionnalité utile, rendant l’interaction plus transparente ou une tromperie délibérée?
Je suis vraiment dérangé et dérangé de voir à quel point il est moralement mauvais pour la voix de l’Assistant Google d’agir comme un humain et de tromper d’autres humains sur l’autre ligne d’un appel téléphonique, en utilisant des mots croisés et d’autres bizarreries de langage. « Salut euh, avez-vous quelque chose de disponible le 3 mai? » # io18
– Bridget Carey (@BridgetCarey) 8 mai 2018
Ce truc est vraiment, vraiment basique, mais: toute interaction avec la technologie ou les produits des entreprises technologiques doit exister dans un contexte de consentement éclairé. Quelque chose comme #GoogleDuplex échoue à ce test, _par conception_. C’est un défaut irréparable.
– Anil Dash (@anildash) 9 mai 2018
Google a publié plus tard une déclaration indiquant que Duplex s’identifierait comme une IA, ce qui répond à certaines de ces plaintes. Mais il y a quelque chose de troublant à propos de l’IA qui prétend être humaine dans des situations vaguement sociales, et je pense que ce genre de refoulement ne fera que s’intensifier à mesure que la technologie s’améliorera.
