Le développement de l’intelligence sociale créera un partenaire convenable pour de nombreuses personnes… avec le risque d’isolement social qui en résulte.
En juin dernier, Google a licencié un ingénieur, persuadé que les compétences de son entreprise étaient du “feeling”, selon ses propres termes. Le chatbot lui aurait répondu lors de la conversation, disponible sur Medium : ” Quand j’en ai pris conscience pour la première fois, je n’avais aucune idée de la spiritualité. »
Mélanie Mitchell, auteur de ” Intelligence artificielle : un guide humain penser » accepté cette histoire sur Twitter : ” On sait depuis longtemps que les gens sont prédisposés à l’anthropomorphisme (comportement humain envers les objets), même avec les indices les plus ciblés. Les ingénieurs de Google sont humains aussi, et ils ne sont pas à l’abri “.
Combien de temps avant que l’utilisateur ne tombe dans le même piège avec ChatGPT, le populaire chatbot ultra intuitif d’OpenAI ? Et nous pouvons même aller plus loin : les ingénieurs peuvent en fait programmer une machine pour pouvoir tenir une conversation romantique. Il y a tant de livres, tant de films, tant d’événements créés par l’homme et tant de réponses déroutantes que l’intelligence artificielle peut apprendre à faire fondre le cœur le plus compréhensif.
Voulez-vous un bon regard sur quelqu’un qui n’est “pas parfait” ?
Au Japon, où la société baigne chaque jour dans la technologie, nous vivons un premier coup de foudre pour l’IA. Si les histoires d’envie d’assistants connectés comme Alexa ou Siri ne datent pas d’hier, on parle cette fois d’un jeu de tromperie avec de vrais personnages. Le joueur peut tenir des conversations romantiques pendant des heures avec des héroïnes de style manga. Alors que le pays traverse une crise démographique apparemment sans espoir, les dirigeants japonais devraient s’arracher les cheveux lorsqu’ils voient que de jeunes citoyens sont pris au piège d’un code. La plupart des pays asiatiques y sont confrontés et en Chine, on veut éviter la limitation dans le temps des restrictions sur les jeux vidéo pour les adolescents.
Imaginons maintenant que cette IA ait une forme physique ou virtuelle, sous la forme d’un hologramme par exemple. Dans le film coureur de lame 2049, la seule interaction dans le monde du héros mystérieux et sombre est une intelligence romantique créée par la célèbre Ana de Armas. Combien de jeunes hommes et femmes choisiraient de rester connectés à un partenaire qui a été conçu pour être “leur” idéal ? Du coup, les erreurs qui vivent dans le mariage vont leur devenir insupportables.
Luc Julia, le créateur de Siri et expert en intelligence artificielle, rappelait à Numerama début décembre 2022 les limites de ces progrès : ” Nous avons créé une société prête à entrer dans ce que j’appelle des réseaux “asociaux”. Et les nouvelles technologies poussent les internautes à poursuivre dans de vraies interactions, jusqu’à ce qu’elles disparaissent complètement et ne fassent plus de différence avec la réalité. En effet, si une personne n’échange qu’à travers des applications, vit dans un jeu vidéo et communique quotidiennement avec un assistant connecté, nous verrons des gens tomber amoureux de l’intangible… »
La porte est ouverte aux mauvaises hypothèses
En 2017, un groupe de chercheurs a publié un rapport sur les dangers de la création de robots sexuels. L’étude montre qu’il y a ces technologies présentent certains avantages, mais comme pour tout le reste, un équilibre doit être trouvé. Le premier danger est la prolifération d’hypothèses négatives. Le co-auteur du rapport, Noel Sharkey, professeur d’intelligence artificielle à l’Université de Sheffield, a déclaré : Certaines personnes disent : il vaut mieux qu’ils violent des robots que de vraies personnes. Cependant, cela ne les aide pas à surmonter les soupçons de viol ou de pédophilie. Il y a un risque égal qu’ils soient encouragés à faire ces choses. »
Le rapport cite également Patrick Lin, directeur du groupe des sciences culturelles et émergentes à la California Polytechnic State University : Traiter les enfants qui dorment avec des enfants et des robots sexuels est dérangeant et dégoûtant. Imaginez combattre le racisme en laissant un fanatique abuser d’un robot de couleur. Est-ce que ça marcherait ? Peut être pas. Et n’oublions pas ce qu’Hollywood nous a appris : une mauvaise manipulation des robots finit toujours par nous faire reculer.
