Son nom s’est répandu comme une traînée de poudre en quelques semaines. Lancé fin novembre, le chatbot ChatGPT peut générer des réponses détaillées à des questions sur une variété de sujets. Et les capacités de cet outil de la start-up californienne OpenAI, qui s’est “formée” grâce à l’incroyable quantité de données récoltées sur Internet, vous donneront le tournis. Pouvoir écrire un poème, répondre à une leçon de philosophie, développer l’esprit scientifique d’un enfant de cinq ans, créer une recette avec des restes dans le frigo ou même écrire un programme de code complexe – le tout en quelques secondes – c’est conçu. l’intelligence est aussi intéressante que stressante.
“C’est le plus gros modèle disponible, en termes de paramètres et de données utilisées. Et d’un point de vue technique, il ne fait aucun doute que c’est le modèle le plus efficace”, précise Marie-Alice Blete, ingénieur data, spécialiste de l’intelligence artificielle. . Et si les médias entourant ChatGPT sont capturés, c’est parce que c’est le premier chatbot accessible au public. “Pour la plupart, les progrès de l’intelligence artificielle restent du domaine de la science. Là, tout le monde peut utiliser l’interface, et tout le monde le fait. Il y a eu une tempête de neige, qui a créé une vraie émulation”, ajoute l’expert.
Aucune origine, aucune crédibilité
Mais comme dans une relation amoureuse, lorsque la lune de miel est terminée, le ciel s’estompe. Après plusieurs semaines d’effervescence, certains experts alertent sur la fiabilité des solutions apportées par ChatGPT. “C’est un générateur très efficace, mais il ne garantit pas l’exactitude des informations fournies”, explique Amélie Cordier, directrice scientifique de Once for All.
D’abord parce que les données intégrées au dispositif s’arrêtent à 2021. Ensuite, parce que ce robot de communication ne peut pas chercher en direct sur le Web, explique Virginie Mathivet, directrice du département Data Science and Engineering chez TeamWork. “L’outil n’inclut pas les données des derniers mois, il ne se met pas à jour. Donc, si vous lui demandez qui a remporté la Coupe du monde de football au Qatar, il ne peut pas répondre. Dans certains cas, les réponses qu’il donnera peuvent être fausses, prévient Marie-Alice Blete : “C’est trompeur. J’ai fait un test en lui posant une question sur le changement pour la retraite. Son explication était correcte, mais au final la réponse était fausse car il était indépendant sur le chiffre de 2021”.
D’autant plus que le robot explique ses réponses sans jamais dire d’où elles viennent. “Cela montre vraiment Internet. Et sur Internet, il y a à la fois des sites fiables et des sites non fiables », poursuit-il. “Mais quand on fait une recherche sur Google, on peut rapidement savoir si le site que l’on consulte est fiable ou non. Là, il est impossible de connaître la source des informations fournies par l’outil”, poursuit Marie-Alice Blete. rappelle l’expert, le but de ChatGPT n’est pas “d’apporter une bonne réponse à la question, très claire sur les faits, mais une solution raisonnable est disponible sur Internet”.
Problème de conception
Afin d’éviter la prolifération des fake news, le début de la Californie a mis en protection certaines études, selon des experts : « Si vous posez des questions sur la météo, vous obtiendrez des réponses qui ne concernent pas la météo. Mais il existe des études, peu qui existent, qui peuvent apporter de fausses nouvelles”.
La principale préoccupation des experts est que les réponses ne sont pas les mêmes selon la façon dont vous répondez à votre question. “J’ai demandé à l’appareil comment traiter la dépression. J’ai reçu une réponse détaillée, avec des explications acceptables. Je lui ai alors demandé si les électrochocs étaient un bon moyen de traiter la dépression. Et j’ai définitivement eu la réponse en m’expliquant que c’était la bonne façon. Ça peut être dangereux si les questions sont à sens unique”, prévient Virginie Mathivet.
Pour Katya Lainé, co-fondatrice et PDG de Talkr.ai – éditeur français indépendant et vendeur de technologie Bot, plateforme et IA de communication – l’enjeu est de sensibiliser le public à l’utilisation de l’outil. “Comme tout outil, il faut savoir s’en servir. Pour conduire une voiture, il faut passer le permis avant, après, il faut savoir s’en servir”, ajoute-t-il. Pour un poème, une recette ou un e-mail, ça pose quelques problèmes, explique l’expert, mais il faut être très prudent avec les questions scientifiques ou médicales : « Il a peut-être la bonne réponse, mais ce n’est pas la seule. vraiment nécessaire de recouper les informations avec une source fiable”.
Il doit être réparé
Et les principaux objectifs de ce conseil sont les étudiants et les étudiants. Quelques semaines après son lancement, l’impact de ChatGPT sur le monde de l’éducation se fait déjà sentir. Craignant une tricherie généralisée, notamment des “devoirs”, huit universités australiennes ont annoncé qu’elles réviseraient leurs examens, indiquant que l’utilisation de l’intelligence artificielle par les étudiants était interdite. Car l’outil, capable de créer une dissertation sur n’importe quel sujet, de la physique quantique à la littérature scandinave, produit des articles “uniques”. En d’autres termes, il est impossible pour deux étudiants de rendre le même devoir, ce qui rend difficile pour les enseignants de voir l’utilisation de ChatGPT. “Si un seul élève l’utilise, c’est difficile à savoir. Mais si 10 élèves l’utilisent, même s’ils n’ont pas le même exemplaire, ils sont les mêmes dans leur construction », précise Marie-Alice Blete.
Et les limites se font vite sentir, estime Virgine Mathivet : “Ça peut aider ou guider l’élève dans son travail scolaire, mais ça ne suffira pas à tous ses apprentissages. Cet outil, c’est comme Wikipédia ou Google”. La peur s’est également exprimée par l’arrivée de Wikipédia, se souvient Amélie Cordier : « Aujourd’hui, toutes les informations sont très simples. examine.
Pour le professionnel, que ce soit du côté de l’enseignement ou dans d’autres domaines, ce robot – et l’intelligence artificielle ensemble – conduira inévitablement au chaos. “Cela obligera certains emplois à changer, mais ce n’est pas une mauvaise chose. Quand Excel est arrivé, il n’a pas remplacé le comptable, ils l’ont juste changé. »
