ChatGPT parle: l’avancée séduisante mais risquée

By Catherine Cochard for Tribune de Genève
Monday, November 4, 2024

• 171
• More

Le mode vocal «avancé» de l’app permet de converser avec l’interface comme avec quelqu’un au téléphone. Ce qui n’est pas sans danger, s’inquiètent des experts.

Le mode vocal avancé offre toutes sortes d’applications. «La valeur ajoutée de la reconnaissance vocale dans ChatGPT, c’est aussi son utilisation par des personnes malvoyantes ou aveugles, relève Stéphane Koch, spécialiste des questions numériques et vice-président d’ImmuniWeb, une société active dans la sécurité des applications. Le niveau d’interaction est de loin supérieur à ce dont sont capables les autres assistants vocaux.»

Mais le spécialiste met en garde contre les risques présentés par cette fonctionnalité. «Le mode vocal avancé n’est ni doué d’empathie ni capable de réellement comprendre le contexte émotionnel dans lequel se trouve son interlocuteur. L’IA n’a, en l’état, pas de capacités cognitives. Il ne s’agit que de mimétisme.» Ses réponses doivent être considérées avec prudence. «D’autant plus si on est émotionnellement fragilisé, puisqu’on aura tendance à chercher une validation, le fameux biais de confirmation, plutôt qu’une analyse clinique de la situation.»

Le problème, pour Stéphane Koch, est aussi sécuritaire. Lorsqu’on échange oralement avec ChatGPT, on cède une partie de ce qui permet de nous identifier. «Les micros de nos smartphones sont parfaitement capables d'enregistrer toutes les nuances de notre empreinte vocale. C’est une donnée biométrique, ce n’est pas anodin! «Advanced voice» est capable d’analyser plus de 70 caractéristiques physiques qui contribuent à la production de la voix, créant ainsi une «empreinte vocale» unique pour chaque utilisateur.»

Nouveau palier franchi

Avec la voix, un nouveau palier est franchi. «Plus ces IA arriveront à imiter le fonctionnement cognitif humain, moins nous aurons la capacité de nous distancier des informations qui nous sont servies, ajoute Stéphane Koch. Le fait de dialoguer est une mise en scène qui rend l’échange sympathique, mais qui n’est pas gage de qualité! ChatGPT n’est pas le meilleur outil pour s’informer.» D’autres apps – Perplexity, notamment – sont plus pertinentes dans leur manière de croiser les sources et de les analyser, souligne le spécialiste.

«Notre rapport à l’oralité est très différent de notre rapport au texte, ajoute Olivier Glassey, sociologue du numérique à l’Université de Lausanne. Pour nous, la parole est d’abord une incarnation, même lorsqu’elle est synthétique. Et les développeurs ont très bien su ajouter des hésitations, des respirations, des intonations, des éléments presque imperceptibles qui participent à une anthropomorphisation de la machine.» Read Full Article