Berne explique les atouts et les risques de l’IA à ses employés

By Christophe Pinol for Tribune de Genève
Friday, February 9, 2024

• 1.1k
• More

Dire que les outils d’intelligence artificielle (IA) sont aujourd’hui devenus un centre d’intérêt majeur est un doux euphémisme. L’an passé, le terme «ChatGPT» est arrivé en tête des recherches effectuées en Suisse sur Google. En à peine un peu plus d’un an d’existence, le logiciel aux 100 millions d’utilisateurs est ainsi entré par la grande porte dans nos vies et beaucoup l’utilisent aujourd’hui pour diverses tâches au quotidien – recherches, traductions, présentations PowerPoint, suggestion de recettes –, tandis que des dizaines d’autres outils d’IA générative se sont engouffrés dans la brèche. Mais avec quels risques pour leurs utilisateurs?

Un guide de la Confédération

Consciente des failles et des limites de ceux-ci, l’administration fédérale vient tout juste de publier un aide-mémoire pour aider ses collaborateurs dans leur utilisation. On y lit, entre autres, qu’il ne faut en aucun cas y saisir des informations sensibles ou confidentielles. Normal, on sait que les données fournies sont susceptibles d’être utilisées par des tiers. Mais si ces recommandations sont avant tout destinées à un usage interne, on peut toutefois aisément les appliquer à notre quotidien.

«Dans l’ensemble, je trouve le document bien conçu, décrypte pour nous Stéphane Koch, vice-président d’ImmuniWeb SA et expert en stratégie numérique et sécurité. Il donne un certain nombre de lignes directrices utiles à tout un chacun. Il sensibilise surtout au fait que les informations fournies par une IA ne sont pas forcément fiables mais qu’en comprenant ses modes de fonctionnement et de dysfonctionnement, on peut l’utiliser avec une vraie valeur ajoutée.»

Concernant ChatGPT et ses dérivés, on connaît en tout cas leur plus gros défaut: en se nourrissant de tout ce qu’ils trouvent sur internet, ils peuvent générer des textes truffés d’erreurs. «Il faut sans cesse remettre en question les résultats obtenus», confirme Stéphane Koch. Vérifier leurs réponses avec des questions de contrôle, faire preuve de discernement… Et commencer par poser des questions neutres pour ne pas orienter la machine. Car l’IA a hérité d’un certain nombre de biais humains, notamment le biais de confirmation, qui influence les résultats dans le sens d’un stéréotype établi.

Des lacunes dans les exemples

L’expert soulève toutefois quelques lacunes dans le document édité par la Confédération. «Ils auraient par exemple pu citer quelques-uns des outils fiables parmi les centaines disponibles. Il y a en effet à boire et à manger dans le domaine.» Certains logiciels sont ainsi susceptibles de voler les données, ou encore de permettre d’activer à distance nos micros et caméras.

«Je reste aussi dubitatif sur le fait que l’administration recommande à ses employés l’utilisation de leur adresse professionnelle et qu’elle n’impose pas l’utilisation de la double authentification. On a déjà vu des comptes piratés se retrouver sur le dark web. Sans compter que les simples questions posées à l’IA pourraient fournir aux entreprises derrière ces outils bon nombre d’informations liées à notre administration. J’ose d’ailleurs espérer que le département militaire a intégré ces différents éléments dans sa propre réflexion.»

Quelle productivité au final?

Autre souci observé par notre expert: la mise en avant du gain de productivité promis par ces outils. Et on rejoint là l’une des plus grandes craintes liées à leur utilisation, à savoir les nombreuses pertes d’emplois que ceux-ci entraîneraient (300 millions dans le monde selon une récente étude du cabinet Goldman Sachs).

«L’administration fédérale encourage ses collaborateurs à «être créatifs avec l’IA en augmentant leur productivité, continue Stéphane Koch. Le problème, c’est que c’est à double tranchant: si cinq personnes effectuent chacune 20% de travail en plus à l’aide de ces outils, l’entreprise se retrouve avec un poste en trop. Et il y a de grandes chances pour que cet «avantage» se retourne en réalité contre les utilisateurs.» L’IA dans votre téléphone

Mais la technologie prend encore de l’ampleur aujourd’hui en s’invitant de plain-pied dans nos smartphones. Le nouveau Samsung, le Galaxy S24, est dorénavant doté d’une flopée d’applications dopées à l’IA.

«On peut se demander dans quelle mesure cette automatisation de l’IA risquerait de nous rendre dépendants de celle-ci. Sans parler de l’impact sur notre vie privée et des risques de profilage en rapport avec la masse des données personnelles qui lui est communiquée à travers nos périphériques mobiles. Une chose est sûre: ces outils ont énormément de potentiel. Ils nous font gagner du temps, nous permettent d’accéder à la connaissance… ChatGPT, c’est le superélève qui a réponse à tout. Mais qui reste faillible si on ne l’utilise pas correctement. Et contrairement à La Poste, qui vient de publier son propre guide d’utilisation sans la moindre mise en garde, la Confédération a le mérite de proposer une démarche encadrée.» Read Full Article