L’IA, de nouvelles questions et de nouveaux risques et défis

En novembre 2024, nous avions écrit ce billet, que vous pouvez aussi écouter : Intelligences artificielles, quoi de neuf dans la vie en général et au Dream Café ? Nous avons poursuivi nos conversations et nous pouvons affirmer que l’intelligence artificielle est devenue une commodité pour de plus en plus de personnes, ce dont nous avons rendu compte dans un précédent billet. En même temps, elle crée de nouvelles questions et de nouveaux risques et défis.

L’IA devient tellement une commodité qu’il faut faire attention à ne pas céder à la facilité

Ceci concerne des rédactions. « J'essaie toujours de faire un premier jet toute seule pour savoir ce que je veux dire, de la façon dont je veux le dire. Ensuite j'utilise l’IA pour étoffer, compléter. »

Peu importe le langage des rédactions. « En tant qu'enseignant de langages "évolués" (C# et Java principalement), je suis souvent confronté à des étudiants faisant appel à ces outils plutôt que de réfléchir et de se référer au cours. Les résultats sont souvent mauvais (code non optimisé et inutilement complexe) voire complètement inutilisables (mauvaises références, failles de sécurité béantes, ...). »

Pour faire des recherches, le risque est fort de développer des comportements de paresse. « Ma nièce me disait même "flemme de chercher par moi-même, je demande à ChatGPT." »

Notez que « Le moteur de recherche nous donne le contrôle sur l'intégralité des liens que nous visitons, pour le meilleur et pour le pire (plus complet, mais plus long). »

En ce qui concerne le travail de synthèse, passer par de l’IA peut briser des dynamiques d’apprentissage.  « Quand on utilise l'IA, j'ai souvent la sensation de moins apprendre ou de moins retenir l'info. Peut-être parce que l'info arrive tellement rapidement qu'on n'a pas le temps d'en retenir le contenu. »

Des usages de l’IA risquent de créer de la déconsidération de soi et d’ôter certaines émotions

Une personne critique littéraire déclare : « Je n'aurais pas la conscience tranquille en me disant que ce n'est pas moi qui ai écrit la critique. »

« Je préfère réfléchir à la construction des phrases et le faire par moi-même car lorsque le destinateur lit le texte, il comprend de quoi je parle et on ressent une certaine émotion en le parcourant alors que de faire un mail par le biais de l'IA, cela restera froid, impersonnel et sans émotion. »

Notez que la survenue d’émotions concerne autant celui ou celle qui envoie que celui ou celle qui reçoit une communication.

Le presque parfait machinique est dérangeant

« Ce côté "presque amical" de l'IA me dérange. » Ce propos fait penser à cet écrit de Dominique Lestel et de Patrice Killoffer qui s’intilule « Machines insurrectionnelles ». Les auteurs développent cette idée selon laquelle des machines déconcertent les hommes qui doivent constamment négocier avec elles et posent la question de ce que signifie « être vivant ».

L'IA s’impose à nous, agace parfois, et demande de la vigilance

« Je commence à découvrir l'IA sur mon smartphone Samsung. »

« Peut-être un peu intrusif quand je vois l'onglet santé qui va nous donner des conseils. Je ne suis pas fan. Déjà le message quand on met le son trop fort avec des écouteurs peut être agaçant (même si utile) étant donné la qualité de l'écouteur alors si en plus mon téléphone me dit que je n'ai pas assez marché ou que je devrais faire-ci ou sa je ne suis pas pour. »

« Ce qui me gêne dans l'IA c'est qu'on ne peut pas tout à fait lui faire confiance donc c'est une perte de temps s’il faut tout vérifier. »

« Quant sera-t-il de la désinformation (deepfake…) après des années d'amélioration quand on voit les possibilités actuelles ? »

Elle amène à se poser des questions sur la protection des données et des créations

« Là où j'ai un point d'attention c'est que plus l'IA est utilisée et plus elle collecte de données sur nous. Dès lors, comment ces données sont-elles traitées et comment sont-elles réutilisées ? Et Quid des données de santé ? Ce sont des questions fondamentales, notamment pour les IA chinoises. »

« Quel contrôle sur la manière dont sont entraînées les IA ? (tant dans l'orientation de résultats, que l'utilisation de "styles" qui peuvent s'apparenter à du vol - dans le cadre de création comme des images, de la musique, etc.) »

Ainsi que sur leurs limites intrinsèques

« Et puis, de plus en plus, j'ai senti les limites : faute d'être entraînées sur des données à jour, les IA avaient souvent un train (ou deux) de retard sur les sujets pointus... Elles hallucinaient souvent, mais sans rien perdre de leur aplomb. Pire que tout, elles étaient clairement programmées pour brosser dans le sens du poil. Donc je ne les utilise que pour analyser et synthétiser des textes longs, ou de grandes quantités d'informations. »

Elle est gourmande en énergie mais on ne sait pas dire à quel point ; peut-être conviendrait-il de la réserver à des usages vraiment utiles

« Pour la plupart des recherches simples, il faut utiliser les moteurs de recherche classiques qui sont bien meilleurs pour l'environnement car l'IA est vraiment très vorace en énergie. »

« Je me demande aussi leur impact écologique on nous dit qu'elles sont très consommatrices de ressources mais finalement les infos sont sur d'anciennes versions donc finalement j'ai l'impression de ne pas avoir de vraie réponse sur ce point-là. »

« Il ne faut pas s'habituer à ces outils, qui devrait être dédié à l'industrie, au médical..., le particulier, lui, finalement n'en a pas vraiment besoin je pense »

Notez en effet que les interactions avec des IA comme ChatGPT pourraient consommer 10 fois plus d’électricité qu’une recherche Google classique d’après l’AIE (source : https://www.polytechnique-insights.com/tribunes/energie/ia-generative-la-consommation-energetique-explose/).

Elle risque d’être coûteuse et on ne sait pas ce qu’elle coûte

« Quel va être le prix à payer pour utiliser sans limite une IA quand elles seront stables ? »

Elle pose des questions de philosophie politique inédites et passionnantes

« Je me pose la question de savoir quelles restrictions ont les IA par leurs propres concepteurs. J'ai bien remarqué que sur certaines questions, elles sont bloquées (politiques, maladies mentales). Pourquoi il n'y a pas, dans les débats politiques et publics, une vraie réflexion sur un monde qui va intégrer l'IA dans son quotidien et quels changements de sociétés il va falloir prévoir. »

« J'adore l'idée de pouvoir, avec l'IA, "prêter attention à des choses qui nous échappent" », en réaction à un article de François Lévin intitulé « Dépasser les lignes de défense philosophiques contre l'IA. Pour une intelligence synthétique », pp. 69-93 de cet ouvrage Ce qui échappe à l'intelligence artificielle, sous la direction de François Lévin et Etienne Ollion.

Propos rassemblés par LorisGre, Phil7 et Rosario, mai 2025