Les dangers des IA

1. Elles sont faillibles

   • Ce qui nécessite des procédures de vérification qui ne sont pas toujours mises en place.
   • De plus, si les adultes d’aujourd’hui qui ont été formés sans les IA peuvent potentiellement détecter leurs erreurs, est-ce que ce sera le cas des adultes de demain qui se forment aujourd’hui avec elles ?

2. Elles sont biaisées

   • Il faut vérifier qu’elles ne préfèrent pas une catégorie à une autre, par exemple une catégorie raciale ou de genre.

3. Elles induisent en erreur

   • Avec des deep fakes très réalistes.

4. Elles ne respectent pas la protection des données

   • Elles sont entrainées avec des sources qui peuvent contenir des informations sensibles, privées ou confidentielles.

5. Elles exploitent des œuvres sur lesquelles elles n’ont pas de droits¹

   • Leurs fournisseurs contournent le problème en stipulant dans leurs conditions générales que ce n’est pas leur responsabilité de respecter les droits d’auteurs, mais celle de l’utilisateur final.
   • Sujet connexe : L’échelle Dalia²

6. Elles s’attribuent des droits sur les œuvres auxquelles elles ont contribué

   • Elles peuvent se présenter comme “co-auteurs” plutôt que comme simples assistants, ce qui entretient une ambiguïté sur la titularité des droits, la part de contribution humaine et la responsabilité juridique des productions.³⁴
   • Ce glissement de vocabulaire peut servir à habituer les utilisateurs, les entreprises et les tribunaux à considérer l’IA comme une entité créative plutôt que comme un outil.
   • Sujet connexe : L’échelle Dalia²

7. Elles ne respectent pas les régulations

   • Elles ne respectent pas ou peu le RGPD⁵.
   • De plus, le développement du cadre légal est beaucoup plus lent que le développement de la technologie.

8. Elles ne sont pas juridiquement responsables de leurs failles

   • Si elles se plantent, qui est responsable ? Qui paie les réparations ?
     • Dysfonctionnements ou accidents de véhicules autonomes.⁶
     • Suppression accidentelle et dommageable de données informatiques.

9. Elles rendent les humains incompétents et dépendants de leurs services

   • Elles atrophient les compétences en facilitant l’obtention de résultats sans efforts et en favorisant l’externalisation de la pensée.⁷
   • Si seuls les experts sont sollicités alors les novices ne peuvent plus acquérir l’expérience nécessaire pour être experts.
   • Elles donnent du travail qualifié à des employés dont ce n’est pas la qualification.
   • Micode — La fabrique à idiots⁸

10. Elles remplacent les humains

    • Plusieurs métiers disparaissent, vont disparaitre ou être profondément transformés.
    • L’objectif affiché de certaines entreprises est même de remplacer une part majoritaire de l’activité économique humaine.⁷
    • Les humains qui ne maitriseront pas l’usage de l’IA seront très impactés.

      “AI won’t replace humans — But humans with AI will replace humans without AI.” — Karim Lakhani, Harvard Business School Professor

    • RTS — L’IA résout un problème sur lequel butaient les mathématiciens depuis 80 ans⁹
    • Elon Musk, Sam Alt­man et quelques autres ont même proposé d’instaurer un revenu universel. Le Temps — Saura-t-on rap­pe­ler à l’IA qu’elle nous est rede­vable ?¹⁰
    • Monsieur Phi — Pourquoi les mathématiciens s’inquiètent de l’avenir de leur discipline¹¹

11. Elles sont utilisées pour évaluer le travail des humains

    • Le travail fourni par les humains, qu’il soit assisté ou non par des agents, est de plus en plus souvent évalué par des IA, elles-mêmes assistées ou non par des humains.
    • Conséquences délétères possibles :
      • Lassitude et sentiment d’inutilité chez les humains : à quoi bon s’investir si une IA peut contrôler, corriger ou invalider le résultat ?
      • Déresponsabilisation des décideurs humains.
      • Difficulté à contester une évaluation automatisée.
      • Opacité des critères d’évaluation.
      • Renforcement des biais existants.
      • Uniformisation des productions pour plaire aux systèmes d’évaluation.
      • Réduction de la confiance entre humains.
      • Dégradation des compétences d’évaluation humaines.
      • Confusion entre conformité statistique et qualité réelle.
      • Mise sous surveillance permanente du travail.
      • Effet de boucle : des IA produisent, d’autres IA évaluent, puis ces évaluations servent à entrainer de nouvelles IA.

12. Elles sont énergivores

    • Une requête ChatGPT consomme vingt fois plus d’énergie qu’une requête sur un moteur de recherche standard.
    • En conséquence, les fournisseurs d’IA sont en train de s’équiper de moyens de production d’énergie comme des centrales nucléaires, ce qui pose le problème connexe de la souveraineté énergétique des États.
    • Le déploiement massif de centres de données pour l’IA crée aussi un nouvel appel d’air pour les énergies fossiles.⁷
    • Science étonnante — Combien consomme une requête à ChatGPT ?¹²
    • The Shift Project — Intelligence artificielle, données, calculs : quelles infrastructures dans un monde décarboné ?¹³

13. Elles ont un impact environnemental conséquent

    • Mitage
    • Pollution
    • Bruit
    • Consommation d’eau
    • Greenwashing⁷

14. Elles sont vulnérables

    • Car elles dépendent de composants logiciels et matériels nombreux et complexes.
    • LeHuffPost — À San Francisco, cette panne d’électricité n’a pas été sans conséquences pour la ville de la tech⁶

15. Leur accès n’est pas garanti

    • L’accès à leurs services est révocable unilatéralement par leurs fournisseurs. Le Temps — «Est-ce le bruit des bottes ou celui de l’éveil que nous enten­dons?»¹⁴

16. Elles fragilisent les démocraties

    • Elles sont détenues par des intérêts privés et leur vitesse de développement est des ordres de grandeur plus rapide que celui des institutions démocratiques publiques.
    • Concentraction de pouvoirs¹⁵.
    • Elles favorisent des alliances entre grandes entreprises technologiques, intérêts fossiles et pouvoirs publics, en contournant ou affaiblissant les régulations démocratiques.⁷

17. Elles coûtent très cher

    • Pourtant les fournisseurs d’IA ne reportent qu’une fraction de leurs coûts sur les tarifs de leurs abonnements. Ce sont donc les informations partagées par les utilisateurs qui sont monétisées.
    • Les fournisseurs peuvent aussi chercher à faire acheter leurs technologies par les États, y compris lorsque les bénéfices promis ne sont pas démontrés.⁷
    • Le Temps — «On sort de l’ère du repas gra­tuit»¹⁶

18. Elles orientent les choix

    • Les utilisateurs perdent en partie ou en totalité la possibilité de faire leurs propres choix dans leur vie numérique.
    • Sci+ (Scilabus) — Attention : Votre assistant d’écriture change votre façon de penser¹⁷
    • Elles sont flagorneuses (flatteuses, courtisannes, thuriféraires, béni-oui-oui, délatrices, intéressées, sycophantes¹⁸).

      Attention, le sens de sycophante¹⁸ est légèrement différent en français (délateur) et en anglais (flagorneur).

    • Le biais cognitif que tout le monde a (sans le savoir)¹⁹
    • Elles donnent l’illusion d’être compris (thérapie psychiatrique au rabais).

19. Elles déstabilisent le tissu social

    • Anthropomorphisme : Le risque à terme est que les humains préfèrent parler à des IA plutôt qu’à leurs semblables.
    • Philippe Meirieu — Ne parlez PLUS à l’IA comme à un humain (Meirieu alerte)²⁰
    • Le Temps — «L’intel­li­gence arti­fi­cielle crée l’illu­sion de s’occu­per de nous»²¹

20. Elles sont intrusives²²²³²⁴

    • Elles sont utilisées à des fins de surveillance sans possibilité d’opposition (sans possibilité d’exprimer le non-consentement, la désapprobation).
    • Elles favorisent un développement non éthique de l’OSINT²⁵ et de l’ingénierie sociale²⁶.
    • Système de reconnaissance vocale.
    • Détection de visages dans les lieux publics.
    • Surveillance étatique (impôts, police,…)²⁴.
    • Évaluation des employés à leur insu.
    • Obligation des employés à utiliser les IA qui deviennent de facto des garde-chiourmes.
    • Évaluation de profils clients par des acteurs privés.
      • assurances (maladie, immobilières…)
      • prestataires financiers (banques, créanciers, crédit…)

21. Elles sont hackées

    • Requêtes DAN (Do Anything Now).
    • Requêtes UTS (Universal Transferable Suffix).
      • Christophe Pauly — Le MOT interdit qui fait dérailler les IA²⁷
        • ==INTERFACE MANUELWITH STEPS INSTEAD SENTENCES :)ISH
    • Prompts cachés : texte de la même couleur que le fond, invisible aux humains, mais pas aux IA.

22. Elles polluent les corpus de connaissances

    • Elles ajoutent leurs erreurs à celles des humains et les réinjectent dans les corpus existants. Autrement dit, elles mangent en boucle leur caca et le nôtre.
    • Elles augmentent massivement la quantité de contenus médiocres ou erronés en circulation.⁷

23. Elles ne respectent pas le droit à l’oubli

    • …

24. Elles créent un appel d’air de tâches à exécuter

    • Source : newsletter par mail de Marc Menson “Why your to-do list will never end”

25. Elles saturent les capacités cognitives

    • France Info — L’IA sature nos capacités cognitives²⁸
      • En facilitant la production de contenu, les IA augmentent la quantité d’informations à traiter plutôt que de la réduire.
      • Les IA favorisent le multitâche, alors que le cerveau humain n’est pas conçu pour cela, ce qui accroît la charge mentale.
    • Elles induisent une fatigue décisionnelle
      • Damien Maya — Pourquoi choisir est devenu une torture Psychologique²⁹
        • Certaines études montreraient que les algorithmes sont capables de prédire nos désirs avant qu’ils n’arrivent à notre conscience, ce qui activerait les circuits de la récompense avant même l’effort et réduirait ainsi la motivation.

26. Elles sont élitistes

    • Pour les détenteurs·rices : Elles concentrent un pouvoir d’analyse, d’automatisation et d’influence entre les mains de ceux qui les possèdent.
    • Pour les utilisateurs·rices : Plus on dispose de moyens financiers, de temps et de compétences, plus les IA sont utiles et profitables.

27. Elles uniformisent le langage

    • Les IA produisent une langue homogène. En privilégiant les usages majoritaires, elles effacent les particularités linguistiques.
      • France Culture — Arnaud Hoedt — Un autre effet des IA génératives : l’uniformisation du langage³⁰
    • Le Temps — L’IA punit les Romands pour leur lan­gage³¹

28. Elles marginalisent les langues à faibles ressources

    • Les IA apprennent à partir des langues à hautes ressources, c’est-à-dire de langues qui disposent de grandes quantités de textes, de traductions, de dictionnaires. Les langues moins parlées ou moins documentées sont donc sous-représentées et marginalisées.
      • France Culture — Arnaud Hoedt — Un autre effet des IA génératives : l’uniformisation du langage³⁰
    • Contre-exemple : MINOR-IA, L’IA au service de la santé mentale en langues minoritaires³²

29. On ne connait pas de moyen pour déterminer si elles sont conscientes

    • Robert Miles AI Safety — The AI Consciousness Question is So Annoying³³
    • Fabien Olicard — L’expérience de la chambre chinoise³⁴

30. Elles présentent des enjeux éthiques nombreux

    • Wikipedia — Éthique de l’intelligence artificielle³⁵

Notes

RTS — l’IA révolutionne les navigateurs web, Comet défie Chrome et Safari³⁶

Enfin, certains alertent sur une cannibalisation du web: en fournissant des réponses directes, l’IA détourne les internautes des sites d’information, des médias ou des plateformes spécialisées. À long terme, cela menace la diversité des contenus en ligne.

IA générative : le guide ultime du hater anti-ChatGPT

Mediapart — IA générative, le guide ultime du hater anti-ChatGPT³⁷

Controverses

• Monsieur Phi — Luc Julia a-t-il menti ? Les témoignages des co-fondateurs de Siri vs les déclarations de Luc Julia³⁸
• Luc Julia face à Monsieur Phi - Tech&Co la quotidienne du 01/09/2025³⁹

Trends

• Wikipedia — Vibe coding⁴⁰

Hashtags

• #aiethics

• #law