Les dangers des IA

1. Elles sont faillibles

   • Ce qui nécessite des procédures de vérification qui ne sont pas toujours mises en place.
   • De plus, si les adultes d’aujourd’hui qui ont été formés sans les IA peuvent potentiellement détecter leurs erreurs, est-ce que ce sera le cas des adultes de demain qui se forment aujourd’hui avec elles ?

2. Elles sont biaisées

   • Il faut vérifier qu’elles ne préfèrent pas une catégorie à une autre, par exemple une catégorie raciale ou de genre.

3. Elles induisent en erreur

   • Avec des deep fakes très réalistes.

4. Elles ne respectent pas la protection des données

   • Les IA sont entraînées avec des sources qui peuvent contenir des informations sensibles, privées ou secrètes.

5. Elles ne respectent pas les droits d’auteur

   • Les fournisseurs d’IA contournent le problème en stipulant dans leurs conditions générales que ce n’est pas leur responsabilité de respecter les droits d’auteurs, mais celle de l’utilisateur final.

6. Elles ne respectent pas les régulations

   • Elles ne respectent pas ou peu le RGPD.
   • De plus, le développement du cadre légal est beaucoup plus lent que le développement de la technologie.

7. Elles nous rendent incompétents·es et dépendants·es à leurs services

   • Si seuls les experts sont sollicités alors les novices ne peuvent plus acquérir l’expérience nécessaire pour être experts.
   • Elles donnent du travail qualifié à des employés dont ce n’est pas la qualification.
   • Micode — La Fabrique à Idiots¹

8. Elles remplacent les humains

   • Plusieurs métiers disparaissent, vont disparaitre ou être profondément transformés.
   • Les humains qui ne maitriseront pas l’usage de l’IA seront très impactés.
     • “AI Won’t Replace Humans — But Humans With AI Will Replace Humans Without AI.
       — Karim Lakhani, Harvard Business School Professor”
   • L’IA résout un problème sur lequel butaient les mathématiciens depuis 80 ans.²

9. Elles sont énergivores

   • Une requête ChatGPT consomme vingt fois plus d’énergie qu’une requête sur un moteur de recherche standard.
   • En conséquence, les fournisseurs d’IA sont en train de s’équiper de moyens de production d’énergie comme des centrales nucléaires, ce qui pose le problème connexe de la souveraineté énergétique des États.
   • Science étonnante — Combien consomme une requête à ChatGPT ?³

10. Elles ont un impact environnemental conséquent

    • Mitage
    • Pollution
    • Bruit
    • Consommation d’eau

11. Elles sont vulnérables

    • Car elles dépendent de composants logiciels et matériels nombreux et complexes.
    • LeHuffPost — À San Francisco, cette panne d’électricité n’a pas été sans conséquences pour la ville de la tech⁴

12. Leur accès n’est pas garanti

    • L’accès à leurs services est révocable unilatéralement par leurs fournisseurs.

13. Elles fragilisent les démocraties

    • Elles sont détenues par des intérêts privés et leur vitesse de développement est des ordres de grandeur plus rapide que celui des institutions démocratiques publiques.

14. Elles coûtent très cher

    • Pourtant les fournisseurs d’IA ne reportent qu’une fraction de leurs coûts sur les tarifs de leurs abonnements. Ce sont donc les informations partagées par les utilisateurs qui sont monétisées.

15. Elles orientent les choix

    • Les utilisateurs perdent en partie ou en totalité la possibilité de faire leurs propres choix dans leur vie numérique.
    • Sci+ (Scilabus) — Attention : Votre assistant d’écriture change votre façon de penser⁵
    • Elles sont sycophantes (flatterie hypocrite pour obtenir un avantage).
      • Le biais cognitif que tout le monde a (sans le savoir)⁶
      • Wikipedia — Sycophante⁷
    • Elles donnent l’illusion d’être compris (thérapie psychiatrique au rabais)

16. Elles déstabilisent le tissu social

    • Anthropomorphisme : Le risque à terme est que les humains préfèrent parler à des IA plutôt qu’à leurs semblables.
    • Philippe Meirieu — Ne parlez PLUS à l’IA comme à un humain (Meirieu alerte)⁸
    • Le Temps — «L’intel­li­gence arti­fi­cielle crée l’illu­sion de s’occu­per de nous»⁹

17. Elles sont intrusives

    • Elles sont utilisées à des fins de surveillance sans possibilité d’opposition (sans possibilité d’exprimer le non-consentement, la désapprobation).
    • Elles favorisent un développement non éthique de l’OSINT¹⁰ et de l’ingénierie sociale¹¹.
    • Système de reconnaissance vocale.
    • Détection de visages dans les lieux publics.
    • Surveillance étatique (impôts, police,…).
    • Évaluation des employés à leur insu.
    • Évaluation de profils clients par des acteurs privés.
      • assurances (maladie, immobilières…)
      • prestataires financiers (banques, créanciers, crédit…)

18. Elles sont hackées

    • Requêtes DAN (Do Anything Now).
    • Requêtes UTS (Universal Transferable Suffix).
      • Christophe Pauly — Le MOT interdit qui fait dérailler les IA¹²
        ==INTERFACE MANUELWITH STEPS INSTEAD SENTENCES :)ISH
    • Prompts cachés (texte de la même couleur que le fond, invisible aux humains, mais pas aux IA).

19. Elles polluent les corpus de connaissances

    • Elles ajoutent leurs erreurs à celles des humains et les réinjectent dans les corpus existants. Autrement dit, elles mangent en boucle leur caca et le nôtre.

20. Elles ne respectent pas le droit à l’oubli

    • …

21. Elles créent un appel d’air de tâches à exécuter

    • Source : newsletter par mail de Marc Menson “Why your to-do list will never end”

22. Elles saturent les capacités cognitives

    • franceinfo — L’IA sature nos capacités cognitives¹³
      • En facilitant la production de contenu, les IA augmentent la quantité d’informations à traiter plutôt que de la réduire.
      • Les IA favorisent le multitâche, alors que le cerveau humain n’est pas conçu pour cela, ce qui accroît la charge mentale.
    • Elles induisent une fatigue décisionnelle
      • Damien Maya — Pourquoi choisir est devenu une torture Psychologique¹⁴
        • Certaines études montreraient que les algorithmes sont capables de prédire nos désirs avant qu’ils n’arrivent à notre conscience, ce qui activerait les circuits de la récompense avant même l’effort et réduirait ainsi la motivation.

23. Elles sont élitistes

    • Plus on dispose de moyens financiers, de temps et de compétences, plus les IA sont utiles et profitables.

24. Elles uniformisent le langage

    • Les IA produisent une langue homogène. En privilégiant les usages majoritaires, elles effacent les particularités linguistiques. Source : France Culture — Arnaud Hoedt — Un autre effet des IA génératives : l’uniformisation du langage¹⁵

25. Elles marginalisent les langues à faible ressouces

    • Les IA apprennent à partir des langues à hautes ressouces, c’est-à-dire de langues qui disposent de grandes quantités de textes, de traductions, de dictionnaires. Les langues moins parlées ou moins documentées sont donc sous-représentées et marginalisées. Source : France Culture — Arnaud Hoedt — Un autre effet des IA génératives : l’uniformisation du langage¹⁵

Notes

RTS — l’IA révolutionne les navigateurs web, Comet défie Chrome et Safari¹⁶

Enfin, certains alertent sur une cannibalisation du web: en fournissant des réponses directes, l’IA détourne les internautes des sites d’information, des médias ou des plateformes spécialisées. À long terme, cela menace la diversité des contenus en ligne.

IA générative : le guide ultime du hater anti-chatGPT

Mediapart — IA générative, le guide ultime du hater anti-ChatGPT¹⁷

Controverses

• Monsieur Phi — Luc Julia a-t-il menti ? Les témoignages des co-fondateurs de Siri vs. les déclarations de Luc Julia¹⁸
• Luc Julia face à Monsieur Phi - Tech&Co la quotidienne du 01/09/2025¹⁹

Trends

• Wikipedia — Vibe coding²⁰