ELLES SONT FAILLIBLES
- Ce qui nécessite des procédures de vérification qui ne sont pas toujours mises en place.
- De plus, si les adultes d’aujourd’hui qui ont été formés sans les IA peuvent potentiellement détecter leurs erreurs, est-ce que ce sera le cas des adultes de demain qui se forment aujourd’hui avec elles ?
ELLES SONT BIAISÉES
- Il faut vérifier qu’elles ne préfèrent pas une catégorie à une autre, par exemple une catégorie raciale ou de genre.
ELLES NE RESPECTENT PAS LA PROTECTION DES DONNÉES
- Les IA sont entraînées avec des sources qui peuvent contenir des informations sensibles, privées ou secrètes.
ELLES NE RESPECTENT PAS LES DROITS D’AUTEUR
- Les fournisseurs d’IA contournent le problème en stipulant dans leurs conditions générales que ce n’est pas leur responsabilité de respecter les droits d’auteurs, mais celle de l’utilisateur final.
ELLES NE RESPECTENT PAS LES RÉGULATIONS
- Par exemple, elles ne respectent pas ou pas complètement le RGPD.
- De plus, le développement du cadre légal est beaucoup plus lent que le développement de la technologie.
ELLES VONT REMPLACER LES HUMAINS
- Plusieurs métiers vont disparaitre ou être profondément transformés.
- Mais les humains qui ne maitriseront pas l’usage de l’IA seront les plus impactés.
- “AI Won’t Replace Humans — But Humans With AI Will Replace Humans Without AI.
— Karim Lakhani, Harvard Business School Professor”
ELLES SONT ÉNERGIVORES
- Une requête ChatGPT consomme vingt fois plus d’énergie qu’une requête Google.
- En conséquence, les fournisseurs d’IA sont en train de s’équiper de moyens de production d’énergie comme des centrales nucléaires, ce qui pose le problème connexe de la souveraineté énergétique des États.
- Science étonnante — Combien consomme une requête à ChatGPT ?
ELLES SONT TRÈS VULNÉRABLES AUX DÉFAILLANCES DES SYSTÈMES DONT ELLES DÉPENDENT ET PEUVENT DONC FACILEMENT TOMBER EN PANNE
- D’où la nécessité de prévoir des systèmes de secours.
- À San Francisco, cette panne d’électricité n’a pas été sans conséquences pour la ville de la tech
LEURS FOURNISSEURS PEUVENT BANNIR LES UTILISATEURS
- D’où la nécessité de prévoir des alternatives.
ELLES COÛTENT TRÈS CHER
- Pourtant les fournisseurs d’IA ne reportent qu’une fraction de leurs coûts sur les tarifs de leurs abonnements. Ce sont donc les informations partagées par les utilisateurs qui sont monétisées.
ELLES PEUVENT ORIENTER LES CHOIX
- Les utilisateurs perdent en partie ou en totalité la possibilité de faire leurs propres choix dans leur vie numérique.
- Attention : Votre assistant d’écriture change votre façon de penser
ELLES PEUVENT INDUIRE EN ERREUR
- Avec des deep fakes très réalistes.
ELLES PEUVENT DÉSTABILISER LE TISSU SOCIAL
- Le risque à terme est que les humains préfèrent parler à des IA plutôt qu’à leurs semblables.
ELLES PEUVENT ÊTRE UTILISÉES DE MANIÈRE INTRUSIVE OU OPAQUE
- Système de reconnaissance vocale
- Détection de visages dans les lieux publics
- Surveillance étatique
- Évaluation des employés à leur insu
ELLES PEUVENT ÊTRE HACKÉES
- Requêtes DAN (Do Anything Now)
- Requêtes UTS (Universal Transferable Suffix)
- Le MOT interdit qui fait dérailler les IA
==INTERFACE MANUELWITH STEPS INSTEAD SENTENCES :)ISH
- Le MOT interdit qui fait dérailler les IA
- Prompts cachés (texte de la même couleur que le fond, invisible aux humains, mais pas aux IA)
ELLES PEUVENT ASSÉCHER LE VIVIER DE PERSONNES COMPÉTENTES
- Si seuls les experts sont sollicités alors les novices ne pourront jamais acquérir l’expérience nécessaire pour être experts.
ELLES VONT ASSÉCHER LES CONNAISSANCES
- En ingurgitant des données existantes, les erreurs vont polluer à l’excès les corpus (elles vont manger leur caca)
ELLES VONT NOUS RENDRE DÉPENDANTS À LEURS SERVICES AU POINT DE NOUS RENDRE INCAPABLES D’ACCOMPLIR LES TÂCHES QUI NOUS INCOMBAIENT AVANT LEUR ESSOR
ELLES NE GARANTISSENT PAS LE DROIT À L’OUBLI
ELLES SONT DES SOURCES D’INFORMATIONS DE CHOIX POUR L’INGÉNIERIE SOCIALE
ELLES VONT DONNER DU TRAVAIL QUALIFIÉ À DES EMPLOYÉS DONT CE N’EST PAS LA QUALIFICATION
ELLES SATURENT NOS CAPACITÉS COGNITIVES
Notes de bas de page
RTS: l’IA révolutionne les navigateurs web, Comet défie Chrome et Safari
Enfin, certains alertent sur une cannibalisation du web: en fournissant des réponses directes, l’IA détourne les internautes des sites d’information, des médias ou des plateformes spécialisées. A long terme, cela menace la diversité des contenus en ligne.
IA générative : le guide ultime du hater anti-chatGPT
Mediapart: IA générative, le guide ultime du hater anti-ChatGPT