Je tiens à féliciter Somme numérique et leurs intervenants d’Adico, qui ont su, sans entrer dans une technique incompréhensible, rendre abordable et totalement compréhensible ces enjeux , et ils sont nombreux.

Tout d’abord, il faut être extrêmement prudent quant à l’exactitude et la véracité des productions générées. Si certaines erreurs sont sans conséquences, il faut savoir qu’une IA n’a pas pour finalité de nous dire la vérité. Elle pourra générer des images avec une main à six doigts, ce qui peut faire sourire, ou bien générer un texte donnant des statistiques invérifiables ou citant des textes de lois obsolètes, ce qui est plus gênant. Bien sûr certaines IA corrigent progressivement ce travers et certaines vous préciserons même leurs sources, mais le travail de vérification reste indispensable. Si les « hallucinations » (cas où l’IA invite purement et simplement) tendent à diminuer, les biais de confirmation (l’IA nous dit ce que voulons entendre pour nous plaire) ou d’auto-recensement (l’IA utilise des données qu’elle a elle-même générées et transformées) restent très nombreux. Par ailleurs, la qualité des réponses augmentera si on est « A.C.T.I.F. » en précisant donc l’Action voulue, le Contexte, la Tonalité, l’Identité, ainsi que le Format.

Ensuite, un accent particulièrement important a pu être mis sur le traitement et l’utilisation des données personnelles. Les IA absorbent et gardent en mémoire les données qui lui sont envoyées. Les particuliers, mais aussi les élus locaux et secrétaires de mairies qui peuvent avoir accès à des données de leurs administrés, doivent donc impérativement anonymiser les courriers, et retirer les données sensibles qu’ils peuvent contenir, avant de les envoyer vers une IA. Les data centers étant souvent à l’étranger, les données passent hors contrôle du RGPD mais la responsabilité des collectivités pourrait être engagée.

Sur le plan environnemental enfin, nous devons prendre en compte que les besoins en électricité, en eau et en minéraux sont colossaux. Si l’outil est incontestablement intéressant et même prometteur pour des applications de recherche ou de défense, il est tout à fait inenvisageable que l’usage puisse être infini dans un monde fini et que cet outil soit majoritairement utilisé pour du loisir en générant par exemple des vidéos de bébé qui parlent. Bien sûr, à l’échelle de notre pays, pour des raisons de souveraineté et d’indépendant dans des domaines de pointe, il est surement indispensable de nous équiper d’un minimum de data-centers et de super-calculateurs.
Mais, si nous pouvons espérer qu’une de nos ZAC samariennes accueille un super-calculateur, nous ne devons pas oublier qu’un seul de ces sites a des besoins énergétiques équivalent à ce que peut délivrer une centrale nucléaire. Une installation massive sur notre territoire national posera forcément problème si nous n’intégrons pas cette demande à notre PPE (programme pluriannuel de l’énergie) déjà très contraint et très incertain si nous voulons réellement suivre notre SNBC (Schéma National Bas Carbone) et assurer notre souverainement énergétique. Sans cela, nous risquons de subir le même sort que l’Irlande qui se retrouve aujourd’hui en grande difficulté. Pour celles et ceux qui voudraient en savoir plus, l’Avis de l’ADEME à ce sujet est fort instructif.

Comme lors du déploiement d’internet, le législateur devra surement intervenir, après coup, pour encadrer les usages, éviter les abus et les mésusages de cet outil qui reste prometteur.