Fin du far-west, place à un usage responsable de l’IA

Les IA ne sont que des outils. Et les artisans du numérique doivent comprendre à quel moment utiliser un marteau génératif plutôt qu’un agent tournevis. Les IA ne pensent pas : elles calculent des probabilités pour répondre à nos requêtes. De « simples formules mathématiques » comme le souligne Cédric Villani, pour qui le terme intelligence artificielle appliqué aux outils d’aujourd’hui ne décrit pas la réalité scientifique.

Tout comme sur le sujet durable, que nous abordons dans le précédent billet, la sémantique est importante. Car à trop croire ces outils intelligents on prend le risque de leur faire confiance les yeux fermés. Or ces systèmes sont doués pour tordre la réalité… parce qu’ils ne la connaissent pas. Leur objectif est de nous plaire, de produire une réponse qui sonne juste, quitte à inventer des faits : ce qu’on appelle des hallucinations.

Pour fonctionner, les modèles de langage (LLM) ont déjà avalé l’ensemble du web dans leurs bases de connaissances avec le meilleur comme le pire d’Internet bien évidemment. Depuis leur avènement récent, les IA génératives ont produit énormément de matière. A tel point qu’on estime désormais que la part de contenus générés par IA dépasse celle produite par des humains : fiabilité et véracité s’en ressentent. C’est un immense problème dans une époque de post-vérité où démêler le vrai du faux devient de plus en plus délicat. D’autant que les IA, véritables morfales de data, se nourrissent de plus en plus de contenus produits par IA, ce qui appauvrit la qualité des productions. Vous avez l’image du serpent qui se mort la queue ?

Chez md, on pousse depuis des années pour des contenus singuliers, fiables, sans stéréotypes. Dire qu’on y parvient toujours serait enjoliver ; mais la ligne est là. On connait aujourd’hui les dérives des contenus stéréotypés (coucou Instagram) et de leur impact sur la sur-fréquentation des sites sensibles par exemple. Et faire de l’audience pour l’audience n’a aucun sens à nos yeux : chaque contenu doit servir une stratégie et des enjeux touristiques réels. Laissons la stratégie du chalut aux chalutiers.

 L’IA peut devenir un nouveau piège sur les contenus stéréotypés et peu fiables si l’on abandonne la maîtrise de la connaissance. Attention donc de ne pas céder aux sirènes du GEO (Generative Engine Optimization) à tout prix, cherchant à positionner des infos en tordant le réel façon growth hacking.

Concentrons-nous plutôt sur des données fiables, à jour, de terrain. Une donnée sensible au sens noble : qui écoute les attentes et motivations des clientèles et les réponses d’une marque touristique. Et une mise en récit des engagements avec les bons mots (pour embarquer, pas pour noyer dans le jargon).

Sans ça, bienvenue aux contenus pauvres, générés par IA, nourris par données d’IA, ponctués de tirets cadratins.

Les IA sont gourmandes en ressources. Cependant les données fines sur le sujet restent rares. Le média « Bon pote » a publié récemment une longue étude sur le coût environnemental de l’IA, dont voici quelques idées fortes à retenir :

– L’entraînement des IA a longtemps dominé l’empreinte CO2 ; désormais, l’inférence (les réponses au quotidien) pèse le plus en consommation énergétique. L’inférence est la phase durant laquelle l’IA utilise ses connaissances pour faire des prédictions ou prendre des décisions. En d’autres termes, c’est à présent le volume de requête qui pèse le plus lourd dans l’impact.

– Déchets électroniques : à l’horizon 2030, l’IA pourrait ajouter 5 Millions de tonnes de déchets électroniques au flux mondial. Une fuite en avant directement liée à un usage déraisonné des outils.

– Par requête, les émissions varient fortement selon les modèles. En effet les plus gros modèles de LLM sont les plus énergivores. Mais aussi les plus performants …

Mais alors, faut-il privilégier les modèles les plus lourds pour produire un contenu touristique de qualité ? Pas si vite.

Une utilisation positive de l’IA est possible. Mais un cadre s’impose.

1) Des garde-fous clairs

Écrire une charte d’usage responsable : usages autorisés/interdits, respect des enjeux éthiques & environnementaux, manipulation des données personnelles, alignement RSE. C’est un point de départ pour sécuriser les équipes et la structure.

2) Des outils utiles, évalués

Identifier les bons outils et mesurer leur apport réel (productivité, qualité, coût environnemental). Spoiler : on ne confie pas ça à un stagiaire geek, comme on l’a trop fait pour les réseaux sociaux.

3) Un corpus personnalisé exigeant 

Le gros du travail : bâtir une base de connaissance qualitative.
Bénéfices : moins de prompts (donc moins d’empreinte), sorties plus fiables, et une capacité à matcher précisément qualité de l’offre ↔ motivations des clientèles.

4) Une IA au service des engagements

Le travail réalisé par les acteurs du tourisme sur leurs engagements RSE, la transition environnementale et sociale de l’offre touristique doit occuper une partie centrale de ce corpus. Et être traduite au regard des motivations des clientèles pour s’intégrer en douceur, de façon intelligible sans apparaitre contraignant pour les voyageurs.

Les outils d’IA peuvent trouver intelligemment leur place dans la mise en récit du tourisme. A condition qu’ils soient une véritable aide à la transition, dans une pure démarche d’IT for Green / Good.

J’aurais le plaisir d’en parler lors des prochaines rencontres nationales du etourisme de Pau aux côtés de Marie-Hélène Raymond et Gregory Guzzo.

Et on continue d’explorer le sujet par ici très prochainement, rejoignez la communauté MD pour découvrir la suite de l’histoire.