Les piliers de la gouvernance de l’IA
La gouvernance de l’intelligence artificielle (IA) repose sur plusieurs piliers essentiels, qui visent à encadrer et à orienter le développement et l’utilisation de l’IA de manière responsable et éthique. Voici les principaux piliers :
Éthique et transparence
- Code de conduite : définir comment l’OGD s’engage à respecter des principes de non-discrimination, d’accessibilité (notamment linguistique), de transparence sur la collecte de données.
- Information utilisateur : préciser sur le site web ou via l’interface chatbot que « Vous discutez avec une IA » et que « Vos données seront traitées de façon anonyme et sécurisée ».
- Impact environnemental : les technologies d’IA, notamment les modèles d’apprentissage profond, peuvent être très énergivores. Une utilisation responsable de l’IA doit inclure des considérations sur l’empreinte carbone et encourager le développement de solutions plus économes en énergie, voire de limiter l’utilisation de certaine IA.
Protection des données et respect de la vie privée
- RGPD : être transparent sur l’utilisation future des données collectées, exiger le consentement explicite lorsqu’on recueille des informations personnelles (e-mail, localisation, préférences) et permettre à chacun de demander la suppression ou la rectification de ses données.
- Référence : la CNIL propose un guide RGPD pour les collectivités et organismes publics.
Sécurité
- Cybersécurité : sensibiliser les équipes (mots de passe robustes, vigilance aux e-mails frauduleux), installer des pares-feux, réaliser des sauvegardes régulières.
- Plan de crise : définir la marche à suivre en cas de piratage ou de panne technique (alertes, réparation, information du public si les données sont compromises).
Responsabilité et cadre légal
- Attribution des responsabilités : préciser la chaîne de décision (direction, service informatique, prestataire externe) et les process à mettre en œuvre en cas de dysfonctionnement.
- Veille juridique : suivre l’évolution du projet de règlement européen sur l’IA. Certaines IA jugées « à haut risque » feront l’objet d’un encadrement spécifique.
Qualité des données et gestion du cycle de vie
- Base de données fiable : s’assurer que les informations touristiques (horaires, tarifs, fermetures exceptionnelles) sont à jour.
- Nettoyage et archivage : ne pas conserver indéfiniment des données personnelles, effacer les doublons ou les données obsolètes ou inutiles.
Formation et accompagnement du personnel
- Sensibilisation globale : expliquer à tous les collaborateurs l’intérêt et les limites de l’IA, leurs obligations légales, les bonnes pratiques en matière de sécurité.
- Référents internes : nommer une ou deux personnes-ressources.
Audit et évaluation continue
- Indicateurs de performance : satisfaction utilisateurs (questionnaires en fin de discussion chatbot), taux de réponses correctes, temps de réponse, etc.
- Audit interne ou externe : contrôler périodiquement la mise en application des règles de gouvernance et la pertinence des outils déployés.
Les étapes pour une mise en place pratique
La mise en place d’une gouvernance efficace de l’IA est un processus complexe qui nécessite une approche structurée et adaptable dont voici les 8 étapes clés :
- 1. Évaluer les besoins
Identifier précisément les domaines où l’IA peut apporter une valeur ajoutée significative, en tenant compte des spécificités de chaque métier.
- 2. Cartographier les projets IA existants
Recenser les chatbots, les analyses de fréquentation, les futures applications d’IA. Noter les jeux de données utilisés : billetterie, questionnaires, partenariats externes (hôtels, transporteurs).
- 3. Mettre en place des politiques claires et un cadre éthique
Établir des directives internes sur l’utilisation de l’IA, en insistant sur l’éthique, la transparence, la protection des données et la responsabilité environnementale. Rédiger un document interne reprenant les principes et objectifs, validé par la direction et communiqué à tous.
- 4. Former le personnel
Investir dans la formation des équipes pour qu’elles comprennent les principes de l’IA, ses applications potentielles et ses limites.
- 5. Collaborer avec des experts
Travailler en partenariat avec des spécialistes de l’IA pour développer des solutions adaptées aux besoins spécifiques de sa structure, tout en garantissant une mise en œuvre éthique et efficace.
- 6. Communiquer en externe
Informer les visiteurs : être transparent avec ses clients et expliquer brièvement comment fonctionne l’IA, et comment elle améliore leur expérience (réponses plus rapides, conseils adaptés).
Rassurer : mentionner l’absence d’exploitation commerciale des données, la possibilité de se désinscrire ou de demander la suppression des données collectées.
- 7. Protéger et sécuriser les données
Mettre en place une charte de confidentialité sur le site web, décrivant la finalité des collectes, la durée de conservation, les droits des utilisateurs.
Veiller à la sécurité technique (chiffrement SSL, serveurs hébergés en Europe, etc.).
- 8. Définir des indicateurs de performance et instaurer un audit régulier
KPI possibles : taux d’utilisation du chatbot, nombre de réclamations liées à la confidentialité, temps de traitement des demandes, impact sur le trafic dans l’office.
Audit : au moins annuel, pour vérifier la conformité RGPD, l’état des mises à jour et la qualité des données.
