L'IA générative
Une IA générative (IAg) repose sur des modèles construits pour apprendre à produire un contenu (texte, images, sons, vidéos). Leur construction repose sur un apprentissage automatique à partir de données qui lui ont été fournies (appelé entrainement).
Les limites des modèles génératifs
Le principe de fonctionnement induit que les IAg ne sont pas infaillibles et peuvent produire des erreurs de type :
- Biais : désigne la tendance du modèle d’IAg à reproduire ou amplifier des stéréotypes et déséquilibres présents dans les données sur lesquelles il a été entraîné. Ces biais peuvent influencer les réponses produites, parfois de manière injuste ou discriminatoire.
- Hallucination : correspond au fait que l’IA génère des informations incorrectes, inventées ou non vérifiables, tout en les présentant comme crédibles. Ce phénomène survient lorsque le modèle prédit du texte plausible sans disposer de connaissances fiables sur le sujet.
Il est donc essentiel d’adopter un regard critique sur les contenus produits par une IA générative, de questionner et vérifier la pertinence des résultats.
Les questions d'éthiques, juridiques et environnementales
L’utilisation de l’IA générative grand public ou d’IA non souveraines soulève plusieurs risques importants en matière de propriété intellectuelle et de protection des données personnelles. Son utilisation avec parcimonie, en lien avec la volonté de sobriété numérique, vise à utiliser les ressources de manière judicieuse et responsable, en minimisant particulièrement l’impact environnemental préoccupant de l’IA générative.
La charte s’inscrit aussi dans le cadre de la législation applicable et respecte le règlement du Parlement Européen (premier acte législatif sur l'intelligence artificielle). Ce règlement est applicable à partir du 2 août 2026, l'entrée en vigueur de certaines dispositions s’échelonne entre le 2 février 2025 et le 2 août 2027.
La charte d'usage de l'IA à l'UPJV
L’Université de Picardie Jules Verne autorise l’usage des intelligences artificielles, mais demande de les utiliser avec prudence et responsabilité. L’IA doit rester un outil d’aide et ne doit pas remplacer le travail humain.
Les utilisateurs doivent toujours vérifier les réponses produites par l’IA, car elle peut faire des erreurs ou inventer des informations. Ils doivent aussi respecter les règles sur les données personnelles, la confidentialité et le droit d’auteur.
L’utilisation d’outils d’IA non validés par l’université est interdite, surtout pour traiter des données sensibles. Il est également interdit de faire passer un contenu généré par IA pour un travail personnel.
Les étudiants doivent demander l’autorisation avant d’utiliser l’IA et signaler son usage. Ils doivent produire un travail qui reflète leurs propres connaissances. Les enseignants doivent préciser les règles d’utilisation et ne pas déléguer entièrement leurs tâches à une IA.
Dans la recherche, il est obligatoire d’être transparent sur l’usage de l’IA et interdit de falsifier des résultats.
En résumé, l’IA peut être utile, mais elle doit être utilisée de manière réfléchie, encadrée et toujours sous contrôle humain.
Vous pouvez télécharger l'intégralité de la charte des usages de l'IA générative en cliquant sur le lien ci-dessous.