Résumé
La présente note se veut une tentative de résumer les principales questions soulevées par les nouveaux outils d'Intelligence Artificielle générative (IAg) et leurs applications dans les activités de recherche scientifique, dans le but d'attirer l'attention sur les risques potentiels (éthiques, juridiques, scientifiques, sociaux, environnementaux) associés à leur usage. Les recommandations que nous émettons doivent être comprises comme des parades permettant de diminuer ou d'éliminer les risques présentés par les IAg actuelles. Elles ne s'appuient pas sur une liste exhaustive et stricte d'usages "permis" ou "interdits", car une telle liste serait obsolète sitôt établie et ne pourrait jamais couvrir l'intégralité des cas d'usages de tous les modèles d'IAg. À l'opposé d'une telle approche, nous fournissons aux utilisateurs des repères et des pistes de réflexion leur permettant d'employer les IAg de manière responsable et éclairée, ou de choisir de ne pas le faire en connaissance de cause. Si les exemples utilisés pour illustrer notre propos proviennent prioritairement de cas d'usage scientifiques des IAg, certains peuvent également concerner les personnels des fonctions administratives et d'appui au sein des établissements de recherche. Pour cette raison, nous avons fait le choix d'employer un langage aussi accessible que possible aux non-spécialistes. Ce document est complété par des Annexes : -Une traduction française partielle des recommandations de la Commission Européenne sur l'utilisation des IAg (Annexe 1). -Des renvois aux recommandations émises par le Cirad ou par ses partenaires (Annexe 2). -Une liste des ressources que nous avons exploitées: celles-ci traitent des IA en général ou des IAg en particulier et sont de portée générale ou de nature thématique (Annexe 3).
This note is an effort to summarize the main issues raised by new generative Artificial Intelligence (GenAI) tools and their applications in scientific research activities, with the aim of drawing attention to the potential risks (whether ethical, legal, scientific, social or environmental) associated with their use. Our recommendations should be understood as countermeasures to reduce or eliminate the risks presented by current GenAIs. They are not based on an exhaustive and strict list of “permitted” or “prohibited” uses. Indeed, such a list would be obsolete as soon as drawn up and could never cover all cases of use of all GenAI models. In contrast to such an approach, we provide users with guidelines and avenues for reflection, enabling them to use AIg in a responsible and enlightened way, or to choose not to do so in full knowledge of the facts. Although the examples used to illustrate our points are drawn primarily from scientific applications of GenAI, some of them may also concern administrative and support staff in research establishments. For this reason, we have opted to use language that is as accessible to non-specialists as possible. This document is completed by a list of the resources we have used: they deal with AI in general or GenIA in particular, and they either have a broad or a thematic scope (Appendix 1).