Mi-février, le projet Debian s'est retrouvé au cœur d'un débat qui agite déjà bien d'autres communautés open source: faut-il accepter les contributions générées, en tout ou en partie, par des outils d'intelligence artificielle ? C'est Lucas Nussbaum qui a lancé les hostilités en proposant un brouillon de résolution générale pour clarifier la position officielle. Quelques semaines plus tard, la discussion s'est apaisée sans qu'aucune décision formelle ne soit prise, mais les échanges ont été suffisamment riches pour mériter qu'on s'y attarde.
La proposition de Nussbaum autorisait les contributions assistées par IA sous certaines conditions: divulgation explicite lorsqu'une part significative du code est générée sans modification manuelle, ajout d'un marqueur lisible par machine comme `[AI-Generated]`, et surtout, responsabilité pleine du contributeur quant à la qualité technique, la sécurité et la conformité aux licences. L'utilisation d'outils génératifs sur des informations non publiques (listes de diffusion privées, rapports de sécurité sous embargo) aurait été interdite.
Mais avant même de débattre du fond, il a fallu s'entendre sur les termes. Russ Allbery a réclamé plus de précision. Le mot « IA » est si vague qu'il pourrait désigner n'importe quel objet physique de l'univers. Parler de grands modèles de langage serait déjà plus utile pour rédiger une politique durable. Sean Whitton a renchéri en suggérant de distinguer les usages: révision de code, génération de prototypes, production de code final. Autant de situations que l'on pourrait traiter différemment. Andrea Pappacoda voulait des frontières claires, tout en avouant sa perplexité sur l'endroit exact où les tracer.
Au-delà de la terminologie, d'autres questions ont émergé. Simon Richter a soulevé ce qu'il appelle le « problème d'intégration »: un agent IA peut effectuer des tâches simples tout comme un développeur débutant, mais contrairement à ce dernier, il n'apprend rien. Les ressources consacrées à guider une IA ne produisent aucun transfert de compétences durable. Accepter des contributions IA de passage, c'est rater une occasion d'accueillir un nouveau contributeur humain. Dans le meilleur des cas, un problème trivial est résolu. Dans le pire, le contributeur se contente de relayer des échanges entre l'IA et le mainteneur.
Ted Ts'o a défendu la position inverse, refuser les contributions de personnes utilisant l'IA reviendrait à se priver de futurs membres, ce qui serait encore plus contre-productif. Nussbaum a de son côté cité une étude impliquant des chercheurs d'Anthropic pour souligner que la façon dont on interagit avec ces outils influe énormément sur les résultats, tant en termes de vitesse que de compréhension réelle. Matthew Vernon a quant à lui insisté sur la dimension éthique, souvent minimisée dans ces débats. Les entreprises qui développent ces outils (il cite ChatGPT et Claude) agissent de manière irresponsable en aspirant massivement des contenus protégés par le droit d'auteur, en ignorant les licences, en contribuant à des problèmes environnementaux et en inondant les projets libres de faux rapports de sécurité. Il plaide pour que Debian prenne une position claire contre ces pratiques.
La question du droit d'auteur sur les sorties des LLM a aussi été soulevée, sans trouver de réponse satisfaisante. Le caractère non déterministe de ces modèles complique encore les choses. Un même prompt peut produire des résultats très différents selon le moment où il est soumis. Le 3 mars, Nussbaum a reconnu que tant que les discussions restaient constructives, une GR formelle n'était pas urgente. Si un vote devait avoir lieu, la position gagnante serait probablement nuancée: autoriser l'IA avec un ensemble de garde-fous. En attendant, Debian continue de traiter ces questions au cas par cas, en appliquant ses politiques existantes, ce qui, vu la complexité du sujet et la vitesse d'évolution des technologies, est peut-être la réponse la plus raisonnable pour l'instant.
Commentaires