Comment procéder à la présélection et à la notation automatiques des demandes de subvention grâce à l'IA ?

À mesure que le nombre de demandes augmente, les équipes se demandent de plus en plus souvent si l'IA peut se charger pour elles de présélectionner et d'évaluer les demandes de subvention. C'est possible, mais c'est la manière dont elle est configurée qui déterminera si elle contribuera à la réussite du programme ou si, au contraire, elle le sapera discrètement.

L'intérêt est évident. L'IA peut vérifier chaque candidature au regard des critères d'éligibilité, signaler les éléments incomplets ou hors sujet, et attribuer une note préliminaire selon une grille d'évaluation, en quelques secondes plutôt qu'en plusieurs heures. Bien mise en œuvre, cette solution décharge les évaluateurs des tâches administratives, leur permettant ainsi de consacrer leur temps à l'appréciation des candidatures.

Le danger est de considérer cette première évaluation comme une décision définitive. Deux types d'échecs reviennent régulièrement :

• Biais d'automatisation. Sous la pression du temps, les évaluateurs ont tendance à se fier à la note attribuée par la machine plutôt que de se forger leur propre opinion ; ainsi, un modèle imparfait détermine discrètement le résultat.
• Rejets inexplicables. Si une candidature est écartée et que personne ne peut déterminer quelle règle ou quel signal a déclenché ce rejet, le programme ne peut pas justifier cette décision auprès d'un candidat, d'un comité ou d'un auditeur.

Il existe également une exigence de conformité importante pour tout bailleur de fonds traitant des dossiers de candidats de l'UE. En vertu du RGPD, les personnes ont le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé lorsque celle-ci les affecte de manière significative. Un rejet entièrement automatisé, sans intervention humaine, correspond exactement au cas de figure visé par cette règle.

Les équipes qui savent bien utiliser l'IA la considèrent comme une aide, et non comme un juge :

• L'IA effectue un filtrage automatisé des candidatures et attribue une note préliminaire en fonction de la grille d'évaluation propre à l'équipe, celle-là même qui est utilisée pour la notation manuelle.
• Les cas « limites » ou présentant un faible niveau de confiance sont transmis à un opérateur humain plutôt que d'être traités de manière automatisée.
• Chaque résultat est consigné : quelle règle s'est déclenchée, ce que le modèle a détecté, qui l'a vérifié ; ainsi, la piste d'audit est intacte.
• C'est toujours un être humain qui prend la décision finale en matière de financement, à chaque fois.

Conçue ainsi, l'IA élimine la charge de saisie de données liée à la révision sans empiéter sur ce qui doit rester du ressort de l'humain : la prise de décision et la capacité à l'expliquer.