BANQUE MONDIALE : DÉPARTEMENT DE L'ÉVALUATION DES OPÉRATIONS RENFORCEMENT DES CAPACITÉS D'ÉVALUATION 24614 SUIVI B A N Q U E M O N D I A L E 1818 H Street, N.W. & Washington, D.C. 20433, U.S.A. Téléphone : 202-477-1234 Fax : 202-477-6391 Télex : MCI 64145 WORLDBANK MCI 248423 WORLDBANK Internet: www.worldbank.org ÉVALUATION : Département de l'évaluation des opérations Programmes Partenariat et Gestion des connaissances (OEDKE) Courriel : eline@worldbank.org Téléphone : 202-458-4497 Quelques outils, méthodes et approches Fax : 202-522-3125 N SUIVI & ÉVALUATION : Quelques outils, méthodes et approches Banque mondiale Washington www.worldbank.org/oed/ecd/ N Remerciements La première édition de ce rapport avait été préparée par Mari Clark et Rolf Sartorius (Impact social). Ces derniers tiennent à remercier les membres des services de la Banque mondiale qui ont largement contribué à sa préparation, notamment François Binder, Osvaldo Feinstein, Ronnie Hammad, Jody Kusek Linda Morra, Ritva Reinikka, Gloria Rubio et Elizabeth White. Cette deuxième édition contient un examen plus détaillé de la question de l'évaluation de l'impact préparé par Michael Bamberger (consultant). Keith Mackay était le chef du projet de mise au point de ce rapport. Copyright © 2004 Banque internationale pour la reconstruction et le développement/BANQUE MONDIALE 1818 H. Street, N.W. Washington, D. C. 20433, États-Unis d'Amérique Tous droits réservés. Fait aux États-Unis d'Amérique Les opinions exprimées dans le présent rapport ne reflètent pas nécessairement les vues de la Banque mondiale ou des États qui en sont membres. La Banque mondiale ne garantit pas l'exactitude des données qui y figurent et n'accepte aucune responsabilité quant aux conséquences de leur utilisation. Les frontières, couleurs, dénominations et toute autre information figurant sur l'une quelconque des cartes incluses dans cette publication n'impliquent de la part du Groupe de la Banque mondiale aucun jugement sur le statut juridique d'un territoire quelconque, ni l'approbation ou l'acceptation desdites frontières. B A N Q U E M O N D I A L E : D É P A R T E M E N T D E L ' É V A L U A T I O N D E S O P É R A T I O N SN R E N F O R C E M E N T D E S C A P A C I T É S D ' É V A L U A T I O N 3 Table des matières Vue d'ensemble du S&E . . . . . . . . . . . . . . . . . . . . . . . . . . 5 Indicateurs de performance . . . . . . . . . . . . . . . . . . . . . . . . 6 Cadre logique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 Évaluation basée sur la théorie . . . . . . . . . . . . . . . . . . . . .10 Enquêtes formelles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .12 Méthodes d'évaluation rapide . . . . . . . . . . . . . . . . . . . . . .15 Méthodes participatives . . . . . . . . . . . . . . . . . . . . . . . . . . .17 Enquêtes de suivi des dépenses publiques . . . . . . . . . . . . . .19 Analyse coûts-avantages et coût-efficacité . . . . . . . . . . . . . .21 Évaluation de l'impact . . . . . . . . . . . . . . . . . . . . . . . . . . .23 Ressources additionnelles sur le S&E . . . . . . . . . . . . . . . . .26 B A N Q U E M O N D I A L E : D É P A R T E M E N T D E L ' É V A L U A T I O N D E S O P É R A T I O N SN R E N F O R C E M E N T D E S C A P A C I T É S D ' É V A L U A T I O N VUE D'ENSEMBLE DU S&E 5 QUELQUES OUTILS, MÉTHODES ET APPROCHES POUR LES ACTIVITÉS DE SUIVI ET D'ÉVALUATION Le suivi et l'évaluation (S&E) des activités de OBJECTIF développement donnent aux pouvoirs publics, aux gestionnaires du développement et à la société civile de meilleurs moyens de tirer les leçons de l'expérience, d'améliorer la prestation des services, de planifier et d'affecter les ressources, et de rendre compte aux principales parties prenantes en faisant état des résultats obtenus. C'est notamment parce que la communauté du développement fait une place pri-vilégiée à l'obtention de résultats que les activités de suivi et d'évaluation suscitent de plus en plus d'intérêt. Cependant, on note souvent une certaine confusion quant à leurs tenants et aboutissants. La présente Vue d'ensemble vise à préciser ce qu'impliquent ces activités afin de faire mieux comprendre et apprécier tout l'intérêt du S&E. La présente brochure décrit brièvement certains des outils, méthodes et approches qui peuvent être utilisés, résume leurs objectifs et leurs applications, leurs avantages et leurs inconvénients, leur coût, les compétences requises et le temps nécessaire, et signale aussi d'importantes sources d'information à leur sujet. Le lecteur y trouvera en partic- ulier des indications sur plusieurs méthodes de collecte des données, cadres d'analyse et types d'évaluation et d'examen. Les questions abordées sont les suivantes : Indicateurs de performance Cadre logique Évaluation basée sur la théorie Enquêtes formelles Méthodes d'évaluation rapide Méthodes participatives Enquêtes de suivi des dépenses publiques Analyse coûts-avantages et coût-efficacité Évaluation de l'impact Cette liste n'est pas et ne se veut pas exhaustive. Certains des outils et approches qui y figurent sont complémentaires et d'autres interchangeables. Leur champ d'application peut être très large, ou au contraire très étroit. Le choix de la formule qui conviendra le mieux dans un contexte donné dépendra de diverses considérations, comme les objectifs visés, les principales parties prenantes concernées par les résultats du S&E, le coût et le degré de rapidité souhaité. N 6 Indicateurs de performance De quoi s'agit-il ? Les indicateurs de performance sont un moyen d'apprécier les divers aspects d'un projet, programme ou stratégie de développement : ressources, processus, produits, résultats et impacts. Lorsqu'ils s'appuient sur un solide travail de collecte de données (par exemple, au moyen d'enquêtes formelles), puis d'analyse et de diffusion de ces informations, ces indicateurs permettent aux gestionnaires de suivre l'avancement de l'action entreprise, d'en déterminer les résultats, et de prendre les mesures correctives qui amélioreront la prestation des services. Il est important d'associer les principales parties prenantes à la définition des indicateurs, car il y aura ainsi plus de chances que celles-ci sachent les comprendre et les utiliser pour la prise de décision. Quelles sont les applications possibles ? Fixer des objectifs de performance et mesurer les progrès accomplis vers leur réalisation ; Détecter les problèmes à l'aide d'un système d'alerte rapide, afin de pouvoir décider de mesures correctives ; Déterminer s'il est nécessaire de procéder à une évaluation ou à un examen approfondi. AVANTAGES : Moyen efficace de mesurer les progrès accomplis vers la réalisation des objectifs ; Il sera plus facile de procéder à des comparaisons entre différents services, districts et époques. INCONVÉNIENTS : Des indicateurs mal définis ne permettront pas de mesurer correctement les progrès ; La tendance à retenir un trop grand nombre d'indicateurs, ou à choisir des indica- teurs pour lesquels on n'aura pas accès à des sources de données, peut rendre le sys- tème coûteux et difficile à appliquer, de sorte qu'il sera probablement sous-utilisé ; Il arrive souvent que l'on doive arbitrer entre l'idéal et le possible en renonçant aux indicateurs optimaux ou souhaités pour se contenter de ceux que les données acces- sibles permettront de mesurer. B A N Q U E M O N D I A L E : D É P A R T E M E N T D E L ' É V A L U A T I O N D E S O P É R A T I O N SN R E N F O R C E M E N T D E S C A P A C I T É S D ' É V A L U A T I O N 7 COÛT : Le coût peut être faible ou élevé, selon le nombre des indicateurs retenus, la périodicité de la collecte de données et la qualité des informations recherchées, et le champ couvert par le système. COMPÉTENCES REQUISES : Plusieurs jours de formation sont recommandés afin d'améliorer l'aptitude des person- nels concernés à définir des indicateurs pratiques. La mise en oeuvre de systèmes de suivi de la performance exige des compétences en matière de collecte, d'analyse et de diffusion des données et de systèmes d'information de gestion (SIG). TEMPS NÉCESSAIRE : De plusieurs jours à plusieurs mois, selon l'ampleur du processus participatif retenu pour définir les indicateurs et selon la complexité du programme. La mise en oeuvre d'un système de suivi de la performance peut prendre de six à douze mois. P O U R P L U S D ' I N F O R M A T I O N S : Banque mondiale (2000). Key Performance Indicator Handbook.Washington. Hatry, H. (1999). Performance Measurement: Getting Results.The Urban Institute, Washington. N 8 Cadre logique De quoi s'agit-il ? Cette approche aide à définir plus clairement les objectifs de tout projet, programme ou politique et à déterminer les liens de causalité escomptés -- la « logique du programme » -- entre les divers éléments de la chaîne des événements devant conduire à l'obtention de résultats : apports de ressources, modalités de mise en oeuvre, produits (y compris le degré de couverture des groupes bénéficiaires), résultats, et impact. Elle conduit à la définition d'indicateurs de performance pour chaque maillon de la chaîne et à l'identification des risques qui pourraient entraver la réalisation des objectifs. Le cadre logique permet aussi d'associer les partenaires à la définition des objectifs et à la conception des activités. Au stade de la mise en oeuvre, c'est un moyen utile de suivre l'avancement des activités et de prendre des mesures correctives. Quelles sont les applications possibles ? Améliorer la qualité de la conception des projets et programmes -- en imposant la définition d'objectifs clairs, l'utilisation d'indicateurs de performance, et l'évaluation des risques ; Synthétiser la conception d'activités complexes ; Faciliter la préparation de programmes opérationnels détaillés ; Fournir une base objective pour l'examen, le suivi et l'évaluation des activités. AVANTAGES : Garantit que les décideurs se poseront les questions fondamentales et analyseront les hypothèses et les risques ; Implique les parties prenantes dans le processus de planification et de suivi ; Utilisé de manière dynamique, constitue un outil de gestion efficace pour guider la mise en oeuvre, le suivi et l'évaluation. INCONVÉNIENTS : Utilisé de manière rigide, peut étouffer la créativité et l'innovation ; En l'absence d'actualisation au cours de la mise en oeuvre, peut n'être qu'un outil statique qui ne reflètera pas l'évolution des conditions ; Exige souvent des activités de formation et de perfectionnement. B A N Q U E M O N D I A L E : D É P A R T E M E N T D E L ' É V A L U A T I O N D E S O P É R A T I O N SN R E N F O R C E M E N T D E S C A P A C I T É S D ' É V A L U A T I O N 9 COÛT : Faible à moyen, selon l'ampleur et la complexité du processus participatif utilisé à l'appui de cette approche. COMPÉTENCES REQUISES : Formation d'au moins trois à cinq jours pour les facilitateurs ; pour la planification et la gestion participatives, compétences supplémentaires en matière de facilitation. TEMPS NÉCESSAIRE : De plusieurs jours à plusieurs mois, selon l'ampleur et la complexité du processus participatif. P O U R P L U S D ' I N F O R M A T I O N S : Banque mondiale (2000). The Logframe Handbook, Banque mondiale : http://wbln1023/OCS/Quality.nsf/Main/MELFHandBook/$File/LFhandbook.pdf GTZ (1997). ZOPP ­ Planification des projets par objectifs : http://www.unhabitat.org/cdrom/governance/html/books/zopp_e.pdf N 10 Évaluation basée sur la théorie De quoi s'agit-il ? Ce type d'évaluation présente des similitudes avec le cadre logique, mais il permet d'appréhender de manière bien plus approfondie le fonctionnement d'un programme ou d'une activité -- la « base théorique du programme » ou la « logique du programme ». En particulier, il n'y a pas à supposer de simples relations linéaires de cause à effet. Par exemple, lorsque les pouvoirs publics cherchent à améliorer le taux d'alphabétisme par le recrutement d'enseignants supplémentaires, la réussite de ce programme peut dépendre de multiples facteurs, comme la disponibilité de salles de classe et de manuels, la réaction probable des parents, des directeurs d'école et des élèves, la compétence et l'état d'esprit des enseignants, le lieu d'affectation des enseignants supplémentaires, la fiabilité du financement public, etc. En définissant les facteurs déterminants jugés importants pour le succès du programme, et les interactions possibles entre ces divers éléments, il devient possible de décider des activités qui devront être suivies au cours de la mise en place du programme pour vérifier qu'il en va bien ainsi dans les faits. Cela permet d'identifier les conditions de réussite critiques. Si les données recueillies montrent que ces conditions ne sont pas réunies, il est raisonnable d'en tirer la conclusion que le programme a moins de chances d'atteindre ses objectifs. Quelles sont les applications possibles ? Guider la conception d'activités complexes. Améliorer la planification et la gestion. AVANTAGES : Permet de savoir rapidement ce qui marche ou ne marche pas, et les raisons pour lesquelles il en va ainsi ; Permet de prendre des mesures correctives dès qu'un problème se pose ; Facilite l'identification des effets secondaires inattendus du programme ; Aide à classer par ordre de priorité les questions qui méritent des recherches plus poussées, peut-être par un ciblage plus étroit de la collecte de données ou par l'utilisation de techniques de S&E plus complexes ; Peut servir de base à l'évaluation des impacts probables des programmes. B A N Q U E M O N D I A L E : D É P A R T E M E N T D E L ' É V A L U A T I O N D E S O P É R A T I O N SN R E N F O R C E M E N T D E S C A P A C I T É S D ' É V A L U A T I O N 11 INCONVÉNIENTS : Peut facilement devenir trop complexe s'il s'agit d'activités de grande envergure ou si l'on retient une série exhaustive de facteurs et d'hypothèses ; Les parties prenantes peuvent ne pas être d'accord sur les facteurs déterminants jugés importants, et la résolution de cette difficulté peut prendre longtemps. COÛT : Moyen -- Le coût est fonction du degré d'approfondissement de l'analyse, et en particulier du degré de détail des données réunies pour étudier le fonctionnement du programme. COMPÉTENCES REQUISES : Formation d'au moins trois à cinq jours pour les facilitateurs. TEMPS NÉCESSAIRE : Très variable -- Le temps nécessaire est fonction de la profondeur de l'analyse, de la durée du programme ou de l'activité, et du degré de détail du travail de S&E entrepris. P O U R P L U S D ' I N F O R M A T I O N S : Weiss, Carol H. (1998). Evaluation. Prentice Hall, New Jersey, deuxième édition. Weiss, Carol H. (2000). «Theory-based evaluation: theories of change for poverty reduction programs » dans O. Feinstein et R. Picciotto (dir. de publication) Evaluation and Poverty Reduction. Département de l'évaluation des opérations, Banque mondiale, Washington. Mayne, John. (1999). Addressing AttributionThrough Contribution Analysis: Using Performance Measures Sensibly. Office of the Auditor General of Canada working paper, Ottawa: http://www.oag-bvg.gc.ca/domino/other.nsf/html/99dp1_e.html N 12 Enquêtes formelles De quoi s'agit-il ? Cet instrument peut servir à réunir des données normalisées sur un échantillon soigneusement sélectionné d'individus ou de ménages. Ces enquêtes visent souvent la collecte d'informations comparables auprès d'un nombre relativement élevé de personnes appartenant à des groupes cibles particuliers. Quelles sont les applications possibles ? Fournir la base de référence qui permettra de mesurer la performance de la stratégie, du programme ou du projet ; Comparer différents groupes à un moment donné ; Comparer les changements intervenus au sein d'un même groupe au cours d'une période donnée ; Comparer la réalité aux objectifs définis lors de la conception du programme ou du projet ; Déterminer la situation d'une communauté ou d'un groupe particulier ; Fournir des éléments d'information essentiels en vue de l'évaluation formelle de l'impact d'un programme ou projet ; Évaluer les niveaux de pauvreté en vue de la préparation de stratégies de réduction de la pauvreté. AVANTAGES : Les conclusions tirées des réponses fournies par l'échantillon interrogé peuvent être appliquées à l'ensemble du groupe cible ou de la population ; On peut établir des estimations chiffrées de l'ampleur et de la distribution des impacts. INCONVÉNIENTS : Sauf dans le cas des CWIQ (questionnaire sur les grands indicateurs du bien-être), les résultats ne sont souvent pas disponibles avant longtemps ; Le traitement et l'analyse des données peuvent constituer un goulet d'étranglement majeur pour les enquêtes de grande envergure, même si l'on dispose d'ordinateurs ; Les études de mesures des niveaux de vie et les enquêtes sur les ménages coûtent cher et prennent du temps ; Il est difficile d'obtenir de nombreux types d'information dans le cadre d'entrevues formelles. B A N Q U E M O N D I A L E : D É P A R T E M E N T D E L ' É V A L U A T I O N D E S O P É R A T I O N SN R E N F O R C E M E N T D E S C A P A C I T É S D ' É V A L U A T I O N 13 Divers types d'enquête des activités. Les résultats préliminaires peuvent être disponibles dans les trente Enquête à objectifs multiples sur les jours suivant l'administration du ménages (appelée aussi Étude de mesure questionnaire. des niveaux de vie) : enquête intégrée permettant de réunir des données sur Enquête sur la satisfaction des clients plusieurs aspects des conditions de vie pour (ou sur la prestation des services) : on éclairer la prise de décision. Les utilise ce type d'enquête pour évaluer la informations recherchées couvrent les performance des services publics en dépenses, la composition du ménage, demandant leur avis aux clients de ces l'éducation, la santé, l'emploi, la fécondité, services. Ces enquêtes fournissent des la nutrition, l'épargne, les activités agricoles indications sur les contraintes auxquelles et autres sources de revenus. Les enquêtes à se heurtent les clients pour accéder aux objectif unique étudient de façon plus services publics, permettent de savoir ce approfondie un moins grand nombre de qu'ils pensent de la qualité et de questions. l'adéquation des services et de déterminer la capacité d'adaptation de Questionnaire sur les grands indicateurs l'administration. Elles sont du bien-être (CWIQ) : enquête sur les normalement effectuées par un ménages visant à mesurer la variation de ministère ou un organisme public. certains indicateurs sociaux pour différents groupes de population -- ces Feuilles de note : instrument utilisé par indicateurs portant en particulier sur les ONG et les centres de réflexion de l'accès aux services sociaux et plusieurs pays. Ce type d'évaluation, économiques, l'utilisation de ces similaire aux enquêtes sur la prestation services, et le degré de satisfaction des des services, a également servi à mesurer clients. C'est un moyen efficace et le degré de corruption auquel sont rapide d'améliorer la conception des exposés les citoyens ordinaires. La vaste activités, de cibler les services sur les diffusion des informations recueillies pauvres et, lorsque l'enquête est répétée constitue l'une des principales chaque année, de suivre la performance caractéristiques de cet instrument. N 14 COÛT : Le coût va d'environ 30 à 60 dollars par ménage pour les CWIQ à 170 dollars par ménage pour les études de mesure des niveaux de vie. Il peut être nettement plus élevé s'il n'existe pas de base de sondage pour le pays. COMPÉTENCES REQUISES : Solides compétences techniques et analytiques pour la conception de l'échantillon et du questionnaire, le traitement et l'analyse des données. TEMPS NÉCESSAIRE : Variable selon la taille de l'échantillon. Le délai peut être de deux mois pour les CWIQ, et les études de mesure des niveaux de vie prennent généralement de 18 à 24 mois. P O U R P L U S D ' I N F O R M A T I O N S : Sapsford, R. (1999). Survey Research. Sage, Newbury Park, Californie. Questionnaires sur les grands indicateurs du bien-être : http://www4.worldbank.org/afr/stats/cwiq.cfm Études de mesure des niveaux de vie : http://www.worldbank.org/lsms/ Enquêtes sur le degré de satisfaction des clients : http://www4.worldbank.org/afr/stats/wbi.cfm#sds Feuilles de note : http://lnweb18.worldbank.org/ESSD/sdvext.nsf/60ByDocName/ CitizenReportCardSurveysANoteontheConceptandMethodology/$FILE/CRC+SD+note.pdf B A N Q U E M O N D I A L E : D É P A R T E M E N T D E L ' É V A L U A T I O N D E S O P É R A T I O N SN R E N F O R C E M E N T D E S C A P A C I T É S D ' É V A L U A T I O N 15 Méthodes d'évaluation rapide De quoi s'agit-il ? Ces méthodes constituent un moyen rapide et peu coûteux de consulter les bénéficiaires et autres parties prenantes pour fournir aux décideurs les informations dont ils ont besoin. Quelles sont les applications possibles ? Fournir rapidement les informations nécessaires à la prise des décisions de gestion, surtout au niveau d'un projet ou d'un programme ; Porter une appréciation qualitative sur des changements socioéconomiques complexes, des situations sociales fortement interactives, ou les valeurs, motivations et réactions de la population ; Situer dans leur contexte et interpréter les données quantitatives réunies au moyen de méthodes plus formelles. AVANTAGES : Coût faible ; Rapidité ; Instrument souple pour explorer de nouvelles idées. INCONVÉNIENTS : Les observations ne concernent généralement qu'une communauté ou une localité particulière -- il est donc difficile d'en tirer des conclusions générales ; Instrument moins valide, fiable et crédible que les enquêtes formelles. COÛT : Faible à moyen, selon le champ d'application des méthodes retenues. COMPÉTENCES REQUISES : Compétences dans les domaines suivants : entrevues non directives, facilitation de groupes, observations sur le terrain, prise de notes, et statistiques de base. TEMPS NÉCESSAIRE : De quatre à six semaines, selon le nombre de personnes interrogées, la localisation et le nombre des sites observés. N 16 Méthodes d'évaluation rapide Consultation des principales sources Consultation d'un groupe d'information -- la méthode consiste à communautaire -- cette méthode poser une série de questions ouvertes à consiste à poser une série de questions et des individus choisis en raison de leur à faciliter le débat au cours d'une réunion connaissance et expérience d'un sujet ouverte à tous les membres de la particulier. Les entrevues -- qualitatives, communauté. L'enquêteur suit un approfondies et semi-structurées -- sont questionnaire soigneusement préparé. fondées sur un guide d'entretien contenant la liste des sujets ou des Observation directe -- cette méthode questions. consiste à consigner sur un formulaire détaillé ce qui a été vu et entendu sur les Groupe d'expression -- cette méthode lieux de réalisation d'un programme. Les consiste à faciliter des échanges de vues informations peuvent concerner les entre plusieurs participants (de 8 à 12) activités en cours, les procédures, les soigneusement choisis pour avoir un discussions, les interactions sociales et les profil similaire. Ces participants peuvent résultats observables. être sélectionnés parmi les bénéficiaires ou le personnel du programme, par Mini-enquête -- cette méthode repose exemple. Le facilitateur utilise un guide sur l'utilisation d'un questionnaire de discussion. D'autres personnes structuré pour poser un nombre limité de enregistrent les commentaires et questions fermées à un groupe de 50 à observations. 75 personnes. Le choix des enquêtés peut être aléatoire ou « raisonné » (par exemple, interview de parties prenantes en un lieu tel qu'un dispensaire dans le cas d'une enquête sur les soins de santé). P O U R P L U S D ' I N F O R M A T I O N S : USAID. Performance Monitoring and EvaluationTips # 2, 4, 5, 10. http://www.usaid.gov/pubs/usaid_eval/#02 K. Kumar (1993). Rapid Appraisal Methods. Banque mondiale,Washington. B A N Q U E M O N D I A L E : D É P A R T E M E N T D E L ' É V A L U A T I O N D E S O P É R A T I O N SN R E N F O R C E M E N T D E S C A P A C I T É S D ' É V A L U A T I O N 17 Méthodes participatives De quoi s'agit-il ? Les méthodes participatives permettent d'associer activement à la prise de décision les parties prenantes au projet, programme ou stratégie, et de les amener à souscrire pleinement aux résultats et recommandations du S&E. Quelles sont les applications possibles ? Mieux connaître la situation, les perspectives et les priorités de la population locale, afin de mettre au point des interventions mieux adaptées qui auront de plus grandes chances d'être durables ; Détecter les problèmes et leur apporter une solution au cours de la mise en oeuvre ; Évaluer un projet, programme, ou politique ; Améliorer les connaissances et les compétences afin de renforcer les moyens d'action des pauvres. AVANTAGES : Prise en compte des questions pertinentes grâce à la participation des principales parties prenantes au processus de conception ; Création de partenariats et appropriation locale des projets ; Amélioration de l'apprentissage, de la capacité de gestion et des compétences de la population locale ; Production d'informations actuelles et fiables pour la prise des décisions de gestion. INCONVÉNIENTS : Ces méthodes sont parfois considérées comme moins objectives ; Pour être valable, l'implication des principales parties prenantes prend du temps ; Risque de voir certaines parties prenantes monopoliser le processus pour servir leurs propres intérêts. COÛT : Faible à moyen. Très variable, selon le champ d'application et le degré de détail recherché et selon la valeur attribuée aux contributions locales. COMPÉTENCES REQUISES : Formation d'au moins plusieurs jours pour les facilitateurs. N 18 TEMPS NÉCESSAIRE : Très variable, selon le champ d'application et le degré de détail recherché. Instruments participatifs couramment utilisés Analyse des parties prenantes : point de sorte que les illettrés puissent aussi de départ de la plupart des évaluations participer. sociales et des activités participatives. L'objectif est de comprendre les Évaluation par les bénéficiaires : rapports de force entre les diverses consultation systématique des personnes associées à une activité, leur bénéficiaires des projets et d'autres influence et leurs intérêts respectifs, parties prenantes pour identifier et afin de déterminer lesquelles devraient concevoir des activités de participer, et à quel stade. développement, diagnostiquer les obstacles à la participation, et obtenir Évaluation rurale participative : les informations en retour qui méthode de planification fondée sur le permettront d'améliorer les services et partage du savoir entre la population les activités. locale, tant urbaine que rurale, et l'extérieur. Elle permet aux S&E participatif : méthode consistant gestionnaires de développement et à associer les parties prenantes à à la population locale d'évaluer et différents niveaux à l'identification des de programmer des interventions problèmes, à la collecte et l'analyse de appropriées de manière collaborative, l'information et à l'élaboration de souvent à l'aide de techniques visuelles recommandations. P O U R P L U S D ' I N F O R M A T I O N S : Guijt, I. and J. Gaventa (1998). Participatory Monitoring and Evaluation. Institute of Development Studies, University of Sussex, Brighton, U.K. http://www.ids.ac.uk/ids/bookshop/briefs/brief12.html http://www.worldbank.org/participation/partme.htm B A N Q U E M O N D I A L E : D É P A R T E M E N T D E L ' É V A L U A T I O N D E S O P É R A T I O N SN R E N F O R C E M E N T D E S C A P A C I T É S D ' É V A L U A T I O N 19 Enquêtes de suivi des dépenses publiques De quoi s'agit-il ? Ces enquêtes visent à suivre l'utilisation des fonds publics et à déterminer dans quelle mesure ces ressources atteignent effectivement les groupes cibles. Il s'agit de déterminer de quelle manière, à quelle date, et pour quels montants, ces fonds sont mis à la disposition des différents échelons de l'administration, en particulier les services responsables de la fourniture de services sociaux comme la santé et l'éducation. Cet instrument est souvent utilisé dans le cadre de plus vastes enquêtes sur les services et équipements centrées sur la qualité des services, les caractéristiques des équipements, leur gestion, la structure des incitations, etc. Quelles sont les applications possibles ? Diagnostiquer en les quantifiant les problèmes qui se posent en matière de prestation de services ; Réunir des éléments d'information sur les retards, les « déperditions », et la corruption. AVANTAGES : Cet instrument facilite le contrôle lorsque l'on dispose de peu d'informations financières ; Il améliore la gestion en signalant les goulets d'étranglement bureaucratiques dans l'acheminement des fonds destinés à la prestation de services. INCONVÉNIENTS : Les organismes publics peuvent répugner à ouvrir leurs livres comptables ; Le coût est substantiel. COÛT : Le coût peut être élevé tant que le pays ne dispose pas de capacités suffisantes pour se charger des enquêtes. Par exemple, en Ouganda, la première enquête de ce type a coûté 60 000 dollars pour le secteur de l'éducation et 100 000 dollars pour le secteur de la santé. N 20 COMPÉTENCES REQUISES : Solides compétences techniques et analytiques pour la conception de l'échantillon et du questionnaire, le traitement et l'analyse des données ; et bonne compréhension du secteur à évaluer. TEMPS NÉCESSAIRE : De cinq à six mois (un à deux mois pour la seule enquête). P O U R P L U S D ' I N F O R M A T I O N S : http://www1.worldbank.org/publicsector/pe/trackingsurveys.htm B A N Q U E M O N D I A L E : D É P A R T E M E N T D E L ' É V A L U A T I O N D E S O P É R A T I O N SN R E N F O R C E M E N T D E S C A P A C I T É S D ' É V A L U A T I O N 21 Analyse coûts-avantages et coût-efficacité De quoi s'agit-il ? Ce type d'analyse vise à déterminer si les résultats et les impacts d'une activité en justifient le coût. Les analyses coûts-avantages mesurent les ressources et les résultats en termes monétaires. Dans le cas d'analyses coût-efficacité, les ressources sont mesurées en termes monétaires et les résultats en termes non monétaires (par exemple, les progrès des élèves en lecture). Quelles sont les applications possibles ? Éclairer les décisions sur l'affectation des ressources qui sera la plus efficiente ; Identifier les projets dont le rendement sera le plus élevé. AVANTAGES : Bon moyen d'estimer l'efficience de programmes ou projets ; Possibilité d'expliciter des hypothèses économiques qui sinon pourraient rester implicites ou être négligées au stade de la conception ; Moyen utile de convaincre les décideurs et les bailleurs de fonds que les avantages à attendre d'une activité en justifient le coût. INCONVÉNIENTS : Analyses relativement techniques, exigeant la disponibilité de ressources humaines et financières suffisantes ; Les données nécessaires au calcul des coûts et des avantages peuvent ne pas être disponibles, et les résultats prévisionnels dépendre fortement des hypothèses retenues ; Les résultats doivent être interprétés avec soin, en particulier dans le cas des projets dont les avantages sont difficiles à chiffrer. COÛT : Très variable, selon le champ de l'analyse et les données disponibles. N 22 COMPÉTENCES : Dans les deux cas, les méthodes d'analyse sont souvent hautement techniques. Elles exigent des compétences dans le domaine de l'analyse économique et la disponibilité de données économiques et financières pertinentes. TEMPS NÉCESSAIRE : Très variable, selon le champ de l'analyse et les données disponibles. P O U R P L U S D ' I N F O R M A T I O N S : Belli, P. et al. (2000). Economic Analysis of Investment Operations: AnalyticalTools and Practical Applications. Banque mondiale,Washington. EXEMPLES DE BONNES PRATIQUES EN MATIÈRE D'ANALYSE COÛTS-AVANTAGES : http://kms.worldbank.org/edunet/TEN_DIMENSIONS/DIM_4/cb_ce.htm B A N Q U E M O N D I A L E : D É P A R T E M E N T D E L ' É V A L U A T I O N D E S O P É R A T I O N SN R E N F O R C E M E N T D E S C A P A C I T É S D ' É V A L U A T I O N 23 Évaluation de l'impact De quoi s'agit-il ? L'objectif est d'identifier systématiquement les effets -- positifs ou négatifs, voulus ou non -- d'une activité de développement donnée, par exemple un programme ou un projet, sur les ménages, les institutions et l'environnement. L'évaluation de l'impact aide à mieux comprendre la mesure dans laquelle les activités atteignent les pauvres et l'ampleur de leurs effets sur le bien-être de la population. Elle s'appuie sur des outils de portées très diverses : à un extrême, les enquêtes par sondage de grande envergure permettent de comparer la situation des populations touchées par le projet et de groupes témoins avant et après la réalisation du programme et, dans certains cas, à divers stades de son exécution ; à l'autre extrême, des évaluations rapides et des examens participatifs de portée limitée sont effectués par le biais d'entrevues de groupes ou d'intervenants majeurs, d'études de cas et de la collecte des données secondaires disponibles qui, conjointement, permettent d'établir des estimations de l'impact du projet ou programme. Quelles sont les applications possibles ? Mesurer les résultats et les effets d'une activité et les isoler de ceux qui tiennent à d'autres facteurs, extérieurs à l'activité considérée ; Aider à déterminer si les coûts de l'activité sont justifiés ; Éclairer la prise de décision quant à l'opportunité de développer, modifier ou éliminer un projet, un programme ou une politique ; Tirer de l'expérience les leçons qui permettront d'améliorer la conception et la gestion des activités futures ; Comparer l'efficacité de diverses interventions ; Rendre les responsables davantage comptables des résultats. AVANTAGES : Permet d'estimer l'ampleur des résultats et des impacts pour différents groupes démographiques, diverses régions ou diverses époques. Fournit des éléments de réponse à certaines des questions les plus fondamentales en matière de développement : dans quelle mesure notre action fait-elle une différence ? Quels sont les résultats sur le terrain ? Comment faire mieux ? Le caractère systématique de l'analyse et la rigueur de l'évaluation peuvent accroître le degré de confiance des autorités et des gestionnaires dans la prise de décision. INCONVÉNIENTS : Certaines méthodes d'évaluation sont très coûteuses et prennent du temps bien que l'on ait aussi recours à des méthodes plus rapides et moins onéreuses ; Leur utilité est moindre lorsque les décideurs ont besoin d'informations rapides ; Il est difficile d'identifier des situations/groupes témoins appropriés. N 24 COÛT : Un certain nombre des évaluations de l'impact faites par la Banque mondiale ont coûté entre 200 000 et 900 000 dollars, selon la taille et la complexité du programme et selon les informations requises. Il est possible de réaliser des évaluations d'impact plus simples et plus rapides pour un montant sensiblement inférieur à 100 000 dollars, voire même dans certains cas, pour un montant compris entre 10 000 et 20 000 dollars. COMPÉTENCES REQUISES : Solides compétences techniques en sciences sociales pour la conception et la gestion des recherches, l'analyse et la diffusion des données. L'idéal est d'équilibrer compétences quantitatives et qualitatives parmi les membres de l'équipe d'évaluation. TEMPS NÉCESSAIRE : Jusqu'à deux ans, voire davantage. Les évaluations rapides peuvent souvent être réalisées en moins de six mois. EXEMPLES DE MODÈLES D'ÉVALUATION DE L'IMPACT : Les modèles d'évaluation aléatoires, qui donnent lieu à la collecte d'informations auprès de groupes touchés par le projet et de groupes témoins à au moins deux dates différentes, produisent les analyses statistiques des effets du projet et de la contribution d'autres facteurs les plus rigoureuses. Toutefois, il est rarement possible d'employer ces modèles en pratique pour des raisons de coût, de temps et de difficultés méthodologiques ou éthiques. La plupart des évaluations de l'impact s'appuient donc sur des modèles moins onéreux mais moins rigoureux. Le tableau ci-après décrit quatre types d'évaluation de l'impact utilisés dans le domaine du développement. Le premier est un modèle d'évaluation aléatoire, le deuxième est un modèle quasi-expérimental qui donne lieu à la constitution d'un groupe témoin « non équivalent » mais présentant des caractéristiques aussi proches que possible de celles de la population touchée par le projet ; la troisième méthode consiste à comparer les données relatives à la population du projet et les données relatives à un groupe témoin non-équivalent une fois le projet exécuté ; enfin la quatrième est une évaluation rapide qui repose à la fois sur des entrevues de groupes ou d'intervenants majeurs, des études de cas et des données secondaires. Le passage d'un modèle au suivant se caractérise par une perte de rigueur méthodologique qui a pour contrepartie une baisse sensible des coûts et du temps requis. P O U R P L U S D ' I N F O R M A T I O N S : Baker, J. (2000). Evaluating the Poverty Impact of Projects: A Handbook for Practitioners. Banque mondiale,Washington. http://www.worldbank.org/poverty/library/impact.htm World Bank website on impact evaluation: http://www.worldbank.org/poverty/impact/ Roche, C. (1999). Impact Assessment for Development Agencies: Learning to Value Change. Oxfam, Oxford. B A N Q U E M O N D I A L E : D É P A R T E M E N T D E L ' É V A L U A T I O N D E S O P É R A T I O N SN R E N F O R C E M E N T D E S C A P A C I T É S D ' É V A L U A T I O N 25 Quatre modèles d'évaluation de l'impact Modèle Méthode Exemple Coût et temps indicatifs 1. Modèle Les sujets (familles, écoles, communautés, Projets d'approvisionnement Un à cinq ans, selon le d'évaluation etc..) sont affectés sur une base aléatoire en eau et d'assainissement ou temps requis pour qu'un aléatoire au groupe du projet ou au groupe témoin. fourniture d'autres services tels impact puisse être avant-après Des questionnaires et autres moyens que logements, équipements détecté. Coût pouvant de collecte de données (mesures collectifs, lorsque la demande aller de 50 000 à anthropométriques, résultats aux tests est supérieure à l'offre et que 1 million de dollars d'aptitude scolaires, etc.) sont utilisés pour les bénéficiaires sont selon l'ampleur et les deux groupes avant et après le projet. sélectionnés par une méthode la complexité du Des observations supplémentaires peuvent d'échantillonnage par loterie. programme examiné. aussi être recueillies durant l'exécution du Exemple : Fonds social projet. bolivien 2. Modèle quasi Lorsqu'il n'est pas possible d'employer Ce modèle a été utilisé par Coût et durée similaires expérimental avec une méthode aléatoire, le groupe témoin la Banque mondiale dans le à ceux du modèle comparaison est composé de manière à présenter des cadre de ses projets de précédent. avant-après de la caractéristiques aussi similaires que possible logements bon marché en population touchée à celles de la population concernée. El Salvador, en Zambie, au et d'un groupe Il arrive que les catégories de communautés Sénégal et aux Philippines. témoin d'où proviennent les participants sélectionnés soient retenues. Lorsque les projets sont exécutés en plusieurs étapes, les participants sélectionnés pour les phases ultérieures peuvent servir de groupe témoin pour la première phase. 3. Comparaison a Des données sont collectées a posteriori Évaluation de l'impact des 50 000 dollars et plus. posteriori d'un sur le groupe des participants au projet programmes de microcrédit au Une étude réalisée par groupe touché par et un groupe témoin non-équivalent est Bangladesh. On a comparé, cette méthode coûte le projet et d'un sélectionné comme dans le modèle 2. Les d'une part, les villages dans généralement entre un groupe témoin non- données ne sont recueillies qu'à l'issue de lesquelles les programmes tiers et la moitié de ce équivalent l'exécution du projet. On procède souvent de microcrédit étaient qu'elle coûterait si le à une analyse à plusieurs variables pour opérationnels et, d'autre part, modèle un ou deux était éliminer l'effet des différences entre les les villages ne bénéficiant pas employé. attributs des deux groupes dans l'analyse de tels programmes. statistique. 4. Évaluation Certaines évaluations ne donnent lieu qu'à Évaluation de projets 25 000 dollars et plus rapide de l'impact l'examen des groupes touchés par le projet d'approvisionnement en eau (l'étude menée en a posteriori tandis que d'autres utilisent des groupes gérés par les communautés Indonésie a coûté 150 témoins correspondants. Il est possible en Indonésie. 000 dollars). Certaines d'employer des méthodes participatives études peuvent être pour permettre aux groupes d'identifier les achevées en un ou deux changements associés au projet, ceux qui mois ; d'autres peuvent en ont bénéficié et les autres, et les points prendre un an ou plus. forts et faibles du projet. La méthode de triangulation permet de comparer les informations produites par le groupe aux opinions de sources d'information majeures et d'informations secondaires. Il est possible de réaliser des études de cas au niveau d'individus ou de groupes pour mieux comprendre le processus de changement. N 26 Ressources additionnelles sur le suivi et l'évaluation Sites web Banque mondiale : Évaluation, suivi et amélioration de la qualité : http://www.worldbank.org/evaluation/ Renforcement des capacités de suivi et d'évaluation : http://www.worldbank.org/oed/ecd/ Informations sur le suivi et l'évaluation : http://www.mande.co.uk/