Entwicklungszusammenarbeit – Seite 8

Untersuchung der Effektivität und des Impact der Extractive Industries Transparency Initiative (EITI)

Die Extractive Industries Transparency Initiative (EITI) ist ein globaler Standard zur Förderung eines offenen und rechenschaftspflichtigen Managements natürlicher Ressourcen. Der Standard soll Regierungs- und Unternehmenssysteme stärken, die öffentliche Debatte informieren und Vertrauen fördern. In jedem implementierenden Land wird die Initiative durch einen Zusammenschluss von Regierungen, Unternehmen und Organisationen der Zivilgesellschaft unterstützt.
Die GIZ hatte die Evaluation der Initiative in Auftrag gegeben und dabei die folgenden Ziele definiert:

Die Bewertung der Outcomes, der Effektivität und des Impacts (positiv und negativ, intendiert und nicht intendiert) von EITI vor dem Hintergrund des EITI MDTF Results Framework, und die nähere Betrachtung der Verbindungen zwischen Transparenz, Rechenschaftspflicht und wenn möglich weitergehenden Entwicklungszielen.
Die Bewertung der durch EITI entwickelten Theorie des Wandels und des EITI MDTF Results Framework mit dem Ziel, ein verbessertes generisches EITI Zielsystem zu entwickeln und ausgewählte Multi Stakeholder Groups bei der Entwicklung spezifischer nationaler EITI Zielsysteme und der Ableitung wirkungsorientierter Indikatoren zu assistieren.

Diese Ziele und die Komplexität des EITI Kontextes machten ein maßgeschneidertes Design notwendig. Der methodische Ansatz der Evaluation umfasste deswegen:

Makro-quantitative statistische Analysen
Tiefgehende Fallstudien
Partizipative Ansätze in der Operationalisierung, Datenerhebung und der Analyse der Ergebnisse.

Unter der Koordination von LBN Strategies und in Zusammenarbeit mit weiteren Beratern übernahm das Centrum für Evaluation die Führung in der Studienkomponente „Ansätze und Methodologie“.

Fallstudie für Thüringen im Rahmen der Evaluation des „European Dynamics for DEAR Efficiency“ Projektes

Das CEval wurde von Planète Publique (Paris) mit der Durchführung einer Fallstudie im Rahmen der Evaluation des EU-Projekts „European Dynamics for DEAR Efficiency“ beauftragt. Das Projekt diente dazu, Maßnahmen der entwicklungspolitischen Bildungsarbeit in vier europäischen Regionen (Thüringen/ Deutschland, Picardie/ Frankreich, Marches/ Italien und Luxembourg/ Belgien) zu fördern sowie den Austausch und das gegenseitige Lernen der teilnehmenden Akteure anzuregen. In Thüringen wurden entwicklungspolitische Bildungsmaßnahmen der schulischen und außerschulischen Bildung sowie verschiedene Vernetzungsaktivitäten auf regionaler wie auf europäischer Ebene gefördert. Für die Erstellung der Fallstudie hat das CEval qualitative Experteninterviews mit verschiedenen Stakeholdern des Projekts durchgeführt.

Meta-Evaluation World Vision Deutschland

Zum zweiten Mal hat World Vision Deutschland (WVD) das CEval beauftragt 29 Evaluationsberichte seiner langfristig angelegten Regional-Entwicklungsprogramme einer Meta-Evaluation zu unterziehen. Ziel dabei war es, die Berichte im Hinblick auf ihre Qualität und Aussagekraft zu den ihnen zugrundeliegenden Fragestellungen zu bewerten und Empfehlungen für das Design und die Umsetzung zukünftiger Evaluationsvorhaben zu entwickeln.

Methodisch konzentrierte sich das CEval dabei auf ein zweistufiges Auswertungsverfahren, das sich an die OECD/DAC Kriterien, Relevanz, Effektivität, Effizienz, Wirkung und Nachhaltigkeit, anlehnt. In einem ersten Schritt wurden die von WVD erarbeitete Kriterien Mitsprache und Inklusion, Transparenz, Angemessenheit der Methoden, Methodik, Triangulation, Befriedigung des Informationsbedarf, Identifizierung des Programmbeitrags sowie Ergebnisdarstellung anhand von verschiedenen Unterkriterien bewertet, die schließlich in einem zweiten Schritt aggregiert wurden.

Der Analyserahmen wurde bei der diesjährigen Meta-Evaluation um Nutzung und Nützlichkeit von Evaluationsergebnissen für die Projektarbeit erweitert. Um dies zu realisieren wurden leitfadengestützte Interviews mit WV Programmkoordinatoren auf internationaler Ebene durchgeführt. Basierend auf den erhaltenen Impulsen wurde ein Online Fragebogen für die Mitarbeiter von WV International entwickelt, sodass die Nützlichkeitsbewertung auf Grundlage einer internationalen, organisationsweiten Online-Befragung erfolgte.

Zusätzlich wurde die Transparenz innerhalb des herausgegebenen Wirkungsberichts bewertet. Die Bewertung erfolgte anhand der Kriterien Nachvollziehbarkeit/Verständlichkeit, Vorliegen der für die Zielgruppen relevante Informationen, methodische Vorgehensweise, Validität der genutzten Daten und Quellen, Objektivität sowie Veröffentlichung/Zugang.

Meta-Evaluierung der Projektevaluierungen aus den Jahren 2014-2015 für MISEREOR

Misereor unterstützt eine Vielzahl von Entwicklungsprojekten die durch Partnerorganisationen durchgeführt werden. Die Evaluation dieser Projekte, beauftragt durch die Partnerorganisationen oder durch Misereor leistet einen wichtigen Informations- und Lernbeitrag. Das CEval war zusammen mit .Evaluation.Consulting beauftragt, eine Metaevaluation der Evaluationen der Jahre 2014-2015 durchzuführen. Ziel war es, aussagekräftige Informationen zur Qualität der von Partnern beauftragten Evaluierungen zu erheben und so im Bereich der Qualitätssicherung mögliche Verbesserungen herbeizuführen.

Dabei richtete sich die Meta-Evaluierung im Wesentlichen nach den DAC-Standards und -Prinzipien. Methodisch wurde in einer ersten Stufe eine repräsentative Anzahl von Studien einem Basischeck unterzogen, um so Qualitätsaussagen aus der Breite der Studien ziehen zu können. Die Kriterien der Vollständigkeit und Angemessenheit der Dokumentation, Unabhängigkeit, Glaubwürdigkeit, Nützlichkeit wurden anhand von verschiedenen Unterkriterien bewertet und anschließend aggregiert.

In einem zweiten Schritt wurde ein Teil der Studien, die eine besondere Lernfunktion erfüllen, einer intensiven Analyse von diesen und weiteren Kriterien unterzogen. Ausgewertet wurden hauptsächlich die Evaluierungsberichte aber auch dazugehörige Dokumente wie Terms of Reference und generelle Dokumente von Misereor zum Thema. Darüber hinaus wurden zur Beantwortung bestimmter Untersuchungsfragen auch vereinzelt Interviews durchgeführt. In Zusammenarbeit mit .Evaluation.Consulting übernahm das CEval die Entwicklung und Konzeption der Analyseraster und war insbesondere in der Datenanalyse und -auswertung involviert.

Begleitung und Beratung Wirkungsmessung – Baseline Update Länderprogramm Bangladesch

Das Länderprogramm Bangladesch 2013-1016 von HEKS/EPER hatte zum Ziel, die soziale Inklusion von marginalisierten und entrechteten Minderheiten im Nordwesten Bangladeschs zu fördern. Die unterschiedlichen Interventionen hatten vor allem urbane und rurale Dalit und Flachland-Adibashi Gemeinden zur Zielgruppe, die unter komplexen Formen von Diskriminierung leiden. Der Ausschluss der beiden Minderheiten ist ein entscheidender Grund für Konflikte zwischen Minderheiten und der Mainstream-Gesellschaft. Mit einem Menschenrechtsansatz und einem Value-Chain Ansatz wollte HEKS die soziale Inklusion der beiden Gruppen fördern.

HEKS wollte die Wirkungen aus der letzten Projektphase messen und gleichzeitig valide Baselinedaten für die kommende Programmphase erheben. Das CEval stand HEKS dabei unterstützend zur Seite. Die Wirkung des Programms sollte mit Hilfe von Haushaltsbefragungen und der qualitativen Methode der contribution analysis erfasst werden. CEval unterstützte HEKS dabei hauptsächlich bei der Vorbereitung für die quantitative Datenerhebung und bei der quantitativen Datenauswertung. Das CEval bereitete die Sampling Strategie vor, half bei der Entwicklung der Erhebungsinstrumente und bei der statistischen Auswertung der Daten. Bei letzterem galt es insbesondere die zuvor erhobenen Daten mit den neu erhobenen Daten so zu kombinieren, um valide Schlüsse aus der statistischen Analyse ziehen zu können.

Begleitende Evaluation eines Slum Rehabilitationsprojekts in Brasilien

Knorr-Bremse Global Care e.V. (KBGC) unterstützt zusammen mit einem lokalen Partner ein Trainings- und Rehabilitationsprojekt in Grajaú, einem Slum Gebiet in Sao Paolo. Das Projekt strebt eine Verbesserung von Lebensbedingungen der Slumbevölkerung an, in dem, zum einen, Trainingsmaßnahmen im Bereich des Zivilen Bauens für junge Erwachsene angeboten werden und, zum anderen, die ausgebildeten Jugendlichen zusammen mit der Slumbevölkerung und dem lokalen Partner nachhaltige und adäquate Wohnhäuser errichten.

CEval unterstützte KBGC beim Aufbau eines Monitorings- & Evaluationssystems, das Fortschritte gegenüber der Projektziele und Wirkungen des Projekts über eine Laufzeit von drei Jahren misst. Um kurz-, mittel- und langfristige Wirkungen zu erfassen, wurde dabei eine Zeitreihenanalyse eingesetzt, die sich auf mehrere Datensammlungen durch Fragebögen stützte. Alle sechs Monate wurden die Teilnehmer:innen des Trainingprogramms befragt, deren Daten analysiert und aufbereitet, und in Kurzberichten Erkenntnisse des Programmfortschritts an KBGC und deren Partner kommuniziert.

Evaluierung und Beratung: Der QUIZ-Kompass auf dem Prüfstand

Um die eigene Arbeit effizienter zu planen und den wachsenden Qualitätsansprüchen im Rahmen der Wirkungsdebatte in der Entwicklungszusammenarbeit gerecht zu werden, hat die Abteilung Internationale Entwicklungszusammenarbeit der FES den QUIZ-Kompass (Qualitätsmanagement in der Internationalen Zusammenarbeit) im Jahr 2006 entwickelt, in den Folgejahren getestet um im Jahr 2010 verbindlich für alle Landesprojekte eingeführt.

Parallel dazu hat das Bundesministerium für wirtschaftliche Zusammenarbeit und Entwicklung (BMZ) eine Arbeitsgruppe zur Vereinheitlichung und Verbesserung des Berichts- und Antragswesens für die politischen Stiftungen ins Leben gerufen. Dies führte schließlich im Jahr 2012 zur Einführung neuer Berichts- und Antragsformate, die nunmehr für alle politischen Stiftungen verbindlich sind.

Durch diese Entwicklungen sind zum einen die Anforderungen im Berichts- und Antragswesen gestiegen. Zum anderen hat sich gezeigt, dass der QUIZ-Kompass und die BMZ-Vorgaben gemeinsam betrachtet einige Überlappungen und kleinere Widersprüche aufweisen. Dies hat dazu geführt, dass die FES sich entschieden hat den QUIZ-Kompass zu überarbeiten. Ziel der Evaluierung und Beratung war in einem ersten Schritt seine Aktualität im Hinblick auf den Status quo der Wirkungsdebatte in der Entwicklungszusammenarbeit zu analysieren. In einem zweiten Schritt ging es darum die Praktikabilität des Instrumentes zu evaluieren. In einem dritten Schritt sollten schließlich Empfehlungen für die Verschlankung und Neukonzipierung des Instruments aus den gewonnenen Erkenntnissen abgeleitet werden.

Aufbereitung methodischer Ansätze und Erfahrungen zur Wirkungsevaluation von Trainingsmaßnahmen im öffentlichen Sektor

Gemeinsam mit dem in Costa Rica ansässigen Institut CICAP beriet das CEval das GIZ-Vorhaben CADESAN in der Andenregion. Das Regionalvorhaben unterstützt die Entwicklung von Capacity Building Angeboten in den Bereichen Dezentralisierung und Modernisierung der öffentlichen Verwaltung.
Der Beratungsauftrag zielte darauf ab, der GIZ und ihren Partnerinstitutionen in der Region eine Analyse und Aufbereitung möglicher methodischer Ansätze zur Verfügung zu stellen, um die Wirkungen entsprechender Capacity Building und Trainingsmaßnahmen zu evaluieren. Hierzu wurden verschiedene Ansätze und Evaluationsdesigns, deren Anwendbarkeit auf den genannten Bereich sowie internationale Erfahrungen und Praktiken aufbereitet. Die Ergebnisse wurden bei einem Training mit der GIZ und ihren Partnern diskutiert.

Lab2Venture: Unternehmerisches Denken und Handeln in Lernort Laboren

Das von der Deutschen Kinder- und Jugendstiftung (DKJS), dem LernortLabor des Bundesverbandes der Schülerlabore e.V. (LeLa) und des TheoPrax-Zentrums des Fraunhofer Instituts für Chemische Technologie (TheoPrax) durchgeführte Vorhaben „Lab2Venture: Unternehmerisches Denken und Handeln in Lernort Laboren“ zielte darauf ab, Schülerlabore in die Lage zu versetzen, interessierte Schülerinnen und Schüler nicht nur in naturwissenschaftlicher Projektarbeit zu begleiten, sondern darüber hinaus dahin zu führen, dass sie eine Unternehmensgründung als realisierbar erkennen.

Insgesamt wurden über die drei Module hinweg bundesweit zehn Schülerlabore bei der Verknüpfung von naturwissenschaftlich-technisch orientierten Themen mit der Wirtschaftswelt sowie beim Aufbau von Schülerfirmen über einen Zeitraum von gut einem Jahr begleitend unterstützt. Zielgruppen des Vorhabens waren primär ca. 200 14-17-jährige Jugendliche, die während Modul II in den ausgewählten Schülerlaboren experimentierten, forschten und Produktideen entwickeln sollten.

Des Weiteren gehörten auch die Mitarbeiter:innen in den Laboren (d.h. Wissenschaftler:innen, Laborangestellte sowie Lehrer:innen und studentische Hilfskräfte) zu den Zielgruppen. Langfristig sollten die Mitarbeiter:innen über das Projekt hinaus als Multiplikatoren für die Weiterverbreitung des unternehmerischen Handlungswissens im Rahmen ihrer Lehrtätigkeit fungieren.

Ziel der Evaluation war es, unter Einbezug der Beteiligten systematisch Rückmeldungen und Anmerkungen über das Projekt zu gewinnen und diese mit der qualitativen Zielerreichung in Beziehung zu setzen. Ein besonderes Augenmerk wurde dabei auf die Prozessorientierung gelegt, die zur Weiterentwicklung sowie der möglichen Ausweitung des Vorhabens, nach dem Ende der Modellphase in Dezember 2013, beitragen sollte. Aufgabe der Evaluation war es entsprechend zu überprüfen, inwieweit die Zielsetzungen für beide o.g. Zielgruppen erreicht wurden, also in welchem Maße unternehmerische Themen erlernt, angewendet, beherrscht, weiterverfolgt etc. wurden.

Für die prozessorientierte Evaluation des Lab2Venture Projekts wendete die CEval GmbH ein Paneldesign an, welches auf einer Kombination aus qualitativen und quantitativen Datenerhebungs- und auswertungsverfahren fußte. die Datenerhebung erfolgte projektbegleitend an drei Erhebungszeitpunkten.

Meta-Evaluation von 34 Evaluationsberichten zu den Regional-Entwicklungsprogrammen von World Vision Deutschland (2014)

World Vision Deutschland hatte das CEval beauftragt 34 Evaluationsberichte seiner langfristig angelegten Regional-Entwicklungsprogramme einer Meta-Evaluation zu unterziehen. Ziel war es dabei, die Berichte im Hinblick auf ihre Qualität und Aussagekraft zu den ihnen zugrundeliegenden Fragestellungen zu bewerten und Empfehlungen für das Design und die Umsetzung zukünftiger Evaluationsvorhaben zu entwickeln.

Methodisch konzentrierte sich das CEval dabei auf ein zweistufiges Auswertungsverfahren, das sich an die Evaluationskriterien Relevanz, Effektivität, Effizienz, Wirkung und Nachhaltigkeit des OECD/DAC anlehnte. In einem ersten Schritt wurden die von WVD erarbeitete Kriterien Mitsprache und Inklusion, Transparenz, Angemessenheit der Methoden, Methodik, Triangulation, sowie Identifizierung des Programmbeitrags anhand von verschiedenen Unterkriterien bewertet, die schließlich in einem zweiten Schritt aggregiert wurden.

Darüber hinaus unterstützte das CEval WVD bei der Entwicklung seines Wirkungsberichts in Form von kritischer Kommentierung sowie Beratung zu methodischen Aspekten.