Evaluation der International Sustainability Academy, ISA
Die International Sustainability Academy (ISA) ist ein Projekt der Schutzgemeinschaft Deutscher Wald Hamburg e.V (SDW). Die ISA bietet ein 9-monatiges Stipendienprogramm, das durch das Bundesministerium für Wirtschaftliche Zusammenarbeit und Entwicklung (BMZ) gefördert wird, mit dem Ziel, die Internationale Zusammenarbeit bei der Umsetzung der Sustainable Development Goals (SDGs) zu unterstützen und zu stärken. Das Stipendium steht interessierten Personen offen, die an SDG-bezogenen Aktivitäten beteiligt sind und aus Ländern stammen, die auf der Liste des Entwicklungshilfeausschusses (DAC) stehen. Die erste Phase des Stipendiums umfasst einen achtmonatigen Aufenthalt in Hamburg, bei dem die Stipendiat:innen Trainings, Vernetzungsmöglichkeiten, individuelle Beratung und Unterstützung für die (Weiter-) Entwicklung ihrer wissenschaftlichen oder wirtschaftlichen Projekte und/oder Produkte erhalten. Das Stipendium schließt mit einer zweiten Phase, einem zusätzlichen Fördermonat im Heimatland ab, in dem der Abschluss bzw. die Implementation der individuellen Projekte im Fokus steht. ISA startete im September 2019.
Zur Halbzeit der zweiten Förderphase von 2022 bis 2024 wurde die CEval GmbH von der SDW mit der Durchführung einer Zwischenevaluierung beauftragt. Ziel der Evaluation war es, eine Zwischenbilanz zu ziehen und Optimierungspotenziale zur Ausgestaltung des Stipendien-programmes zu identifizieren. Die Evaluation basierte auf den OECD-DAC Kriterien und adressierte damit Fragen zur Relevanz, Kohärenz, Effizienz, Effektivität, Impact und zur Nachhaltigkeit des Stipendienprogramms.
Methodisch wurde für diese Evaluation einen Mixed-Methods-Ansatz eingesetzt, der qualitative und quantitative Instrumente und Analyseverfahren kombinierte. In qualitativer Hinsicht kam die Auswertung Projektdokumenten, semi-strukturierte Leitfadeninterviews und Fokusgruppendiskussionen mit verschiedenen Stakeholdern sowie teilnehmende Beobachtungen des Auswahlverfahrens zum Einsatz. Weiterhin wurden quantitative Online-Befragungen von aktuellen ISA Stipendiat:innen und Alumni zur Erfassung ihrer Erfahrungen und persönlichen Perspektiven auf das Stipendienprogramms durchgeführt.
Messung der Kundenzufriedenheit bei AIZ-Dienstleistungen für GIZ-Vorhaben, Folgeerhebung 2022
Um eine stetige Qualitätssicherung ihrer Dienstleistungen zu gewährleisten, hat die Akademie für Internationale Zusammenarbeit (AIZ) die CEval GmbH beauftragt, die Erhebungswelle 2022 Ihrer Kundenzufriedenheitsbefragung durchzuführen. Ziel ist es, die Zufriedenheit der GIZ-internen Kund:innen mit den Dienstleistungen der AIZ im Bereich der beruflichen Bildung sowie ggf. Optimierungspotenziale zu ermitteln.
Zu diesem Zweck wurden GIZ-interne Kund:innen im Rahmen einer teilstandardisierten Telefonbefragung zu den Bereichen Kommunikation, Beratung und Dienstleistung, Arbeitsweise und Entwicklungsorientierung befragt. Basierend auf den Befunden wurden sowohl Stärken als auch Schwächen der von der AIZ durchgeführten Maßnahmen sowie daraus resultierende Verbesserungspotenziale identifiziert.
Entwicklung eines Monitoring- und Evaluationskonzept für die Deutsche Stiftung für Internationale Rechtliche Zusammenarbeit e.V.
Seit 1992 unterstützt Die Deutsche Stiftung für internationale Rechtliche Zusammenarbeit e.V. (IRZ) im Auftrag und mit Mitteln des Bundesministeriums der Justiz und für Verbraucherschutz (BMJV) Partnerstaaten bei der Entwicklung und Konsolidierung rechtsstaatlicher und marktwirtschaftlicher Strukturen. Zu den rund 25 Partnerstaaten zählen u.a. neue EU Mitgliedsstaaten und Beitrittskandidaten sowie weitere Staaten Südosteuropas, Zentralasiens, Nordafrikas und des Nahen Ostens. Diese Staaten unterstützt die Stiftung insbesondere beim Schutz von Menschenrechten sowie in den Bereichen Rechtsstaatlichkeit und Justiz, Zivil- und Wirtschaftsrecht, öffentliches Recht, Strafrechtspflege sowie Europarecht.
Die CEval GmbH unterstützte die IRZ bei der Entwicklung eines umfassenden Monitoring- und Evaluationskonzeptes für die vom BMJV zuwendungsfinanzierte Programmelinie der Stiftung. Die Leistung umfasste die Operationalisierung des Zielsystems der IRZ mittels geeigneter Indikatoren und der Entwicklung eines Datenerhebungsplans. Dabei wurde eine Bestandsaufnahme des bisherigen Instrumentariums der IRZ durchgeführt und daran angeschlossen. Im Rahmen der Implementierung des M&E-Konzepts führte die CEval GmbH ein dreitägigen Capacity Building Intensivtraining zur Schulung der Mitarbeiter des IRZ durch und begleitete die testweise Umsetzung der Monitoringinstrumente im Sinne eines Backstopping. Die Ergebnisse des Entwicklungsprozesses wurden abschließend in einer Handreichung mit Hinweisen zur praktischen Umsetzung des M&E-Konzepts dokumentiert.
Messung der Kundenzufriedenheit bei AIZ-Dienstleistungen für GIZ-Vorhaben, Folgeerhebung 2020
Um eine stetige Qualitätssicherung zu gewährleisten, hatte die Akademie für Internationale Zusammenarbeit (AIZ) die CEval GmbH zum zweiten Mal in Folge beauftragt die Kundenzufriedenheit bei AIZ- Dienstleistungen für GIZ- Vorhaben zu evaluieren. Zu diesem Zweck wurden insgesamt elf GIZ-interne Kund:innen für Aufträge bis Juni 2020 zwischen Dezember 2020 und Januar 2021 telefonisch befragt und die Daten mittels deskriptiver Statistik ausgewertet.
Das Evaluierungsdesign gliederte sich in vier inhaltliche Bereiche: Kommunikation, Beratung und Dienstleistung, Arbeitsweise und Entwicklungsorientierung. Basierend auf den Befunden, wurden sowohl Stärken als auch Schwächen der von der AIZ durchgeführten HCD-Maßnahmen sowie daraus resultierende Verbesserungspotenziale identifiziert. Abschließend erfolgte ein Vergleich der Daten mit denen aus dem Vorjahr in Hinblick auf mögliche Trends.
Wissenschaftliche M&E-Begleitung von zwei WaSH-Projekten in Äthiopien und Kenia
Die Knorr-Bremse Global Care e.V. (KBGC) plant die Umsetzung zweier WASH-Projekte in Äthiopien und Kenia. Gemeinsames Ziel der beiden Vorhaben ist die Reduktion von Sterblichkeits- und Krankheitsraten durch wasserverbundene Krankheiten. Hierfür ist eine Reihe von, an die Rahmenbedingungen in den jeweiligen Umsetzungsregionen angepasste Maßnahmen geplant, wie bspw. zur Verbesserung des Zugangs zu sauberem Wasser, zur Steigerung des Wissens und der Kompetenzen der beteiligten Akteure, zur Rehabilitation sanitärer Einrichtungen, zur Verbreitung energieeffizienterer Öfen, zur Gesundheitsaufklärung sowie schließlich zu Einstellungs- und Verhaltensänderungen bei den Zielgruppen. Dadurch soll ein Beitrag zur Verbesserung der allgemeinen Lebensbedingungen der Zielgruppen geleistet werden.
Die CEval GmbH übernimmt die wissenschaftliche Begleitung des Monitorings und der Evaluation der beiden Projekte, mit dem Ziel, deren Wirksamkeit zu erfassen. Die Umsetzung erfolgt in enger Zusammenarbeit mit nationalen Gutachtern in beiden Ländern. Die Evaluation der Projekte wird in erster Linie von diesen direkt vor Ort durchgeführt, während die CEval GmbH die Erstellung des Evaluationsdesigns und Methodenkonzepts, die Schulung der Monitoringverantwortlichen sowie Begleitung des gesamten Prozesses übernimmt.
Begleitende Zwischenevaluation der „Palestinian-German Science Bridge“ (PGSB)
Das Programm „Palestinian German Science Bridge“ ist ein vom Bundesministerium für Bildung und Forschung (BMBF) finanziertes Pilotprojekt, welches gemeinsam vom Forschungszentrum Jülich und der „Palestinian Academy for Science and Technology“ (PALAST) umgesetzt wird und auf die Etablierung einer langfristen Ausbildungs- und Forschungskooperation zwischen dem Forschungszentrum und den palästinensischen Universitäten abzielt. Das Programm vereint hierfür die Mobilität von Studierenden und (Nachwuchs-)Wissenschaftler*innen, den wissenschaftlichen Austausch von Forscher*innen, die Unterstützung von Forschungskooperationen und die Reintegration palästinensischer Forschender in den palästinensischen Forschungssektor.
Das Forschungszentrum Jülich hat die CEval GmbH damit beauftragt, das Forschungszentrum hinsichtlich der Konzeption einer Mid-Term Evaluation des Programms zu beraten sowie bei deren Durchführung zu unterstützen. Die Evaluation sollte die kurz- bis mittelfristigen Ergebnisse des Programms beurteilen sowie die Aussichten der langfristigen Zielerreichung. Ziel der Evaluation war es des Weiteren, Verbesserungspotenziale zur weiteren Optimierung des Programms zu identifizieren.
Methodisch basierte die Evaluation auf einem Methodenmix aus qualitativen und quantitativen Datenerhebungs- und -auswertungsmethoden. Die Datenerhebung kombinierte eine Dokumenten- und Sekundärdatenanalyse mit leitfadengestützten Interviews sowie teilstandardisierten Online-Befragungen der Stakeholder des Projekts. Die Datenanalyse vereinte deskriptive Statistik und qualitative Inhaltsanalyse. Aufgrund der COVID-19 Pandemie war die Evaluation als Remote-Evaluation konzipiert.
Ressortgemeinsame strategische Evaluierung des AA- und des BMZ-Engagements in Irak
Die Bundesregierung beabsichtigt, im Rahmen ihres Krisenengagements in Irak eine weitere Verankerung von Monitoring und Evaluierung als Instrumente des Lernens und der Qualitätssicherung, der Rechenschaftslegung und der strategischen Steuerung. In diesem Kontext wurde eine ressortgemeinsame Evaluierung des Irak-Engagements des Auswärtigen Amtes (AA) und des Bundesministeriums für wirtschaftliche Zusammenarbeit und Entwicklung (BMZ) durchgeführt. Diese sollte gleichzeitig als Pilotvorhaben und möglichst als Modell für ressortgemeinsame Evaluierungen beider Häuser in relevanten Handlungsfeldern und an ihren Schnittstellen fungieren. Hauptziel dieser ressortgemeinsamen Evaluierung war das gemeinsame institutionelle Lernen. Die AA-Komponente der Evaluation wurde von einem Konsortium unter Federführung der GFA Consulting Group realisiert, an dem die CEval GmbH beteiligt war; die BMZ-Komponente durch das Deutsche Evaluierungsinstitut (DEval). Beide Evaluationsteams arbeiteten in einer Arbeitsgemeinschaft eng zusammen.
Ziel der Evaluierung war es, eine unabhängige und umfassende Analyse und Bewertung des Engagements der beiden Ressorts vorzunehmen, um Erkenntnisse für die (gemeinsame) Steuerung zu gewinnen und zu nutzen. Durch die Evaluierung wurden Erkenntnisse über Relevanz, Effektivität und übergeordnete Wirkungen, Effizienz, Nachhaltigkeit bzw. Anschlussfähigkeit sowie Koordination, Kohärenz und Komplementarität des Irak-Engagements beider Ressorts gewonnen. Weiterhin hat die Evaluierung Handlungsempfehlungen für eine Optimierung des Gesamtengagements und einzelner Maßnahmen, Strukturen und Prozesse geliefert, um das laufende Portfolio ggf. nachzusteuern. Schließlich wurden aus dem AA-BMZ Engagement in Irak Lernerfahrungen für ein ähnliches Engagement in anderen Krisenkontexten identifiziert. Die Evaluierung diente auch der begleitenden bzw. abschließenden Erfolgskontrolle des Länderportfolios gemäß Bundeshaushaltsordnung.
Methodisch basierte die Evaluation auf einem breiten Mix aus qualitativen und quantitativen Datenerhebungs- und Auswertungsmethoden. Die Datenerhebungen wurden aufgrund pandemiebedingter Reisebeschränkungen durch das Konsortium sowohl in Deutschland als auch im Irak remote realisiert bzw. gesteuert.
Evaluation von zwei Schul-Rehabilitations Projekten in Nepal
Während zwei massiver Erdbeben in Nepal im Jahr 2015 wurden tausende von Schulen zerstört. Zusammen mit dem Konsortiumpartnern Helvetas und Schweizer Rot Kreuz errichtete Caritas Schweiz im Zuge eines Rehabilitationsprojektes 36 Schulen in der schwer zugänglichen Bergregion Sindhupalchok. Das Projekt umfasste Trainingsmaßnahmen zu „disaster risk reduction“, Instandhaltung und WASH (water, sanitation, hygiene) sowie soziale Interaktion mit Schulabbrecher:innen.
Die Finale Evaluation richtete sich an drei Kriterien der Core Humanitarian Standards aus (Appropriateness and relevance, effectiveness and timeliness, preparedness and resilience) um Lehren für weitere Katastrophenhilfseinsätze zu gewinnen.
Die Evaluation bediente sich verschiedener Methoden und bezog neben Einzelinterviews mit Projektverantwortlichen, Vertreter:innen der nationalen Autorität, Teammitglieder:innen, Schulleiter:innen und Bürgermeister:innen auch durch Gruppendiskussionen die Stimmen der Schulverwaltungsgremien und Lehrer:innen ein. Eine umfangreiche Befragung mehrerer hundert Schüler:innen, Eltern und Lehrer:innen ermöglichte eine vertiefende quantitative Bewertung.
Wissenschaftliche Beratung der Stabsstelle Evaluierung der GIZ zur Entwicklung aggregierter Wirkungsindikatoren
Die Gesellschaft für Internationale Zusammenarbeit (GIZ) GmbH trägt auf vielfältige Weise zur Lösung regionaler und globaler Probleme bei. Dazu gehören u.a. die Eindämmung der Folgen des Klimawandels, die Bekämpfung von Armut und Hunger oder die Schaffung eines gleichberechtigten Zugangs zu Bildung und Beschäftigung von Männern und Frauen. Für die Erfassung der durch ihre Vorhaben erbrachten Beiträge verfügt die GIZ über eine Reihe von Instrumenten und Verfahren zur Wirkungsmessung und -bewertung. Diese Instrumente und Verfahren sind jedoch im Wesentlichen auf die Berichterstattung an das BMZ ausgerichtet sowie darauf, Erkenntnisse zur Verbesserung einzelner Interventionen (PEVs) oder zur Weiterentwicklung der strategischen Ausrichtung der GIZ im jeweiligen Sektor (USEs) zu generieren. Auf der Ebene der Gesamtorganisation fehlte es jedoch an vergleichbaren Ansätzen zur Darstellung der Beiträge der GIZ insgesamt, bspw. gegenüber der Öffentlichkeit oder dem Parlament (insb. AWZ).
Um die GIZ auch auf dieser Ebene auskunftsfähig zu machen, initiierte die Stabsstelle Monitoring und Evaluierung 2014 einen Prozess zur Entwicklung von aggregierten Indikatoren, die Aussagen über den gemeinsamen Beitrag eines möglichst großen Teils der Vorhaben in den verschiedenen Sektoren, in denen die GIZ aktiv ist, erlauben.
Zentrale Projektevaluation des Projektes Competitive African Cashew Value Chains for Pro-Poor Growth
Die Cashew-Wertschöpfungskette bietet den afrikanischen Erzeugerländern interessante Möglichkeiten, Arbeitsplätze zu schaffen, betriebliche und volkswirtschaftliche Einkommen zu steigern und die Ernährungssicherung zu verbessern. Bis zum Zeitpunkt der Evaluation wurden die Potentiale jedoch kaum genutzt. So lagen die Erträge der afrikanischen Produzenten/innen mit 300 bis 550 Kilogramm Rohnüsse pro Hektar weit hinter den Erträgen in Indien und Vietnam und die Verarbeitungskapazitäten und die Arbeitsproduktivität der Betriebe waren noch zu gering, wodurch nur ein geringer Teil der Rohnüsse in den afrikanischen Herstellerländern verarbeitet wurde. Das Projekt „Competitive African Cashew Value Chains for Pro-Poor Growth“ der Deutschen Gesellschaft für internationale Zusammenarbeit GmbH unterstützte den Ausbau und die Intensivierung der Cashew Wertschöpfungskette in den sechs Ländern Ländern Benin, Burkina Faso, Côte dIvoire, Ghana und Mosambik und Sierra Leone.
Das Projekt setzte dabei auf vier Handlungsebenen an: (i) die bessere Versorgung mit leistungsfähigem Pflanzgut durch Forschung und Vermehrung und Fortbildung der Produzenten/innen durch Training und Beratung, (ii) die Beratung von Verarbeitern von Cashew-Rohnüssen und Nebenprodukten zur Verbesserung der Prozesseffizienz, (iii) die Intensivierung von Geschäftsverbindungen und Austausch zwischen allen Beteiligten der Wertschöpfungskette und (iv) die Förderung der nationalen und regionalen Rahmenbedingungen durch Beratung der Fachministerien und Intensivierung des regionalen Austauschs zwischen allen Akteuren.
Die CEval GmbH war von der GIZ mit der zentralen Projektevaluation beauftragt worden. Die Evaluation wurde an den OECD DAC Kriterien ausgerichtet und somit die Relevanz, Effektivität, Effizienz, Wirkung, Nachhaltigkeit und Kohärenz der Projektumsetzung prüfen. Methodisch baute die Evaluation auf den verfügbaren quantitativen Sekundärdaten des Projektes auf und erweiterte diese durch die Erhebung von Leitfadeninterviews und Fokusgruppendiskussionen mit Projektverantwortliche, Stakeholdern und der Zielgruppevertreter:innen. Aufgrund der zur Zeit der Evaluation vorherrschenden Corona-Pandemie wurde das Vorhaben als Remote-Evaluation umgesetzt. Die Evaluatoren der CEval GmbH arbeiteten mit lokalen Consultants in den Ländern Afrikas zusammen, welche die Datenerhebung im Feld durchführten.
