Wirkungsmonitoring im Rahmen der TZ-Maßnahme und Wirkungsevaluation auf systemischer Ebene zum Beitrag der Maßnahme zur Verzahnung von EZ und AWF
Die Herausforderungen des Klimawandels und des kontinuierlichen Rückgangs fossiler Brennstoffvorräte treffen die verschiedenen Regionen der Erde in unterschiedlicher Weise. Die Staaten haben sich dabei ambitionierte Ziele gesetzt: Mexiko möchte z.B. bis zum Jahr 2024 mehr als ein Drittel seiner Energieproduktion durch erneuerbare Energien erzeugen. Trotz aller Bemühungen ist der Umweltschutz bisher im nördlichen Lateinamerika noch nicht sonderlich erfolgreich gewesen. Eine Ursache hierfür ist die mangelhafte Verbreitung moderner Umwelttechnologien in der Region. Hier setzte das Projekt „Kooperationsplattform Lateinamerika Nord (KOPLAN)“ an und nahm vor allem zentrale Defizite in den Blick, die internationalen Investitionen und Kooperationen entgegenstehen. Diese sind vor allem fehlende Fachkompetenzen in der mittelständigen Wirtschaft im Bereich moderner Umwelttechnologien.
Im Rahmen des gegenwärtigen Auftrags unterstützte das CEval gemeinsam mit dem iSPO-Institut das Vorhaben in den Komponenten Wirkungsmonitoring und Evaluation. Ausgangspunkt eines wirkungsorientierten Monitoring ist in aller Regel das Zielsystem inkl. Zielerreichungsindikatoren und relevanter Annahmen der betreffenden Maßnahme. Veränderungen auf anderen Ebenen, insbesondere im Rahmen von Kooperationsmechanismen, werden dagegen nicht direkt oder nur am Rande im Rahmen des Monitoring thematisiert. Diese Entwicklung von Kooperationssystemen oder aber die Eignung der diesbezüglichen Förderinstrumente werden darüber hinaus im Rahmen der Komponente Evaluation in den Blick genommen.
Im Ergebnis sollten im Rahmen dieses Auftrags neben dem Monitoring und der Erfassung von Wirkungen der Einzelmaßnahmen Erkenntnisse zum Beitrag KOPLANS zur besseren Verzahnung von EZ und AWZ sowie von öffentlichem und privatem Sektor aus systemischer Ebene generiert werden.
Meta-Evaluation von ADA Projekt- und Programmevaluationen 2016-2018
Gegenstand der Meta-Evaluation waren die ADA-Evaluationen von Programmen und Projekten der Entwicklungszusammenarbeit, welche zwischen 2016 und 2018 durchgeführt wurden. Ziel war es, die Qualität und Nützlichkeit der (internen und externen) Evaluationen zu bewerten und daraus Empfehlungen zur Verbesserung des ADA-Instrumentariums für das Design und die Durchführung zukünftiger Evaluationen abzuleiten.
Im Zentrum der Meta-Evaluation stand dabei eine Dokumentenanalyse, mittels derer auf Grundlage eines detaillierten Analyseprotokolls die Qualität der Evaluationsberichte bewertet wurde. Durch den Einsatz eines solchen Protokolls, das alle relevanten Analysedimensionen, Indikatoren und Skalendefinitionen beinhaltet, wurde sichergestellt, dass die Bewertungsergebnisse verlässlich und nachvollziehbar sind. Zur Bewertung der Nützlichkeit und Nutzung der Evaluationen, wurden deren Nutzer:innen (z.B. Programmverantwortliche) im Rahmen von leitfadengestützten Einzel- und Gruppeninterviews sowie & zur Gewährleistung einer größtmöglichen Repräsentativität der Untersuchungsergebnisse & einer teilstandardisierten Online-Erhebung befragt.
Meta-Evaluation und Synthese von Evaluationsberichten der Christoffel Blindenmission
Im Auftrag der Christoffel Blindenmission (CBM) führte CEval eine Synthese von 24 Evaluationsberichten der Jahre 2016 und 2017 durch. Mit dem Mandat in den ärmsten Regionen der Welt für eine Verbesserung der Lebensqualität von Menschen mit Behinderungen zu kämpfen, liegt der Projektfokus der CBM auf einer eingehenden Kooperation mit sowie auf der Förderung von lokalen Akteuren in Entwicklungsländern und Krisenregionen.
Im Zentrum der Evaluation stand eine eingehende Dokumentenanalyse der eingereichten Evaluationsberichte. Um die Homogenität der Daten zu gewährleisten wurde zunächst die Qualität aller Evaluationsberichte systematisch bewertet. Berichte, die gegebene Mindestqualitätsstandards erfüllten, wurden anhand eines Analyserasters, beruhend auf den Evaluationsfragen, evaluiert. Ziel war die Zusammenfassung der unabhängigen Projektevaluationen sowie der daraus resultierenden Erkenntnisse hinsichtlich der einzelnen CBM-Mandatsbereiche. Zusätzliches Instrument zur qualitativen und quantitativen Datenerhebung war eine Onlinebefragung der weltweiten Regionalbüros bezüglich der Nutzung und des Nutzwertes der Evaluationsberichte. Der Evaluationsbericht beantworte dabei Fragen die sich an den OECD-DAC Kriterien strukturierten.
Entwicklung eines Handbuchs zur Einführung und Nutzung von wirkungsorientierten M&E-Ansätzen im Bereich Anpassung an den Klimawandel
Projekte zur Anpassung an den Klimawandel benötigen ein methodisch ausgereiftes M&E-System, das sich nicht auf das Messen von Effekten auf Outputebene begrenzt, sondern Outcomes und Impacts sowie die Attribution von nachgelagerten Wirkungen zu den Projektaktivitäten berücksichtigt.
Die GIZ ist an das Centrum für Evaluation (CEval) mit Bitte um fachliche Unterstützung bei der Entwicklung eines praxistauglichen Ansatzes zur Impact Evaluation in diesem Bereich herangetreten. Zum einen hat das CEval verschiedene Designs der rigorosen Impact Evaluation zusammengestellt und zum anderen Beispiele zu deren Anwendbarkeit im Kontext von Anpassungsprojekten herausgearbeitet. Ergebnisse wurden in einem Handbuch zur Einführung und Nutzung von wirkungsorientierten M&E-Ansätzen im Bereich Anpassung an den Klimawandel festgehalten. Das Handbuch richtet sich an Mitarbeiterinnen und Mitarbeiter der Ministerien, der Geberinstitutionen und anderer relevanter Organisationen, die Projekte zur Anpassung an den Klimawandel entwickeln, umsetzen, prüfen und verbessern wollen.
Externe Evaluation des Netherlands Fellowship Programme (NFP II) und der Netherlands Initiative for Capacity in Higher Education (NICHE II)
Im Auftrag des niederländischen Außenministeriums (MFA) führte das CEval eine externe Evaluation des ‚Dutch Fellowship Programme‘ (NFP II) und der ‚Netherlands Initiative for Capacity Development in Higher Education‘ (NICHE II) durch. Diese Programme, die vom MFA finanziert und von der niederländischen Organisation für internationale Zusammenarbeit in der Hochschulbildung, ‚EP-Nuffic‘ verwaltet werden, fördern die Entwicklung von Kapazitäten im Bereich der Hochschulbildung in Partnerländern der niederländischen Entwicklungszusammenarbeit.
Hauptziel von NFP und NICHE ist es, den quantitativen und qualitativen Mangel an qualifiziertem Fachpersonal in Entwicklungsländern zu reduzieren und zum Aufbau nachhaltiger Kapazitäten im Rahmen der Armutsreduzierung beizutragen. Unter NFP werden Stipendien an Berufstätige vergeben, damit diese an Schulungen und Aufbaustudiengängen in den Niederlanden teilnehmen können. NICHE zielt auf die Stärkung institutionelle Kapazitäten zur Verbesserung der Qualität, Relevanz und Gender-Sensibilität der postsekundären Ausbildung in den NICHE-Partnerländern.
Die Evaluation deckte den Umsetzungszeitraum der beiden Programme von 2002 bis 2015 ab, wobei der Fokus auf der letzten Projektphase seit 2012 lag, die sich durch eine besondere Ausrichtung der Programme auf Wirtschaftsdiplomatie und eine stärkere Angleichung an die vier Schwerpunktthemen der niederländischen Entwicklungsstrategie (Wasser, sexuelle und reproduktive Gesundheit und Rechte, Sicherheit und Rechtsstaatlichkeit und Nahrungsmittelsicherheit) auszeichnete. Die Evaluation diente dabei insbesondere zur Rechenschaftslegung über die hierfür von den Niederlanden bereitgestellten Finanzmittel sowie zur Generierung von Lernerfahrungen zur zukünftigen Programm- und Strategieentwicklung.
Im Rahmen der Evaluation wurden beide Programme gemäß der OECD/DAC-Kriterien hinsichtlich ihrer Relevanz, Effizienz, Effektivität, Wirkung und Nachhaltigkeit bewertet. Auf Grundlage der Ergebnisse wurden Empfehlungen zur zukünftigen Optimierung der Programme entwickelt. Die Evaluation wurde in Zusammenarbeit mit ACE Europe, einem belgischen Beratungsunternehmen, umgesetzt.
Programmevaluation „Stärkung der regionalen Integration und Zusammenarbeit auf dem Gebiet der Qualitätsinfrastruktur (AI) in SAARC“
Das Ziel des Regionalvorhabens in SAARC (South Asian Association for Regional Cooperation) der die Länder Indien, Pakistan, Bangladesch, Nepal, Buthan, die Malediven, Afghanistan und Sri Lanka angehören, ist es technische Handelshemmnisse abzubauen. Um dieses Ziel zu erreichen, fördert die PTB mit ihren Maßnahmen innerhalb dieses Vorhabens gezielt die Zusammenarbeit der SAARC Mitglieder im Bereich Metrologie, Akkreditierung und Standardisierung. Zur Zielgruppe gehören nationale QI Institutionen sowie Ministerien und Wirtschaftsverbände mit denen u.a. technische Trainings- oder bewusstseinsbildende Maßnahmen durchgeführt wurden.
Für die Evaluation wurden sowohl qualitative als auch quantitative Methoden genutzt (mixed method design). So wurde nebst Dokumentenanalyse und Leitfaden gestützten Interviews mit Vertretern der Zielgruppen aus allen SAARC Ländern während einer zweiwöchigen Feldphase in Bangladesch, Buthan und Indien, auch eine standardisierte Online Befragung ehemaliger Trainingsteilnehmer durchgeführt.
Das Ziel der Evaluation war es, mit Hilfe statistischer Daten- und qualitativer Inhaltsanalyse empirisch gestützte Aussagen zu Relevanz, Effektivität, Effizienz, Impact und Nachhaltigkeit (DAC-Kriterien) des Projektes zu machen. Die Ergebnisse wurden zur weiteren Entwicklung dieses, sowie weiterer Projekte der PTB (in der Region) genutzt. Die Evaluationsergebnisse wurden außerdem die Entscheidung über eine weitere Förderphase und eventuelle Änderungen in der Projektplanung beeinflussen.
Evaluation des Projektes „Nachhaltige Kommunalentwicklung durch Partnerschaftsprojekte (Nakopa)“ und des „Förderprogramms für Kommunalen Klimaschutz und Klimaanpassungsprojekte (FKKP)“
Die Servicestelle Kommunen in der Einen Welt (SKEW) unter dem Dach von Engagement Global ist das Kompetenzzentrum der kommunalen Entwicklungspolitik in Deutschland. Seit 2001 bietet sie eine Dialogplattform zum kommunalen Erfahrungsaustausch und fördert kommunale Akteure in ihrem entwicklungsbezogenen Engagement durch Qualifizierungs-, Informations- und Beratungsangebote, die Umsetzung von Modellprojekten sowie Hilfestellungen für finanzielle Förderung.
Zum Leistungsspektrum der SKEW zählen unter anderem die Vorhaben „Nachhaltige Kommunalentwicklung durch Partnerschaftsprojekte (Nakopa)“ und das „Förderprogramm für kommunale Klimaschutz- und Klimaanpassungsprojekte (FKKP)“. Während durch Nakopa bestehende und neue Partnerschaften zwischen deutschen Kommunen und Kommunen des globalen Südens zur Planung und Unterstützung von gemeinsamen Projekten in ausgewählten entwicklungspolitisch relevanten Themenfeldern gefördert werden, zielt die Förderung durch FKKP ausschließlich auf die Förderung von Maßnahmen zum Klimaschutz und zur Anpassung an den Klimawandel.
Nach einem ersten dreijährigen Projektzyklus sollten diese beiden Vorhaben nun sowohl hinsichtlich prozessualer Aspekte der Projektadministration als auch herbeigeführter Wirkungen der geförderten Projekte sowie der Förderangebote Nakopa und FKKP evaluiert werden. Zur Beantwortung der an den OECD-DAC Evaluationskriterien ausgerichteten Leitfragen wurde ein auf dokumentarischen und empirischen Daten beruhender kontributionsanalytischer Untersuchungsansatz gewählt. Grundlage der Untersuchungen waren entsprechend sowohl Monitoringdaten und Projektdokumentation als auch eigens, mittels leitfadengestützter Intensivinterviews sowie teilstandardisierter Onlinebefragungen der teilnehmenden Kommunen, erhobene Daten.
Weiterentwicklung des Monitoring und Berichtssystems zum Aktionsplan „Inklusion von Menschen mit Behinderungen“ in der deutschen entwicklungspolitischen Zusammenarbeit
Das Bundesministerium für wirtschaftliche Zusammenarbeit und Entwicklung (BMZ) hat im Februar 2013 zur Umsetzung der Verpflichtungen, die sich aus Artikel 32 der Konvention über die Rechte von Menschen mit Behinderungen (MmB) der Vereinten Nationen ergeben, den Aktionsplan zur Inklusion von MmB veröffentlicht. Dieser gibt die zentralen Leitlinien und strategischen Ziele der Bundesrepublik Deutschland für die inklusive Gestaltung ihrer entwicklungspolitischen Zusammenarbeit vor.
Zur Fortschrittsbewertung und zur Steuerung der im Rahmen des Aktionsplans durchgeführten Maßnahmen bedarf es eines adäquaten Monitoringsystems und Berichtswesens für dessen Konzeption methodisches Fachwissen notwendig ist. Dementsprechend wurde das Centrum für Evaluation (CEval) beauftragt das Sektorvorhaben „Inklusion von Menschen mit Behinderungen“ der deutschen Gesellschaft für Internationale Zusammenarbeit (GIZ) und das Referat 300 des BMZ bei der Erstellung eines Monitoring – und Analyserahmens zu unterstützen.
Externe Evaluation des empowering people. Network
Im Auftrag der Siemens Stiftung führte die CEval GmbH eine externe Evaluation des empowering People. Network durch. Das 2013 von der Siemens Stiftung ins Leben gerufene Netzwerk bringt Erfinder:innen und Sozialunternehmer:innen zusammen, die mit ihren Lösungen in wesentlichen Grundversorgungsbereichen wie Gesundheit, Ernährung oder Bildung einen Beitrag zur Verbesserung der Lebensbedingungen innerhalb der jeweiligen Gemeinden leisten. Durch den empowering people. Award werden Lösungen, die ein wesentliches Problem der Grundversorgung adressieren von der Siemens Stiftung im Hinblick auf die Eignung im Entwicklungskontext und ihr Business-Potential beurteilt. Die derzeit 80 Organisationen, die sich mit best practice Ansätzen durchgesetzt haben, erhalten im Rahmen anschließender Netzwerkaktivitäten langfristige Unterstützung in den Bereichen Organisationsentwicklung, Professionalisierung und Vernetzung mit relevanten Partnern.
Im Jahr 2017/18 wurde das empowering people. Network nun erstmalig evaluiert. Die Evaluation deckt die Gesamtlaufzeit des Netzwerkes seit der Gründung im Jahr 2013 ab und dient dabei er Lernerfahrungen zur zukünftigen Netzwerk- und Strategieentwicklung. Die Evaluation des empowering people. Network überprüfte daher, welche Wirkungen die jeweiligen Module für die Netzwerkmitglieder:innen erzielt haben und wie diese im Hinblick auf die übergeordneten Zielsetzungen zu bewerten sind. Dabei orientierte sie sich an den OECD/DAC-Kriterien und zeichnete sich durch einen partizipativen Multimethoden-Ansatz aus. Im Rahmen eines kontributionsanalytischen Untersuchungsansatzes wurden Dokumente- und Sekundäranalysen kombiniert mit qualitativen (leitfadengestützte Experteninterviews, Fallstudien und Fokusgruppendiskussionen) sowie quantitative Verfahren (teilstandardisierte Online-Erhebungen). Auf Grundlage der Ergebnisse wurden ‚lessons learnt‘ und Empfehlungen zur zukünftigen Optimierung der Netzwerkaktivitäten entwickelt.
Wirkungsstudie: Armutsminderung im ländlichen Raum durch Fairtrade, Fortsetzungsstudie 2017
2017 beauftragten Fairtrade Deutschland und die Max Havelaar Stiftung Schweiz, gemeinsam mit Fairtrade Österreich und dem Schweizer Staatssekretariat für Wirtschaft (SECO), zum zweiten Mal das Centrum für Evaluation (CEval) mit einer Studie, die darauf zielte den Beitrag des Fairen Handels (FT) zu ländlicher Entwicklung zu ermitteln. Die Studie stellt dabei eine Folgeuntersuchung zu der im Jahr 2012 veröffentlichten Studie dar und ermöglichte vor diesem Hintergrund eine längsschnittliche Bewertung der damaligen Ergebnisse und Veränderungen. Dabei umfasste die Studie dieselben Produkte (Bananen, Kakao, Kaffee, Baumwolle, Blumen und Tee), Produzententypen (Small Producer Organizations (SPO), Hired Labor (HL) und Contract Production Organizations (CPO)) sowie Länder (Peru, Ghana, Kenia und Indien) wie die Vorgängerstudie.
Welche Veränderungen in der ländlichen Entwicklung zu beobachten sind und inwieweit die FT-Zertifizierung einen Beitrag zu diesen Veränderungen leistet, stellte das zentrale Interesse dieser Folgestudie dar. Zu diesem Zweck wurde eine theoriebasierte Kontributionsanalyse durchgeführt, die sich an der FT Theory of Change sowie den COSA Nachhaltigkeitsindikatoren orientierte. Unter der Anwendung eines mixed-methods Ansatzes mit partizipativen Elementen, wurden vorrangig qualitative Primärdaten im Rahmen von Fokusgruppendiskussionen und Interviews erhoben. Die Datenerhebungen in den vier Fokusländern fand zwischen Oktober 2017 und Januar 2018 statt.