Evaluation des ASG-Mentoring-Programms 2022/2023
Übergeordnetes Ziel der gemeinnützigen Agrarsozialen Gesellschaft e.V. (ASG) ist der Einsatz für die Verbesserung der Lebensverhältnisse in ländlichen Räumen und in der Landwirtschaft. Zentrale Ressource für eine positive Entwicklung ländlicher Räume sind qualifizierte und engagierte Menschen. Vor diesem Hintergrund wurde ein ASG-Mentoring-Programm geschaffen, in welchem Studierende und Absolvent:innen, die sich beruflich im und für den ländlichen Raum engagieren möchten, über eine Phase von 18 Monaten auf ihrem Karriereweg unterstützt werden. Das ASG-Mentoring-Programm setzt auf die drei klassischen Mentoring-Komponenten: Die tutorielle Betreuung von Mentees durch die Bildung von Mentoring-Tandems mit Führungskräften aus Wissenschaft, Verwaltung, Politik, Nichtregierungsorganisationen und Wirtschaft, der Kompetenzerwerb der Mentees im Rahmen der begleitenden Seminare des Programms, ASG-Tagungen/-seminare und der Aufbau persönlicher Kontakte und Netzwerke durch den fachlichen Austausch mit allen Beteiligtengruppen innerhalb des Programms sowie im Kontext der ASG-Tagungen und -Seminare. Die CEval GmbH wurde mit der begleitenden Evaluation des Mentoring-Programmes beauftragt. Zentrale Aufgabe dieser Evaluation ist es, den durchführungsverantwortlichen Mitarbeiter:innen der ASG zeitnah steuerungsrelevante Informationen zur Verfügung zu stellen. Von besonderem Interesse sind Fragen zur Zufriedenheit mit den angebotenen Seminaren, zur Qualität der tutoriellen Beziehungen sowie zum beruflichen und persönlichen Nutzen der Beziehung für beide Seiten. Methodisch stützt sich die Evaluation auf standardisierte Online-Befragungen der Mentees und/oder Mentor:innen zu sechs Zeitpunkten und auf qualitative Interviews der Programmverantwortlichen und der Mentor*innen sowie auf (Fokus-)Gruppendiskussion mit den Mentees.
Implementierung eines Evaluationssystems für Lehrveranstaltungen der Theaterakademie August Everding
Die Theaterakademie August Everding bietet verschiedene künstlerische Studiengänge auf Bachelor- und Masterniveau an. Um die Zufriedenheit der Studierenden mit einzelnen Lehrveranstaltungen zu ermitteln und Verbesserungspotenziale zu identifizieren, hat die Theaterakademie August Everding die CEval GmbH mit der Implementierung eines Evaluationssystems für Lehrveranstaltungen an der Theaterakademie August Everding beauftragt. Ziel ist es, eine regelmäßige Datenbasis für den weiteren Ausbau und die Optimierung der Lehrveranstaltungen zu schaffen. Methodisch werden hierfür für verschiedene Lehveranstaltungsformate teilstandardisierte Befragungen konzipiert, die für die Evaluationen verschiedener Lehrveranstaltungen (praktisch ausgerichtete und theoretisch ausgerichtete Lehrveranstaltungen sowie Einzelunterrichte) eingesetzt werden können.
Synthese und Meta-Evaluation zu den Projekt- und Programm-Evaluationen der Zentren für Deutschland- und Europastudien (ZDES)
Mit dem übergeordneten Ziel, in Deutschland, Europa und weltweit einen Beitrag zu einer Internationalisierung des Wissenschafts- und Innovationssystems zu leisten und den Hochschul- und Forschungsraum in Bezug auf Deutschland- und Europathemen mitzugestalten, fördert der DAAD interdisziplinäre Zentren für Deutschland- und Europastudien (ZDES) an Hochschulen im Ausland. Die Zentren bilden bspw. über gezielte Studienangebote Deutschland- und Europaexperten aus und treten mit Wissenschaft, Politik und interessierter Öffentlichkeit in einen Austausch zu deutschland- und europabezogenen Themen.
Um die Wirksamkeit seiner Arbeit fortlaufend zu verbessern, hatte der DAAD die CEval GmbH mit der Durchführung einer Meta-Evaluations- und Synthesestudie in Bezug auf die ZDES beauftragt. Gegenstand der Studie waren die in den Jahren 2015-2020 erstellten Projekt- und Programmevalu-ationen zu den Zentren für Deutschland und Europastudien. Der Auftrag beinhaltete die kriteriengeleitete Synthese der Erkenntnisse aus den Evaluationsberichten sowie die Beurteilung der Qualität der Evaluationen selbst (Meta-Evaluation). Ziel der Untersuchung war u.a., aus einer übergeordneten Perspektive die Zielerreichung und Wirksamkeit der Zentrenförderung zu beurteilen, Optimierungspotenziale zu identifizieren und Empfehlungen für die künftige ZDES-Förderung sowie mit Blick auf künftige ZDES-Evaluationen zu entwickeln.
Methodisch basierte die Untersuchung auf einer Desk Study. Für die Meta-Evaluation wurde eine Meta-Bewertungsmatrix als primäres Datenerhebungsinstrument entwickelt. Auf dieser Grundlage wurden die Evaluationsberichte anhand des in der Matrix definierten Sets von Qualitätsbewertungskriterien und in Bezug auf sechs Analysedimensionen systematisch analysiert und bewertet. Gleichsam wurde für die Synthese ein Analyseraster und hierauf aufbauend ein Kodierschema entwickelt, mithilfe dessen eine qualitative Inhaltsanalyse der vorliegenden Evaluationsberichte umgesetzt und eine Synthese der Erkenntnisse vorgenommen wurde.
Evaluation des Deutsch-Argentinischen Hochschulzentrums (DAHZ-CUAA)
Das Deutsch-Argentinische Hochschulzentrum (DAHZ-CUAA) ist ein binationales Hochschulzentrum und zielt darauf ab, die institutionelle, akademische und wissenschaftlichen Zusammenarbeit zwischen Argentinien und Deutschland zu stärken und zu fördern. Das Hauptziel ist dabei, innovative Studienprogramme in Gestalt von binationalen Studiengängen mit Doppelabschluss zu generieren. Um diese Zielsetzung zu erreichen, werden Hochschulen beider Länder in drei Programmlinien gefördert: dem deutsch-argentinischen Programm zur Förderung binationaler Studiengänge mit Doppelabschluss“ (Hauptförderprogramm), dem I.DEAR-Programm (Ingenieure Deutschland-Argentina) und dem Programm zur Förderung begleitender Forschungsmaßnahmen.
Um Erkenntnisse über die bisherigen Fortschritte, Erfolge und/oder Misserfolge der Programme zu erlangen und auf dieser Basis die zukünftigen Programme des DAHZ-CUAA weiterzuentwickeln und noch wirksamer gestalten zu können, hat die deutsche Geschäftsstelle des DAHZ im DAAD die CEval GmbH in Gemeinschaft mit smep consult mit einer Evaluation des DAHZ-CUAA beauftragt. Aufgabe der Evaluation war es, die Relevanz, Effektivität (Zielerreichung und Wirkung), Effizienz/Wirtschaftlichkeit sowie Nachhaltigkeit des DAHZ und seiner Programme zu beurteilen und Empfehlungen zur Weiterentwicklung und ggf. Verbesserung der Programme und zukünftigen Programmgestaltung abzuleiten.
Die Evaluation beruhte auf einem theoriebasierten, partizipativen Mixed-Methods-Ansatz. In methodischer Hinsicht wurde bei der Evaluation des DAHZ ein Mix aus qualitativen und quantitativen Erhebungs- und Auswertungsmethoden miteinander kombiniert. Unter anderem wurden eine Dokumenten- und Sekundärdatenanalyse, Leitfadeninterviews, Gruppendiskussionen und Standortbegehungen in Deutschland und im Rahmen eines Feldaufenthaltes in Argentinien sowie Online-Befragungen realisiert.
Ressortgemeinsame strategische Evaluierung des AA- und des BMZ-Engagements in Irak
Die Bundesregierung beabsichtigt, im Rahmen ihres Krisenengagements in Irak eine weitere Verankerung von Monitoring und Evaluierung als Instrumente des Lernens und der Qualitätssicherung, der Rechenschaftslegung und der strategischen Steuerung. In diesem Kontext wurde eine ressortgemeinsame Evaluierung des Irak-Engagements des Auswärtigen Amtes (AA) und des Bundesministeriums für wirtschaftliche Zusammenarbeit und Entwicklung (BMZ) durchgeführt. Diese sollte gleichzeitig als Pilotvorhaben und möglichst als Modell für ressortgemeinsame Evaluierungen beider Häuser in relevanten Handlungsfeldern und an ihren Schnittstellen fungieren. Hauptziel dieser ressortgemeinsamen Evaluierung war das gemeinsame institutionelle Lernen. Die AA-Komponente der Evaluation wurde von einem Konsortium unter Federführung der GFA Consulting Group realisiert, an dem die CEval GmbH beteiligt war; die BMZ-Komponente durch das Deutsche Evaluierungsinstitut (DEval). Beide Evaluationsteams arbeiteten in einer Arbeitsgemeinschaft eng zusammen.
Ziel der Evaluierung war es, eine unabhängige und umfassende Analyse und Bewertung des Engagements der beiden Ressorts vorzunehmen, um Erkenntnisse für die (gemeinsame) Steuerung zu gewinnen und zu nutzen. Durch die Evaluierung wurden Erkenntnisse über Relevanz, Effektivität und übergeordnete Wirkungen, Effizienz, Nachhaltigkeit bzw. Anschlussfähigkeit sowie Koordination, Kohärenz und Komplementarität des Irak-Engagements beider Ressorts gewonnen. Weiterhin hat die Evaluierung Handlungsempfehlungen für eine Optimierung des Gesamtengagements und einzelner Maßnahmen, Strukturen und Prozesse geliefert, um das laufende Portfolio ggf. nachzusteuern. Schließlich wurden aus dem AA-BMZ Engagement in Irak Lernerfahrungen für ein ähnliches Engagement in anderen Krisenkontexten identifiziert. Die Evaluierung diente auch der begleitenden bzw. abschließenden Erfolgskontrolle des Länderportfolios gemäß Bundeshaushaltsordnung.
Methodisch basierte die Evaluation auf einem breiten Mix aus qualitativen und quantitativen Datenerhebungs- und Auswertungsmethoden. Die Datenerhebungen wurden aufgrund pandemiebedingter Reisebeschränkungen durch das Konsortium sowohl in Deutschland als auch im Irak remote realisiert bzw. gesteuert.
Entwicklung eines Wirkungsgefüges „Resilienz in der Strategischen Kommunikation“
Der digitale Wandel hat auch die Anforderungen an die Außenpolitik und ihre Kommunikation stark verändert. War sie früher vor allem Sache des Außenministers und des weltweiten Netzwerks an Auslandsvertretungen, hat Außenpolitik heute viele staatliche und nichtstaatliche Akteure. Zugleich hat der globale Wettbewerb um Aufmerksamkeit durch die Digitalisierung sowie auch durch zahlreiche neue Player und Allianzen eine neue Dimension erreicht. Sie hat sich aber auch durch massive Verlagerung der Kommunikation in die Sozialen Medien verändert. Strategische Kommunikation ist daher heute nicht nur ein anderes Kommunizieren in anderen sozialen Räumen, sondern zugleich eine Auseinandersetzung mit Herausforderungen wie Desinformation, Propaganda oder Hasskriminalität und einem veränderten Begriff von Öffentlichkeit, von freier Meinungsäußerung und ihren Gefährdungen.
Ziel des Auftrags war es, eine Entscheidungsgrundlage für die Projektauswahl zur Verfügung zu stellen, welche auf eindeutigen und vorab definierten Kriterien dazu basiert, wie gut sich ein vorgeschlagenes Projekt in die Gesamtlogik der Resilienzförderung einfügt sowie eine Grundlage für die Evaluierung des deutschen Engagements im Resilienzbereich zu schaffen. Dies erfolgte in Form der Erarbeitung eines Wirkungsgefüges mit zugehörigen wirkungsorientierten Indikatoren, die in einem Begleitbericht dokumentiert und kommunikationstheoretisch eingebettet wurden.
Pilotvorhaben strategische Evaluierung der Transformationspartnerschaften mit Jordanien, Marokko und Tunesien
Die CEval GmbH führte gemeinsam mit der GFA Consulting Group im Rahmen einer Arbeitsgemeinschaft eine strategische Evaluierung der seit 2011 bestehenden Transformationspartnerschaften des Auswärtigen Amtes (AA) als Teil der Außenpolitik der deutschen Bundesregierung zur Unterstützung von Demokratisierungsprozessen in arabischen Ländern durch. Der Schwerpunkt der Evaluierung lag auf den Bereichen Rechtsstaatsförderung, Förderung der Zivilgesellschaft und Auswärtige Kultur- und Bildungspolitik sowie auf den drei Ländern Jordanien, Marokko und Tunesien.
Das Pilotvorhaben der strategischen Evaluierung stand im Kontext des längerfristigen Ziels eines Ausbaus der Nutzung strategischer Evaluierung als Steuerungsinstrument und der Verankerung institutionellen Lernens im AA. Neben der Untersuchung tatsächlich angewendeter Verfahren und Methoden zur strategischen Schwerpunktsetzung sollten daher auch Ausbaumöglichkeiten der strategischen Steuerung und Verbesserungsmöglichkeiten bei der Verknüpfung von Vorhabendurchführung und Evaluierung in die Untersuchung einbezogen werden.
Als Ausgangspunkt für die Evaluierung erarbeitete das Evaluationsteam für die Gesamtstrategie der Transformationspartnerschaften ein Wirkungsmodell, in dem sowohl die vom AA intendierten Ziele als auch mögliche Kontextfaktoren aufgeführt wurden. Zusätzlich wurden für die Schwerpunkte (Rechtsstaatsförderung, Förderung der Zivilgesellschaft) Wirkungsmodelle erarbeitet, die in das Wirkungsgefüge der Gesamtstrategie integriert wurden. Methodisch wurden sowohl quantitative als auch qualitative Methoden zur Datenerhebung in Deutschland und vor Ort angewandt. Die Datenanalyse vereinte deskriptive Statistik mit qualitativer Inhaltsanalyse.
Evaluierung und Beratung des Projekts „Digitale Politische Bildung und Beratung“
Vor dem Hintergrund der zunehmenden Digitalisierung sämtlicher gesellschaftlicher Bereiche hat die Friedrich-Ebert-Stiftung (FES), deren zentrale Aufgabe die politische Bildung und Beratung ist, das interne Projekt „Digitale Bildung und Beratung & FES digital“ ins Leben gerufen. Es zielt darauf ab, digitale Formate im Bildungs- und Beratungsangebot der FES zu verankern.
Die FES hat schmidt evaluation und die CEval GmbH mit der Durchführung einer begleitenden Evaluation des Projekts beauftragt, welche zur Klärung der Projektziele und -indikatoren sowie zu jenen der einzelnen digitalen Formate beitragen und die Zielerreichung fortlaufend überprüfen sollte.
Methodisch stützt sich die Evaluation auf die Auswertung vorhandener Sekundärdaten, auf ein Benchmarking bezüglich geeigneter Zielindikatoren und Sollwerte sowie auf die Durchführung einer Baseline-, Zwischen- und Abschlusserhebung mittels Online-Fragebögen und onlinebasierten Self-Assessments zum jeweiligen Stand der Digitalisierung der politischen Bildungsangebote.
Evaluation der Präventionskampagne „Mach Dein Passwort stark!“
Mit einem Erlass beauftragte das Ministerium des Innern Nordrhein-Westfalen (IM NRW) im Januar 2019 das Landeskriminalamt NRW (LKA NRW) mit der Entwicklung einer Präventions- und Öffentlichkeitskampagne zur Bekämpfung von Cybercrime. Ziel der Kampagne war es, die Bevölkerung in NRW im sicheren Umgang mit digitalen Endgeräten zu stärken und dadurch Tatgelegenheiten für Cybercrime im weiteren Sinne zu reduzieren und die Arbeit der Täterinnen und Täter zu erschweren. Die crossmediale Kampagne „Mach Dein Passwort stark!“ wurde im Oktober 2020 gestartet.
Die CEval GmbH wurde für die Kampagne mit einer begleitend angelegten Evaluation mit den beiden Teilbereichen Prozess- und Wirkungsevaluation beauftragt. Ziel der Studie war es, den Umsetzungsprozess sowie die Wirksamkeit der Kampagne „Mach Dein Passwort stark!“ zu bewerten und aufbauend auf diesen Ergebnissen Schlussfolgerungen und Empfehlungen für künftige polizeiliche Präventionskampagnen abzuleiten.
Die Evaluation basierte auf einem breiten Mix aus qualitativen und quantitativen Datenerhebungen, in die alle an der Konzeption und Umsetzung der Kampagne beteiligten Akteure sowie die Zielgruppen eingebunden wurden. Das Design beinhaltete auch eine experimentelle Versuchsanordnung zur vergleichenden Wirkungsevaluation der verschiedenen Komponenten der Kampagne. Im Rahmen der Datenauswertungen wurden deskriptive und inferenzstatistische Verfahren sowie qualitative Inhaltsanalysen realisiert.
Evaluation des Programms „Mentoring Hessen – Frauen in Wissenschaft und Wirtschaft“
Mentoring Hessen bietet eine europaweit einmalige Struktur der aufbauenden Förderung für junge Frauen in den Übergangsphasen ihrer Karriere in Wissenschaft und Wirtschaft. Die vier Förderlinien ProCareer.MINT, ProCareer.Doc, ProAcademia und ProProfessur richten sich an Studentinnen der MINT-Fächer sowie fachübergreifend an Doktorandinnen, Postdocs und angehende Professorinnen. Die Förderung umfasst die drei klassischen Säulen Mentoring, Qualifizierungs- und Networkingangebote.
Ziel der Evaluation war es, die Umsetzung des Konzepts und Organisationsmodells von Mentoring Hessen zu analysieren, um aufbauend auf den Befunden Empfehlungen für die optimale Weiterentwicklung des Programms zu erarbeiten. Die Evaluation hat dabei zwei Analyseperspektiven eingenommen: 1. Analyse der Konzeption, Umsetzung und Zielerreichung von Mentoring Hessen: Evaluation der Programmkonzeption und -umsetzung, Bewertung der Zielerreichung und Wirksamkeit, Ableitung von Empfehlungen zur Optimierung von Konzeption, Umsetzung und Zielerreichung; 2. Analyse des Zusammenwirkens der Akteursgruppen im Verbundprojekt Mentoring Hessen: Analyse der Struktur und ihrer Funktionalität sowie Bewertung des Zusammenwirkens der verschiedenen Akteursgruppen, Ableitung von Empfehlungen zur Optimierung von Organisationsstruktur und Zusammenarbeit.
Die Datenerhebung kombinierte eine Dokumentenanalyse mit einer umfassenden Sekundäranalyse von bereits vorhanden Daten aus Erhebungen bei den Zielgruppen, leitfadengestützten Interviews und Gruppendiskussionen. Die Datenanalyse vereinte deskriptive Statistik und qualitative Inhaltsanalyse.
