Ex-ante Befragungen im Programm „Azubi Kolleg Lübeck“
Das Azubi Kolleg Lübeck ist ein Programm der Joachim Herz Stiftung und der Lübecker Possehl-Stiftung, welches 25 Lübecker Auszubildende über zwei Jahre in ihrer Persönlichkeitsentwicklung unterstützt und soziale Kompetenzen fördert. Durch Seminare, Workshops und Trainings sollen die Azubis dazu befähigt werden, ihre Stärken und Potenziale zu erkennen und zu entfalten und ihr Selbstbewusstsein, Verantwortungsbewusstsein und gesellschaftliches Engagement zu steigern. In den Blockveranstaltungen werden Fortbildungen zu drei großen Themenblöcken angeboten: a) Kommunikation, b) Gesellschaft/ Politik/ Wirtschaft und c) kulturelle Bildung. Weitere Ziele des Programmes stellen der Austausch zwischen den Azubis, der gemeinsame Lernprozess und der Aufbau eines Netzwerkes dar. Langfristig soll das Programm einen Beitrag zur Persönlichkeitsbildung und beruflichen Etablierung der Azubis sowie zur Erhöhung der Attraktivität der beruflichen Ausbildung leisten. Zudem soll es der Begabtenförderung für Auszubildende zu einer größeren gesellschaftlichen Präsenz verhelfen. Als Pilotprojekt ist das Azubi Kolleg auf fünf Jahre angelegt.
Um das Programm kontinuierlich zu verbessern, wurde die CEval GmbH damit beauftragt, die Wirkungsorientierung des Programmes zu stärken, weswegen von der CEval GmbH in einem ersten Schritt ein Wirkungsgefüge und ein Indikatorenkatalog erarbeitet wurden. Auf dieser Basis wurden in nächsten Schritt Ex-Ante-Befragungen in Form von Online-Befragungen unter den Auszubildenden und unter den Personen, die die Azubis im Betrieb (z.B. als Ausbilder:in, Geschäftsführung, Personalabteilung etc.) oder in der Schule (z.B. als Klassenlehrer:in, Abteilungsleiter:in etc.) betreuen, durchgeführt. Mithilfe dieser Befragungen zu Beginn des ersten Programmdurchlaufs sollten unter anderem die Erwartungen der verschiedenen Akteure an das Programm und die beruflichen Ziele der Azubis ermittelt werden. Zum anderen sollten die Befragungen auch Auskunft über die Selbst- und Fremdeinschätzung der Fähigkeiten, Persönlichkeitsmerkmale, Freizeitaktivitäten oder Interessenfelder der Azubis zu Beginn ihrer Programmteilnahme geben.
Begleitende Evaluation des Förderprojektes “Female Producer Collective“ (2023)
Das Förderprogramm „Female Producer Collective“ der GOFORMUSIC gGmbH ist ein spezielles Förderprojekt für Produzentinnen, die Coachings in den Bereichen „Kreativität und Ideenfindung“, „Recording & Sound Design“, „Mixing & Mastering“ und „Business & Marketing“ erhalten. Ziel des Projektes ist es, gezielt Produzentinnen zu fördern, der geringen Frauenquote im Produktionsbereich entgegenzuwirken und Musikerinnen für das Produzieren zu begeistern. Die CEval GmbH wurde bereits in der ersten Förderrunde (2022) mit der begleitenden Evaluation des Förderprojektes beauftragt. 2023 startete das Förderprogramm „Female Producer Collective“ mit einer zweiten Förderrunde, wobei die CEval GmbH erneut eine begleitende Evaluation durchgeführt hat. In methodischer Hinsicht wurden sowohl Fokusgruppeninterviews mit Teilnehmenden und Coaches des Programmes als auch eine Online-Befragung über einen standardisierten Fragebogen durchgeführt.
Datenerhebung zur Vergabe des Qualitätssiegels „Fanprojekt nach dem Nationalen Konzept Sport und Sicherheit“
In Deutschland existiert ein dichtes Netzwerk von Einrichtungen der sozialen Arbeit mit jugendlichen Fußballfans, die nach den Rahmenbedingungen und Vorgaben des Nationalen Konzepts Sport und Sicherheit (NKSS) arbeiten. Das „Qualitätssiegel nach dem Nationalen Konzept Sport und Sicherheit“ wurde im Jahr 2010 mit dem Ziel eingeführt, diesen sozialpädagogisch arbeitenden Fußballfanprojekten in Deutschland ein Instrument der Qualitätssicherung an die Hand zu geben, um gemeinsame Standards und mehr Handlungssicherheit herbeizuführen und die strukturellen Rahmenbedingungen der sozialpädagogisch arbeitenden Fußballfanprojekte zu verbessern. Das Qualitätssiegel wird auf Basis einer Empfehlung der AG Qualitätssicherung, welche durch die Koordinationsstelle Fanprojekte bei der Deutschen Sportjugend (KOS) koordiniert wird, durch den Beirat der KOS vergeben. In der AG Qualitätssicherung sind Vertreter aus dem Fußball, der obersten Landes- und Familienbehörden, der Wissenschaft und der Fanprojekte selbst vertreten. Nachdem in zwei Vorgängerprojekten bereits das Qualitätssiegel von der CEval GmbH überarbeitet, modellhaft getestet und im Anschluss die bundesweite Ausrollung durch die Erhebung der für die Vergabe notwendigen Informationen in allen Fanprojekten durchgeführt wurde, wurde die CEval GmbH nun mit den Datenerhebungen der dritten Phase zur Siegelvergabe für die aktuell 71 Fanprojekte beauftragt.
Evaluation des digitalen Seniorenportals “digital.vital”
Das Seniorenportal „digital.vital“ ist ein Modellprojekt des Amtes Hüttener Berge, des Landkreises Germersheim und der Stadt Püttlingen. Ziel des Portals ist es, einen Beitrag zur Begegnung der Herausforderungen zu leisten, die mit dem demografischen Wandel und der fortschreitenden Digitalisierung einhergehen: Durch bedarfsgerechte Angebote sollen Menschen in den Bereichen Ernährung, Bewegung und Freizeitgestaltung/soziale Teilhabe (inkl. Wohnen, Mobilität, Unterstützung) darin unterstützt werden, im Alter eine hohe Lebensqualität zu erzielen und zu erhalten. Zugleich soll durch das Portal auch die digitale Teilhabe älterer Menschen gestärkt werden. Das Projekt startete im Juli 2020 und ab Herbst 2022 werden auf dem Portal verschiedene Service- und Informationsangebote zur Verfügung gestellt werden.
Das Amt Hüttener Berge hat die CEval GmbH damit beauftragt, über eine Evaluation des Seniorenportals Erkenntnisse zur Qualität des Informations- und Serviceangebots zu erhalten und mögliche Optimierungspotenziale zur User Experience im Sinne der Portalfunktionalität sowie inhaltlicher Art (Content) zu identifizieren. Methodisch werden für die strukturierte Evaluierung der User Experience der Pilotnutzer:innen im Rahmen sog. Digitaler Werkstätten an verschiedenen Standorten insgesamt vier teilnehmende Beobachtungen durchgeführt. Ergänzt werden die teilnehmenden Beobachtungen um Nachbefragungen ausgewählter Teilnehmer:innen einige Tage nach dem Besuch der Digitalen Werkstätten, um Daten zum tatsächlichen Nutzen der Werkstätten und der Nutzung der Webseite durch die Teilnehmer:innen zu erfassen. Zudem wird eine teilstandardisierte Online-Befragung unter Trägern und Akteuren der Seniorenarbeit aus den Partnerkommunen zu deren Wahrnehmungen und fachlichen Einschätzungen zum Seniorenportal, zu seinen Angeboten sowie auch zu Weiterentwicklungspotenzialen durchgeführt.
Evaluation Dozenturen
Der DAAD als weltweit größte Förderorganisation für den Austausch von Studierenden und Wissenschaftlerinnen und Wissenschaftlern fördert mit den Programmen der Auslandsdozenturen den Lehraufenthalt von Wissenschaftlerinnen und Wissenschaftlern an Hochschulen im Ausland. Mit den Dozenturen im Ausland verfolgt der DAAD außenkulturpolitische, entwicklungspolitische, hochschulpolitische und programmpolitische Ziele. Je nach Gastland, gastgebender Institution und Zuschnitt der Dozentur weisen diese unterschiedlichen Schwerpunkte in ihren Zielsetzungen auf.
Gegenstand der Evaluation waren die Langzeit-, Kurzzeit- und Herder-Dozenturen im Betrachtungszeitraum 2012 bis 2022.
Die Evaluation verfolgte drei zentrale Zielsetzungen: Überprüfung, ob die Programme in ihrer aktuellen Ausgestaltung zeitgemäß und bedarfsorientiert sind, Unterstützung der Rechenschaftslegung des DAAD gegenüber dem Auswärtigem Amt sowie Unterstützung der strategischen Positionierung der Programme durch deren Weiterentwicklung.
In methodischer Hinsicht wurde ein Mix aus qualitativen und quantitativen Erhebungs- und Auswertungsmethoden miteinander kombiniert. Unter anderem wurden eine umfassende Dokumenten- und Sekundärdatenanalyse, virtuelle Standortbegehungen/Feldstudie, Leitfadeninterviews, Gruppendiskussionen sowie Online-Befragungen realisiert. Prüfung und Überarbeitung des Wirkungsgefüges sowie Indikatorenentwicklung waren Bestandteil der Evaluation.
Evaluation des „Deutsch-Kolumbianischen Friedensinstituts/ Instituto Colombo-Alemán para la Paz (Instituto CAPAZ)“
Das Deutsch-Kolumbianische Friedensinstitut (CAPAZ) ist eines von fünf Exzellenzzentren für Forschung und Lehre im Ausland, welches seit Oktober 2016 aus Mitteln des Auswärtigen Amtes gefördert wird. Das Institut versteht sich als akademische Kooperationsplattform, die den Wissens- und Erfahrungsaustausch zwischen Institutionen aus Forschung und Lehre, Zivilgesellschaft und Staat im Bereich der Friedensforschung fördert und auf diese Weise zum Aufbau einer nachhaltigen Friedensordnung in Kolumbien beitragen will. Die Tätigkeitsfelder des Instituts umfassen die Bereiche Lehre, Forschung, Politikberatung und Wissenstransfer.
Mit Blick auf das Ende der aktuell geförderten Institutionalisierungsphase des Instituts sowie auf eine angestrebte weitere Förderphase, hat der Deutsche Akademische Austauschdienst (DAAD) die CEval GmbH mit einer Evaluation des Instituto CAPAZ beauftragt. Ziel der Evaluation war es, eine Projektfortschritts- und Erfolgskontrolle des Projekts zu realisieren und auf dieser Basis Vorschläge zur Optimierung des Projekts sowie zur Weiterentwicklung der Förderung zu entwickeln. Hierbei orientierte sich die Evaluation an den Kriterien der Relevanz, Effektivität (Zielerreichung und Wirkung), Effizienz, Nachhaltigkeit sowie Koordination, Komplementarität und Kohärenz.
Der gewählte Evaluationsansatz war theoriebasiert und partizipativ und kombiniert in methodischer Hinsicht einen Mix aus verschiedenen vornehmlich qualitativen Erhebungs- und Auswertungsmethoden. Unter anderem wurden eine Dokumenten- und Sekundärdatenanalyse, explorative Einzel- bzw. Gruppeninterviews sowie vertiefende, leitfadengestützte Einzelinterviews und Fokusgruppendiskussionen realisiert. Begleitet wurde die Evaluation durch zwei Fachgutachterinnen.
Implementierung eines Evaluationssystems für Lehrveranstaltungen der Theaterakademie August Everding
Die Theaterakademie August Everding bietet verschiedene künstlerische Studiengänge auf Bachelor- und Masterniveau an. Um die Zufriedenheit der Studierenden mit einzelnen Lehrveranstaltungen zu ermitteln und Verbesserungspotenziale zu identifizieren, hat die Theaterakademie August Everding die CEval GmbH mit der Implementierung eines Evaluationssystems für Lehrveranstaltungen an der Theaterakademie August Everding beauftragt. Ziel ist es, eine regelmäßige Datenbasis für den weiteren Ausbau und die Optimierung der Lehrveranstaltungen zu schaffen. Methodisch werden hierfür für verschiedene Lehveranstaltungsformate teilstandardisierte Befragungen konzipiert, die für die Evaluationen verschiedener Lehrveranstaltungen (praktisch ausgerichtete und theoretisch ausgerichtete Lehrveranstaltungen sowie Einzelunterrichte) eingesetzt werden können.
Synthese und Meta-Evaluation zu den Projekt- und Programm-Evaluationen der Zentren für Deutschland- und Europastudien (ZDES)
Mit dem übergeordneten Ziel, in Deutschland, Europa und weltweit einen Beitrag zu einer Internationalisierung des Wissenschafts- und Innovationssystems zu leisten und den Hochschul- und Forschungsraum in Bezug auf Deutschland- und Europathemen mitzugestalten, fördert der DAAD interdisziplinäre Zentren für Deutschland- und Europastudien (ZDES) an Hochschulen im Ausland. Die Zentren bilden bspw. über gezielte Studienangebote Deutschland- und Europaexperten aus und treten mit Wissenschaft, Politik und interessierter Öffentlichkeit in einen Austausch zu deutschland- und europabezogenen Themen.
Um die Wirksamkeit seiner Arbeit fortlaufend zu verbessern, hatte der DAAD die CEval GmbH mit der Durchführung einer Meta-Evaluations- und Synthesestudie in Bezug auf die ZDES beauftragt. Gegenstand der Studie waren die in den Jahren 2015-2020 erstellten Projekt- und Programmevalu-ationen zu den Zentren für Deutschland und Europastudien. Der Auftrag beinhaltete die kriteriengeleitete Synthese der Erkenntnisse aus den Evaluationsberichten sowie die Beurteilung der Qualität der Evaluationen selbst (Meta-Evaluation). Ziel der Untersuchung war u.a., aus einer übergeordneten Perspektive die Zielerreichung und Wirksamkeit der Zentrenförderung zu beurteilen, Optimierungspotenziale zu identifizieren und Empfehlungen für die künftige ZDES-Förderung sowie mit Blick auf künftige ZDES-Evaluationen zu entwickeln.
Methodisch basierte die Untersuchung auf einer Desk Study. Für die Meta-Evaluation wurde eine Meta-Bewertungsmatrix als primäres Datenerhebungsinstrument entwickelt. Auf dieser Grundlage wurden die Evaluationsberichte anhand des in der Matrix definierten Sets von Qualitätsbewertungskriterien und in Bezug auf sechs Analysedimensionen systematisch analysiert und bewertet. Gleichsam wurde für die Synthese ein Analyseraster und hierauf aufbauend ein Kodierschema entwickelt, mithilfe dessen eine qualitative Inhaltsanalyse der vorliegenden Evaluationsberichte umgesetzt und eine Synthese der Erkenntnisse vorgenommen wurde.
Evaluation des Deutsch-Argentinischen Hochschulzentrums (DAHZ-CUAA)
Das Deutsch-Argentinische Hochschulzentrum (DAHZ-CUAA) ist ein binationales Hochschulzentrum und zielt darauf ab, die institutionelle, akademische und wissenschaftlichen Zusammenarbeit zwischen Argentinien und Deutschland zu stärken und zu fördern. Das Hauptziel ist dabei, innovative Studienprogramme in Gestalt von binationalen Studiengängen mit Doppelabschluss zu generieren. Um diese Zielsetzung zu erreichen, werden Hochschulen beider Länder in drei Programmlinien gefördert: dem deutsch-argentinischen Programm zur Förderung binationaler Studiengänge mit Doppelabschluss“ (Hauptförderprogramm), dem I.DEAR-Programm (Ingenieure Deutschland-Argentina) und dem Programm zur Förderung begleitender Forschungsmaßnahmen.
Um Erkenntnisse über die bisherigen Fortschritte, Erfolge und/oder Misserfolge der Programme zu erlangen und auf dieser Basis die zukünftigen Programme des DAHZ-CUAA weiterzuentwickeln und noch wirksamer gestalten zu können, hat die deutsche Geschäftsstelle des DAHZ im DAAD die CEval GmbH in Gemeinschaft mit smep consult mit einer Evaluation des DAHZ-CUAA beauftragt. Aufgabe der Evaluation war es, die Relevanz, Effektivität (Zielerreichung und Wirkung), Effizienz/Wirtschaftlichkeit sowie Nachhaltigkeit des DAHZ und seiner Programme zu beurteilen und Empfehlungen zur Weiterentwicklung und ggf. Verbesserung der Programme und zukünftigen Programmgestaltung abzuleiten.
Die Evaluation beruhte auf einem theoriebasierten, partizipativen Mixed-Methods-Ansatz. In methodischer Hinsicht wurde bei der Evaluation des DAHZ ein Mix aus qualitativen und quantitativen Erhebungs- und Auswertungsmethoden miteinander kombiniert. Unter anderem wurden eine Dokumenten- und Sekundärdatenanalyse, Leitfadeninterviews, Gruppendiskussionen und Standortbegehungen in Deutschland und im Rahmen eines Feldaufenthaltes in Argentinien sowie Online-Befragungen realisiert.
Evaluation des ASG-Mentoring-Programms 2022/2023
Übergeordnetes Ziel der gemeinnützigen Agrarsozialen Gesellschaft e.V. (ASG) ist der Einsatz für die Verbesserung der Lebensverhältnisse in ländlichen Räumen und in der Landwirtschaft. Zentrale Ressource für eine positive Entwicklung ländlicher Räume sind qualifizierte und engagierte Menschen. Vor diesem Hintergrund wurde ein ASG-Mentoring-Programm geschaffen, in welchem Studierende und Absolvent:innen, die sich beruflich im und für den ländlichen Raum engagieren möchten, über eine Phase von 18 Monaten auf ihrem Karriereweg unterstützt werden. Das ASG-Mentoring-Programm setzt auf die drei klassischen Mentoring-Komponenten: Die tutorielle Betreuung von Mentees durch die Bildung von Mentoring-Tandems mit Führungskräften aus Wissenschaft, Verwaltung, Politik, Nichtregierungsorganisationen und Wirtschaft, der Kompetenzerwerb der Mentees im Rahmen der begleitenden Seminare des Programms, ASG-Tagungen/-seminare und der Aufbau persönlicher Kontakte und Netzwerke durch den fachlichen Austausch mit allen Beteiligtengruppen innerhalb des Programms sowie im Kontext der ASG-Tagungen und -Seminare. Die CEval GmbH wurde mit der begleitenden Evaluation des Mentoring-Programmes beauftragt. Zentrale Aufgabe dieser Evaluation ist es, den durchführungsverantwortlichen Mitarbeiter:innen der ASG zeitnah steuerungsrelevante Informationen zur Verfügung zu stellen. Von besonderem Interesse sind Fragen zur Zufriedenheit mit den angebotenen Seminaren, zur Qualität der tutoriellen Beziehungen sowie zum beruflichen und persönlichen Nutzen der Beziehung für beide Seiten. Methodisch stützt sich die Evaluation auf standardisierte Online-Befragungen der Mentees und/oder Mentor:innen zu sechs Zeitpunkten und auf qualitative Interviews der Programmverantwortlichen und der Mentor*innen sowie auf (Fokus-)Gruppendiskussion mit den Mentees.
