Non-intended effects of new steering model in school system - theoretical conceptualization and development of instruments for empirical acquisition

(Note: in addition to the here described quantitative cross-sectional study, within the study there has also been conducted a qualitative study using guided interviews. The data of the qualitative study are provided by the partner DIPF under controlled access conditions – the link is available under “Further Remarks”) In the past few years, new instruments of quality management were established in the German education system. This includes education standards, central comparison tests and forms of external school evaluation as well as an increased encouragement of competition in and between schools. The research project deals with the lesser acknowledged risks and side effects of these instruments, using the perception of teachers and principals for the coverage and evaluation of these non-intended effects. Topics: 1. Teacher Survey: I) Changes within the school or teaching framework through educational standards: Perceived changes in pedagogical freedom as a teacher with respect to educational standards, framework curricula, competence tests (e.g. VERA), centralized school leaving examinations and school inspections; perceived change in performance orientation in the class, in the meaning of enjoyment of learning in the lessons, in support of under- as well as top-performing pupils; perceived changes with regard to increased pressure, looking good compared to other schools, evaluation of the pupils performance level increasingly by non-school authorities, lower priority of the pupils long-term educational processes, increased pressure to achieve good test results and increased pressure to abandon methodical-didactic experiments in class, setting of learning objectives increasingly by non-school authorities, increasing formation of hierarchies among principal and college; adjustment of own lessons to the level of educational standards; changes in teaching quality by adjusting lessons to level of educational standards. II) Importance and implications of competence tests: Participation in competence tests; importance of the competence test feedback for promotion of under- and top-performing pupils; personal importance of the results of competence tests for the orientation in teaching practice and for reliable information on the pupils performance level; changes in the significance of: in competence tests tested and untested subjects respectively, of test content in lectures and of untested aspects of subjects; used means of preparation for competence tests (exercises from former competence test booklets, specific exercise books, exercise formats typically used in competence tests); preparation and type of assistance of pupils by teachers in connection to competence tests (e.g. practicing expected exercises, longer time allowance than intended, assistance of parents etc.); own grading of the results of competence tests and related intentions. III) Importance and implications of external evaluation / school visitations: Observations in the context of external evaluations (school inspection): feedback from school inspection necessary for reliable assessment of the quality of the schools work, orientation towards the example of schools that have already been evaluated, workload for school inspections at the expense of education, educational methods deviating from the daily routine during the school inspection, indirect request to single teachers to be absent from the school inspection; assessment of (dis)encouraging effects of the external evaluation; the schools effort for a good representation; effort at the expense of teaching-related work, change of the teachers workload aside from lessons by administration- and documentation tasks; administration- and documentation tasks at the expense of the education; participation in steering committees is expected by the school. IV) Effects of central proficiency tests on own attitude towards work and working atmosphere within the college and with the parents: Quality of collaboration with parents; effects of central proficiency tests on college: strain and competitiveness within the college, discussion of the individual performance of teachers, merely implementation of mandatory reform measures, inspection pressure by school management, present and preferred importance of new ideas of school and education development at own school; attitude as a teacher: demand for assessment of performance standards or definition of teaching objectives by teachers only; pressure to act against own pedagogical conviction; own teaching should satisfy requirements of external audit; parents’ satisfaction as a sign for the quality of own work; pride over positive feedback of school management; improvement of quality of the school’s work by standardization; pressure to organize the lessons in a fashion that does not correspond to the own concepts of quality; demand for a binding recommendation of school transition by the primary school; importance of better test results of the own class; conflict between standardization and individual educational needs of pupils; importance of evaluation of the school’s work; significance of school intern and extern evaluation measures; orientation towards external requirements in everyday school life: use of exercise formats from central proficiency tests in the lessons; making full use of freedom within administrative guidelines, rejection of new ideas of education politics when insufficiently practicable; assessment of education politics and their actions; significance of selected problems for school and lessons: inconsistent implementation of reforms by single teachers, insufficient resources of the school and influence of societal problems on school and education; personal engagement in school development processes. 2. Principal survey (identical questionnaire as teachers plus additional questions): I) Demographical characteristics of pupils and teachers, type and profile of the school: highest graduation possible at own school; number of pupils; number of full-time respectively part time teachers and of freelancers; number of school inspections; year of latest school inspection; urbanization level at school location; percentage share of pupils from prosperous families, from economically disadvantaged families, from families with other language than German (migration background); percentage share of pupils who visit the school despite an alternative closer to their residence; number of schools in the catchment area that offer the same highest graduation; frequency in the last three years of applications exceeding intake capacity; relevance of multiple factors for the admission of pupils; poor performance respectively behavioral problems as reasons for leavings of pupils; efforts for admission of top- and under-performing pupils; competition and school profile (public announcement of special achievements, special school profile, additional qualification offers, active advertisement, school’s participation at student competition or model projects). II) Effects of external requirements / educational standards on attitudes of college and of school profile: Attitude of the college towards changes (reservations, great willingness to review the own pedagogical methods; development of new ideas and concepts, needs-oriented further training, feedback of school inspections as impulse for innovation, adjustment of pedagogical concepts to student body ); frequency of: selective advertisement of teaching position, recruitment of freelancers, use of school budgets for advertisements, temporal organization of the lessons, arrangement of the contingental timetable, expansion of the range of subjects, acquisition of resources from corporations and businesses, generation of additional revenues, cooperation with other schools offering the same graduations; assessment of the school’s performance compared to other schools; frequency of conduction of several comparative tests (VERA, voluntary VERA-domain, cross-class parallel tests or other cross-school comparative tests than VERA); handling of data gained from comparative tests (school management discusses VERA results with concerned colleagues, announcement of results in the college, online publishing of VERA-data of the school) Demography: gender, age (classed); position at school (teacher, principal); number of years as teacher in total and as teacher at current school; school subjects; participation in at least one school inspection; membership in teachers’ union or teachers’ organization; type of employment contract. Additionally coded: school-ID; federal state.

(Anmerkung: Neben der an dieser Stelle beschriebenen quantitativen Querschnittstudie wurde im Rahmen des Projekts außerdem eine qualitative Studie mittels Leitfadeninterviews durchgeführt. Die Daten der qualitativen Studie werden vom Verbundpartner DIPF unter geregelten Zugangsbedingungen zur Verfügung gestellt - der Link befindet sich unter "Weitere Hinweise".) Im deutschen Schulsystem wurden in den letzten Jahren neue Instrumente der Qualitätsentwicklung eingeführt. Dazu gehören Bildungsstandards, zentrale Vergleichsarbeiten und Formen der externen Evaluation von Schule sowie eine verstärkte Förderung des Wettbewerbs in und zwischen Schulen. Das Forschungsprojekt beschäftigt sich mit den bislang weniger beachteten Risiken und Nebenwirkungen dieser Instrumente, wobei für die Erfassung und Beurteilung von Nebenfolgen die Wahrnehmungen von Schulleitungen und Lehrkräften entscheidend sind. Themen: 1. Lehrerbefragung: I) Veränderungen innerhalb der Schule, bzw. der Unterrichtsgestaltung durch Bildungsstandards: Wahrgenommene Veränderungen des pädagogischen Freiraums als Lehrer in Bezug auf Bildungsstandards, Rahmenlehrpläne, Kompetenztests (z.B. VERA), zentrale Abschlussprüfungen und Schulinspektionen; wahrgenommene Veränderung der Leistungsorientierung im Unterricht, der Bedeutung der Freude am Lernen im Unterricht, der Förderung leistungsschwacher und leistungsstarker SchülerInnen; wahrgenommene Veränderung im Hinblick auf gestiegenen Druck, im Vergleich zu anderen Schulen gut dazustehen, Beurteilung des Leistungsstands von SchülerInnen zunehmend durch außerschulische Instanzen, nachrangige Orientierung an langfristigen Bildungsprozessen der SchülerInnen, gestiegener Druck, gute Testergebnisse zu erzielen bzw. gestiegener Druck auf methodisch-didaktische Experimente im Unterricht zu verzichten, Festlegung von Lernzielen zunehmend durch außerschulische Instanzen, Orientierung des Unterrichts an kurzfristiger Erfüllung definierter Qualitätskriterien, zunehmende Hierarchiebildung zischen Schulleitung und Kollegium; Anpassung des eigenen Unterrichts an das Niveau von Bildungsstandards; Veränderung der Unterrichtsqualität durch die Anpassung des Unterrichts an Bildungsstandards. II) Bedeutung und Auswirkungen von Kompetenztests: Teilnahme an Kompetenztests; Bedeutung der Rückmeldung aus den Kompetenztests für die Förderung leistungsstarker und leistungsschwacher SchülerInnen ; persönliche Bedeutung der Ergebnisse aus Kompetenztests für die Orientierung in der Ausübung des Lehrerberufs und für zuverlässige Auskünfte über den Leistungsstand der SchülerInnen; Veränderung des Stellenwerts von: in Kompetenztests getesteten bzw. nicht getesteten Fächern, von Kompetenztest-Inhalten im Unterricht sowie der nicht getesteten Aspekte der Fächer; genutzte Mittel zur Vorbereitung auf Kompetenztests (Aufgaben aus alten Kompetenztest-Testheften, spezielle Übungshefte, typische bei Kompetenztests vorkommende Aufgabenformate); Vorbereitung und Art der Hilfestellung für SchülerInnen durch die Lehrkräfte im Zusammenhang mit Kompetenztests (z.B. Üben bevorstehender Aufgaben, längere Zeitvorgabe als vorgesehen, Mithilfe der Eltern etc.) ; eigene Benotung der Ergebnisse von Kompetenztests und damit verbundene Intention. III) Bedeutung und Auswirkungen von externen Evaluationen / Schulvisitationen: Beobachtungen im Rahmen der externen Evaluation (Schulinspektion): Rückmeldung aus der Schulinspektion nötig für die zuverlässige Einschätzung der Qualität der Arbeit der Schule, Orientierung am Vorbild von Schulen, die bereits evaluiert wurden, Arbeitsaufwand für Schulinspektion zu Lasten des Unterrichts, vom Alltag abweichende Unterrichtsmethoden während der Schulinspektion, indirekte Aufforderung an einzelne Lehrkräfte, der Schulinspektion fernzubleiben; Einschätzung über (de-)motivierende Wirkung der externen Evaluation; Aufwand der Schule für eine gute Außendarstellung; Aufwand zu Lasten der unterrichtsbezogenen Arbeit; Veränderung des Arbeitsaufwands der Lehrkräfte neben dem Unterricht durch Verwaltungs-, Dokumentationsaufgaben; Verwaltungs- und Dokumentationsaufgaben zu Lasten des Unterrichts; Beteiligung an Steuergruppen wird von der Schule erwartet. IV) Auswirkungen von zentralen Leistungstests auf eigene Arbeitseinstellung und das Arbeitsklima innerhalb des Kollegiums, bzw. mit den Eltern: Qualität der Zusammenarbeit mit den Eltern; Auswirkungen der zentralen Leistungstest auf das Kollegium: Belastung und Konkurrenzdenken innerhalb des Kollegiums, Thematisierung der Einzelleistung von Lehrkräften, lediglich Umsetzung zwingend vorgeschriebener Reformmaßnahmen, Kontrolldruck durch Schulleitung; derzeitiger und präferierter Stellenwert neuer Ideen der Schul- und Unterrichtsentwicklung an der eigenen Schule; Einstellung als Lehrkraft: Forderung nach Beurteilung von Leistungsstandards bzw. Festlegung von Unterrichtszielen ausschließlich durch Lehrkräfte; Zwang, gegen eigene pädagogische Überzeugungen zu handeln; eigener Unterricht sollte den Maßstäben externer Prüfungen gerecht werden; Zufriedenheit der Eltern als Indiz für die Qualität der eigenen Arbeit; Stolz über positive Rückmeldungen der Schulleitung; Erhöhung der Qualität schulischer Arbeit durch Standardisierung; Zwang, den Unterricht in einer Art zu gestalten, welche nicht mit eigenen Qualitätsvorstellungen übereinstimmt; Forderung nach bindender Übergangsempfehlung der Grundschule; Wichtigkeit besserer Testergebnisse der eigenen Klasse; Konflikt von Standardisierung und individuellen Bildungsbedürfnissen von SchülerInnen; Wichtigkeit der Evaluierung schulischer Arbeit; Stellenwert von schulinternen bzw. externen Evaluationsmaßnahmen; Orientierung an externen Vorgaben im Schulalltag: Verwendung von Aufgabenformaten zentraler Leistungstests im Unterricht; Ausreizen von Gestaltungsspielräumen gegenüber administrativen Vorgaben, Zurückweisen neuer Ideen der Bildungspolitik bei unzureichender Praxistauglichkeit; Beurteilung der Bildungspolitik und deren Handeln; Bedeutung ausgewählter Probleme für Schule und Unterricht: inkonsequente Umsetzung von Reformen durch einzelne Lehrkräfte, mangelnde Ressourcenausstattung der Schulen sowie Einfluss gesellschaftlicher Probleme auf Schule und Unterricht; persönliches Engagement in Schulentwicklungsprozessen. 2. Schulleiterbefragung (identischer Fragebogen wie Lehrkräfte plus Zusatzfragen): I) Demographische Merkmale der Schüler- und Lehrerschaft, Art und Profil der Schule: Höchster möglicher Abschluss an eigener Schule; Schülerzahl; Anzahl der Lehrer in Vollzeit bzw. Teilzeit und der Honorarkräfte; Anzahl der Schulinspektionen; Jahr der letzten Schulinspektion; Urbanisierungsgrad des Standorts der Schule; Prozentanteil der SchülerInnen aus wohlhabenden Familien, aus wirtschaftlich benachteiligten Familien, aus Familien mit anderer Sprache als Deutsch (Migrationshintergrund); Prozentanteil der SchülerInnen, welche die Schule trotz einer wohnortnäheren Alternative besuchen; Anzahl der Schulen im Einzugsbereich, die den gleichen höchstmöglichen Abschluss anbieten; Häufigkeit in den letzten drei Jahren von mehr Bewerbungen als Aufnahmekapazitäten; Relevanz verschiedener Faktoren für die Aufnahme von SchülerInnen; schlechte Leistungen bzw. Verhaltensauffälligkeiten als Gründe für Abgänge von SchülerInnen; Bemühungen um die Aufnahme besonders leistungsstarker bzw. leistungsschwacher SchülerInnen; Wettbewerb und Schulprofil (öffentliche Bekanntmachung besonderer Leistungen, besonderes Schulprofil, zusätzliche Qualifikationsangebote, aktive Werbung, Beteiligung der Schule an Schülerwettbewerben bzw. Modellversuchen). II) Auswirkungen von externen Anforderungen / Bildungsstandards auf Einstellungen des Kollegiums und des Schulprofils: Einstellung des Kollegiums gegenüber Veränderungen (Vorbehalte, große Bereitschaft zur Überprüfung der eigenen pädagogischen Arbeitsweise; Entwicklung neuer Ideen und Konzepte, bedarfsorientierte Weiterbildung, Rückmeldung der Schulinspektion als Anstoß für Innovationen, Anpassung des pädagogischen Konzepts an die Schülerschaft); Häufigkeit von: schulscharfer Ausschreibung von Lehrstellen, Einstellung von Honorarkräften, Verwendung des Schulbudgets für Werbemaßnahmen, zeitliche Organisation des Unterrichts, Ausgestaltung der Kontingentstundentafel, Erweiterung des Fächerangebots, Einwerbung von Ressourcen von Unternehmen und Betrieben, Erwirtschaftung zusätzlicher Einnahmen, Kooperation mit anderen Schulen mit gleichem Abschlussangebot; Einschätzung des Images der Schule; Einschätzung der Leistungsfähigkeit der Schule im Vergleich zu anderen Schulen; Häufigkeit der Durchführung verschiedener Vergleichsarbeiten (VERA, freiwillige VERA-Domänen, klassenübergreifende Parallelarbeiten bzw. andere schulübergreifende Vergleichsarbeiten als VERA); Umgang mit den aus Vergleichsarbeiten gewonnenen Daten (Schulleitung bespricht Ergebnisse von VERA mit betroffenen Kollegen, Bekanntgabe der Ergebnisse im Kollegium, Veröffentlichung VERA-Daten der Schule im Internet) Demographie: Geschlecht, Alter (klassiert); Position an der Schule (Lehrer, Schulleiter); Anzahl Jahre als Lehrkraft insgesamt und als Lehrkraft an jetziger Schule; Unterrichtsfächer; Teilnahme an mindestens einer Schulinspektion; Mitgliedschaft in Lehrergewerkschaft bzw. Lehrerverband; Art des Arbeitsverhältnisses. Zusätzlich verkodet wurde: Schul-ID; Bundesland.

Probability: Cluster: Stratified randomProbability.Cluster.StratifiedRandom

Wahrscheinlichkeitsauswahl: Geschichtete KlumpenauswahlProbability.Cluster.StratifiedRandom

Self-administered questionnaire: PaperSelfAdministeredQuestionnaire.Paper

Selbstausgefüllter Fragebogen: PapierSelfAdministeredQuestionnaire.Paper

Identifier
Source https://search.gesis.org/research_data/ZA6252?lang=de
Metadata Access https://datacatalogue.cessda.eu/oai-pmh/v0/oai?verb=GetRecord&metadataPrefix=oai_ddi25&identifier=386f8b3273efc01992d8582881d85823cbbdc16ff9d70c5589b2b755da8b384e
Provenance
Creator Bellmann, Johannes
Publisher GESIS Data Archive for the Social Sciences; GESIS Datenarchiv für Sozialwissenschaften
Publication Year 2015
Rights C - Data and documents are only released for academic research and teaching after the data depositor's written authorization. For this purpose the Data Archive obtains a written permission with specification of the user and the analysis intention.; C - Daten und Dokumente sind für die akademische Forschung und Lehre nur nach schriftlicher Genehmigung des Datengebers zugänglich. Das Datenarchiv holt dazu schriftlich die Genehmigung unter Angabe des Benutzers und des Auswertungszweckes ein.
OpenAccess true
Contact http://www.gesis.org/
Representation
Language English; German
Discipline Social Sciences