Nyomtatóbarát változat: Országos Közoktatási Intézet > Új Pedagógiai Szemle 2004 december > A hozottérték-index és a hozzáadott pedagógiai érték számítása a 2003-as kompetenciamérésben

Balázsi Ildikó – Zempléni András

A hozottérték-index és a hozzáadott pedagógiai érték számítása a 2003-as kompetenciamérésben

A mérés-értékelés kapcsán néhány éve megjelent egy fogalom, a hozzáadott pedagógiai érték. Az alábbi tanulmány a hozzáadott értékről és a teszteken mért eredmények objektivitása szempontjából fontos tényezőről, a hozott értékről, valamint ezek számítási módszeréről ad információt. A hozott érték fejezi ki azt a szociokulturális hátteret, amelyből a tanuló érkezik. A hozott érték számítása meghatározó jelentőségű az intézmények teljesítményének megítélésében, mivel segítségével mérhetővé válik egy-egy intézmény valóságos hozzáadott pedagógiai értéket létrehozó képessége.

A teljes körű kompetenciamérés – még a központi elemzésbe bevont 20-as minták révén is – lehetővé teszi, hogy a korábban megszokott iskolai teljesítményelemzést kiegészítsük a nemzetközi szakirodalomban gyakran vizsgált indexek számításával.

Mint azt már tudjuk, a teljesítményátlag meglehetősen igazságtalan eszköz az iskolák munkájának megítélésében: nem méri megfelelően az iskola hatékonyságát, tanárainak felkészültségét és mindazon tényezőket, amelyek a diákok teljesítményét növelik. Hiszen a teljesítmény több tényező függvényében alakul azzá, amit tesztjeinkkel mérünk: az intelligencia, a tanulási képességek, az otthoni szociális körülmények és az iskola mind hozzájárulnak a diák tudásához. Éppen ezért az egyszerű teljesítménymutatók alapján nem szerencsés megítélni az iskolát.

A hozzáadott pedagógiai érték bevezetésével az iskolák méltányos megítélésének megvalósítása a célunk. Meghatározásának többféle megközelítése lehet, például az intelligenciateszt vagy a diák korábbi eredményeinek figyelembevétele az iskola hatásának pontosabb megragadását segíti. A hazai és a nemzetközi mérési eredmények egyértelműen alátámasztják azt a tényt, hogy a tanulók otthoni körülményei, szociális és kulturális helyzete erősen befolyásolják tanulmányi eredményeiket. Éppen ezért a kompetenciamérésben az iskolák helyzetének értékelésekor a diákok otthoni szociokulturális körülményeinek hatását vettük figyelembe. Ehhez először elkészítettük a diákok hozottérték-indexét, amely a diákok szociokulturális hátterét feltáró kérdésekre kapott válaszok aggregálásával készült.

A hozottérték-index modellje

A nemzetközi gyakorlatban gyakran használnak különböző indexeket, amelyek egy-egy kérdéscsoport által képviselt témaköröket összesítenek. Így egy változóval jellemeznek összetettebb területeket (pl. olvasási szokások, otthoni tanulást segítő eszközök, a diák iskolához való viszonyát jellemző index), megkönnyítve ezzel a diákok összehasonlítását, adott témakörben való jellemzését. A változók összevonásával készülő indexek átfogóbb, megbízhatóbb képet adnak az adott témakörről, mint ha az egyes kérdéseket külön-külön vizsgálnánk.

A TIMSS-felmérés által használt indexek általában az adott témakör szerinti három kategóriába – alacsony (1-es indexérték), közepes (2-es indexérték) vagy magas (3-as indexérték) – osztják a tanulókat aszerint, hogy az adott témakör kérdéseire hogyan válaszoltak (TIMSS 1999 Technical Report). Például az otthoni tanulási források indexe (Index of Home Educational Resources – HER) a tanulók következő kérdésekre adott válaszain alapul: könyvek száma otthon, tanulást segítő eszközök (számítógép, saját íróasztal, szótár) megléte, szülők iskolai végzettsége. Magas HER-indexe annak a tanulónak van, akinek az otthonában legalább 100 könyv és mind a három eszköz megtalálható, és szülei közül legalább egyik felsőfokú végzettséggel rendelkezik. Alacsony HER-indexe annak a tanulónak van, akinek az otthonában legfeljebb 25 könyv és legfeljebb kétféle tanulást segítő eszköz található, szülei pedig legfeljebb középfokú végzettséggel rendelkeznek. Közepes index jellemzi a kérdésekre adható összes többi válaszkombinációt. Ennek a fajta indexképzésnek az előnye, hogy egyszerű és könnyen érthető, ugyanakkor a kevés kategória következtében az információvesztés jelentős mértékű.

A PISA tesztelméleti modellek alkalmazásával építette fel indexeit (PISA 2000 Technical Report). Ezek előnye, hogy abban az esetben is kiszámíthatók, ha a tanuló nem adott választ az indexben szereplő minden kérdésre, hátrányuk azonban, hogy az indexértékek nehezebben értelmezhetők, mint a hagyományos, additív indexek esetében. A szocioökonómiai státus (SES) indexe a szülők foglalkozása és iskolai végzettsége, a családi jólét indexe, az otthoni tanulást segítő eszközök indexe és a kulturális javak indexe – utóbbi három maga is egy-egy témakört összefogó változó – alapján faktoranalízissel készített index. A kompetenciamérés háttérkérdőíve a helyszűke és a személyiségi jogok védelme miatt nem tartalmazhatott több olyan kérdést, amely a SES-indexben jelentős szerepet játszik. Ezért ilyen indexet nem tudtunk létrehozni. Kimaradt többek között a háttérkérdőívből a szülők foglalkozására vonatkozó kérdés, és csupán a szülő foglalkozásának típusáról, a beosztásáról, munkaterületéről kérdeztük meg a tanulókat.

A hozottérték-index (HÉI) megalkotásának célja a tanuló otthoni szociális és tanulási körülményeinek jellemezése volt úgy, hogy az index minél jobban magyarázza a teszten elért eredményeket. Az index elkészítéséhez a diákok által kitöltött négyoldalas háttérkérdőívet vettük alapul. A kérdőív a diákok teljesítményét – tapasztalataink szerint – erősen befolyásoló háttértényezőkre irányuló kérdéseket tartalmazott. A szülők iskolai végzettségéről, a diák által várt saját végzettségéről, a vele együtt lakó személyekről, az otthonukban található könyvek számáról, olvasási szokásairól, az otthonukban megtalálható tanulást segítő és anyagi javakról, az internet-hozzáférésről és a szülők munkájának jellemzőiről kérdeztük a diákokat.

A modell kiválasztását többváltozós lineáris regresszióval végeztük, a lehetséges modellek közül azt választottuk, amelyre a magyarázó erő magas, és a szükséges változók értékei is az esetek nagy részében rendelkezésre állnak. A fenti háttérváltozókat a faktorelemzés módszereivel is megvizsgáltuk, feltérképezve a mögöttük húzódó latens struktúrát és az adódó faktorokban jelentős súllyal szereplő változókat.1

Először azokat a változókat választottuk ki, amelyek a háttérindex számolásánál egyáltalán szóba jöhetnek, azaz a diák anyagi vagy kulturális helyzetének egy aspektusát ragadják meg, és a legtöbb diákra vonatkozóan rendelkezésre áll az értékük. A nem megfelelő válaszarány miatt el kellett vetnünk néhány olyan változót, amely segített volna a magyarázó erő növelésében. Például a szülők munkájával kapcsolatos kérdésekre csupán a diákok körülbelül 70%-a válaszolt, ezért ezeket már az elemzés első lépésében kizártuk. Az index lehetséges változóit tehát a szülők iskolai végzettsége, a könyvek száma, az otthonukban megtalálható tanulást segítő és anyagi javak, valamint az internet-hozzáférés adták.

A szóba jöhető kérdések kiválasztása után felmértük azoknak a változóknak a körét, amelyek önmagukban jelentős hatással vannak a teszteredményre. Ebből a listából a többdimenziós regresszió segítségével választottuk ki a legjobb modellt oly módon, hogy a többváltozós lineáris modell esetében már nem szignifikáns változókat egyenként kizártuk. Végül a legtöbb esetben jelentős hatást mutató legfontosabb változókat választottuk ki.

Ezekből alakult ki a súlyokat kerekítve, a HÉI. Az összehasonlíthatóság és egységesség érdekében a HÉI számítása egységes a két évfolyamon. Az 1. táblázatban az indexben szereplő változók lehetséges értékei és a hozzájuk rendelt súlyok találhatók. Az utolsó három változó súlya azért negatív, mert a kedvezőbb körülményeket tükröző válasz kapta a kisebb kódot.

1. táblázat • Az indexben szereplő változók, lehetséges értékeik és a hozzájuk rendelt súlyok
Az indexet alkotó változók A változó súlya A változó lehetséges értékei és az értékek jelentése
Mi a legmagasabb iskolai végzettsége édesanyádnak? 2 1 – Nem fejezte be az általános iskolát
2 – Általános iskola
3 – Szakmunkásképző
4 – Érettségi
5 – Egyetemi vagy főiskolai diploma
Mi a legmagasabb iskolai végzettsége édesapádnak? 2,5 1 – Nem fejezte be az általános iskolát
2 – Általános iskola
3 – Szakmunkásképző
4 – Érettségi
5 – Egyetemi vagy főiskolai diploma
Megközelítőleg hány könyvetek van otthon, szüleidnek és neked együtt? 2 1 – Kevesebb mint egypolcnyi (kb. 0–50 könyv)
2 – Egypolcnyi (kb. 50 könyv)
3 – 2-3 könyvespolcnyi (max. 150 könyv)
4 – 5-6 könyvespolcnyi (max. 300 könyv)
5 – 2 könyvszekrényre való (300–600 könyv)
6 – 3 vagy több könyvszekrényre való (600–1000 könyv)
7 – 1000-nél több könyv
Megtalálhatók-e
nálatok otthon a következők?
Saját könyveid –4 1 – Igen
2 – Nem
Számítógép –4 1 – Igen
2 – Nem
Autó –2 1 – Igen
2 – Nem

Az Iskolajelentés és az elemzések interpretálhatósága érdekében az index standardizált formában került felhasználásra, tehát az elemzésekben megjelenő érték az index lineáris transzformációja, amelyre az adott évfolyamon a diákok indexének átlaga 0, szórása pedig 1. Éppen ezért a két évfolyamon közölt értékek között lineáris kapcsolat áll fenn, de ugyanaz az érték a 6. és 10. évfolyamon némiképp eltér. A 2. táblázat példákat hoz arra, hogyan érhet el a diák átlagos (HÉI értéke 0), szórásnyival az átlag alatti (HÉI értéke –1) és szórásnyival az átlag feletti (HÉI értéke 1) indexértéket a két évfolyamon.

2. táblázat • A hozottérték-index értékeinek a jelentése
Évfolyam A HÉI értéke
–1 0 1
6. Édesanyja szakmunkásképzőt, édesapja általános iskolát végzett, kb. 50 könyvük van otthon, a diáknak van saját könyve, számítógép van, autó nincs a család birtokában. Édesanyja érettségivel, édesapja szakmunkás-bizonyítvánnyal rendelkezik, 100–150 könyvük van, a diáknak vannak saját könyvei, számítógép és autó van otthon. Szülei érettségivel rendelkeznek, 600-1000 könyvük van otthon, vannak saját könyvei, számítógép és autó van otthon.
Édesanyja érettségivel, édesapja általános iskolai bizonyítvánnyal rendelkezik, 100-150 könyvük van, a diáknak vannak sajátkönyvei, számítógép és autó nincs otthon. Szülei szakmunkásképzőt végeztek, 200-300 könyvük van, a diáknak vannak saját könyvei, számítógép és autó van otthon. Édesanyja érettségi, édesapja szakmunkás-bizonyítvánnyal rendelkezik, több mint 1000 könyvük van otthon, vannak saját könyvei,számítógép és autó van otthon.
10. Édesanyja szakmunkásképzőt végzett, édesapja nem végezte el az általános iskolát, 300-600 könyvük van, a diáknak van saját könyve, számítógép nincs, autó van a család birtokában. Édesanyja szakmunkásképző, édesapja főiskolai végzettséggel rendelkezik, kb. 50 könyvük van, a diáknak vannak saját könyvei, számítógép és autó van otthon. Szülei egyetemi vagy főiskolai végzettséggel rendelkeznek, 200-300 könyvük van otthon, vannak saját könyvei, számítógép és autó van otthon.
Édesanyja érettségivel, édesapja főiskolai végzettséggel rendelkezik, 0-50 könyvük van, a diáknak nincsenek saját könyvei, számítógép nincs, autóvan otthon. Szülei főiskolai diplomával rendelkeznek, 100-150 könyvük van, a diáknak vannak saját könyvei, számítógép és autó nincs otthon. Édesanyja érettségivel, édesapja főiskolai diplomával rendelkezik, 600-1000 könyvük van otthon, vannak saját könyvei, számítógép van, autó nincs otthon.

A fent leírt többváltozós lineáris regresszió eredményeit megerősítve a kiválasztott változók a faktoranalízis esetében is a legfontosabbak közé kerültek. A szülők végzettsége, a megtalálható könyvek és a számítógép mellett az autó és a saját könyvek jelentősége kismértékben ugyan, de elmarad a tanulást segítő programok és a saját számítógép jelentőségétől. Ezek indexben való szerepeltetése a jövőben még további megfontolást igényel. (Persze itt is megmutatkozott a szülők munkájának jellege, de a túl kevés válasz miatt ezekkel nem lehet érdemben foglalkozni.)

Változóink két mögöttes változó köré csoportosulnak, ezekre kellően elkülönülten tudnak illeszkedni: az egyik a szülői faktor, a másik a számítógép-informatikai háttér faktora. Említésre méltó még az is, hogy a 10. évfolyamnál nem túl nagy teljes súllyal, de semmiképpen sem elhanyagolható mértékben megjelent egy eddig nem tapasztalt változó: az internet használata.

Az elemzés során alkalmazott módszerek

Miután hozottérték-indexünket megalkottuk, a hozzáadott pedagógiai értéket (HPÉ) az iskola hozottérték-indexe alapján várt és becsült teljesítménye közötti különbségként definiálhatjuk. A várt teljesítménytől való eltérés azt jelenti, hogy az iskola diákjai jobb vagy rosszabb eredményt értek el a teszten, mint azt az ország egy „tipikus” iskolája tette volna hasonló háttérrel rendelkező diákok esetében.

A hozottérték-index alapján várt és becsült teljesítmény meghatározásához két különböző módszert is alkalmaztunk, a hozzáadott pedagógiai értéknek kétfajta becslését is adva ezáltal. Az egyik a lineáris regresszió, amelynél az iskola teljesítményét és HÉI-értékét diákjainak az átlagával becsüljük, a várt teljesítmény pedig a HÉI-re illesztett iskolai szintű lineáris regresszió. Ezzel a módszerrel becsültük az Iskolajelentésben közölt hozzáadott pedagógiai értéket.

A másik módszer a hierarchikus lineáris modell alkalmazása, amely nem aggregált adatok alapján készül, hanem a diákok eredményeit külön-külön tekinti, figyelembe véve, hogy kétlépcsős mintavételi eljárást alkalmaztunk (Snijders–Bosker 1999). A módszer lényege tehát, hogy nem csupán iskolai, aggregált szinten illeszt regressziós egyenest, hanem az aggregált szint mellett figyelembe veszi az iskolán belül érvényesülő hatásokat is. Az iskolákon belüli regressziós egyenesek paramétereit is kiszámítja és beépíti regressziós modellünkbe.

A hierarchikus lineáris alapmodell a teljes populáció varianciáját két részre bontja: az iskolák közötti eltérésekből és az iskolán belüli eltérésekből eredő részre. A hierarchikus lineáris alapmodell a véletlen hatásokat figyelembe vevő ANOVA (szóráselemzés), ahol az iskolák hatását is véletlennek tekintjük:

Yij = μ + Uj + Rij. (1)

Yij a j-edik iskolába járó i-edik diák matematikai/szövegértési képességpontja, μ a teljes populáció átlaga, Uj a j-edik iskola hatása, Rij pedig az itteni i-edik diákra jellemző egyéni (reziduális) hatás.

A HÉI alapján várt teljesítményt a következő képlet paramétereinek a meghatározásával kapjuk, amelybe magyarázó változóként beépítettük az iskola átlagos HÉI-jét és a diák HÉI-jének ettől való eltérését.

Yij = μ + γ·H.j + Uj + β·(Hij - H.j)+ Rij, (2)

ahol H.j a j-edik iskola átlagos HÉI-je, Hij a diák hozottérték-indexe. A HÉI iskolai átlagon keresztüli és iskolán belüli hatásának megkülönböztetésére azért van szükség, mert a diákszintű változók gyakran eltérő hatást mutatnak a csoportra jellemző értékük és az egyén ettől való eltérése mentén. Elképzelhető például, hogy az iskola átlagos HÉI-je döntően befolyásolja a teljesítményt, az iskolán belüli HÉI-ben mutatkozó különbségek viszont kevésbé fontosak. A fenti képlet esetében akkor lesz a HÉI hatása azonos az iskola átlaga és az iskolán belüli ettől való eltérés alapján, ha γ= β.

Az iskola teljesítményét ebben az esetben nem az átlaggal, hanem a Bayes-módszerrel becsüljük. Ez az iskolán belüli megfigyelések átlagának és a hasonló iskolákban tapasztalt eredményeknek a súlyozott átlaga. Ily módon becslésünk megbízhatósága jelentős mértékben megnő, hiszen több megfigyelés alapján becsülünk, ez pedig a hiba csökkenéséhez vezet.

A továbbiakban bemutatjuk a lineáris regresszió, illetve a hierarchikus lineáris modellek alkalmazásával kapott eredményeket.

Az Iskolajelentés és a lineáris regressziós modell

Az Iskolajelentés HÉI-vel kapcsolatos elemzése lineáris regresszió alkalmazásával készült. A 3. táblázat a regressziós egyenesek paramétereit tartalmazza az egyes tantárgyak esetében. A teljesítményskálákra a már megszokott 500 képességpontos országos átlag és 100 képességpontos szórás teljesül.

3. táblázat • A regressziós egyenesek paraméterei az egyes tantárgyak esetében
  Együtthatók Standard hiba t-érték Szig. Együtthatók Standard hiba t-érték Szig.
  6. évfolyam, matematika 6. évfolyam, szövegértés
Állandó 501 0,67 743 0 502 0,65 777 0
Hozottérték-index 57 1,13 51 0 60 1,08 56 0
  10. évfolyam, matematika 10. évfolyam, szövegértés
Állandó 498 1,07 464 0 500 1,12 447 0
Hozottérték-index 83 1,58 52 0 87 1,65 53 0

Láthatjuk, hogy a 6. évfolyamon a HÉI értékében 1 pontnyi növekedés több mint félszórásnyi teljesítménynövekedést eredményez, tehát például az 1 HÉI-vel rendelkező iskolák tanulói átlagosan kb. 120 képességponttal jobb eredményt érnek el, mint a –1 HÉI-vel rendelkező iskolába járó társaik. A 10. évfolyam esetében még ennél is nagyobb különbséget, több mint 80 pontnyi eltérést eredményez 1 pontnyi HÉI-növekedés. Az oktatás minőségének egyik jellemzője pedig éppen az, hogy az iskola mennyire tudja felzárkóztatni, megfelelő képzésben részesíteni a hátrányos helyzetű tanulókat. A fenti eredmények szerint ebben a tekintetben oktatási rendszerünk nem áll a helyzet magaslatán, sőt az is kitűnik az eredményekből, hogy a 6. évfolyamon az otthoni körülményektől függő teljesítménykülönbség a 10. évfolyamra tovább nő. Mivel a matematika és a szövegértés esetében az eredmények hasonlóak, a továbbiakban csak a matematikára vonatkozó eredményeket mutatjuk be. Az 1. és 2. ábráról leolvasható, hogy az iskolák hogyan szóródnak a regressziós egyenesek körül. Az Iskolajelentésben a regressziós egyenes és az iskolák pontfelhője mellett az iskola saját eredményét külön jelöléssel láttuk el. A hozzáadott pedagógiai érték a pont és az egyenes távolsága a pontra illesztett függőleges egyenesen mérve, azaz az iskolát jelölő pont és az egyenes neki megfelelő pontjának magasságkülönbsége.

1. ábra • Az iskolák átlagteljesítménye a HÉI függvényében (6. osztály, matematika)

2. ábra • Az iskolák átlagteljesítménye a HÉI függvényében (10. osztály, matematika)

Korábbi tapasztalataink szerint az általános iskolások esetében a településtípus, a középiskolások esetében pedig az iskolatípus szerint tapasztalhatók jelentős különbségek a diákok teljesítményében. Ha megnézzük, hogy 10. osztályban iskolatípusonként, 6. osztályban pedig településtípusonként hogyan alakul a HÉI értéke (4. táblázat), akkor láthatjuk, hogy mind az iskolatípusok, mind a településtípusok között jelentős különbségek vannak, ami követi a megszokott teljesítménybeli különbségeket.

4. táblázat • Az átlagos HÉI és az átlagos matematikateljesítmény az egyes település-, illetve iskolatípusok esetében
6. évfolyam HÉI Matematika standard pont
Településtípus Átlag Standard hiba Átlag Standard hiba
Budapest 0,59 0,026 530 2,36
Megyeszékhely 0,32 0,025 523 2,32
Város –0,02 0,015 500 1,44
Község –0,41 0,012 474 1,03
10. évfolyam HÉI Matematika standard pont
Iskolatípus Átlag Standard hiba Átlag Standard hiba
Gimnázium 0,58 0,019 556 2,36
Szakközépiskola –0,10 0,017 502 2,15
Szakiskola –0,88 0,022 406 1,59

Megvizsgáltuk továbbá, hogy a HÉI hatása hogyan változik e kategóriák mentén. Elvégeztük a regressziót az egyes kategóriákba tartozó iskolákra külön-külön is. Az 5. táblázat a regressziós egyenes együtthatóit tartalmazza ezen esetekre.

5. táblázat • A regressziós egyenes együtthatói településtípusonként és iskolatípusonként
  Együtthatók Standard hiba t-érték Szig.
6. évfolyam, matematika
Budapest Állandó 491 2,82 174 0
Hozottérték-index 68 3,55 19 0
Megyeszékhely Állandó 502 1,75 287 0
Hozottérték-index 67 3,02 22 0
Város Állandó 502 1,20 420 0
Hozottérték-index 62 2,45 25 0
Község Állandó 496 1,40 354 0
Hozottérték-index 47 2,29 21 0
10. évfolyam, matematika
Gimnázium Állandó 505 2,54 199 0
Hozottérték-index 74 3,55 21 0
Szakközépiskola Állandó 503 1,65 304 0
Hozottérték-index 63 3,88 16 0
Szakiskola Állandó 437 3,74 117 0
Hozottérték-index 34 3,96 9 0

Noha a 6. évfolyam esetében a különböző településtípusokra illesztett egyenesek paraméterei nem azonosak, és néhol a különbségek még szignifikánsnak is tekinthetők, a 10. évfolyam esetében tapasztalható (szakiskola és egyéb iskolatípusok közötti) különbségekkel összevetve mégsem jelentősek. Jól látható ez a 3. és 4. ábrán is, amelyek együtt ábrázolják a különböző regressziós egyeneseket.

3. ábra • A HÉI hatása a 6. osztályos matematikateljesítményre országosan és településtípusonként

4. ábra • A HÉI hatása a 10. osztályos matematikateljesítményre országosan és iskolatípusonként

Ebből arra következtethetünk, hogy míg a képességekben tapasztalható különbségek a településtípusok szerint jól magyarázhatók a szociokulturális egyenlőtlenségekkel, addig az iskolatípusok átlagos eredményeiben mutatkozó különbség oka nem pusztán a diákok otthoni körülményeiben keresendő. Ez összhangban áll azzal a feltételezéssel, hogy a magyar középfokú oktatás erősen szegregáló jellegű, a gimnáziumok és a népszerűbb szakmákat oktató szakközépiskolák kiválogatják a jó képességű diákokat, a szakiskolák viszont gyenge, hiányos képességekkel rendelkező diákokkal dolgoznak. Jól látható az is, hogy a szakiskolában a leggyengébb a HÉI hatása, itt a leglaposabb az egyenes. A szakaszok végpontjainak x-koordinátái az adott település-, illetve iskolatípus leggyengébb és legjobb HÉI-átlagait mutatják. Így az ábrákon is jól láthatók az egyes település- és iskolatípusok közötti HÉI-beli különbségek.

Akár a településtípus és az iskolatípus figyelembevételével, akár anélkül becsüljük az iskola hozzáadott pedagógiai értékét, a becslés hibáját érdemes megvizsgálni, hiszen becslésünk az iskola teljesítményének és HÉI-jének a becsléséből, illetve a regresszió paramétereinek a becsléséből adódó hibákkal terhelt. A becslés bizonytalansága tehát több tényező együttes következménye, ezért a heurisztikus bootstrap hibaszámítási módot választottuk. A módszer lényege, hogy szimulációkat végzünk: iskolánként olyan mintákat generálunk a rendelkezésre álló mintaelemekből, amelyek ugyancsak lehetségesek lettek volna. Ezzel mintegy modellezzük a bizonytalanságunkat. A módszer matematikai alapjait Efron fektette le, bizonyítva, hogy a kapott becslések aszimptotikusan (azaz a mintaelemszám növekedésével) pontosak (Efron–Tibshirani 1993). Ebben az esetben az ugyan nem túl nagy az iskolánkénti mintaelemszám (maximum 20), de ez nem jelent szisztematikus eltérést (természetesen azt nem várhatjuk, hogy minden egyes iskolára pontosan adjuk vissza a becslésünk ismeretlen szórását).

Az 5. ábra a hozzáadott pedagógiai érték becslésének 95%-os konfidenciaintervallumait mutatja iskolánként, a 10. évfolyamos matematikateszt esetében (mivel a bootstrap konfidenciaintervallumok jellemzői hasonlóak mind a négy teszt esetében, elegendőnek találtuk ezt az egy ábrát bemutatni).

5. ábra • A hozzáadott pedagógiai érték 95%-os konfidencia-intervalluma iskolánként (10. osztály, matematika)

Az iskolánkénti kis mintaelemszám (maximum 20 diák) miatt – mint ahogy várható is – a konfidencaintervallumok meglehetősen szélesek, a hozzáadott pedagógiai érték csak nagy hibával becsülhető. A 10. évfolyamon a matematika esetében a 95%-os konfidenciaintervallum szélessége 39 és 164 pont között mozog, az iskolák 90%-ára pedig 54 és 104 közötti pontértéket kapunk. Az iskolák kb. 17%-áról mondható el, hogy a hozzáadott pedagógiai értékük szignifikánsan nagyobb 0-nál, tehát az iskola lényegesen többet hozott ki diákjaiból, mint ami HÉI-jük alapján várható lett volna, és szintén körülbelül 17%-uk marad el szignifikáns mértékben a várható teljesítménytől.

A kapott eredményekből tehát nem szabad elhamarkodott következtetéseket levonnunk. Az iskolák hozzáadott pedagógiai értékének pontosabb és megbízhatóbb meghatározásához folyamatos, ismétlődő megfigyelések szükségesek, a mérések együttes elemzése és a trendek nyomon követése a mérési hibák csökkenéséhez és az iskolák helyzetének pontosabb meghatározásához vezet majd.

A hierarchikus lineáris modell

A nemzetközi gyakorlatban a hozzáadottérték-vizsgálatok szinte mindig a hierarchikus lineáris modellek alkalmazásával valósulnak meg. A továbbiakban a korábban már bemutatott modellek alkalmazásával kapott eredményeket ismertetjük.

Elsőként megvizsgáltuk, hogy az alapmodell (1) alkalmazásával, a háttérváltozók figyelmen kívül hagyásával a teljes populáció szórásnégyzete hogyan oszlik meg az iskolák közötti és az iskolákon belüli szórásnégyzetek között. Az iskolák közötti szórásnégyzet és a teljes szórásnégyzet aránya az iskolarendszer igen fontos mutatója, hiszen ebből következtethetünk arra, hogy milyen mértékű az iskolarendszer szegregáló hatása. Ha ez az érték magas, azt jelenti, hogy az iskolák átlagos teljesítménymutatói jelentős mértékben különböznek az egy iskolán belüli diákok közötti különbségekhez képest. Tehát az iskola mintegy „behatárolja” diákjainak a lehetőségeit. Az 6. táblázat az iskolák közötti szórásnégyzet és a teljes szórásnégyzet arányát mutatja százalékban kifejezve a két évfolyam két-két tesztje esetében.

6. táblázat • Az iskolák közötti szórásnégyzet és a teljes szórásnégyzet százalékos aránya
Évfolyam Matematika Szövegértés
6. 17,4 18,3
10. 46,6 51,1

A táblázat jól mutatja, hogy míg a 6. évfolyam esetében a szórásnégyzet iskolák között realizálódó része kicsi, mindössze a teljes szórásnégyzet 17–18%-a származik az iskolák közötti különbségekből, a 10. évfolyam esetében ez az arány már körülbelül 50%, ami meglehetősen nagynak mondható. Ez a kép összhangban van korábbi – a PISA- és PIRLS-vizsgálatok összehasonlítása kapcsán ismertetett – eredményeinkkel. Látható tehát, hogy míg az általános iskolák szegregáló hatása nem jelentős, addig a középiskola teljesítmény szerinti csoportokra bontja a diákokat. A szegregáció hátránya pedig, hogy két ugyanolyan képességgel induló diák közül az, akinek az iskolájában az átlagos képesség gyengébb, hajlamos lemaradni jobb iskolában tanuló társához képest (ez bekövetkezhet például a tanárok kisebb elvárása vagy a versenyhelyzetek hiánya miatt).

Nézzük ezek után, hogy milyen eredményt hoz a HÉI magyarázó változóként való alkalmazása. A 7. táblázat a modell paramétereit ismerteti a négy teszt esetén a (2) képletben alkalmazott jelöléseket alkalmazva.

7. táblázat • A (2) modell paraméterei
A paraméter neve Becslés Standard hiba t-érték Szig. Becslés Standard hiba t-érték Szig.
6. évfolyam, matematika 6. évfolyam, szövegértés
μ 508 0,65 776 0 508 0,62 820 0
γ 58 1,36 43 0 60 1,15 52 0
β 44 0,64 68 0 43 0,62 69 0
10. évfolyam, matematika 10. évfolyam, szövegértés
μ 502 1,10 458 0 504 1,11 455 0
γ 85 1,55 55 0 88 1,51 59 0
β 13 0,78 17 0 9 0,72 13 0

A táblázat sorai a modell állandóját (μ), az átlagos HÉI hatását (γ) és a HÉI iskolai átlagától való eltérésének a hatását (β) mutatják. Láthatjuk, hogy a HÉI iskolán belüli hatása kisebb, mint az iskola átlagos HÉI-értékén keresztül érvényesülő hatás. Ez a különbség a 6. évfolyamon is szignifikáns, a 10. évfolyam esetében azonban a különbség igen tetemes: az iskola átlagos HÉI-jén keresztül érvényesülő hatás a matematika esetében 6,5-szer, míg a szövegértés esetében 9-szer több az iskolán belüli hatásnál. Ez azt jelenti, hogy ha egy iskolából két olyan 10. évfolyamos diákot választunk, akiknek a hozottérték-indexe közötti különbség 1 (azaz éppen 1 szórásnyi), akkor a HÉI-jük alapján várt teljesítményük közötti különbség 9, illetve 13 pont a két teszt esetében. Ha azonban azonos HÉI-vel rendelkező egy-egy diákot választunk két olyan iskolából, amelyek átlagos hozottérték-indexe közötti különbség 1, akkor a teljesítményük közötti várható különbség 72 pont a matematika- és 79 pont a szövegértésteszt esetén, azaz körülbelül háromnegyed szórásnyi. Ez ismét csak a középiskolák teljesítménymeghatározó jellegét támasztja alá.

Az iskolatípus meghatározó szerepe miatt szükségesnek láttuk a 10. évfolyam esetében a modell kibővítését az iskolatípus beépítésével, mert e nélkül modellünk nem tükrözné az iskola tényleges helyzetét, hozzáadott pedagógiai értékének becslése hamis képet adna, hiszen az iskola típusa nem az iskola belső életétől, döntéseitől függ. A 6. évfolyam esetében a településtípus hasonló alkalmazását nem láttuk indokoltnak, hiszen az eddigi eredmények nem mutattak számottevő hatást. A 10. évfolyamon alkalmazott végső modell tehát a következőképpen alakul:

Yijk = μ1 + μ2·χ(k=2) + μ3·χ(k=3)+ (γ1·χ(k=1) + γ2·χ(k=2) + γ3·χ(k=3))·H.j + Uj +

+ (β1 + β2·χ(k=2) + β3·χ(k=3))·(Hij - H.j) + Rij, (3)

ahol k a j. iskola típusát jelöli, értéke (1) gimnázium, (2) szakközépiskola és (3) szakiskola esetén. A χ(k=i) indikátorfüggvény értéke 1, ha k=i teljesül, és 0, ha az egyenlőség nem teljesül. Az átlagnak és a HÉI hatásának a becslése tehát más és más az egyes iskolatípusok esetében. A kapott együtthatókat a 8. táblázatban foglaltuk össze.

8. táblázat • A (3) modell paraméterei
A paraméter neve Becslés Standard hiba t-érték Szig.
10. évfolyam, matematika
μ1 509 2,18 233 0
μ2 –2 2,86 –1 0,492
μ3 –68 5,66 –12 0
γ1 76 3,54 22 0
γ2 66 4,05 16 0
γ3 37 5,21 7 0
β1 17 1,41 12 0
β2 –7 1,82 –4 0
β3 –5 2,06 –3 0,012
10. évfolyam, szövegértés
μ1 524 2,21 237 0
μ2 –19 2,78 –7 0
μ3 –96 6,08 –16 0
γ1 66 3,11 21 0
γ2 62 3,85 16 0
γ3 29 5,64 5 0
β1 13 1,18 11 0
β2 –6 1,62 –4 0,001
β3 –7 1,96 –3 0,001

Az együtthatók közötti különbségek igazolják az iskolatípus figyelembevételének szükségességét: az állandók, a HÉI iskolai átlagának és az iskolán belüli HÉI-nek a hatása is más és más az egyes iskolatípusokon belül. Láthatjuk, hogy a gimnázium esetében a legmagasabb az állandó becslése, a szakközépiskola esetén ez valamivel kisebb (a matematika esetében nem szignifikáns a különbség), a szakiskola esetén pedig jelentősen elmarad a szakközépiskolához képest is. Hasonló mintázatot mutat a HÉI átlagos értékének hatása és a HÉI iskolán belüli hatása is. Szakiskola esetén nemcsak az átlagos teljesítmény, hanem a HÉI hatása is alacsony. Például a HÉI átlagos értékének 1 pontnyi növekedése a várható teljesítményt gimnáziumok esetében 76, szakközépiskolák esetében 66, szakiskolák esetében pedig 37 ponttal növeli. A diák HÉI-jének 1 pontnyi növekedése ugyanebben a sorrendben 17, 10 és 12 pont teljesítménynövekedést jelent. A 6. és 7. ábra a modell iskolai szinten kapott regressziós egyeneseit és az iskolák helyzetének Bayes-becsléseit mutatja a matematikateszt esetében. A pontok egyeneshez való viszonya – akárcsak a lineáris regresszió esetében – itt is az iskolák hozzáadott pedagógiai értékét jelzi. A 10. évfolyamon 3 külön regressziós egyenesünk van az alkalmazott modell eredményeként, minden iskolát az iskola típusához tartozó regressziós egyeneshez mérhetünk. Jól látható az ábrán, hogy a szakiskolához tartozó regressziós egyenes mennyivel laposabb a többi iskolatípushoz tartozó egyeneshez képest a γ3 paraméter kis értéke miatt.

6. ábra • Az iskolák átlagteljesítménye a HÉI függvényében (6. osztály, matematika)

7. ábra • Az iskolák átlagteljesítménye a HÉI függvényében (10. osztály, matematika)

Összehasonlítva a lineáris regressziónál bemutatott ábrákkal jól látható, hogy itt a pontfelhő jobban simul az egyenesre, ami a Bayes-becslés alkalmazásának a következménye.

Végső modelljeink alkalmazásával az iskolák közötti különbségek jelentős részét megmagyaráztuk, a teljes szórásnégyzet iskolák közötti különbségekből származó arányát a 9. táblázat mutatja.

9. táblázat • A teljes szórásnégyzet iskolák közötti különbségekből származó százalékos aránya
Évfolyam Matematika Szövegértés
6. 6,6 5,9
10. 15,8 16,3

Láthatjuk, hogy itt már a 10. évfolyamon is kicsi az iskolák közötti szórásnégyzet aránya. Modelljeink tehát megragadják az iskolák közötti különbségek legfőbb okait, így a belőlük származó reziduálisok az iskola eredményének reálisabb megítéléséhez vezetnek.

Konklúzió

A hozzáadott pedagógiai érték számítására bemutatott módszereinkkel, a diák szociokulturális hátterének figyelembevételével kapott eredmények mind az iskolák, mind az oktatáspolitika számára fontos üzenetet hordoznak, noha a következtetések az egyes szinteken teljesen más természetűek.

Az iskola az Iskolajelentésen keresztül megismerheti az országos eredményekhez való viszonyát, hozzáadott pedagógiai értékének ismerete pedig helyzetének reális megítélését segíti.

Az oktatáspolitika számára a fenti eredmények újra igazolják iskolarendszerünk szegregáló jellegét és azt, hogy az iskola nem képes kompenzálni az otthoni háttérből eredő különbségeket, sőt még fel is erősíti azokat. Pedig a lemaradók, a hátrányos helyzetűek felzárkóztatása oktatási rendszerünk talán legégetőbb kérdése.

Irodalom

Efron, Bradley – Tibshirani, Robert J. (1993): An introduction to the bootstrap. Chapman & Hall.

Gray, John–Wilcox, Brian (1995): „Good school, bad school”. Evaluating performance and encouraging improvement. Open University Press.

PISA 2000 Technical Report. Adams, Ray – Wu, Margaret (ed.). OECD, 2002.

Snijders, Tom A. B. – Bosker, Roel J. (1999): Multilevel Analysis – An introduction to basic and advanced multilevel modeling. SAGE Publications.

TIMSS 1999 Technical Report. Martin, Michael O. – Gregory, Kelvin D. – Stemler, Steven E. (ed.). IEA, 2000.