A csoportgondolkodás és a megerősítési torzítás



Mostanában egyre gyakrabban fordul elő velem, hogy egy “ártatlan” cikket olvasva több tanulni valót találok. Így jártam most is a “Hogyan lehetünk ilyen hülyék? – A csernobili atomerőmű baleset néhány tanulsága” című írás olvasásakor is. Ahogy mindig, most is ajánlom a teljes Csernobil cikk elolvasását, s ez most kompletten megjelenik ezen az oldalon.

Figyelmeztetlek, ez kegyetlen hosszú anyag lesz…

Előtte azonban lássuk a más forrásokból összeszedett fogalmakat részletsebben.

A fogalmak előtt íme, egy kis vázlat:


csoportgondolkodás (Janis)
|
ˇ
sebezhetetlenség illúziója
|
ˇ
információs vakság
^
|
alaptalan optimizmus hibája (szociálpszichológia)

+ megerősítési torzítás
     + elfogult torzítás

Akkor most a fogalmak részletezése

[! klikk ide !] Csoportgondolkodás

A csoportgondolkodás vagy csoportgondol’ (angolul groupthink) egy szociálpszichológiai fogalom, amely a konszenzuskialakítás olyan eseteit írja le, amikor a konszenzus meghozatalára tett erőkifejtések aláássák a konszenzus megbízhatóságát, az egyén önmagát és saját gondolatait alárendeli a csoport által elfogadott valós vagy feltételezett döntéseknek, csak hogy konszenzus legyen.

Ugyan a csoport normája nem biztos, hogy okolható a rossz döntésekért, de az éppen formálódó döntés is hathat egy norma erejével, legyen jó vagy rossz. A tagok minimalizálják a konfliktus esélyét azzal, hogy nem mérlegelnek alternatív nézőpontokat, automatikusan elrejtik fenntartásaikat, és elszigetelik magukat a külső hatásoktól. Például egy esküdt csak azért egyezik bele a halálos ítéletbe, mert a többiek azt már elfogadták, vagy hogy valaki azért kezd el cigarettázni, mert a többiek (osztálytársak, kollégák) is cigiznek. Egy jó normarendszer segít megelőzni a csoportgondolkodást; ezzel szemben egy torz csoportnorma elősegíti.

A fogalom Irving Janis amerikai pszichológus, a Yale Egyetem kutatója révén vált ismerté, aki több politikai döntéshozói folyamatot elemzett, például J. F. Kennedy és tanácsadói döntését a kubai Disznó-öbölben történő partraszállás előtt, vagy a japán támadást Pearl Harbor ellen 1941-ben. Arra a következtetésre jutott, hogy a konszenzusnak és a megegyezésnek a független vélemények rovására történő hangsúlyozása és kialakítása súlyos következményeket vonhat maga után.

A csoportgondol’ a szociálpszichológiából ered, de a kommunikáció, a menedzsment, a politológia és a szervezetfelépítés terén is van irodalma. A szűrt információk hatására olyan torz normák is kialakulhatnak szélsőséges esetekben, mint terrorizmus, valamint jó táptalajt biztosít a politikai diktatúráknak, szektáknak. Szélesebb körben természetes csoportokban fordul elő, mint például politikai pártok, nézetek mentén, vagy munkahelyi közösségben, csapatként együtt dolgozva.

Janis könyvének első kiadása 1972-ben jelent meg, majd javított kiadása 1982-ben. További kutatások újraértékelték Janis modelljét.

A jelenséget három részfolyamat együtthatása eredményezi:

  • A konszenzus úgy jött létre, hogy nem lett figyelembe véve az összes hozzáférhető információ.
  • A “társas fertőzés”, vagyis hogy a csoporttagok nem függetlenek egymástól, gyakran azonos háttérrel, nézettekkel rendelkezhetnek, ezzel nő a valószínűség, hogy a döntés közös torzítások határozzák meg.
  • A konszenzus nyilvános konformitáson alapul, nem pedig belső, személyes meggyőződésen.
  • További tényezők a környezet, a helyzet és a csoportszerkezet hibái.

Előfordul, hogy egy gondolatrendőr felszólítja a többi döntéshozót, hogy “gondolkodjanak a csoport tagjaiként”, ez azonban gátat szab az eltérő vélemények megjelenésének, megfontolásának. Általánosan megjelenik a sebezhetetlenség illúziója, és ezzel párhuzamosan a csoportba vetett megkérdőjelezhetetlen bizalom. Ezt felerősíthetik, ha egyes csoporttagok mintegy kiszűrik az ellentmondó információkat, így ezek a többi csoporttaghoz már nem juthatnak el. Ugyanakkor önmagukat is befolyásolhatják az ún. gondolat-stop módszerével, melynek lényege, hogy minden, a csoport által nem elfogadott gondolatot igyekszik kizárni, azt valamilyen külső erő vagy téveszme hatásának betudni.

Janis szerint a következő normák segítenek elkerülni a csoportgondol’ jelenségét:

  • A csoportnak aktívan támogatnia kell a nyílt kérdezést és a szabad vélemények, ellenvetések kifejtést – akkor is, ha az szembe megy a csoport elképzeléseivel.
  • A nyilvános szavazás kerülése is hasznos lehet, hiszen ha nem kell arccal felvállalni a csoport többségével szembemenő véleményt, akkor valószínűbben jelenik meg a szavazás során.
  • Érdemes kívülállót is bevonni a döntéshozatalba, mert ő friss szemmel nézi a helyzetet, még nem “fertőzték meg” a csoport által hozott (korábbi) döntések. Mivel kívülálló, ezért számára nem szempont, hogy gyengül-e a csoporttagsága, ha nem járul hozzá a csoport mint egész által meghozott döntéshez.
  • A vezető szerepét csökkenteni kell, nem szabad előzetesen állást foglalnia az adott kérdésben.
  • Segíthet az is, ha valaki az “ördög ügyvédje” szerepébe bújik, és mindent megkérdőjelez, ezáltal a csoport nem jut téves következtetésre.

Jelei

A csoportgondol’ felismerése érdekében Irving Janis a csoportgondolkodás nyolc jellemzőjét különítette el:

  • A csoportnak magasabb erkölcs és hatalom tulajdonítása, mint amivel bír
    • A sebezhetetlenség illúziója, ami túlzott optimizmust és kockázatvállalást vált ki. Lásd: erkölcsi kockázat.
    • Megkérdőjelezhetetlen hit a csoport erkölcsösségében, a tagok nem veszik figyelembe döntésük következményeit.
  • Zárt elméjűség
    • A figyelmeztető jelek racionalizálása; a csoport kimagyarázza azokat a jeleket, amelyek arra figyelmeztetik, hogy a döntés nem lesz jó.
    • Sztereotipizálás, a döntés ellenzőinek butának, gyengének, elfogultnak, gonosznak tekintése.
  • Nyomás a konszenzus felé
    • Öncenzúra, a tagok elhallgatják azokat a gondolataikat, amelyek egy másik döntés irányába mutatnának.
    • Az egyetértés illúziója, a hallgatás beleegyezésnek tekintése.
    • Közvetlen nyomás arra, hogy ne kérdőjelezzék meg a döntést, különben az ő hűségüket kérdőjelezik meg.
    • Gondolatrendőrség, a csoport önjelölt, rosszabb esetben kijelölt tagjai távol tartják a csoport többi tagját azoktól az információktól, amelyek jelzik, hogy a döntés rossz.

Okai

Janis a csoportgondolkodás három előfeltételét írta le:

  • Erős kohézió
  • Szerkezeti hibák
  • Helyzeti kontextus

Habár előfordulhatnak helyzetek, amikor mindhárom tényező fennáll, de a csoportgondolkodás előfordulhat akkor is, ha nem teljesül mindhárom feltétel. Janis az erős kohéziót tartja a legfontosabbnak, és a csoportgondolkodás szükséges feltételének. Azonban ez nem mindig eredményez csoportgondolkodást. Egy erősen összetartó csoport minden normát betart, így a csoport normarendszere meghatározó. Ha ez támogatja a vitát és az alternatív stratégiajavaslatokat, akkor a csoportgondolkodás nem lép fel, kivéve, ha fennáll a harmadik tényező, amikor mégis előfordulhat.

Kohézió

Janis az erős kohéziót tekintette a csoportgondolkodás fő tényezőjének. Gyengén összetartó csoportok is hozhatnak rossz döntéseket, de rájuk a csoportgondolkodás nincs hatással. Ha erős a kohézió, akkor a tagok kevésbé hajlandók a közös döntésekkel szemben érvelni, kerülik a vitákat, és igyekeznek fenntartani egymással a jó viszonyt. Ha a kohézió elérte azt a szintet, hogy a tagok mindig egyetértenek, akkor a csoport megérett a csoportgondolkodásra.

Deindividualizáció: A kohézió fontosabb, mint az egyéni véleményszabadság.

Szerkezeti hibák

Az erős kohézió szükséges a csoportgondolkodáshoz, ha a csoport úgy szerveződik, hogy akadályozza a kommunikációt a tagok és a külvilág között, vagy ha felelőtlenné válik döntései iránt. Egy jó normarendszer segít megelőzni a csoportgondolkodást; ezzel szemben egy torz csoportnorma elősegíti.

  • Elszigetelődés: támogatja pontatlan, máshol nem jellemző nézőpont kialakítását azokkal az ügyekkel kapcsolatban, amelyekkel a csoportnak foglalkoznia kell. Ez megnöveli hibás döntések meghozatalát.
  • A pártatlan vezetés hiánya: a vezetők teljes kontroll alatt tarthatják a megbeszéléseket, csak bizonyos kérdéseket lehet feltenni, és csak bizonyos emberek véleményét szabad kikérni. Zárt stílusú vezetés, amikor a vezetőség előre bejelenti döntését, és csak utána lehet azt megvitatni. A nyílt stílus az lenne, ha csak vita közben vagy utána foglalna állást. A zárt stílus torzítja a véleményalkotást, különösen ha a tagok bizonyosak a vezető döntésében. Emiatt a vezetőknek a nyílt stílus alkalmazása javasolt, így a tagokat nem éri nyomás a vezető részéről.
  • Hiányoznak azok a normák, amelyek módszertani eljárásokat írnak elő.
  • A tagok hasonló társadalmi és ideológiai háttere.

Helyzeti kontextus

  • Erős külső fenyegetések: Ha nagy a tét, akkor a csoportban megnő a feszültség, a tagok idegesebbek lesznek. A tagok irracionális úton kezdik kezelni a döntéssel járó stresszt. A tagok indokolhatják a döntést azzal, hogy hangsúlyozzák a pozitív következményeket, és kevésbé fontosnak tekintik a negatív következményeket. A stressz minimalizálása érdekében a tagok mielőbb túl akarnak lenni a döntésen. Kutatások is kimutatták, hogy az erősebb stressz miatt valószínűbb, hogy a csoport hibás döntést hoz, szem elől téveszti a célt, és olyan eljárásokat választ, amikről a tagok tapasztalatból tudják, hogy nem voltak hatékonyak.
  • Ismert hibák a közelmúltból: gyengítik a tagok önbecsülését, emiatt a rossz döntéstől való félelemben döntenek.
  • A döntési feladatban adódó nehézségek.
  • Határidő: A csoport inkább gyors, mint jól átgondolt döntést akar hozni. A közeledő határidő miatt a tagok fontos információkat hagyhatnak figyelmen kívül.
  • Erkölcsi dilemmák.

A Wikipédia oldalon még tovább is van: Hiedelmek, Megelőzése, Kutatása, Esettanulmányok (8 db), Újabb modellek és Története címszavakkal.



Optimizmus

Az optimizmus, a pesszimizmus ellentéte, olyan életszemlélet, amiből nézve a világ jó, vagy kedvező hely. Az optimisták általában azt tartják, hogy az emberek jók. Az életről „kedvező” képük van, és abban hisznek, hogy idővel és végül a dolgok rendeződnek.

A filozófiában az optimizmus Gottfried Wilhelm Leibniz nevével kapcsolódik össze, aki azon a véleményen volt, hogy mi a „lehető legjobb világban” élünk, ami (theodicy – teodícia, annak állítása, hogy Isten jó és igazságos, a gonosz jelenléte ellenére) miatt Voltaire gúnyolta őt a Candide című szatirikus regényében. Ellentéte a filozófiai pesszimizmus. Még Leibniz-nél is optimistább volt talán William Godwin anarchista filozófus, aki ennek ellenére öngyilkos lett.

Az optimista jelzővel jellemzett ember az, aki derűlátó és bizakodó. Ellentéte a pesszimista, a borúlátó, reménytelenséggel eltöltött ember.

Az optimizmus szoros kapcsolatban van az önbecsüléssel, saját pszichológiai jólétünkkel és egészségünkkel. A téma legnevesebb angol nyelvű kutatója az amerikai Martin Seligman.

Közismerten optimisták a gyerekesek és a vallásos érzelműek. Optimista továbbá „hivatalból” minden uralkodó vagy uralkodó kormány. Ezt nevezik kincstári optimizmusnak.

Az optimizmus a fenti ellentmondások miatt (a jó és a rossz egymás melletti/elleni léte) nem számít racionális viselkedésnek, az optimista gondolkodásnak sokszor semmilyen racionális alapja nincsen. Ennek ellenére működő, a fennmaradást segítő alkalmazkodási formának tűnik.

Pszichológusok szerint éppen azoknak van e felfogásra szüksége, akik valamilyen szomatikus vagy pszichikus ok miatt tartósan vagy átmenetileg depressziósok, amivel együtt jár a kilátástalanság (pesszimista) érzése. Az optimisták társaságának keresése ezért az öngyógyítás egyik ösztönös és példaszerű megnyilvánulásának számít.

Kritikus és érdekes ebből a szempontból a történetek befejezése, illetve azok kicsengése. Társadalmi igény ugyanis az emberekről szóló történetek „jó” befejezése, a „happy end”. Az optimizmust túlzásba is lehet vinni, ezt nevezik „struccpolitikának”: amikor valaki csak a kedvező híreket hajlandó tudomásul venni – ez hosszú távon a problémák halmozódásához vezet.

Az Essexi Egyetem kutatói a brit Proceedings of the Royal Society című tudományos folyóiratban tették közzé kutatásukat, mely szerint az optimizmust és a pesszimizmust genetikai tényezők is befolyásolják.



Megerősítési torzítás

A megerősítési torzítás az embereknek azon hajlandósága, hogy azokat az információkat részesítik előnyben, amelyek igazolják saját prekoncepciójukat (előfeltételezéseiket) vagy hipotézisüket, tekintet nélkül az információ igaz vagy nem igaz voltára. Ennek eredményeképpen, az emberek szelektíven gyűjtenek bizonyítékokat és hívják elő emlékeiket a memóriából, nemkülönben torzított módon interpretálják az információkat. A torzítások különösen az emocionálisan jelentős kérdéseknél jelennek meg, és a már megerősödött, igaznak tartott kognitív tartalmak esetén. Például a fegyver kontrollról való olvasás közben az emberek olyan forrásokat preferálnak, amelyek megerősítik a már létező attitűdjeiket. Afelé is nagyobb hajlandóságot mutatnak, hogy a kétértelmű bizonyítékot oly módon interpretálják, hogy az a saját már korábban kialakított véleményüket támassza alá. A torzított keresés, interpretáció és/vagy emlékezés már magyarázatává vált az attitűd polarizációnak (amikor egy nézeteltérés sokkal extrémebbé válik annak ellenére, hogy a résztvevők ugyanannak a bizonyítéknak vannak tudatában), a hit mellett való kitartásnak (amikor az emberek akkor is ragaszkodnak ahhoz a gondolathoz amiben hittek, amikor már bebizonyosodott hogy az nem igaz) az irracionális elsőbbségi hatásnak ( azon adatok fontosabbnak ítélése amelyek egy önkényesen felállított sorban előrébb helyezkednek el), és az illuzórikus korrelációnak (amikor az emberek hibásan feltételeznek valamiféle kapcsolatot két esemény vagy szituáció között).

Egy a 60-as években kivitelezett kísérletsorozat eredményei arra utaltak, hogy az emberek torzítanak a már meglévő képzeteik megerősítése érdekében. Későbbi munkák magyarázták ezeket az eredményeket az elképzelések egyoldalú tesztelésére való hajlandóság viszonyában, és az egy lehetőségen való összpontosítás a többi figyelmen kívül hagyása mellett viszonyában. Más hatások kombinációjának együttes hatásával ez a stratégia az elért konklúziók torzításához vezethet. A megfigyelt torzítások magyarázata között találjuk a vágy vezérelt gondolkodást (az az illúzió, hogy ha valaki kíván valamit, az valósággá válik) és a korlátozott emberi kapacitást az információ feldolgozásra. Egy másik lehetőség, hogy az emberekre azért jellemző a megerősítési torzítás, mert pragmatikusan becsülik fel, hogy milyen árat kell fizetniük ha tévednek, mintsem inkább semleges és tudományos módon vizsgálódnak. A megerősítési torzítások felelősek a személyes képzetekben való túlzott biztosságért és hatásukra megmaradnak vagy fel is erősödnek ezek a képzetek, ellentmondó bizonyítékok megléte esetén is.

Típusok

A megerősítési torzítások az információfeldolgozást érintő hatások, és különböznek a viselkedéses megerősítési torzítás hatástól (más néven az önbeteljesítő jóslattól), amely esetén az emberek úgy cselekednek, hogy a várt események valóra váljanak. Némely pszichológus a „megerősítési torzítás” kifejezést bármely olyan viselkedésmódra használja, amelyben az emberek egy bizonyos gondolat, képzet elvetését kerülik, legyen szó bizonyíték keresésről, interpretációról vagy a memóriából való előhívásról. Mások csupán az információ szelektív gyűjtéséhez kapcsolják a kifejezést.

Torzított információkeresés

A kísérletek több alkalommal is arra vezettek, hogy az emberek hajlamosabbak az egyoldalú hipotézistesztelésre, azáltal, hogy egy adott időben feltett hipotézisükkel egyetértésben keresnek bizonyítékokat. Ahelyett, hogy átkutatnák az összes releváns bizonyítékot, olyan kérdéseket tesznek fel, amik úgy vannak megfogalmazva, hogy az igenlő válasz alátámaszthassa a hipotézisüket. Olyan következmények után kutatnak, amelyeket elvárnának annak érdekében, hogy hipotézisük igaz lehessen, semmint olyanok után, amik akkor következnének be, ha kiderülne, hogy egyáltalán nem igaz. Például ha valaki próbál azonosítani egy számot igen/nem kérdéseket használva, és gyanítja, hogy a szám a hármas, azt kérdezi: „Páratlan szám?”. Az emberek ezt a fajta ún. pozitív tesztnek nevezett kérdést használják, még akkor is, ha a negatív teszt mint például a „Páros szám?” pontosan ugyanahhoz az információhoz juttatja hozzá őket. Azonban ez nem azt jelenti, hogy az emberek olyan tesztek után kutatnak, amelyek garantáltan pozitív eredményre vezetnek. Azokban a tanulmányokban, amelyekben az alanyok egy egyfajta ál-teszt és egy igazságnak, realitásnak megfelelő diagnosztikus teszt közül választhattak, az utóbbit választották.

A pozitív teszt preferenciája önmagában nem torzítás, mivel a pozitív tesztek nagyon informatívak tudnak lenni. Ugyanakkor más hatásokkal együtt, ez a stratégia megerősítheti a létező képzeteket vagy sejtéseket, függetlenül attól hogy azok igazak vagy sem. A valós életben tapasztalt szituációkban a bizonyíték gyakran komplex és kevert. Például a kialakult sokféle, egymásnak ellentmondó képzeteknek egy adott emberről mindegyike külön-külön alátámasztható, az illető viselkedésének egy adott aspektusán való koncentrálás által. Ily módon egy adott hipotézisre való részrehajlás esetén bármely bizonyíték utáni keresés nagy valószínűséggel sikeres lesz. Ennek egyfajta illusztrációja, hogy a kérdések megfogalmazásának módja jelentősen megváltoztathatja a választ. Például, ha azt kérdezzük az emberektől, hogy „Boldog a szociális életed?”, akkor sokkal nagyobb elégedettségről számolnak be, mint amikor azt kérdezzük, hogy „Boldogtalan a szociális életed?”. Még egy kis változtatás a kérdés megfogalmazásában is képes befolyásolni azt a módot, ahogy az emberek kutatnak a rendelkezésükre álló információban, és ennél fogva a konklúziót is, amire végül jutnak. Ezt egy fikcionális gyámügyi esettel be is mutatták. Az alanyok azt olvasták, hogy az „A” szülő mérsékelten alkalmas, hogy gyám legyen, több különféle szempontból. A másik, „B” szülő kiemelkedő pozitív és negatív tulajdonságokkal, képességekkel rendelkezett: a gyermekkel való közeli kapcsolat, de egyúttal egy olyan munka, ami azt követelné meg, hogy hosszabb időszakokra elutazzon. Mikor megkérdezték, hogy melyik szülőnek kellene odaadni a gyámság jogát, az alanyok a pozitív attribútumokat keresték és a többség a „B” szülőt választotta. Azonban amikor a kérdés az volt, hogy melyik szülőtől kellene megtagadni a gyámság jogát, akkor a negatív attribútumokat keresték, de ismét a „B” szülőt választották, azt sugallva, hogy az „A” szülőnek kellene megkapni a gyámságot.

Hasonló tanulmányok is demonstrálták, ahogy az embereket leköti a torzított információkeresés, de azt is, hogy ezt a jelenséget korlátozhatja, ha elérhető egy reális diagnosztikus teszt. Egy kezdő kísérletben az alanyoknak egy interjú alapján meg kellett becsülniük, hogy egy másik személy hova helyezhető az introvertált-extrovertált személyiség dimenzióban. Az interjú kérdéseit egy adott lista alapján választották meg. Mikor azt a személyt, akivel készült az interjú, introvertáltként mutatták be, az alanyok olyan kérdéseket választottak, amik introvertáltságot feltételeznek, mint például „ Mit talál kellemetlennek a zajos partikban?”. Mikor az interjúalanyokat extrovertáltként mutatták be, szinte az összes kérdés extrovertáltságot feltételezett, mint például „Mit tenne, hogy feldobjon egy lapos partit?”. Az ilyenfajta kérdések nagyon kicsi vagy semmilyen esélyt nem hagytak az interjúalanyoknak, hogy bizonyíthassák a róluk kialakult hipotézis esetleges nem igaz voltát. Ennek a kísérletnek egy későbbi verziója sokkal kevesebb olyan kérdést adott az alanyoknak, amire jellemző az extrovertáltság vagy introvertáltság előfeltételezése, mint például a „Kerülöd a szociális interakciókat?” kérdés. Az alanyok ekkor a sokkal diagnosztikusabb kérdéseket részesítették előnyben, miközben a pozitív tesztek felé gyengébb torzítást mutattak. Ezt a fajta mintázatot – diagnosztikus teszt fő preferenciája és a gyengébb preferencia a pozitív teszt irányába – más tanulmányokban is megfigyelték. Egy másik kísérlet egy szabály-felfedező feladatot tárt az alanyok elé, ami számítógéppel szimulált, mozgó objektumokat tartalmazott. A képernyőn mozgó objektumok specifikus szabályokat követtek, amiket az alanyoknak ki kellett találniuk. Egy adott objektumot meg is jelölhettek a képernyőn, hogy tesztelhessék hipotézisüket. Annak ellenére, hogy több kísérletet is tettek rá a 10 órás program alatt, egyik alany sem volt képes rájönni a rendszer szabályaira. Tipikusan arra törekedtek, hogy igazolják saját hipotézisüket, semmint hogy elvessék annak igaz voltát, és vonakodtak alternatívákat fontolóra venni. Még akkor is, amikor látták a saját hipotézisüknek objektíven ellentmondó bizonyítékot, gyakran folytatták ugyanannak a tesztnek a használatát. Néhány alany a megfelelő hipotézistesztelésre vonatkozó instrukciókat kapott, de ezeknek majdnem semmilyen hatása nem volt.

Torzított interpretáció

A megerősítési torzítások nem merülnek ki a szelektív bizonyítékgyűjtésben. Még akkor is, ha két egyén ugyanannak az információnak a birtokában van, az, ahogyan ezt interpretálják (értelmezik) torzított lehet. A Stanford University egy csapata egy olyan kísérletet végzett, amelyben az alanyok egyik fele szilárd véleménnyel rendelkezett a halálbüntetés mellett, a másik fele pedig ellene. Az alanyok mindegyike két tanulmány leírását olvasta el: az USA államainak összehasonlítását a halálbüntetésekkel és azok nélkül, és annak összehasonlítását egy államban, hogy mekkora volt a gyilkossági ráta a halálbüntetés bevezetése előtt illetve után. Miután mindegyik tanulmány rövid leírását elolvasták, megkérdezték őket, hogy változott-e a véleményük. Ezután mindegyik tanulmány módszerének, eljárásnak egy sokkal részletesebb leírását olvasták el, és meg kellett becsülniük, mennyire volt jól kivitelezett és meggyőző az adott tanulmány. Valójában a tanulmányok kitalációk voltak. Az alanyok felének azt mondták, hogy az egyik fajta alátámasztotta az elrettentő hatást, a másik pedig nem. Más alanyoknál a konklúziókat felcserélték. Az alanyok, akár támogatták vagy ellenezték a dolgot, arról számoltak be, hogy kis mértékben megváltozott az attitűdjük az általuk először olvasott tanulmány irányába. Ha már egyszer elolvasták a részletesebb leírását a tanulmányoknak, majdnem mindegyikük visszatért az eredeti véleményükhöz, tekintet nélkül a szolgáltatott bizonyítékokra, olyan részletekre mutatva, amelyek a saját nézőpontjukat támasztották alá, és figyelmen kívül hagyva bármit, ami annak ellentmond. Az alanyok azokat a tanulmányokat, amik a saját előzetesen létező nézőpontjukat támasztották alá, elsőrendűbbként írták le, részletes és jól meghatározott módon, mint azokat, amik ellentmondtak annak. Arról a tanulmányról, amelyben az elrettentés hatása elenyészőnek tűnt, egy halálbüntetést támogató azt írta, hogy „a kutatás nem tartott elég hosszú ideig”, míg egy halálbüntetést ellenző ugyanarról a tanulmányról azt írta, „ Nem került bemutatásra olyan szilárd bizonyíték, ami a kutatók igazát tagadja”. Az eredmények jól illusztrálják, hogy az emberek magasabbra teszik a mércét annál a bizonyítéknál, amely a jelen elvárásaiknak ellentmond. Ezt a hatást, ami diszkonfirmációs torzításként ismert, több más kísérlet is igazolta.

Egy a torzított interpretációt vizsgáló tanulmány éppen a 2004-es USA elnökválasztás alatt zajlott, és olyan alanyok vettek részt benne, akik magukat úgy jellemezték, hogy erős, határozott véleményük van a jelöltekről. Látszólag egymásnak ellentmondó állítmány párokat mutattak nekik, amelyek vagy a republikánus George W. Bush-tól, vagy a demokratikus jelölttől, John Kerry-től, vagy esetleg egy politikailag semleges közéleti figurától származtak. Olyan további állításokat is kaptak, amelyek fényében a látszólagos ellentétek teljesen észszerűnek mutatkoztak. Az információ eme három darabkájából el kellett dönteniük, hogy az egyes jelöltek állításai következetlenek-e vagy sem. Elég erélyes különbségek mutatkoztak ezekben az értékelésekben, mivel az alanyok sokkal nagyobb valószínűséggel interpretálták ellentmondónak annak a jelöltnek az állításait, akit elleneztek. Ebben a kísérletben az alanyok úgy hozták meg döntéseiket, hogy közben MRI szkenner alatt feküdtek, ami regisztrálta az agyi aktivitásukat. Amint az alanyok az általuk kedvelt jelölt ellentmondó állításait értékelték, az agyuk érzelmi központjai izgalmi állapotba jött. Ez nem történt meg a többi figura állításainál. A kísérletvezetők arra a dedukciós következtetésre jutottak, hogy az állításokra adott különböző válaszok okai nem passzív érvelési hibák. Ehelyett az alanyok aktívan csökkentették a kognitív disszonanciát, amelyet a kedvelt jelöltjük irracionális és képmutató viselkedéséről való olvasás hozott létre.

A torzított interpretáció nem korlátozódik az emocionálisan jelentős témákra. Egy másik kísérletben az alanyoknak egy tolvajról szóló történetet mondtak el. Értékelniük kellett olyan állítások bizonyítékon alapuló fontosságát, amelyek az egyik bizonyos karakter felelőssége mellett vagy épp ellen szóltak. Mikor kialakítottak egy feltételezést az adott karakter bűnéről, az azt alátámasztó állításokat sokkal fontosabbnak értékelték, mint azokat, amik ellentmondtak annak.

Torzított memória

Még akkor is, ha valaki egy semleges ügyben kutatott és interpretálta a bizonyítékokat, előfordulhat, hogy mégis szelektíven emlékszik vissza rá, annak megfelelően, hogy saját elvárásai megerősítést nyerjenek. Ezt a hatást szelektív emlékezésnek, megerősítési memóriának vagy torzított-hozzáférésű memóriának hívják. A pszichológiai teóriák különböznek a szelektív emlékezés prognózisát illetően.

A séma teória szerint az az információ, ami összepárosítható a korábbi elvárásokkal, sokkal könnyebben tárolódik és előhívható. Néhány alternatív megközelítés azt mondja, hogy a meglepő információ sokkal jobban kiemelkedik, így könnyebben megjegyezhető. Eme két teória feltételezései bebizonyosodtak különböző kísérleti körülmények között, de egyik sem nyert egyértelműen.

Egy tanulmányban az alanyok egy olyan nő profilját olvasták, amely mind extrovertált, mind introvertált viselkedési jegyekkel ruházta fel. Később vissza kellett emlékezniük a nő introvertált és extrovertált viselkedésére. Az egyik csoportnak azt mondták, hogy mindez arra irányul, hogy a nő képességeit felbecsüljék, mint könyvtáros illetve a másik csoport esetében, mint ingatlan közvetítő. Szignifikáns különbség volt a két csoport között a tekintetben, hogy milyen emlékeket hívtak elő. A könyvtáros csoport sokkal több introvertált viselkedésre, az ingatlanos csoport sokkal több extrovertált viselkedésre emlékezett.

A szelektív memóriahatás olyan kísérletekben is kimutatták, amelyek a személyiségtípusok kívánatosságát manipulálják. Az egyik ilyenben az alanyok egy csoportjának arra vonatkozó bizonyítékokat mutattak, hogy az extrovertált emberek sokkal sikeresebbek, mint az introvertáltak. A másik csoportnak ennek ellenkezőjét mondták. Egy rákövetkező, látszólag az előbbivel kapcsolatban nem álló tanulmányban arra kérték őket, hogy mondjanak olyan eseményeket az életükből, amikor extrovertáltak vagy introvertáltak voltak. Az alanyok mindegyik csoportban több olyan emlékkel szolgáltak, amely összekapcsolta őket a kívánatosabb személyiségtípussal, és azokat az emlékeket sokkal gyorsabban elő is tudták hívni.

Egy másik tanulmány jól példázza, hogyan tudja a szelektív memória fenntartani a hitet valamely extraszenzoros percepcióban (ESP). Hívők és nem hívők mindegyikének ESP kísérletek leírását mutatták be. A csoport felének azt mondták, hogy a kísérleti eredmények alátámasztották az ESP-k létezését, míg a másik csoportnak azt, hogy nem. Egy ezt követő tesztben az alanyok kevés hibával vagy tökéletesen emlékeztek az anyagra, kivéve azokat a hívőket, akik az ESP-t nem alátámasztó bizonyítékot olvasták. Ez a csoport szignifikánsan kevesebb információra emlékezett, és néhányuk hibásan úgy emlékezett az eredményekre, hogy azok az ESP-t alátámasztották.



A Csernobil cikk

„Hogyan lehetünk ilyen hülyék?”

A csernobili atomerőmű baleset néhány tanulsága

1986 nehéz év volt a modern technológiai társadalmak életében. Az év elején a Holdra szállás és az Apolló program sikerének hullámain lovagló amerikai űrsikló projekt kapott óriási pofont, amikor a Challenger az élőben közvetített indítás során felrobbant. Április végén pedig bekövetkezett a csernobili atomerőmű-katasztrófa, amelyet azóta is a világ két legjelentősebb nukleáris balesetének egyikeként tartanak számon, a fukusimai baleset mellett.

„Hogyan lehettünk ilyen hülyék?” – a kérdés eredetileg nem a Challenger-katasztrófa vagy a csernobili baleset kapcsán, hanem a disznó-öbölbéli fiaskót követően merült fel John F. Kennedy elnök részéről. Kennedy azzal szembesült, hogy döntéshozói csoportja segítségével belenavigálta magát egy olyan kudarcba, amely egyáltalán nem volt benne a pakliban.

A disznó-öbölbélihez hasonló léptékű kurdarcok elemzéséből Irving Janis amerikai szociálpszichológus már 1972-ben leszűrt egy választ. Eszerint egy sajátos szervezeti viselkedési mechanizmus, a csoportgondolkodás jelensége áll a fiaskók hátterében, amely mintegy „elhülyítette” az amúgy okos, jó képességű döntéshozókat.

Csoportgondolkodás és a kubai Disznó-öbölben történő partraszállás kudarca

Irving Janis számára fontos kiindulópont volt az a kontraszt, hogy John F. Kennedy elnök és csapata alig másfél év különbséggel két, gyökeresen eltérő kimenetelű döntést tudott hozni. Az izgatta, hogyan lehetséges, hogy lényegében ugyanaz a döntéshozói csapat 1961 áprilisában a kubai Disznó-öbölben történő, Fidel Castro rendszerének megdöntésére tett kísérlet kapcsán kudarcot vallott, míg a kubai rakétaválság kapcsán 1962 októberében sikert könyvelhetett el.

Azt találta, hogy egy döntéshozó csoport tagjaira minél inkább jellemzőbb a bajtársiasság és a helyből egyetértésre való hajlam, annál nagyobb a veszély, hogy a független kritikai gondolkodást felváltja egy olyan, az egész csoportra jellemző gondolkodás, amely irracionális viselkedést eredményez. Az általa csoportgondolkodásnak nevezett viselkedés számos tényezőjét szűrte ki általánosított formában és javaslatokat fogalmazott meg a hiba kivédésére. A balul elsült kubai invázió döntéshozási folyamatában többek között azt találta, hogy Kennedy mint levezető elnök elfogultan tartotta kézben a megbeszéléseket. Saját véleményével már a végső döntés előtt letette voksát, a kritikai észrevételeket elnyomta, aminek eredményeképpen néhány tanácsadó elhallgatta további fenntartásait. Még a terv kivitelezhetetlenségére utaló jeleket is, például, hogy nem sikerült titokban tartani az akciót, figyelmen kívül hagyták.

Amikor a Challenger indítását megelőző estén lezajlott, terven kívüli döntéshozatali meeting visszásságai a figyelem középpontjába kerültek, hamar előkerült a Janis-féle jelenség. És tényleg: az űrsikló indítását engedélyező megbeszélés elemzései azt mutatták, hogy ha a döntéshozók feltették volna maguknak a „hogyan lehettünk ilyen hülyék” kérdést, a válasz ismét a csoportgondolkodás lett volna. Ez egyrészt szomorú, hiszen minden egyes ilyen újabb eset bizonyíték arra, hogy nem sikerült a csoportgondolkodás mechanizmusát kivédeni, azaz nem tanultunk, nem tanultak eleget a döntéshozók a korábbi fiaskókból. Másrészt minden ilyen fajsúlyú kudarc, amelynek hátterében egy jól azonosítható, elvileg akár ki is védhető mechanizmus áll, hozzájárulhat ahhoz, hogy tényleg tanuljunk belőle.

Rosszabb a helyzet, ha ilyen kérdést fel sem teszünk, mert akkor nem születhet olyan belátás sem, ami valóban előremutató tanulság lehetne. Vagyis: hogyan lehettek ilyen hülyék Csernobilban? És mi vajon okosabbak lettünk volna? Érdekes módon a csernobili katasztrófa kapcsán nem vetődtek fel ilyesmi kérdések. Ebből adódóan nem született olyan elemzés sem a katasztrófához vezető gondolkodási hibákról, amely számunkra is fontos, érvényes tanulságokkal bír, és amiket nem lehet annyival lesöpörni az asztalról, hogy nem vagyunk atomreaktor-tervezők, -kezelők.

A balesetet követően nagyon sokáig erős volt a szovjet bürokrácia által nyújtott olvasat, amely az atomreaktor kezelői személyzetét hibáztatta: a balesethez vezető kísérlet során elemi hibákat vétettek, nem tartottak be egyértelmű működtetési utasításokat. Ezt a képet azonban a Nemzetközi Atomenergia Ügynökség (NAÜ) által 1992-ben kiadott, az 1986-os első értékelést (INSAG-1) felülbíráló második jelentése (INSAG-7) sok szempontból korrigálta: a végzetes hibák egy része egyáltalán nem a működtetési szabályok áthágásából fakadó elemi hiba volt. Voltak persze ilyenek is, de voltak komoly tervezési, felügyeleti, üzemeltetési hibák is. És ami még ott lappang a jelentésben: voltak olyan egyéni döntéshozatali hibák is, amelyek eleminek ugyan nem tekinthetők, viszont a balesethez vezető folyamatban többen is elkövették, ráadásul a szociálpszichológia szerint ez bármelyikünkkel megeshet! A következőkben két ilyen hibának, az alaptalan optimizmus és az elfogult feldolgozás hibáknak a balesetben játszott szerepét szeretném megmutatni.

Alaptalan optimizmus avagy „Ez vadkan?! Dehogy! Szelíd ez a disznó, bakker!”

A balesetet előidéző egyik jelenség a vészleállítás során gyorsan beengedett szabályozó rudak tervezési hibájából létrejövő gerjesztő hatás (positive scram effect). A hiba lényege, hogy a rudak ahelyett, hogy lassítanák, lelőnék a folyamatot, valójában még fokozzák is azt. A tervezési hibára utaló jelenség azonban már 1983 november-december óta, a csernobilihez hasonló elven működő Ignalinai Atomerőmű indítása óta ismert volt az erőmű vezető tervezője, Nyikolaj Dollezsal számára is. Dollezsal konstrukciós módosításokat és a üzemeltetési folyamatok megváltoztatását javasolta, azonban ezekből semmi nem lett. A Nemzetközi Atomenergia Ügynökség összegzése szerint azért nem történtek meg végül ezek a korrekciók, mert az az általánosan elterjedt vélekedés uralkodott a szakemberek körében, hogy soha nem állhat elő olyan helyzet, amikor ennek a gerjesztő hatásnak jelentősége lehetne. A konstruktőrök a legmagasabb szintekig osztották a nézetet, hogy az „RBMK típusú reaktorok extrém módon biztonságosak”.

Azt a gondolkodási hajlamot, amit itt látunk, a szociálpszichológia az alaptalan optimizmus hibájának nevezi: a velünk kapcsolatos negatív események bekövetkeztét vagy a kockázataikat rosszul, nem reálisan ítéljük meg. Velünk egyáltalán nem fog megtörténni az a baj, aminek a statisztika alapján van esélye, hogy igen. Ez a gondolkodási hiba a csernobili RBMK típusú reaktorok esetében azt eredményezte, hogy elmaradt az alapos elemzés: vajon mégiscsak előállhat-e olyan helyzet, amikor van jelentősége a gerjesztő folyamatnak?

Érdemes felfigyelni arra, hogy az alaptalan optimizmus hiba, a kockázatok téves értékelésén túl információs vakságot is eredményez: „lelövi” azokat a folyamatokat, amelyek eredményeképpen információhoz juthatnánk arról, hogy tényleg indokolt-e optimizmusunk. Nem szánjuk rá azt a nagyon alapos munkát, mint amelyet akkor tennénk, ha az állna érdekünkben, hogy bebizonyítsuk: igenis előállhat olyan helyzet, amikor a szabályozó rudak fentebb leírt gerjesztő hatásának jelentősége lehet.

Az alaptalan optimizmus gondolkodási hibához hasonló jelenséget egyébként a Janis-féle csoportgondolkodás is ismeri, ott a sebezhetetlenség illúziója a neve, és azt jelzi, hogy nem csupán egyének, hanem egész csoportok tehetik magukévá az irracionális kockázatértékelést és az ebből fakadó információs vakság hibáját. E gondolkodási hiba ilyen két különböző szintű megjelenése pedig arra irányítja a figyelmet, hogy mennyire átható hajlamról beszélhetünk.

A szovjet nukleáris ipar alaptalan optimizmusát – vagy sebezhetetlenségének illúzióját – az 1979-ben az Amerikai Egyesült Államokbeli Three Mile Islandben történt baleset sem kezdte ki. Az amerikai baleset elvileg a szovjet atomenergia program átvilágítását, felülvizsgálatát eredményezhette volna (még akkor is, ha a szovjet erőművek lényegesen más elgondolásra épültek, mint amerikai társaik) ‒ persze csak akkor, ha a szovjet nukleáris ipar nem rakja zárójelbe az egészet a „velünk ez nem történhet meg” felfogás alapján. Vlagyimir Aszmolov, a Kurcsatov Atomenergia Intézet Nukleáris Biztonság osztálya vezetőjének későbbi visszatekintését figyelembe véve, a Szovjetunióban azért lehetett minden tanulság nélkül könnyűszerrel félretenni a Three Mile Island-balesetet, mert az akkoriban érvényes felfogás szerint „a szovjet nukleáris ipar biztonságosságának kizárólagos záloga az, hogy… biztonságos”. Így aztán a balesetet az amerikai kapitalista gazdasági rendszer működésének, a biztonsági kérdések fölé kerekedő profitéhségnek tulajdonították.

Kedvenc álláspontunk önjáró tehetetlensége

Ha kemény vagy elemi hibának az előírások megsértését tekintjük, akkor az olyan gondolkodási hibák, mint a megalapozatlan optimizmus vagy a sérthetetlenség illúziója, elsőre puha hibának tűnnek. Ezek a hibák azért puhák, hogy nehezebb tetten érni őket, hiszen nem egy előírás vagy szabály megsértését jelentik. Ráadásul elsőre kevésbé látszik a hiba súlya, jelentősége: a hiba következményei rendszerint csak késleltetve verik be a fejünket.

A NAÜ első csernobili jelentése elfogadta, hogy a kezelők már azzal megsértették az üzemeltetési szabályokat, hogy az atomerőművet a kísérlet indításához a 200 megawattos tartományban működtették, a 3200 megawattos üzemi teljesítmény durván 6%-án. Így az első jelentés szerint a kezelőszemélyzet elemi hibát vétett. A második jelentésben ezt visszavonták, mert kiderült, hogy nem volt olyan előírás, ami tiltotta volna az erőmű alacsony energia tartományban történő működtetését. Eszerint az elkövetett hiba komplexebb, nehezebben megragadható. Lássuk, mi is történt!

A baleset előtt egy órával, a kísérlet előkészítése során az erőmű teljesítményszabályzó rendszerének átkapcsolásakor a kezelők elvesztették uralmukat a folyamatok felett, a teljesítmény 500 megawattról 30 megawattra esett. Ilyen állapot előállítása egyáltalán nem szerepelt a kísérleti tervben. A kezelők számára rendelkezésre álló adatok alapján nem volt arra magyarázat, hogy mi történt. A teljesítmény megemelése érdekében további, a folyamatokat lassító szabályozórudat húztak ki, de így is csak 200 megawatton sikerült az erőművet stabilizálni és nem sikerült a teljesítményt feljebb tornázni. Emiatt kezdték meg a kísérletet az eredetileg tervezett 700 megawatt teljesítményszint helyett 200 megawatton. Ez az alacsony teljesítménytartomány azonban nem kevésbé veszélyessé tette a folyamatokat, hanem instabillá, kiszámíthatatlanná. Erről a lényegében tervezési sajátosságról, valamint a kapcsolódó tapasztalatokról az operátoknak nem volt tudomásuk, mert nem informálták őket, emiatt tehát nem hibáztathatók. Az viszont felróható, hogy két komoly figyelmeztető jelenségesen is átléptek. Az egyik az értelmezhetetlen, magyarázat nélkül maradt teljesítményesés. A másik, hogy az esést követően nem tudták az uralmukat teljes körűen visszaszerezni a berendezés felett, hiszen nem tudták az eredetileg kijelölt 700 megawattos kísérleti teljesítményszintet elérni.

Az a gondolkodási hiba, amit itt látunk, a megerősítő és aláásó információk értelmezésével kapcsolatos, és a megerősítési torzítás jelenségében találjuk meg a helyét a megismerés pszichológiájában. A hiba lényege, hogy egyoldalúan keressük, értelmezzük és hívjuk elő emlékezetünkből a meglévő nézeteinket alátámasztó információkat. Mint látható, e hajlamunk három különböző információfeldolgozási egyoldalúságunkat is magába kebelezi; én most az alátámasztó és aláásó információk értelmezésében mutatkozó elfogult feldolgozás hibáját szeretném előtérbe állítani. (Az összeesküvés-elméletek kapcsán részletesebben foglalkoztam a megerősítő információk szelektív keresésének problémájával.)

Az elfogult feldoldolgozás lényege, hogy az objektíve ugyanolyan súlyú alátámasztó vagy aláásó bizonyítékokat részrehajló módon értékeljük: az alátámasztókat erősnek fogadjuk el, az aláásókat pedig gyengének. A mellettünk szólók megerősítenek bennünket, az ellenünk szólók pedig alig hatnak ránk.

Besenyő Pista bácsinak mindig igaza van

Az általam élesített leírás alapján persze még mindig abszurdnak tűnhet, hogy két ilyen fajsúlyú figyelmeztető jelen átléptek az erőmű kezelői. Talán segít jobban elfogadni az elfogult feldolgozás (biased assimilation) jelenségét egy kísérlet, amelyben a Kennedy-gyilkosság kapcsán vizsgálták a kiinduló elfogultságok szerepét. A kísérleti személyek egy része eredetileg a magányos elkövető elméletben hitt, azaz abban, hogy Oswald egyedül tervelte ki és követte el Kennedy elnök lelövését. Más részük pedig a gyilkosság összeesküvés változatát vallotta magáénak: eszerint az elkövető, Oswald valamilyen érdekcsoport megbízásából, esetleg segédletével tevékenykedett.

A kísérlet keretében olyan szöveget adtak mindkét csoportnak, amely ugyanolyan számú és szerkezetű pro és kontra bizonyítékot foglalt magában: 9 érv a magányos elkövető, 9 pedig a bérgyilkos elméletet támasztotta alá. Azt vizsgálták, hogy ezt az összességében semleges bizonyítékhalmazt hogyan dolgozzák fel a résztvevők: hogyan értékelik a bizonyítékok erősségét, hogyan változtatja meg álláspontjukat saját bevallásuk szerint, illetve hogyan változik az meg a mérések szerint?

A vizsgálat arra az eredményre vezetett, hogy mindenki saját kiindulási elméletét látta igazolva: a magányos elkövető elméletet hívők azt, hogy Oswald egyedül dolgozott, a konteóhívők azt, hogy megbízásból. Tetten érhető volt, hogy a bizonyítékokat részrehajlóan értelmezték, értékelték, mindenki a saját elméletét bizonyító részhalmazt tartotta erősebbnek. Még meglepőbb volt, hogy az összességében semleges bizonyítékhalmaz meg is erősítette alapállásukat: elméletüket az eredetinél sokkal jobban alátámasztottnak, erősebbnek, szilárdabbnak vélték.

Az iménti kísérlet jól mutatja, milyen erővel gyűri maga alá kedvenc álláspontunk a neki nem tetsző információkat, és erősíti fel a neki kedveseket. Így talán könnyebb értenünk, miért tartották fenn a csernobili operátorok azt a vélekedésüket, hogy minden rendben van és léptek át azokon a jeleken, hogy valami komolyan nem stimmel.

A megismeréspszichológia azt mondja, hogy egy kicsit mindannyian Besenyő Pista bácsik vagyunk: annyiszor van igazunk, ahányszor csak akarjuk. Abban, hogy ez így van, nagy szerepet játszik az alátámasztó és aláásó információk elfogult feldolgozása. Persze igazából senki nem akar Besenyő Pista bácsi lenni. Ehhez az első lépés, hogy komolyan vegyük és tudatában legyünk a bemutatott problémának, mert még ekkor is kutya nehéz lesz a tudás alkalmazása, a hiba kivédése.

A megismeréspszichológia azt is mondja, hogy pont annyira vagyunk gyarlók, mint a csernobili atomerőmű tervezői, üzemeltetői, kezelői. Hogy önmagában semmi garancia nincs arra, hogy mi hasonló helyzetekben jobban teljesítenénk. Ha eltartjuk magunktól Csernobilt, mint amelynek döntési helyzeteivel nekünk átlagembereknek nincs dolga, akkor nem sikerül olyan tanulsággá formálni a katasztrófa üzenetét, amelyek segíthetnének, hogy saját fajsúlyos döntéseinkben okosabban legyünk — és legalább ezzel egy leheletnyi értelmet adjunk az áldozatok amúgy értelmetlen halálának. Ha megrázott bennünket az HBO minisorozata, akkor az a dolgunk, hogy tanulságait, akár a fentieket is, saját életünkre vonatkoztassuk.

forrás:
https://bmefilozofia.blog.hu/2019/07/06/_hogyan_lehetunk_ilyen_hulyek

https://hu.wikipedia.org/wiki/Csoportgondolkod%C3%A1s

https://hu.wikipedia.org/wiki/Optimizmus

https://hu.wikipedia.org/wiki/Meger%C5%91s%C3%ADt%C3%A9si_torz%C3%ADt%C3%A1s

Vélemény, hozzászólás?

Az email címet nem tesszük közzé. A kötelező mezőket * karakterrel jelöltük