Att ta hjälp av olika former av test vid urval är mycket vanligt. Men jag ställer mig frågan hur reflekterad och grundat valet av test är. Jag har en bakgrund som forskningsassistent vid Försvarshögskolan och vill nog påstå att jag kan en hel del om testkonstruktion, både psykologin och psykometrin. Detta inlägg är tänkt att ge en nyanserad bild av vilka frågor som är relevanta och ställa till din testleverantör och vilka svar du ska förvänta dig att få för att vara nöjd.
Frågorna du ska ställa till din testleverantör är följande:
- Vilken vetenskaplig grund vilar er test på?
- Vad avser ert test att mäta? Vilka belägg har ni för att testet mäter detta?
- Vilka samband finns mellan faktorerna i ert test och arbetsprestation? Vilka belägg har ni för detta?
- Hur hanterar ni problematiken med Skönmålning vid skarpt urval?
- Är testet normerat och dessutom normerat på en svensk population?
- Hur står sig ert test i relation till de andra testen på marknaden? Vilka belägg har ni för att just ert test ger mig mer information om de sökande än övriga tester?
Ni investerar mycket pengar på test och testanvändning så att be er leverantör ta sig tid och svara på dessa frågor är lätt att motivera. När ni gjort det är den lätta delen gjord, nu kommer problemet att ni kommer få svar, av alla! Även de som egentligen inte borde eller kan svara. Jag tänkte jag går igenom fråga för fråga vad ni vill ha för svar.
- De skall kunna förklara eller åtminstone redovisa i text vilka teoretiska grunder de har. Teorierna skall vara iaf hyfsat moderna (-70 och frammåt) och välkända. Gör en google sökning på begreppen som presenteras och kanske ring någon på närmaste universitet, har det inte hört talas om teorierna var försiktig.
- Vad testet avser att mäta skall vara lätt att förstå, speciellt efter att ha svarat på fråga 1. Försök också att få förklarat varför testet mäter vad det mäter, alltså vad var konstruktörens idé. Det för er direkt till nästa fundering i denna härrad, vilka belägg har leverantören för att testet faktiskt mäter vad de säger, ord väger lätt, vi vill ha statistik! Det skall finna en användarhandbok eller teknisk manual där det tydligt framgår samband mellan testet och andra liknande test eller delskalor som teoretiskt mäter samma sak. Många test klarar inte denna granskning, vilket gör att de inte är säkra på att de mäter vad de vill mäta. Det skall även finnas vetenskapliga referenser till de skalor som testet jämförs emot, finns inte det så var skeptisk.
- Finns det några studier som visar på samband mellan testet och arbetsprestation? Är det fler än en studie? Leverantörer berättar gärna att det finns samband, men kan ska kunna leverera ett aktuellt (säg 1995-). Dessutom skall sambanden definitift var större än 0.20 (perfekt korrelation är 1.0). Om de presenterar en studie skall du oxå vara noga med att kika på siffrorna som inte är signifikanta, varför är de inte det och känns svaret relevant? En vanlig teknik för att hitta samband är att korrelera många faktorer med varandra gärna med stora polulationer. Men se upp för då kommer slumpen att göra att det dyker upp signifikanta samband, och signifikant är inte nog. Storleken är i detta fall avgörande!
- Endast ett test som finns på marknaden idag klarar av att korrigera för skönmålning. Alla andra leverantörer antingen säger att skönmålning inte är ett problem (inte troligt..) alternativt hävdar att ett ipsativt svarsformat korrigerar för detta (inte troligt…). Leverantören skall klara av att beskriva sin ståndpunkt och hur du som testanvändare skall förhålla dig om testet inte korrigerar för skönmålning. Alla är inte överens med mig om att skönmålning är ett problemmen se t ex Heggestad et al (2006) och O’Connell et al (2011) för att bilda dig en egen uppfattning.
- Utan normering går det inte att basera ett urval på testet! Det går nämligen inte att säga något om den enskildes resultat i förhållande till andra i så fall. Normering bör vara gjord på en relativt stor population (ca <200 som tumregel), du skall oxå kunna få information om hur populationen som användes för nomeringen ser ut avseende t ex ålder, kön, utbildningsbakgrund etc. Detta är en kritisk del av ett urvalstests förmåga att vara praktiskt användbart överhuvudtaget.
- En bra leverantör vet vilka andra test som finns på marknaden. De skall veta vilka styrkor och svagheter dessa har. De skall även kunna på ett enkelt sätt förklara ev teoretiska skillnader. De ska vara kunniga inom det område de gör affärer helt enkelt. Helst ska leverantören kunna visa på studier som visar på samband/skillnader, även om detta är ovanligt.
Långt inlägg denna gång, men summan av kardemumman är STÄLL KRAV PÅ DIN TESTLEVERANTÖR! Det finns en stor mängd kvacksalvare på marknaden som säljer test till dig som du lika gärna kan vara utan.
Lycka till!
Referenser
Heggestad, E. D., Morrison, M., Reeve, C. L., & McCloy, R. A. (2006). Forced-choice assessments of personality for selection: Evaluating issues of normative assessment and faking resistance. Journal of Applied Psychology, 91, 9-24.
O’Connell, M. S., Kung, M.-C., & Tristan, E. (2011). Beyond Impression Management: Evaluating three measures of response distortion and their relationship to job performance. International Journal of Selection and Assessment, 19, Issue 4 (December), pages 340–351, 340-351.
Någon som inte håller med? Dessa krav är ju så självklara att det borde vara tjänstefel att inte ställa dom. Och när det gäller just urvalstester så tror jag att många ändå ställer krav. Tyvärr är det värre när det gäller kunskapstester inom den utbildning som sker både internt och externt – där ställs inga krav alls. 99% av alla kunskapstester som används inom utbildning är rent löjeväckande dåliga. Resultaten som ofta används för att t ex certifiera/examinera är inte värda något alls eftersom testen varken är valida eller reliabla. Kanske dags för att någon börjar ställa krav på kvalitet för ALLA slags tester som används?
Ja det är möjligt att jag slår in öppna dörrar. Tycker dock fortfarande det är en viktig fråga att lyfta, inte minst när det väcker en bredare debatt, ex att ställa krav på alla ”tester” för givetvis är det så. I skollagens §5 står ju numera att all undervisning skall vila på beprövad erfarenhet och vetenskaplig grund något ”vuxenutbilare” och ”konsulter” borde sträva emot också.
Sen tror iof jag att många är i minoritet, d v s allt för få faktiskt har grundligt skapat sig en uppfattning om de test de använder. De litar helt enkelt på svaren de får…
Inte alls. Det du skriver är en påminnelse till alla om att krav på kvalitet i de tester som används är något som borde vara en självklarhet. Skulle någon acceptera att bli dömd för rattfyllai trafiken baserat på att de togs ut ur bilen och uppmanades att gå rakt fram 10 meter, och snubblade till pga en isfläck, varpå de ansågs rattfull? Knappast! Det skulle få spaltmeter i Aftonbladet, DN, Expressen och i TV – hur kan någon bli fälld för något baserat på sådana bevis, bevis som är totalt godtyckliga? Men det är vad många accepterar när det gäller tester – oavsett vilken typ det handlar om.
Det är dags för någon att sätta ner foten och kräva något av den typ av standards som gäller i USA (se http://www.apa.org/science/programs/testing/standards.aspx). Skulle ett företag i USA använda ett test för urval som inte håller hög kvalitet skulle de försvinna fortare än kvickt från marknaden – de skulle gå i konkurs dagen efter de stämts i domstol för diskriminering av något slag! Tror att den som anmäler ett dåligt test till DO borde ha alla möjligheter att vinna förutsatt att dennes advokat anlitar en sakkunnig på test som hjälp i arbetet. Och en sådan dom skulle sedan kunna leda till att alla därefter kräver någon form av kvalitetsdeklarationer på de tester de använder…