Lögnbaserade lögndetektorer

Publicerat i Folkvett nr 3/2009.

Francisco Lacerda, professor i fonetik vid Stockholms universitet, skildrar marknaden för lögndetektorer som påstås avslöja lögnare genom deras röster.

Folk ljuger ibland, av olika anledningar, i olika utsträckning och med olika konsekvenser. Ibland blir lögnerna avslöjade och själva avslöjandet kan vara en komplicerad och obehaglig process både för avslöjaren och för lögnaren. Diskussioner kring vad som egentligen skall anses som lögn kan uppstå. Är det en lögn att göra felaktiga påståenden som man trodde på? I vilken mening ljuger man när information utelämnas så att andra blir vilseledda? Hur avsiktlig var lögnen? Hur mycket hänsyn skall tas till att minnet förändras vid återkallandet av tidigare upplevda händelser, framför allt händelser som man råkade ut för helt oförberedd?

Frågorna kring ljugandet i vardagslivet är många och lögner kan få viktiga följder för såväl enskilda individer som för samhället. Ett omedelbart problem är att ”lyckade lögner” per definition inte går att upptäcka just för att de uppfattas som sanningar, och insikten om detta kan i vissa situationer leda till paranoitt sökande efter sanningen. Man kan helt enkelt inte vara absolut säker på att inte ha blivit lurad ens när allting verkar stämma. Situationen liknar det som Karl Popper (1992) kallade för falsifieringsprincipen inom vetenskaplig forskning: om en lögn upptäcks vet man att påståendet var falskt, men om man inte upptäcker den kan det bero på att det inte är en lögn eller på att man inte har undersökt saken tillräckligt noga.

Mot denna bakgrund är inte särskilt förvånande att konsten att upptäcka lögnare har tilltalat folk. Metoderna har inkluderat allt från inkvisitionens användning av mystiskt motiverad handgriplig tortyr till dagens tekniska apparater som anses kunna uppskatta sanningshalten i en persons påståenden genom att analysera neurofysiologiska korrelat, såsom förändringar i hudkonduktans och i hjärt- och andningsfrekvens. Grundantagandet är att lögnaren måste uppleva en viss stress eftersom han är tvungen att hålla en påhittad berättelse i minnet. Att bedömningen baseras på objektiva mätningar är i och för sig ett framsteg, men det påverkar ändå inte grundproblemet, som är att korrelation tas som bevis på ett orsakssamband som inte behöver finnas.

Självklart kan man ljuga utan att uppleva stress eller visa tecken på sådan. Resonemanget bakom fysiologisk eller röstbaserad lögndetektion utgår från stereotypiska, men ytterst osäkra, antaganden om ett samband mellan denna sorts variabler och de känslotillstånd som de brukar uppträda tillsammans med. När det gäller sambandet mellan röstlägen och de känslor de förmedlar är skådespelare och imitatörer i radio ett tydligt exempel på att man kan utnyttja dessa allmänna stereotyper om röstlägen för att förmedla fiktiva känslor.

Röstbaserade lögndetektorer

Just rösten är ett mycket intressant medium när det gäller lögndetektion eftersom det oftast är genom det talade budskapet som lögnen förmedlas, och stressen påverkar rösten med darrningar, tveksamheter, ändrade röstlägen o.s.v. som följd. På senare tid har datorer med goda prestanda och bra ljudkort blivit billiga och en del aktörer har börjat dyka upp med ”röstbaserade lögndetektorer”. Talsignalen är komplex, och dess analys och behandling kräver gedigen kunskap i akustisk fonetik och signalbehandling, men det går naturligtvis att leka med signalen och utföra vissa transformationer eller analyser, inte minst med hjälp av den uppsjö av mycket avancerade datorprogram som numera används för att spela in och redigera musik. Det ligger nära till hands att ge sig in på marknaden med röstbaserade lögndetektorer, som påstås utnyttja detaljerade analyser av talsignalen. I själva verket är sådana detektorer baserade på ganska dunkla, naiva och icke vetenskapligt förankrade resonemang som företagen döljer bakom rökridåer av ”företagshemligheter”. De kan vara svåra att avslöja utan nödvändiga fonetiska kunskaper. Här följer två exempel på pseudovetenskap inom området.

Mikrotremorer

En av dessa lögndetektorer bygger på påstådda mikrotremorer, ”pyttedarrningar”, som skulle förekomma vid stämbandens vibration under typiskt, avslappnat tal. Enligt tillverkarna (det verkar inte finnas någon oberoende studie som bekräftar deras uppgift) visar grundtonsfrekvensen (frekvensen av stämbandens vibration) en slags instabilitet som under icke-stress uppträder med en frekvens på 8 till 14 Hz. Denna naturliga instabilitet påstås dock försvinna när talaren utsätts för stress i samband med framsägandet av en lögnaktig berättelse. Logiken är att blodtillströmning till musklerna i struphuvudet ökar på grund av denna stress och att den ökade blodgenomströmningen leder till en minskning av mikrotremorerna. Förklaringsprincipen är dock ganska tveksam utifrån ett vetenskapligt perspektiv. Utan dokumenterade och replikerbara undersökningar som stödjer tillverkarnas påståenden är det inte mycket att lita på. Tveksamheterna kring principen beror bland annat på att tillverkarnas bristande fonetiska kunskaper kan ha fått dem att misstolka de normala fonetiska variationer som uppstår när röstkällan påverkas av talarens artikulatoriska gester vid normalt, löpande tal.

Hur skapas talljuden?

I allmänhet skapas talsignalen, för att uttrycka sig tekniskt, genom att ljuden från struphuvudets glottala ljudkälla filtreras av ansatsrörets resonansegenskaper som styrs av de artikulatoriska positionerna. Den glottala ljudkällan uppstår genom stämbandsvibration som är typisk för vokalljud, nasalljud och likvidljud. Ljudet skapas när den annars jämna luftströmmen vid utandningen avbryts av stämbanden som effektivt ”hackar sönder” luftflödet i en periodisk serie av korta och kraftiga luftpuffar. Pulserna skapas ca 120 gånger per sekund hos en man och ungefär dubbelt så många ofta för en kvinna, och pulsernas takt kallas för grundtonsfrekvens. Det är variationer i denna grundtonsfrekvens som förespråkarna av mikrotremorer hänvisar till, men tillverkarnas påståenden bygger sannolikt på en del okunskap om och misstolkningar av fonetiken.

Mikrotremortekniken är inte trovärdig

Grundtonsfrekvensen bestäms av förhållandet mellan å ena sidan den instabila balansen hos muskelkrafterna som för samman stämbanden under de korta tidsintervallerna då de blockerar luftströmmen, å andra sidan tryckdifferentialen tvärs över glottis (skillnaden mellan trycket i lungorna och det atmosfäriska trycket, när munnen är öppen som under vokalljuden). Den påverkas av stämbandens massa. Grundtonsfrekvensen avspeglar alltså en mycket känslig balans mellan dessa muskelkrafter och tryckkrafter. En liten ökning i spänningen av struphuvudets muskulatur, eller en ökad tryckdifferential tvärs över glottis, resulterar i en omedelbar stegring av grundtonsfrekvensen. De luftpuffar som skapas av ljudkällan fungerar som små smällar som ekar i det akustiska rummet som utgörs av ansatsröret, och beroende på hur detta rum ser ut uppstår reflektioner av akustisk energi i olika takter som är relaterade till den tid det tar för ljudet att färdas fram och tillbaka mellan ansatsrörets väggar.

Reflektioner av akustisk energi i ansatsröret uppstår vid alla plötsliga förändringar (diskontinuiteter) i den akustiska miljön. Det kan vara en vägg, som till exempel kinderna, tänderna eller tungans, men själva munöppningen utgör också en plötslig avslutning av ansatsrörets akustiska miljö, där reflektioner av akustisk energi uppstår. Alla dessa reflektioner samverkar och skapar periodiska interferensmönster som kallas för ansatsrörets resonansfrekvenser. Själva de glottala pulserna hamnar i denna supraglottala akustiska miljö och samverkar med den. När ansatsrörets form ändras på grund av förskjutningar i tungans position, påverkas ansatsrörets resonansfrekvenser och resultatet uppfattas ofta som ett annat talljud. Att de resulterande talljuden avspeglar både röstkällan och dess akustiska påverkan via ansatsrörets artikulatoriska konfiguration är ett klart problem för den förslagna ”mikrotremortekniken”. Ett omedelbart problem beror på att när talaren artikulerar olika vokaler påverkas muskelspänningen i struphuvudet vilket resulterar i ändringar av själva grundtonsfrekvensen, vars frekvensfluktuationer tekniken avser att analysera. Slutna vokaler, som (i) eller (u), tenderar att ha lite högre grundtonsfrekvens än öppna vokaler, som (a), eftersom den höjning av tungan som är nödvändig för att skapa de slutna vokalerna orsakar en sträckning av struphuvudet och därmed en liten ökning av grundtonsfrekvensen, på grund av den ökade muskelspänningen. Förutsatt att mikrotremor-analystekniken har tillräckligt hög precision för att automatiskt upptäcka frekvensmodulationer associerade med påstådda mikrotremorer, så utgör de fonetiskt-artikulatoriskt betingade fluktuationerna i stämbandens grundtonsfrekvens åtminstone en påverkansfaktor som mikrotremorstekniken inte verkar kunna isolera.

Ytterligare ett problem är att begreppet ”mikrotremor” är ofullständigt definierat. Det presenteras svepande och ingen explicit algoritmen finns som skulle kunna användas för att replikera resultat och analysera metodens egenskaper. Och verkligheten är i själva verket ännu mera invecklad än det som skissades ovan. Förändringar i grundtonsfrekvensen uppstår hela tiden i samband prosodi och betoningsmönster (som vid frågor, påståenden, o.s.v.), och dessutom påverkas det generella grundtonsfrekvensförloppet under ett yttrande också av de specifika talljud som råkar bygga yttrandet (tonande klusiler, som (d) eller (g), har en genomgående lägre grundtonsfrekvens än omgivande vokaler, som i (ada), t.ex.). Därför tyder den samlade bilden av mikrotremorsbaserade lögndetektorer på att tekniken står på mycket bräckliga och icke verifierade principer. Den blandar sannolikt ihop olika prosodiska aspekter i en begreppslig röra som knappast kan leda till några meningsfulla resultat med avseende på sanningshalten i en talares påståenden.

LVA-baserade lögndetektorer

En annan sorts lögndetektor, eller ”kä”, som det tillverkande företaget Nemesysco vill att apparaten skall kallas, representerar en ”ny generation” baserad på s.k. Layered Voice Analysis(LVA). Om mikrotremorer bygger på svåråtkomliga och luddigt definierade egenskaper hos talsignalen så är denna LVA ett steg framåt vad gäller att dra helt absurda slutsatser om talarens mentala tillstånd från irrelevanta mätningar av talsignalen. På företagets hemsida påstås, som om det vore en etablerad sanning, att LVA är ”en unik teknologi för att i röstsignalen upptäcka ’spår’ av hjärnaktivitet. Teknologin bygger på idén om att förändringar i kortikal perception [sic!] och tolkning av händelser avspeglas i talsignalen. Genom användningen av en bredspektrumanalys för att upptäcka minimala, ofrivilliga ändringar i talsignalen, kan LVA upptäcka anomalier i hjärnaktivitet och klassificera dessa i termer av stress, upphetsning, lögn, och varierande emotionella tillstånd. Stress (’slåss eller fly’-paradigm) är bara en komponent av den generella emotionella struktur som mäts”. (www.lva650.com/technology.html)

Noggrannhet?

Vid närmare analys visar sig dessa ”spår av hjärnaktivitet” vara en rudimentär statistik över antal ”vändningar” (”thorns”) och ”platåer” i talsignalen, som samplas med bara 8 bitars upplösning och som dessutom försämras under själva bearbetningen till drygt 6 bitar/sampel. Resultatet av den grova kvantifieringen är naturligtvis en mycket schematisk representation av talsignalen som knappast är förenlig med företagets antydan om att ”upptäcka minimala, ofrivilliga ändringar i talsignalen”. Med en visuell analogi skulle det vara som att zooma in på detaljer i en bild tagen med en kamera med dålig upplösning. Resultatet blir en grumlig bild där detaljerna går förlorade (se ett bildexempel på det i http://stockholmuniversityphonetics.com/category/phonetics-laboratory/nemesysco-and-the-lva-technology/, ”LVA-technology: A short analysis of a lie”). Visserligen är samplingsfrekvensen också ganska låg, bara 11 025 Hz, men den ställer till mindre problem i förhållande till den dåliga amplitudupplösningen.

”Analysen”

Men vad gör egentligen LVA-tekniken med den grovt representerade akustiska signalen för att tillåta slutsatser om talarens sinnestillstånd? Jo, den analyserar talsignalen (eller egentligen vad som helst som fångas av mikrofonen) genom att betrakta amplituderna av tre efterföljande sampel i taget. Bortsett från några detaljer som har med godtyckliga trösklar att göra, räknas en tre-sampels-sekvens som en ”thorn” (”vändning”, ett lokalt maximum eller minimum i detta tre-sampelssekvens) om den andra sampeln är högre (eller lägre) än den första och den tredje. Redan detta är i sig lite märkligt. Att betrakta talvågen med tre sampel i taget innebär med denna samplingsfrekvens att man analyserar knappt 0,3 millisekunder åt gången, ett analysfönster som är alldeles för kort för att över huvud taget kunna ge någon vettig information om talsignalen. I en textanalogi vore det ungefär som att försöka säga något om en text genom att räkna antalet gånger som en vokal förekommer mellan två konsonanter när hela texten ”analyseras” i sekvenser av tre bokstäver åt gången! Denna uppräkning av ”thorns” är dessutom helt blind för var någonstans de lokala maxima eller minima förekommer liksom för dessa ”thorns” amplituder, så länge de överskrider den godtyckliga tröskeln.

En annan (lika meningslös) variabel som LVA-tekniken använder är antalet ”platåer” och deras varaktighet. Platåer definieras också utifrån amplituderna hos grupper av tre efterföljande sampel. Om stegen från den första till den andra sampeln och från den andra till den tredje är mindre än en (godtycklig) tröskel, betraktas sekvensen som en platå. Efterföljande sampel anses tillhöra samma platå så länge amplitudstegen ligger under tröskeln (den kortaste och längsta möjliga varaktigheten hos dessa platåer begränsas också av godtyckliga lägsta och högsta antal sampel inom varje platå). I textmotsvarigheten skulle dessa platåer avspegla sekvenser där efterföljande bokstäver inte avviker mera än, t.ex., fem steg upp eller ner, räknade i alfabetisk placering.

Utifrån uppräkningar av ”thorns” och ”platåer” samt en rudimentär analys av spridningen i platåernas varaktighet alstrar LVA-baserade lögndetektorer en rad bedömningar av talarens ”känslomässiga tillstånd”. Ingenstans finns en godtagbar förklaring hur dessa uppräkningar av akustiska händelser skulle kunna relateras till de påstådda känslotillstånden hos talaren. Nemesysco försöker i stället ge intrycket att LVA bygger på hemlig företagsinformation vilket, mot bakgrund av påståendenas orimlighet och företagets felaktiga användning av (eller snarare våld på) vetenskapliga begrepp, styrker uppfattningen att det rör sig om kvacksalveri. Sådant måste bekämpas och avslöjas med tanke på att företaget försöker infiltrera tillämpningsområden som säkerhet och medicin, där användning av dess produkter kan få allvarliga konsekvenser för allmänheten.

Obekväma sanningar

Att analysera dessa påhitt är naturligtvis ingen forskningsfråga. Man genomskådar genast teknikens orimlighet och företagets patetiska påståenden vid närmare studium. Professor Anders Eriksson vid Göteborgs universitet och jag publicerade en mycket kritisk artikel i en vetenskaplig tidskrift (Eriksson & Lacerda 2007) där vi försökte avslöja Nemesyscos obefintliga vetenskapliga principer och drog slutsatsen att det faktiskt kunde röra sig om flagrant okunskap hos uppfinnaren, utifrån vad denne själv hade berättat för en svensk journalist. Naturligtvis gillade inte Nemesysco artikeln utan hävdade att den var felaktig. Men i stället för att presentera vetenskapliga argument som bevisar att vår analys av deras produkter är felaktig valde företaget att hota förlaget som ger ut tidskriften med stämning för förtal. Oss författare hotade man med stämning om vi skulle återpublicera artikeln eller en ny med liknade innehåll.

Uppenbarligen förstår man inte på Nemesysco hur den vetenskapliga debatten går till, och man överskattade sin förmåga att eliminera en vetenskaplig artikel. Självklart kan inte vi forskare, som utför och publicerar undersökningar i våra universitets namn och som dessutom har ett ansvar gentemot samhället att ställa upp med vår kunskap, låta oss tystas av sådana hot. För egen del har jag skrivit en del förklarande artiklar som, om någonting, visar med ännu större tydlighet att Nemesyscos LVA-teknologi inte ens kan fungera i princip. Resultatet av Nemesyscos nedtystningsförsök blev att vår artikel, som ursprungligen kom ut i en liten upplaga, nu finns tillgänglig som piratkopia på flera webbsajter och har laddats ner tusentals gånger över hela världen. Den vetenskapliga debatten går vidare genom resonemang, principiella diskussioner och empiriska data. Man kan naturligtvis ha fel, och teorier och tolkningar av data debatteras hela tiden inom forskarvärlden. Det är normalt att forskare inte är ense om teorier och att debatten går livligt till, men hot får absolut inte förekomma.

Storbritanniens utvärdering av LVA

Märkligt nog har Nemesysco ändå lyckats lura sig in i vissa godtrogna kretsar, som t.ex. Department of Work and Pensions (DWP) i Storbritannien som investerade 2,4 miljoner brittiska pund i denna bisarra teknologi. Där uttalar sig fortfarande politiker och tjänstemän om teknikens förträfflighet när det gäller att avslöja bidragsfusk, även efter att ha tagit del av vår kritik mot LVA. Det är faktiskt förvånande att brittiska politiker och tjänstemän kunnat luras av Nemesyscos propaganda. Många mycket kompetenta brittiska forskare skulle ha kunnat avstyra det saftiga slöseriet i inköpet av Nemesyscos värdelösa programvara och dubiösa ”certifiering” av personal som utbildats att ”tolka” programmets meningslösa resultat. Förmodligen beror det på att kompetenta forskare ofta väljer att inte engagera sig i patetiska diskussioner kring en uppenbart ointressant vetenskaplig frågeställning, vilket lämnade fältet fritt för företagets ogenerade bedrägeri. Det är naturligtvis förståeligt men det innebär att man tillåter kvacksalveri att härja fritt.

Företaget infiltrerar sannolikt genom att okunniga nyckelpersoner inom myndigheterna övertygas av skickliga anspelningar på ”topphemliga” lösningar och ”komplexitet i att fånga individens känslomässiga profil” (vad det nu är för något). Nemesyscos propaganda hänvisar även till forskningsresultat, men icke förvånande har dessa hittills visat sig vara metodologiskt bristfälliga uppsatser som, betryggande nog, inte har passerat vetenskaplig granskning och vars författare ofta är företagets egna lokala representanter. Att någon nappat på denna pseudovetenskap används sedan som referens för att övertyga nästa nyckelperson, och det blir sedan svårare och svårare för de frälsta att erkänna misstaget, dra sig ur och bekämpa bluffen. En annat tolkning är tyvärr att hela DWP:s satsning varit ett cyniskt spel av myndigheterna mot de medborgare som är okunniga nog att gå på bluffen om att en röstbaserad lögndetektor skulle fungera. De brittiska politikernas påståenden om att de sparar pengar och att det därför är ointressant om tekniken fungerar eller inte är en fruktansvärd uppvisning av förakt och ansvarslöshet av förtroendevalda som egentligen förväntas agera på vettiga grunder.

Självbedrägeri

Men hur kan någon ändå nappa på sådant uppenbart båg? Det beror nog på att dessa lögndetektorer fungerar som en ljudstyrd kvasislumpgenerator och skapar en massa rappakalja som, på grund av själva slumpen, ibland kan ge intrycket att visa något relevant. Det blir ungefär som att läsa en kristallkula: utnyttjar magikern sin känsla för sannolikheten hos olika händelser och är budskapen tillräckligt luddiga, så kommer kunden att tolka in resten (och blir kanske övertygad om kristallkulans magiska krafter). Lögndetektorns obefintliga fonetiska kunskapsunderlag gör den ganska instabil. Den räknar fram thorns och platåer var som helst i signalen, så länge de representeras av systemets mycket grova amplitudkvantifiering. Detektorn spottar ur sig kurvor och bedömningar av talarens mentala tillstånd, oavsett om dessa thorns och platåer kommer från talarens röst, bakgrundsbuller, eko eller andra störningar.

Statistiken över antalet thorns och platåer används sedan för att generera ett tjugotal variabler, som bygger på olika kombinationer av de ursprungliga uppräkningarna av thorns och platåer. De innehåller förstås inte mera information än den som redan fanns i själva uppräkningarna. Samvariationen mellan dessa tjugotalet variabler är därför helt förutsägbar utifrån den godtyckliga algoritmen som de skapades med. Algoritmen i sig skapar en del olinjära transformationer av de ursprungliga beräkningarna av thorns och platåer på grund av de godtyckliga trösklar och trunkeringar som den introducerar, men är helt deterministisk. Det slumpartade beteendet beror på de okontrollerade akustiska egenskaperna hos den inkommande signalen. Till slut utfärdar programmet bedömningar av ”talarens emotionella tillstånd” som bygger på hur dessa uppräknade händelser råkar hamna i förhållande till olika trösklar och villkor med godtyckliga värden. Det resulterar i att varken talare eller bedömare har kontroll över en rad ovidkommande händelser som påverkar programmets utfall, och det är kanske programmets svårförklarliga variationer som ger intrycket av att systemet fångar något djupt, något som inte ens talaren är medveten om!

Bluffen har en stark psykologisk effekt, men det är alltså allt LVA-teknologin åstadkommer i fall det är någon som tror på den. Frågan är huruvida det är etiskt försvarbart att myndigheter som DWP använder sådana attrapper. Min åsikt är att det är både oetiskt och farligt. Det är oetiskt eftersom medborgarna, inte minst i ett EU-land, bör kunna lita på att myndigheterna agerar utifrån beprövade principer och inte låter sig luras av försäljare som lovar guld och gröna skogar. Det är farligt för att myndigheterna slösar bort allmänna medel som kunde användas för vettig verksamhet och legitimerar kvacksalveri, och själva användningen av dessa pseudodetektorer är förenad med en stor risk att agenternas uppmärksamhet vilseleds på grund av irrelevanta varningar eller missar.

Utvärderingsresultat

Att LVA-teknologin verkligen inte fungerar har nyligen bevisats genom DWP:s utvärdering av systemet i sammanlagt 2785 fall. Resultaten visas i tabellen här nedan.

Det är oklart om de redovisade värden kommer direkt från LVA-programmet eller om de visar de ”certifierade” bedömarnas tolkningar av programmets utskrifter, men i vilket fall som helst visar resultaten att systemet fungerar på slumpnivån. Detta är naturligtvis ingen överraskning eftersom LVA-tekniken saknar rimlig grund. Om man betraktar den sista kolumnen i tabellen så ser man att systemet ger ungefär dubbelt så många falsklarm som korrekta. Kolumnerna om sensitiviteten och falska positiva svar visar att det bara är generellt 34% av de faktiska lögnarna som upptäcks samtidigt som detta kostar 18% falskalarm. Det finns naturligtvis en del variationer i tabellen men dessa förklaras också av slumpen, som gör att resultaten blir något instabilare vid färre observationer. Skulle man ändra kriteriet så att flera fall skulle upptäckas, där en värdefull nivå skulle vara 85-90%, leder detta till falskalarmnivåer på 70-80%! Uppenbarligen fungerar inte Nemesyscos apparat på något användbart sätt och den skulle vara helt värdelös som kliniskt screeninginstrument. Som förväntat, den s.k. LVA-teknologin är ett skämt som dock måste tas på allvar och bekämpas genom spridning av kunskap.

Slutsats

Det återstår att fråga sig hur man skall kunna upptäcka lögnare nu när man vet att Nemesyscos attrapp inte kan det. Och svaret är nog att vi helt enkelt måste leva med lögnare. Det är bara önsketänkande att inbilla sig att en objektiv apparat skulle kunna hjälpa oss förbigå beslutsångesten och osäkerheten när det gäller att fastställa om en person ljuger eller ej. Men man kunde komma en bra bit på vägen om medel istället satsades på att öka utredarnas kompetens genom vettiga utbildningar så att de tillämpar tekniker för välstrukturerade intervjuer utan förutfattade meningar. Det finns mycket att vinna på att behandla människor på ett korrekt och värdigt sätt. Ingenstans bör människor behöva utsättas för ”granskningar” av kränkande slumpartade attrapper baserade på pseudovetenskap, som naturligtvis inte ens fungerar.

Referenser

• Eriksson, A. & Lacerda, F. (2007). Charlatanry in forensic speech science: A problem to be taken seriously, International Journal of Speech, Language and the Law 14, 169–193.
• Popper, K. (1992). The Logic of Scientific Discovery. London: Routledge.

Rekommenderad vidareläsning

• Dawkins, R. (1998). Unweaving the rainbow: Science, delusion and the apetite for wonder. London: Penguin Books.
• Gut, A. (2007). Sant eller sannolikt : tankar kring matematik, statistik och sannolikheter. Stockholm: Norstedts akademiska förlag.

Avancerad vidareläsning

• Fant, G. (1960). Acoustic theory of speech production. Haag: Mouton.
• Stevens, K. N. (1998). Acoustic Phonetics. Cambridge, Mass.: MIT Press.