Hej Hvejsel
Super interessant test du har gang i. Det er altid spændende når folk har passionen for at teste. Det handler dog i høj grad om at teste tingene rigtigt, og der er mange faldgrupper.
Jeg synes også det virker usandsynligt at begge mærker ville bidrage negativt til konverteringen, og derfor kunne jeg godt tænke mig at få afklaret, hvor mange konverteringer du havde på begge varianter, og om testens gennemsnitlige konvertering også var lavere end hvad shoppen ellers til dagligt levere. Du behøver ikke gå ind i at afsløre konverteringsraten.
Der er flere ting, som jeg normalt anbefaler man har på plads, ud over is i maven. Det er helt klart en fordel i starten af en test og have en "dobbelt kontrol" side - hvilket i realiteten bare er en ekstra side, der viser kontrollen. Denne er vigtig fordi hver enkelt test har sit "eget liv" og det er nemt hurtigt at blive positivt eller negativt mærket fordi der er KÆMPE udsving i starten, endten er der en positiv vinder på flere hundrede procent, og ellers falder testen fuldstændig igennem - dette er dog ikke nødvendigvis et tegn på at der er noget galt/rigtigt i testen.
Dobbelt kontrol, vil give dig et indblik i hvornår selve testens resultater kan begynde at sammenlignes - det vil sige, når dobbelt kontrollen, har den samme værdi som kontrollen, kan det med rette antydes at testen er ved at være troværdig (linje mæssigt - godt eller dårligt).
Statistisk validitet kan komme hurtigt - men troværdigt resultat af en test kan tage meget lang tid. Jeg har en personlig finger-regel, der siger at når hver variation i en given test alle har over 50 konverteringer, og dobbelt kontrollen har den samme "adfærd" som kontrollen - ja så kan man begynde at tolke lidt mere i dybden på testen.
Har man den fornødne is i maven, ja så anbefaler jeg at man ikke afslutter en test, før der minimum er 300 konverteringer pr aktive variation, og en statistisk validitet over 96-97% - men der kan været tidspunkter hvor man afslutter inden eller lader den køre endnu længere alligevel.
-Karsten