Experiment och utvärdering

Skilj säsong från effekt av ChatGPT-annonser

Granska före- och efterjämförelser av ChatGPT-annonser. Upptäck kalenderobalans, kampanjdagar och skiftande efterfrågan innan du tillskriver annonserna ökningen.

Börja läsa
Bildillustration: En liten butik under ett pappersträd med snötäckta grenar, vårblommor, gröna löv och höstfärger.
BildillustrationButiken står kvar medan årstiderna skiftar, en påminnelse om att efterfrågan kan förändras samtidigt som annonseringen.
Arbetsguiden

Det här får du hjälp med.

Experiment och utvärdering
  • Lika många dagar behöver inte innebära samma kalenderblandning.
  • En säsongsjusterad observation blir inte automatiskt ett kausalt resultat.
  • Dokumentera samtidiga händelser innan en förbättring tillskrivs annonserna.

Försäljningen ökade efter att annonseringen i ChatGPT startade. Det är ett viktigt affärsfaktum, men ännu ingen förklaring. Kunderna kan ha börjat planera semestern, lönen kan ha kommit eller företaget kan ha skickat ett erbjudande till sin kundlista samma vecka. En före- och efterjämförelse behöver först klara kalendergranskningen.

Den praktiska frågan är inte om säsong kan påverka alla kampanjer. Frågan är vilka tidsmönster som kan förändra just ditt valda utfall under de jämförda perioderna. Här följer en rekommenderad intern granskning för annonsörer som vill avgöra hur mycket en förändring i rapporten faktiskt säger.

Börja med en tidslinje över affären

Lägg annonsstart, prisändringar, andra utskick, lagerhändelser och kända driftproblem på samma tidslinje som utfallet. Ange datum då förändringen nådde kunderna, inte bara datum då den beställdes internt. Ett nytt erbjudande kan börja påverka efterfrågan innan kampanjen formellt startar.

Dela händelserna i återkommande mönster och särskilda störningar. Veckodagar, helger och vissa återkommande köptillfällen kan beskriva säsong. En tillfällig lagerbrist eller ett stort pressomnämnande är en separat händelse. Båda kan försvåra jämförelsen, men bör inte få samma förklaring eller samma justering.

NIST beskriver säsong som periodiska variationer och rekommenderar tidsseriegranskning för att upptäcka mönstren. För den här arbetsuppgiften rekommenderar vi en enkel daglig kurva först, följd av grupperingar efter relevant kalenderkategori. En tabell med periodtotaler döljer ofta det som behöver förklaras.

Kontrollera antal dagar och vilka dagar de är

Två lika långa perioder kan innehålla olika många helgdagar. I ett hypotetiskt exempel ger verksamheten oförändrat 80 order per vardag och 120 per helgdag. En tiodagarsperiod med åtta vardagar och två helgdagar ger 880 order. En annan tiodagarsperiod med sex vardagar och fyra helgdagar ger 960.

Den observerade ökningen är 80 dividerat med 880, alltså cirka 9,1 procent. Ingen annonseffekt finns inbyggd i exemplet. Hela skillnaden kommer från kalenderns sammansättning. Att dividera båda perioderna med tio dagar tar inte bort problemet: dagssnitten blir fortfarande 88 respektive 96.

Jämför därför samma veckodagsblandning när det är relevant. Hela veckor kan hjälpa mot just den obalansen, men löser inte exempelvis en flyttad helgdag, en lönehelg eller en säsong som snabbt förändras. Läs även om jämförelser med ofullständiga perioder när dagens eller veckans senaste data ännu saknas.

Jämför alternativen

Samma dagsutfall, olika periodtotal

  1. Första tiodagarsperioden

    8 vardagar × 80 + 2 helgdagar × 120 = 880 order.

  2. Andra tiodagarsperioden

    6 vardagar × 80 + 4 helgdagar × 120 = 960 order.

  3. Den skenbara förbättringen

    80 / 880 = 9,1 % fler order förklaras här helt av kalenderns sammansättning.

Hypotetiskt exempel med 80 order per vardag och 120 per helgdag. Ingen effekt av annonser antas.

Ge varje utfall samma tid att bli färdigt

En äldre period kan ha hunnit samla in sena konverteringar och returer medan en ny period fortfarande är omogen. Då ser skillnaden ut att följa kalendern fast den delvis kommer från uppföljningstiden. Välj en regel för när perioderna är tillräckligt färdiga och spara datum då underlaget hämtades.

OpenAI skiljer rapporterade attribuerade resultat från inkommande konverteringshändelser. Vår rekommendation är att hålla rapportdatum, affärshändelsens datum och observationstid isär i arbetsunderlaget. Om teamet blandar dem kan en sen order flyttas mellan perioder utan att någon kund har ändrat beteende.

Kontrollera även om måttets definition förändrats. Ett nytt formulär som registrerar fler leads kan ge en ökning utan högre efterfrågan. Ett byte från orderdatum till fakturadatum kan ändra veckomönstret. Sådana förändringar behöver rättas eller redovisas innan säsong används som förklaring.

Använd en jämförelseserie med en tydlig motivering

Försäljning under samma kalenderperiod året före kan vara informativ, men verksamheten kan ha ändrat sortiment, priser och kundbas. En annan region kan dela säsongen men ha annorlunda lokal konkurrens. Organisk trafik kan påverkas av själva annonseringen och därför vara en olämplig opåverkad referens.

Beskriv varför varje föreslagen serie bör spegla samma efterfrågetryck och varför den inte själv påverkas av annonsförändringen. Granska relationen under flera tidigare perioder. Välj inte jämförelseserien bara för att den ger det mest attraktiva svaret efter kampanjstart.

Om genomförbarheten medger en förutbestämd samtidig jämförelse kan geografisk experimentdesign vara ett alternativ. Det kräver egna kontroller av tilldelning, styrning och överlapp. Den här artikeln förutsätter ingen tillgång till geografiska experiment eller automatiska säsongskontroller i ChatGPT Ads.

Gör känslighetsanalysen begriplig

Spara den råa förändringen tillsammans med justerade beskrivningar. Visa exempelvis jämförelsen med samma veckodagsblandning och en separat version där en dokumenterad driftstörning hanteras enligt förhandsregeln. Om slutsatsen ändras när ett fåtal dagar hanteras annorlunda behöver beslutsfattaren få veta det.

Undvik att prova många kalendermodeller tills en positiv effekt återstår. Om modellen utvecklas efter att resultatet blivit känt ska analysen kallas utforskande. En avancerad modell kan vara användbar för planering, men matematik ersätter inte en trovärdig förklaring till vad som skulle ha hänt utan annonseringen.

Ett litet intervall runt en modellskattning omfattar normalt inte alla felaktiga antaganden om jämförelseserien. Mer data kan minska slumpmässig osäkerhet utan att ta bort systematisk sammanblandning. Därför behöver resultatredovisningen både ett osäkerhetsmått och en diskussion om vilka samtidiga förändringar som fortfarande kan påverka svaret.

Skriv slutsatsen på den nivå underlaget klarar

Använd formuleringen observerad ökning när du bara har en före- och efterjämförelse. Beskriv en kalenderjusterad skillnad som just det, med antagandena synliga. Spara rapporteringsunderlaget från OpenAI tillsammans med den interna händelsekalendern så att analysen går att återskapa.

Om den höga nivån bara finns under lanseringen återstår också frågan om nyhetseffekt och varaktig respons. Budgetbeslutet kan då bli att fortsätta mäta under en mer representativ period. Det är ett konkret beslut trots att den första ökningen ännu inte kan tillskrivas ChatGPT-annonserna kausalt.

Källor och avgränsning

Bedöma om en observerad förändring efter en ChatGPT-kampanj kan förklaras av kalender, säsong eller samtidiga affärshändelser.

Arbetsmetoder och exempel är redaktionella förslag. Kontrollera aktuella plattformsvillkor och funktioner inför genomförandet.

Ditt nästa kapitel

Se hur kampanjen följs upp.

Utforska rapporteringen i AthillyAds och hur den passar ihop med din egen mätning av förfrågningar, köp och andra affärsresultat.