Algoritmen bär på ett arv som formar varje mediebeslut

Vi har byggt ett annonseringssystem som presenteras som objektivt. Men bakom varje automatiserat beslut om var ett varumärke får synas ligger ett arv av gamla kategorier, historiska mönster och inbyggda antaganden. Det är dags att ta ansvar för det vi faktiskt har programmerat in, skriver Anders Wallner på Channel Factory.

En algoritm som instrueras att undvika känsligt innehåll gör precis det. Men definitionen av vad som är känsligt hämtar algoritmen från det förflutna – från aggregerade träningsdata och historiska kategoriseringsmönster. Beslut som fattades av människor för år sedan kodades in i system och skalades sedan upp till att styra miljontals mediebeslut per dygn.

Konsekvenserna är strukturella. Etablerade, kommersiellt starka sammanhang har en lång historia av att passera säkerhetsfilter. Deras lämplighet är inbyggd i systemets grundantaganden och tas för given. Innehåll som är nyare, mer samhälleligt relevant eller riktar sig mot målgrupper som historiskt har prioriterats lägre möter en annan verklighet. 

Ta ett varumärke som offentligt har åtagit sig att arbeta för inkluderande skönhetsnormer. Det kommunicerar aktivt kroppsacceptans, mångfald och självkänsla.

När medieköpet planeras letar algoritmen efter lämpliga miljöer. En video om återhämtning från kroppsdysmorfi dyker upp. Den är relevant och stöttar målgruppen. Den speglar exakt de värderingar varumärket kommunicerar. Men den flaggas som känslig – psykisk hälsa, kropp, potentiellt triggande innehåll – och blockeras.

Detta utspelar sig i tusentals kampanjer varje dag och är ett resultat av automatiserade beslut snarare än medvetna ställningstaganden.

Kvaliteten vid AI-drivet annonsering börjar med de instruktioner som styr placeringen och inte i placeringen i sig. Det är där värderingarna kodas in. IAB:s taskforce för programmatiska köp är tydlig: transparens är en grundförutsättning. Det gäller såväl medieinköpens kostnadsstrukturer och klimatpåverkan som algoritmernas instruktionslager. Annonsörer och byråer bör kunna svara på vad deras algoritm faktiskt optimerar mot, vilka antaganden som ligger bakom kategorierna och vems historik träningsdatan baseras på.

Definitionen bör ägas av varumärket självt och vara grundad i dess faktiska värderingar snarare än att vara ärvd från ett system som ingen ifrågasätter.

Krönika skriven av Anders Wallner på Channel Factory.