TY - BOOK

T1 - Curbing Amplifiation Online

T2 - Towards Improving the Quality of Information Spread on Social Media Using Agent-Based Models and Twitter Data

AU - Jahn, Laura

PY - 2023/2/15

Y1 - 2023/2/15

N2 - Denne Ph.d.-afhandling undersøger måder at bremse forstærket spredning af lavkvalitetsindhold, såsom misinformation, på sociale medier. Dette undersøges gennem brug af agentbaserede modeller og data fra den sociale medieplatform Twitter. Afhandlingen fokuserer eksplicit på forstærkningen gennem et-klik brugerreaktioner såsom likes og delinger (shares). At like og at dele er centrale måder hvorpå information spredes i online sociale netværk. Disse former for engagement med indhold informerer endvidere platformenes indholdssorteringsalgoritmer, hvilket øger spredningen yderligere.Forstærket spredning gennem likes og delinger kan være drevet af koordinerede og/eller uægte aktører såsom sociale bots. Også autentiske, menneskelige brugere kan sprede indhold af lav kvalitet. Påvirket af social indflydelse og kognitive biases kan autentiske brugere finde på at like eller dele indholdgivet høje engagementstal, uden at tildele opmærksomhed til at vurdere indholdets nøjagtighed eller kvalitet. Både uægte og autentiske brugerreaktioner forstærker spredningen af misinformation online, og underminerer folkemængdernes visdom (wisdom of crowds): Høje engagementmål indikererikke nødvendigvis høj kvalitet. Mens inflationen af engagementsmål er en let tilgængelig manipulationsstrategi, der underminerer folkemængdernes visdom, har forskning endnu ikke i vid udstrækning studeret forstærkningen af lavkvalitetsindhold gennem likes og delinger. En væsentlig årsag er, at dataom et-klik brugerreaktioner er ikke-trivielle at indsamle.Hoveddelen af denne afhandling består af tre forskningsartikler. Fra forskellige vinkler adresserer disse artikler trusler mod folkemængdernes visdom. Artiklerne har som fælles mål at forbedre den (epistemiske) kvalitet af den information, der bliver forstærket på sociale medier. Artikel I og II studerermetoder til at opdage uægte, koordineret engagementsinflation og mistænkelige sammenhænge i reaktionsdata. Disse artikler er baserede på computersimulerede data fra en agent-baseret model (Artikel I) og nye empiriske data indsamlet live fra Twitter med et program skrevet med det formålat overvinde datamanglen for et-klik brugerreaktioner (Artikel II). Artikel III studerer adfærdsinterventioner baseret på friktion for at forhindre forstærkning af lavkvalitetsindhold analyseret med en agent-baseret model.Et indledende kapitel går forud for artiklerne. Indledningen beskriver afhandlingens tværfaglige grundlag, og præsenterer centrale begreber og teorier, der efterfølgende fungerer som et stillads for præsentationenaf hver artikel. Indledningen diskuterer nøglebegreber såsom sociale medier, informationsspredning, opmærksomhedsøkonomi, kvalitetsbegreber (f.eks. misinformation og disinformation) og forstærkning. Disse begreber betragtes teoretisk ud fra et folkeafstemningsperspektiv. Dette perspektivbruges til at vurdere, hvordan det sociale medielandskab udfordrer folkemængdernes visdom gennem kognitive biaser, social indflydelse og tilstedeværelsen af uægte aktører, koordinering og ind- flydelsesoperationer.Et metodeafsnit forklarer og begrunder modelleringsvalg og antagelser vedrørende agentbaseret modellering og empirisk dataindsamling fra Twitter. Metodeafsnittet uddyber yderligere databehandling og -analyse, og afsluttes med en beskrivelse af de indsamlede data samt en diskussion af etiske overvejelser omkring dataindsamling og censur. Efterfølgende gennemgår introduktionskapitlet relateret arbejde indenfor koordinering, bot-detektion og adfærdsmæssige interventioner. Afslutningsvis beskrives implementeringsmuligheder af de foreslåede procedurer og fremtidige forskningsperspektiver.

AB - Denne Ph.d.-afhandling undersøger måder at bremse forstærket spredning af lavkvalitetsindhold, såsom misinformation, på sociale medier. Dette undersøges gennem brug af agentbaserede modeller og data fra den sociale medieplatform Twitter. Afhandlingen fokuserer eksplicit på forstærkningen gennem et-klik brugerreaktioner såsom likes og delinger (shares). At like og at dele er centrale måder hvorpå information spredes i online sociale netværk. Disse former for engagement med indhold informerer endvidere platformenes indholdssorteringsalgoritmer, hvilket øger spredningen yderligere.Forstærket spredning gennem likes og delinger kan være drevet af koordinerede og/eller uægte aktører såsom sociale bots. Også autentiske, menneskelige brugere kan sprede indhold af lav kvalitet. Påvirket af social indflydelse og kognitive biases kan autentiske brugere finde på at like eller dele indholdgivet høje engagementstal, uden at tildele opmærksomhed til at vurdere indholdets nøjagtighed eller kvalitet. Både uægte og autentiske brugerreaktioner forstærker spredningen af misinformation online, og underminerer folkemængdernes visdom (wisdom of crowds): Høje engagementmål indikererikke nødvendigvis høj kvalitet. Mens inflationen af engagementsmål er en let tilgængelig manipulationsstrategi, der underminerer folkemængdernes visdom, har forskning endnu ikke i vid udstrækning studeret forstærkningen af lavkvalitetsindhold gennem likes og delinger. En væsentlig årsag er, at dataom et-klik brugerreaktioner er ikke-trivielle at indsamle.Hoveddelen af denne afhandling består af tre forskningsartikler. Fra forskellige vinkler adresserer disse artikler trusler mod folkemængdernes visdom. Artiklerne har som fælles mål at forbedre den (epistemiske) kvalitet af den information, der bliver forstærket på sociale medier. Artikel I og II studerermetoder til at opdage uægte, koordineret engagementsinflation og mistænkelige sammenhænge i reaktionsdata. Disse artikler er baserede på computersimulerede data fra en agent-baseret model (Artikel I) og nye empiriske data indsamlet live fra Twitter med et program skrevet med det formålat overvinde datamanglen for et-klik brugerreaktioner (Artikel II). Artikel III studerer adfærdsinterventioner baseret på friktion for at forhindre forstærkning af lavkvalitetsindhold analyseret med en agent-baseret model.Et indledende kapitel går forud for artiklerne. Indledningen beskriver afhandlingens tværfaglige grundlag, og præsenterer centrale begreber og teorier, der efterfølgende fungerer som et stillads for præsentationenaf hver artikel. Indledningen diskuterer nøglebegreber såsom sociale medier, informationsspredning, opmærksomhedsøkonomi, kvalitetsbegreber (f.eks. misinformation og disinformation) og forstærkning. Disse begreber betragtes teoretisk ud fra et folkeafstemningsperspektiv. Dette perspektivbruges til at vurdere, hvordan det sociale medielandskab udfordrer folkemængdernes visdom gennem kognitive biaser, social indflydelse og tilstedeværelsen af uægte aktører, koordinering og ind- flydelsesoperationer.Et metodeafsnit forklarer og begrunder modelleringsvalg og antagelser vedrørende agentbaseret modellering og empirisk dataindsamling fra Twitter. Metodeafsnittet uddyber yderligere databehandling og -analyse, og afsluttes med en beskrivelse af de indsamlede data samt en diskussion af etiske overvejelser omkring dataindsamling og censur. Efterfølgende gennemgår introduktionskapitlet relateret arbejde indenfor koordinering, bot-detektion og adfærdsmæssige interventioner. Afslutningsvis beskrives implementeringsmuligheder af de foreslåede procedurer og fremtidige forskningsperspektiver.

M3 - Ph.D. thesis

BT - Curbing Amplifiation Online

ER -