Översvämning av fejknyheter genererade av AI hotar förtroendet och informationsekosystemet, säger utgivare

Nyhetsmediernas förening (NMA), som företräder stora nyhetsorgan som The Times, The Guardian och The Telegraph, har uttryckt oro över den översvämning av fejknyheter som genereras av artificiell intelligens (AI)-verktyg. Dessa fabricerade artiklar, ofta felaktigt tillskrivna verkliga journalister och åtföljda av en nyhetsorganisations varumärke, utgör betydande hot mot informationsekosystemet.

NMA varnar för att användningen av AI-verktyg som ChatGPT, som kan maskera sig som journalistik utan mänsklig redaktionell kontroll, kan leda till hallucinationer och uppfinningar av falska fakta och därigenom sätta samhället och demokratin i fara. Dessutom kan stöld av redaktionellt innehåll av AI potentiellt skada nyhetsorganens ekonomiska hållbarhet genom att skörda innehåll utan tillstånd, erkännande eller belöningar, vilket kan resultera i brist på pluralistiska medier och överflöd av fel- och desinformation.

Effekterna av fabricerade artiklar har redan känts av stora nyhetsorgan, inklusive The Guardian, som framhäver att inkluderingen av dessa artiklar underminerar legitimiteten och tyngden hos betrodda nyhetsorganisationer. Det finns oro för att om nya generativa modeller börjar förlita sig på AI-data istället för innehåll skapat av människor kan människans samlade kunskapsbassäng bli nedsmutsad och leda till en så kallad ”modellkollaps”.

Denna influx av fejknyheter representerar en ny stridsplats i den pågående kampen mot AI inom de kreativa branscherna. Utgivare uttrycker oro över att AI-företag använder upphovsrättsskyddat material för att träna sina verktyg utan tillstånd. De är även oroliga för att teknikföretag kan använda AI för att sammanfatta artiklar och därigenom styra trafik bort från nyhetssajter och beröva dem reklamintäkter.

Medan vissa nyhetsorgan överväger rättsliga åtgärder, söker andra unika avtal med teknikjättar som Google, OpenAI och Microsoft där dessa företag skulle betala för att använda deras innehåll. Associated Press har redan ingått ett avtal med OpenAI som möjliggör att ChatGPT kan använda AP:s innehåll samtidigt som AP får tillgång till OpenAIs teknologi.

NMA uppmanar teknikföretag att ta ansvar och samarbeta med nyhetsutgivare för att etablera nödvändiga skydd för att skydda integriteten hos information och journalistik. Det är avgörande för informationsekosystemet att förbli pålitligt och fritt från föroreningar av AI-genererade fejknyheter.

Källor:
– The Guardian
– The Telegraph