„Künstliche Intelligenz im Wahlkampf ist Hochrisikotechnologie“ – Forschende im Bereich IT Sicherheit des Karlsruher Instituts für Technologie zur Rolle der generativen KI in der Wahlwerbung - Campus-Report am 18.02.2025

Gross war die Aufregung Anfang Januar als Elon Musk, Eigentümer der Social Media Plattform X, ein Interview mit der Kanzlerkandidatin Alice Weidel führte und eine Wahlempfehlung für die rechtspopulistische AFD aussprach. Dabei läuft schon seit Monaten auf X eine Kampagne, bei der unzählige Fake-Accounts mithilfe von Bots im Minutentakt tausende von Posts mit rechtsradikalen Parolen im Cyberspace verbreiten. Tatkräftig unterstützt von einem KI-Algorithmus, der für möglichst große Sichtbarkeit sorgt. Dabei gibt es keinen für eine funktionierende Demokratie so kritischen Prozess wie die Meinungsbildung von Bürgerinnen und Bürger vor dem Gang zur Wahlurne. ... mehrPopulistische Parteien sind inzwischen weltweit Meister darin, durch künstliche Intelligenz generierte oder verfälschte Bilder und Videos zu nutzen, um kontroverse Debatten anzustiften. Ihre emotionalisierenden, Hass erzeugenden Narrative eignen sich besonders gut, um die Informationsräume der sozialen Medien zu fluten. Technologien der Künstlichen Intelligenz wirken dabei in vielerlei Weise als Brandbeschleuniger. Nach Ansicht der Arbeitsgruppe „Lernende Systeme“ ist es deshalb unerlässlich KI im Vorfeld von Wahlen als Hochrisiko-Technologie zu behandeln.
https://www.plattform-lernende-syste-me.de/files/Downloads/Publikationen/Whitepaper_KI_im_Superwahljahr_Plattform_Lernende_Systeme_2024.pdf

There was great excitement at the beginning of January when Elon Musk, owner of the social media platform X, conducted an interview with Chancellor candidate Alice Weidel and made an election recommendation for the right-wing populist AFD. A campaign has been running on X for months, with countless fake accounts using bots to spread thousands of posts with right-wing radical slogans in cyberspace every minute. Actively supported by an AI algorithm that ensures the greatest possible visibility. Yet there is no process as critical to a functioning democracy as the formation of citizens' opinions before they go to the ballot box. ... mehrPopulist parties around the world are now masters at using images and videos generated or falsified by artificial intelligence to incite controversial debates. Their emotionalizing, hate-generating narratives are particularly well suited to flooding the information spaces of social media. Artificial intelligence technologies act as a fire accelerator in many ways. According to the “Learning Systems” working group, it is therefore essential to treat AI as a high-risk technology in the run-up to elections.
https://www.plattform-lernende-syste-me.de/files/Downloads/Publikationen/Whitepaper_KI_im_Superwahljahr_Plattform_Lernende_Systeme_2024.pdf