Neues Frühwarnsystem soll Fake-News-Explosion stoppen

Die stille Gefahr im Netz: Wie ein Algorithmus die Verifikation revolutionieren soll

Während sich Nachrichten in Sekundenschnelle über die Welt verbreiten, tappen Faktenchecker oft im Dunkeln. Sie suchen die Nadel im Heuhaufen – und verlieren gegen die schiere Flut an Inhalten. Ein Forschungsteam der Universitat Politècnica de València (UPV) will diesem Ungleichgewicht nun ein Ende bereiten. Ihr Ansatz: nicht nur prüfen, was falsch ist, sondern vor allem, was gefährlich wird.

Von der Datenflut zur gezielten Jagd

Das neue System namens „Disinformation Diffusion Virality Risk Index“ (DDVRI) verfolgt einen pragmatischen Ansatz. Es analysiert ausschließlich Daten aus den ersten kritischen Stunden der Verbreitung eines Messages. Dabei berücksichtigt es den Inhalt, die Merkmale der Quelle sowie die Geschwindigkeit und Struktur der Ausbreitung. Das Ziel ist nicht die allumfassende Überwachung, sondern die kluge Priorisierung. Eine Art digitaler Triage-Arzt, der entscheidet, welcher Patient zuerst behandelt werden muss.

Juan José Climent Ferrer, einer der Entwickler, bringt es auf den Punkt: „Es reicht nicht zu wissen, dass etwas falsch sein könnte. Entscheidend ist, ob es sich massiv ausbreiten und zum Problem werden kann.“ Genau diese Lücke schließt der Algorithmus. Er soll Verifikationsteams von Behörden und Medien in die Lage versetzen, ihre begrenzten Ressourcen dorthin zu lenken, wo sie den größten Schaden verhindern.

Zahlen, die belegen, dass das System wirkt

Die Wirksamkeit des Systems haben die Forschenden anhand von zwei großen Datensätzen getestet. Bei der Analyse von Twitter-Daten zu aktuellen Großereignissen (PHEME) nutzte der Algorithmus nur die ersten sechs Stunden eines Trends, um Vorhersagen für die kommenden 72 Stunden zu treffen. Das Ergebnis ist beachtlich: Unter den Top-50-Meldungen mit höchster Risikoeinstufung fanden sich dreimal mehr Fälle, die sowohl faktisch falsch als auch hochviral waren, als im gesamten Datenpool.

Ähnlich beeindruckend waren die Ergebnisse mit dem COVID-19-Datensatz „CoAID“. In einer Modellkonfiguration bestanden 27 Prozent der Top-50-Alerts aus Inhalten, die nachweislich Desinformation mit enormer Reichweiten-Wahrscheinlichkeit kombinierten. Das System flitert also nicht alles aus, aber es findet das Schlimmste – und das mit erstaunlicher Präzision.

Kein digitaler Scheriff, sondern ein Werkzeug

Wichtig ist den Entwicklern die Abgrenzung zu Zensur. Das DDVRI ist kein Instrument, um Inhalte automatisch zu löschen oder Accounts zu sperren. Es ist ein Unterstützungsmechanismus für menschliche Entscheider. Die finale Bewertung der Wahrheit und die daraus resultierenden Maßnahmen bleiben in den Händen von Redaktionen, Behörden und Kommunikationsabteilungen. Das System liefert lediglich den entscheidenden Hinweis: „Schaut euch das zuerst an!“

Gefördert durch das Digital-Europe-Programm der EU und die spanische Regierung, markiert diese Entwicklung einen wichtigen Schritt im Kampf gegen die Infodemie. Sie verschiebt den Fokus von der Detektion zur Prävention. In einer Zeit, in der Desinformation zunehmend als Waffe in hybriden Konflikten genutzt wird, ist die Fähigkeit, den Sturm im Keim zu ersticken, nicht nur technische Spielerei, sondern ein Stück digitale Sicherheitspolitik. Die eigentliche Bewährungsprobe folgt nun im realen Einsatz – jenseits von Datenbanken und Labortests.

---

Quelle: europapress.es