DESINformations Früh erkennung von gefährdenden online nAChrichten Trends

Desinformation stellt eine große Herausforderung für unsere Gesellschaft dar und birgt erhebliche Risiken. Derzeit gibt es kaum Instrumente, um Desinformationskampagnen aktiv zu erkennen. Die Betroffenen erfahren oft viel zu spät von ihrer Beteiligung, was ihre Möglichkeiten, wirksam zu reagieren, einschränkt. Oft bleibt nur Schadensbegrenzung. Eine frühzeitige Erkennung solcher Tendenzen würde Handlungsspielraum schaffen, z.B. um entsprechende Gegenmaßnahmen vorzubereiten. Ziel von DesinFact ist es, den Stand der Forschung zur automatischen Erkennung von Desinformationstrends zu verbessern, Lücken in technischen, rechtlichen und ethischen Bereichen zu identifizieren und geeignete Ansätze zu entwickeln, um ein solches System zu ermöglichen. Zur Erkennung von Desinformationskampagnen müssen verschiedene Datenquellen kontinuierlich überwacht werden, um Trends zu erkennen. Um diese dann automatisch als Desinformationskampagnen zu bewerten, müssen Ansätze verwendet werden, die höchsten Qualitätsansprüchen genügen, denn eine Fehlentscheidung - dass hier Fake-News-Inhalte verbreitet werden - kann auf die Urheber oder deren Institutionen zurückfallen und damit deren Ruf erheblich schädigen. Ebenso schadet dies dem Ansehen der Konsortialpartner und dem öffentlichen Vertrauen in eine solche Technologie. Vertrauenswürdigkeit - die Stärkung des Vertrauens in technische, rechtliche und ethische Belange - ist daher ein zentraler Schwerpunkt der Forschungsaktivitäten in DesinFact. Es sollen Methoden erforscht werden, um die Qualität zu steigern und diese messbar bzw. erklärbar zu machen, und diese Methoden sollen für Experten und Betreiber verständlich sein. Ein Aspekt zur Erhöhung der Genauigkeit ist die Kombination von Netzwerkstrukturanalyse und Kommunikationsmustern mit inhaltsbasierter Analyse. Zu diesem Zweck wird DesinFact Methoden zur Erkennung von Verbreitungskanälen und Schlüsselakteuren in Desinformationsnetzwerken erforschen und diese mit Methoden zur Inhaltsbewertung kombinieren. Ein weiterer Schwerpunkt von DesinFact ist die Erforschung einer möglichen öffentlichen Bereitstellung eines Systems zur Desinformationserkennung. Ein solches System soll es den Bürgern ermöglichen, Inhalte online auf Desinformation überprüfen zu lassen. DesinFact wird sozio-technologische Aspekte erforschen, die für eine angemessene Implementierung einer solchen Technologie relevant sind. Da es sich bei Desinformation jedoch um eine hochkomplexe Aufgabe handelt, deren Bewertung von zahlreichen Faktoren wie Allgemeinbildung, kulturellem, politischem und religiösem Hintergrund abhängt, lassen sich kontroverse Entscheidungen kaum vermeiden. Dementsprechend müssen sowohl die Bewertungssysteme als auch die Darstellung der Ergebnisse frei von Missverständnissen sein. Entsprechende interdisziplinäre Studien sind zentrale Inhalte von DesinFact.