Großbritannien entwickelt Tool zur automatischen Blockierung extremistischer Inhalte
Ein langjähriges Thema verschiedener britischer Regierungen ist, dass Technologiegiganten mehr tun müssen, um den Extremismus auf ihren Plattformen zu bekämpfen. Die meisten Technologiegiganten zuckten nur mit den Schultern, wohlwissend, dass dies der Fall war könnte Obwohl sie Inhalte in Ländern, in denen es bereits strenge Gesetze gab, effektiv filtern konnten, bedeutete ihre allgemeine Vorliebe für kostenlose Internetanbieter, dass sie die Regierung bequem anstarren konnten, wenn diese mit Verboten oder Geldstrafen drohte.
Es scheint also eher so, als würde man das gleiche alte Lied und den gleichen Tanz aus leeren Drohungen und anschließender Untätigkeit durchgehen (Cameron äußerte sich hart auf WhatsApp). vor über drei Jahren)hat die Regierung die Initiative ergriffen und eine eigene Lösung entwickelt: ein Tool zur Blockierung von Extremismus, das Berichten zufolge 94 % der Online-Aktivitäten des Islamischen Staates (ISIS) mit einer Genauigkeit von 99,995 % erkennen kann.
Das vom Londoner Unternehmen ASI Data Science entwickelte Tool wurde mithilfe von Tausenden von Stunden an Daten trainiert, die von ISIS mit Hilfe von 600.000 Pfund an staatlichen Fördermitteln bereitgestellt wurden. Wenn das Tool Zweifel an etwas hat, wird der Beitrag markiert, damit menschliche Moderatoren ihn überprüfen können.
WEITER LESEN: Abgeordnete bezeichnen soziale Medien als „das Lebenselixier von Daesh“
Die Regierung richtet sich zwar hauptsächlich an kleinere Unternehmen, die keine eigenen Lösungen für das Problem haben, schließt jedoch die Verabschiedung eines Gesetzes nicht aus, um Unternehmen zur Nutzung der Software zu zwingen. „Wir werden nicht ausschließen, gesetzgeberische Maßnahmen zu ergreifen, wenn wir sie tun müssen“, sagte Innenminister Amber Rudd erzählte dem BBC. „Aber ich bin weiterhin davon überzeugt, dass der beste Weg, echte Maßnahmen zu ergreifen und die besten Ergebnisse zu erzielen, darin besteht, ein von der Industrie geführtes Forum wie das, das wir haben, zu haben.“
Das ist das Global Internet Forum to Counter Terrorism, dem neben Facebook, Google und Twitter auch mehrere Regierungen angehören.
Mögliche Probleme
Eine Erfolgsquote von 99,995 % könnte im Kampf gegen den Terrorismus bahnbrechend sein, aber das Schlüsselwort dort ist „könnte“. Diese Lösung – vorausgesetzt, sie funktioniert in freier Wildbahn genauso gut wie im Labor und Terroristen finden nicht einfach Wege, sie zu umgehen – zielt auf die Bekämpfung von Online-Radikalisierung und -Propaganda ab, trägt aber nicht dazu bei, das wesentlich heiklere Problem anzugehen Verschlüsselung.
Siehe Verwandte
Twitter kann Neonazis und weiße Rassisten automatisch verstecken, entscheidet sich aber dagegen
Wenn die Regierung ein Uber-Verbot nicht durchsetzen kann, müssen sich Facebook und Google keine Sorgen machen
Die britische Regierung will Google und Facebook dazu zwingen, terroristische Inhalte ernst zu nehmen. Viel Glück damit
Mit anderen Worten: Wenn Menschen offline radikalisiert werden, gibt es abseits von KI-Kontrollen immer noch zahlreiche private Online-Kanäle, auf denen potenzielle Terroristen Pläne schmieden können – und dafür gibt es keine wirklich einfache Lösung, egal wie vage informierte Minister auch sein mögen Ich wünschte, es gäbe. Und dabei ist noch nicht einmal das Potenzial ungeprüfter Black-Box-Algorithmen in Betracht gezogen, Fehlalarme ohne jegliches menschliches Eingreifen zu kennzeichnen.
Dennoch ist ein proaktives Vorgehen gegen den Terrorismus zweifellos ein positiver Schritt – und es ist positiv zu sehen, dass Regierungen die Initiative ergreifen, während das Silicon Valley in der Vergangenheit eher zurückhaltend war. Obwohl YouTube beispielsweise sehr effektiv darin war, in das System hochgeladene Pornos auszusortieren, konnten extremistische Inhalte schon seit Jahren durch das Netz gelangen – und man kann sich des Gefühls nicht erwehren, dass die hohen Strafen für erstere dabei geholfen haben könnten die Denkweise des Unternehmens in der Anfangszeit.
Es mag ein wenig plump wirken, aber zum jetzigen Zeitpunkt sollte alles, was Technologiegiganten dazu bringt, ihrer sozialen Verantwortung einen höheren Stellenwert einzuräumen, mit Vorsicht begrüßt werden.
Bild: Peter Wird unter Creative Common verwendet