 |
| Verhöhnung der Kanzlerin: Künftig erkennt ein Automatismus solchen Hass. |
Ein Frau im gelben Kleid, lächelnd auf den Trümmern Europas - immer öfter werden Hetze, Hass und Zweifel an der erfolgreichen Politik der Bundesregierung hoffähig. Ob Zivilschutzkonzept für den anstehenden Waffengang gegen Russland, Verwendung der Steuerüberschüsse oder Rettung Europas, immer finden sich selbsternannte Gralswächter einer angeblich schrankenlosen Meinungsfreiheit, die darauf bestehen, ihre kenntnisfreien Ansichten zu den Entscheidungen des Kabinetts im Internet breitschmieren zu dürfen.
Das Bundesblogampelamt im mecklenburgischen Warin hat jetzt auf Anregung von Bundesjustizminister Heiko Maas einen Algorithmus entwickelt, der die bisher in mühsamer Handarbeit erfolgende Verfolgung von Hass und abweichenden Ansichten im Internet automatisieren soll. Ist der Mechanismus, der auf künstlicher Intelligenz beruht, erst richtig eingespielt, wird Hetze automatisch erkannt, gemeldet und entfernt.
Beim E-Mail-Postfach eines amerikanischen Großanbieters klappt es schon ganz gut: Eine Software analysiert unter anderem Absender und Textmuster der eingegangenen Mails und kommt zu dem Ergebnis: Spam. Oder eben kein Spam. Je nachdem, wie gut das Programm trainiert ist, ist diese Analyse recht zuverlässig.
Software merzt Hass aus
Was bei E-Mails möglich ist, wollen Entwickler des Bundesblogampelamtes (BBAA) jetzt auch für die Kommentarspalten von Onlinemedien, Portale wie Facebook oder soziale Medien zum Standard machen. Ein schlauer Algorithmus, den Experten der Antonio-Amadeu-Stiftung mit Stichworten füttern, kann harmlose Einträge von Hasskommentaren trennen – und verhindern, dass Hass überhaupt erst in Internetforen erscheint. Bundesjustizminister Heiko Maas hatte zuletzt beklagt, dass „noch immer zu wenig, zu langsam und zu oft auch das Falsche gelöscht“ werde.
Der kluge Kommentarkiller-Algorithmus wäre ein Quantensprung für den Meinungsfreiheitsschutz, gelänge es, eine Automatisierung von Ansichten über das reine Filtern nach Schimpfwörtern hinaus auf Providerebene zu implementieren. Mit Hilfe des sogenannten Natural Language Processing, einer Anwendung aus dem Bereich der künstlichen Intelligenz, die auch bei Übersetzungen verwendet wird, könnte dann unterbunden werden, dass bestimmte Begriffe in bestimmten Zusammenhängen überhaupt noch geuploadet werden können.
BBAA-Chef Herrfried Hegenzecht ist optimistisch, dass seinen Software-Ingeninieuren der große Durchbruch gelungen ist. "Mit detaillierten Vorgaben aus mehreren Bereichen – von der Anzahl der Wörter in Großbuchstaben über die Interpunktion bis hin zu einer Liste an Hasswörtern und einer komplexen Methode, um Bedeutungen auch in Bildern wie dem Magazin-Cover mit der Verhöhnung der Bundeskanzlerin mehrdimensional zu erfassen, erkennt unser Algorithmus etwa 90 Prozent der auch von menschlichen, geschulten Lesern als problematisch identifizierten Kommentare", versichert er. Dies geschehe in Echtzeit, dabei beachte die Automatisierung Äußerungen zumindest recht grob auch in ihrem Kontext.
Verhindert Automatismus Strafverfolgung?
Sami Rausch, Projektkoordinator des „Hate Speech Movement“, begrüßt die Entwicklung grundsätzlich, befürchtet aber, dass längst nicht alle löschenswerten Kommentare erkannt werden. Zudem mindere die Möglichkeit, Hassrede im Internet zu verbreiten, die Chance für zivilgesellschaftliche Kräfte und Strafverfolger, gegen Hassredner vorzugehen. Hatespeech sei, strafbar oder nicht, kein Kavaliersdelikt, so Rausch. "Wenn aber niemand mehr Hasskommentare hochladen kann, findet auch keine Strafverfolgung und gesellschaftliche Ächtung mehr statt." Hier müsse noch nachjustiert werden, fordert er vom BBAA. "Wichtig wäre, dass wir an die Leute herankommen, die versuchen, Hassrede, Hetze und Zweifel irgendwo einzutragen."
Das Bundesblogampelamt im mecklenburgischen Warin hat jetzt auf Anregung von Bundesjustizminister Heiko Maas einen Algorithmus entwickelt, der die bisher in mühsamer Handarbeit erfolgende Verfolgung von Hass und abweichenden Ansichten im Internet automatisieren soll. Ist der Mechanismus, der auf künstlicher Intelligenz beruht, erst richtig eingespielt, wird Hetze automatisch erkannt, gemeldet und entfernt.
Beim E-Mail-Postfach eines amerikanischen Großanbieters klappt es schon ganz gut: Eine Software analysiert unter anderem Absender und Textmuster der eingegangenen Mails und kommt zu dem Ergebnis: Spam. Oder eben kein Spam. Je nachdem, wie gut das Programm trainiert ist, ist diese Analyse recht zuverlässig.
Software merzt Hass aus
Was bei E-Mails möglich ist, wollen Entwickler des Bundesblogampelamtes (BBAA) jetzt auch für die Kommentarspalten von Onlinemedien, Portale wie Facebook oder soziale Medien zum Standard machen. Ein schlauer Algorithmus, den Experten der Antonio-Amadeu-Stiftung mit Stichworten füttern, kann harmlose Einträge von Hasskommentaren trennen – und verhindern, dass Hass überhaupt erst in Internetforen erscheint. Bundesjustizminister Heiko Maas hatte zuletzt beklagt, dass „noch immer zu wenig, zu langsam und zu oft auch das Falsche gelöscht“ werde.
Der kluge Kommentarkiller-Algorithmus wäre ein Quantensprung für den Meinungsfreiheitsschutz, gelänge es, eine Automatisierung von Ansichten über das reine Filtern nach Schimpfwörtern hinaus auf Providerebene zu implementieren. Mit Hilfe des sogenannten Natural Language Processing, einer Anwendung aus dem Bereich der künstlichen Intelligenz, die auch bei Übersetzungen verwendet wird, könnte dann unterbunden werden, dass bestimmte Begriffe in bestimmten Zusammenhängen überhaupt noch geuploadet werden können.
BBAA-Chef Herrfried Hegenzecht ist optimistisch, dass seinen Software-Ingeninieuren der große Durchbruch gelungen ist. "Mit detaillierten Vorgaben aus mehreren Bereichen – von der Anzahl der Wörter in Großbuchstaben über die Interpunktion bis hin zu einer Liste an Hasswörtern und einer komplexen Methode, um Bedeutungen auch in Bildern wie dem Magazin-Cover mit der Verhöhnung der Bundeskanzlerin mehrdimensional zu erfassen, erkennt unser Algorithmus etwa 90 Prozent der auch von menschlichen, geschulten Lesern als problematisch identifizierten Kommentare", versichert er. Dies geschehe in Echtzeit, dabei beachte die Automatisierung Äußerungen zumindest recht grob auch in ihrem Kontext.
Verhindert Automatismus Strafverfolgung?
Sami Rausch, Projektkoordinator des „Hate Speech Movement“, begrüßt die Entwicklung grundsätzlich, befürchtet aber, dass längst nicht alle löschenswerten Kommentare erkannt werden. Zudem mindere die Möglichkeit, Hassrede im Internet zu verbreiten, die Chance für zivilgesellschaftliche Kräfte und Strafverfolger, gegen Hassredner vorzugehen. Hatespeech sei, strafbar oder nicht, kein Kavaliersdelikt, so Rausch. "Wenn aber niemand mehr Hasskommentare hochladen kann, findet auch keine Strafverfolgung und gesellschaftliche Ächtung mehr statt." Hier müsse noch nachjustiert werden, fordert er vom BBAA. "Wichtig wäre, dass wir an die Leute herankommen, die versuchen, Hassrede, Hetze und Zweifel irgendwo einzutragen."
4 Kommentare:
Kann man sich die Software für zu Hause downloaden oder ist das eher so eine Art Bundesdisputaner, er nur von staatlichen Behörden und auf Anordnung eingesetzt wird?
Die Algos bergen eine Gefahr in sich. Dreht man sie um, werden die wegweisenden Ratschläge, Lebensweisheiten und Verhaltensnormierungen unserer besten Landesgestalter als Haß markiert, aussortiert und dem Müll zugeordnet. Dann schwämme man in einem Meinungsbad voller Häme, Spott und Haß auf die Leistungsträger.
Hegenzecht muß sich zwingend drum kümmern, daß ein Mißbrauch der Software für andere als die vorgesehenen Zwecke ausgeschlossen ist. Nicht, daß wir eines Tages zwei deutsche Hatespeechs speaken.
1."Wenn aber niemand mehr Hasskommentare hochladen kann, findet auch keine Strafverfolgung und gesellschaftliche Ächtung mehr statt."
Das wäre natürlich eine Katastrophe. Man muss doch bestrafen können!
Bisher gab es schon das Verfahrenshindernis "Tod". Aber eines Tages wird man bestimmt aus einer Zelle des vor Verurteilung verstorbenen Straftäters einen Klon züchten können und den ersatzweise bestrafen.
2. Der Gedanke, über die Interpunktion nicht strafbare Hassrede zu erkennen, fasziniert mich. -,:.'"?;!
Es geht nicht um Hetze, Hass, oder so etwas.
Es geht darum, festzustellen, wem ich was verkaufen kann.
1991, damals noch Anwohner "An der Magistrale", bestellte ich bei "conrad" (Gibt es das Dingens noch?) einen Rechner.
Er wurde nicht geliefert, es sei denn gegen Vorkasse.
In Vorkasse gehe ich nicht mal mit meinem Bestattungsunternehmen, wenn es denn soweit ist.
Softwaregesteuerte Zensur ?!
wer garantiert und überwacht, daß nicht einfach unliebsame Meinungen ausgeblendet werden ?
die gute Nachricht: entgegen des durch euphorische Artikel transportierten (naiven) Vertrauens in die Leistungsfähigkeit von aktuellen NLP Algorithmen, lassen diese sich noch sehr leicht durch Umschreibungen und Sarkasmus umgehen. Von einem inhaltlichen Verständnis von Sprache sind Computer (z.Glück) noch ein gutes Stück entfernt.
Kommentar veröffentlichen