08.03.2017

Google-Schwesterfirma Jigsaw will das Netz entgiften

Software Perspective: Künstliche Intelligenz (KI) soll Pöbeleien im Netz schneller erkennen und damit die Diskussionskultur verbessern.


Social Media Kanäle und die Kommentarspalten von Verlags-Webseiten werden von Teilen der Leserschaft oftmals dazu benutzt, den angestauten Emotionen freien Lauf zu lassen. Nicht selten äußern sich diese in Form von Beleidigungen und Pöbeleien. Besonders bei Artikeln, die Themen politischer Brisanz behandeln, wird inzwischen nicht selten die Kommentarfunktion deaktiviert. Die Neue Zürcher Zeitung möchte noch einen Schritt weiter gehen und in naher Zukunft die Diskussionsspalten gänzlich von ihrer Webseite verbannen; zu groß ist der Aufwand für Redakteure, hitzige Diskussionen zu moderieren und diffamierende Beiträge auszusortieren. Jigsaw, der Schwesterkonzern des Suchmaschinenriesen Google, möchte Verlagen und Unternehmen mit offiziellen Seiten auf den Social Media Kanälen das Leben nun ein stückweit erleichtern: Dazu wurde das Analyse-Tool Perspective entwickelt. Dies soll, gemäß dem Jigsaw-Manager Jared Cohen, Seitenbetreibern helfen, „hochwertige Gespräche zu ermöglichen“. In weniger beschönigenden Worten ausgedrückt heißt das: Unangemessene Kommentare sollen künftig mit Hilfe Künstlicher Intelligenz (KI) schneller entdeckt und aussortiert werden können.

Wie Perspective funktioniert

Perspective verwendet zur Analyse von Kommentaren einen eigens dafür konzipierten Algorithmus. Dieser gleicht die Leserbeiträge mit Mustern aus einer Datenbank ab und kann so relativ treffsicher beurteilen, ob die Kommentare in einem akzeptablen Tonfall formuliert sind oder ob sie lediglich der Pöbelei dienen. Anschließend werden die Leserbeiträge auf einer Skala von 0 bis 100 nach dem Grad ihrer Giftigkeit („toxic“) bewertet. Eine selbständige Entfernung hochgradig toxischer Kommentare wird aber nicht vorgenommen. Dies obliegt alleine dem jeweiligen Seitenbetreiber. Die Software Jigsaw möchte schließlich nicht die Rolle eines Zensors einnehmen. Das Analyse-Tool soll jedem Portal kostenlos zur Verfügung stehen und ganz einfach via API eingebunden werden können. Die Testphase der Software ist aktuell aber noch nicht abgeschlossen.

beta testers of Perspective
Betatester von Perspective

Betatester lernen Perspective an

Wikipedia, die New York Times, der Guardian und der Economist stellten sich bereits als Betatester zur Verfügung. Sie fütterten die Software mit Leserkommentaren und Einstufungen hinsichtlich des Tonfalls an. Alleine Wikipedia entfernte auf Grundlage der Bewertung von Perspective mehr als 115.000 gehässige Leserbeiträge von ihren Diskussionsseiten und konnte so die Qualität der Kommentarspalten steigern. Die automatische Erkennung und Bewertung der Kommentare entlastet die Redakteure und Moderatoren enorm, so muss schließlich nicht mehr jeder einzelne Beitrag gelesen werden, sondern lediglich diejenigen Kommentare, die als giftig gekennzeichnet worden sind. Aktuell steht die Software ausschließlich den englischsprachigen Medien zur Verfügung, der Einsatz auf dem deutschen Markt ist jedoch bereits in Planung.


comments powered by Disqus