Ein neuer Algorithmus könnte Betreibern von Communitys das Leben zukünftig deutlich einfacher machen: Er erkennt Trolle mit hoher Trefferquote automatisch und kann so dafür sorgen, dass deren Handlungs-Optionen eingedämmt werden, bevor sie zum Problem werden.

Entwickelt wurde das Verfahren, das in einem Paper mit dem Titel "Antisocial Behavior in Online Discussion Communities" beschrieben wird, an den Universitäten Stanford und Cornell. Dem gingen zahlreiche Analysen und Tests über einen Zeitraum von 18 Monaten auf drei Web-Plattformen voraus, auf denen sich eine große Menge an Nutzer-Kommentaren ansammelt: Dem Nachrichtenportal CNN.com, dem Politik-Forum Breitbart.com sowie der Spiele-Community IGN.com.

Weit über 10.000 Accounts von Nutzern, die von den Moderatoren der Plattformen dauerhaft gesperrt wurden, unterzog man dabei einer genaueren Betrachtung. Diese wurden den Beiträgen zahlreicher regulärer Kommentatoren gegenübergestellt. Dabei wurden verschiedene Merkmale ausgemacht, die in ihrer Kombination recht sicher erkennen lassen, ob es sich beim Nutzer um einen Troll handelt.

So zeigte sich beispielsweise, dass letztere sich meist auf einzelne Themenbereiche konzentrieren. Ihre Postings geben Inhaltlich auch oft nicht besonders viel her - manchmal haben sie mit dem Thema auch recht wenig zu tun. Auch hinsichtlich des Stils und der Anschlussfähigkeit in der Community zeigten sich Auffälligkeiten.

Auf Grundlage dessen konnte der von den Forschern entwickelte Algorithmus mit der Zeit immer besser geschult werden. Inzwischen bringt man es auf eine Trefferquote von 80 Prozent Area Under the Curve (AUC). Das bedeutet, dass nicht nur die gefundenen Trolle berücksichtigt wurden, sondern auch die falschpositiven Ergebnisse, die zu einer unerwünschten Sperrung führen würden.

Um diese Quote zu erreichen, müssen die fraglichen Nutzer nicht einmal besonders lange beobachtet werden. Der Maßstab wurde hier so angelegt, dass seit der Anmeldung maximal zehn Beiträge veröffentlicht worden sein durften - der Algorithmus bekam also relativ wenig Futter für seine Analysen. Die Entwickler wollen in der nächsten Zeit noch bessere Ergebnisse erzielen und hoffen darauf, Moderatoren in absehbarer Zeit viel Arbeit abnehmen zu können.