Content-Moderation: Facebook priorisiert schädliche Beiträge mit KI 0 788

Facebook entwickelt ein neues System, das kritische Beiträge automatisch nach Relevanz sortiert. Das soll Content-Moderatoren ermöglichen, die schädlichsten Inhalte sofort sichten und entfernen zu können.

Mit Hilfe einer KI soll die Moderation von Facebook-Inhalten in Zukunft noch effizienter ablaufen. Verschiedene Algorithmen sortieren Beiträge nach Viralität, Schweregrad und der Wahrscheinlichkeit eines Regelverstoßes. Auf diese Weise können kritische Inhalte für die Content-Moderatoren priorisiert und somit schneller überprüft werden.

Inhalte sollen nach Gefahrenpotential sortiert werden

Wenn ein Nutzer oder ein Machine-Learning-Filter einen Post auf der Plattform meldet, löscht Facebook bei klar erkennbarem Regelverstoß diesen automatisch oder blockiert sogar den Creator des Beitrags. Manche Inhalte sind jedoch nicht eindeutig problematisch oder schädlich – daher hat Facebook circa 15.000 Moderatoren, die genau solche Beiträge unter die Lupe nehmen. Damit die schwersten Fälle als erstes bearbeitet werden, soll es zukünftig das neue KI-System geben. 

Laut Ryan Barnes, Produktmanager bei Facebooks Community Integrity Team, sollen menschliche Mitarbeiter trotz KI weiterhin fester Bestandteil des Prüf-Prozesses sein: 

All content violations will still receive some substantial human review, but we’ll be using this system to better prioritize [that process].

Facebook gab bisher keine Auskunft darüber, nach welchen Kriterien die Relevanz eines gemeldeten Posts bestimmt wird. Durch die US-Wahl und die zunehmende Verbreitung von Verschwörungstheorien haben soziale Netzwerke immer häufiger mit irreführenden und schädlichen Inhalten zu kämpfen. Ziel des neuen Systems ist es, solche Inhalte möglichst schnell zu entfernen.

Letzter ArtikelNächster Artikel
Ana Karen Jimenez ist Redakteurin beim Deutschen Coaching Fachverlag und hat ihren Bachelor in Literaturwissenschaften und Spanisch an der Eberhard Karls Universität Tübingen abgeschlossen. Sie ist in den Magazinen für lesenswerte Ratgeber und vielfältige Kundentexte verantwortlich.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.