📖 Spamfaktor: Erklärung, Anwendung und Bedeutung

Der Spamfaktor ist eine Kennzahl zwischen 0,0 und 1,0, mit der erkannt wird, wie wahrscheinlich ein Beitrag Spam oder schädliche Inhalte enthält. Das System basiert auf der OpenAI‑Moderations‑API, die Texte und Bilder auf problematische Kategorien wie sexuelle Inhalte, Belästigung, Hass, illegale Inhalte, Selbstverletzung und Gewalt untersuchtcookbook.openai.com. Solche Kategorien werden automatisch erkannt, um Spam und irreführende Inhalte zu filterncookbook.openai.com.

Zur Einordnung nutzt das Projekt folgende Skala:

Spamfaktor bedeutung
0,00 – 0,20 Sehr wahrscheinlich legitimer Beitrag (kein Spam).
0,21 – 0,50 Leicht auffällig – vermutlich harmlose Werbung.
0,51 – 0,80 Deutlicher Verdacht auf Spam oder irreführende Inhalte.
0,81 – 1,00 Offensichtlicher Spam oder schädlicher Inhalt – Beitrag wird geblockt.

Die Wahl eines Schwellenwerts (z. B. 0,80) ist ein Abwägungsprozess zwischen Falsch‑Positiven (legitime Inhalte werden fälschlich blockiert) und Falsch‑Negativen (problematische Inhalte rutschen durch). Die OpenAI‑Dokumentation weist darauf hin, dass solche Schwellenwerte an die gewünschte Toleranz angepasst werden solltencookbook.openai.com. In diesem Projekt gilt: Liegt der Spamfaktor über 0,50, wird der Beitrag automatisch in den Entwurfsstatus versetzt, um Missbrauch zu verhindern.

✨ Anwendung des Shortcodes

Der Shortcode

Please log in.

prüft einen oder mehrere Beiträge und speichert den ermittelten Spamfaktor im Metafeld spam. Je nach Parameter verändert sich das Verhalten:

  • Letzter Beitrag des aktuellen Nutzers (Standard):

    [sdg_spam_check use_openai="1"]

     

    • Prüft den zuletzt erstellten commitment-Beitrag des eingeloggten Nutzers.

    • Wird der Spamfaktor ≤ 0,50, zeigt der Shortcode nach der Prüfung die positive Meldung
      „Deine Celebration wurde überprüft und ist jetzt auf der Celebration Map sichtbar“.

    • Ist der Spamfaktor > 0,50, wird der Beitrag als Entwurf gespeichert und die negative Meldung
      „Vielen Dank für deinen Beitrag. Wir werden ihn prüfen und dann freischalten.“ ausgegeben.

  • Bestimmten Beitrag prüfen (z. B. Post‑ID 445):

    [sdg_spam_check post_id="445" use_openai="1"]

     

    • Prüft nur diesen Beitrag und aktualisiert sein Metafeld spam.

    • Liegt der Spamfaktor über dem Schwellenwert, wird der Beitrag automatisch auf draft gesetzt.

  • Alle Beiträge prüfen (nur Beiträge, die der Nutzer bearbeiten darf):

    [sdg_spam_check post_id="all" use_openai="1"]

     

    • Prüft alle commitment‑Beiträge, aktualisiert die Spamfaktoren und setzt Beiträge mit zu hohem Wert auf draft.

    • Gibt eine zusammenfassende Rückmeldung aus („Spam check completed on N post(s).“).

Nach der Prüfung wird der Spamfaktor in der Administrationsliste in einer eigenen Spalte angezeigt. Somit können Administratoren auf einen Blick erkennen, welche Beiträge unbedenklich sind und welche in den Entwurfsmodus versetzt wurden.