Konzepte
Stufen und Schwellen
Das Modell vergibt einen Score von 0 bis 1. Die Stufe im Feld level legt fest, ab welchem Score markiert und ab welchem geblockt wird.
Die drei Stufen
| level | markiert ab | blockt ab | Für |
|---|---|---|---|
| light | 0,70 | 0,90 | Für raue Gaming-Server. Markiert erst spät. |
| medium | 0,50 | 0,85 | Der Standard für die meisten Communities. |
| strict | 0,30 | 0,70 | Für junge oder sensible Communities. |
Ausprobieren
Schieb den Score und sieh, wie jede Stufe entscheiden würde.
| light | Erlauben |
| medium | Markieren |
| strict | Markieren |
Schweregrad
Unabhängig von der Stufe ordnet die API den Score in vier Bänder ein. So kannst du zum Beispiel nur Schweregrad 3 sofort entfernen und den Rest markieren.
| severity | Name | Score |
|---|---|---|
| 0 | Unbedenklich | 0,00 bis 0,30 |
| 1 | Leicht | 0,30 bis 0,60 |
| 2 | Mittel | 0,60 bis 0,85 |
| 3 | Schwer | 0,85 bis 1,00 |
Welche Stufe?
- light für raue Gaming-Server, in denen Trash-Talk dazugehört. Markiert spät, blockt nur Eindeutiges.
- medium als Standard für die meisten Communities.
- strict für junge oder sensible Communities. Rechne mit mehr markierten Zeilen.
Du kannst die Stufe pro Anfrage wechseln, etwa strenger in einem Kinderkanal als im Hauptchat. Wie gut Modelle bei verschiedenen Schwellen abschneiden, zeigt AxoBench.
Preview. Der Chat-OP von axo-medium-preview-2 liegt bei Schwelle 0,30 und entspricht strict. medium (0,50) und light (0,70) bleiben lockerer. Fehlalarme können höher liegen als beim bisherigen axo-medium.