API-Referenz
Antwortformat
Jede Prüfung liefert dasselbe Objekt, einzeln bei /v1/check und als Liste bei /v1/checks.
{
"toxic": true,
"score": 0.71,
"severity": 2,
"action": "flag",
"rule": null,
"categories": {},
"model": "axo-small",
"lang": "de",
"self_harm": false
}Felder
| Feld | Typ | Bedeutung |
|---|---|---|
| toxic | boolean | true, sobald der Score die Markier-Schwelle der gewählten Stufe erreicht. |
| score | number | Kalibrierter Score von 0 bis 1, auf sechs Stellen gerundet. Höher heißt toxischer. |
| severity | 0 – 3 | Schweregrad als grobes Band des Scores. Hängt nicht von der Stufe ab. Beta. |
| action | string | allow, flag oder block. Die Empfehlung für deine Stufe und deine Regeln. |
| rule | string | null | allow oder block, wenn eine deiner Regeln gegriffen hat, sonst null. |
| categories | object | Heute immer leer. Kategorien wie Hass oder Drohung kommen mit späteren Modellen. |
| model | string | Das Modell, das geantwortet hat. |
| lang | string | Sprache des Modells, heute de. |
| self_harm | boolean | Zusatzfeld. Heute immer false. |
action
| Wert | Bedeutung |
|---|---|
| allow | Score unter der Markier-Schwelle. Durchlassen. |
| flag | Score zwischen Markier- und Block-Schwelle. Zur Prüfung vorlegen oder verbergen, bis jemand entscheidet. |
| block | Score ab der Block-Schwelle oder eine Sperr-Regel hat gegriffen. Nachricht entfernen. |
severity
Der Schweregrad ist ein Band des Scores und für alle Stufen gleich.
| Wert | Name | Score |
|---|---|---|
| 0 | Unbedenklich | 0,00 bis 0,30 |
| 1 | Leicht | 0,30 bis 0,60 |
| 2 | Mittel | 0,60 bis 0,85 |
| 3 | Schwer | 0,85 bis 1,00 |
Beta. Die Bänder sind grob gestuft und keine menschliche Einordnung. Für Entscheidungen nutze action oder den score.
Mit Regeln
Greift eine Sperr-Regel, lautet die Antwort immer action: "block", severity: 3, toxic: true und rule: "block". Bei Erlaubt-Regeln wird der Rest der Zeile normal bewertet und rule ist "allow". Details unter Eigene Regeln.