Asigna un coste real a cada tipo de error
Un umbral fijo de 0,85 asume que bloquear por error a un cliente legítimo cuesta lo mismo que dejar pasar fraude o spam comercial. En moderación real, una infracción no detectada suele costar mucho más que enviar un mensaje dudoso a una revisión manual de 30 segundos.
Ajusta el volumen mensual, el coste por falso positivo y negativo y la tarifa por hora del equipo para observar cómo varía el gasto operativo total al mover el umbral.
Guía de umbrales de confianza · Comparativa con OpenAI Moderation API
Reglas propias frente a taxonomías genéricas cerradas
Los filtros genéricos detectan daños universales pero pasan por alto reglas propias de tu negocio, como desvíos de pago fuera de plataforma o spam de revendedores. Combinar una pregunta noul con una elección de cola permite aplicar tu política escrita exacta.
| Rango de umbral | Efecto operativo | Carga de revisión | Caso recomendado |
|---|---|---|---|
| 0,70 – 0,79 | Alta automatización, mayor exposición en casos límite | Baja (8% – 15%) | Etiquetado interno de bajo riesgo |
| 0,80 – 0,89 | Equilibrio entre filtrado automático y revisión | Media (18% – 30%) | Comentarios UGC y soporte |
| 0,90 – 0,98 | Filtro estricto; toda duda pasa a una persona | Alta (32% – 55%) | Pagos, anuncios y cumplimiento |
Comprueba el umbral con tu propio conjunto etiquetado
Copia el comando curl generado arriba y evalúa entre 100 y 500 casos históricos ya resueltos por tu equipo. Con la recarga única de $29 dispones de 1.800 créditos sin suscripción para medir resultados reales antes de automatizar.
Probar en el área de pruebas · Ver recarga de $29 y plan Builder
Preguntas sobre el umbral de moderación
¿Qué ocurre si el modelo no devuelve puntuación de confianza?
Cuando confidence es null o inferior al umbral enviado, needsReview vuelve siempre como true para evitar decisiones automáticas silenciosas.
¿Esta calculadora garantiza una tasa exacta de acierto?
No. Es un modelo orientativo de costes; debes medir la precisión real sobre una muestra representativa de tus propios mensajes.
