Escribe la política primero
Define las conductas prohibidas, las excepciones y cuándo falta contexto. Evita instrucciones vagas como detectar contenido malo. Una cita, una denuncia o la sátira pueden cambiar el significado de una frase.
Utiliza tres resultados
Permitir corresponde a texto claramente aceptable; revisar, a ambigüedad; bloquear, a infracciones claras respaldadas por la política y la evaluación. El umbral de confianza añade otra condición de revisión.
Este flujo acepta texto. No sirve como sistema de moderación de imágenes, audio o vídeo.
Contrato de solicitud · API de moderación de OpenAI vs reglas propias
Audita ambos tipos de error
Los falsos positivos silencian a usuarios legítimos; los falsos negativos pueden dañar a otros. Evalúa ambos, compara idiomas y ofrece apelaciones. Una puntuación del modelo no es una conclusión legal ni una certeza.