GuíasIA y agentes
Moderar contenidos con IA: reseñas, comentarios, anuncios
Los tres resultados
- 1PublicadoConforme a las reglas, sin duda posible.
- 2A revisarIronía, caso límite, duda: decide una persona.
- 3RechazadoInfracción clara, motivo registrado, autor informado.
Las reglas, por escrito
| Categoría | Ejemplo |
|---|---|
| Insultos, acoso | Ataque a una persona |
| Datos personales | Teléfono o dirección de un tercero |
| Spam, publicidad | Enlace a otra tienda |
| Fuera de tema | Reseña que no habla del producto |
El modelo recibe estas reglas y devuelve, para cada contenido, una categoría, un resultado y una frase de justificación.
Ajustar los umbrales
Estricto
Flexible
El seguimiento
- Una muestra de decisiones automáticas revisada cada semana.
- Los recursos contados: una tasa que sube señala una regla mal escrita.
- Las reglas versionadas, para saber qué versión decidió.
Para las salidas estructuradas: JSON fiable de un LLM. El marco legal: IA, RGPD y AI Act.
Preguntas frecuentes
- ¿Puede la IA rechazar sola?
- Para los casos evidentes (insultos, spam, datos personales), sí, con un motivo registrado. Los casos dudosos siguen siendo humanos.
- ¿Hay que informar al autor?
- Sí. Explicar por qué se rechaza un contenido y cómo recurrir evita frustraciones. En Europa, el Reglamento de Servicios Digitales (DSA) va en ese sentido para los prestadores de alojamiento.
- ¿Se rechazan las reseñas negativas?
- No. Una reseña negativa pero respetuosa se publica. Filtrarla falsea las reseñas y puede ser ilegal.