Seguridad (security) · Demo: /demo/moderacion-contenido · Modo de acceso recomendado: publico (la evaluación con datos del prospecto va por solicitud) · Prioridad: P3 (la limpieza de afirmaciones no demostrables es P1) · Esfuerzo total: XL (Fases 1–2 ≈ 4 a 5 semanas de 1 dev senior)

Captura actual de /demo/moderacion-contenido. Ver Sistema de demos, Catálogo de productos y Roadmap.

Contexto de posicionamiento: con el reposicionamiento de Koptup en sistemas RAG (ver Visión de producto), este producto queda dentro de "Otras soluciones a medida". Su puente con el producto principal son los controles de seguridad del asistente RAG: revisar las preguntas y las respuestas del asistente (insultos, datos personales, temas fuera de alcance) antes de mostrarlas. Esa pieza se construye primero, dentro del chatbot RAG, y es la base técnica de este producto.

Problema: las plataformas con contenido de usuarios (marketplaces, clasificados, medios con comentarios, apps de citas, comunidades de juegos y plataformas educativas) reciben estafas, ofertas de empleo falsas, insultos, contenido sexual, reseñas falsas e intentos de sacar la venta de la plataforma ("escríbeme por fuera"). Revisarlo todo a mano no escala; los filtros globales no entienden la jerga colombiana ni las estafas típicas de la región.

Para quién (cliente ideal en Colombia/LATAM):

• Marketplaces, portales de clasificados y de empleo (estafas, pagos por fuera, avisos prohibidos, reseñas falsas).
• Medios digitales con comentarios abiertos.
• Plataformas educativas, de juegos y comunidades con menores de edad.
• Billeteras digitales y fintech con chats entre usuarios o nombres y descripciones visibles.
• BPO y centros de contacto que operan moderación para terceros (Colombia es un centro regional de esta actividad) y necesitan herramienta, métricas y cuidado del equipo.
• Empresas que ya tienen o evalúan un asistente RAG y necesitan controles de seguridad sobre lo que entra y sale.

Propuesta de valor: "Moderación con IA que entiende el español de Colombia y LATAM: clasifica texto e imágenes según tus políticas, resuelve sola lo evidente y envía a tu equipo solo lo dudoso, con explicación, apelaciones y reportes."

Diferenciación: políticas y ejemplos locales (estafas de empleo, "préstamos gota a gota", pagos por fuera de la plataforma, jerga regional), reglas por umbral que el cliente controla, revisión humana con bienestar del moderador, instalación en la nube del cliente (modalidad compra) y soporte en español.

1. Afirmaciones que no se pueden demostrar: la pestaña Clasificadores presenta modelos propios ("koptup-text-mod v3.4.1", "koptup-vision-mod", "koptup-video-mod", "koptup-audio-mod") con precisión, cobertura, rendimiento y fecha de entrenamiento (CLASSIFIER_STATS en mockData.ts). Koptup no tiene esos modelos. Igual con las métricas de "Métricas" y "Transparencia".
2. Distintivos de cumplimiento sin respaldo: "DSA EU", "COPPA", "GDPR", "LGPD Brasil", "Leyes locales" y "Audit-ready" (compliance en page.tsx y JSON). No hay nada que los soporte y no mencionan las normas colombianas (Ley 1581 de 2012, Ley 1098 de 2006, Ley 679 de 2001).
3. Caso de abuso sexual infantil en la cola de ejemplo: el ítem q-1047 dice que una imagen fue detectada por un detector de ese tipo de material y "reportada automáticamente" a una organización de EE. UU. (QUEUE_ITEMS). Es un tema que no debe aparecer como ejemplo en una demo pública y describe una integración que no existe.
4. Aprobar, rechazar y escalar hacen lo mismo: las tres acciones solo quitan el ítem de la cola (resolveItem en page.tsx); no piden motivo, no registran en Auditoría, no cambian métricas ni muestran confirmación. "Editar tag" no hace nada.
5. Las reglas no afectan la cola: el editor de WorkflowsTab.tsx cambia umbrales y acciones, pero la cola no cambia; la "vista previa de ítems afectados" es reglas activas × 1240. No se puede cambiar la categoría de una regla y toda regla nueva nace como "spam". "Guardar cambios" no hace nada.
6. Ejemplos sin contenido: la cola muestra descripciones ("Comentario con lenguaje discriminatorio…") en vez de ejemplos reales saneados; el comprador no ve qué detecta la IA ni por qué.
7. API con dominio y SDK inexistentes: el ejemplo usa api.koptup.ai (no es el dominio de Koptup) y paquetes @koptup/sdk y koptup que no existen (codeSamples en Atoms.tsx).
8. Botones sin acción: "Tomar pausa ahora" y "Check-in de salud mental" (banner de bienestar; "Próxima pausa: 00:12:30" es fijo), "Mantener decisión" y "Revertir decisión" en Apelaciones, "Exportar CSV" en Auditoría y "Descargar reporte completo" en Transparencia (ReportTabs.tsx).
9. Verticales de otro mercado: Social, Gaming, Dating, Kids, Finanzas, en inglés y sin marketplaces, clasificados, medios ni empleo, que son los compradores locales.
10. Jerga en inglés: "Accuracy (P/R)", "False positive rate", "Shadow ban", "Workflows", "score", "Audit-ready"; números con coma de miles ("38,412", "81,780").
11. Textos del catálogo (messages/offerings/moderacion-contenido.es.json): descripción de plantilla, voseo ("Filtrá", "Comprala", "pagá… por vos"), la viñeta "Reportes mensuales del tier" duplicada en Avanzado y triplicada en Enterprise; Enterprise promete "Cumplimiento DSA (UE) + COPPA". La tarjeta del catálogo de demos promete "Custom models por vertical" y "compliance DSA" (_catalog.es.json, clave demosExtra.moderation).

Lo que sí funciona y se conserva: la cola con prioridad, confianza y desenfoque por defecto; el panel de detalle (usuario, canal, antigüedad, faltas previas); el editor de reglas "Si categoría > umbral, entonces acción"; las apelaciones con tiempo de respuesta restante; la bitácora con filtros; el banner de bienestar del moderador (diferenciador real para BPO) y el diseño claro/oscuro.

• Quitar lo que no es cierto: modelos propios, métricas presentadas como reales, distintivos de cumplimiento, integración de reporte inexistente, dominio y SDK de la API.
• Ejemplos locales y saneados que muestren el valor: pagos por fuera, estafas de empleo, préstamos ilegales, reseñas falsas, insultos con jerga regional, contacto de un adulto con un menor (sin contenido explícito).
• Explicación de cada decisión: fragmento resaltado + política que aplica + confianza.
• Que las reglas muevan la cola: el comprador quiere ver qué pasa si sube el umbral.
• Una prueba real y barata: "Prueba con tu texto" (un comentario) en la demo pública y "Evalúa con tus datos" (lote anonimizado) por solicitud, con informe de precisión.
• Precio entendible: "ítems moderados al mes" está bien, pero falta decir cuántos moderadores incluye la consola y qué tipos de contenido (texto, imagen, audio, video) entran en cada plan.

1. Hero: "Protege tu comunidad y tu marca con moderación que entiende el español de Colombia y LATAM". Subtítulo: "La IA resuelve lo evidente, tu equipo decide lo dudoso y tú controlas las reglas". CTA Solicitar demo, secundarios Probar la demo y Agendar llamada.
2. "Prueba con tu texto" en la misma landing: el visitante pega un comentario (hasta 500 caracteres) y ve categoría, confianza, fragmento resaltado y acción sugerida.
3. Video de 60–90 s: llega un aviso con "págame por fuera" → la IA oculta el teléfono y advierte al vendedor → un comentario dudoso va a la cola → el moderador decide con la explicación a la vista → el informe mensual muestra el tiempo ahorrado.
4. Casos por tipo de plataforma (tarjetas): marketplaces y clasificados, medios digitales, plataformas con menores, fintech y billeteras, BPO de moderación, controles del asistente RAG.
5. IA + humanos: umbrales, cola con prioridad, apelaciones, bitácora y cuidado del equipo (pausas, desenfoque por defecto, rotación de categorías).
6. Datos y cumplimiento: dónde se procesa el contenido, retención, Ley 1581 (datos personales), protocolo de protección de menores con escalamiento a las autoridades y a la línea de reporte Te Protejo, apoyo para documentar las políticas de la plataforma. Redactado como "te ayudamos a cumplir", nunca como certificación.
7. Planes y precios (compra; SaaS "lista de espera") y FAQ: ¿qué tan precisa es? (se mide con tus datos antes de comprometer cifras) · ¿puedo usar mis propias políticas? · ¿qué pasa con las imágenes? · ¿dónde quedan los datos? · ¿reemplaza a mi equipo? (no; reduce el volumen que revisa) · ¿cuánto cuesta la IA por ítem?
8. Bloque cruzado: Sistemas RAG ("controles de seguridad para tu asistente"), Helpdesk con IA y E-commerce (reseñas y vendedores).

Datos de ejemplo (marketplace ficticio "Mercado Vecino" y medio ficticio "Diario La Ceiba"; verificar que los nombres no correspondan a plataformas existentes). Los textos son saneados: los insultos y datos de contacto se muestran enmascarados.

Recorrido guiado (5 pasos):

flowchart LR
    A["1. Elige Marketplace"] --> B["2. Abre el caso de pago por fuera y mira el por que"]
    B --> C["3. Decide y miralo en Auditoria"]
    C --> D["4. Sube un umbral y mira el simulador"]
    D --> E["5. Prueba con tu texto"]
    E --> F["CTA: Evalua con tus datos"]

Ver diagrama como imagen

1. Elegir "Marketplace y clasificados" (preseleccionado).
2. Abrir el caso "pago por fuera": ver el fragmento resaltado, la política y la confianza.
3. Aplicar "Ocultar teléfono y advertir" y verlo en Auditoría con el motivo.
4. En Reglas, subir el umbral de "Estafa" de 0,85 a 0,95 y ver en el simulador cuántos casos más irían a revisión humana.
5. Pegar un comentario propio en "Prueba con tu texto". Cierre: "¿Quieres medir la precisión con tus datos? Evalúa con tus datos" (abre "Solicitar demo") o "Agendar llamada".

Eventos de uso (DemoEvent): module_view por pestaña y tipo de plataforma; key_action = open_case, decide_case, change_threshold, try_text, export_audit; cta_click.

• Modo recomendado: publico. La maqueta saneada no tiene costo, el tema tiene búsquedas en la región ("moderación de contenido", "moderación de comentarios") y el comprador técnico quiere explorar solo. Se muestra el banner "Solicita tu demo guiada". Antes de publicar se hace la tarea 1 (quitar afirmaciones y el caso q-1047).
• "Prueba con tu texto" en la demo pública: con captcha Turnstile, límite por IP y por día, tope de gasto mensual común de las demos con IA y sin guardar el texto (solo la categoría y la fecha para métricas). Avisar: "No pegues datos personales".
• Lo que pasa por solicitud: la evaluación con tus datos. El prospecto sube un lote anonimizado (hasta 1.000 textos en CSV) con su etiqueta esperada; recibe un informe de precisión por categoría y la propuesta de reglas. Se borra a los 14 días.
• Duración del acceso: 14 días.
• Antes de solicitar, el visitante ve: la landing con el video de 60–90 s, 6 capturas (cola con explicación, decisión y auditoría, simulador de reglas, prueba con tu texto, informe mensual, bienestar del equipo) y la demo pública.
• El prospecto aprobado ve: la demo con su logo, su tipo de plataforma y sus políticas; la carga del lote y el informe de la evaluación; y los botones "Solicitar propuesta" y "Agendar llamada".

Desde Admin › Solicitudes de demo › Aprobar (DemoGrant.customization: logoUrl, sector, datasetKey, más estos campos):

En Admin › Catálogo de demos se administran el modo de acceso, el video, las capturas y el tope de uso de "Prueba con tu texto".

MVP para la modalidad compra (Básico y Profesional):

SaaS: sin base real, así que "SaaS: lista de espera" (DECISIÓN 7). Es un producto con forma natural de API (cobro por ítem), pero necesita el core multi-tenant y el cobro recurrente de la Fase 4 (Wompi/PayU en COP, Stripe en USD), medición de ítems por cliente, latencia garantizada, políticas de retención por cliente y acuerdo de encargo de tratamiento. Ruta recomendada: primero los controles de seguridad del asistente RAG como parte del SaaS del chatbot (Fase 4), y con esa base, una API de moderación por suscripción.

Precios actuales del catálogo (apps/web/src/lib/services-catalog.ts, entrada moderacion-contenido), en COP:

USD de referencia (TRM 3.300, "Otras soluciones a medida"): setup de compra ≈ USD 13.940 / 35.450 / 82.730 / 177.270; SaaS ≈ USD 480 / 1.150 / 2.150 / 3.910 al mes. Ciclos SaaS: semestral −10 %, anual −20 %.

Qué incluye cada plan, en lenguaje de cliente:

• Básico: "Moderación de textos con tus políticas, consola de revisión para 3 moderadores y API para conectar tu plataforma".
• Profesional: "Textos e imágenes, cola de revisión con prioridades, conexión con tu CMS o CRM y alertas a tu equipo".
• Avanzado: "Audio y video, reglas por canal, flujo completo de apelaciones y métricas por categoría".
• Enterprise: "Modelos ajustados con tus datos, operación con un BPO, cumplimiento de normas internacionales si operas fuera de Colombia y equipo asignado".

Recomendaciones de claridad:

1. Decir qué tipos de contenido entra en cada plan (texto / + imagen / + audio y video) en la primera línea de la tarjeta, y cuántos moderadores incluye la consola (los "usuarios admin" de hoy: 3 / 20 / 60 / ilimitados).
2. Precio por ítem adicional sobre el tope del plan (como el RAG: "pregunta adicional sobre el tope"), a definir por el dueño.
3. Corregir la incoherencia compra vs. SaaS: el mantenimiento de compra ($4.200.000 en Básico) es 2,6 veces la cuota SaaS ($1.590.000) y el primer año de compra con mantenimiento ($96.400.000) cuesta más de 4 veces el primer año SaaS ($21.980.000). Con el SaaS en lista de espera, el cliente solo ve la opción cara.
4. Ofrecer la evaluación como entrada: "Evaluación con tus datos" gratuita (1.000 textos) y un "Piloto de moderación" pagado de 2 a 4 semanas sobre un canal, descontable si contrata. Precio a definir por el dueño (referencia: Piloto RAG COP 3.900.000).
5. Corregir moderacion-contenido.{es,en}.json: propuesta de valor, sin voseo, sin viñetas repetidas, "Cumplimiento DSA (UE) + COPPA" solo en Enterprise y con la palabra "apoyo", traducir "Trust & Safety workflow", "BPO/outsourcing handoff", "Custom ML".
6. Ajustar la tarjeta demosExtra.moderation de _catalog.{es,en}.json: sin "Custom models por vertical" ni "compliance DSA" hasta que existan.

Páginas relacionadas: Sistemas RAG, Helpdesk con IA, E-commerce, Seguridad y calidad, Landing de producto, Panel de administración.