Sistema automatizado de detección de correos electrónicos spam

💌 Sistema automatizado de detección de emails spam 📧

Tu empresa desea proteger a los usuarios de emails no deseados (spam).
Para esto, se ha decidido construir un sistema automático que identifique
los emails spam y los separe de los legítimos (nonspam).

Has recibido un conjunto de emails etiquetados y debes construir un modelo
que pueda clasificar emails nuevos.

Se han puesto a tu disposición dos archivos:

• train.csv - emails históricos con la etiqueta label (spam = 1 / nonspam = 0)
• test.csv - emails nuevos, sin etiqueta

Objetivo principal: predicción de la probabilidad de que un email sea spam (valor entre 0 y 1, donde 0 = nonspam seguro, 1 = spam seguro).

📊 Conjunto de datos

Cada fila representa un email, con los siguientes atributos:

• sample_id - identificador único
• text - contenido del email
• label - solo en train.csv, 1 (spam)/ 0 (nonspam)

Objetivo final: predecir label para las filas de test.csv.

📝 Tareas

Las primeras dos subtareas verifican el análisis simple de los emails.
La última subtarea evalúa el modelo de clasificación.

Subtarea 1 (10 puntos)

Determina la longitud de cada email como número de caracteres.

Muestra para esta subtarea un número entero.

Subtarea 2 (15 puntos)

Cuenta cuántas apariciones de la palabra free existen en el email.

Subtarea 3 (75 puntos)

Construye un modelo de clasificación que prediga la probabilidad de que un email sea spam (p ∈ [0,1]) para cada fila del test.

La evaluación se realiza usando curva ROC y AUC (Area Under the ROC Curve).

🧮 Evaluación

• AUC ≥ 0.95 → 75 puntos
• AUC ≤ 0.80 → 0 puntos
• El intervalo entre ellos: puntaje proporcional

Las subtareas 1–2 se evalúan exactamente (por comparación).

📄 Formato del archivo de envío

El archivo submission.csv debe contener 3 líneas para cada fila del test,
correspondientes a las 3 subtareas.

Estructura:

1subtaskID, datapointID, answer

donde:

• subtaskID - 1, 2 o 3
• datapointID - el valor sample_id
• answer - depende de la tarea:
  • Subtarea 1: longitud del email (número entero)
  • Subtarea 2: número de apariciones de la palabra free (número entero)
  • Subtarea 3: probabilidad de que el email sea spam (número real 0–1)

Ejemplo para sample_id = 00042:

1subtaskID,datapointID,answer21,00042,34232,00042,343,00042,0.742

📊 Métrica de evaluación: ROC AUC 📈

Para la Subtarea 3, la evaluación se realiza usando ROC AUC (Area Under the ROC Curve).
Esta es una medida única que sintetiza el rendimiento de un clasificador para todos los umbrales de decisión posibles.

¿Cómo se calcula ROC AUC?

1. Se traza la curva ROC, que representa:
   • TPR (True Positive Rate) - tasa correcta de aprobación de solicitudes aprobadas
   • FPR (False Positive Rate) - tasa de solicitudes rechazadas incorrectamente aprobadas

2. El área bajo la curva (AUC) se calcula usando la regla de los trapecios:
   • La curva se divide en trapecios usando las líneas verticales en los valores FPR y las líneas horizontales en los valores TPR
   • Se suman las áreas de los trapecios para obtener el valor final del AUC

3. Interpretación del puntaje:
   • ROC AUC = 1 🏆 → clasificador perfecto, todas las solicitudes se clasifican correctamente
   • ROC AUC = 0.5 🎲 → clasificador aleatorio, sin poder predictivo
   • 0.5 < ROC AUC < 1 📈 → qué tan bien el clasificador separa las clases