# Eje editorial · IA y sociedad

## Objetivo

Integrar la dimensión social de la inteligencia artificial sin separarla de la historia técnica que la hace posible. El libro no añadirá un capítulo moral al final: formulará, en los lugares donde nacen los datos, los modelos y las aplicaciones, tres preguntas recurrentes.

1. **¿Quién está representado y quién queda fuera?**
2. **¿Cómo sabemos de dónde vienen los datos y para qué pueden usarse?**
3. **¿Cuándo una capacidad técnica se convierte en poder institucional y responsabilidad legal?**

## Tres anclas documentales

### 2018 · Gender Shades

El estudio de Joy Buolamwini y Timnit Gebru midió disparidades interseccionales en sistemas comerciales de clasificación de género. Su función narrativa no es afirmar que todo reconocimiento facial falle de la misma manera, sino enseñar que un promedio agregado puede ocultar diferencias críticas entre grupos y que la evaluación también tiene una historia.

**Inserción sugerida:** capítulos de visión/IA y datos. Recurso visual: una matriz que muestre por qué desagregar resultados cambia la conclusión.

### 2018–2021 · Datasheets for Datasets

Gebru y sus coautores propusieron documentar motivación, composición, proceso de recogida, usos previstos, distribución y mantenimiento de los conjuntos de datos. Es el puente editorial entre la columna `DATA` y los capítulos de IA: los datos no son materia prima neutral ni aparecen sin decisiones humanas.

**Inserción sugerida:** capítulo de datos, con una ficha breve aplicada a uno de los conjuntos históricos del libro.

### 2024 · Reglamento europeo de IA

La entrada en vigor del Reglamento europeo de IA el 1 de agosto de 2024 marca el tránsito desde principios generales hacia obligaciones graduadas por usos y riesgos, con aplicación escalonada. Debe narrarse como historia institucional en curso, evitando resumir el régimen jurídico en una única fecha o presentarlo como plenamente aplicable desde el primer día.

**Inserción sugerida:** capítulos de IA aplicada, interfaces y robótica. Recurso visual: línea temporal normativa separada de la línea de hitos técnicos.

## Integración en la arquitectura del libro

| Lugar | Contrapunto | Pregunta para el lector |
|---|---|---|
| Datos | Procedencia, consentimiento, documentación y mantenimiento | ¿Qué decisiones se congelan en un conjunto de datos? |
| IA y visión | Métricas agregadas frente a desempeño desagregado | ¿Qué fallo desaparece cuando solo miramos el promedio? |
| Interfaces y redes | Distribución de capacidad, vigilancia y acceso | ¿Quién puede observar, decidir o recurrir? |
| Robótica y sistemas autónomos | Riesgo físico, supervisión y atribución | ¿Quién responde cuando el sistema actúa en el mundo? |
| Cierre | Regulación como infraestructura histórica | ¿Qué instituciones necesita una capacidad para ser socialmente gobernable? |

## Criterios de calidad

- Usar casos medidos y fuentes primarias; evitar listas genéricas de “riesgos de la IA”.
- Distinguir resultados empíricos, interpretación social, obligación jurídica e hipótesis editorial.
- Describir el alcance de cada estudio: tarea, sistemas, fecha y población evaluada.
- Revisar el estado de aplicación normativa antes de imprenta.
- Incorporar voces y disciplinas relevantes en el cuerpo del relato, no solo en recuadros laterales.
- No abrir una decimoséptima columna del grafo hasta diseñar el vocabulario de relaciones, el esquema de metadatos y la navegación correspondiente.

## Fuentes de partida

- Joy Buolamwini y Timnit Gebru, [“Gender Shades”](https://proceedings.mlr.press/v81/buolamwini18a.html), 2018.
- Timnit Gebru et al., [“Datasheets for Datasets”](https://www.microsoft.com/en-us/research/publication/datasheets-for-datasets/), 2021.
- Comisión Europea, [“AI Act enters into force”](https://commission.europa.eu/news-and-media/news/ai-act-enters-force-2024-08-01_en), 2024.