El proyecto Chat Control (oficialmente el Reglamento para prevenir y combatir los contenidos de abuso sexual infantil en línea, o Reglamento CSAM) es una iniciativa de la Unión Europea destinada a imponer a los servicios de mensajería (como WhatsApp, Signal, Telegram, iMessage o ProtonMail) la obligación de analizar automáticamente los contenidos intercambiados para detectar abusos sexuales a menores.
El dispositivo central se basa en el client-side scanning (CSS): los mensajes (textos, imágenes, vídeos) se analizan antes del cifrado, directamente en el dispositivo del usuario, y luego se comunican a las autoridades o plataformas correspondientes. Este mecanismo convierte cada terminal en un punto de control preventivo. El voto final del Consejo de la UE está previsto para el 14 de octubre de 2025 (TechRadar, European Crypto Initiative, Compliance Hub Wiki).
El contexto político y regulatorio
Propuesto inicialmente en 2022, el reglamento no había obtenido la mayoría cualificada. Ahora se relanza bajo la presidencia danesa del Consejo de la UE. La posición de los Estados miembros debe finalizarse antes del 12 de septiembre de 2025, con vistas a una posible votación el 14 de octubre (TechRadar, European Crypto Initiative).
Quince Estados miembros (entre ellos Francia, España e Italia) apoyan el texto, pero eso no representa (todavía) el 65 % de la población europea. Alemania sigue siendo decisiva e indecisa, junto a Estonia, Grecia, Luxemburgo, Rumanía y Eslovenia (TechRadar, Cointelegraph, euronews).
Una filtración reveló que el Parlamento Europeo habría amenazado con bloquear la extensión de un régimen de escaneo voluntario si el Consejo no aceptaba la versión obligatoria, denunciada como «chantaje político» (TechRadar).
Tecnología subyacente: el client-side scanning
El CSS elude el cifrado de extremo a extremo, no lo debilita técnicamente, pero opera antes del cifrado. Esta estrategia compromete los fundamentos de la seguridad digital. Los algoritmos empleados se apoyan en el hashing perceptual y el machine learning, pero presentan importantes límites: tasas de falsos positivos/falsas alertas, falsos negativos, errores de contexto.
El principal riesgo reside en la extensibilidad: una vez implantado, el código puede evolucionar progresivamente hacia la vigilancia de otros contenidos (políticos, religiosos, financieros...) sin debate democrático.
Apple como precursor discreto
Apple ya ha desplegado una práctica similar con su función Sensitive Content Warning, activable (opcionalmente) en macOS Sonoma o iOS 17 y posteriores (Mensajes, Fotos). Detecta las imágenes que contienen desnudez y las difumina localmente, sin que los datos se transmitan a Apple (Apple Support).
Esta medida constituye un caso concreto de CSS integrado a gran escala. El dispositivo personal se convierte en un punto de filtrado automatizado. Si hoy se aplica a la desnudez, técnicamente es posible extenderlo a otras categorías. Apple formaliza así una infraestructura lista para una vigilancia ampliada (OWC).
Paradojas y contradicciones
El objetivo declarado (proteger la infancia) es indiscutible, pero la lógica tecnológica transforma esa intención en una palanca de vigilancia puramente operativa. El sistema es extensible, introduce vulnerabilidades y debilita la seguridad digital. Actores malintencionados pueden explotar estos mecanismos, comprometer los sistemas, desviar los flujos de denuncia o introducir puertas traseras.
Capitalismo de vigilancia y control de las masas
Shoshana Zuboff, en The Age of Surveillance Capitalism, describe cómo los datos de comportamiento se extraen para transformarlos en herramientas de manipulación predictiva. Chat Control, aunque público y estatal, se inscribe en esta dinámica: denuncias automatizadas, bases de datos de comportamiento, uso privado o publicitario, evaluación de la credibilidad de las personas.
Perspectiva filosófica y sociopolítica
Michel Foucault presentaba el Panóptico como un modelo en el que la potencialidad de la vigilancia basta para disciplinar. Chat Control instaura un espacio digital en el que la amenaza percibida de vigilancia modifica los comportamientos, sin que intervenga necesariamente un ser humano.
David Lyon subraya que tales sistemas inducen una conformidad anticipada. Los ciudadanos ajustan sus acciones creyendo que son vigilados, reduciendo el espacio de la disidencia.
ChatGPT como ejemplo de filtrado algorítmico
El modelo ChatGPT ilustra ya esta lógica: está diseñado para bloquear o filtrar los contenidos peligrosos o ilegales y, en determinados entornos regulados, para transmitir alertas a las autoridades o plataformas cuando un contenido es manifiestamente ilícito.
Esto refleja el doble papel potencial de las tecnologías lingüísticas modernas: asistencia cognitiva y relevo técnico de una vigilancia automatizada.
Escenarios de deriva posibles
- Inversión de la presunción de inocencia: un falso positivo provoca una denuncia, imponiendo al usuario probar su inocencia.
- Extensión funcional: nuevos criterios de detección añadidos sin debates democráticos.
- Explotación malintencionada: piratería, corrupción de los sistemas, uso para vigilancia política o comercial.
- Debilitamiento del cifrado: diseño forzado de excepciones que debilitan la seguridad global.
Argumentos favorables, y sus límites
Los defensores del texto invocan la necesidad de una respuesta estructurada frente a la pedopornografía, la existencia de herramientas ya operativas (pero voluntarias) y el interés de detectar precozmente contenidos ilícitos.
Estos argumentos se apoyan, no obstante, en la confianza en un marco estricto de estas herramientas. Ahora bien, la historia de las tecnologías de vigilancia muestra que los mecanismos implantados a menudo se reutilizan, se amplían o incluso se institucionalizan fuera del marco inicial.
Cuestiones jurídicas y derechos fundamentales
El Tribunal Europeo de Derechos Humanos ya ha dictaminado que ciertos métodos de vigilancia masiva violaban el artículo 8 (derecho al respeto de la vida privada). La imposición de un «escaneo local» sin control judicial ni recursos efectivos cruza una línea roja.
El texto actual no prevé ni auditoría independiente, ni transparencia suficiente, ni restricciones temporales claras. Las garantías siguen siendo dispersas.
Evaluación crítica
- Método: intrusivo, desproporcionado.
- Objetivo: legítimo, socialmente urgente.
- Riesgo principal: vigilancia normalizada, extendida, duradera.
- Efectos sistémicos: debilitamiento del cifrado, inversión de principios jurídicos, pérdida de confianza digital, daños en términos de ciberseguridad.
Criptógrafos, juristas y defensores de los derechos digitales alertan sin descanso; lamentablemente, su mensaje apenas logra influir en el proceso legislativo (TechRadar).
La votación del 14 de octubre de 2025 es un momento decisivo para Europa. Deberá elegir: establecer una arquitectura de vigilancia preventiva sobre las comunicaciones privadas o preservar los principios fundamentales de confidencialidad y autonomía digital.
Apple ya ha iniciado la lógica técnica. ChatGPT constituye un ejemplo operativo. El verdadero envite es político y filosófico: ¿hasta qué punto acepta una democracia transformar cada terminal personal en un centinela del Estado?