2030: La Matrix que sí puede ocurrir
EL AÑO ES 2030. En una sala sin ventanas, miles de servidores procesan contratos, sentencias y decisiones financieras en décimas de segundo. No hay pantallas verdes ni agentes con gafas de sol. Hay algo mucho más inquietante: sistemas de inteligencia artificial interconectados tomando decisiones que afectan a millones de personas mientras los responsables aprueban alertas sin haber leído el expediente completo.
No es la Matrix de Hollywood. Es la dirección real en la que nos movemos si el Derecho, la política y los profesionales no actúan con la misma velocidad que la tecnología.
I.-EL MODELO QUE FALLA. MIKEL KROGERUS y ROMAN TSCHÄPPELER, autores de «El libro de los modelos», advierten que los sistemas complejos colapsan cuando nadie comprende el conjunto. Su modelo de rendimiento personal propone que el ser humano rinde al máximo combinando lo que sabe hacer, lo que le apasiona y lo que el entorno necesita.
La IA ha entrado en ese triángulo con una ventaja aplastante: no se cansa, no cobra y el entorno la demanda cada vez más.
El problema central es que no tiene criterio propio ni responde ante ningún tribunal. Esa asimetría define el núcleo del problema.
II.-LOS RIESGOS PRESENTES. No hace falta esperar a 2030. Hoy existen decisiones de crédito automatizadas que discriminan sin que nadie lo haya programado explícitamente, algoritmos de contratación que reproducen sesgos históricos y sistemas de vigilancia que procesan datos personales sin consentimiento real. La diferencia entre hoy y 2030 es de escala y velocidad.
En el momento que los agentes de IA se comuniquen entre sí más rápido de lo que un humano puede leer una pantalla, la supervisión efectiva será imposible sin marcos legales radicalmente más ágiles y herramientas técnicas de auditoría.
III.-LO QUE DICE EL DERECHO. La LOPD, el RGPD y el AI Act europeo construyen una respuesta ambiciosa: transparencia, trazabilidad, supervisión humana real y responsabilidad identificable. El artículo 22 del RGPD reconoce el derecho a no ser objeto de decisiones exclusivamente automatizadas.
La ONU aprobó en 2024 su primera resolución global sobre IA segura. Son avances reales. Pero el Derecho trabaja en años y la tecnología en meses. En 2030, cuando los sistemas sean diez veces más complejos, una norma bien redactada no será suficiente sin voluntad política y recursos de inspección.
La situación y mi criterio al igual que en Matrix, NEO eligió entre la píldora roja y la azul. Nuestra elección es menos dramática pero igual de real: seguir pensando o delegar también eso. Si el entorno premia la velocidad de la máquina sobre la reflexión humana, el profesional que piensa despacio pierde terreno frente al que valida rápido.
Ese incentivo perverso erosiona el criterio sin que nadie lo decida formalmente. La primera línea de defensa no es la norma: es el abogado, el médico o el gestor que lee antes de firmar y recuerda que la responsabilidad no se subcontrata a un algoritmo.
PD. Si algún lector no ha visto Matrix, baste decir que es una historia sobre una humanidad que vive atrapada en una realidad artificial sin saberlo. Lo que en 1999 parecía ciencia ficción, hoy se asemeja inquietantemente a algunos de los debates planteados por la inteligencia artificial.
