Véliz advierte en TED 2026 que las predicciones algorítmicas pueden convertirse en veredictos autorreforzantes.

• Tecnologia
• 30-05-2026

"Todos los modelos son erróneos, pero algunos son útiles", dijo George E. P. Box en 1976; esa máxima sirvió de introducción para la intervención que más llamó la atención en TED 2026 en Vancouver. Carissa Véliz, profesora en el Instituto de Ética en IA de la Universidad de Oxford, asesora de los gobiernos del Reino Unido y España y autora del bestseller Privacy Is Power, presentó su nuevo libro, Prophecy, que se agotó en la librería del evento en pocas horas luego de su charla “Cuidado con el poder de la predicción”. En su exposición sostuvo que los algoritmos no solo anticipan, sino que muchas veces fabrican el futuro que anuncian.

Lo que en verdad sostiene a la IA

Su argumento central fue que las predicciones suelen adoptar la forma del conocimiento, pero no lo son. En muchos casos, son una forma de poder que se disfraza de diagnóstico. Véliz planteó la pregunta fundamental: ¿qué le hace al mundo el hecho de que existan esas predicciones? Recordó que una predicción no actúa como un espejo neutro de la realidad, sino como una intervención sobre ella. Si un algoritmo determina que cierto candidato tiene baja probabilidad de éxito, eso puede transformarse en un veredicto aceptado sin discusión. Si un sistema de crédito predice que una persona no pagará, esa persona no obtiene el préstamo y la predicción se cumple, no por inevitabilidad, sino por la propia dinámica generada por la predicción. “Los algoritmos emiten veredictos sobre quiénes somos antes de que hayamos tenido la oportunidad de demostrarlo nosotros mismos”, dijo Véliz en Vancouver. La filósofa no se limitó al diagnóstico y propuso tres movimientos para quienes quieran recuperar agencia en la era de la predicción automatizada. El primero: anclar la mente al presente. En lugar de vivir hipnotizados por escenarios futuros, desarrollar el juicio sobre lo que está pasando ahora. La intuición entrenada, la lectura del contexto, la capacidad de leer una sala, esas son habilidades que ningún modelo puede reemplazar, precisamente porque requieren estar presente.

El segundo, prepararse en lugar de predecir. Predecir es buscar el futuro “correcto” y apostarle. Prepararse es decidir qué futuro queremos y trabajar para construirlo, “no en términos de conocimiento, sino de creatividad”, dijo. Así, el planeamiento por escenarios deja de ser un mero ejercicio de pronóstico para convertirse en una práctica de diseño deliberado.

Y el tercero es aumentar la serendipia deliberadamente. Cuanto más delegamos en los algoritmos lo que vemos, con quién hablamos y qué consumimos, más estrecho se vuelve el mundo que habitamos. La curiosidad desordenada, los encuentros imprevistos, las conversaciones con desconocidos: todo eso que la eficiencia de la IA tiende a eliminar es la fuente de las ideas más originales.

La apuesta de Véliz es que la ventaja competitiva del futuro no estará en quien tenga el mejor oráculo, sino en quien conserve la capacidad de sorprenderse. Cuando el mundo promete predecirlo todo, cultivar la incertidumbre puede ser el acto más inteligente que nos queda.

Análisis y proyecciones

Las preocupaciones expuestas por Véliz conectan con teorías bien establecidas: la idea de la profecía auto-cumplida, los bucles de realimentación que consolidan sesgos y las dinámicas de gobernanza algorítmica descritas por expertos en ética tecnológica durante la última década. Hasta octubre de 2023, estudios y debates mostraban que las predicciones automatizadas tienden a reforzar desigualdades cuando se implementan sin contrapesos; además, la opacidad de muchos modelos crea dificultades para la rendición de cuentas. En términos prácticos, si las organizaciones adoptan predicciones como decisiones finales, se generan riesgos de estancamiento social y pérdida de oportunidades individuales. Como medidas plausibles, expertos han propuesto auditorías algorítmicas, marcos de transparencia, mecanismos de apelación y prácticas de "human-in-the-loop" que permitan revertir veredictos automatizados. Si esas y otras políticas se adoptan con rigor, es posible mitigar los efectos autorreforzantes; si no, la tendencia será hacia sistemas que encorsetan opciones y reducen la diversidad de trayectorias sociales y económicas.

Evolución del debate y de los actores hasta 2023

En los años previos a 2023 el debate sobre IA y predicción pasó de la fascinación inicial por la eficiencia a una preocupación más matizada por equidad, transparencia y control. Investigadores y defensores de derechos digitales como Cathy O'Neil y Frank Pasquale pusieron en el centro los costes sociales de las "cajas negras" algorítmicas; reguladores y parlamentos en varias jurisdicciones comenzaron a exigir mayor supervisión y evaluaciones de impacto. Las grandes empresas tecnológicas, que primero impulsaron despliegues masivos de modelos predictivos, fueron empujadas a incorporar equipos de ética y a financiar investigaciones sobre mitigación de sesgos, aunque con resultados mixtos. Los gobiernos, por su parte, oscilaban entre promover innovación y establecer límites: algunos avanzaron hacia regulaciones específicas sobre algoritmos en áreas sensibles, mientras que otros priorizaron enfoques voluntarios. Ese cambio de tono —de la promesa implacable de la predicción a la atención sobre sus efectos sociales— es el contexto desde el cual Véliz articula su advertencia y sus propuestas.

Conclusión

La charla de Véliz en Vancouver recupera y sintetiza preocupaciones que vienen ganando espacio desde mediados de la década de 2010: las predicciones no son neutrales y pueden constituir formas de poder. Sus tres propuestas —anclar la atención al presente, priorizar la preparación creativa y fomentar la serendipia— buscan restituir margen de maniobra en un entorno donde la eficiencia algorítmica tiende a estrechar opciones. Aun cuando algunas soluciones técnicas y regulatorias se han discutido y probado hasta 2023, la discusión pública y las decisiones institucionales seguirán siendo determinantes para decidir si la predicción se convierte en un instrumento de control o en una herramienta sometida a la deliberación democrática.