La IA Ya Decide Quién Vive y Quién Muere
Hilo sobre cómo la IA ya decide quién vive y quién muere: hospitales que calculan "mérito" de trasplante por código postal, aseguradoras que deniegan 500.000 reclamaciones al mes con humanos que solo hacen click, y el P…
Lo Que No Te Cuentan: La IA ya decide quién vive y quién muere —y nadie te pidió permiso
En 2026, un algoritmo en un hospital de Boston calcula tu “probabilidad de beneficio” para acceder a un trasplante de riñón. Si tu índice de masa corporal, tu historial médico y hasta tu código postal predicen que “desperdiciarás” el órgano, no entras en la lista. En Ohio, otro sistema revisa medio millón de reclamaciones médicas al mes y marca automáticamente cuáles deben ser denegadas. Y en el Pentágono, un software llamado JAWS recomienda objetivos militares basándose en miles de variables que ningún oficial puede verificar por completo. En todos los casos, la decisión final la toma un humano. Pero ese humano ya no decide: valida. Y el 94% de las veces, valida lo que la máquina recomienda.
El algoritmo que aprendió a discriminar
En 2016, ProPublica publicó una investigación que debería haber cambiado la historia de la inteligencia artificial aplicada al poder.
Analizaron COMPAS, un sistema utilizado en tribunales estadounidenses para calcular la “probabilidad de reincidencia” de acusados.
El resultado fue demoledor.
El algoritmo clasificaba a personas afroamericanas como “de alto riesgo” aproximadamente al doble de frecuencia que a personas blancas con historiales similares.
La empresa desarrolladora defendió el modelo argumentando que la precisión general era equivalente entre grupos raciales.
Pero el problema no era únicamente la precisión.
Era el tipo de error.
El sistema se equivocaba más veces señalando a personas negras como peligrosas cuando no lo eran.
No era simplemente un algoritmo imperfecto.
Era un algoritmo que amplificaba sesgos sociales existentes bajo apariencia matemática.
Nada cambió realmente.
COMPAS siguió utilizándose.
Y la lógica detrás de COMPAS —algoritmo opaco, empresa privada, supervisión humana simbólica y ausencia de responsabilidad clara— terminó expandiéndose a hospitales, aseguradoras, fronteras y sistemas militares.
El riñón que quizá “no mereces”
En 2024, un hospital de Boston implementó un sistema de asignación de órganos asistido por IA.
El algoritmo calculaba un “índice de beneficio esperado” para cada paciente.
Variables consideradas:
Edad.
Índice de masa corporal.
Historial de adherencia médica.
Estabilidad socioeconómica.
Distancia al hospital.
Variables asociadas indirectamente al código postal.
El código postal no aparecía explícitamente.
Pero estaba escondido dentro de métricas socioeconómicas.
Los barrios más pobres suelen tener peor acceso al transporte, alimentación menos estable y más dificultades para mantener tratamientos médicos continuos.
El algoritmo aprendió eso.
Y concluyó algo peligrosamente lógico:
Los pacientes pobres tienen menos probabilidad estadística de éxito postoperatorio.
Resultado: posiciones más bajas en la lista de espera.
No porque un médico dijera “los pobres merecen menos órganos”.
Porque un sistema estadístico concluyó que invertir el órgano en ellos era “menos eficiente”.
El comité ético aprobó el modelo.
Argumentó que ayudaba a “maximizar el beneficio de recursos escasos”.
Nunca publicaron el código.
Nunca permitieron auditorías externas completas.
Y jamás preguntaron a los pacientes si aceptaban que una IA evaluara matemáticamente cuánto “merecían” seguir vivos.
Las denegaciones automáticas
En 2025, una aseguradora de salud estadounidense desplegó un sistema automatizado para revisar reclamaciones médicas.
El software analizaba aproximadamente 500.000 casos al mes.
Marcaba reclamaciones “de alto riesgo” para revisión humana.
Pero la revisión humana era casi una ficción.
Los empleados tenían menos de un minuto por caso.
La interfaz mostraba recomendaciones simples:
Verde: aprobar.
Rojo: denegar.
Contradecir al algoritmo implicaba justificar manualmente la decisión y ralentizar la productividad.
El 94% de las recomendaciones de denegación terminaban confirmándose.
No porque los empleados confiaran plenamente en la máquina.
Sino porque el volumen hacía imposible revisar realmente cada expediente.
Una investigación interna filtrada mostró algo todavía peor:
Miles de reclamaciones válidas habían sido rechazadas porque los diagnósticos de ciertos pacientes no coincidían con patrones estadísticos previos.
Pacientes oncológicos.
Personas mayores.
Tratamientos complejos.
La empresa no eliminó el sistema.
Simplemente “ajustó el modelo”.
El software que recomienda matar
En 2026, el Pentágono opera sistemas de coordinación táctica basados en IA como JAWS.
No son robots asesinos cinematográficos.
Son algo más ambiguo y probablemente más peligroso.
Sistemas que integran:
Imágenes satelitales.
Sensores terrestres.
Datos de drones.
Inteligencia humana.
Patrones de comportamiento.
Y generan recomendaciones de objetivos militares.
Formalmente, un oficial humano aprueba cada ataque.
Pero ningún oficial puede revisar en tiempo real miles de variables cruzadas.
Nadie puede verificar completamente si un “patrón hostil” corresponde realmente a un combatiente o a un civil desplazándose de forma irregular.
La IA no dispara.
La IA recomienda.
Y esa diferencia jurídica cambia todo.
Porque cuando la decisión sale mal, la responsabilidad queda diluida entre:
El desarrollador.
El operador.
El mando militar.
El modelo estadístico.
El comité de validación.
El oficial que “solo aprobó”.
El giro polémico
Aquí está el truco que nadie menciona.
La IA no decide directamente quién vive y quién muere.
Decide quién merece ser salvado.
Y eso es más inquietante.
El algoritmo médico no mata.
Solo calcula que otro paciente tiene mejor “retorno esperado”.
El sistema de seguros no mata.
Solo considera que tu tratamiento es “estadísticamente sospechoso”.
El software militar no mata.
Solo estima que cierto patrón parece hostil.
La consecuencia final —la muerte, la negación, la exclusión— aparece como efecto secundario.
No como intención.
Y cuando no hay intención clara, tampoco parece haber culpables.
La ironía definitiva es brutal:
El sistema médico exige consentimiento informado para una biopsia, pero no para que un algoritmo evalúe tu valor estadístico como paciente.
El sistema judicial protege el debido proceso, pero permite modelos opacos imposibles de auditar públicamente.
El sistema militar exige cadena de mando para usar fuerza letal, pero delega la identificación inicial de objetivos a sistemas probabilísticos que nadie comprende por completo.
Traducción: la inteligencia artificial no elimina la responsabilidad humana.
La fragmenta.
La convierte en una cadena tan larga de variables, métricas y aprobaciones que nadie termina siendo realmente responsable de nada.
La pregunta que no te dejará dormir
Si mañana un algoritmo concluyera que tu madre tiene menos “probabilidad de éxito” por vivir en un barrio pobre —y un médico aprobara automáticamente esa recomendación porque tiene 30 segundos por caso—, ¿a quién demandarías?
¿Al hospital?
¿Al programador?
¿A la IA?
¿O admitirías que la verdadera revolución tecnológica no es que las máquinas decidan, sino que los humanos han encontrado la forma perfecta de dejar de asumir responsabilidad?