Dignidad y algoritmo: ¿puede una máquina decidir sobre lo humano?

1. Cada vez con mayor frecuencia, decisiones que antes atribuíamos a una persona pasan por la mediación de un algoritmo. Un sistema puede ordenar candidatos para un empleo, calcular el riesgo de conceder un crédito, establecer prioridades, clasificar perfiles o recomendar qué personas merecen una inspección más cuidadosa. La pregunta inquietante no es ya si las máquinas pueden pensar como nosotros, sino algo quizá más importante: ¿hasta dónde podemos permitir que decidan sobre nosotros? La filosofía ofrece aquí una palabra que parece antigua frente al lenguaje de datos, modelos y probabilidades: dignidad. Desde Kant, afirmar que una persona posee dignidad significa reconocer que no tiene simplemente un precio y que, por tanto, no puede ser tratada únicamente como un medio para alcanzar determinados fines. Una persona no equivale a la información que tenemos sobre ella. Tampoco es idéntica a sus antecedentes, a sus patrones de consumo, a su historial médico o a la probabilidad estadística de que realice determinada conducta. El algoritmo, precisamente porque necesita traducir el mundo a variables susceptibles de cálculo, corre siempre el riesgo de olvidar aquello que no cabe en la operación: la singularidad de quien está siendo juzgado.

2. La filósofa Carissa Véliz ha planteado una objeción todavía más profunda. En su artículo Moral Zombies: Why Algorithms Are Not Moral Agents sostiene que los algoritmos no son agentes morales, pero pueden producir consecuencias moralmente significativas, aunque carecen de la comprensión moral necesaria para ser responsables de ellas. No experimentan dolor, humillación, miedo, esperanza ni injusticia; procesan representaciones de esas experiencias sin vivir ninguna. Esta diferencia resulta decisiva. Imaginemos que un sistema concluye que una persona representa un riesgo demasiado alto para recibir un beneficio, conservar un empleo o recuperar su libertad. Si la decisión resulta injusta, ¿a quién podemos pedirle que explique por qué ocurrió? La máquina no puede sentirse interpelada por nuestra reclamación. No puede arrepentirse ni reconocer que ha cometido una injusticia. Tampoco puede mirar a los ojos a quien perjudicó y asumir frente a él una responsabilidad. Por eso el verdadero peligro de hablar de “decisiones de la inteligencia artificial” consiste en desplazar silenciosamente la responsabilidad, pues detrás de todo algoritmo siguen existiendo personas e instituciones que eligieron diseñarlo, entrenarlo, utilizarlo y, sobre todo, concederle autoridad.

3. Hay además un segundo problema: para que el algoritmo pueda predecirnos necesita convertirnos en datos. Véliz ha insistido en Privacy Is Power y posteriormente en The Ethics of Privacy and Surveillance en que la privacidad no constituye simplemente el deseo individual de esconder algo, sino una condición relacionada con la libertad y con las relaciones de poder. Cuanto más sabe una institución sobre nosotros, mayor capacidad posee para anticipar, clasificar e incluso condicionar nuestra conducta. Aquí aparece una paradoja particularmente humana: empleamos algoritmos porque deseamos conocer anticipadamente qué hará una persona, pero la dignidad supone admitir precisamente que ninguna persona está condenada a repetir estadísticamente su pasado. Quien ayer incumplió puede cumplir mañana; quien pertenece a un grupo de riesgo puede no realizar jamás la conducta prevista; quien ha cometido un error puede transformarse. Una probabilidad describe una posibilidad, no una identidad. Cuando convertimos la predicción algorítmica en sentencia, dejamos de preguntarnos quién es alguien para preguntarnos a qué grupo estadístico se parece. Y en esa pequeña sustitución puede comenzar una forma profundamente contemporánea de deshumanización.

4. Esta preocupación no pertenece únicamente a la especulación filosófica. Investigadoras como Virginia Eubanks, Ruha Benjamin y Cathy O'Neil han mostrado cómo determinados sistemas automatizados pueden reproducir desigualdades existentes precisamente porque aprenden de sociedades que ya son desiguales. Eubanks estudió el empleo de herramientas automatizadas en programas sociales y sistemas dirigidos a poblaciones pobres; O'Neil popularizó la expresión Weapons of Math Destruction para describir modelos opacos capaces de amplificar desigualdades; y Benjamin ha analizado cómo tecnologías aparentemente neutrales pueden incorporar y reproducir jerarquías raciales. La lección común es importante: lo matemático no es necesariamente neutral. Un algoritmo trabaja con categorías, objetivos y datos seleccionados por seres humanos, dentro de instituciones que poseen su propia historia. Si una sociedad contiene prejuicios, exclusiones y desigualdades, digitalizar sus decisiones no elimina automáticamente esos defectos. Puede incluso hacerlos menos visibles, porque una decisión que antes parecía discutible adquiere ahora la apariencia incontestable de una cifra. La discriminación deja entonces de pronunciarse con una voz humana y comienza a presentarse como resultado técnico.

5. La filósofa Shannon Vallor ofrece una imagen especialmente sugerente para comprender este fenómeno. En The AI Mirror propone pensar la inteligencia artificial como un espejo construido a partir de productos de la inteligencia humana: nuestros textos, decisiones, imágenes, clasificaciones, deseos y también nuestros prejuicios. El peligro comienza cuando confundimos el reflejo con una inteligencia moral superior y terminamos otorgándole una autoridad que nosotros mismos hemos depositado allí. Frente a ello, Vallor recupera la importancia de la sabiduría práctica y de las virtudes que permiten a los seres humanos deliberar frente a situaciones nuevas e inciertas, preocupación que ya había desarrollado en Technology and the Virtues. Un algoritmo puede descubrir correlaciones que ninguna persona advertiría, comparar millones de casos y ayudarnos a detectar inconsistencias. Todo ello puede enriquecer nuestras decisiones. Pero decidir sobre una vida humana exige algo más que exactitud predictiva: exige preguntarnos qué resulta justo hacer aquí y ahora con esta persona concreta. La eficiencia calcula; el juicio moral justifica. Y no deberíamos confundir ambas capacidades.

6. Por eso quizá la respuesta a la pregunta inicial —¿puede una máquina decidir sobre lo humano?— necesite una distinción. Una máquina puede participar en nuestras decisiones, ofrecernos información, descubrir patrones e incluso advertirnos de errores que nuestra limitada capacidad cognitiva no detecta. Lo que no deberíamos hacer es permitir que su cálculo clausure el espacio de la deliberación humana. No se trata de rechazar la inteligencia artificial, sino de colocarla en el lugar que corresponde a una herramienta extraordinariamente poderosa. La propia UNESCO ha situado la dignidad humana, los derechos, la transparencia, la equidad y la supervisión humana entre los principios centrales de su Recomendación sobre la Ética de la Inteligencia Artificial. La dignidad comienza, en este contexto, allí donde podemos decirle al algoritmo: “esto que dices sobre mí no agota quién soy”. Ninguna persona es simplemente la suma de sus datos ni el resultado más probable de su pasado. Somos también la posibilidad de actuar de otro modo, de explicar nuestras razones, de equivocarnos, de cambiar y de exigir que quien ejerce poder sobre nosotros responda por sus decisiones. Tal vez ese sea el límite que debemos preservar: permitir que las máquinas nos ayuden a conocer mejor el mundo, sin concederles la última palabra sobre el valor de quienes lo habitamos.