La inteligencia artificial (IA) nos obliga a replantearnos
qué significa decidir por nosotros mismos: ¿seguimos decidiendo cuando una
parte creciente de nuestra actividad intelectual puede ser delegada en
herramientas capaces de sugerir, seleccionar, anticipar y optimizar? La
cuestión no reside tanto en que determinadas tareas humanas sean sustituidas,
sino en que la intervención de estas tecnologías pueda modificar las
condiciones en las que se forman nuestros deseos, nuestros fines y nuestra
capacidad de elegir una vía de acción.
Elegir no consiste simplemente en seleccionar una
alternativa entre varias que ya están disponibles. Antes de elegir, debemos
interpretar una situación, imaginar posibilidades, establecer fines y descubrir
medios para alcanzarlos. La libertad depende, en buena medida, de conservar la
capacidad de reconocer las influencias que recibimos, someterlas a reflexión y
determinar qué lugar ocupan en nuestras propias decisiones.
La IA no es la primera tecnología que condiciona nuestra
manera de pensar, pero sí puede intervenir de forma extraordinariamente directa
en las operaciones mediante las cuales pensamos.
En este sentido, la IA puede influir en nuestra libertad incluso
sin imponernos una decisión: basta con que determine progresivamente qué
problemas consideramos relevantes, qué alternativas llegamos a contemplar y qué
soluciones nos parecen razonables. Cuando la IA deja de ser un instrumento
ocasional y comienza a incorporarse al propio proceso mediante el cual
pensamos, aquello que antes realizábamos personalmente —buscar, comparar,
recordar, argumentar, imaginar o verificar— empieza a ser realizado por ella.
El problema no está en delegar una operación concreta, sino en que esas tareas
tan humanas dejen de requerir nuestra intervención directa: ¿qué nos pasa
cuando dejamos que la IA haga determinadas cosas por nosotros? ¿Qué
capacidades queremos conservar precisamente porque constituyen las condiciones
de nuestra autonomía?
Un estudiante puede utilizar una IA para cuestionar su
propia tesis, descubrir objeciones y ampliar su investigación. En ese caso, la
herramienta funciona como apoyo y puede aumentar su capacidad posterior de
razonar por sí mismo. Pero si la IA formula la tesis, construye los argumentos,
redacta las conclusiones y evalúa el resultado, el estudiante puede obtener un
producto mejor sin haber desarrollado las capacidades necesarias para
producirlo por sí mismo. La tecnología puede mejorar lo que hacemos hoy a costa
de debilitar nuestra capacidad para hacerlo mañana sin su ayuda.
La dependencia puede reforzarse a sí misma: cuanto más
delegamos una capacidad, menos la ejercitamos; cuanto menos la ejercitamos, más
difícil resulta utilizarla y más atractivo se vuelve delegarla. Puede generarse
así un proceso acumulativo en el que nadie decide explícitamente renunciar a su
autonomía y, sin embargo, esta se debilita.
Cuanto mejor sea la IA, más difícil puede resultar
cuestionarla. Si una herramienta se equivoca con frecuencia, aprendemos a
desconfiar de ella. Pero si acierta habitualmente, podemos desarrollar una
dependencia mucho más profunda precisamente porque sus recomendaciones son
útiles.
Ahora bien, sería un error que esta preocupación por nuestra
autonomía nos hiciera perder de vista la otra cara de la revolución tecnológica
actual.
La IA no solo puede sustituir determinadas operaciones
intelectuales: también puede ampliar de forma extraordinaria la capacidad de
la humanidad para descubrir soluciones que hasta ahora estaban fuera de nuestro
alcance. En medicina, los modelos de IA ya permiten analizar grandes
cantidades de información molecular, identificar posibles dianas terapéuticas,
diseñar proteínas y seleccionar candidatos para nuevos tratamientos; en
oncología, esta capacidad está contribuyendo al desarrollo de vacunas y
terapias personalizadas basadas en las características genéticas de cada tumor.
El mismo principio puede extenderse al descubrimiento de nuevos antibióticos, a
la prevención de pandemias y al tratamiento de enfermedades que hoy
consideramos incurables.
La importancia de esta transformación no reside únicamente
en que una tecnología pueda encontrar más rápidamente una respuesta conocida,
sino en que puede explorar espacios de posibilidades demasiado vastos para ser
examinados por investigadores humanos uno por uno. La IA puede convertirse así
en un instrumento para ampliar el territorio mismo de lo que somos capaces de
descubrir.
Y esta transformación apenas ha comenzado. La combinación de
inteligencia artificial con simulación, robótica y laboratorios automatizados
puede crear un ciclo continuo en el que una tecnología formule hipótesis,
diseñe un experimento, analice sus resultados y genere nuevas hipótesis. El
mismo paradigma que permite buscar tratamientos contra el cáncer puede
aplicarse al descubrimiento de nuevos materiales para baterías, sistemas
energéticos más eficientes, tecnologías de desalación, catalizadores, cultivos
resistentes a la sequía o soluciones para reducir las emisiones de carbono.
Si esta convergencia alcanza la madurez esperada, durante
las próximas décadas la humanidad podría disponer de una capacidad de
investigación científica muy superior a la actual: no simplemente máquinas que
conocen lo que nosotros ya hemos descubierto, sino sistemas capaces de
ayudarnos a explorar sistemáticamente aquello que todavía no conocemos. La IA
podría convertirse, en este sentido, en una especie de multiplicador de la
capacidad de descubrimiento de la civilización, precisamente en un momento
en que los problemas que debemos resolver —enfermedades, energía, agua,
alimentación y nuevas amenazas biológicas— son demasiado complejos para ser
abordados mediante la capacidad intelectual humana aislada.
Este nuevo escenario interpela especialmente la idea misma
del descubrimiento empresarial. Si una oportunidad no ha sido todavía
percibida, descubrirla no consiste simplemente en extraer información de los
datos disponibles. El empresario no siempre elige entre alternativas conocidas
ni optimiza una función previamente definida: puede descubrir que existe una
posibilidad que nadie había considerado, crear un producto que antes no existía
o modificar incluso los fines que los consumidores perseguían. La cuestión
decisiva para la IA no es, por tanto, solamente cuánto puede procesar, sino si
puede encontrar oportunidades que ningún empresario había percibido hasta
entonces.
De ahí surge una paradoja. Cuanto más poderosa sea la IA,
más información podrá procesar y más complejas serán las estructuras que podrá
descubrir; pero esa misma complejidad puede hacer más difícil determinar qué
parte de sus resultados comprendemos realmente. Podríamos disponer de mejores
predicciones sin poseer una explicación humana equivalente. La pregunta ya no
sería solamente si la máquina sabe más, sino qué significa «saber» cuando el
conocimiento producido no puede ser plenamente traducido a nuestras categorías
de comprensión.
Esto afecta directamente a la innovación. Innovar no
consiste únicamente en optimizar soluciones existentes. Surge también del
error, de la experimentación, de la curiosidad, de la intuición, de la
incertidumbre y de la combinación inesperada de ideas. Una IA orientada a
proporcionar rápidamente la respuesta más probable puede ser
extraordinariamente eficaz para explorar lo conocido, pero existe el riesgo de
que nuestra actividad intelectual se concentre cada vez más en aquello que el
sistema ya sabe reconocer como relevante. Un investigador que pregunte
continuamente a una IA cuáles son los problemas importantes puede terminar
investigando aquello que ya ha sido identificado como importante.
Un emprendedor que solicite la oportunidad de negocio óptima
puede acabar compitiendo por las mismas oportunidades detectadas por todos los
demás. Un creador que pida siempre la alternativa más eficaz puede producir
algo técnicamente superior y, al mismo tiempo, menos inesperado. El peligro no
reside en que la máquina nos obligue a pensar de una determinada manera, sino
en que terminemos pensando solamente dentro del espacio de posibilidades que la
máquina nos ofrece.
Pero existe una segunda cuestión, todavía más crítica. Si en
el futuro se alcanzara una inteligencia capaz de mejorar recursivamente sus
propias capacidades, el problema dejaría de limitarse a la autonomía
individual. Una aceleración muy rápida hacia sistemas radicalmente superiores a
la inteligencia humana podría hacer mucho más difícil verificar que sus
objetivos permanecen alineados con los intereses humanos y con principios
éticos fundamentales.
Una pérdida de alineación podría convertirse en una pérdida
de control y, en el extremo, en un riesgo existencial. No sabemos si ese
escenario se producirá ni cuándo, pero precisamente la posibilidad de que el
desarrollo tecnológico avance más deprisa que nuestra capacidad de comprenderlo
obliga a considerar la seguridad como una condición previa y no como una
corrección posterior. De ahí la importancia de establecer mecanismos
verificables de seguridad, supervisión independiente y coordinación
internacional, procurando que su desarrollo permanezca al margen de una
intervención estatal, tanto directa como indirecta, que, por sus incentivos
políticos y burocráticos, podría dificultar tanto la innovación como la
adopción de las medidas necesarias para garantizar la seguridad de estos
sistemas.
Hay, no obstante, un elemento que matiza este riesgo: no
existe una única IA, sino varios modelos y laboratorios que compiten por
ofrecer mejores capacidades y nuevas aplicaciones. Esa competencia puede
favorecer la pluralidad y ofrecer a los usuarios alternativas que comparar.
Pero competir en la frontera de la IA requiere enormes inversiones en cómputo,
datos e infraestructura, lo que concentra su desarrollo en un número reducido
de grandes organizaciones. La IA puede ser, por tanto, competitiva y estar al
mismo tiempo altamente concentrada. Para la autonomía, la cuestión será si esa
competencia mantiene alternativas reales entre las que los usuarios puedan
elegir.
El objetivo no tendría que ser detener la innovación, sino
impedir que la competencia por desarrollar primero sistemas cada vez más
poderosos elimine los incentivos para comprobar que aquello que estamos
construyendo sigue siendo controlable y compatible con la supervivencia humana.
Ahora bien, ninguna regulación externa puede sustituir
completamente la autonomía humana. Incluso una IA perfectamente segura no
resolvería el problema de fondo si los seres humanos dejamos progresivamente de
investigar, experimentar, equivocarnos y decidir.
La cuestión esencial no es conseguir que las máquinas hagan
cada vez más cosas por nosotros, sino determinar qué capacidades queremos
conservar precisamente porque constituyen nuestra condición de agentes libres.
Delegar una operación cognitiva no equivale necesariamente a perder autonomía.
En consecuencia, preservar la autonomía no exige rechazar la IA. Exige
conservar la posibilidad de utilizarla sin depender de ella: saber investigar
sin ella, formular una hipótesis, escribir y equivocarse sin ella y, sobre
todo, decidir contra su recomendación cuando nuestra propia deliberación lo
considere necesario. Una herramienta es verdaderamente emancipadora cuando
amplía nuestro campo de acción sin convertirse en la condición de posibilidad
de nuestra acción.
La pregunta decisiva, entonces, no es cuánto de la
inteligencia humana puede ser sustituido por la inteligencia artificial. Es qué
parte de la experiencia humana estamos dispuestos a dejar de vivir a cambio de
esa sustitución. Porque descubrir, crear, experimentar y elegir no son
simples tareas que puedan medirse por su eficiencia: son precisamente las
actividades mediante las cuales una persona se convierte en autora de su propia
vida.
Reflexionar sobre la autonomía individual no significa imaginar
a un individuo que decide al margen de toda influencia. Desde que nacemos,
nuestras decisiones están condicionadas por la familia, la cultura, la
educación, la religión, el entorno social y las experiencias que hemos vivido.
Nadie elige desde cero los valores con los que interpreta el mundo ni las
posibilidades que aprende a considerar. La autonomía no consiste, por tanto, en
decidir sin influencias, sino en conservar la capacidad de reconocerlas,
cuestionarlas y decidir qué lugar ocupan en nuestras propias decisiones. En
este sentido, la IA no sería una influencia radicalmente distinta de las que ya
han acompañado siempre al ser humano: la diferencia está en su capacidad para
intervenir de forma continua en aquello que pensamos, en las opciones que consideramos
y en las razones que utilizamos para decidir. Ha llegado para quedarse, como
antes lo hicieron otras tecnologías, la cultura, la educación o los medios de
comunicación; la cuestión no es si influirá en nosotros, sino si podremos
seguir siendo capaces de decidir qué hacemos con esa influencia.
Y quizá haya una última forma, algo más incómoda, de
comprobar hasta qué punto esta autonomía sigue siendo posible: preguntarnos qué
ha ocurrido con este propio artículo.
Ha sido escrito en estrecha colaboración con una IA. No se
trata de una confesión destinada a restarle mérito al texto, sino, casi al
contrario, de convertir el propio artículo en un pequeño experimento de la
tesis que plantea. He utilizado la IA para discutir ideas, formular objeciones,
detectar inconsistencias, explorar argumentos y someter algunas de mis
intuiciones a contraste. Es decir, he hecho exactamente aquello que aquí
propongo que hagamos con ella: utilizarla como interlocutora y herramienta de
verificación, sin entregarle la decisión final sobre lo que merece ser pensado
o defendido.
La ironía es que un artículo que advierte del riesgo de
delegar nuestra capacidad de pensar ha sido ayudado a pensar por una máquina. Y
quizá ahí resida precisamente la lección: la paradoja no consiste en utilizar
la IA para pensar, sino en dejar de pensar porque la IA puede hacerlo. Este
texto no pretende demostrar que podamos prescindir de ella, sino comprobar si
somos capaces de utilizarla sin prescindir de nosotros mismos.
La prueba, naturalmente, tiene algo de paradójico: incluso
para defender nuestra autonomía frente a la IA, he necesitado preguntarle a una
IA cómo hacerlo.
Ignacio Delfino
