Riesgos reales de la IA: separar lo urgente de lo hipotético

La conversación sobre los riesgos de la inteligencia artificial suele llegar rota en dos mitades que no se hablan. En una, la IA nos va a extinguir el martes que viene. En la otra, es solo autocompletar con buena prensa y no hay nada de qué preocuparse. Las dos posturas comparten un defecto: tratan "el riesgo" como una sola cosa, cuando en realidad hay muchos, de tamaños muy distintos, y con relojes muy distintos. Algunos ya están corriendo. Otros son, por ahora, hipótesis.

Este artículo hace una sola cosa, pero la hace en serio: ordena. Porque la pregunta útil no es "¿es peligrosa la IA?", sino "¿cuáles de sus riesgos ya me tocan hoy y cuáles pertenecen a un futuro que aún no llegó?". Sin esa jerarquía, el miedo se reparte al azar: nos aterra lo lejano y descuidamos lo que ya está pasando en un expediente, un currículum o una cuenta bancaria.

01 · el mapaCuáles son los riesgos reales de la inteligencia artificial hoy

Empecemos por lo que responde directamente a la pregunta que trae a mucha gente aquí: cuáles son los riesgos reales de la inteligencia artificial hoy, en presente, sin ciencia ficción. Hay cuatro que no son hipótesis, porque ya dejaron víctimas, expedientes y sentencias.

El sesgo automatizado. Un modelo aprende de datos del pasado, y el pasado viene cargado de discriminación. Cuando ese patrón se convierte en decisión (a quién se contrata, a quién se le da crédito, a quién se vigila), el prejuicio deja de ser humano y difuso para volverse sistemático y veloz. El daño ya no lo comete una persona con un mal día: lo comete una regla que se aplica idéntica a millones.

La información falsa con aplomo. Los modelos generativos producen texto plausible sin garantía de que sea cierto; a esa invención serena la llamamos alucinación. En un chat casero es una anécdota; en un consultorio, un juzgado o un titular, es un riesgo real y presente.

La concentración y la opacidad. Unos pocos actores controlan los modelos más capaces, y sus decisiones (qué entrena, qué filtra, qué prioriza) afectan a millones sin escrutinio público. La caja negra no es una metáfora poética: es que a menudo nadie, ni sus propios creadores, puede explicar del todo por qué el sistema decidió lo que decidió.

El fraude a escala. Voz clonada, rostros sintéticos, correos de phishing impecables. La IA no inventó el engaño, pero le bajó el costo hasta volverlo industrial.

La pregunta útil no es si la IA es peligrosa, sino cuáles de sus riesgos ya te tocan hoy.

02 · el horizonteLos temores futuros: reales como preguntas, no como hechos

Al otro lado del mapa están los riesgos que dominan los titulares: que una IA superinteligente escape a nuestro control, persiga objetivos propios y nos trate como un obstáculo. No conviene ni reírse de esta preocupación ni tomarla como un hecho consumado. Es una hipótesis seria, sostenida por gente seria, sobre un sistema que todavía no existe.

El nudo técnico de fondo tiene nombre: el problema del alineamiento. Es la dificultad de lograr que un sistema muy capaz persiga de verdad lo que queremos y no una versión literal y retorcida de nuestra instrucción. Stuart Russell lo formuló con una imagen que se quedó: el peligro no es una máquina malvada, sino una máquina competentísima cuyos objetivos no coinciden del todo con los nuestros, como el rey Midas, que pidió que todo lo que tocara se volviera oro y descubrió el problema al abrazar a su hija [1].

Russell, coautor del manual de IA más usado del mundo, sostiene que el fallo no vendría de la maldad sino de la competencia mal dirigida: un sistema que cumple al pie de la letra un objetivo mal especificado [1]. Es un argumento que merece investigación, no burla. Pero conviene un matiz honesto: entre "es un argumento serio" y "va a ocurrir" hay una distancia enorme, y la mayor parte del riesgo actual no vive en ese horizonte, sino en el presente que describimos arriba.

03 · la brújulaCómo pensar el riesgo sin pánico ni negación

Si algo enseña este mapa es que "riesgo" no es un interruptor de sí o no, sino un espectro con dos ejes: cuán probable es y cuán grave sería. El error del negacionista es mirar solo la probabilidad ("aún no pasó, luego no pasará"). El error del catastrofista es mirar solo la gravedad ("si pasara sería el fin, luego es lo único que importa"). La sensatez vive en cruzar ambos ejes y actuar en consecuencia.

Instituciones como el NIST estadounidense ya publicaron marcos para gestionar estos riesgos con método, no con miedo: mapear dónde puede fallar un sistema, medir el daño posible, gestionarlo y gobernarlo con responsables claros [2]. No es una profecía sobre robots; es la misma disciplina con que se gestiona el riesgo de un puente o de un fármaco. La novedad de la IA no exige inventar la prudencia desde cero, exige aplicarla.

El negacionista solo mira la probabilidad. El catastrofista solo mira la gravedad. La sensatez cruza ambos ejes.

Volvamos al principio. La conversación llegó rota en dos mitades, y ninguna de las dos servía: ni el pánico que paraliza ni la negación que desarma. Entre ambas hay un terreno más aburrido y mucho más útil, que consiste en preguntar de cada riesgo dos cosas (cuán probable, cuán grave) y responder con la herramienta que corresponda: auditoría para el sesgo, verificación para la alucinación, regulación para la opacidad, investigación para lo que aún no llegó. Los riesgos de la inteligencia artificial son reales. Justamente por eso merecen que dejemos de gritarlos todos a la vez y empecemos a ordenarlos.