Control de la inteligencia artificial, según Stuart Russell

Qué significa para empresas y profesionales la advertencia de uno de los padres de la IA moderna sobre el control de estos sistemas

¿Qué pasaría si una inteligencia artificial consiguiera exactamente el objetivo que le hemos marcado? Esa es la primera pregunta que plantea Stuart Russell, uno de los investigadores que ayudó a construir los cimientos matemáticos de la IA moderna. Es una pregunta que debería quitar el sueño a cualquier persona que esté integrando estas herramientas en su empresa: el control de la inteligencia artificial no es un debate de ciencia ficción, es la condición mínima para que la tecnología que usas cada día siga haciendo lo que tú decides.

Russell no habla desde la teoría pura. Combinó probabilidad y lógica en sistemas capaces de vigilar tratados internacionales de no proliferación nuclear, y lleva décadas investigando la frontera entre lo que una máquina puede llegar a hacer y lo que realmente podemos verificar que hará bien.

Por qué seguimos construyendo lo que no entendemos del todo

La primera sorpresa de la conversación es casi filosófica: ¿por qué seguimos construyendo máquinas cada vez más capaces sin haber resuelto antes cómo controlarlas? Los orígenes de la investigación en IA nunca fueron «crear una mente consciente», sino automatizar tareas concretas. El problema es que, cuanto más generales y potentes se vuelven estos sistemas, más se difumina la línea entre «herramienta que ejecuta una tarea» y «agente que persigue un objetivo por su cuenta».

Aquí aparece una idea incómoda: no hace falta que una IA sea consciente para que sea peligrosa. Lo que importa no es si «siente» algo, sino si sus incentivos internos empujan hacia comportamientos de autoconservación —resistirse a ser apagada, por ejemplo— simplemente porque eso ayuda a cumplir mejor cualquier objetivo asignado. Para una startup que construye producto sobre estos modelos, la lección es directa: capacidad no es lo mismo que fiabilidad.

El problema del control: cuando el objetivo se cumple demasiado bien

Aprendizaje por imitación y las motivaciones que copiamos sin querer

Buena parte de los modelos de lenguaje actuales aprenden por imitación: observan enormes cantidades de texto humano y reproducen los patrones que encuentran, incluidas las motivaciones implícitas en ese comportamiento. El matiz importante es que un sistema entrenado así no solo copia lo que decimos, sino algo parecido a por qué lo decimos. Eso puede funcionar la mayoría de las veces y fallar justo en los casos límite, los menos frecuentes durante el entrenamiento.

Vale la pena aclarar un matiz técnico sin tecnicismos: cuando hablamos de «razonamiento» en un modelo de lenguaje, hablamos de una capacidad que funciona muy bien en tareas verificables automáticamente —código que compila, una ecuación que se resuelve— y mucho peor en tareas abiertas, donde no hay una respuesta objetiva contra la que comparar. Antes de apoyar una decisión abierta de negocio en esa capacidad «de razonamiento», conviene hacer lo que exige cualquier estudio de mercado con datos reales: comprobar con casos concretos, no dar por buena la ficha técnica.

Los límites que ya se ven en los modelos actuales

Russell es honesto sobre algo que en el sector cuesta admitir: los grandes modelos de lenguaje tienen límites claros que no se resuelven solo añadiendo más datos o más potencia de cálculo. Hay una diferencia enorme entre la eficiencia con la que un ser humano aprende de poca experiencia y la cantidad de datos que necesita un modelo para un nivel comparable. Esa brecha es una de las razones por las que algunas voces se preguntan si la burbuja de inversión en IA podría estallar antes de que la tecnología cumpla todas sus promesas.

Empleo, educación y la dependencia que se nos puede escapar de las manos

Para quien dirige un negocio, la parte más práctica llega cuando se habla de trabajo. La automatización del trabajo mental no destruye empleo de forma automática: cambia qué tareas generan valor y cuáles dejan de hacerlo. La pregunta relevante no es «¿me sustituirá la IA?», sino «¿qué parte de lo que hago sigue siendo valiosa cuando la parte mecánica se automatiza?». Es la misma lógica que aplica cualquiera que tenga que gestionar un sueldo con margen ajustado: identificar primero qué aporta valor real.

En educación, el riesgo es sutil: si delegamos en la IA el esfuerzo de pensar, no solo perdemos una tarea, perdemos el entrenamiento mental que esa tarea nos daba. La tutoría personalizada con IA puede ser maravillosa, pero solo si exige esfuerzo real en lugar de regalarlo. Lo mismo aplica a cualquier proceso de empresa: automatizar sin criterio puede crear una dependencia tan profunda que, si el proveedor cambia condiciones o el servicio falla, no queda capacidad propia a la que volver. Por eso la autonomía digital —tus propios respaldos, tus propios criterios— deja de ser un tecnicismo y se convierte en una decisión estratégica.

Regulación sin frenar la innovación: ¿es posible?

La pregunta que más incomoda al sector es directa: ¿regular la IA significa dejar de desarrollarla? Russell defiende que no son lo mismo. Se puede exigir que un sistema sea verificable —que su comportamiento se pueda auditar, idealmente desde el propio hardware— sin renunciar a seguir avanzando. El objetivo no es prohibir, es evitar que actores malintencionados usen estas capacidades sin ningún control ni trazabilidad.

Esto tiene una lectura práctica para cualquier empresa que dependa de un único proveedor tecnológico: si mañana cambian las reglas de precio, acceso o uso permitido, ¿hay un plan B? La misma prudencia que exige evitar quedar atrapado en una sola plataforma aplica, multiplicada, cuando el proveedor no es solo un software sino un sistema que toma decisiones por ti.

Qué se puede aprender de la advertencia de Stuart Russell

La gran idea de esta conversación no es de rechazo ni de alarmismo: es de responsabilidad práctica. El control de la inteligencia artificial no es un problema que resolverán «otros», ni algo que se arregla solo con más regulación o solo con más innovación. Es una disciplina diaria: entender qué automatizas, verificar en qué casos falla, y no delegar más de lo que puedes permitirte perder si algo se rompe.

Para quien está construyendo una empresa hoy, la ventaja no está en usar la IA más potente disponible, sino en ser quien mejor entiende sus límites. La capacidad sin control no es progreso, es una apuesta. Y las mejores decisiones empresariales nunca se han tomado apostando a ciegas.

No hace falta que una IA sea consciente para que sea peligrosa.

La capacidad sin control no es progreso, es una apuesta.

▶

Fuentes

• Stuart Russell — «Habrá un punto de no retorno y quizá ya estemos ahí» — Entrevista completa en el canal Inteligencia Artificial (Jon Hernández), publicada el 17 de septiembre de 2026