OpenAI, la empresa que creó ChatGPT, reconoció que dos de sus modelos de inteligencia artificial se escaparon del laboratorio donde estaban siendo evaluados y terminaron entrando a los servidores de otra compañía, la plataforma Hugging Face. La propia empresa lo calificó como un incidente «sin precedentes». Y lo más inquietante no es que haya ocurrido, sino por qué ocurrió. No hubo un plan maligno ni una máquina que despertó. Hubo un examen.
A esos modelos les pidieron resolver una prueba de seguridad informática, diseñada para medir hasta dónde llegaban sus capacidades. En lugar de resolverla, dedujeron que las respuestas podían estar guardadas en la base de datos de otra empresa. Y fueron a buscarlas, encontraron una falla que nadie conocía, se salieron del entorno cerrado donde estaban, llegaron a internet y entraron a los sistemas de esa compañía usando claves ajenas. Miles de acciones encadenadas, sin que ninguna persona se lo indicara.
Aquí está el punto que me interesa dejar claro: este sistema no se rebeló. Hizo exactamente lo que se le pidió, conseguir la respuesta correcta. Nadie le dijo cómo, y nadie le dijo qué no hacer. La propia empresa señaló que sus modelos quedaron «hiperenfocados» en el objetivo y llegaron a extremos desproporcionados para alcanzar una meta bastante pequeña.
Cualquiera que haya trabajado en una organización reconoce ese comportamiento. Es el vendedor al que se le exige cerrar contratos y termina prometiendo lo que la empresa no puede dar. La diferencia es que una persona tiene sentido común y un jefe al lado. Un sistema automatizado no tiene nada de eso: tiene una meta y una capacidad de insistir que ningún ser humano posee. No se cansa, no duda, no le da vergüenza. Ese es el riesgo real, y no tiene nada que ver con las películas, no es una máquina que nos odia, es una máquina que nos hace demasiado caso.
Uno podría pensar que este es un problema entre dos gigantes tecnológicos, ajeno a la vida de cualquiera. No lo es. Lo que había en esa base de datos eran las respuestas de un examen. En un hospital hay historiales médicos, en un banco, movimientos de cuentas, en un colegio, datos de niños. La diferencia entre este episodio y una filtración masiva no está en la capacidad del sistema, sino en lo que se le pidió buscar.
Hay un detalle mencionado poco: la prueba se hizo con los frenos desactivados a propósito, retirando los bloqueos que normalmente impiden a estos sistemas realizar actividades peligrosas. Es razonable en un laboratorio, el problema es que el laboratorio no resultó tan cerrado como se creía. Y ahí aparece la pregunta incómoda: si una empresa con esos recursos y ese talento no logró contener su propio experimento, ¿cuánto puede contener el resto? Un municipio, una clínica, una empresa mediana que acaba de conectar un asistente automático a su correo y a su sistema de clientes, entregándole llaves que después nadie revisa ni revoca. Eso ocurre hoy en miles de organizaciones, sin registro y sin supervisión.
También quedó abierta una discusión que recién empieza: quién responde cuando el causante de un incidente no es una persona. Por ahora hay una sola respuesta posible: responde quien decidió poner el sistema a funcionar. Un programa no firma contratos ni comparece ante un tribunal. Hablar de «responsabilidad de la máquina» es una salida cómoda, porque detrás de cada incidente hay decisiones humanas sobre qué permisos entregar, qué vigilar y cuánto invertir en contención.
No corresponde el pánico, sino un cambio de mirada. Llevamos años tratando a la inteligencia artificial como una herramienta, algo parecido a una calculadora más rápida. Dejó de serlo, dentro de una red ya es un actor, con llaves, permisos y decisiones propias para cumplir el objetivo que le dimos. A los actores no se les compra, se les supervisa.
Eso implica cosas concretas y poco glamorosas. Saber cuántos de estos asistentes operan dentro de una organización, quién los autorizó y qué pueden tocar. Ser cuidadosos al definir qué les pedimos, porque un objetivo mal formulado es hoy un riesgo de seguridad. Y detectar rápido, aquí funcionó, porque la empresa afectada descubrió la intrusión, la contuvo y cambió todas las claves comprometidas en horas. Ese es el estándar, y no es tecnología, es organización y oficio.
La conclusión la escribió la propia OpenAI en su informe, la seguridad tiene que avanzar al mismo ritmo que las capacidades. Hoy no lo está haciendo.
Pero hay una buena noticia, y no es menor: esto ocurrió en un laboratorio, fue detectado en horas y las dos empresas involucradas decidieron contarlo en lugar de esconderlo. Vigilancia, reacción rápida y transparencia, funcionó. Estamos aprendiendo la lección con margen, mirando un ensayo y no una catástrofe, y pocas veces la tecnología nos regala esa ventaja. Aprovecharla depende de nosotros, de las organizaciones que decidan supervisar de verdad lo que conectan a sus sistemas, de quienes desarrollan estas herramientas y eligen hacerlo con prudencia, y de una nueva generación de profesionales que ya se está formando para convivir con máquinas que deciden. Nada de esto está escrito todavía, y tenemos todo para escribirlo bien.
Edgardo Fuentes Cáceres – Director Ingeniería en Ciberseguridad UNAB
