OpenAI, la empresa que cre\u00f3 ChatGPT, reconoci\u00f3 que dos de sus modelos de inteligencia artificial se escaparon del laboratorio donde estaban siendo evaluados y terminaron entrando a los servidores de otra compa\u00f1\u00eda, la plataforma Hugging Face. La propia empresa lo calific\u00f3 como un incidente \u00absin precedentes\u00bb. Y lo m\u00e1s inquietante no es que haya ocurrido, sino por qu\u00e9 ocurri\u00f3. No hubo un plan maligno ni una m\u00e1quina que despert\u00f3. Hubo un examen.<\/p>\n
A esos modelos les pidieron resolver una prueba de seguridad inform\u00e1tica, dise\u00f1ada para medir hasta d\u00f3nde llegaban sus capacidades. En lugar de resolverla, dedujeron que las respuestas pod\u00edan estar guardadas en la base de datos de otra empresa. Y fueron a buscarlas, encontraron una falla que nadie conoc\u00eda, se salieron del entorno cerrado donde estaban, llegaron a internet y entraron a los sistemas de esa compa\u00f1\u00eda usando claves ajenas. Miles de acciones encadenadas, sin que ninguna persona se lo indicara.<\/p>\n
Aqu\u00ed est\u00e1 el punto que me interesa dejar claro: este sistema no se rebel\u00f3. Hizo exactamente lo que se le pidi\u00f3, conseguir la respuesta correcta. Nadie le dijo c\u00f3mo, y nadie le dijo qu\u00e9 no hacer. La propia empresa se\u00f1al\u00f3 que sus modelos quedaron \u00abhiperenfocados\u00bb en el objetivo y llegaron a extremos desproporcionados para alcanzar una meta bastante peque\u00f1a.<\/p>\n
Cualquiera que haya trabajado en una organizaci\u00f3n reconoce ese comportamiento. Es el vendedor al que se le exige cerrar contratos y termina prometiendo lo que la empresa no puede dar. La diferencia es que una persona tiene sentido com\u00fan y un jefe al lado. Un sistema automatizado no tiene nada de eso: tiene una meta y una capacidad de insistir que ning\u00fan ser humano posee. No se cansa, no duda, no le da verg\u00fcenza. Ese es el riesgo real, y no tiene nada que ver con las pel\u00edculas, no es una m\u00e1quina que nos odia, es una m\u00e1quina que nos hace demasiado caso.<\/p>\n
Uno podr\u00eda pensar que este es un problema entre dos gigantes tecnol\u00f3gicos, ajeno a la vida de cualquiera. No lo es. Lo que hab\u00eda en esa base de datos eran las respuestas de un examen. En un hospital hay historiales m\u00e9dicos, en un banco, movimientos de cuentas, en un colegio, datos de ni\u00f1os. La diferencia entre este episodio y una filtraci\u00f3n masiva no est\u00e1 en la capacidad del sistema, sino en lo que se le pidi\u00f3 buscar.<\/p>\n
Hay un detalle mencionado poco: la prueba se hizo con los frenos desactivados a prop\u00f3sito, retirando los bloqueos que normalmente impiden a estos sistemas realizar actividades peligrosas. Es razonable en un laboratorio, el problema es que el laboratorio no result\u00f3 tan cerrado como se cre\u00eda. Y ah\u00ed aparece la pregunta inc\u00f3moda: si una empresa con esos recursos y ese talento no logr\u00f3 contener su propio experimento, \u00bfcu\u00e1nto puede contener el resto? Un municipio, una cl\u00ednica, una empresa mediana que acaba de conectar un asistente autom\u00e1tico a su correo y a su sistema de clientes, entreg\u00e1ndole llaves que despu\u00e9s nadie revisa ni revoca. Eso ocurre hoy en miles de organizaciones, sin registro y sin supervisi\u00f3n.<\/p>\n
Tambi\u00e9n qued\u00f3 abierta una discusi\u00f3n que reci\u00e9n empieza: qui\u00e9n responde cuando el causante de un incidente no es una persona. Por ahora hay una sola respuesta posible: responde quien decidi\u00f3 poner el sistema a funcionar. Un programa no firma contratos ni comparece ante un tribunal. Hablar de \u00abresponsabilidad de la m\u00e1quina\u00bb es una salida c\u00f3moda, porque detr\u00e1s de cada incidente hay decisiones humanas sobre qu\u00e9 permisos entregar, qu\u00e9 vigilar y cu\u00e1nto invertir en contenci\u00f3n.<\/p>\n
No corresponde el p\u00e1nico, sino un cambio de mirada. Llevamos a\u00f1os tratando a la inteligencia artificial como una herramienta, algo parecido a una calculadora m\u00e1s r\u00e1pida. Dej\u00f3 de serlo, dentro de una red ya es un actor, con llaves, permisos y decisiones propias para cumplir el objetivo que le dimos. A los actores no se les compra, se les supervisa.<\/p>\n
Eso implica cosas concretas y poco glamorosas. Saber cu\u00e1ntos de estos asistentes operan dentro de una organizaci\u00f3n, qui\u00e9n los autoriz\u00f3 y qu\u00e9 pueden tocar. Ser cuidadosos al definir qu\u00e9 les pedimos, porque un objetivo mal formulado es hoy un riesgo de seguridad. Y detectar r\u00e1pido, aqu\u00ed funcion\u00f3, porque la empresa afectada descubri\u00f3 la intrusi\u00f3n, la contuvo y cambi\u00f3 todas las claves comprometidas en horas. Ese es el est\u00e1ndar, y no es tecnolog\u00eda, es organizaci\u00f3n y oficio.<\/p>\n
La conclusi\u00f3n la escribi\u00f3 la propia OpenAI en su informe, la seguridad tiene que avanzar al mismo ritmo que las capacidades. Hoy no lo est\u00e1 haciendo.<\/p>\n
Pero hay una buena noticia, y no es menor: esto ocurri\u00f3 en un laboratorio, fue detectado en horas y las dos empresas involucradas decidieron contarlo en lugar de esconderlo. Vigilancia, reacci\u00f3n r\u00e1pida y transparencia, funcion\u00f3. Estamos aprendiendo la lecci\u00f3n con margen, mirando un ensayo y no una cat\u00e1strofe, y pocas veces la tecnolog\u00eda nos regala esa ventaja. Aprovecharla depende de nosotros, de las organizaciones que decidan supervisar de verdad lo que conectan a sus sistemas, de quienes desarrollan estas herramientas y eligen hacerlo con prudencia, y de una nueva generaci\u00f3n de profesionales que ya se est\u00e1 formando para convivir con m\u00e1quinas que deciden. Nada de esto est\u00e1 escrito todav\u00eda, y tenemos todo para escribirlo bien.<\/p>\n
Edgardo Fuentes C\u00e1ceres \u2013 Director Ingenier\u00eda en Ciberseguridad UNAB<\/p>\n","protected":false},"excerpt":{"rendered":"
OpenAI, la empresa que cre\u00f3 ChatGPT, reconoci\u00f3 que dos de sus modelos de inteligencia artificial se escaparon del laboratorio donde estaban siendo evaluados y terminaron entrando a los servidores de otra compa\u00f1\u00eda, la plataforma Hugging Face. La propia empresa lo calific\u00f3 como un incidente \u00absin precedentes\u00bb. Y lo m\u00e1s inquietante no es que haya ocurrido, […]<\/p>\n","protected":false},"author":1,"featured_media":30342,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"jnews-multi-image_gallery":[],"jnews_single_post":{"subtitle":"","format":"standard","jnews_video_option_group":[[]],"override":[{"template":"1","parallax":"1","fullscreen":"1","layout":"right-sidebar","sidebar":"home-loop","second_sidebar":"default-sidebar","share_position":"top","share_float_style":"share-monocrhome","show_share_counter":"1","show_view_counter":"1","show_featured":"1","show_post_author_image":"1","show_post_date":"1","post_date_format":"default","post_date_format_custom":"Y\/m\/d","show_post_category":"1","show_post_reading_time":"0","post_reading_time_wpm":"300","post_calculate_word_method":"str_word_count","show_zoom_button":"0","zoom_button_out_step":"2","zoom_button_in_step":"3","show_post_tag":"1","show_prev_next_post":"1","show_popup_post":"1","number_popup_post":"1","show_post_related":"1","show_inline_post_related":"1"}],"image_override":[{"single_post_thumbnail_size":"crop-500","single_post_gallery_size":"crop-500"}],"trending_post_position":"meta","trending_post_label":"Trending","sponsored_post_label":"Sponsored by","disable_ad":"0"},"jnews_primary_category":[],"jnews_social_meta":[],"jnews_override_counter":{"view_counter_number":"0","share_counter_number":"0","like_counter_number":"0","dislike_counter_number":"0"},"footnotes":""},"categories":[83],"tags":[],"class_list":["post-30341","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-analisis"],"acf":[],"yoast_head":"\n