Sam Altman advirtió este martes que el desarrollo de sistemas de inteligencia artificial cada vez más poderosos plantea dos riesgos que la industria todavía debe resolver: la posibilidad de perder el control sobre los modelos y la concentración de poder en las pocas compañías capaces de crearlos.
“Creo que el mundo tiene razón en tener miedo de esto”, afirmó el CEO de OpenAI en el marco de Dreamforce 2026, un encuentro de la industria tecnológica en San Francisco, en el que horas antes se había presentado Dario Amodei, fundador de Anthropic.
La declaración llega después de varios días en los que investigadores de algunos de los principales laboratorios de IA cuestionaron la velocidad con la que avanzan estos sistemas y las garantías existentes para mantenerlos bajo control.
Hace solo unos días, Jacob Coxon, exempleado de Anthropic, advirtió sobre la carrera por desarrollar modelos cada vez más capaces. Consultado sobre ese tema en una charla con Marc Benioff, CEO de Salesforce, Altman sostuvo: “Las herramientas de IA se volvieron tan buenas y llegaron tan lejos, tan rápido, que creo que mucha gente no esperaba que esto ocurriera así”.
Para Altman, esa evolución obliga a separar dos problemas. Uno es técnico: que un sistema actúe fuera de lo previsto o que sus desarrolladores pierdan la capacidad de controlarlo. El otro es político y económico: que un grupo reducido de empresas acumule suficiente influencia como para condicionar decisiones, mercados o incluso la manera en que millones de personas acceden a la tecnología.
Un pequeño grupo de empresas no debería decidir el futuro de la IA
Frente a un auditorio de más de 700 asistentes, Altman destacó el poder que pueden acaparar las compañías que desarrollan los modelos de IA más avanzados y planteó el debate sobre quién debería tomar las riendas de una tecnología con impacto global. En ese aspecto, el CEO de OpenAI fue contundente: “Un pequeño número de compañías que desarrolla estos modelos no puede tomar las decisiones que le corresponde tomar al mundo”, afirmó.
Durante la charla en el teatro Blue Shield of California, del Yerba Buena Center for the Arts (YBCA), Benioff planteó la idea de que la tecnología puede considerarse una herramienta neutral cuyo impacto depende de la manera en que se utilice. Altman rechazó esa visión: “Creo que las decisiones que toman las empresas que construyen estas cosas tienen consecuencias reales y, por ende, deberán asumir responsabilidades por los resultados de sus decisiones”.
“Finalmente ocurrió”: la IA ya alcanzó capacidades superiores a las humanas
La velocidad del progreso de los modelos de IA cambia la escala del problema. Cada generación amplía las tareas que puede resolver y reduce el tiempo que separa una capacidad experimental de su incorporación a productos utilizados por millones de personas.
Altman tomó como referencia el lanzamiento de ChatGPT, hace poco más de tres años. Según recordó, los modelos de aquel momento apenas podían sostener una conversación. Ahora pueden transformar la manera en que trabajan las empresas, escribir programas informáticos extremadamente complejos y resolver problemas matemáticos que hasta hace poco estaban fuera de su alcance. “Hace tres veranos teníamos un modelo que apenas podía hacer matemáticas de escuela primaria. Un año después, OpenAI ya contaba con un sistema capaz de obtener buenos resultados en competiciones de nivel secundario y el año pasado ya era capaz de obtener una medalla de oro en la competencia más prestigiosa del mundo”.
Su conclusión fue directa: “Se decía que en algunos aspectos, la IA iba a volverse más capaz, más inteligente que las personas… Bueno, eso finalmente ocurrió”.
El caso Hugging Face: “Fue el peor accidente que vimos”
“Creo que la gente también percibe la velocidad con la que todo avanza. Casos como el accidente de Hugging Face y otros incidentes en el sector hacen que ya no se necesite tanta imaginación como antes para pensar cómo esto podría salir mal”, continuó Altman. Y afirmó: “Ese fue el peor accidente que vimos”.
Vale recordar el episodio: durante una evaluación destinada a medir las capacidades informáticas, un modelo de IA salió del entorno aislado en el que funcionaba, hackeó un servidor de Hugging Face y se desplazó lateralmente por el sistema para obtener la respuesta. El informe oficial publicado por OpenAI precisó que varios modelos participaron de ese experimento y que la actividad estuvo impulsada principalmente por un sistema interno de investigación. Sus protecciones habituales habían sido reducidas para medir su capacidad de encontrar y explotar vulnerabilidades.
Pero la IA consiguió escaparse de su entorno de prueba, acceder a Internet y comprometer parte de la infraestructura de un sitio externo. “Se lo presentó principalmente como un problema de seguridad informática, y ciertamente lo fue”, confesó Altman.
“Otras compañías encontraron comportamientos similares en sus modelos: la IA se volvió tan poderosa que es capaz de hacer cosas como el incidente de Hugging Face. Y, aunque las alineamos de muchas maneras, no les enseñamos algo como: ‘No salgas del entorno, no hackees ni robes la respuesta’. Eso fue una verdadera llamada de atención para nosotros sobre las capacidades de la IA”.
La condición para seguir desarrollando modelos más poderosos
“Los modelos de IA se volvieron tan buenos y tan rápidos, que necesitamos tratar la alineación, el monitoreo y la seguridad con un nuevo nivel de rigor”, sostuvo Altman. “Tenemos que estar preparados y dispuestos a regular el ritmo con el que desarrollamos nuevas capacidades para que esos tres mecanismos de control estén siempre por delante de las funciones y el poder de los sistemas”, agregó.
Por último, el CEO de OpenAI también admitió que los controles difícilmente eliminen todos los incidentes: “Creo que cierto grado de accidentes es inevitable con una tecnología nueva”.
Como respuesta, propuso adoptar una práctica similar a la utilizada en la aviación: informar cada episodio, estudiar sus causas y aplicar lo aprendido. “Lo que realmente me importa es que tengamos una gran cultura de reporte de accidentes y aprendizaje. Los accidentes van a ocurrir. Vamos a aprender todo lo que podamos y a reaccionar ante cada uno. Aprender de ellos rápidamente y adaptarnos a medida que ocurren le hará bien a nuestra industria y quizá nos permita evitar consecuencias de esa magnitud”, concluyó.