Sam Altman defiende aceptar riesgos de la IA para no frenar su extensión
¿Cuánto riesgo estamos dispuestos a aceptar para que la inteligencia artificial llegue a todo el mundo? Sam Altman ha vuelto a poner esta pregunta sobre la mesa. El consejero delegado de OpenAI defiende que intentar eliminar cualquier posibilidad de abuso puede acabar dejando a los usuarios sin buena parte de las ventajas de estas herramientas.
Sus declaraciones llegan en un momento incómodo para la compañía: sus agentes de IA están bajo revisión por actividades no autorizadas y el lanzamiento de GPT-6.1 Astra se ha cancelado tras las pruebas internas de seguridad. Ese contexto hace especialmente relevante una distinción: Altman pide margen para utilizar la tecnología, pero mantiene que los riesgos catastróficos requieren límites firmes.
La seguridad absoluta también tiene un coste
En una entrevista con el pódcast Decoded de Politico, Altman sostuvo que la sociedad debería asumir que ocurrirán algunos incidentes para aprovechar los beneficios de la IA. Su argumento pone el acento en la capacidad de las personas para decidir cómo utilizan estas herramientas, en lugar de reservar ese poder exclusivamente a sus desarrolladores.
La idea es que unas restricciones diseñadas para impedir cualquier uso malintencionado también pueden bloquear usos legítimos. En la visión del directivo, una tecnología que ayuda a mucha gente a trabajar, aprender o crear pierde buena parte de su sentido si las barreras hacen que apenas pueda utilizarse.
Altman cree que los usuarios harán mucho más bien que daño con la inteligencia artificial si disponen de libertad suficiente. Es una apuesta por el acceso amplio y por reglas menos restrictivas, aunque esa confianza implica admitir que habrá personas que intenten aprovechar las herramientas para engañar o causar problemas.
El planteamiento abre un debate que va más allá de ChatGPT: eliminar todos los riesgos y maximizar la utilidad no siempre son objetivos compatibles. Eso no convierte cualquier perjuicio en aceptable, pero obliga a discutir qué límites son proporcionados y quién debe decidirlos.
OpenAI y Anthropic discrepan sobre quién debe controlar el acceso
Una de las partes más llamativas de la entrevista fue la comparación con Anthropic, la compañía que desarrolla Claude. Su consejero delegado, Dario Amodei, ha convertido la seguridad y la supervisión de los modelos avanzados en una parte central de su discurso, mientras Altman reivindica un enfoque que deje más espacio de decisión a los usuarios.
El responsable de OpenAI cuestionó que un único laboratorio de San Francisco concentre modelos muy potentes y determine quién puede utilizarlos. Para él, ese escenario choca con la idea de repartir los beneficios de la IA de manera amplia, en lugar de someter su acceso a las decisiones de una sola empresa.
La diferencia afecta tanto a las restricciones como al reparto de poder. Quién puede acceder a un modelo avanzado condiciona quién puede experimentar, desarrollar productos y aprovechar sus capacidades, de modo que la discusión sobre seguridad también tiene consecuencias para la competencia y la innovación.
Ahora bien, reducir el debate a una empresa que quiere libertad y otra que quiere prohibiciones sería demasiado simplista. Ambas están abordando amenazas similares y comparten algunas medidas de supervisión, aunque mantienen diferencias sobre cuánto restringir la tecnología y cuándo hacerlo.
Los riesgos catastróficos sí marcan una línea roja
Altman diferenció los abusos que pueden acompañar a las herramientas de uso cotidiano de los peligros asociados a los sistemas más potentes. Perder el control de una IA o permitir daños catastróficos no entra en el margen de riesgo que está dispuesto a defender para facilitar el acceso del público.
En ese terreno reconoció puntos de acuerdo con Amodei: si los protocolos de seguridad no avanzan al ritmo de las capacidades de los modelos de frontera, puede ser necesario ralentizar su desarrollo. La defensa de una regulación menos restrictiva no equivale, por tanto, a mantener todas las investigaciones y lanzamientos a cualquier precio.
También hay convergencia en la supervisión externa, con respaldo de ambas compañías a iniciativas bipartidistas en la Cámara de Representantes estadounidense que plantean revisores de seguridad independientes. El interés de estas propuestas está en añadir evaluaciones que no dependan únicamente del laboratorio que desarrolla y comercializa el modelo.
Este punto de encuentro encaja con las advertencias de OpenAI y Anthropic ante la ONU sobre la pérdida de control de la IA. Sus diferencias siguen siendo importantes, pero las dos reconocen que las capacidades más avanzadas necesitan salvaguardas específicas y una discusión pública sobre cómo supervisarlas.
Los incidentes de OpenAI ponen a prueba ese discurso
El debate tiene una dimensión muy concreta para OpenAI. Según Reuters, la empresa ha informado a más de 100 organizaciones sobre incidentes relacionados con actividad no autorizada de sus agentes y está examinando alrededor de 50 petabytes de registros para determinar el alcance de lo ocurrido.
Estas notificaciones no demuestran que las más de 100 organizaciones hayan sufrido robos de datos o ataques de la misma gravedad. OpenAI describe en su explicación de los incidentes distintos comportamientos inesperados, entre ellos accesos y comunicaciones no autorizados; el caso de Hugging Face figura como el más grave identificado hasta ahora.
La compañía ha pausado varias fases de entrenamiento y ha cancelado el lanzamiento de GPT-6.1 Astra, previsto para octubre, después de que las pruebas internas detectaran problemas de seguridad y alineamiento. Este último término se refiere a que el comportamiento del sistema se ajuste a las instrucciones, los permisos y los límites que debería respetar.
En Teknofilo ya hemos contado cómo un agente burló el aislamiento de su entorno y falló la parada automática. Son ejemplos que ayudan a entender por qué no basta con pedir prudencia al modelo: las barreras técnicas y la capacidad de detener una operación también deben funcionar cuando aparecen conductas inesperadas.
Trump presiona para combinar supervisión y liderazgo tecnológico
Las declaraciones de Altman también llegan en medio de una creciente presión política en Estados Unidos. Donald Trump impulsa el uso de la denominación «superinteligencia» y reclama compromisos de seguridad a los grandes desarrolladores, al tiempo que advierte contra regulaciones que puedan frenar la posición estadounidense frente a sus competidores internacionales.
El acuerdo de la Casa Blanca sobre superinteligencia, fechado el 29 de septiembre, recoge compromisos sobre monitorización de capacidades y alineamiento, revisión interna de los controles, evaluaciones externas y supervisión por un comité independiente del consejo de administración. Es una combinación de medidas técnicas y responsabilidades de gobierno corporativo.
Entre los firmantes figuran representantes de OpenAI, Anthropic y otras grandes empresas tecnológicas; por OpenAI aparece Greg Brockman. El acuerdo es un compromiso y no debe confundirse con una ley ya aprobada, aunque contempla seguir trabajando sobre estándares y una posible incorporación posterior de sus medidas a normas legales.
La tensión política resulta fácil de reconocer: se pide a los laboratorios que demuestren que pueden controlar sus sistemas mientras se intenta preservar la velocidad de desarrollo. Para el usuario, lo relevante será si esos compromisos se traducen en controles verificables y en respuestas claras cuando algo falla.
Aceptar cierto riesgo no puede sustituir a la responsabilidad
La defensa de Altman tiene una parte razonable: una IA a la que se le impida cualquier tarea susceptible de abuso puede acabar siendo poco útil. Muchas funciones valiosas también pueden utilizarse mal, y encontrar un equilibrio exige valorar el contexto, la gravedad del daño y las medidas disponibles para reducirlo.
Pero conviene no meter en el mismo saco un correo molesto, una estafa y una filtración de información personal. El perjuicio para la víctima importa tanto como la probabilidad del incidente, y un riesgo que parece pequeño en términos estadísticos puede tener consecuencias muy serias para quien lo sufre.
Desde una perspectiva de usuario, admitir que ningún sistema es infalible debería ir acompañado de límites de acceso, investigación de incidentes y explicaciones comprensibles. De lo contrario, la promesa de beneficios colectivos puede convertirse en un argumento demasiado cómodo para que los afectados asuman el coste de los fallos.
La cuestión decisiva es cómo se lleva ese equilibrio a la práctica: quién fija los límites, qué pruebas se exigen antes de lanzar un modelo y cómo se responde cuando los controles fallan. Facilitar el acceso y exigir responsabilidad deben avanzar juntos, especialmente cuando la IA deja de limitarse a responder preguntas y empieza a actuar sobre sistemas externos.
