El CEO de Microsoft lanza una inquietante advertencia sobre la IA a las empresas

La inteligencia artificial promete convertir los datos de una empresa en una ventaja competitiva.

Sin embargo, Satya Nadella acaba de poner sobre la mesa una pregunta bastante incómoda: ¿qué ocurre si, al utilizar una IA externa para aprovechar ese conocimiento, la empresa está ayudando al proveedor del modelo a aprender precisamente aquello que la hace diferente?

El CEO de Microsoft ha advertido sobre lo que describe como una especie de paradoja de la información aplicada a la era de la IA. Las compañías pagan por utilizar modelos avanzados mediante tokens, suscripciones o contratos empresariales, pero al mismo tiempo pueden estar aportando algo todavía más valioso: sus procesos internos, correcciones, flujos de trabajo y conocimiento acumulado.

La preocupación no consiste simplemente en que una empresa envíe un documento confidencial a un chatbot. El problema es mucho más amplio. Cada interacción puede revelar cómo funciona realmente un negocio, qué considera correcto o incorrecto, cómo resuelve excepciones y qué decisiones toman sus empleados cuando la respuesta de la inteligencia artificial falla.

En otras palabras, las empresas podrían estar pagando por utilizar inteligencia mientras generan gratuitamente nueva inteligencia para otros.

Satya Nadella avisa: las empresas podrían estar pagando dos veces por la IA

La idea central planteada por Satya Nadella es sencilla, pero tiene enormes implicaciones para cualquier organización que esté adoptando inteligencia artificial.

Una empresa paga una primera vez cuando compra acceso a un modelo de IA. El coste puede llegar mediante consumo de tokens, licencias por usuario, APIs o contratos empresariales.

Pero existe un posible segundo pago mucho menos visible.

Para que un modelo resulte realmente útil dentro de una organización, hay que proporcionarle contexto. Cuanto más conocimiento recibe sobre los productos, clientes, procesos, políticas y formas de trabajar de la compañía, mejores pueden ser sus respuestas.

El problema es que ese contexto puede representar uno de los activos más valiosos de la empresa.

Una IA genérica sabe muchas cosas. Sin embargo, para convertirse en una herramienta realmente útil dentro de un banco, una aseguradora, una compañía industrial o una empresa tecnológica, necesita comprender cómo funciona específicamente esa organización. Ahí es donde comienza el dilema.

El conocimiento empresarial vale mucho más que una base de datos

Cuando se habla de proteger información frente a los sistemas de inteligencia artificial, muchas empresas piensan inmediatamente en documentos confidenciales, bases de datos de clientes o secretos comerciales.

Sin embargo, Nadella apunta a una capa de conocimiento mucho más difícil de identificar.

Una organización también posee conocimiento en la forma en la que sus trabajadores realizan tareas, solucionan problemas y toman decisiones.

Por ejemplo, una empresa puede tener un manual que explique cómo tramitar una incidencia. Pero el verdadero conocimiento puede encontrarse en todo aquello que no aparece en el manual: cuándo hacer una excepción, qué señales anticipan un problema, qué proveedor suele fallar o cómo distinguir una incidencia crítica de otra aparentemente similar pero menos urgente.

Ese conocimiento institucional se ha construido durante años y, en muchos casos, nunca ha sido documentado formalmente.

La llegada de los asistentes y agentes de IA puede convertir poco a poco ese conocimiento implícito en información procesable. Y eso tiene un enorme valor.

Las correcciones humanas son uno de los datos más valiosos

Supongamos que un empleado pide a una IA que analice una situación y el modelo responde incorrectamente. El trabajador corrige la respuesta.

A primera vista, parece una interacción rutinaria. Sin embargo, esa corrección puede contener una pieza de conocimiento empresarial extremadamente valiosa.

El modelo no solo recibe información sobre lo que estaba mal. También descubre cómo piensa una persona experta dentro de esa organización.

A medida que miles de empleados realizan prompts, utilizan herramientas, modifican resultados y corrigen errores, se genera lo que Nadella describe como una especie de residuo o «escape» de inteligencia.

Pero llamarlo residuo puede resultar engañoso. En realidad, esa información puede representar un mapa muy preciso de cómo funciona una organización.

Los prompts muestran qué preguntas importan. Las herramientas utilizadas muestran cómo se trabaja. Las correcciones revelan qué sabe realmente la empresa.

Ese conjunto de señales podría ser extremadamente difícil de comprar o reproducir para un competidor.

El riesgo va más allá de filtrar documentos confidenciales

Las políticas tradicionales de seguridad suelen centrarse en impedir que información sensible salga de la organización. La IA introduce un problema diferente.

Una empresa puede evitar compartir explícitamente una base de datos confidencial y, aun así, revelar indirectamente una gran cantidad de conocimiento mediante miles o millones de interacciones.

Un prompt puede contener contexto sobre un cliente. Otro puede explicar una excepción de un proceso. Una corrección puede revelar una regla interna. El uso de una herramienta determinada puede mostrar cómo se resuelve una tarea.

Individualmente, cada interacción puede parecer poco importante. El verdadero valor aparece cuando todas esas señales se acumulan.

Por eso, el debate empresarial sobre la IA está evolucionando desde la simple protección de datos hacia una cuestión mucho más amplia: quién posee el aprendizaje generado por la utilización diaria de estos sistemas.

El proveedor de IA podría terminar aprendiendo de sus propios clientes

La preocupación más extrema es que los grandes proveedores de modelos acumulen conocimiento procedente de las empresas que utilizan sus servicios.

Eso no significa necesariamente que los principales laboratorios de IA estén utilizando los datos privados de sus clientes para competir directamente con ellos. Muchos proveedores ofrecen compromisos específicos sobre privacidad y uso de datos en sus productos empresariales.

Sin embargo, Nadella plantea una cuestión de diseño y gobernanza a más largo plazo. ¿Quién controla el aprendizaje generado cuando empleados y agentes de IA trabajan juntos?

La pregunta resulta especialmente relevante en un futuro donde los agentes de inteligencia artificial podrían ejecutar procesos completos: buscar información, llamar a aplicaciones, realizar operaciones y recibir correcciones constantemente.

Cuanto más trabajo real hagan estos sistemas, más conocimiento sobre la organización puede quedar reflejado en sus interacciones.

Por eso, Nadella considera que las empresas deberían tratar este nuevo flujo de información como un activo estratégico.

La paradoja de una industria que aprendió utilizando los datos de Internet

El debate se vuelve todavía más interesante cuando se analiza cómo se han creado los grandes modelos de inteligencia artificial.

Los principales sistemas actuales han sido entrenados utilizando enormes cantidades de información procedente de múltiples fuentes, incluyendo contenidos disponibles públicamente.

Buena parte de la industria ha defendido que este proceso de entrenamiento puede estar amparado, en determinadas circunstancias, por principios como el uso legítimo o fair use, aunque la cuestión sigue siendo objeto de importantes disputas legales.

Nadella señala una aparente contradicción. Los proveedores de modelos defienden su capacidad para aprender de grandes cantidades de información, pero algunos imponen importantes restricciones cuando otros intentan aprender de las respuestas de sus propios modelos.

Ahí aparece uno de los debates más explosivos de la industria de la IA: la destilación.

Qué es la destilación de modelos de inteligencia artificial

La destilación es una técnica que permite transferir parte del conocimiento o comportamiento de un modelo de IA a otro sistema.

De forma simplificada, un modelo más potente puede generar respuestas que posteriormente sirven para ayudar a entrenar otro modelo, normalmente más pequeño, barato o especializado.

La técnica no es nueva. La destilación del conocimiento lleva años siendo estudiada como una forma de trasladar capacidades desde sistemas complejos hacia modelos más eficientes.

El problema aparece cuando una empresa utiliza masivamente un modelo comercial para intentar reproducir sus capacidades en otro sistema.

Los grandes laboratorios de IA pueden considerar ese comportamiento una violación de sus condiciones de uso o incluso una forma de apropiarse de la inversión realizada para desarrollar el modelo original.

La destilación se ha convertido así en una nueva frontera del conflicto tecnológico.

Anthropic ha denunciado el uso de Claude para mejorar modelos rivales

El debate ha cobrado especial intensidad por las acusaciones realizadas por Anthropic contra determinadas compañías de inteligencia artificial.

La empresa detrás de Claude ha denunciado prácticas en las que otros actores habrían realizado enormes cantidades de consultas a sus modelos con el objetivo de utilizar las respuestas para mejorar sistemas propios.

Desde el punto de vista de un laboratorio de IA, el argumento es fácil de entender.

Desarrollar un modelo avanzado requiere enormes inversiones en infraestructura, investigadores y entrenamiento. Si un competidor puede realizar millones de consultas y utilizar las respuestas para acelerar su propio desarrollo, estaría obteniendo una ventaja sin asumir el mismo coste.

Sin embargo, Nadella plantea la otra cara del problema.

Si los modelos pueden aprender de la información creada por millones de personas y organizaciones, ¿hasta qué punto pueden impedir que otros aprendan de sus resultados?

No existe una respuesta sencilla.

Nadella considera contradictorias algunas restricciones de los grandes modelos

El CEO de Microsoft cuestiona una situación en la que el flujo de aprendizaje funciona únicamente en una dirección.

Por un lado, los proveedores de modelos pueden beneficiarse del entrenamiento sobre enormes cantidades de información.

Por otro, pueden establecer condiciones que impidan a sus clientes utilizar las respuestas de esos modelos para crear o mejorar otros sistemas.

El conflicto resulta todavía mayor cuando un proveedor se reserva alguna capacidad para aprender de las interacciones de sus usuarios.

Desde la perspectiva planteada por Nadella, el conocimiento no debería fluir constantemente hacia quien controla la infraestructura de IA mientras las empresas que generan ese conocimiento pierden la posibilidad de aprovecharlo por sí mismas.

La discusión no es únicamente técnica. También afecta a quién capturará el valor económico generado por la inteligencia artificial durante los próximos años.

Las empresas deberían ser dueñas de su propio ciclo de aprendizaje

La propuesta de Nadella parte de un principio: las organizaciones deberían mantener el control sobre el conocimiento que generan al utilizar inteligencia artificial.

Esto incluye mucho más que los datos originales.

También debería abarcar los prompts, las evaluaciones, las respuestas corregidas, el uso de herramientas y la información generada por los agentes durante la ejecución de tareas.

La empresa debería poder utilizar todo ese aprendizaje para mejorar sus propios sistemas.

En la práctica, esto supone construir una infraestructura de IA donde el conocimiento producido por la interacción entre humanos y modelos permanezca dentro de un entorno controlado.

No se trata necesariamente de entrenar desde cero un gigantesco modelo fundacional.

Una compañía puede seguir utilizando modelos externos y, al mismo tiempo, conservar sus propias capas de memoria, evaluación, contexto y aprendizaje.

La nube puede convertirse en la nueva frontera de confianza empresarial

La solución propuesta por Nadella encaja, inevitablemente, con el negocio de Microsoft.

El CEO defiende la creación de entornos empresariales propios donde los datos y el aprendizaje generado por la IA permanezcan bajo el control de la organización.

Para muchas empresas, ese entorno estará construido en la nube. Y Microsoft Azure es, precisamente, uno de los mayores proveedores de infraestructura cloud del mundo. Eso no invalida el argumento, pero sí introduce un evidente interés comercial.

Microsoft quiere que las empresas consuman modelos de inteligencia artificial, pero también quiere convertirse en la infraestructura donde gestionen y protejan su conocimiento.

La batalla de la IA empresarial podría terminar siendo mucho más amplia que una competición para construir el mejor modelo.

El verdadero negocio podría estar en controlar la plataforma desde la que las empresas utilizan todos esos modelos.

Depender de un único modelo puede convertirse en un riesgo

Otra recomendación importante consiste en evitar la dependencia absoluta de un solo proveedor.

Durante los primeros años de la inteligencia artificial generativa, muchas empresas construyeron sus aplicaciones directamente alrededor de un modelo concreto.

El problema aparece cuando cambia el precio, desaparece una función, se modifica una política o aparece un modelo mejor.

Por eso están ganando terreno las denominadas capas de orquestación. Estas plataformas se sitúan entre las aplicaciones empresariales y los modelos de IA.

En lugar de conectar directamente una aplicación con un único proveedor, la empresa puede decidir qué modelo utilizar para cada tarea.

Una consulta podría enviarse a un modelo de OpenAI, otra a Claude, otra a Gemini y otra a un modelo abierto ejecutado en infraestructura propia.

Los gateways de IA están ganando protagonismo

La idea de utilizar múltiples modelos ha impulsado la aparición de gateways o pasarelas de inteligencia artificial.

Su función recuerda, en cierto modo, a una capa de gestión del tráfico. La empresa envía una petición y el sistema decide qué modelo debe procesarla teniendo en cuenta factores como el coste, la velocidad, la privacidad o la calidad necesaria.

Esto ofrece varias ventajas. Una compañía puede utilizar un modelo extremadamente potente para las tareas más difíciles y reservar modelos pequeños y baratos para operaciones rutinarias.

También puede cambiar de proveedor sin tener que reconstruir toda su aplicación.

La interoperabilidad reduce el riesgo de quedar atrapado en el ecosistema de una sola empresa de IA.

A medida que las organizaciones utilicen decenas de modelos diferentes, estas capas de orquestación podrían convertirse en una parte esencial de la arquitectura tecnológica.

Los modelos abiertos empiezan a resultar mucho más atractivos para las empresas

Existe otra forma de recuperar el control: ejecutar modelos abiertos en infraestructura propia.

Durante mucho tiempo, la diferencia entre los modelos propietarios más avanzados y las alternativas abiertas era suficientemente grande como para que muchas empresas aceptasen depender de proveedores externos.

Pero esa distancia se está reduciendo en numerosos casos de uso. Un modelo abierto puede no alcanzar la máxima capacidad de los sistemas más avanzados del mercado y, aun así, ser más que suficiente para muchas tareas empresariales.

El cálculo cambia entonces por completo. Si un modelo ofrece alrededor del nivel de rendimiento que una empresa necesita, cuesta menos y puede ejecutarse bajo su propio control, la alternativa abierta empieza a ser extremadamente atractiva.

No todas las tareas necesitan el modelo más inteligente disponible.

Ejecutar la IA dentro de la propia empresa vuelve a estar de moda

La expansión de la nube parecía haber convertido los centros de datos propios en una tecnología del pasado para muchas organizaciones.

La inteligencia artificial podría estar provocando un movimiento parcialmente contrario.

Algunas grandes compañías están explorando modelos que pueden ejecutarse en sus propias instalaciones o en infraestructuras completamente controladas por ellas.

El objetivo no es únicamente ahorrar dinero.

También permite tener un mayor control sobre los datos, las versiones del modelo, la seguridad y el aprendizaje generado durante su utilización.

La IA ejecutada en infraestructura propia puede resultar especialmente atractiva para sectores muy regulados o para compañías que manejan información extremadamente sensible.

Eso no significa que la nube vaya a desaparecer. Lo más probable es que muchas organizaciones adopten arquitecturas híbridas en las que combinen modelos externos, servicios cloud y sistemas ejecutados en sus propias instalaciones.

Los modelos abiertos ya representan una parte importante del tráfico de algunas plataformas

El interés por las alternativas abiertas no es puramente teórico. Plataformas que permiten a desarrolladores cambiar entre distintos modelos están observando un crecimiento del uso de sistemas abiertos.

Según los datos mencionados en la información original, los modelos abiertos llegaron a representar el 29% del tráfico gestionado durante un mes por la pasarela de modelos de Vercel.

La cifra resulta significativa porque muestra que muchos desarrolladores no están utilizando exclusivamente los grandes modelos propietarios.

También plataformas especializadas en enrutar solicitudes entre diferentes sistemas están observando una creciente diversidad de modelos.

La tendencia apunta hacia un mercado mucho más fragmentado.

En lugar de existir un único ganador que proporcione inteligencia artificial a todas las aplicaciones, podrían coexistir cientos de modelos especializados.

Un modelo más pequeño puede ser mejor para una empresa

La carrera de la inteligencia artificial suele centrarse en determinar qué compañía posee el modelo más potente. Para una empresa, sin embargo, esa puede ser la pregunta equivocada.

El mejor modelo para una tarea no siempre es el que obtiene la puntuación más alta en un benchmark.

Una compañía puede valorar más otros factores: coste, latencia, control de datos, facilidad de personalización o posibilidad de ejecutar el sistema dentro de su propia infraestructura.

Un modelo abierto y especializado podría superar en utilidad práctica a un gigantesco modelo generalista.

La empresa no necesita necesariamente la IA más inteligente del mundo. Necesita la IA que mejor encaje en su negocio.

Este cambio de mentalidad puede favorecer enormemente a los modelos abiertos y especializados.

Microsoft también tiene mucho que ganar con un mundo multimodelo

Las palabras de Nadella resultan especialmente llamativas por la posición de Microsoft dentro del mercado.

La compañía ha realizado enormes inversiones en inteligencia artificial y mantiene una estrecha relación con OpenAI.

Al mismo tiempo, Microsoft trabaja con otros proveedores y defiende cada vez más una estrategia en la que las empresas puedan utilizar múltiples modelos.

Eso tiene sentido desde la perspectiva de Azure.

Si ningún modelo domina completamente el mercado, la plataforma que permite ejecutar, conectar y gestionar todos ellos puede convertirse en una pieza todavía más valiosa.

Microsoft no necesita necesariamente que todas las empresas utilicen exclusivamente un modelo concreto.

También puede beneficiarse de que ejecuten modelos de diferentes proveedores sobre su infraestructura.

El gran activo de una empresa podría ser su capa de aprendizaje

Durante años, las compañías han protegido sus bases de datos, aplicaciones y propiedad intelectual.

La era de la IA introduce un nuevo activo. Cada vez que una persona trabaja con un modelo, se genera información sobre cómo debe comportarse ese sistema dentro del contexto de la organización.

Las evaluaciones indican qué respuestas son buenas. Las correcciones muestran qué resultados son incorrectos. Los flujos de trabajo enseñan cómo se realizan las tareas.

Los agentes registran qué herramientas funcionan mejor en cada situación.

Todo ese conjunto puede convertirse en una capa de aprendizaje propia y extremadamente difícil de copiar.

Dos empresas podrían utilizar exactamente el mismo modelo fundacional y obtener resultados radicalmente diferentes si una de ellas ha construido durante años un mejor sistema de contexto, evaluación y aprendizaje.

La verdadera ventaja competitiva puede no estar en el modelo

Los modelos de inteligencia artificial avanzan a una velocidad extraordinaria. El sistema considerado líder hoy puede quedar superado pocos meses después.

Eso hace que depender de un único modelo como ventaja competitiva resulte arriesgado. El conocimiento específico de una empresa, en cambio, puede ser mucho más difícil de reproducir.

Una aseguradora conoce sus riesgos. Un banco entiende determinados patrones de fraude. Una empresa industrial sabe cómo se comportan sus máquinas. Una compañía de servicios conoce las excepciones que aparecen en sus procesos.

La ventaja competitiva aparece cuando ese conocimiento se combina con la inteligencia artificial sin perder el control sobre él.

Por eso, la arquitectura tecnológica puede terminar siendo tan importante como el modelo utilizado.

La próxima batalla de la IA será por quién posee el aprendizaje

El debate sobre inteligencia artificial ha estado dominado hasta ahora por la potencia de los modelos.

Qué sistema razona mejor. Qué modelo programa mejor. Cuál obtiene mejores resultados en las pruebas.

La adopción empresarial está introduciendo una pregunta diferente. ¿Quién se queda con el conocimiento generado mientras la IA aprende a trabajar contigo?

Para Satya Nadella, la respuesta debería ser clara: quien crea ese conocimiento debe conservarlo.

Las empresas pueden seguir utilizando modelos externos, pero deberían controlar sus datos, sus evaluaciones, sus correcciones y sus ciclos de aprendizaje.

También deberían evitar diseñar sistemas completamente dependientes de un único proveedor.

La inteligencia artificial empresarial podría evolucionar así hacia un ecosistema híbrido: modelos propietarios para determinadas tareas, sistemas abiertos para otras, infraestructura propia cuando sea necesario y capas de orquestación capaces de cambiar dinámicamente entre ellos.

En este escenario, el modelo es solo una pieza.

El verdadero tesoro es el conocimiento que se genera cuando las personas, los datos y la inteligencia artificial empiezan a trabajar juntos.

Y Nadella acaba de lanzar una advertencia importante a todas las empresas que están desplegando IA: consumir inteligencia también significa producirla.

La gran pregunta es quién será su dueño.