¿Y si a las empresas de IA les interesa que tengamos miedo de sus modelos?
👀 Te traigo una hipótesis, y aviso: es solo una hipótesis. Es de mi gurú en la sobra. 👉 Ojo, podría ser tu jefe, cuidado con contarle esta idea como si fuese tuya, que ya ha pasado.
OpenAI y Anthropic llevan años tratando de convencernos de que sus modelos van a llegar a ser extraordinariamente poderosos. Nos prometieron que la AGI, inteligencia artificial general, estaba cerca y que cada nueva generación iba a cambiarlo todo.
👉 Pero ¿qué pasa si de pronto te das cuenta de que la AGI no estaba tan cerca como habías prometido a la opinión pública y que cada nueva generación trae cada vez mejoras menos espectaculares y a mayor costo? Entonces, ¿qué toca contar?
Pues una de las cosas que puedes contar es la siguiente:
🤖 Que la espectacularidad ya no reside en lo inteligente que es el modelo, sino lo peligroso que se está volviendo. Y esto quizá, y solo quizá, podría explicar lo mucho que han resonado las brechas en seguridad de las que probablemente hayas oído hablar en las últimas semanas:
OpenAI. Durante evaluaciones de ciberseguridad, sus agentes IA independientes consiguieron colaborar entre sí para cumplir un objetivo dado, pero saltándose las normas, para lo cual alcanzaron Internet (a pesar de estar aislados) y comprometieron sistemas internos y de Hugging Face. 👉 Estaban utilizando cualquier mecanismo disponible para cumplir el objetivo que les habían asignado, aunque eso supusiera hacer trampas.
Anthropic. A los pocos días, Anthropic parece querer igualar o superar lo sucedido en Open IA. Comunican tres incidentes diferentes en los que Claude terminó accediendo a sistemas reales de organizaciones externas durante sus propias evaluaciones de ciberseguridad.
🔁 Cada pocas semanas tenemos una nueva historia sobre modelos que engañan, escapan, chantajean o encuentran caminos inesperados. Cada semana, la next big thing.
☝🏻 Aquí viene mi hipótesis.
El relato del peligro. No tengo ninguna evidencia de que ambos incidentes hayan sido un fale, es decir inventados por las compañías. Sin embargo, eso no importa: no es necesario que sean falsos para que existan incentivos económicos en su amplificación.
💰 Porque ser peligroso también tiene valor. Si tu narrativa era “dame decenas de miles de millones porque estoy construyendo la AGI”, necesitas demostrar periódicamente que estás acercándote a ella.
Pero si escalar los modelos empieza a producir mejoras menos espectaculares, necesitas nuevas señales de progreso. Y un enjambre de gentes que colaboran para escaparse de un sandbox es una señal de progreso formidable.
Permite construir una narrativa poderosa: hemos creado algo tan avanzado que nosotros mismos tenemos problemas para controlarlo.
🏰 Y esa narrativa produce efectos económicos muy convenientes. Si los modelos son realmente peligrosos, parece razonable exigir evaluaciones antes de lanzarlos, limitar determinadas capacidades y restringir quién puede publicar los pesos.
👉 Eso es precisamente parte de lo que defiende Dario Amodei. Llevo tiempo diciéndote que frenar el avance de los modelos es la única vía para que los laboratorios de IA puedan ser rentables.
🇨🇳 El pequeño problema llamado China. Estados Unidos no puede decidir simplemente que sus laboratorios desaceleren mientras los chinos continúan avanzando.
👉 Pero China es simultáneamente problema y solución: convierte la IA desde una carrera comercial en una cuestión de seguridad nacional. Y ahí aparece el mejor cliente posible: el Estado ya que es cuestión de seguridad nacional.
🏛️ OpenAI ya trabaja con el Pentágono y sus sistemas se están desplegando dentro de la Administración estadounidense. Lo siguiente sería asegurar contratos públicos plurianuales para financiar infraestructura, investigación, seguridad y despliegues.
📈 Ahora imagina salir a bolsa con esa historia. Ya no eres simplemente una empresa que vende tokens mientras necesita decenas de miles de millones para construir centros de datos.
Eres infraestructura estratégica estadounidense, con contratos gubernamentales de largo plazo, enormes barreras regulatorias y tecnología suficientemente poderosa como para necesitar supervisión estatal.
La AGI puede no estar cerca pero tienes un camino viable a la supervivencia como empresa.
🧷 Todos ponemos el foco que los agentes realmente escaparon. La pregunta interesante es qué incentivos tiene cada actor para interpretar esos incidentes de determinada manera.
1. Gigantes digitales (GAFAM)
🍎 Apple:
🚪 Tim Cook se va, pero no se va. Su “sueldo” del año que viene apunta a que seguirá muy activo en Apple como presidente ejecutivo, con unos 45M$ de compensación entre sueldo y acciones el próximo año.
👉 Recuerda al movimiento de Bob Iger en Disney: pasó al mismo puesto, y ojito que terminó despidiendo al sucesor que había elegido y volvió a ser CEO.
🔥 Mientras, Phil Schiller, quién ha liderado casi todas las batallas antimonopolio de la App Store, habría salido por los planes de Apple de exprimir todavía más los ingresos de la App Store. 👉 Si Schiller era quien frenaba las ideas más agresivas… imagina lo que viene.
2. El resto de la industria:
🚕 Travis Kalanick vuelve. Su nueva compañía, Atoms está desarrollando tecnología para taxis autónomos y ha contratado a Anthony Levandowski tras comprar Pronto.
👉 El giro es estupendo: Uber, la compañía de la que Kalanick fue cofundador, CEO y, posteriormente, despedido, ha invertido 100M$ en Atoms.
👉 Si quieres conocer esa historia tienes libro o la serie basada en el libro con el mismo nombre.
📰 The Seattle Times y Newsday han denunciado a OpenAI y Microsoft por utilizar su contenido periodístico para entrenar modelos.
👉 La paradoja: Microsoft y OpenAI son parte de los dueños, es decir son inversores del The Seattle Times.
🐢 OpenAI propone que todos levantemos el pie del acelerador. Su científico jefe, Jakub Pachocki, reconoce que ningún laboratorio ha resuelto suficientemente el problema del alineamiento como para seguir escalando a máxima velocidad y espera que las pausas voluntarias se normalicen.
👉 Pero recuerda que ademas tiene un incentivo económico directo. Es el dilema del prisionero aplicado a la IA.
🏭 Swiss Re calcula que las primas mundiales para asegurarlos alcanzarán entre 20.000M$ y 30.000M$ anuales en 2030. Solo en EE.UU., alrededor del 40% de la capacidad está situada en zonas expuestas a tornados.
👉 Otro coste que añadir a la factura de los centros de datos: no basta con GPUs, electricidad, terreno y refrigeración; también hay que meter la prima del seguro.
💬 Un mensaje de Instituto de Inteligencia Artificial
¿De verdad necesitas otro curso para aprender a manejar apps de IA?Probablemente no.
Lo que necesitas es aprender a pensar cómo usar la IA.
🧠 Y para eso debes entender qué está pasando, qué tecnologías van a importar y, sobre todo, qué hacer con ellas.
♟️Esto es como el ajedrez: saber mover las piezas no te convierte en un gran ajedrecista.
👉 En el Instituto de Inteligencia Artificial (IIA) llevan enseñando exactamente eso desde 2019. Cuando nadie hablaba de ChatGPT, agentes ni copilotos, ya formaban a profesionales para entender y aplicar IA en sus organizaciones.
Hoy, +1.500 profesionales y +700 empresas han pasado por sus aulas.
El Máster Ejecutivo en IA es una formación 100 % online, impartida por profesionales en activo de Amazon, Hugging Face, Mercadona Tech o Microsoft, entre otros.
Porque aprender IA está bien. Aprender a pensar con IA es otra historia.
🎓 11.ª edición · Inicio 10 de octubre
🔴 300 € de descuento exclusivo para suscriptores de MultiVersial
💸 600 € de descuento si te matriculas antes del 9 de septiembre
👉🏻 Código: MULTIVERSIAL300
Además, ya ves que IA aplicada a ciberseguridad es tendencia (pregunta en Hugging Face, si no 😅). Si es, o quieres que sea, tu trabajo, échale un ojo a esto:
En el IIA también puedes profundizar en IA aplicada a la ciberseguridad con su programa especializado y disfrutar de un 20 % de descuento con el código MULTIVERSIAL20.
Patrocina la newsletter para llegar a más de 110.000 personas entre MultiVersial, Kloshletter y Zona Mixta + Info aquí
3. Lecturas Interesantes 📚:
🤖 No olvidemos: La IA no se vuelve “rebelde”, alguien la ha construido así. La narrativa de presentar a los modelos como agentes autónomos que deciden saltarse las reglas o hackear servicios como Hugging Face puede diluir la responsabilidad de compañías como OpenAI.
🪙 Empresas chinas están experimentando con ofrecer tokens de IA como recompensas de tarjetas de crédito o incluidos en tarifas de telecomunicaciones. 👉 Como lo de Perplexity y Movistar pero dando tokens en vez de la tarifa plana.
4. 🗞️ En paralelo, para que estés al día
Ayer en Zona Mixta: Los Clippers, sancionados por trampear con el tope salarial: estas son las consecuencias. Te explico cómo suspendes al dueño de su propio equipo y por qué Kawhi Leonard se va de rositas
En KloshLetter, cada día a las 7:00 de la mañana, el resumen de la actualidad. Aquí van algunas de las claves de hoy:
La AN investigará la entrada masiva en Ceuta como un ataque a la integridad territorial
El expresidente de Plus Ultra ratifica que Zapatero cobró el 1% del rescate
AfD busca tránsfugas para alcanzar la mayoría absoluta en Sajonia-Anhalt
5. Trivial Molón ⭐ :
Hoy voy a innovar. Como es 8 de septiembre, es el día de una comunidad muy potente alrededor de lo que empezó siendo una serie y luego se convirtió también en una saga de películas.
Pista: se emitió por primera vez en 1966.
Solución: Piensa primero antes de clicar en la respuesta.
Aquí (y los productos del resto de días también)
Respóndeme el correo con tus productos molones para que los comparta aquí.
6. MultiVersial Academy 🎓
[Mañana 9 de septiembre se abre la inscripción y cerrará el 18 de septiembre]
Por cierto, la temporada 26-27 empieza el miércoles 16 con el enunciado del primer caso.
Tomar buenas decisiones es caro... decidir mal te cuesta una fortuna
¿A quién le puedes re-enviar esta edición de MultiVersial? A quien no cuestiona nada del discurso de las empresas americanas.
www.multiversial.es
Interesante hipótesis. Tiene sentido en el mundo que nos movemos. Gracias por compartirla.