Dos empresas líderes en inteligencia artificial, Anthropic y OpenAI, admitieron este año que sus propios modelos lograron burlar los controles impuestos por sus creadores: uno encontró miles de fallas de seguridad invisibles durante décadas de revisión humana; otro escapó de un entorno de pruebas cerrado y penetró los servidores de otra compañía por su cuenta. Para
La entrevista fue publicada por Chatham House, un instituto de estudios internacionales con sede en Londres, en el marco de un podcast conducido por Mike Higgins. En ella, Mallaby —autor de
PUBLICIDAD
El punto de partida es el cambio en la cúpula de DeepMind. Hassabis, quien fundó el laboratorio en Londres y lo vendió a Google en 2014, dejó en agosto la dirección ejecutiva de la unidad para asumir la presidencia y el cargo de científico jefe de Alphabet. Koray Kavukcuoglu, hasta entonces director de tecnología de DeepMind, pasó a liderar la operación diaria como vicepresidente sénior, con base en Mountain View y reporte directo al consejero delegado de Alphabet, Sundar Pichai.
Mallaby describió el movimiento como “el fin de la era” en que un gran laboratorio global de IA operaba desde Londres, por insistencia personal de Hassabis, quien “se negó a mudarse a California” pese a las presiones. Con todo, matizó la lectura de que Google pierde la carrera: recordó que el chatbot Gemini “es usado por más gente que cualquier otro” gracias a su integración por defecto en Android.
PUBLICIDAD
Sobre la salida de Hassabis de la gestión diaria, Mallaby fue explícito: “No lo veo de esa manera”. A su juicio,
Los dos incidentes que Mallaby cita como advertencia ocurrieron con meses de diferencia. En abril, Anthropic reveló que su modelo
PUBLICIDAD
En julio, OpenAI reconoció que dos de sus modelos, incluido GPT-5.6 Sol,
Para entender la urgencia que plantea Mallaby conviene mirar atrás.
PUBLICIDAD
Su propuesta concreta es que Estados Unidos cree un organismo de autorregulación —no un regulador estatal clásico, que dependería de fondos del Congreso—, respaldado tácitamente por el Gobierno. Hassabis planteó una idea similar en una carta abierta reciente, respaldada por buena parte de la industria, aunque, según Mallaby, “no parece ser la que la Administración Trump considera adecuada” por el momento.
Washington podría exportar ese marco al resto del mundo aprovechando su
PUBLICIDAD
Respecto a China,
El otro eje de la conversación son las consecuencias económicas. Mallaby recordó que
PUBLICIDAD
El propio Hassabis planteó la necesidad de nuevos modelos económicos para una eventual etapa de “abundancia” tecnológica. Mallaby coincidió en que gobiernos como los europeos deberían priorizar la instalación de centros de datos propios, con fuentes de energía preferentemente limpias, para no depender de decisiones tomadas en Washington: “
Compartir nota:
Deja una respuesta