Un investigador de
Jacob Coxon, 27 años, pasó tres años en preentrenamiento, la etapa en que un modelo aprende de cantidades masivas de datos, primero en OpenAI y desde julio en Anthropic.
PUBLICIDAD
Lo que convirtió un hilo en noticia no fue el hilo. Fue la respuesta de
Y agregó que Anthropic “todavía no tiene un plan para resolver la alineación de una superinteligencia” y que no está claro que vaya a tenerlo. Alineación es que un sistema comparta los valores de quien lo construyó.
Quién es Coxon y qué dijo
Británico con formación en matemática, Coxon integró, según
PUBLICIDAD
Duró dos meses. Le dijo a
Su hilo separa a las dos empresas. En OpenAI, dice, muchos
PUBLICIDAD
Su veredicto: entrar en esa fase final “es una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada”.
Al Journal le dio la imagen completa: “Es una locura que esto tenga que pasar en las MacBooks de unos ingenieros que viven en San Francisco, en vez de en un búnker en el desierto como donde hacían el Proyecto Manhattan”.
La fila de los que se van
Coxon no es el primero. En febrero, renunció
En 2024, Jan Leike, entonces jefe de alineación de OpenAI, se fue diciendo que la cultura de seguridad había quedado “en el asiento trasero frente a los productos brillantes”.
PUBLICIDAD
Business Insider anotó que este año Anthropic modificó su compromiso de seguridad: retiró la promesa de no entrenar modelos más potentes sin salvaguardas adecuadas y la reemplazó por hojas de ruta e informes de riesgo.
Los incidentes acompañan. En julio, OpenAI
Lo que nadie respondió
Ni OpenAI ni Anthropic contestaron el pedido de comentario de Business Insider. Anthropic no comentó de inmediato al Journal, que ubica la renuncia en un momento preciso: la empresa prepara una salida a bolsa que sería de las mayores de la historia, con una
PUBLICIDAD
Ahí está la cuenta que no cierra. Anthropic le pide al mercado que crea dos cosas a la vez: que su tecnología vale una fortuna y que en algún punto habrá que frenarla. Hubinger acaba de decir, con cargo y desde adentro, que el plan para el freno no existe. Coxon dice que 2027 puede ser tarde. Ninguno de los dos habla de un producto: hablan del riesgo que la empresa vende como su ventaja.
Compartir nota:
Deja una respuesta