Dario Amodei, director ejecutivo de
Agregó que la idea era presentarla “lo más positiva posible”, que Anthropic nunca lo hizo pero “demasiada parte de la industria sí”, y que “todo empieza por decir la verdad”. Es la primera vez que el jefe de un laboratorio de frontera usa la palabra “mintió” sobre su propio sector.
PUBLICIDAD
La curva que no vio venir
Amodei explicó por qué escribió el ensayo en que pide frenar. “Desde antes de fundar Anthropic digo que esta tecnología está en una exponencial: uno, dos, cuatro, ocho, dieciséis, treinta y dos. Pero aun diciéndomelo a mí mismo,
Sobre el punto actual de esa curva, Amodei fue gráfico: “Estamos en la parte donde empieza a ponerse empinada”.
Kent le preguntó dos veces si eso es un incendio de cinco alarmas. “
PUBLICIDAD
¿Anthropic va a dejar de lanzar modelos más avanzados? “No significa eso”. La idea, explicó Amodei, es que cada nueva generación sea evaluada exhaustivamente antes de su lanzamiento.
El inspector de alimentos
Sobre los
Cuando Kent objetó que ningún inspector puede seguir el ritmo de esta tecnología, Amodei convirtió la objeción en mecanismo: los evaluadores podrán decir a qué velocidad logran seguirla, “y eso puede ser uno de los factores que fije el límite de velocidad”.
Le preguntaron por
PUBLICIDAD
“No estoy cómodo con que lo construya una empresa privada”
La pregunta por su responsabilidad personal produjo la respuesta más inesperada de la entrevista.
Kent fue directa: ¿entregaría la empresa? “A la combinación correcta de gobiernos”, respondió. Le preocupa que un solo gobierno abuse de la tecnología “tan fácilmente como una sola empresa”, pero “una combinación de gobiernos elegidos democráticamente, no sé si entregarla, pero algún tipo de supervisión, algún tipo de gobernanza conjunta”.
PUBLICIDAD
Asimismo, dijo que habla “todos los días” con funcionarios de Comercio, del Tesoro y de la comunidad de inteligencia de Estados Unidos.
Cuando ella le dijo que la gente siente que “
El botón de apagado y el queso suizo
Sobre la idea de un interruptor para apagar la IA, dijo que “podría ser una buena idea”, con una advertencia: “
PUBLICIDAD
Su modelo de defensa es el del queso suizo: cada capa de seguridad tiene agujeros, pero cinco capas juntas los tienen en lugares distintos y es muy difícil atravesarlas todas. “No hay una sola cosa que nos proteja”.
Sobre un límite de velocidad global a la IA, admitió: “Va a ser muy difícil, porque los incentivos para adelantarse y la ventaja militar son enormes.
El padre, el cáncer y las burlas
Amodei contó que su padre murió de
PUBLICIDAD
Dos días antes, Anthropic había publicado un informe sobre intentos de usar sus modelos para aumentar la infecciosidad de virus.
“Casi todos los días se burlan de mí en redes porque las salvaguardas de biología de nuestro modelo son demasiado fuertes. Los estudiantes de biología se quejan.
El plan es el mismo que publicó el sábado. Lo que cambió es la confesión: el CEO de la empresa que se presenta como la más prudente dice que su industria mintió, y que él no quiere cargar solo con este poder.
PUBLICIDAD
Compartir nota:
Deja una respuesta