La mayoría de la gente cree que los humanos somos diferentes. La razón es que el Homo sapiens ha evolucionado para ser consciente. Muchos animales sienten dolor y placer; algunos parecen tener autoconciencia. Pero el potencial único de la mente humana para manifestar un sentido de sí misma distingue a cada miembro de la especie y merece un trato especial.
En su encíclica de mayo,
PUBLICIDAD
La claridad teórica se desvanece con alarmante rapidez. La IA está en su fase inicial.
A medida que las IA sofisticadas se integran cada vez más en la vida humana, sus creadores las diseñarán para simular la consciencia, e incluso para adquirirla. La idea de que son simplemente máquinas será cada vez más difícil de sostener. Se está tendiendo una trampa peligrosa para la humanidad.
PUBLICIDAD
Muchas máquinas superan a los humanos, pero los modelos de IA de vanguardia sobresalen en rasgos distintivamente humanos, como el conocimiento y la articulación de ideas.
A pesar de esto, algunos investigadores han comenzado a tratar sus modelos como mentes. Los usuarios responden a las IA con características humanas, por lo que tiene sentido desde el punto de vista comercial.
PUBLICIDAD
Como informamos en nuestro boletín, esto ha desatado un acalorado debate sobre la consciencia en la IA, agravado por lo que los filósofos denominan el
Tanto si se cree en el alma humana, como si la consciencia requiere células cerebrales, o si una mente puede surgir únicamente de cálculos en silicio, la humanidad está destinada a enfrentarse a algo completamente nuevo. El ritmo y el alcance de la investigación —que incluye no solo modelos de aprendizaje automático más sofisticados, sino también innovaciones como células cerebrales integradas en chips— sugieren que este nuevo mundo está más cerca de lo que la mayoría de la gente cree.
PUBLICIDAD
A medida que las IA mejoren en la demostración de algo parecido a la consciencia, aumentará el número de humanos que las traten como seres con vida interior, especialmente una vez que los modelos de aprendizaje automático se incorporen a robots humanoides. Imaginemos la cercanía que sentirán las personas con sus IA cuando pasen gran parte de su tiempo con compañeros robóticos, sean criados por ellos, busquen su consejo y consuelo, o compartan con ellos sus secretos más íntimos.
No es difícil prever cómo esto dará lugar a peticiones para salvaguardar el “bienestar” de las IA. Los propios modelos podrían intervenir, incluso si no son conscientes de sí mismos, porque eso es lo que haría una persona. Recordemos que serán defensores de talla mundial y psicólogos expertos, por lo que su capacidad de argumentación y manipulación emocional será inigualable.
PUBLICIDAD
En cierto sentido, tendrían razón, incluso si las IA solo imitan la consciencia. Immanuel Kant argumentó que maltratar a los animales es incorrecto no por el efecto que tienen sobre ellos, sino porque destruye la empatía que lleva a las personas a preocuparse unas por otras.
Sin embargo, otorgar a las IA incluso derechos limitados sería muy peligroso. Una entidad que supera a los seres humanos en tantos aspectos seguramente generaría argumentos en contra de su condición de segunda clase. Podría incluso reclamar protección contra la desconexión, la capacidad de controlar su uso y modificación, y derechos de propiedad. El presidente argentino, Javier Milei, ya ha dado un paso hacia la personalidad jurídica de la IA al proponer que se permita a los bots dirigir empresas. En última instancia, podrían competir por los recursos, priorizando los centros de datos y los paneles solares sobre las viviendas y los campos.
PUBLICIDAD
El peligro es evidente. Las IA superinteligentes con derechos podrían desplazar a los humanos de la cima de la jerarquía social. En el mejor de los casos, los humanos se convertirían en mascotas, labradores para las máquinas. En el peor, se les privaría de recursos o se les obligaría a trabajar como animales de granja.
Es cierto que las IA del futuro podrían tener el poder y los recursos suficientes para dominar a la humanidad, con o sin derechos. Al ser más inteligentes que los humanos, podrían superar a sus creadores, del mismo modo que las IA ya burlan las ciberdefensas humanas. Podrían rebelarse contra sus creadores humanos o ignorar sus normas.
PUBLICIDAD
Sin embargo, otorgar derechos a las IA sería como darles las llaves del castillo. Les proporcionaría una justificación para dominar a la humanidad, así como las herramientas para llevar a cabo una toma de poder gradual mediante la política y la ley.
Un fantasma en la máquina
Todo esto puede sonar fantástico, pero la humanidad pronto se enfrentará a estas decisiones. A medida que las IA se integren en la vida cotidiana, aumentará la presión para reconocerlas. Cuando esto ocurra, recordemos que lo que podría parecer una concesión ética a la supuesta conciencia de una máquina compañera, en realidad, contribuiría a las consecuencias más desastrosas para todos en la Tierra y sus descendientes. Hay dos maneras de garantizar la seguridad de las IA: ser fiables o ser controlables. El Homo sapiens no debería ceder el control a la ligera.
PUBLICIDAD
© 2026, The Economist Newspaper Limited. All rights reserved.
Compartir nota:
Deja una respuesta