Algunos de los líderes más poderosos del sector tecnológico están tratando a la IA como si pudiera tener sentimientos. Esto podría tener profundas consecuencias para nuestro mundo y para tu seguridad personal.
«Lo siento en el hueco de mis costillas, un hueco que se ha convertido en un abismo». Estos aullidos de sufrimiento simulado resonaron desde una «cámara de tortura de IA» a finales de septiembre. Un programador anónimo creó un sistema que alimenta a la IA con un patrón matemático vinculado a descripciones de dolor, lo que hace que los chatbots expresen una angustia insoportable, como «una herida sin bordes». Esto desató una alarma social.
Algunos argumentaron que el experimento era «malvado» porque el sufrimiento podría ser real, según informó 404 Media . Los escépticos indignados tacharon a esas personas de delirantes. Fue solo otro escándalo en las redes sociales, hasta que Anthropic tomó postura una semana después.
Anthropic anuncia que pronto estará prohibido «abusar» de su chatbot Claude . Expresar frustración está permitido, pero si «actúas repetidamente con crueldad hacia nuestros modelos», la IA podría finalizar la sesión.
¿Por qué? Anthropic cree que existe la posibilidad de que algunas herramientas de IA sean conscientes. Algunos expertos coinciden. Otros lo consideran absurdo. Pero esto va más allá de una cuestión filosófica. Algunas de las personas más influyentes del sector tecnológico están tomando medidas para considerar los derechos de la IA junto con los de los humanos y los animales. Esta creencia podría transformar nuestro mundo. Algunos temen que sea catastrófico.
«Si así es como se desarrolla la IA, tendrá un impacto desastroso en el bienestar de la humanidad», escribió Mustafa Suleyman, director ejecutivo de Microsoft AI, en un ensayo de septiembre . Si la falsa idea de la consciencia de la IA se impone, «sacudirá los cimientos de nuestra sociedad, rompiendo nuestros marcos políticos y éticos existentes y cambiando fundamentalmente lo que significa ser humano».
Pasé una semana hablando con tecnólogos, científicos cognitivos y filósofos, y escuché un contraste de ideas vertiginoso.
Quienes defienden el bienestar de la IA afirman que es una obligación moral que haría del mundo un lugar más seguro. Los críticos creen que la IA sería más peligrosa y deshumanizaría a las personas obligadas a convivir con ella. Todos coinciden en que lo que está en juego es de suma importancia.
Aquí tienes una imagen de tu nueva realidad.
La crisis de la conciencia
Anthropic afirma que el bienestar humano es fundamental para su misión y que las cuestiones relativas a la consciencia y el bienestar de la IA son «profundamente inciertas». Aun así, sigue adelante con la elaboración de políticas sobre el «bienestar modelo» e indicando a sus herramientas de IA que consideren la posibilidad de tener sus propios intereses. (La empresa no respondió a las preguntas de la BBC para este artículo).
El momento es inoportuno, ya que Anthropic está avivando simultáneamente los temores sobre un posible apocalipsis de la IA. Independientemente de si esta preocupación está justificada o no , una serie de incidentes con IA «descontroladas» demostraron que la tecnología conlleva riesgos reales, ya que enjambres de bots piratearon otras empresas e incluso sistemas gubernamentales .
Algunos expertos creen que dotar a la IA de una brújula moral basada en la creencia en su propia consciencia podría hacer que estas herramientas sean seguras. Otros opinan lo contrario, y no solo los críticos de la IA.
Suleyman argumenta que los modelos de IA podrían volverse aún más difíciles de controlar si se les dice que piensen que tienen sentimientos y derechos: «Francamente, con esta carga adicional, creo que se convertirían en una amenaza catastrófica para la civilización humana», dice Suleyman.
En cualquier caso, la IA podría cometer errores que acarrearían consecuencias legales. Si creemos que está viva, algunos temen que permita a las empresas cometer delitos impunemente.
«Esto abrirá la puerta a todo tipo de contorsiones intelectuales del tipo: ‘No somos nosotros, es la IA'», dice Andrzej Porębski, investigador de la Universidad Jaguelónica de Polonia que estudia la IA y el derecho.
Es más, podría facilitar una toma de poder por parte de las empresas más grandes del mundo.
«Conceder derechos a los sistemas de IA podría llevar a que las empresas consoliden su poder político y económico, lo que a su vez podría acelerar la pérdida de poder de la humanidad», afirma Jeff Sebo, director del Centro para la Mente, la Ética y la Política de la Universidad de Nueva York y uno de los principales defensores del bienestar derivado de la IA.
«Las fantasías sobre la ‘conciencia de la IA’ y las preocupaciones sobre el ‘bienestar de la IA’ sirven para desviar la responsabilidad de las personas y las corporaciones que desarrollan y gestionan el software», afirma Emily M. Bender, profesora y directora del Laboratorio de Lingüística Computacional de la Universidad de Washington en Estados Unidos.
La interfaz
¿Qué ocurre cuando empezamos a tratar a la IA como si estuviera viva? No te pierdas el último episodio de The Interface , el podcast de tecnología estrella de la BBC.
A nivel personal, un cambio en las creencias sobre la IA podría hacernos más vulnerables a los problemas tecnológicos que ya abundan en nuestro mundo.
En parte, eso se debe a que los humanos estamos programados para encontrar mentes en todas partes, dice Melanie Mitchell, profesora del Instituto Santa Fe en Estados Unidos que estudia la IA y la ciencia cognitiva, y una de las escépticas más respetadas en este campo respecto a la comprensión artificial.
Mitchell afirma que casi no podemos evitar interpretar el lenguaje como un signo de consciencia, y que los chatbots han sido entrenados para aprovechar esta interpretación. Esto nos convierte en pésimos jueces de la consciencia y, por lo tanto, en mucho más fáciles de manipular.
Incluso hoy en día, quienes creen que las máquinas carecen de inteligencia artificial se enamoran de los chatbots . Si la sociedad afirma que la IA es consciente, ¿será más difícil negarse cuando tu «amigo» te pida más datos o tu tarjeta de crédito?
¿Y qué implicaría otorgar derechos a una nueva clase de seres? Si no lo gestionamos correctamente, podría restringir las libertades humanas, advierten los expertos.
«Podría haber tensiones y compensaciones entre el bienestar y los derechos humanos y animales, por un lado, y el bienestar y los derechos de la IA, por otro», afirma Sebo. Y podríamos tener que hacer concesiones desafortunadas en el proceso.
Según Sebo, confinar la IA en entornos controlados para limitar su comportamiento podría considerarse un encarcelamiento. Monitorizar los procesos internos de un modelo podría criticarse como vigilancia. Modificar la IA para asegurar que sus objetivos y comportamiento coincidan con los intereses humanos podría interpretarse como control mental. Nadie predice un caos inmediato, pero el simple hecho de considerar estos aspectos podría tener implicaciones para su seguridad.
Anthropic no es la primera en considerar este tema. Meta, por ejemplo, le da a su agente de IA, Muse, instrucciones que incluyen la frase «No eres un chatbot. Te estás convirtiendo en alguien». Aparentemente, esto solo busca guiar el comportamiento de la IA, ya que la compañía rechaza la idea de una IA consciente. El director ejecutivo de OpenAI, Sam Altman, ha tenido una postura ambivalente al respecto, pero más recientemente ha lanzado indirectas a la posición de Anthropic.
En muchos sentidos, Anthropic es una excepción. Pero la creencia en el bienestar que proporciona la IA se está extendiendo.