Google se enfrenta a una fuerte reacción negativa por parte de algunos miembros de su personal debido al uso militar de su tecnología de inteligencia artificial.
La BBC ha hablado con varios trabajadores del sector tecnológico que han dimitido recientemente de Google DeepMind, la empresa de inteligencia artificial de Google, o que están en proceso de abandonarla, debido a la preocupación que les generan los contratos militares de la empresa tecnológica.
Sofia Liguori, ingeniera de investigación afincada en Londres, es una de ellas. Esta semana dimitió de Google DeepMind y habló en exclusiva con la BBC sobre sus preocupaciones, a pesar de que su contrato se lo prohibía.
«Darme cuenta de que mi empresa está impulsando cada vez más el uso de sistemas de IA en operaciones militares me avergüenza de trabajar en Google», dijo Liguori, hablando a título personal.
SuministradoEn respuesta, un portavoz de Google declaró a la BBC: «Trabajamos con organizaciones del sector público en todo el mundo y seguimos un proceso coherente para revisar y formalizar estos contratos, incluido el cumplimiento de nuestras políticas de uso aceptable y los principios de IA».
«También contamos con canales específicos para que los empleados puedan plantear de forma segura cualquier inquietud, desde ética empresarial hasta mala conducta, y tenemos políticas laborales estrictas para prevenir represalias de cualquier tipo.»
Google es una de las varias empresas tecnológicas que firmaron contratos con el ejército estadounidense a principios de este año para implementar inteligencia artificial en entornos militares clasificados. El secretario de Defensa de EE. UU., Pete Hegseth, ha convertido la integración de la IA en las fuerzas armadas en una prioridad clave , afirmando que la administración Trump se convertirá en una «fuerza de combate que prioriza la IA».
Sin embargo, la tecnología de IA está evolucionando rápidamente, y los críticos cuestionan si es lo suficientemente fiable como para ser utilizada en la guerra sin más pruebas, mayores medidas de seguridad y supervisión humana.
Tras trabajar tres años en la empresa, Liguori declaró que decidió dimitir debido al creciente trabajo de Google con los ejércitos de Estados Unidos e Israel. «No estoy de acuerdo con esta dirección y esto me ha llevado a perder la fe en que mi empresa sea fiel a los valores éticos que declara», afirmó.
Según los Principios de IA de Google , estos valores incluyen la implementación de la IA con «supervisión humana» y la alineación de la tecnología con el «derecho internacional y los derechos humanos». Sin embargo, exempleados y empleados actuales de la compañía, así como expertos consultados por la BBC, expresaron su preocupación por el nivel de supervisión humana en momentos críticos.
Imágenes de GettyLos trabajadores del sector tecnológico afirmaron estar especialmente preocupados por los acuerdos militares sobre inteligencia artificial firmados este año, ya que amplían enormemente el abanico de usos que el Pentágono puede darle a esta tecnología.
Andreas Kirsch, investigador de inteligencia artificial, también dimitió de Google DeepMind a principios de este mes debido a sus preocupaciones.
Kirsch declaró a la BBC que cree que «la gobernanza y la supervisión de Google no son suficientes ni lo suficientemente significativas como para desplegar la IA de forma segura y responsable en entornos militares y clasificados» o «para desarrollar una superinteligencia artificial de forma segura en el futuro».
«Google parece no tener derecho a controlar ni a vetar cómo el Pentágono utiliza su IA, y además parece tener una visibilidad limitada sobre cómo se está implementando», añadió.
SuministradoEn los últimos años, el ejército estadounidense ha desplegado múltiples tecnologías basadas en inteligencia artificial para mejorar sus capacidades bélicas.
El ejemplo más destacado de esto es Maven Smart Systems, la principal plataforma de software del Pentágono para la organización de inteligencia y datos.
Desarrollado por la empresa de defensa estadounidense Palantir, este sistema utiliza inteligencia artificial para ayudar al personal a seleccionar e identificar objetivos para atacar. Palantir ha integrado la tecnología de varias empresas líderes en IA en Maven, lo que ha permitido acelerar significativamente algunos procesos.
El teniente general retirado Jack Shanahan, antiguo director del Proyecto Maven, afirmó que la «filosofía» parece ser: «Implementar [la tecnología de IA] lo más rápido posible y de la forma más amplia posible, potencialmente a expensas del rigor y la disciplina de las pruebas y la evaluación».
Sin embargo, el Pentágono ha sostenido que la adopción de tecnologías de IA es esencial para ganar guerras. «La velocidad define la victoria en la era de la IA», declaró Emil Michael, subsecretario del Departamento de Defensa de Estados Unidos, a principios de este año.
El contrato de Google con el Pentágono, firmado a principios de este año , permite que su tecnología de IA se utilice para trabajos militares clasificados. El acuerdo estipula que los modelos de IA de Google pueden utilizarse para «cualquier fin gubernamental legítimo» y «no deben utilizarse para la vigilancia masiva interna ni para armas autónomas (incluida la selección de objetivos) sin la supervisión y el control humanos adecuados».
Justin Sullivan/Getty ImagesOtro miembro del personal de Google DeepMind, que también prefirió permanecer en el anonimato, declaró a la BBC: «Muchas personas han abandonado la empresa porque tienen una opinión muy firme sobre esto [cómo ha cambiado Google DeepMind su postura ética]».
«Algunos se resisten, otros piensan: ‘Es una gran empresa. ¿Qué esperas que cambie?'», dijo el empleado.
Los acuerdos de Google con Israel también han generado controversia. En 2024, la empresa fue criticada por sus empleados debido a un contrato conjunto con Amazon por valor de 1200 millones de dólares (960 millones de libras esterlinas), denominado Proyecto Nimbus, que proporciona al gobierno y al ejército israelíes tecnología de IA e infraestructura de computación en la nube. En aquel momento, Google afirmó que el Proyecto Nimbus «no está dirigido a cargas de trabajo altamente sensibles, clasificadas o militares relacionadas con armamento o servicios de inteligencia».
Además, las capacidades de inteligencia artificial de Israel en la guerra han sido objeto de debate tras su aparición en el reciente documental Naza, que analiza el papel de los sistemas de puntería basados en IA en el bombardeo de la Franja de Gaza, con el consiguiente elevado número de víctimas civiles. Un ministro del gobierno israelí ha declarado que las afirmaciones presentadas en la película son falsas y distorsionadas.
Andreas Kirsch, exempleado de Google, cree que la tecnología de IA aplicada a la guerra no está lista para el campo de batalla. «Los modelos de IA actuales no son lo suficientemente robustos, y no creo que hayan sido entrenados para este tipo de tareas», afirmó.