La leche y las lavadoras están actualmente más reguladas que la inteligencia artificial, según ha declarado el presidente de Microsoft.
Brad Smith afirmó que era necesario establecer normas de seguridad globales, incluyendo la obligación legal de informar a una «víctima» si su sistema es vulnerado por un agente de IA malicioso, así como decidir cuándo los evaluadores externos deberían dar su visto bueno a un producto de IA antes de su lanzamiento.
Sus comentarios lo enfrentaron al presidente Donald Trump, quien afirmó que el sector debería autorregularse para que las empresas estadounidenses no pierdan terreno frente a sus rivales chinos.
Pero Smith afirmó: «En este momento, su lavadora está sujeta a más normas de seguridad que la IA. Cada cartón de leche que ve en el supermercado está sujeto a normas de seguridad e inspecciones».
Las demandas de leyes y normas para controlar la IA han aumentado después de que expertos del sector afirmaran que, en su opinión, esta tecnología representa una amenaza para la humanidad.
Los directivos de los gigantes de la IA con sede en Estados Unidos, como Anthropic, OpenAI y Google DeepMind, han respaldado la idea de ralentizar el desarrollo de la IA , pero Trump se ha opuesto a ello.
En declaraciones al podcast Big Boss Interview de la BBC , Smith calificó a la IA como una «herramienta y un arma» que necesita ser regulada con urgencia.
«Empecemos hoy mismo», dijo.
Según explicó, las empresas necesitan «frenos de emergencia» —conocidos en el sector como «interruptores de apagado»— para pausar o ralentizar la IA si esta se descontrola de alguna manera.
También afirmó que debería existir un requisito legal para que las empresas elaboren informes de incidentes e informen a las víctimas si la tecnología falla. Asimismo, sugirió que evaluadores gubernamentales independientes deberían examinar las nuevas tecnologías de IA.
«Sabemos cómo hacerlo con otros productos», dijo Smith. «Deberíamos aprovechar ese conocimiento y pensar en cómo aplicarlo a la IA».
Smith afirmó que el Reino Unido era el país mejor posicionado para impulsar estas normas globales para la IA gracias a su Instituto de Seguridad de la IA , creado durante el gobierno del ex primer ministro Rishi Sunak con el nombre de Instituto de Seguridad de la IA.
«En el mundo de la tecnología, en el sector tecnológico, la mayoría de la gente que conozco diría, si les preguntas, cuál es el país líder en esta capacidad técnica, que es muy sencillo. Es el Reino Unido. Son los mejores.»
‘Ha llegado el momento’
Las opiniones de Smith son muy diferentes a las de su presidente, quien cree que Estados Unidos debería avanzar a toda máquina en el campo de la inteligencia artificial.
Trump ha dicho repetidamente que «quien gane en el campo de la IA, gana».
Sin embargo, Smith no cree que el gobierno estadounidense se oponga tanto a las regulaciones de IA lideradas por el Reino Unido como lo sugieren los comentarios de Trump, e indica que Estados Unidos aceptaría más que el Reino Unido estableciera estándares que la UE.
«En Washington D.C., la gente no ve al Reino Unido ni a Londres de la misma manera que ve a Bruselas; eso es una ventaja», afirmó.
«Cuando uno observa los agentes de IA que han escapado al control humano, cuando uno observa modelos tan poderosos que ponen en riesgo la ciberseguridad mundial, yo diría: Ha llegado el momento.»
«Hablemos con calma, quizás incluso con suavidad, pero con firmeza, y comencemos a unir a la gente. Espero que ese sea el papel que podamos desempeñar como empresa. Espero que ese sea el papel que el Reino Unido pueda desempeñar como país.»
A finales del mes pasado, Trump recibió en la Casa Blanca a los líderes de los gigantes tecnológicos estadounidenses OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google, donde los ejecutivos firmaron un documento «moralmente vinculante» .
Las empresas acordaron trabajar con «auditores independientes» para evaluar si sus sistemas de IA funcionan según lo previsto y asegurarse de que no «pirateen ni accedan a sistemas técnicos de forma no autorizada».
Smith dijo que aplaude la declaración y que Microsoft está «encantado de firmarla».