Representantes de alto nivel de Estados Unidos y China se han reunido en Ginebra, Suiza, para abordar los complejos desafíos y riesgos potenciales de la IA.
Esta serie de conversaciones, acordadas por el presidente Joe Biden y el presidente Xi Jinping, se han llevado a cabo en relativo secreto.
Tarun Chhabra del Consejo de Seguridad Nacional de la Casa Blanca y el Dr. Seth Center, enviado especial interino para tecnología crítica y emergente en el Departamento de Estado, dialogarán con sus homólogos chinos del Ministerio de Relaciones Exteriores y la Comisión Nacional de Desarrollo y Reforma.
La agenda cubre un amplio espectro de cuestiones relacionadas con la IA centradas en la seguridad.
Además de cumplir un propósito práctico al evitar que el daño de la IA se salga de control, también es simbólico que la seguridad de la IA trasciende A NOSOTROS-Competencia china, al menos en algún nivel.
un sin nombre A NOSOTROS El funcionario reconoció las perspectivas divergentes entre los dos países y afirmó: “Si bien es posible que no coincidamos con China en numerosos temas y aplicaciones relacionados con la IA, creemos firmemente que la comunicación abierta sobre los riesgos críticos de la IA es esencial para garantizar una vida más segura”. mundo.”
Según se informa, esta sesión en particular explorará la IA en contextos militares, pero no abordará los temas en curso. A NOSOTROS sanciones contra china.
En cambio, las conversaciones están diseñadas para ser pragmáticas y establecer puntos comunes sobre la seguridad de la IA en lugar de centrarse en las relaciones geopolíticas.
Las conversaciones de Ginebra también contribuirán al creciente impulso internacional para desarrollar un marco para la gobernanza de la IA.
Abierto AI director ejecutivo Sam altman habló recientemente sobre el establecimiento de una agencia viva que respire para auditar y controlar los riesgos de la IA, similar a la Agencia Internacional de Energía Atómica (OIEA).
Su razonamiento es convincente: “He impulsado un enfoque basado en agencias para cosas similares al panorama general y no… escribirlo en leyes… en 12 meses, todo estará escrito mal”.
Entonces, ¿por qué no ha sucedido eso?
En este momento, obtener una colaboración internacional completa en materia de seguridad de la IA parece ir demasiado lejos. Incluso si China y el A NOSOTROS Si se acordara, Rusia permanecería firmemente en la periferia.
A pesar de los obstáculos, el A NOSOTROS y China han mostrado cierta voluntad de colaborar en cuestiones de IA a nivel internacional.
En marzo, el A NOSOTROS introdujo un resolución no vinculante en la ONU abogando por una IA “segura y confiable”, lo que aseguró el apoyo de China.
Sin embargo, hay otra razón para que China acelere estas discusiones. Parece seguro que A NOSOTROS Armamento de IA, incluido aviones de combate autónomosque recientemente presentó una demostración, está muy por delante de China. Obtener garantías de la A NOSOTROS sobre cómo se utilizará dicha tecnología no estaría de más.
Jason Glassberg, cofundador de Casaba Security y destacado experto en amenazas emergentes de la IA, sugiere que las conversaciones servirán principalmente como base para el diálogo futuro y es posible que no produzcan resultados inmediatos y tangibles.
Glassberg enfatiza la importancia de que ambas naciones reconozcan los peligros potenciales del mal uso de la IA. indicando“Lo más importante en este momento es que ambas partes se den cuenta de que tienen mucho que perder si la IA se utiliza como arma o se abusa de ella”.
Añadió: “Todas las partes involucradas corren el mismo riesgo. En este momento, una de las áreas de mayor riesgo son las deepfakes, particularmente para su uso en campañas de desinformación”.
Con el A NOSOTROS y el diálogo en curso de China aparentemente avanza, puede que no pase mucho tiempo antes de que veamos el establecimiento de una agencia internacional para la seguridad de la IA.
