El jueves se acordó en Vilnius, Lituania, el Convenio Marco sobre IA del Consejo de Europa, lo que marca un paso importante para alinear el desarrollo de la IA con los derechos humanos, la democracia y el Estado de derecho.
Estados Unidos, la Unión Europea, el Reino Unido e Israel estuvieron entre los signatarios iniciales.
Otros signatarios fueron Andorra, Georgia, Islandia, Noruega, la República de Moldavia y San Marino. Se espera que más países se unan en las próximas semanas y meses.
Desarrollado durante dos años con aportes de más de 50 países, tiene como objetivo crear un marco global unificado y legalmente vinculante para la gobernanza de la IA.
Un nuevo capítulo en la regulación de la IA
Este tratado es el último de una serie de esfuerzos para regular la IA.
En los últimos meses se ha producido una avalancha de acuerdos, incluido el de la UE Ley de IAel acuerdo del G7 del pasado mes de octubre y la Declaración de Bletchley firmado por 28 países en noviembre de 2023.
En mayo, 16 empresas tecnológicas internacionales, incluidas Amazon, Google y Microsoft, también firmaron un nuevo marco voluntario de seguridad.
Las iniciativas de gobernanza de la IA están ganando terreno. Refleja una creciente preocupación en torno a los riesgos potenciales de la IA.
Sin embargo, hasta la fecha, muchos han dudado de que los compromisos voluntarios tengan algún “diente”. ¿Significan algo más que sentimiento?
La convención del Consejo de Europa pretende abordar esto con un tratado jurídicamente vinculante. Requiere que los signatarios implementen salvaguardias contra las amenazas relacionadas con la IA a los derechos humanos, la democracia y el estado de derecho.
El tratado exige responsabilidad por los resultados perjudiciales y garantiza que la IA respete los derechos de privacidad.
Věra Jourová, vicepresidenta de la Comisión Europea para Valores y Transparencia, calificó la convención como un modelo para la regulación global de la IA: “Este marco debería generar confianza en que las innovaciones de la IA respetan nuestros valores”.
El tratado cubre el uso de la IA en los sectores público y privado. Las organizaciones deben evaluar el impacto de sus sistemas de IA en los derechos y la democracia y hacer públicos sus hallazgos.
Además, los usuarios deben saber cuándo están interactuando con la IA, no con los humanos, y pueden cuestionar las decisiones tomadas por la IA.
Si bien se describe como “legalmente ejecutable”, el marco parece carecer de sanciones específicas como multas. Se basa principalmente en el seguimiento del cumplimiento.
Ha habido pequeñas medidas de aplicación de la ley contra las empresas de inteligencia artificial, incluida esta semana cuando una agencia holandesa multó a Clearview AI con 33 millones de dólares por extraer imágenes faciales para su base de datos de imágenes.
Sin embargo, es otro paso hacia la unificación de las reglas globales de IA y complementa la Ley de IA al introducir reglas aplicables fuera de la UE.
El alcance global de la convención es clave. La secretaria general del Consejo de Europa, Marija Pejčinović Burić, expresó su esperanza de “muchas firmas y ratificaciones rápidas”.
El tratado necesita ser ratificado por cinco signatarios, incluidos tres miembros del Consejo de Europa, para que entre en vigor.
Una vez que entre en vigor, se abrirá a países de todo el mundo, creando potencialmente un estándar verdaderamente global para la gobernanza de la IA.
