INFORME: Cómo es el plan de la ONU para dar forma al futuro de la Inteligencia Artificial
[jp_post_view]
Una propuesta para un modelo de gobernanza políticamente más viable que podría ampliarse en el futuro proviene de un libro blanco publicado en agosto por investigadores de varias organizaciones académicas y sin fines de lucro, y el gigante tecnológico Microsoft.
Redacción | Primer Informe
Mientras la Asamblea General de las Naciones Unidas se reunía esta semana en Nueva York, el enviado del Secretario General de las Naciones Unidas para la tecnología, Amandeep Gill, organizó un evento titulado Gobernando la Inteligencia Artificial (AI) para la Humanidad, donde los participantes discutieron los riesgos que la IA podría plantear y los desafíos de lograr la cooperación internacional. sobre inteligencia artificial.
El Secretario General António Guterres y Gill han dicho que creen que se necesitará una nueva agencia de la ONU para ayudar al mundo a cooperar en el manejo de esta poderosa tecnología. Pero los temas que la nueva entidad buscaría abordar y su estructura aún están por determinarse, y algunos observadores dicen que planes ambiciosos para la cooperación global como este rara vez obtienen el apoyo necesario de las naciones poderosas.
Gill ya ha liderado esfuerzos para hacer que las formas avanzadas de tecnología sean más seguras. Fue presidente del Grupo de Expertos Gubernamentales de la Convención sobre Ciertas Armas Convencionales cuando la Campaña para Detener los Robots Asesinos, que buscaba obligar a los gobiernos a prohibir el desarrollo de sistemas de armas letales autónomas, no logró ganar terreno entre las superpotencias globales, incluidos Estados Unidos y Rusia. Ahora, Gill está liderando un esfuerzo aún más ambicioso para fomentar la cooperación internacional en IA.
La IA se ha desarrollado a un ritmo vertiginoso en los últimos años y los expertos no esperan que este progreso se desacelere en el corto plazo. Los impactos de la IA se sentirán mucho más allá de las fronteras de los países en los que se desarrolla, lo que llevó a los líderes y tecnólogos mundiales a pedir cooperación internacional en cuestiones de IA.
En una reunión del Consejo de Seguridad de la ONU en julio, Guterres defendió que la ONU era el foro apropiado para esta cooperación. El Órgano Asesor de Alto Nivel sobre Inteligencia Artificial, cuya membresía se anunciará en octubre, es el siguiente paso hacia el establecimiento de una agencia de IA de la ONU.
LEA TAMBIÉN: Un ingeniero de Google asegura que un bot de inteligencia artificial adquirió consciencia
Órgano Asesor de Alto Nivel
Gill, quien anteriormente se había desempeñado como director ejecutivo del Panel de Alto Nivel sobre Cooperación Digital de la ONU de 2018 a 2019, fue designado enviado tecnológico en junio de 2022.
En agosto de este año, la oficina del enviado tecnológico abrió el proceso de selección de expertos para formar parte de un Órgano Asesor de Alto Nivel sobre Inteligencia Artificial con una convocatoria pública de nominaciones.
Se envió a los estados miembros una convocatoria de nominaciones separada, vista por TIME, que contenía los términos de referencia del Órgano. Estos especificaban que el organismo estaría formado por hasta 32 miembros de una variedad de sectores y una combinación de géneros, edades, representación geográfica y área de enfoque.
Gill le dijo a TIME en una entrevista el 30 de agosto que su oficina había recibido más de 1.600 nominaciones a través de la convocatoria pública de nominaciones. Combinado con las nominaciones de los estados miembros, espera que haya más de 2.000 nominaciones. La oficina del enviado tecnológico, con aportes de otras organizaciones de la ONU, creará una lista corta, de la cual el Secretario General seleccionará a los 32 miembros, dijo. El Órgano se reunirá por primera vez en octubre.
Los términos de referencia en el documento visto por TIME y confirmado por Gill, especifican que el Organismo producirá un informe provisional que presentará “un análisis de alto nivel de opciones para la gobernanza internacional de la inteligencia artificial” antes del 31 de diciembre de 2023. Un segundo informe, que se presentará antes del 31 de agosto de 2024, “podrá proporcionar recomendaciones detalladas sobre las funciones, la forma y los plazos de una nueva agencia internacional para la gobernanza de la inteligencia artificial”.
Aki Enkenberg, jefe del equipo de innovación y cooperación digital del Ministerio de Asuntos Exteriores de Finlandia, describió la decisión de especificar que el organismo proporcionaría recomendaciones sobre una nueva agencia internacional como una “medida apresurada”. Sostiene que gran parte de la gobernanza internacional requerida para la IA podría ser facilitada por los organismos existentes en el sistema de la ONU, y dice que se debería haber realizado un análisis para evaluar si había brechas en el sistema de la ONU antes de sugerir que se estableciera una nueva agencia. Gill negó que los términos de referencia sesguen las conclusiones del Órgano hacia la recomendación del establecimiento de una nueva agencia.
Cuando se le preguntó si el tamaño del órgano asesor podría hacerlo difícil de manejar y, por lo tanto, terminar dando a la secretaría una influencia enorme sobre el contenido de un informe, Gill dijo que la secretaría no intentaría influir en las conclusiones del organismo.
En septiembre de 2024, la ONU organizará su Cumbre del Futuro. Para entonces, Gill dice que espera que las conclusiones del Organismo hayan dado a los estados miembros la información que necesitan para decidir si deben apoyar el establecimiento de una agencia de IA de la ONU y cómo. «Ese sería el momento adecuado para que se cree esta agencia», afirmó. «La cumbre del futuro es una oportunidad a nivel de líderes».
Una agencia de energía atómica para la IA
En una publicación de blog publicada en mayo, los altos líderes de la compañía detrás de ChatGPT, OpenAI, argumentaron que en el futuro podría ser necesario algo así como una Agencia Internacional de Energía Atómica (OIEA) para la IA para gobernar de manera segura sistemas de inteligencia artificial más sofisticados. “Cualquier esfuerzo [de superinteligencia] que supere un determinado umbral de capacidad (o recursos como la informática) deberá estar sujeto a una autoridad internacional que pueda inspeccionar sistemas, exigir auditorías, comprobar el cumplimiento de las normas de seguridad, imponer restricciones a los grados de implementación y niveles de seguridad”, decía la publicación del blog.
La OIEA, fundada en 1957, realiza inspecciones para ayudar a garantizar que los estados sin armas nucleares no las desarrollen y brinda cooperación técnica para el desarrollo pacífico de la energía nuclear.
En junio, Guterres mostró entusiasmo por el concepto de un organismo similar para la IA y dijo: «Sería favorable a la idea de que pudiéramos tener una agencia de inteligencia artificial… inspirada en lo que es hoy la agencia internacional de energía atómica».
Pero replicar la OIEA para la inteligencia artificial es sólo una opción potencial. Un artículo, al que Gill hizo referencia durante la entrevista con TIME, publicado en julio por investigadores de los destacados laboratorios de IA Google DeepMind y OpenAI y varias instituciones de investigación académicas y sin fines de lucro, expuso cuatro formas posibles que podría adoptar un organismo internacional de IA que no son mutuamente excluyentes.
Una opción es una agencia similar a la OIEA que pueda desarrollar estándares para toda la industria y monitorear a las partes interesadas para evaluar si esos estándares se están cumpliendo. Otra sugerencia es una organización inspirada en el Panel Intergubernamental sobre Cambio Climático (IPCC) que facilite el consenso de expertos sobre cuestiones técnicas. En el informe también se propone una asociación internacional entre los sectores público y privado, que garantizaría la igualdad de acceso a la IA beneficiosa, como lo hace Gavi, la Alianza para las Vacunas, con las vacunas. Una sugerencia final es una colaboración internacional en el esfuerzo de investigación de la seguridad de la IA, similar a la Organización Europea para la Investigación Nuclear (CERN).
Si bien Gill dice que el Órgano Asesor de Alto Nivel debe determinar qué modelo, si es que hay alguno, es el más adecuado, dice que la cuarta opción –un esfuerzo de investigación internacional– es un “tipo clásico de problema de colaboración internacional en el que una agencia de la ONU podría desempeñar un papel”. »
Algunos expertos sostienen que sería difícil conseguir apoyo entre los responsables políticos para una agencia similar a la OIEA para la IA. Esto se debe a que requeriría que países como Estados Unidos y China permitieran a los inspectores internacionales acceso total a los laboratorios de IA más avanzados en sus jurisdicciones en un esfuerzo por evitar riesgos que aún no se han materializado.
Los niveles de cooperación internacional entre países con el objetivo de gestionar tecnologías peligrosas están en su “mínimo nivel en 30 años”, dice Bill Drexel, miembro asociado del centro de estudios sobre asuntos militares Centro para una Nueva Seguridad Estadounidense. «Tratar de lograr un acuerdo realmente significativo desde esa base con una tecnología cuyos riesgos y ventajas todavía están determinados parece una tarea muy difícil».
Drexel cree que puede ser necesario un incidente grave relacionado con la IA para generar la voluntad política necesaria para formar un acuerdo sustancial entre países. Mientras tanto, dice, podría ser prudente crear un organismo internacional, ya sea a través de la ONU o entre un grupo multilateral o bilateral más pequeño, que imponga mínimamente a los participantes, lo que podría usarse como base para más material. cooperación si surge la voluntad política.
Gill, un ex historiador nuclear que escribió un libro sobre cumbres de seguridad nuclear, está de acuerdo. “Habiendo estudiado la historia de la OIEA, no creo que haya que hacer un corta y pega”, afirma. «Pero quién sabe, en algún momento, si hay un riesgo creciente, entonces se podría actuar en acordeón con el control internacional».
Una propuesta para un modelo de gobernanza políticamente más viable que podría ampliarse en el futuro proviene de un libro blanco publicado en agosto por investigadores de varias organizaciones académicas y sin fines de lucro, y el gigante tecnológico Microsoft. El documento propone crear una Organización Internacional de IA (IAIO) para asociarse con reguladores nacionales en materia de estándares y certificar jurisdicciones, en lugar de monitorear empresas de IA individuales. Según el modelo, los gobiernos individuales harían cumplir los estándares permitiendo solo a las empresas en jurisdicciones que cumplan esos estándares operar en su mercado interno. También necesitarían restringir las exportaciones de insumos de IA, como chips de computación, a países que no cumplan con los estándares.
Robert Trager, uno de los autores principales del libro blanco y líder de gobernanza internacional en el Centro para la Gobernanza de la IA, dijo a TIME que la certificación a nivel jurisdiccional hace que este acuerdo sea menos intrusivo, lo que significa que es más probable que los países poderosos firmen.
Los riesgos de seguridad de la IA tal vez no se puedan contener fácilmente dentro de las fronteras, por lo que será esencial que todos los países en los que se están desarrollando potentes sistemas de IA (principalmente Estados Unidos y China) sean incluidos en cualquier acuerdo internacional. Sihao Huang, investigador de la Universidad de Oxford que pasó el año pasado estudiando la gobernanza de la IA en Beijing, sostiene que será necesario centrarse estrechamente en problemas compartidos, como «comprender cómo podemos evaluar modelos para riesgos de bioseguridad», si China asentir a un acuerdo internacional.
Puede que sea más difícil venderlo con Rusia. En una reunión del Consejo de Seguridad de la ONU en julio, Dmitry Polyanskiy, primer representante permanente adjunto de la Federación Rusa ante la ONU, dijo que Rusia se “oponía a establecer órganos supranacionales de supervisión para la IA”.
Aunque dos de las organizaciones que inspiraron la idea de la IAIO (la Organización de Aviación Civil Internacional y la Organización Marítima Internacional) son agencias de las Naciones Unidas, la ONU no es el único foro que se debe considerar, dice Trager. Sostiene que existen muchos modelos que permitirían que un amplio conjunto de partes interesadas participaran en la gobernanza.
La cooperación internacional es «realmente torpe, lenta y en general ineficiente», dice Drexel. En cambio, tal vez sea posible “crear foros bilaterales o multilaterales más limitados para tratar de gobernar [los sistemas avanzados de IA] e incluso escalar con la expansión de empresas que podrían ser capaces de entrenar modelos de frontera”.
Gill dice que la ONU, una organización intergubernamental excepcionalmente universal con experiencia en la gestión de nuevas tecnologías, está bien posicionada para albergar un tratado u organización para la gobernanza de la IA.
El idealismo ha resultado en el fracaso de intentos anteriores (como la Campaña para detener a los robots asesinos) de gestionar la IA a nivel internacional, dice Trager. «Esto es más o menos lo que ocurrió en las discusiones sobre armas letales autónomas», dice. Si bien el esfuerzo fue bien intencionado, con el propósito claro de prohibir ciertas formas de desarrollo y usos, Trager dice: “Eso simplemente no va a suceder. Nunca iba a suceder”.
Gill, a pesar de su experiencia en las negociaciones sobre sistemas de armas letales autónomas, sigue decidido. «Tenemos que intentarlo», dice. “El mundo es complicado, lo ha sido y siempre lo será. Pero creo que veo una ventana de oportunidad».
Información de TIME.
Si quieres recibir en tu celular esta y otras noticias de Venezuela y el mundo descarga Telegram, ingresa al link https://t.me/primerinforme y dale click a +Unirme.
Si te gustó la nota compártela
