Nuestro 2024: un año de consolidación

Mejora en sistemas de gestión del riesgoOrganizaciónRiesgos de la IACrisis alimentaria globalPandemias globales
Escrito por jorge andres torres celis

Resumen ejecutivo

2024 ha sido un año de importante crecimiento y consolidación para el Observatorio de Riesgos Catastróficos Globales (ORCG), marcado por avances impactantes en nuestras cuatro áreas de trabajo principales. Hemos ampliado nuestras iniciativas de investigación y fortalecido las colaboraciones internacionales, consolidando nuestro papel como una voz líder en la comprensión y mitigación de los riesgos catastróficos.

Desde el principio, ORCG ha defendido enfoques proactivos y colaborativos para abordar los complejos desafíos de las posibles catástrofes globales. Este compromiso impulsó una amplia gama de actividades en 2024, entre las que destacan:

  1. Inteligencia artificial: continuamos nuestro trabajo en la implementación de la Ley de IA de la UE, incluso participando en la elaboración del Código de prácticas de GPAI, con el apoyo de recursos de Longview Philanthropy. También formulamos el AI Risk Explorer (AIRE), obteniendo financiación de Open Philanthropy. Y publicamos un informe "Compute for Good: The Potential of European Supercomputers for AI Research and Development".

  2. Preparación ante pandemias: lideramos un esfuerzo de mapeo regional para evaluar las necesidades de bioseguridad y bioprotección en América Latina. Esto dio como resultado notas de investigación y un informe que se incluirá en Global Research Agenda for Evidence-Based Biosafety, ayudando a redireccionar esfuerzos y recursos para una gestión eficaz de pandemias en América Latina.

  3. Crisis alimentarias globales: generamos un policy brief bien recibido, "Resiliencia agrícola en América Latina: enfrentar escenarios de reducción abrupta de la luz solar (ERALS)". Estamos trabajando activamente para integrar sus recomendaciones en los planes de varios gobiernos sudamericanos.

  4. Sistemas de gestión de riesgos: publicamos una nueva edición de nuestro informe insignia, América Latina y los riesgos catastróficos globales, que incluye un prólogo del expresidente mexicano Ernesto Zedillo, miembro de The Elders. Esto generó una importante atención de los medios para ORCG. También estamos desarrollando un manual para implementar la estrategia de riesgos emergentes de la OCDE.

Estos esfuerzos no solo han profundizado nuestra comprensión de los riesgos globales, sino que también han fomentado asociaciones cruciales con organizaciones y expertos de todo el mundo. Hemos colaborado con instituciones e iniciativas líderes como ALLFED, Global Shield, CSER, GCRI, CLTR y AMexBio. Además, al participar en varios grupos de trabajo de EU GPAI Code of Practice, nos hemos involucrado con varias organizaciones de la sociedad civil en el campo de la seguridad y la gobernanza de la IA. Nuestro trabajo también ha implicado la participación de las partes interesadas con la OCDE, EuroHPC, OEI, AESIA, IMSS, UNAM y UANL.  Estamos trabajando en la definición de proyectos colaborativos en todas nuestras áreas de trabajo con algunas de estas instituciones, a partir de 2025. Te invitamos a estar atento a nuestras actualizaciones el próximo año.

En este resumen, analizaremos en profundidad las actividades y los logros clave que han dado forma al camino recorrido por ORCG en 2024. Exploraremos el impacto de nuestra investigación, el progreso logrado en nuestros programas clave. Únase a nosotros mientras revisamos nuestros hitos, que han definido este capítulo como parte de nuestro compromiso continuo para salvaguardar el futuro de la humanidad.

De cara al futuro, la financiación continua siendo un desafío crítico. Si bien nuestras iniciativas de IA están financiadas hasta 2025, otras áreas vitales enfrentan limitaciones de recursos que podrían poner en peligro nuestra continuidad. Los invitamos a apoyar nuestro trabajo a través de una donación con la cual podremos cumplir misión.

Productos

Reportes

  • Nuevo prólogo para el informe "América Latina y los riesgos catastróficos globales: transformando la gestión de riesgos" escrito por el miembro de Elders y expresidente Ernesto Zedillo: Este informe actualizado, con un prólogo de un líder mundial respetado, proporciona un análisis integral de los riesgos catastróficos globales que enfrenta América Latina y propone estrategias para una mejor gestión de riesgos.

  • “Compute for Good: The Potential of European Supercomputers for AI Research and Development”; Este informe ofrece un análisis técnico de la informática pública europea y recomienda dedicarla a aplicaciones de IA ampliamente beneficiosas, a la investigación sobre seguridad de la IA, a evaluaciones de modelos y a la puesta a prueba de un futuro «CERN para IA».

  • “Mapeo de las necesidades regionales en bioseguridad, bioprotección y salud pública”; Este proyecto mapeó las necesidades de bioseguridad, bioprotección y salud pública en América Latina. Las encuestas a profesionales en 9 países revelaron las principales prioridades: programas de capacitación y marcos regulatorios más sólidos. Los principales desafíos incluyen la falta de financiación, apoyo gubernamental y capacitación continua. Las recomendaciones se centran en la capacitación basada en competencias, la colaboración internacional y una mayor inversión en infraestructura de bioseguridad y bioprotección.

ORCG en prensa

Artículos académicos

  • La Ley de IA de la UE: ¿Un esfuerzo pionero para regular la IA de frontera?; Este artículo, publicado en la revista IberamIA, analiza la Ley de Inteligencia Artificial de la UE, el primer intento de regular los modelos de frontera. Concluye que el borrador del Parlamento fue un buen paso para abordar adecuadamente los riesgos que plantean estos modelos, aunque algunas de sus disposiciones estaban insuficientemente definidas en algunas áreas y eran incompletas en otras. La versión final de la Ley mejoró en muchos de los aspectos señalados.

  • "Revisión sistemática de las taxonomías de riesgos asociados a la inteligencia artificial"; En este artículo se analizaron sistemáticamente 36 estudios sobre los riesgos de la IA, lo que dio como resultado una taxonomía de amenazas y vectores de riesgo. Nuestra investigación encontró la necesidad de considerar los riesgos emergentes, cerrar las brechas entre los daños presentes y futuros y explorar más a fondo las posibles vías de catástrofe de la IA

  • "Soluciones alimentarias resilientes para evitar una hambruna masiva durante un invierno nuclear en Argentina"; esta investigación explora posibles fuentes de alimentos y métodos de producción que podrían ayudar a garantizar la seguridad alimentaria en Argentina durante un escenario de invierno nuclear, y describe cómo la adaptación oportuna del sistema alimentario podría convertir una situación de hambruna nacional en una situación en la que el país no solo podría alimentarse a sí mismo, sino también seguir realizando exportaciones significativas a los vecinos.

  • “La securitización de la inteligencia artificial: un análisis de sus impulsores y consecuencias”; enviado a la Revista de Estudios Sociales por la Universidad de los Andes, Este artículo analiza cómo Estados Unidos está enmarcando la inteligencia artificial (IA) como un problema de seguridad nacional, revelando tensiones entre politización y securitización, preocupaciones de seguridad nacional y global y enfoques basados ​​en amenazas versus enfoques basados ​​en riesgos. En este artículo se sostiene que una gobernanza eficaz de la IA requiere equilibrar los intereses nacionales con la seguridad global, favoreciendo un enfoque basado en el riesgo que reconozca las incertidumbres y promueva soluciones multilaterales en lugar de centrarse únicamente en las amenazas y la competencia nacionalista.

  • “Capacitación y educación: ¿Cuáles son los elementos esenciales necesarios para los programas de capacitación en bioseguridad y bioprotección para investigadores y profesionales?”; en proceso de presentación. Para abordar las necesidades y los desafíos identificados por los investigadores y profesionales latinoamericanos, los programas de capacitación eficaces en bioseguridad y bioprotección deben priorizar la capacitación formalizada basada en competencias, el desarrollo profesional continuo, la accesibilidad, la aplicación práctica y la colaboración intersectorial. Al incorporar estos elementos, los programas de capacitación pueden empoderar a las personas para mitigar los riesgos biológicos, fomentar una conducta responsable y fortalecer la bioseguridad y la salud pública regionales.

Recomendación de políticas

Notas de investigación

Presencia en eventos

Únase a nosotros para construir un futuro más seguro y resiliente. Su contribución a ORCG nos ayudará a abordar todo el espectro de riesgos catastróficos globales y garantizar que la humanidad esté preparada para los desafíos que se avecinan.

Done a ORCG hoy y ayúdenos a proteger el futuro de la humanidad. Lea aquí sobre nuestros planes actuales.

Además de las contribuciones económicas, puede apoyar a ORCG de las siguientes maneras:

  • Difundiendo el mensaje: comparta este resumen y nuestro sitio web (https://orcg.info) con sus redes.

  • Si es un experto interesado en nuestro trabajo: puede contribuir enviando sugerencias, brindando comentarios y compartiendo oportunidades académicas y de financiamiento con nosotros, entre otras cosas (info@orcg.info).

  • Conectándonos con socios potenciales: Preséntenos a personas u organizaciones que puedan apoyar nuestro trabajo.

Juntos, podemos construir un futuro más seguro para todos.


jorge andres torres celis
Siguiente

Sobre la importancia global de América Latina en la gobernanza de la IA