Anuncio de ganador@s del concurso de ensayos
¡Riesgos Catastróficos Globales se complace en anunciar l@s ganador@s del concurso de ensayos 2022!
En primer puesto (por un premio de 1000 €):
“Catástrofes existenciales y continuación fallida dentro del modelo de las tres capas” por Santiago Ramírez Sáenz
En segundo puesto (por un premio de 500 € cada uno)
“El cataclismo inefable” por Jhojan Galindo
“La adolescencia de la humanidad: Riesgos existenciales, largoplacismo ético y el (vasto) futuro de la especie humana” por Jon Rueda Etxebarria
En tercer puesto (por un premio de 250 € cada uno)
“Un gran poder y una gran responsabilidad” por Pablo Antonio Moreno Casares
“Un asesinato sin asesino: el uso de robots en la guerra” por Sara María Varón Echeverri
“Cambio climático versus guerra nuclear: el rol de los nuevos reactores nucleares en la mediación de dos riesgos catastróficos globales” por Sara María Varón Echeverri
“Siempre lo supimos” por Denver Romero Páramo
Acerca del concurso de ensayos
El concurso de ensayos busca promover el talento dedicado a estudiar Riesgos Catastróficos Globales (RCGs) y la creación de contenido en español sobre el tema.
En total hemos recibido 141 entradas (válidas), cubriendo temas de RCGs, cambio climático, Inteligencia Artificial, bioseguridad, riesgos catastróficos naturales, crisis alimentarias, riesgo nuclear, riesgo biológico, entre otros.
Feedback
Si participaste en el concurso o consideraste participar en el concurso, nos encantaría escuchar como la participación y los resultados han cambiado tu relación hacia el tema de RGCs, si has ganado nuevas perspectivas o si te ha motivado a buscar más información acerca del tema.
Puedes llenar este breve formulario (solo toma un minuto) para dejarnos tu feedback.
Acerca de los ensayos ganadores
Las siguientes reflexiones fueron escritas por Jaime Sevilla Molina (organizador del concurso).
“Catástrofes existenciales y continuación fallida dentro del modelo de las tres capas”
Esta entrada resume y discute el artículo científico “Defence in Depth Against Human Extinction: Prevention, Response, Resilience, and Why They All Matter” por Owen Cotton-Barratt, Max Daniel y Anders Sandberg. Este artículo presenta un modelo en el que las potenciales extinciones pasan por tres estadios: origen, respuesta y resiliencia; e introduce terminología para distinguir eventos según su desarrollo en cada capa.
El autor expande el artículo con una reflexión sobre los límites del modelo. El autor destaca que el modelo no es adecuado para asesorar riesgos existenciales que no conlleven la extinción humana. En particular, discute cómo el modelo no contempla continuaciones fallidas y distopías, la improbabilidad de extinción derivada de los riesgos por conflicto, problemas demográficos y algunas cuestiones ideológicas.
Me encantan los resúmenes críticos de artículos científicos (un proceso llamado en algunos círculos “destilación científica”). Estos ejercicios son una manera excelente de aprender sobre un tema y hacer más accesible el conocimiento.
La elección del artículo me parece además muy acertada. El modelo de capas es un marco teórico práctico para discutir RCGs y riesgos de extinción, que espero que más pensadores en la esfera hispanohablante adopten.
Respecto a la contribución crítica, la discusión es pertinente y pone en relevancia situaciones en las que el modelo no es apropiado para evaluar RCGs.
En términos de estilo, el artículo está bien estructurado y sigue bien las normas de transparencia argumental. Cómo crítica constructiva, la crítica es un poco difícil de digerir; hubiera preferido una separación más explícita entre la parte de resumen y la parte de crítica, y que cada sección de la crítica dejara más claro en qué se está criticando al modelo.
—
“El cataclismo inefable”
En esta historia de ciencia ficción se narra la llegada de una flota alienígena a la Tierra siglos después de la extinción de la humanidad. Sigue una investigación, en la que los visitantes intentan discernir las causas de esta catástrofe existencial.
De todas las historias de ficción que hemos recibido, está destaca tanto por su creatividad cómo por el rigor con el que abarca los temas. La historia cubre reflexiones certeras sobre cada uno de los principales Riesgos Catastróficos Globales que enfrentamos.
En particular me llamó la atención el razonamiento sobre riesgos biológicos. En la historia, los riesgos biológicos naturales son descartados debido a la incompatibilidad entre alta letalidad y alta transmisibilidad. Esta es una incompatibilidad bien conocida en ciencia, y un argumento certero en contra de la posibilidad de un riesgo existencial derivado de un patógeno natural. En última instancia, esto no afecta a la estructura de la historia.
El mayor problema que destacaría en la historia es el tratamiento de la Inteligencia Artificial. En contra de lo argumentado en la historia, sí que cabe que un sistema de Inteligencia Artificial esté incentivada para acaparar más recursos, independientemente de su implementación y metas últimas. En última instancia, esto afecta poco a la historia, aunque me gustaría ver una revisión corrigiendo este tema.
—
“La adolescencia de la humanidad: Riesgos existenciales, largoplacismo ético y el (vasto) futuro de la especie humana”
Este ensayo explica el concepto de riesgo existencial, el largoplacismo y explica la genealogía reciente de estos conceptos. Hila el discurso valiéndose de la metáfora de la humanidad como un adolescente, en la flor de la vida y cometiendo actos imprudentes. Durante el ensayo recalca las palabras de Toby Ord y nos exhorta a desarrollar como especie la madurez necesaria para enfrentar a los riesgos globales que amenazan nuestra continuidad.
El ensayo es una introducción amena y sucinta a los conceptos que abarca. La perspectiva genealógica, incluyendo la discusión de Glover y Parfit, es valiosa e interesante.
Una alegación mal argumentada en el comienzo del ensayo es la certeza del fin de la especie. El autor identifica correctamente que el consenso científico es que el periodo de la especie humana es finito pero potencialmente vasto. Pero su argumento lo achaca a la “teoría de la evolución”. Esto es impreciso; la teoría de la evolución describe la lógica de la diferenciación de especies, pero la certeza de nuestra finitud se debe más a razones termodinámicas. Esto es un fallo menor en el contexto del ensayo.
—
“Un gran poder y una gran responsabilidad”
En este ensayo, el autor introduce la tesis de que el desarrollo de la inteligencia artificial y la automatización del progreso científico puede suponer un punto de inflexión en la historia de la humanidad.
Además, el autor introduce el problema del control de la IA. En sus palabras: “¿Cómo podemos controlar una inteligencia artificial general para que persiga nuestros objetivos de una manera segura?”
El autor cierra con una discusión breve del progreso reciente en inteligencia artificial, incluyendo modelos de lenguaje y generación de imágenes.
El mensaje del artículo es uno claro y discutido a menudo en la comunidad de RCGs. Dicho esto, este artículo no desarrolla en mucho detalle ni argumenta con claridad los distintos puntos que forman en ensayo: 1) que la inteligencia artificial es una tecnología transformativa, 2) que conlleva algunos riesgos que no son bien entendidos hoy y 3) que el avance reciente en el campo significa que puede que podamos enfrentarnos a esos riesgos pronto.
Un detalle que aprecio es el experimento con GPT-3, que da un ejemplo vívido sobre el progreso en IA. El empirismo es una virtud a exhortar, y un proceso clave para entender los RCGs a los que nos enfrentamos.
—
“Un asesinato sin asesino”
En este ensayo la autora discute las posibles consecuencias del desarrollo de armas letales autónomas. La autora describe esta tecnología, investiga quién está desarrollandola hoy en día, cubre el uso bélico y sus consecuencias sociales.
Este ensayo está bien investigado, e ilustra los retos asociados con la gestión de una nueva tecnología. El ensayo destaca muchos aspectos del desarrollo de estas armas: la fiabilidad de los sistemas, la introducción de sesgos automatizados, la atribución de responsabilidad, etc. Estos puntos son ilustrados con ejemplos y se discuten sus consecuencias.
Habría apreciado más discusión de la escala en este ensayo. El ensayo establece los retos asociados con esta tecnología, pero hubiera apreciado más reflexión sobre la magnitud del problema. ¿Podría suponer esto un RCG? ¿Cuánta gente podría morir en el futuro a manos de robots asesinos? ¿Podría ser esta tecnología instrumental en el establecimiento de un régimen autoritario?
—
“Cambio climático versus guerra nuclear: el rol de los nuevos reactores nucleares en la mediación de dos riesgos catastróficos globales”
¿Cómo afecta el desarrollo de energía nuclear al cambio climático y a los riesgos nucleares? Este ensayo aborda esta pregunta.
Aprecio de esta entrada el análisis concreto de la interacción entre RCGs. La autora muestra curiosidad y ofrece datos y consideraciones a favor y en contra de las posibles posturas que uno pueda tomar en este tema.
Me hubiera gustado aprender más de este ensayo sobre cómo la energía nuclear afecta a la proliferación de armas nucleares, un tema mencionado de pasada. La autora se centra más en los riesgos de un accidente en una planta nuclear y de gestión de residuos nucleares, riesgos que pese a importantes son de naturaleza localizada y por tanto improbable que constituyan RCGs.
Tampoco comparto el razonamiento detrás de la reflexión de cierre: anteponer el valor simbólico de la vida a la realidad de la magnitud de los riesgos a los que nos enfrentamos sería un error en términos de priorización de riesgos. Una vida perdida es sin duda una catástrofe; un millón de vidas perdidas es una catástrofe un millón de veces mayor.
—
“Siempre lo supimos”
Esta es la segunda historia de ficción premiada. La mayoría de las historias que hemos recibido narran el desarrollo de un RCG. De entre ellas, esta es la que a mi juicio ha logrado un mejor equilibrio entre rigor y calidad literaria.
El autor cuenta la evolución de una guerra entre potencias nucleares, que desemboca en un invierno nuclear. Tras perder a su familia, el protagonista sobrevive en una ciudad-refugio construida para sobrevivir a incidentes nucleares de este tipo.
La historia incluye temas relevantes para el estudio de RCGs como los riesgos de conflicto bélico, el invierno nuclear y los refugios. Estos temas son tratados con cierto rigor, por ejemplo citando a Crutzen y Birks y describiendo escenarios a mi juicio plausibles. Ilustra bien cómo una situación política puede evolucionar rápidamente a una situación crítica.
Ninguna de estas ideas se desarrolla en mucha profundidad, pero no es a detrimento de la historia. Un gran fallo en la plausibilidad es la construcción del refugio cómo una ciudad subterránea en la Antártida. Un invierno nuclear reduciría la capacidad de producción de alimento y la temperatura, entre otros retos. En general tiene poco sentido irse donde sería aún más difícil producir alimento y donde la temperatura sería aún más baja. Los mejores lugares en cuanto a clima para humanos y cultivos serían aquellos cercanos al trópico del hemisferio sur, donde todavía se podría cultivar alimento y la bajada de temperatura no sería tan acusada.