Operacionalizando la definición de IA de gran capacidad

Por: Guillem Bas

Resumen

Esta nota de investigación propone el establecimiento de un umbral, inicialmente basado en los recursos computacionales utilizados para entrenar modelos fundacionales de gran capacidad.  La computación se sugiere como un elemento fundamental debido a su capacidad para predecir las capacidades del modelo, así como su mensurabilidad, verificabilidad y trazabilidad. Sin embargo, el texto reconoce la necesidad de actualizar el umbral periódicamente para tener en cuenta la evolución tecnológica en curso y considerar otras métricas que eventualmente podrían complementar el umbral para garantizar que se mantenga vigente en el tiempo.

Lea la nota completa:

Antecedentes

En mayo de 2023, el Parlamento Europeo aprobó su posición sobre la Ley de IA, incluida una disposición que cambia de paradigma: el artículo 28b y sus obligaciones para los proveedores de modelos fundacionales.

Una solución prometedora para garantizar mayor concreción y abordar las preocupaciones sobre el exceso de regulación podría ser un enfoque escalonado que distinga un subconjunto de modelos fundacionales altamente capaces, que estarían sujetos a las obligaciones ya previstas y a requisitos aún más estrictos, como evaluaciones del modelo y red teaming independientes, o un sistema exhaustivo de gestión de riesgos.

En esta nota, proponemos la creación de un umbral que podría servir como punto de partida para especificar y operacionalizar esa definición. En la primera sección, presentamos las ventajas de los recursos computacionales (cómputo) como un nodo de gobernanza prometedor. En segundo lugar, analizamos cómo se podría establecer y actualizar un umbral basado en computación. En tercer lugar, consideramos otras métricas que eventualmente podrían complementar los umbrales de cómputo. Para concluir, proponemos una definición preparada para el futuro de “modelos fundacionales muy capaces” y enumeramos las instituciones que podrían ayudar a hacer operativa esa definición.

• Referencias

  Bertuzzi, L. (2023a, October 17). AI Act: EU countries headed to tiered approach on foundation models amid broader compromise. EURACTIV. https://www.euractiv.com/section/artificial-intelligence/news/ai-act-eu-countries-headed-to-tiered-approach-on-foundation-models-amid-broader-compromise/

  Bertuzzi, L. (2023b, October 25). EU policymakers enter the last mile for Artificial Intelligence rulebook. EURACTIV. https://www.euractiv.com/section/artificial-intelligence/news/eu-policymakers-enter-the-last-mile-for-artificial-intelligence-rulebook/

  Moës, N., & Ryan, F. (2023). Heavy is the Head that Wears the Crown: A risk-based tiered approach to governing General Purpose AI. The Future Society.

  Zenner, K. (2023, July 20). A law for foundation models: The EU AI Act can improve regulation for fairer competition. OECD. https://oecd.ai/en/wonk/foundation-models-eu-ai-act-fairer-competition