El CEO de Google DeepMind, Demis Hassabis, ha propuesto la creación de un organismo regulador independiente para supervisar la inteligencia artificial (IA) avanzada, conocido como ‘Standards Body’. Este cuerpo se inspiraría en la Financial Industry Regulatory Authority (FINRA) y se encargaría de evaluar los modelos de IA más avanzados antes de su lanzamiento al mercado. La propuesta busca establecer un marco que asegure la innovación responsable en este campo emergente.
Bajo la visión de Hassabis, el ‘Standards Body’ tendría la capacidad de revisar los modelos de IA hasta 30 días antes de su lanzamiento. Según el propio Hassabis, "inicialmente, Frontier Labs compartiría voluntariamente los modelos con el Standards Body para su revisión". Una vez que el protocolo de evaluación demuestre ser efectivo, se espera que los modelos de frontera deban aprobarlo para ser desplegados en el mercado estadounidense.
Este enfoque, enfatiza Hassabis, es fundamental para abordar las vulnerabilidades críticas que pueden surgir después del lanzamiento. "La fortaleza de este enfoque es que sería técnicamente centrado, mientras apoya la innovación y fomenta un comportamiento responsable", declaró en un reciente ensayo publicado en X y Substack. A medida que la IA avanza a pasos agigantados, es crucial que las regulaciones se adapten a los riesgos emergentes, lo que puede implicar ajustes en la formalización de estas normativas si la situación lo requiere.
La idea de un organismo regulador global de IA, liderado por Estados Unidos, ha sido bien recibida por diversos actores en la industria. Hassabis expresa su deseo de que esta institución esté en funcionamiento antes de que finalice el año, indicando la necesidad urgente de establecer estándares claros en un área que evoluciona rápidamente. Según reportó Axios, Hassabis también ha advertido que no existirá una FDA para la IA, lo que subraya la importancia de este nuevo organismo.
Como parte de esta iniciativa, Hassabis y su equipo en Google DeepMind buscan crear un marco que no solo garantice la seguridad de estos sistemas, sino que también incentive una competencia saludable y ética entre los desarrolladores de IA. La propuesta ha generado un debate significativo, especialmente entre aquellos que ven el potencial de la IA como un riesgo y una oportunidad a la vez.
Con la llegada inminente de la inteligencia artificial general (AGI), muchos expertos coinciden en que es imperativo establecer regulaciones robustas que protejan tanto a los usuarios como a la sociedad en general. La llamada de Hassabis para la creación de este organismo regulador refleja un creciente reconocimiento de que las tecnologías de IA deben ser manejadas con responsabilidad y previsión.
En resumen, la propuesta de Demis Hassabis destaca la necesidad de una regulación proactiva en la inteligencia artificial, enfocándose en la colaboración entre laboratorios y reguladores para asegurar el desarrollo sostenible y seguro de esta tecnología poderosa.
Fuentes: axios.com, theverge.com, theregister.com
Mantente al día con más noticias en Radar Boricua.
