Control de IA: Hassabis alerta sobre riesgos sin regulación

La carrera acelerada por la inteligencia artificial

Desde noviembre de 2022, el panorama tecnológico ha experimentado una transformación sin precedentes. El control de IA se ha convertido en una preocupación central para gobiernos, empresas y expertos en todo el mundo. Lo que antes era una tecnología invisible, presente en buscadores y cámaras, ahora domina las estrategias empresariales y atrae inversiones colosales destinadas a infraestructura computacional, servidores y centros de datos distribuidos globalmente.

La competencia por desarrollar sistemas más potentes ha adquirido dimensiones geopolíticas. Estados Unidos y China invierten recursos masivos en capacidad de computación como parte de su rivalidad estratégica. Grandes corporaciones tecnológicas canalizan fondos enormes hacia investigación y desarrollo, mientras buscan asegurar fuentes de energía sostenibles para sus operaciones. En medio de esta aceleración sin precedentes, uno de los principales actores del sector ha levantado la voz para advertir que estamos avanzando más rápido de lo que realmente comprendemos.

La advertencia desde la primera línea de la innovación

Demis Hassabis no habla desde la periferia de esta industria. Como cofundador y consejero delegado de Google DeepMind, lidera uno de los laboratorios más influyentes en el desarrollo de sistemas de inteligencia artificial avanzados. Bajo su dirección surgieron logros históricos como AlphaGo, que derrotó al campeón mundial de Go, y AlphaFold, capaz de predecir la estructura de proteínas con precisión sin precedentes. En 2024, compartió el Premio Nobel de Química con John Jumper por sus contribuciones fundamentales a la predicción de estructuras proteicas mediante inteligencia artificial.

Esta doble posición confiere particular peso a sus palabras: desarrolla la tecnología al tiempo que clama por mecanismos reguladores. Su perspectiva resulta valiosa precisamente porque entiende tanto las capacidades como los riesgos potenciales del control de IA desde adentro del ecosistema tecnológico.

La posibilidad inminente de una inteligencia general

Hassabis basa su argumentación en una convicción fundamental: la inteligencia artificial general, o AGI, podría materializarse en apenas unos años. Aunque no lo presenta como certeza absoluta, describe esta posibilidad como lo suficientemente probable para exigir preparación inmediata. Una AGI se definiría como un sistema capaz de exhibir todas las capacidades cognitivas del cerebro humano, operando con autonomía creciente y capacidad de auto-mejora.

Las preocupaciones de Hassabis abarcan múltiples dimensiones. Identifica riesgos en ciberseguridad, posibles amenazas biológicas y nucleares, además de sistemas cada vez más autónomos que operarían con menor supervisión humana. Según su diagnóstico, el control de IA debe establecerse antes de que estos sistemas alcancen capacidades potencialmente peligrosas, no después de que aparezcan amenazas concretas que podrían ser demasiado tarde para contener.

Una propuesta concreta para regular la frontera tecnológica

En un extenso artículo publicado en redes sociales, Hassabis articula una visión que sostiene dos ideas simultáneamente: la inteligencia artificial promete revolucionar la ciencia, medicina y economía, pero ese potencial extraordinario no elimina la necesidad de establecer controles y mecanismos de supervisión rigurosos. Su propuesta específica implica crear en Estados Unidos un organismo especializado dedicado a evaluar los modelos de inteligencia artificial más avanzados antes de su despliegue público.

Este organismo tomaría la forma de una asociación público-privada o entidad autorregulada con supervisión federal. Una junta directiva incluiría especialistas independientes, representantes del ecosistema de código abierto y expertos en seguridad. Sus funciones principales serían definir qué umbrales convierten a un sistema en un modelo de frontera y diseñar evaluaciones exhaustivas sobre ciberseguridad, amenazas biológicas y otros ámbitos de alto riesgo.

El mecanismo de evaluación propuesto

Hassabis detalla que los laboratorios compartirían voluntariamente sus modelos avanzados treinta días antes de lanzarlos al mercado. Las evaluaciones incluirían pruebas para detectar intentos de eludir salvaguardas, señales de comportamiento engañoso y capacidades potencialmente peligrosas. En una etapa inicial, la participación sería voluntaria, pero la propuesta permite evolucionar hacia requisitos obligatorios.

Una vez validados los protocolos, cualquier modelo considerado de frontera debería aprobar la evaluación antes de acceder al mercado estadounidense. Las pruebas se revisarían periódicamente para eliminar evaluaciones obsoletas e incorporar medidas para detectar nuevas capacidades emergentes. Auditores independientes amplifcarían la capacidad supervisora del sistema.

La propuesta va aún más lejos: si los riesgos demostraran ser suficientemente graves, el marco regulatorio podría utilizarse para coordinar una ralentización deliberada del desarrollo entre los principales laboratorios mundiales, una medida extraordinaria pero considerada por Hassabis como potencialmente necesaria.

El consenso fragmentado entre expertos

Las preocupaciones de Hassabis no son aisladas en el mundo académico y empresarial. Geoffrey Hinton, reconocido pionero en aprendizaje profundo, ha expresado incertidumbre sobre si podremos mantener el control de IA en sistemas más inteligentes que la humanidad. Yoshua Bengio, otro gigante del campo, reclama investigación urgente y mecanismos específicos de supervisión. En 2023, Elon Musk encabezó una carta abierta pidiendo pausar durante seis meses el entrenamiento de sistemas más potentes que GPT-4, aunque posteriormente anunció su propia empresa de inteligencia artificial, xAI, entrando directamente en competencia.

Estas voces influyentes convergen en pedir cautela y prudencia, pero no existe consenso sobre la probabilidad real de perder el control de IA o sobre la inminencia de una AGI potencialmente peligrosa. El debate sigue abierto y fragmentado, reflejando la genuina incertidumbre que caracteriza este momento histórico.

La incertidumbre como punto de partida

La expresión más reveladora de Hassabis sintetiza el dilema contemporáneo: