Demis Hassabis tiene un plan para aprovechar la IA de forma segura
Las superpotencias mundiales en inteligencia artificial están comenzando a ejercer su influencia. La breve decisión del gobierno estadounidense de restringir el acceso de los extranjeros a Fable, un sofisticado modelo de IA desarrollado por Anthropic, refleja no sólo el deseo de controlar esta tecnología, sino … también el miedo a los riesgos que podría entrañar si cayera en manos equivocadas. Ahora también se dice que China se plantea restringir el acceso desde el exterior a sus modelos más avanzados. Sin embargo, para que la IA se utilice de forma segura, la industria necesita un plan coherente y predecible. Sir Demis Hassabis, cofundador de Google DeepMind, cree que lo tiene.
Sir Demis ya había presentado varias propuestas para regular la IA. Su última iniciativa –publicada online el 14 de julio y desarrollada en una entrevista exclusiva con The Economist– es más concreta. Según él, el gobierno estadounidense debería crear un sistema que evalúe la seguridad de los nuevos modelos de IA antes de autorizar su lanzamiento. “Es importante que no sea simplemente un organismo sectorial”, afirma. Sin embargo, cree que una agencia pública convencional tampoco sería adecuada. «No podría actuar con la suficiente rapidez ni tendría los recursos necesarios». En cambio, propone inspirarse en FINRA, la Autoridad Reguladora de la Industria Financiera de Estados Unidos, una entidad privada que supervisa a los corredores de bolsa y los mercados de valores.
Esta es una propuesta pragmática. Las esperanzas más optimistas –aún abrigadas por algunos de sus colegas– de alcanzar primero un consenso internacional han quedado atrás. En opinión de Sir Demis, Estados Unidos debe tomar la iniciativa. No considera imprescindible un acuerdo global, ya que, en su opinión, otros países acabarán alineándose para preservar su acceso a la tecnología americana y al mercado estadounidense. Con el tiempo, eso podría incluir incluso a China, lo que ayudaría a evitar una carrera a la baja en materia de seguridad. Aunque cree que el programa debería ser inicialmente voluntario para los desarrolladores de modelos, espera que acabe siendo obligatorio. FINRA, por ejemplo, tiene amplios poderes de aplicación delegados por el Estado.
El enfoque de Sir Demis difiere del defendido por Sam Altman, director ejecutivo de OpenAI, en un artículo de opinión publicado a principios de este mes en el Financial Times. Ambos coinciden en que la misión del nuevo organismo supervisor debería ser establecer estándares, evaluar riesgos y garantizar que sólo los países comprometidos con esos principios puedan acceder a la IA de vanguardia. Sin embargo, Altman aboga por un esfuerzo internacional, aunque coordinado por Estados Unidos. Ambas propuestas fueron presentadas a los líderes mundiales durante la reciente cumbre del G7 en Francia.
La propuesta de Sir Demis es, hasta la fecha, la más detallada presentada por una figura destacada del sector de la IA. Los principales líderes de esta industria tienden a sentirse más cómodos pidiendo normas genéricas que diseñando un organismo regulador desde cero. Sir Demis, por el contrario, ha prestado atención a los aspectos más prácticos. Considera que la nueva agencia debería financiarse con aportaciones del propio sector y que una de sus prioridades iniciales sería atraer profesionales altamente cualificados. Mientras tanto, las agencias de seguridad de IA existentes podrían brindar apoyo temporal.
«Laboratorios de última generación»
Sir Demis propone que la nueva agencia centre su trabajo en los laboratorios que desarrollan los modelos de IA más avanzados. Propuestas anteriores de Estados Unidos y la Unión Europea utilizaron la potencia informática utilizada para entrenar un modelo como referencia aproximada para determinar cuándo era necesario un seguimiento específico. Sir Demis propone un enfoque diferente: clasificar un modelo como “de última generación” cuando excede ciertos umbrales en un conjunto seleccionado de pruebas de referencia. Los desarrolladores de estos modelos serían considerados “laboratorios de vanguardia” y asumirían responsabilidades adicionales. Sir Demis destaca la naturaleza «elegante» de este enfoque, ya que evita el debate sobre si se deben incluir o excluir los modelos académicos o de código abierto. Lo verdaderamente importante son tus capacidades.
La selección de criterios de evaluación adecuados constituiría una de las principales responsabilidades de la nueva agencia. Actualmente, las pruebas de modelos de IA se centran principalmente en capacidades comercialmente relevantes, como la programación o el conocimiento general. Algunas organizaciones han ido más allá: el Instituto de Seguridad de IA del Reino Unido, por ejemplo, tiene una prueba bien valorada de capacidades de ciberataque que simula un intento de intrusión en una central eléctrica. Sin embargo, otras características (como la disposición de un modelo a ignorar instrucciones o pretender ser menos capaz de lo que realmente es) rara vez se evalúan sistemáticamente y no permiten establecer umbrales de seguridad.
«Hemos visto la amenaza cibernética y se avecinan amenazas mucho más graves. «Hay que hacer algo».
Ganar el apoyo de una comunidad de IA cada vez más dividida no será fácil, aunque las similitudes con la propuesta de Altman sugieren que no es un objetivo inalcanzable. Además, el gobierno estadounidense parece haber tomado nota y, según se informa, está a punto de presentar su enfoque preferido.
Luego viene la parte más complicada. “Ninguna propuesta está a salvo de una mala ejecución”, reconoce Sir Demis. «Obviamente, hay versiones de esto que podrían no ser particularmente útiles».
Aun así, insiste en que actuar con rapidez es una necesidad urgente. «El tiempo es esencial; Ya llegamos tarde. Hemos visto la amenaza cibernética y se avecinan amenazas mucho más graves. Hay que hacer algo: este es el momento.
Puedes consultar la fuente de este artículo aquí