Anthropic, la empresa de inteligencia artificial más valiosa del mundo, pide un freno global al desarrollo de la inteligencia artificial y advierte La humanidad corre el riesgo de perder el control de la tecnología. La compañía combina el avance imparable de los modelos de inteligencia artificial con «Cuestiones de control de armas» y ofreció suspender el desarrollo de sus sistemas más potentes si había garantías de que otros harían lo mismo.

«Si el desarrollo de esta tecnología pudiera ralentizarse efectivamente para permitir más tiempo para hacer frente a sus enormes impactos, creemos que podría ser algo positivo».escribieron ejecutivos de la compañía en una nota, lo que puede resultar sorprendente teniendo en cuenta que Anthropic superó recientemente a OpenAI, el creador de ChatGPT, porque La empresa de inteligencia artificial más valiosa del mundo La valoración es de 965 mil millones de dólares.

¿Por qué es prudente congelar el desarrollo de la inteligencia artificial?

La alerta no es nueva. Hace tres años, 1.000 personas, entre ellas científicos, ingenieros, intelectuales, empresarios, políticos y luminarias de la comunidad tecnológica mundial, firmaron una carta abierta pidiendo una moratoria de seis meses sobre el desarrollo de los mayores proyectos de inteligencia artificial porque creían que ‘Profundos riesgos para la sociedad y la humanidad’ Pueden plantearse sin un control y gestión adecuados.

Desde entonces, nada de esto se ha hecho… al contrario.;A pesar de los problemas de ciberseguridad o de empleo, de consumo de energía o agua, o del colapso de los mercados tecnológicos por el acaparamiento masivo de semiconductores, el desarrollo de la inteligencia artificial ha avanzado rápidamente en la batalla global por su control.

La inteligencia artificial no deja de mejorar, incluyéndose a sí misma

Marina Favaro, directora y presidenta de Anthropic Research, y Jack Clark, presidente, dijeron en un artículo publicado anoche que la tecnología de inteligencia artificial se está acercando a la etapa de autodesarrollo del sistema. Los ejecutivos citaron la superación personal recursiva (RSI) en la IA, un fenómeno que los desarrolladores de IA esperan junto con preocupaciones generalizadas sobre su impacto: En pocas palabras, en ese momento, Los humanos no podrán controlar los sistemas de inteligencia artificial.

Las tendencias tecnológicas analizadas en este artículo sugieren que los sistemas de inteligencia artificial serán más poderosos en los próximos años. Estas tendencias tienen enormes implicaciones. Una inteligencia artificial capaz de construirse a sí misma representaría un avance trascendente en la historia de la tecnología, con el potencial de traer enormes beneficios al mundo en la ciencia, la salud y otros campos. Sin embargo, la superación personal totalmente recursiva también puede aumentar el riesgo de que los humanos pierdan el control de un sistema de IA.

Si el sistema de inteligencia artificial alcanza tal nivel técnico a través de RSI: Capaces de mejorarse a sí mismos y crear completamente sus propios sucesores.la forma en que los protegemos, los monitoreamos y moldeamos su comportamiento es de suma importancia. Así que Anthropic hace sonar la alarma, y ​​no es la primera vez, ya que ha mantenido su modelo más avanzado, el Mythos, internamente y bajo control gracias a las manos de quién se encuentra.

«Creemos que sería beneficioso para el mundo si pudiera optar por frenar o pausar temporalmente el desarrollo de inteligencia artificial de vanguardia para permitir que las estructuras sociales y la investigación sobre sus efectos se pongan al día».

Dada la importancia actual de Anthropic y su reconocimiento del potencial de los modelos de IA, No se deben ignorar las nuevas alertasAunque, dada la feroz competencia por el control global y los incentivos económicos y los billones de dólares de inversión entre Estados Unidos y China, una congelación global del desarrollo de la IA puede parecer impensable.

¿Alguien puede darle al gato una llamada de atención antes de que sea demasiado tarde? ¿O está cada vez más cerca el «Terminator» de Cameron?