Anthropic dice que su último modelo de IA es peligroso
Anthropic anunció el lanzamiento del Proyecto Glasswing, una iniciativa de ciberseguridad que combina un modelo de inteligencia artificial de vanguardia aún por lanzar (Claude Mythos Preview) con un consorcio de 12 importantes empresas tecnológicas y financieras. Será uno de los mayores esfuerzos de la industria en ciberseguridad para encontrar y reparar vulnerabilidades de software en la infraestructura más crítica del mundo antes de que los adversarios puedan explotarlas.
Las motivaciones del proyecto Glasswing son extrañas. Al afirmar que su modelo de red de inteligencia artificial más poderoso es demasiado peligroso para publicarlo, Anthropic ha centrado su atención en un ambicioso proyecto comunitario destinado a controlar su alcance. La iniciativa pone en primer plano uno de los grandes retos a los que se enfrenta hoy la industria tecnológica, la inteligencia artificial y la ciberseguridad, y el papel de la inteligencia artificial en los ciberataques, haciendo que las actividades maliciosas sean cada vez más avanzadas, más baratas y más accesibles.
Los socios que lanzan el proyecto incluyen grandes organizaciones como Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, NVIDIA y Palo Alto Networks. Anthropic dijo que también ha ampliado el acceso a más de 40 organizaciones que desarrollan o mantienen software crítico y ha comprometido hasta $100 millones en créditos de uso para Claude Mythos Preview en todo el programa, así como $4 millones en donaciones directas a organizaciones de seguridad de código abierto.
Toda la información en MCPRO
Puedes consultar la fuente de este artículo aquí