Microsoft ha actualizado la documentación de soporte para aclarar el funcionamiento de los agentes de IA en Windows 11. Un conjunto de características experimentales cuyo lanzamiento provocó a más de uno la piel de gallina por la inseguridad que representaban Si su implementación no se produce bajo el máximo control del usuario.

Ya sabes que los agentes de inteligencia artificial (o agente AI) son una gran tendencia en inteligencia artificial. Esta herramienta de software va mucho más allá de los simples chatbots que hemos utilizado hasta ahora, ya que pueden realizar tareas de forma autónoma en sus fases más avanzadas. Usa tus propias habilidades de razonamiento. Así que el potencial es enorme, pero hay algunas preguntas sobre lo que significa que un tercero actúe en nombre del usuario.

La confianza en los agentes totalmente autónomos es actualmente muy baja y pocas empresas informan haber alcanzado la madurez suficiente en la infraestructura de datos y tecnología necesaria para implementar la tecnología y garantizar las operaciones y la seguridad. Por este motivo, el lanzamiento de agentes de IA en Windows 11 ha hecho sonar la alarma para todos. Si Windows 11 está hoy en mal estado en términos de calidad del software, imagínese lo que podría significar la implementación de agentes que aún requieren años de investigación y desarrollo.

Agentes de IA en Windows 11

La propia Microsoft ha advertido Los agentes de IA pueden tener alucinaciones, producir errores de salida y representar importantes amenazas a la seguridad.. Aunque existen otros problemas, como las crisis de memoria que conducen a un mayor consumo de recursos, los riesgos de seguridad y privacidad son los más apremiantes.

Lo que hay que decir aquí es lo que se sabe: los ciberdelincuentes siempre van por delante. Si ya utilizan mucho la IA generativa para crear malware, están en aumento Nuevas técnicas de ataque relacionadas con agentes autónomosentre los que destaca la Inyección de Mensajes Cruzados (XPIA). Estos ataques ocultan instrucciones maliciosas dentro de documentos o elementos de interfaz comunes, lo que hace que los agentes las sigan en lugar de realizar sus tareas. Esto podría permitir al agente instalar malware, filtrar información de pago o realizar otras acciones dañinas. Muy, muy peligroso, sin mencionar el riesgo para la privacidad.

Permisos

La actualización de la documentación de soporte y los cambios realizados son bienvenidos porque hasta ahora Microsoft no ha explicado claramente cómo funcionan estos agentes dentro del sistema operativo, su capacidad para acceder a los datos y qué pueden controlar los usuarios. Lo más importante es confirmar Agential AI se convertirá en una característica opcional en Windows 11 Debe habilitarse manualmente.

Además, Microsoft asegura que Windows 11 le pedirá su consentimiento Antes de permitir que los agentes de IA accedan a sus archivos Almacenado en seis carpetas principales que están deshabilitadas de forma predeterminada: Escritorio, Documentos, Descargas, Música, Imágenes y Vídeos. Incluso si el usuario activa las funciones experimentales del agente, el agente no puede leer el archivo automáticamente.

También puede personalizar los permisos de acceso a archivos para cada agente, lo que antes no estaba claro. O conceda permisos individuales a agentes individuales u otros asistentes que Microsoft haya implementado como copilotos, investigadores o analistas. Si un agente de IA como Copilot necesita acceder a sus archivos para completar una tarea, aparecerá una ventana emergente donde podrá elegir «Permitir siempre», «Preguntar siempre» o «Nunca permitir».

control

Microsoft insiste en que los agentes de IA se ejecutarán en espacios de trabajo específicos del agente que Separado del espacio de trabajo del usuario y tendrá permisos limitados de forma predeterminada. Cada agente en Windows tiene su propia página de Configuración donde puede administrar sus permisos para acceder a los archivos.

Sin embargo, Microsoft también advirtió «Una cuenta proxy puede acceder a cualquier carpeta a la que tengan acceso todos los usuarios autenticados, como los perfiles de usuarios públicos». Una cosa a considerar en estos escenarios es: si los permisos de la carpeta incluyen grupos como Usuarios con acceso de lectura/Usuarios autenticados, entonces la cuenta proxy puede acceder a ella.

Habrá conectores proxy adicionales que funcionarán con el Protocolo de contexto modelo (MCP) y actuarán como un puente de estandarización. Permitir que los agentes de IA interactúen con aplicaciones en Windows. Microsoft está probando esto actualmente, con planes de llevar agentes de IA a la barra de tareas.

En la información proporcionada por Microsoft, puede ver dos conectores de proxy que le permiten utilizar las aplicaciones Explorador de archivos y Configuración del sistema. Se pueden establecer permisos individuales para cada aplicación, lo que significa que se puede permitir que el agente de IA use las aplicaciones todo el tiempo, solo una vez cuando esté permitido o nunca.

Para acceder a estas configuraciones, se agregarán pantallas específicas en Herramientas de configuración general > Sistema > Componentes AI > Agentes. Allí verá una lista de servidores proxy disponibles y sus personalizaciones respectivamente.

Si no necesitas IA, olvídate de Windows 11 y superiores

Las aclaraciones (y cambios) para un mayor y mejor control de los agentes de IA en Windows 11 son positivas. y afirmar que serán completamente opcionales garantía obligatoria Esto debería extenderse a cualquier software que utilice inteligencia artificial. Sin embargo, el historial de Microsoft no inspira confianza. Además de los repetidos fallos de todas las funciones implementadas en Windows (un hito para la inteligencia artificial de la agencia), el «Recall» lanzado recientemente también es terrible en lo que respecta a seguridad y privacidad.

Por otro lado, cuando se anunció Windows como un sistema operativo basado en proxy, hubo muchos comentarios negativos sobre su futuro. Actualmente son opcionales, pero parecen estar planeados para futuros desarrollos de Windows, incluido Windows 12. Pondrá la inteligencia artificial al frente y al centro. Si no le gusta este enfoque, deberá dedicar mucho tiempo a buscar alternativas. Linux es la salvaguardia contra las intrusiones de IA. Actualmente…