ChatGPT ha cambiado mucho en muy poco tiempo. Hace apenas unos años, el gran debate en torno a la inteligencia artificial se centraba en sus trampas: respuestas inventadas, ilusiones y una tendencia a reaccionar con exceso de confianza incluso cuando la gente realmente no entendía algo. Pero las cosas están empezando a verse diferentes. A medida que los modelos se vuelven más poderosos, conectados y autónomos, También surgen nuevos riesgos. Quizás es por eso que OpenAI acaba de lanzar una función cuyo nombre en sí es bastante revelador: modo de bloqueo.

La compañía ha anunciado un despliegue gradual del servicio. Nuevo modo de seguridad avanzado para cuentas personales de ChatGPT, incluidos los planes Free, Go, Plus y Proy el entorno autogestionado ChatGPT Business. Según OpenAI, su objetivo es Reduzca el riesgo de filtraciones de datos debido a ataques de inyección instantáneaEsta amenaza aún está surgiendo, pero es cada vez más relevante a medida que la IA gana acceso a herramientas externas y servicios conectados.

Vale la pena detenerse aquí porque el concepto puede parecer más desalentador de lo que realmente es. Los ataques de inyección instantánea no funcionan como los hacks tradicionales. No implica descifrar contraseñas ni explotar vulnerabilidades clásicas. En cambio, incluye Ocultar instrucciones maliciosas en contenido procesado por IA– Páginas web, archivos cargados por usuarios e incluso datos externos recuperados automáticamente. Los objetivos pueden variar desde cambiar el comportamiento de un modelo hasta intentar que revele o transmita información confidencial.

Para limitar esta superficie de riesgo nació el modelo de confinamiento. Cuando está habilitado, ChatGPT restringe la mayoría de las funciones que implican salir o interactuar con servicios conectados.. Los navegadores web comenzaron a utilizar contenido almacenado en caché en lugar de búsquedas en tiempo real; Se desactivaron funciones como inmersiones profundas, modo proxy, descargas automáticas de archivos para análisis o acceso a la red Canvas. También se restringen determinados conectores y experiencias que implican interacción con servicios externos.

La clave, sin embargo, reside en un matiz importante que OpenAI señala claramente: El modo de bloqueo no protege completamente contra ataques de inyección instantánea. Es posible que aún aparezcan instrucciones maliciosas en el contenido procesado por ChatGPT y afecten la calidad o precisión de sus respuestas. ¿Para qué sirve este nuevo sistema? Intentar bloquear es la etapa más delicada: Un atacante logra utilizar estas instrucciones para obtener datos confidenciales del entorno controlado de un usuario.

Esto también explica por qué OpenAI insiste en que la función no es para todos. El modo de bloqueo parece estar especialmente dirigido a usuarios y organizaciones que manejan información confidencial.: Abogados, investigadores, empresas, equipos jurídicos o profesionales que trabajan con documentos confidenciales, empiezan a integrar la inteligencia artificial en procesos donde errores o filtraciones pueden tener graves consecuencias. Para las personas que ocasionalmente usan ChatGPT para ayudar a escribir correos electrónicos, planificar viajes o resumir documentos, puede resultar innecesariamente restrictivo.

Aquí surge una de las interpretaciones más interesantes de este movimiento. En los últimos meses, OpenAI ha empujado a ChatGPT hacia un modelo cada vez más ambicioso: navegación web, conectores, agentes capaces de realizar tareas, automatización y acceso a servicios externos. Pero cuanto más útil y autónoma se vuelve la IA, más superficies de ataque inevitablemente expondrá.. El modo de bloqueo refleja exactamente ese incómodo equilibrio entre poder y seguridad.

Más allá de la característica en sí, el anuncio es interesante porque arroja luz sobre el momento que atraviesa la inteligencia artificial. La conversación ya no gira sólo en torno a lo que la IA puede hacer; ¿Qué sucede cuando empiezas a actuar en nombre de los usuarios?acceder a información confidencial o interactuar con otros sistemas. En este contexto, parece lógico que incluso los chatbots necesiten a veces sus propias salas de pánico.

Más información