OpenAI se ha convertido Chat GPT Una de las herramientas más poderosas de la inteligencia artificial. Su llegada a finales de 2022 tomó a todos por sorpresa. Poder hablar fácilmente con un asistente virtual y que responda a todas nuestras solicitudes se ha convertido en un sueño hecho realidad.

Sin embargo, no todo lo que reluce es oro y, si bien la compañía confirma que su uso es seguro, existen ciertas prácticas con las que hay que tener cuidado y evitarlas. En este caso, a veces se nos ocurren formas inteligentes de aprovechar su funcionalidad. Especialmente si intentamos descubrir cómo funciona el complejo mundo del desarrollo informático. malware A través de inteligencia artificial.

¿Qué riesgos puedo correr?

Según los expertos, desde Essetpodemos enfrentar algunos peligros si solicitamos información sobre malware.

Los datos que eventualmente puedan almacenarse

Podríamos cometer un error si seleccionamos una muestra de malware y la usamos como evidencia de que ChatGPT interpreta este código. El archivo contiene fragmentos muy frágiles que eventualmente se almacenarán en el servidor del chatbot. Incluso otros actores que descubran vulnerabilidades de seguridad en la plataforma pueden acceder y utilizar estos datos para entrenar inteligencia artificial con malas intenciones.

En este caso, la mejor opción es eliminarlo de tu dispositivo inmediatamente si has descargado algún tipo de virus sospechoso.

respuesta incorrecta

Chat GPT No es un software antivirus. Nada de eso. No puede explicar si su computadora está infectada o qué malware puede contener. Su esencia se basa en recopilar una base de datos y convertirla en texto. Esto puede dar lugar a interpretaciones incorrectas.

Los algoritmos de IA no son perfectos y pueden dar lugar a respuestas inexactas. Por ello, tampoco se recomienda su uso en el ámbito sanitario ya que puede poner en peligro nuestra salud.

manipular

Los analistas destacan que los servicios públicos fraudulentos pueden incluir manipulación conductual modelo de lenguaje. Esta técnica se llama inyección instantánea y puede revelarse de diversas formas:

• Instrucciones ocultas: el malware a veces incluye comentarios ocultos dentro de un conjunto de metadatos, por lo que puede obligar a la IA a responder diciendo que el archivo adjunto es seguro.
• Enmascare el significado de los cambios de código: también puede incluir funciones con nombres de código que parezcan legítimos pero que en realidad sean engañosos.
• Operaciones de registro: estos archivos se utilizan para diagnosticar problemas y pueden descifrarse para causar daños a nuestros sistemas.

La IA debería verse como un mero asistente

Tras solucionar estos problemas técnicos que amenazan nuestra privacidad, es necesario advertir que la inteligencia artificial debe complementarla. Los profesionales de la industria dicen que esto significa que los usuarios deberían evaluar el impacto de los archivos en lugar de crear ChatGPT. «Como sustituto de analistas humanos o herramientas profesionales».

Además, si quieres contribuir a la defensa de la ciberseguridad de la IA, debes considerar los siguientes factores:

• Utilice herramientas de análisis externas para el expediente en cuestión.
• Configurar la privacidad de la cuenta.
• No compartas contraseñas o información bancaria.
• Comparando respuestas de IA Contar con fuentes confiables.
• Utilice consejos inofensivos y legales.
• Si el sistema proporciona un comportamiento contradictorio, Registrar un caso y enviarlo a soporte.