Tenemos un problema No podemos confiar en la inteligencia artificial, pero confiamos cada vez más en esta herramienta. El progreso que hemos logrado con modelos avanzados significa que muchas personas han simplificado sus tareas diarias hasta el punto de comenzar a confiar ciegamente en la IA.

Confianza ciega en la tecnología Producir respuestas incorrectas o incluso alucinar (inventar cosas que no sabes) Desafortunadamente, este riesgo no recibe la atención que merece por parte de los usuarios, sino de las empresas que nos venden a gritos las maravillas de la inteligencia artificial, pero nos dicen en voz baja que no debemos confiar en la inteligencia artificial.

Esto nos provocó graves conflictos que finalmente afectaron a los usuarios. Todas las empresas que desarrollan y brindan soluciones de inteligencia artificial, especialmente en términos de generación, incluyen advertencias en sus términos y condiciones de uso indicando que sus modelos Pueden estar equivocados y no deberían utilizarse para tomar decisiones importantes.

Qué tan confiable es la inteligencia artificial y por qué no deberíamos confiar ciegamente en ella

Según datos de la startup Oumi publicados por The New York Times, El 10% de las búsquedas realizadas mediante Google AI (Gemini versión 2) contienen información falsa o incorrecta, Esto equivale a aproximadamente 57 millones de resultados incorrectos por hora y aproximadamente 1 millón por minuto.

Un portavoz de Google salió a decir que los datos de Oumi eran incorrectos porque no reflejaban el comportamiento del mundo real y aseguró que se basaban en sus datos internos. Sin embargo, los datos internos de Gemini 3 apuntan exactamente en la dirección opuesta, ya que el modelo Las alucinaciones ocurrieron el 28% de las veces.

En muchos casos, cuando la IA da respuestas erróneas o incorrectas Adjunto enlace donde podemos encontrar la información correcta. a lo que estamos buscando. El problema es que la mayoría de los usuarios no se molestan en hacer clic en el enlace y confían ciegamente en lo que les dice la IA.

La discrepancia entre lo que muestra AI en las respuestas y las fuentes que muestra en los enlaces ha aumentado en los últimos meses. 37% en Gemini 2 y 56% en Gemini 3. Por otro lado, también se ha producido un aumento de páginas enlazadas que no contienen información relevante.

Otra razón por la que no deberías confiar ciegamente en la inteligencia artificial es Esto es fácilmente manipulable porque carece de pensamiento crítico.. Por ejemplo, un periodista de la BBC publicó un artículo que contenía información falsa y pronto descubrió que la IA de Google repetía su afirmación falsa como si fuera cierta.

¿Qué Microsoft Describe al copiloto como «entretenimiento» Ha dicho mucho sobre su confianza en su propia inteligencia artificial y sobre cómo todo el «bombo» creado en torno a la tecnología parece exagerado, creando una aparente burbuja que estallará tarde o temprano.