Los agentes de IA son increíblemente peligrosos, es un secuestro de nuestros dispositivos
Para la industria tecnológica, explotar la privacidad para hacer negocio es un dogma. No es el caso de Signal, la única organización sin ánimo de lucro del mundo que proporciona comunicaciones fiables en tiempo real. Lanzada en 2014 como una curiosidad entre la comunidad hacker, la aplicación de mensajería instantánea se ha convertido en todo un fenómeno entre millones de personas de todo el mundo gracias a su cifrado de las conversaciones y a que no conserva sus datos íntimos. Signal vive de donaciones y no cuenta con inversiones interesadas, ni publicidad, ni presión para hacer caja con los usuarios. Su éxito demuestra, según Wired, que el capitalismo despiadado no es el único camino a seguir para el futuro de la tecnología.
[–>[–>[–>Al frente de este particular proyecto está Meredith Whittaker, una de las voces más influyentes y reputadas del panorama tecnológico, pero también una de las más críticas. Su estilo directo y honesto es poco habitual en Silicon Valley, una lucidez que evidencia su licenciatura en retórica y literatura inglesa por la Universidad de Berkeley. «Signal es oro puro, 100% privacidad», explica a EL PERIÓDICO, en la primera conversación con un medio catalán desde que asumió su cargo en 2022. En comparación, rivales como WhatsApp, Messenger o Telegram son «oro con algo de latón, una mezcla aleada». «No hay nada malo con las joyas baratas, pero no deberías venderlas como si fueran diamantes», recalca.
[–> [–>[–>Tras una larga carrera en Google, Whittaker abandonó el gigante de internet en 2018 tras liderar una dimisión masiva de empleados en protesta por una cultura interna tóxica, por sus contratos militares y por sus proyectos de vigilancia ciudadana. Desde entonces, ha cofundado el centro de investigación AI Now Institute, ha asesorado a la presidenta de la Comisión Federal de Comercio de Estados Unidos durante la era Biden, Lina Khan, y actualmente dirige la Fundación Signal.
[–>[–>[–>
Signal es muy popular en Alemania, Países Bajos o Finlandia, pero no en España. ¿Qué la diferencia de WhatsApp o Telegram, mucho más usadas aquí?
[–>[–>[–>En Telegram puedes cifrar los chats, pero no está activado por defecto. Recopilan una gran cantidad de datos, así que creo que es importante no confundir su marketing con su realidad. Telegram no es una aplicación significativamente privada o cifrada.
[–>[–>[–>
WhatsApp utiliza nuestro protocolo para cifrar de extremo a extremo el contenido de los mensajes, pero recopila una gran cantidad de metadatos, que son increíblemente sensibles, como contactos, fotos de perfil, quién envía mensajes, en qué grupos estás… Y está añadiendo funciones de inteligencia artificial (IA). Recientemente se destapó que WhatsApp manda datos a los servidores de Siri de Apple. Una vez más, Meta está erosionando su promesa de privacidad.
[–>[–>
[–>Es importante no confundir el marketing de empresas como Telegram con su realidad. No es una app privada
[–>[–>[–>
Su principal mercado es Europa. ¿Han detectado más interés en la privacidad tras el regreso al poder de Trump?
[–>[–>[–>
El interés ha crecido en los últimos años en Europa, en Estados Unidos y en todo el mundo. En Signal, nos enorgullecemos de no recopilar datos, por lo que hay cierta información que simplemente desconocemos y estamos orgullosos de ello. Así que lo que podemos decir basándonos en datos es que nuestra cifra de usuarios está aumentando.
[–>[–>[–>¿A qué cree que se debe?
[–>[–>[–>
Hay varios factores que influyen en ello. Uno es el no sentirse cómodo con que información tan íntima esté en manos de un puñado de empresas que parecen muy dispuestas a dejarse llevar por los vientos políticos del gobierno que esté en el poder. Además, cada día vemos más violaciones de datos sensibles que ejemplifican el peligro de la falta de fiabilidad de las plataformas de vigilancia. Cada vez más personas lo entienden.
[–>[–>[–>
El motor económico de la industria tecnológica es la vigilancia
[–>[–>[–>
La IA como herramienta de vigilancia
[–>[–>[–>
En Signal han evitado desplegar funciones de redes sociales o de IA. ¿Es esta última tecnología otro método de vigilancia?
[–>[–>[–>
El motor económico de la industria tecnológica es la vigilancia, la recopilación de datos y su uso para cosas como crear perfiles de personas y vender su acceso a los anunciantes. Ocurre lo mismo con la IA. Pero eso no es inevitable, se trata de decisiones que se tomaron en la década de 1990, en gran parte por la Administración Clinton, y que establecieron las condiciones de la industria actual. En Signal hemos innovado con tecnología que se sale del paradigma del modelo de negocio de la vigilancia y preserva la privacidad, lo que nos convierte en una de las organizaciones tecnológicas más creativas del mundo.
[–>[–>[–>
Los gigantes de Silicon Valley están presionando para integrar agentes de IA en los que podamos delegar todo tipo de tareas, desde planear tus vacaciones hasta resumir tus correos electrónicos. ¿Es la pesadilla definitiva para los expertos en seguridad y privacidad?
[–>[–>[–>
Son increíblemente peligrosos. Es el secuestro de nuestros dispositivos para integrar sistemas muy inseguros a los que cada vez se les conceden más permisos para acceder a datos sensibles y para tomar decisiones por nosotros. Pueden ser fácilmente engañados y manipulados, ya sea por error o por actores maliciosos. Es una amenaza, casi una puerta trasera a nuestro sistema operativo, que se está comercializando como una comodidad.
[–>[–>[–>
Los agentes de IA son una amenaza que se está comercializando como una comodidad
[–>[–>[–>
Dicho esto, aún no hemos visto agentes de IA que soliciten acceso a los datos de Signal. Pero queda claro que las compañías quieren seguir ese mismo camino: expandir sus tentáculos para acceder a más aplicaciones y convertir la IA un servicio central para tu vida. El público no es consciente de que se trata de arquitecturas inseguras que violan la privacidad porque no se ha informado de ello con claridad.
[–>[–>[–>
Meredith Whittaker, presidenta de la Fundación Signal. / Cedida por Signal
[–>[–>[–>
¿Burbuja a punto de estallar?
[–>[–>[–>
Aun así, la Administración Trump ha recortado las regulaciones para que esas empresas puedan seguir amasando datos en nombre de mantener la hegemonía de EEUU ante China. ¿Mata esa mentalidad las narrativas de un futuro alternativo como el que propone Signal?
[–>[–>[–>
Hay un enfoque a corto plazo, un deseo muy poco crítico de supremacía, ya sea en EEUU, China u otros países que se sienten rezagados. Viendo las cifras que mueve el mercado de la IA, queda claro que los ingresos que se necesitarán para obtener beneficios con estos sistemas extremadamente caros son desorbitados. Y aún no hemos visto productos claros que sean capaces de llegar al umbral de rentabilidad y obtener beneficios.
[–>[–>[–>
Eso ayuda a entender que se estén tomando decisiones muy poco acertadas por desesperación. La elevada inversión ha despertado un nerviosismo real entre las empresas en torno a la cuestión de cuándo serán rentables. Y creo que hay un círculo vicioso que está creando sistemas cada vez más peligrosos y presionando a los equipos de desarrollo para que eludan las medidas de seguridad y privacidad probadas y contrastadas.
[–>[–>[–>
El nerviosismo por su falta de rentabilidad hace que las empresas de IA estén creando sistemas cada vez más peligrosos
[–>[–>[–>
¿Cree que el modelo que promueve la UE, con normas, límites y transparencia, es el camino a seguir?
[–>[–>[–>
Hay buenas ideas de la UE, pero también un poco de contradicción. Bruselas dice querer ser una potencia en IA y al mismo tiempo preservar la privacidad. A menudo, estos dos deseos no están armonizados y el terreno es muy contradictorio. Por lo tanto, creo que aún está por ver qué hace realmente la UE y cómo se desarrolla el mercado de la IA.
[–>[–>[–>
¿Es una burbuja a punto de estallar?
[–>[–>[–>
Creo que sin duda estamos en una burbuja. Lo que sucederá es una incógnita, dado lo mucho que la economía mundial está ahora envuelta en la inversión en IA.
[–>[–>[–>
Creo que sin duda estamos en una burbuja
[–>[–>[–>
El milagro de Signal
[–>[–>[–>
¿Cómo puede una organización sin ánimo de lucro competir con gigantes con inversiones milmillonarias?
[–>[–>[–>
No tengo una respuesta definitiva. Es un milagro que Signal exista y se haya convertido en la infraestructura central para la privacidad en una época en la que casi todo lo demás está vigilado. Signal ha crecido gracias a una reputación increíblemente sólida que refleja el rigor y el compromiso con la privacidad. La app es totalmente de código abierto, lo que significa que puede ser examinado. Nuestro protocolo, lanzado en 2013, supuso un gran avance en el campo de la criptografía y es lo que ha permitido las comunicaciones privadas seguras en los smartphones. Ha resistido el paso del tiempo. La gente ha intentado encontrar fallos y vulnerabilidades y no han sido capaces.
[–>[–>[–>
Hasta el punto de que WhatsApp lo adoptó como propio.
[–>[–>[–>
Así es. Gracias a ello hemos creado una red de millones y millones de personas en todo el mundo. Contamos con un ecosistema de personas que analizan cada línea de código es realmente una ecología, un sistema complejo que ha crecido a lo largo de muchos años sobre la base de ese tipo de integridad. No existe una fórmula para chasquear los dedos y llegar a donde está Signal. La lección fundamental es mantenerse fiel a los principios, trabajar con rigor y colaborar con los mejores en tu campo. Entonces estarás preparado para el éxito a largo plazo.
[–>[–>[–>
Es un milagro que Signal exista (…) La lección es mantenerse fiel a los principios
[–>[–>[–>
Solo hace falta ver a OpenAI para saber que vivimos en una época en que aferrarse a tus principios es algo casi revolucionario.
[–>[–>[–>
Los farsantes siempre encuentran la manera de ocupar el lugar de los auténticos.
[–>[–>[–>
Apple y Meta se han subido al carro de la privacidad. ¿Cree que se aprovechan para reivindicar algo que Signal puso de moda?
[–>[–>[–>
Su giro demuestra que la privacidad es un valor que preocupa. La gente no se siente cómoda con todos sus datos íntimos en los servidores de Zuckerberg. Por eso adoptan tecnologías que preservan la privacidad. Y no estamos en contra de ello. Probablemente supondrá mucha más privacidad en el ecosistema. Si Meta implementa tecnología que le impide entregar datos a un régimen opresivo, pues eso es estupendo. No pretendemos ser los únicos. Por eso nuestras tecnologías son de código abierto.
[–>[–>[–>
Privacidad en Europa
[–>[–>[–>
La UE sigue debatiendo la aprobación de una polémica medida que obligaría a escanear todos los mensajes de los usuarios. ¿Supondría el fin de la privacidad?
[–>[–>[–>
La lucha no ha terminado y, se mire como se mire, se trata de una amenaza fundamental para la privacidad. El escaneo, la verificación y la aprobación del contenido de los mensajes enviados entre personas de forma privada que se impone es imposible de lograr sin comprometer la protección de la privacidad y los derechos humanos fundamentales. La historia nos enseña que este tipo de cosas pueden comenzar con un alcance muy limitado y expandirse hasta abarcar todo lo que se considere aceptable bajo cualquier régimen en cualquier momento.
[–>[–>[–>
Si nos viéramos ante la disyuntiva de acatar la ley o abandonar un mercado, abandonaríamos el mercado
[–>[–>[–>
De aprobarse, ¿abandonaría Signal el mercado europeo?
[–>[–>[–>
Cualquier medida que obligue a Signal a incorporar este tipo de vigilancia en nuestra aplicación socavaría y anularía fundamentalmente todo el sentido del cifrado de extremo a extremo, que es garantizar que solo las personas en los dos extremos puedan ver los mensajes y que nadie más, ya sea el gobierno o un tercero que comercialice datos, pueda verlo. Cuando se abre una brecha en ese sistema se socava la privacidad y se crea un vector para los ataques de ciberseguridad que representan un peligro profundo, especialmente teniendo en cuenta las situaciones de alto riesgo en las que gobiernos, ejércitos, trabajadores de derechos humanos o periodistas dependen de Signal.
[–>[–>[–>
Entonces, ¿saldría de Europa o seguiría operando en los márgenes como hace en Irán?
[–>[–>[–>
Haríamos todo lo posible para seguir operando porque, al igual que en Irán, Rusia o cualquier otra jurisdicción donde los gobiernos niegan la privacidad, no creemos que las personas deban sufrir y renunciar a sus derechos. Nunca socavaremos nuestra integridad, la solidez de nuestro cifrado y nuestras garantías de privacidad. Si nos viéramos ante la disyuntiva de acatar la ley o abandonar un mercado, abandonaríamos el mercado. Pero haríamos todo lo posible para eludir dicha ley para mantener las comunicaciones privadas.
[–>[–>[–>
España ha adoptado en general posiciones preocupantes sobre la privacidad
[–>[–>[–>
Alemania es de los países que más defiende el cifrado de extremo a extremo. ¿Qué rol juega España en ese debate?
[–>[–>[–>
España ha adoptado en general posiciones preocupantes sobre el cifrado de extremo a extremo, ya que actualmente apoya la obligatoriedad del escaneo e incluso ha abogado más explícitamente por la prohibición total del cifrado de extremo a extremo en el pasado. También les encanta la idea de la verificación de la edad, que es otra de esas tecnologías que suena bien para que los niños no accedan a contenidos inapropiados, pero en la práctica no funciona. Ha habido cierto pensamiento mágico por parte del Ministerio del Interior.
[–>[–>[–>
Suscríbete para seguir leyendo
Puedes consultar la fuente de este artículo aquí