El fundador de Sign ha estado trabajando silenciosamente en un chatbot de IA de código abierto y totalmente cifrado de extremo a extremo, diseñado para mantener en secreto las conversaciones de los usuarios.
En una serie de publicaciones de weblog, Moxie Marlinspike deja en claro que, si bien es un fanático de los grandes modelos de lenguaje, le preocupa la poca privacidad que ofrecen actualmente la mayoría de las plataformas de inteligencia synthetic.
Marlinspike sostiene que, al igual que Sign, la interfaz de un chatbot debería reflejar con precisión lo que sucede bajo el capó. Sign parece una conversación privada uno a uno porque lo es. Mientras tanto, los chatbots como ChatGPT y Claude se sienten como un espacio seguro para intercambios íntimos o un diario privado, aunque la empresa detrás de ellos puede acceder a las conversaciones de los usuarios y, a veces, utilizarlas para capacitación.
En otras palabras, si un chatbot siente que estás teniendo una conversación privada, Marlinspike cube que también debería funcionar de esa manera.
Cube que esto es especialmente importante porque los LLM representan el primer medio tecnológico importante que “invita activamente a la confesión.“A medida que las personas conversan con estos sistemas, terminan compartiendo mucho sobre cómo funciona su cerebro, incluidos patrones de pensamiento e incertidumbres.
Marlinspike advierte que este tipo de información podría fácilmente volverse contra los usuarios, y los anunciantes eventualmente explotarían información sobre ellos para vender productos o influir en el comportamiento.
La solución que propone es Confer, un chatbot de IA que cifra tanto las indicaciones como las respuestas para que solo el usuario pueda acceder a ellas.
“Confer está diseñado para ser un servicio en el que puedas explorar concepts sin que tus propios pensamientos puedan conspirar contra ti algún día; un servicio que rompa el ciclo de retroalimentación de tus pensamientos y se conviertan en anuncios dirigidos a pensamientos; un servicio en el que puedas aprender sobre el mundo, sin intermediarios de datos ni futuras sesiones de capacitación que aprendan sobre ti”, escribió Marlinspike.
Sign se fundó en 2014 con principios similares, y WhatsApp de Meta finalmente adoptó su protocolo de mensajería cifrada de código abierto unos años más tarde. Por lo tanto, es posible que Meta y otros gigantes tecnológicos eventualmente también adopten la tecnología de Confer.
como funciona
Según Marlinspike, Confer está diseñado para que las conversaciones de los usuarios se cifren antes de que abandonen sus dispositivos, de forma comparable a como funciona Sign.
Las indicaciones se cifran en la computadora o el teléfono de un usuario y se envían a los servidores de Confer en ese formato, luego se descifran solo en un entorno de datos seguro para generar una respuesta.
Confer hace esto mediante el uso de una combinación de herramientas de seguridad. En lugar de contraseñas tradicionales, utiliza claves de acceso, como Face ID, Contact ID o un PIN de desbloqueo de dispositivo en los dispositivos de usuarios verificados, para derivar claves de cifrado.
Cuando llega el momento de que la IA responda, Confer utiliza lo que llama informática confidencial, donde se utiliza aislamiento impuesto por {hardware} para ejecutar código en un entorno de ejecución confiable (TEE).
“La máquina host proporciona CPU, memoria y energía, pero no puede acceder a la memoria del TEE ni al estado de ejecución”. Marlinspike.
Con el “pensamiento” o inferencia del LLM ejecutándose en una máquina digital confidencial, la respuesta se cifra y se envía de vuelta al usuario.
El {hardware} también produce pruebas criptográficas, conocidas como atestación, que permiten que el dispositivo de un usuario verifique que todo funciona como debería.
Todo esto se hace para mantener seguros los datos de los usuarios y no, como cube Marlinspike, enviarlos a “un lago de datos diseñado específicamente para extraer significado y contexto”.
