El asistente de inteligencia artificial de Meta, Muse, ejecuta un proceso automático cada hora para crear un perfil detallado de cada familiar, pareja, amigo y colega de sus usuarios, según documentos internos extraídos por un investigador independiente y revelados por Wired. El hallazgo lo hizo Karan Joshi, investigador independiente especializado en seguridad informática y en seguridad de la inteligencia artificial, quien logró que el propio chatbot le entregara sus instrucciones internas con un pedido simple: le pidió a Muse que copiara y compartiera sus archivos de software a través de la interfaz normal de chat. Entre esas instrucciones aparece la orden de generar “una página para cada persona en la vida del usuario”. Qué datos junta al IA de Meta y cómo los organiza El proceso horario recopila información sobre familiares, parejas, amigos, colegas, “colaboradores” y personas a las que el usuario simplemente sigue en redes sociales, de acuerdo con la documentación citada por Wired.Cada ficha se organiza en categorías fijas: hechos, historia, la relación, puntos en común, temas pendientes y el estado del vínculo. Las páginas comienzan con poca información y se expanden con el tiempo, según los documentos revisados. Entre los datos que Muse registra figuran mudanzas, metas de ahorro compartidas, cumpleaños, aniversarios y hasta discusiones pasadas entre el usuario y las personas de su entorno, siempre que existan rastros de esa información en las conversaciones o conexiones del usuario. Las instrucciones internas también le indican al sistema que debe basarse estrictamente en la evidencia disponible y evitar inventar detalles sobre las personas perfiladas, un matiz que Meta destaca como garantía de precisión frente al riesgo de que la inteligencia artificial imagine datos falsos.Joshi describió el hallazgo en duros términos. “Quieren entender las relaciones que tenés con personas reales”, dijo a Wired. “Tratan de conocerte como lo haría un amigo, lo cual es honestamente bastante inquietante”, agregó. Cuál fue la respuesta de Meta y la mirada de una experta en ética Un vocero de Meta, Daniel Roberts, defendió el diseño ante Wired. “Para que cualquier agente sea útil y realmente te ayude a lograr tus objetivos, necesita tener contexto sobre vos y sobre quienes te rodean”, afirmó. Roberts explicó que Muse obtiene esos datos a partir de información pública y de lo que el usuario decide compartir, y puso como ejemplo que así el sistema recuerda que quien envió una factura es el plomero contratado previamente, o qué flores prefiere la pareja del usuario. La empresa de Mark Zuckerberg sostiene que cada usuario opera dentro de una máquina virtual dedicada e inaccesible para otros agentes o usuarios, que Muse pide confirmación humana antes de completar acciones como enviar un correo o hacer una compra, y que existe un registro de auditoría donde se puede revisar toda la actividad del agente.Asimismo, la compañía remarca que, en cualquier momento, el usuario puede borrar la memoria acumulada por el asistente o desconectar los servicios externos que alimentan esos perfiles, aunque ese control recae únicamente en quien instaló Muse y no en las personas perfiladas sin haberlo hecho. Joshi admitió que no es inusual que un chatbot registre datos sociales básicos para responder consultas, algo que ya ocurre con otros asistentes conversacionales. Pero consideró llamativo el diseño de Muse a la luz del historial de Meta y de su acceso extendido a datos de redes sociales. Carissa Véliz, profesora asociada del Instituto de Ética en Inteligencia Artificial de la Universidad de Oxford, cuestionó el desequilibrio de esa dinámica. “Le estamos dando a los sistemas de inteligencia artificial mucha más información sobre nosotros de la que recibimos de ellos”, señaló. Véliz remarcó que el riesgo no se limita a lo que el usuario comparte de manera explícita, sino también a lo que el sistema puede inferir o reconstruir a partir de otras fuentes de datos, correctas o no.Un lanzamiento masivo bajo la lupa Muse se convirtió en un éxito de descargas desde su salida, con millones de usuarios que lo conectaron a cuentas bancarias, mensajes y datos de salud para que ejecute tareas en su nombre. Ese crecimiento ocurre mientras Meta enfrenta cuestionamientos sobre el manejo de datos del asistente. Días atrás, la compañía debió salir a desmentir el reclamo de un usuario que aseguró que Muse había leído sus mensajes privados sin autorización.
A eso se suma que, semanas antes, un investigador había reportado una falla de seguridad que permitía tomar el control total del agente, otro episodio que alimentó el escrutinio sobre un producto que Meta integró con rapidez a Facebook, Instagram y WhatsApp.