¿Qué es la privacidad diferencial?
Imagina que quieres saber el salario medio de una sala, pero nadie quiere decirte el suyo. La privacidad diferencial añade un poco de ruido cuidadosamente diseñado a la respuesta, de modo que quien vea el resultado no pueda saber si una persona concreta está en los datos — ni cuál era su cifra. La palabra «diferencial» viene de comparar dos conjuntos que solo difieren en una persona y ver cuánto cambian las salidas. Si esa diferencia se mantiene pequeña, cada individuo desaparece. No es esconder los datos: es hacer indistinguible la aportación de cada persona.¿Cómo algo puede ser público y privado a la vez?
El ruido se puede ajustarCuánto ruido añadir es un problema matemático preciso. Más ruido, más privacidad pero resultados más borrosos: hay que elegir el equilibrio.
Te da un presupuesto de privacidad
Cada consulta gasta un poco de ese presupuesto. Si gastas demasiado, el sistema empieza a negarse a responder, para que nadie machaque la misma pregunta y reconstruya la verdad.
¿Dónde se usa?
Apple y Google lo usan para aprender de los hábitos de tecleo y de navegación sin exponer a las personas. El censo de EE. UU. usa una idea parecida para publicar estadísticas. Y ahora también se usa en el entrenamiento de modelos grandes: el modelo «ve» los datos sin memorizar a ninguna persona en concreto.El problema de fondo que resuelve
La anonimización clásica se limitaba a borrar nombres e identificadores, pero los atacantes pueden re-identificar a la gente con pistas indirectas: el código postal, la edad, una película que te gustó. La privacidad diferencial cierra esa puerta de forma matemática: por muy listo que sea el atacante, no puede saber si estás dentro.En resumen: la privacidad diferencial mete un poco de ruido en los datos, mantiene las estadísticas útiles y hace imposible rastrear a una persona concreta.
Comentarios