Así trabaja Apple para mejorar su IA

Con su enfoque obsesivo conn la privacidad del usuario, Apple se ha enfrentado a desafíos para poder recopilar suficientes datos que permitan entrenar los grandes modelos de lenguaje que impulsan las características de Apple Intelligence y que en última instancia mejorarán Siri.

Para mejorar la inteligencia de Apple, Apple tiene que llegar a compromisos con respecto a la preservación de la privacidad para la capacitación en IA, y algunos de los métodos que la compañía está utilizando se han descrito en esta nueva publicación del blog de Machine Learning Research.

Básicamente, Apple necesita datos de usuario para mejorar el resumen, las herramientas de escritura y otras características de Apple Intelligence, pero no quiere recopilar datos de usuarios individuales. Así que, en cambio, Apple ha elaborado una forma de comprender las tendencias de uso utilizando privacidad diferencial y datos que no están vinculados a ninguna persona.

Apple está creando datos sintéticos que son representativos de las tendencias agregadas en los datos reales de los usuarios, y está utilizando la detección en el dispositivo para hacer comparaciones, proporcionando a la empresa información sin necesidad de acceder a información confidencial.

Funciona así: Apple genera múltiples correos electrónicos sintéticos sobre temas que son comunes en los correos electrónicos de los usuarios, como una invitación a jugar un partido de tenis a las 3:00 p.m. Apple luego genera un archivo embebido a partir de ese correo electrónico con información específica sobre el idioma, el tema y la longitud. Apple puede crear varios de estos archivos con diferentes longitudes e información del correo electrónico.

Esos archivos generados se envían a un pequeño número de usuarios de iPhone que tienen activadas las Analíticas del dispositivo, y los iPhones que reciben esos archivos seleccionan una muestra de correos electrónicos de usuario reales y realizan los modelos embebidos de esos correos electrónicos reales.

Los archivos embebidos sintéticos que creó Apple se comparan con el embebido del correo electrónico real, y el iPhone del usuario decide cuál de los embebidos sintéticos están más cerca de la muestra real.

Luego, Apple utiliza la privacidad diferencial para determinar cuáles de los creados sintéticos se seleccionan más comúnmente en todos los dispositivos, por lo que sabe cómo se redactan los correos electrónicos más comúnmente sin ver los correos electrónicos del usuario y sin saber qué dispositivos específicos seleccionaron qué modelos como los más similares.

Apple dice que estos archivos sintéticos seleccionados con más frecuencia que se recopilan se pueden utilizar para generar datos de entrenamiento o pruebas, o se pueden utilizar como ejemplos para un mayor refinamiento de los datos. El proceso proporciona a Apple una forma de mejorar los temas y el lenguaje de los correos electrónicos sintéticos, lo que a su vez entrena modelos para crear mejores resultados de texto para resúmenes de correo electrónico y otras características, todo sin violar la privacidad del usuario.

Apple hace algo similar para Genmoji, utilizando privacidad diferencial para identificar indicaciones populares y patrones de indicaciones que se pueden utilizar para mejorar la función de generación de imágenes. Apple utiliza una técnica para garantizar que solo reciba indicaciones de Genmoji que han sido utilizadas por cientos de personas, y nada específico o único que pueda identificar a una persona individual.

Apple no puede ver Genmoji asociado a un dispositivo personal, y todos los datos que se transmiten son anónimos e incluyen ruido aleatorio para ocultar la identidad del usuario. Apple tampoco vincula ningún dato con una dirección IP o ID que pueda estar asociado a una cuenta de Apple.

Con ambos métodos, solo los usuarios que han optado por enviar las estadísticas del dispositivo a Apple participan en la prueba, por lo que si no deseas que tus datos se utilicen de esta manera, puedes desactivar esa opción.

Apple planea ampliar su uso de técnicas de privacidad diferencial para mejorar Image Playground, la creación de recuerdos, las herramientas de escritura y la inteligencia visual en iOS 18.5, iPadOS 18.5 y macOS Sequoia 15.5.