Descrito por Apple como una nube de GPU virtual dinámica que «agrega GPU de silicio de Apple inactivas» en Mac, Minions puede ayudar a los equipos que necesitan trabajar con cargas de trabajo de inferencia de aprendizaje automático a gran escala. Los investigadores de Apple ya han estado usando Minions internamente.
La teoría es sencilla. Los Mac tienen potentes GPU que pasan la mayor parte de su tiempo inactivo, especialmente durante las tareas informáticas diarias.
Minions está diseñado para aprovechar la potencia de procesamiento de la GPU que no se está utilizando, convirtiendo los Mac que de otro modo no estarían infractulados en un grupo de máquinas preparadas para la IA.
Tanto el Mac mini como el Mac Studio admiten la agrupación a través del sistema Remote Direct Memory Access (RDMA) mediante conexiones Thunderbolt 5. Estos cables de alto ancho de banda permiten combinar la computación y la memoria de varias máquinas, poniéndolas a trabajar en una sola carga de trabajo.
Minions es una expansión de ese concepto.
Componentes de un Minion
La documentación de Apple explica que hay cuatro componentes clave necesarios para que los Minions funcionen.
Primero, un servidor de Minions actúa como coordinador central, manejando todas las solicitudes a través de una interfaz basada en la web y API. Una vez que se ha entregado un trabajo al servidor de Minions, todo se entrega y se pone en cola en una tienda de metadatos PostgreSQL.
Minion Executors se ejecuta en los dispositivos macOS cuyos ciclos de GPU se van a cosechar para el sistema Minions. Estos ejecutores ejecutan subtareas localmente utilizando las GPU de Apple Silicon y luego escriben sus resultados en el almacenamiento.
Si se produce un fallo, como durante un fallo de conectividad o un fallo de energía, el Minion Watchdog vuelve a poner en cola el trabajo fallido para su ejecución en otra máquina.
Todo el proceso se vuelve a un panel de control para el monitoreo en tiempo real.
Apple argumenta que, en su experiencia, Minion ha demostrado que los dispositivos macOS se pueden convertir en una plataforma de inferencia de GPU distribuida cuando sea necesario.
Apple también dice que, en sus pruebas, algunos trabajos de inferencia que anteriormente tomaban más de 10 horas se han reducido a meros minutos. Y todo sin la necesidad de infraestructura adicional y con un camino fácil hacia una mayor escala.
Cuando eso pueda ser necesario diferirá de un caso de uso al siguiente. Pero es fácil imaginar una oficina llena de Macs con sus ciclos de GPU cosechados de esta manera, ya que el método «Minions» no parece requerir Thunderbolt.
Para las empresas, los beneficios de algo como Minions son obvios. Reducir el tiempo de procesamiento sin tener que comprar hardware adicional siempre es una ventaja, especialmente porque los precios continúan disparándose.
