PrismML comprime Qwen3.6 para 4 GB, modelo de 27 bilhões é colocado no iPhone.

Segundo monitoramento do Dongcha Beating, o laboratório de IA PrismML, cofundado pelo matemático Babak Hassibi, do Instituto de Tecnologia da Califórnia, afirmou ter comprimido o modelo de código aberto da Alibaba, Qwen3.6-27B, para executá-lo no iPhone 17 Pro.

O Qwen3.6-27B é um modelo denso com 27 bilhões de parâmetros. Durante a inferência, todos os parâmetros são ativados, ao contrário de modelos MoE que ativam apenas parte dos parâmetros.

A PrismML afirma que o tamanho do modelo foi reduzido de aproximadamente 54 GB para menos de 4 GB, sem queda perceptível no desempenho. Ele pode ser usado para tarefas complexas de conversação, raciocínio, agentes e código.

A Apple já entrou em contato com a PrismML para discutir como usar essa tecnologia. A Apple sempre quis colocar mais IA localmente nos dispositivos, mas a Siri avançada ainda depende de modelos na nuvem.