Sono stati annunciati due nuovi pacchetti open source, AnySpeechRecognizer e AnyDecisionModel, per estendere le capacità di machine learning sulle piattaforme Apple oltre i modelli linguistici standard. Mentre i grandi modelli linguistici gestiscono la generazione di testo, questi nuovi strumenti forniscono soluzioni specializzate, più veloci ed economicamente vantaggiose per compiti di riconoscimento vocale e processo decisionale direttamente all'interno delle applicazioni Swift.
AnySpeechRecognizer si basa sull'API SpeechAnalyzer introdotta in macOS 26 e iOS 26, consentendo agli sviluppatori di sostituire il motore predefinito di Apple con modelli open source di terze parti. Il pacchetto supporta la serie Parakeet di NVIDIA, inclusa la versione poliglotta Parakeet v3 che riconosce 25 lingue europee, e Qwen3-ASR di Alibaba, che copre 30 lingue e 22 dialetti cinesi. A differenza del framework nativo di Apple, AnySpeechRecognizer introduce anche capacità di diarizzazione dei parlanti utilizzando i modelli Streaming Sortformer di NVIDIA, consentendo alle app di tracciare fino a quattro parlanti contemporaneamente anche durante il parlato sovrapposto.
Il pacchetto rispecchia la struttura del framework Speech di Apple, il che significa che gli sviluppatori possono cambiare motore modificando solo l'istruzione di importazione e l'inizializzazione del modello. I modelli vengono convertiti nel formato Core ML e ospitati su Hugging Face Hub, con i download gestiti tramite AssetInventory per garantire che le risorse vengano installate solo quando necessario. I benchmark delle prestazioni condotti su un Mac Studio M4 Max in esecuzione su macOS 27 hanno mostrato che Parakeet Unified ha raggiunto un tasso di errore delle parole del 1,43% su file di test puliti, superando il trascrittore predefinito di Apple in scenari specifici. Tuttavia, la trascrizione in diretta ha generalmente portato a tassi di errore più elevati rispetto all'elaborazione dei file.
AnyDecisionModel affronta l'esigenza di un processo decisionale strutturato, come la classificazione delle ticket di supporto o la valutazione del sentiment dei clienti, senza fare affidamento sull'analisi della generazione di testo. Invece di generare testo libero, il pacchetto deriva le risposte dalle probabilità del modello, restituendo risultati tipizzati con punteggi di fiducia e distribuzioni di probabilità per ciascuna opzione. Supporta domande sì/no, selezioni a scelta multipla e scale di valutazione tramite un'API basata su sessioni che mantiene un singolo stato di testo o JSON.
Il pacchetto decisionale offre sei backend diversi per eseguire i modelli localmente o in remoto. Le opzioni locali includono MLX per Apple silicon, Core AI per macOS 27 e iOS 27, e llama.cpp tramite modelli GGUF. Per le soluzioni ospitate, si integra con l'API Jev di TypeSafe e i server Ollama. Una caratteristica notevole è il supporto per teste decisionali specializzate, come il modello Clef-Flash di Cloudflare, che utilizza una testa addestrata per produrre decisioni in un singolo passaggio in avanti invece di fare affidamento sulle probabilità del token successivo.
Entrambi i pacchetti richiedono Swift 6.2 o versioni successive e sono compatibili con macOS 26/iOS 26 o versioni più recenti. Sebbene AnySpeechRecognizer richieda Apple silicon per i suoi runtime Parakeet e Sortformer, anche i backend locali di AnyDecisionModel dipendono da architetture hardware specifiche. Gli sviluppatori possono aggiungere le librerie ai loro progetti tramite Swift Package Manager, con esempi dettagliati e flussi di lavoro di conversione disponibili nei rispettivi repository GitHub.
Fonti: Hugging Face Blog.