Nel corso delle ultime settimane Xiaomi ha annunciato ufficialmente i primi progressi fatti nello sviluppare un proprio LLM (Large Lancguage Model) in grado di funzionare al meglio sugli smartphone in locale e senza bisogno di collegarsi al cloud. Adesso, anche Qualcomm si è allineata a questo genere di progetti indicando che uno degli obiettivi per il prossimo futuro è realizzare SoC dotati di speciali chip per la IA generativa in locale.
Il CEO di Qualcomm, Cristiano Amon, ha recentemente discusso del potenziale dell’intelligenza artificiale sui dispositivi e di come potrebbe rivoluzionare il settore della telefonia mobile.
In un Bloomberg Technology Summit, Amon ha spiegato perché l’intelligenza artificiale sul dispositivo è, al momento, un grosso problema. Non essendoci infatti chip specifici nei SoC se non la NPU, utilizzare la IA generativa in locale utilizzerebbe troppo la CPU penalizzando le altre operazioni.
L’intelligenza artificiale su dispositivo si riferisce all’uso di algoritmi e modelli di intelligenza artificiale elaborati localmente su un dispositivo. Questo è diverso dai modelli inviati a un server remoto per l’elaborazione. Ciò significa che il dispositivo può eseguire attività AI senza la necessità di essere connesso a Internet. L’intelligenza artificiale on-device ha il potenziale per migliorare le prestazioni e l’efficienza dei dispositivi mobili. Potrebbe anche migliorare la privacy e la sicurezza degli utenti.
Il mese prossimo, Qualcomm terrà lo “Snapdragon Summit” dove lancerà lo Snapdragon 8 Gen 3. Per allora, Qualcomm potrebbe apportare un importante passo avanti nella tecnologia mobile.
Anmon ha dichiarato: “Lo Snapdragon Summit sarà incentrato su incredibili casi d’uso per i nostri produttori di apparecchiature originali (OEM) e telefoni cellulari. Potrebbe creare un nuovo ciclo di aggiornamento per gli smartphone”. Anmon ha anche detto: “Anche se non sappiamo esattamente quando, ma accadrà sicuramente”.
I vantaggi di una IA generativa locale su smartphone
Amon ritiene che la IA generativa integrata nei dispositivi potrebbe portare nuova vita agli smartphone. Elaborando localmente le attività dell’intelligenza artificiale, i dispositivi mobili potrebbero diventare più efficienti e reattivi. Ad esempio, l’intelligenza artificiale potrebbe essere utilizzata per ottimizzare la durata della batteria, migliorare le prestazioni della fotocamera e migliorare il riconoscimento vocale.
L’intelligenza artificiale potrebbe anche essere utilizzata per personalizzare l’esperienza dell’utente, imparando dal comportamento e dalle scelte dell’utente. Ciò potrebbe portare a interazioni più intuitive e fluide con il dispositivo.
Un altro potenziale utilizzo della IA generativa in locale è nel campo della realtà aumentata (AR). Utilizzando l’intelligenza artificiale per elaborare localmente i contenuti AR, i dispositivi mobili potrebbero fornire esperienze AR più coinvolgenti e realistiche. Ciò potrebbe aprire nuove opportunità per il gioco, l’istruzione e l’intrattenimento. Non a caso, Samsung ha fatto del trio “6G, IA e XR” una delle priorità per il prossimo futuro.
“Puoi vedere cosa ha fatto Microsoft sul PC, pensare alla capacità di eseguire ChatGPT e altri modelli linguistici di grandi dimensioni in modo nativo“, ha affermato Anmon. “Quindi, quando queste cose finiranno nelle mani dei consumatori, penso che l’impatto sarà enorme. Non ci resta che aspettare”.