Intelligenza artificiale

Che cos'è WebGPU? L'IA nel browser

Spieghiamo come WebGPU, che usa la scheda grafica dal browser, permette di eseguire modelli di IA sul dispositivo, tra differenza da WebGL, casi d'uso e limiti.

Aurora YazılımRedazione 6 min di lettura
What Is WebGPU? AI in the Browser
Cos'è WebGPU?

WebGPU è uno standard web che permette alle pagine web di accedere alla scheda grafica (GPU) di un computer o di uno smartphone in modo moderno ed efficiente. Può eseguire sia il rendering di grafica 3D sia calcoli di uso generale. Questo rende possibile far girare modelli di IA direttamente nel browser, sul dispositivo dell'utente, senza inviare dati a un server.

Cos'è WebGPU?

Per molti anni le pagine web si sono affidate soprattutto al processore (CPU). Per accedere alla scheda grafica esisteva WebGL, ma quella tecnologia era progettata soprattutto per disegnare grafica. La risposta breve a cos'è WebGPU è questa: uno standard web di nuova generazione che apre al browser tutta la potenza della scheda grafica, sia per la grafica sia per il calcolo.

WebGPU è uno standard sviluppato congiuntamente dai produttori di browser sotto l'egida del W3C. Dietro le quinte usa le moderne interfacce grafiche del sistema operativo: Direct3D 12 su Windows, Metal su macOS e iOS e Vulkan su Linux e Android. Lo sviluppatore scrive una sola interfaccia JavaScript e il browser la traduce nel linguaggio nativo del dispositivo.

La sua novità più importante è il supporto ai compute shader. Significa che la scheda grafica può essere usata non solo per colorare pixel, ma per eseguire in parallelo migliaia di piccoli calcoli. L'esecuzione dei modelli di IA si basa proprio su questo tipo di calcolo matriciale parallelo.

I piccoli programmi che girano sulla scheda grafica si chiamano shader. Per questi, WebGPU usa un proprio linguaggio chiamato WGSL (WebGPU Shading Language). La maggior parte degli sviluppatori web non si occupa direttamente di questo linguaggio; i motori grafici e le librerie di IA generano codice WGSL dietro le quinte. Conoscere la logica di base aiuta comunque a capire i problemi di prestazioni: il processore descrive il compito e la scheda grafica applica la stessa operazione a migliaia di dati contemporaneamente.

WebGPU e WebGL a confronto

WebGL è la versione web di OpenGL ES, uno standard grafico desktop più vecchio, ed è ancora molto diffuso. WebGPU, invece, è stato progettato da zero in base al funzionamento delle schede grafiche di oggi. In breve, la differenza tra WebGPU e WebGL è la seguente:

CaratteristicaWebGLWebGPU
Base di partenzaOpenGL ESDirect3D 12, Metal, Vulkan
Calcolo di uso generaleIndiretto e limitatoCompute shader integrati
Linguaggio degli shaderGLSLWGSL
Controllo delle prestazioniDipende dal driver, difficile da prevederePiù esplicito e prevedibile
Idoneità per l'IALimitataEfficace
Supporto dei browserQuasi universaleIn diffusione

Come gira l'IA nel browser?

Per eseguire un modello di IA nel browser, il file del modello (i pesi) viene scaricato sul dispositivo dell'utente e messo in cache. Poi le librerie JavaScript fanno eseguire alla scheda grafica i calcoli del modello tramite WebGPU. Il risultato viene mostrato direttamente nella pagina senza passare da un server.

Gli sviluppatori non devono scrivere il codice da zero. Librerie open source come ONNX Runtime Web, Transformers.js, TensorFlow.js e WebLLM offrono supporto a WebGPU. Queste librerie riducono a poche righe di codice l'esecuzione di modelli già pronti nel browser.

Un'altra tecnologia spesso citata insieme a WebGPU è WebAssembly. WebAssembly esegue il codice a velocità quasi nativa lato processore, mentre WebGPU usa la scheda grafica. Molte librerie usano entrambe insieme e ripiegano su WebAssembly sui dispositivi senza WebGPU. Per i dettagli, consultate il nostro articolo su cos'è WebAssembly.

Vantaggi dell'IA sul dispositivo

L'IA sul dispositivo, ovvero l'IA che gira sul dispositivo, significa che il modello viene eseguito sul dispositivo dell'utente anziché su un server nel cloud. Questo approccio offre vantaggi importanti per aziende e utenti.

  • Privacy: foto, audio o testo non lasciano mai il dispositivo, un grande vantaggio per le applicazioni che trattano dati sensibili.
  • Bassa latenza: senza il viaggio di andata e ritorno in rete, le risposte sono istantanee; fondamentale per gli effetti della fotocamera in tempo reale e per l'elaborazione audio.
  • Costo del server: poiché il calcolo avviene sul dispositivo dell'utente, non si paga un server per ogni richiesta.
  • Uso offline: una volta scaricato il modello, lo si può usare senza connessione a internet.
  • Scalabilità: il carico sul server non cresce all'aumentare degli utenti, perché ognuno usa il proprio dispositivo.

Casi d'uso

L'IA nel browser non sostituisce ancora del tutto i grandi modelli di chat, ma con modelli piccoli e mirati si può già fare molto.

Immagini e fotocamera

Rimozione dello sfondo, miglioramento delle foto, riconoscimento di oggetti ed effetti della fotocamera in tempo reale si possono eseguire sul dispositivo. Esperienze in un sito e-commerce come vedere un prodotto nella propria stanza o provare degli occhiali sul proprio viso si basano su questa tecnologia.

Testo e audio

Piccoli modelli linguistici possono girare nel browser per trascrizione vocale, traduzione, riassunto e classificazione. Ne sono esempi i suggerimenti di scrittura mentre si compila un modulo o un'app per appunti che funziona offline.

3D e visualizzazione

Configuratori di prodotto, presentazioni architettoniche e immobiliari, visualizzazioni di big data e giochi nel browser sfruttano il lato grafico di WebGPU. Quando queste esperienze si combinano con un buon UI/UX design, i risultati sono impressionanti.

Supporto dei browser e verifica delle funzionalità

WebGPU è ampiamente disponibile su desktop nei browser basati su Chromium (Chrome, Edge), mentre il supporto sta arrivando gradualmente in Safari e Firefox. La situazione può essere diversa sui dispositivi mobili e sull'hardware più datato. Consultate la tabella di supporto aggiornata nella documentazione MDN su WebGPU.

Per questo motivo, ogni progetto che usa WebGPU dovrebbe eseguire una verifica della funzionalità e prevedere un percorso alternativo per i dispositivi non supportati. Il codice qui sotto controlla se il browser supporta WebGPU.

  • Potete provare rapidamente il codice eseguendolo nella console per sviluppatori del browser.
  • WebGPU si può usare solo in un contesto sicuro (HTTPS o localhost).
  • Sui dispositivi non supportati, passate a un'alternativa basata su WebGL o WebAssembly.
javascriptVerificare il supporto di WebGPU
async function webgpuHazirMi() { if (!navigator.gpu) { console.log('Bu tarayici WebGPU desteklemiyor.'); return null; } const adapter = await navigator.gpu.requestAdapter(); if (!adapter) { console.log('Uygun GPU bulunamadi.'); return null; } const device = await adapter.requestDevice(); console.log('WebGPU hazir.'); return device; } webgpuHazirMi();

Limiti e aspetti a cui prestare attenzione

Il limite maggiore è la dimensione del modello. I grandi modelli linguistici occupano gigabyte; far scaricare tutto a ogni visitatore non è realistico né in termini di tempo né di traffico dati. I modelli che girano nel browser devono essere piccoli, compressi (quantizzati) e focalizzati su un compito specifico.

Il secondo limite è la varietà dei dispositivi. Un modello che gira senza problemi su una potente scheda grafica desktop può essere lento su uno smartphone di fascia base o far aumentare il consumo della batteria. Controllate i dati di analytics per capire quali dispositivi usa il vostro pubblico.

Il terzo è la prestazione della pagina. File di modelli pesanti e calcoli non devono rallentare il primo caricamento della pagina. Caricare il modello solo quando l'utente ha bisogno della funzione interessata è il modo per proteggere i valori delle Core Web Vitals (LCP ≤ 2,5 s, INP ≤ 200 ms). Trovare questo equilibrio è materia di ottimizzazione di velocità e prestazioni.

Quando usarlo nei progetti web?

WebGPU non è necessario per ogni sito. Per un sito di presentazione aziendale o un negozio e-commerce standard, una struttura veloce, semplice e accessibile conta molto di più. WebGPU ha senso per attività di IA che richiedono privacy, elaborazione di immagini e audio in tempo reale, esperienze 3D intensive e lavori di calcolo in cui si vogliono ridurre i costi del server.

Per decidere, ponetevi questa domanda: cosa perderei se questa funzione girasse sul server? Se la risposta è privacy, latenza o costo, WebGPU è un candidato forte. L'approccio di mettere l'IA al centro di un prodotto l'abbiamo trattato nel nostro articolo sulle applicazioni AI-native, e l'uso degli strumenti di IA nel processo di sviluppo nel nostro articolo su scrivere codice con l'IA.

Nei progetti di web design e nelle soluzioni software di settore, Aurora Yazılım sceglie la tecnologia in base alle esigenze, usando un nuovo standard solo dove porta davvero valore. Se desiderate discutere del vostro progetto, potete raggiungerci tramite la pagina dei contatti.

Domande frequenti

01L'utente deve installare qualcosa per usare WebGPU?

No. Basta un browser aggiornato che lo supporti; non servono estensioni né programmi. Però il driver della scheda grafica deve essere aggiornato e l'hardware deve essere supportato.

02WebGPU è sicuro?

WebGPU funziona all'interno del modello di sicurezza del browser e può essere usato solo in contesti sicuri come HTTPS. Il browser limita l'accesso della pagina alla scheda grafica e non consente l'accesso diretto al driver.

03Modelli grandi come ChatGPT possono girare nel browser?

I modelli più grandi girano ancora nel cloud, per via delle loro dimensioni e dei requisiti hardware. Nel browser possono girare modelli più piccoli, focalizzati su compiti specifici; possono bastare per lavori come riassunto, traduzione e classificazione.

Aprendo il browser alla potenza della scheda grafica, WebGPU porta l'IA sul dispositivo dell'utente e offre nuove possibilità in termini di privacy, velocità e costi. Se avete un progetto che potrebbe trarre vantaggio da questa tecnologia, scoprite le soluzioni Aurora Yazılım e definiamo insieme l'architettura più adatta alle vostre esigenze.