Τεχνητή νοημοσύνη

Τι είναι το WebGPU; Τεχνητή νοημοσύνη στον browser

Εξηγούμε πώς το WebGPU, που χρησιμοποιεί την κάρτα γραφικών από το πρόγραμμα περιήγησης, επιτρέπει την εκτέλεση μοντέλων AI στη συσκευή, με τη διαφορά από το WebGL, τις χρήσεις και τα όριά του.

Aurora YazılımΣυντακτική ομάδα 6 λεπτά ανάγνωσης
What Is WebGPU? AI in the Browser
Τι είναι το WebGPU;

Το WebGPU είναι ένα πρότυπο ιστού που επιτρέπει στις ιστοσελίδες να έχουν πρόσβαση στην κάρτα γραφικών (GPU) ενός υπολογιστή ή κινητού με σύγχρονο και αποδοτικό τρόπο. Μπορεί να κάνει τόσο απόδοση γραφικών 3D όσο και υπολογισμούς γενικού σκοπού. Έτσι είναι δυνατή η εκτέλεση μοντέλων AI απευθείας στο πρόγραμμα περιήγησης, στη συσκευή του χρήστη, χωρίς αποστολή δεδομένων σε διακομιστή.

Τι είναι το WebGPU;

Για πολλά χρόνια, οι ιστοσελίδες στηρίζονταν κυρίως στον επεξεργαστή (CPU). Υπήρχε το WebGL για την πρόσβαση στην κάρτα γραφικών, αλλά αυτή η τεχνολογία σχεδιάστηκε κυρίως για σχεδίαση γραφικών. Η σύντομη απάντηση στο τι είναι το WebGPU είναι η εξής: ένα πρότυπο ιστού νέας γενιάς που ανοίγει όλη τη δύναμη της κάρτας γραφικών στο πρόγραμμα περιήγησης, τόσο για γραφικά όσο και για υπολογισμούς.

Το WebGPU είναι ένα πρότυπο που αναπτύσσεται από κοινού από τους κατασκευαστές προγραμμάτων περιήγησης στο πλαίσιο του W3C. Στο παρασκήνιο χρησιμοποιεί τις σύγχρονες διεπαφές γραφικών του λειτουργικού συστήματος: Direct3D 12 στα Windows, Metal στα macOS και iOS, και Vulkan στα Linux και Android. Ο προγραμματιστής γράφει μία μόνο διεπαφή JavaScript και το πρόγραμμα περιήγησης τη μεταφράζει στη γλώσσα της ίδιας της συσκευής.

Η σημαντικότερη καινοτομία του είναι η υποστήριξη compute shader. Αυτό σημαίνει ότι η κάρτα γραφικών μπορεί να χρησιμοποιηθεί όχι μόνο για να χρωματίζει pixel αλλά και για να εκτελεί χιλιάδες μικρούς υπολογισμούς παράλληλα. Η εκτέλεση μοντέλων AI στηρίζεται ακριβώς σε αυτό το είδος παράλληλου υπολογισμού πινάκων.

Τα μικρά προγράμματα που εκτελούνται στην κάρτα γραφικών ονομάζονται shaders. Για αυτά, το WebGPU χρησιμοποιεί τη δική του γλώσσα με το όνομα WGSL (WebGPU Shading Language). Οι περισσότεροι προγραμματιστές ιστού δεν ασχολούνται άμεσα με αυτή τη γλώσσα· οι μηχανές γραφικών και οι βιβλιοθήκες AI παράγουν κώδικα WGSL στο παρασκήνιο. Παρ' όλα αυτά, η γνώση της βασικής λογικής βοηθά στην κατανόηση των ζητημάτων απόδοσης: ο επεξεργαστής περιγράφει την εργασία και η κάρτα γραφικών εφαρμόζει την ίδια πράξη σε χιλιάδες στοιχεία δεδομένων ταυτόχρονα.

WebGPU και WebGL

Το WebGL είναι η έκδοση ιστού του OpenGL ES, ενός παλαιότερου προτύπου γραφικών για υπολογιστές, και εξακολουθεί να χρησιμοποιείται ευρέως. Το WebGPU, αντίθετα, σχεδιάστηκε από το μηδέν με βάση τον τρόπο λειτουργίας των σημερινών καρτών γραφικών. Με λίγα λόγια, η διαφορά του WebGPU από το WebGL είναι η εξής:

ΧαρακτηριστικόWebGLWebGPU
Υποκείμενη βάσηOpenGL ESDirect3D 12, Metal, Vulkan
Υπολογισμοί γενικού σκοπούΈμμεσοι και περιορισμένοιΕνσωματωμένα compute shaders
Γλώσσα shaderGLSLWGSL
Έλεγχος απόδοσηςΕξαρτάται από τον driver, δύσκολα προβλέψιμοςΠιο ρητός και προβλέψιμος
Καταλληλότητα για AIΠεριορισμένηΙσχυρό
Υποστήριξη προγραμμάτων περιήγησηςΣχεδόν καθολικήΓίνεται ευρέως διαδεδομένη

Πώς εκτελείται το AI στο πρόγραμμα περιήγησης;

Για να εκτελεστεί ένα μοντέλο AI στο πρόγραμμα περιήγησης, το αρχείο του μοντέλου (τα βάρη) κατεβαίνει στη συσκευή του χρήστη και αποθηκεύεται προσωρινά. Στη συνέχεια οι βιβλιοθήκες JavaScript αναθέτουν στην κάρτα γραφικών τους υπολογισμούς του μοντέλου μέσω του WebGPU. Το αποτέλεσμα εμφανίζεται απευθείας στη σελίδα χωρίς να περάσει από διακομιστή.

Οι προγραμματιστές δεν χρειάζεται να γράψουν κώδικα από το μηδέν γι' αυτό. Βιβλιοθήκες ανοιχτού κώδικα όπως οι ONNX Runtime Web, Transformers.js, TensorFlow.js και WebLLM προσφέρουν υποστήριξη WebGPU. Αυτές οι βιβλιοθήκες περιορίζουν την εκτέλεση έτοιμων μοντέλων στο πρόγραμμα περιήγησης σε λίγες γραμμές κώδικα.

Μια άλλη τεχνολογία που αναφέρεται συχνά μαζί με το WebGPU είναι το WebAssembly. Το WebAssembly εκτελεί κώδικα με σχεδόν εγγενή ταχύτητα στην πλευρά του επεξεργαστή, ενώ το WebGPU χρησιμοποιεί την κάρτα γραφικών. Πολλές βιβλιοθήκες χρησιμοποιούν και τα δύο μαζί και επιστρέφουν στο WebAssembly σε συσκευές χωρίς WebGPU. Για λεπτομέρειες, δείτε το άρθρο μας για το τι είναι το WebAssembly.

Πλεονεκτήματα του AI στη συσκευή

Το AI στη συσκευή, δηλαδή το AI που εκτελείται στη συσκευή, σημαίνει ότι το μοντέλο εκτελείται στη δική σας συσκευή αντί για διακομιστή στο cloud. Αυτή η προσέγγιση έχει σημαντικά πλεονεκτήματα για επιχειρήσεις και χρήστες.

  • Απόρρητο: φωτογραφίες, ήχος ή κείμενο δεν φεύγουν ποτέ από τη συσκευή, κάτι που αποτελεί μεγάλο πλεονέκτημα για εφαρμογές που διαχειρίζονται ευαίσθητα δεδομένα.
  • Χαμηλή καθυστέρηση: χωρίς μετάβαση μέσω δικτύου, οι απαντήσεις είναι άμεσες· κρίσιμο για ζωντανά εφέ κάμερας και επεξεργασία ήχου.
  • Κόστος διακομιστή: επειδή ο υπολογισμός γίνεται στη συσκευή του χρήστη, δεν πληρώνετε διακομιστή για κάθε αίτημα.
  • Χρήση χωρίς σύνδεση: μόλις κατέβει το μοντέλο, μπορεί να χρησιμοποιηθεί χωρίς σύνδεση στο internet.
  • Επεκτασιμότητα: το φορτίο του διακομιστή δεν αυξάνεται όσο αυξάνονται οι χρήστες, επειδή ο καθένας χρησιμοποιεί τη δική του συσκευή.

Χρήσεις

Το AI στο πρόγραμμα περιήγησης δεν αντικαθιστά ακόμη πλήρως τα μεγάλα μοντέλα συνομιλίας, αλλά πολλά μπορούν ήδη να γίνουν με μικρά, εστιασμένα μοντέλα.

Εικόνες και κάμερα

Η αφαίρεση φόντου, η βελτίωση φωτογραφιών, η αναγνώριση αντικειμένων και τα ζωντανά εφέ κάμερας μπορούν να γίνουν στη συσκευή. Εμπειρίες σε ένα κατάστημα ηλεκτρονικού εμπορίου, όπως να δείτε ένα προϊόν στο δικό σας δωμάτιο ή να δοκιμάσετε γυαλιά στο πρόσωπό σας, στηρίζονται σε αυτή την τεχνολογία.

Κείμενο και ήχος

Μικρά γλωσσικά μοντέλα μπορούν να εκτελούνται στο πρόγραμμα περιήγησης για μετατροπή ομιλίας σε κείμενο, μετάφραση, σύνοψη και ταξινόμηση. Προτάσεις γραφής κατά τη συμπλήρωση μιας φόρμας ή μια εφαρμογή σημειώσεων που λειτουργεί χωρίς σύνδεση είναι παραδείγματα.

3D και οπτικοποίηση

Οι διαμορφωτές προϊόντων, οι αρχιτεκτονικές παρουσιάσεις και παρουσιάσεις ακινήτων, οι οπτικοποιήσεις μεγάλων δεδομένων και τα παιχνίδια προγράμματος περιήγησης αξιοποιούν την πλευρά γραφικών του WebGPU. Όταν αυτές οι εμπειρίες συνδυάζονται με καλό σχεδιασμό UI/UX, τα αποτελέσματα είναι εντυπωσιακά.

Υποστήριξη προγραμμάτων περιήγησης και έλεγχος δυνατοτήτων

Το WebGPU είναι ευρέως διαθέσιμο σε υπολογιστές στα προγράμματα περιήγησης βασισμένα σε Chromium (Chrome, Edge), ενώ η υποστήριξη έρχεται σταδιακά σε Safari και Firefox. Η κατάσταση μπορεί να διαφέρει σε κινητές συσκευές και παλαιότερο υλικό. Δείτε τον τρέχοντα πίνακα υποστήριξης στην τεκμηρίωση MDN για το WebGPU.

Γι' αυτό κάθε έργο που χρησιμοποιεί WebGPU πρέπει να εκτελεί έναν έλεγχο δυνατοτήτων και να έχει εναλλακτική διαδρομή για συσκευές που δεν υποστηρίζονται. Ο παρακάτω κώδικας ελέγχει αν το πρόγραμμα περιήγησης υποστηρίζει το WebGPU.

  • Μπορείτε να δοκιμάσετε γρήγορα τον κώδικα εκτελώντας τον στην κονσόλα προγραμματιστή του προγράμματος περιήγησης.
  • Το WebGPU μπορεί να χρησιμοποιηθεί μόνο σε ασφαλές περιβάλλον (HTTPS ή localhost).
  • Σε συσκευές που δεν υποστηρίζονται, μεταβείτε σε εναλλακτική λύση βασισμένη σε WebGL ή WebAssembly.
javascriptΈλεγχος υποστήριξης WebGPU
async function webgpuHazirMi() { if (!navigator.gpu) { console.log('Bu tarayici WebGPU desteklemiyor.'); return null; } const adapter = await navigator.gpu.requestAdapter(); if (!adapter) { console.log('Uygun GPU bulunamadi.'); return null; } const device = await adapter.requestDevice(); console.log('WebGPU hazir.'); return device; } webgpuHazirMi();

Όρια και σημεία προσοχής

Το μεγαλύτερο όριο είναι το μέγεθος του μοντέλου. Τα μεγάλα γλωσσικά μοντέλα καταλαμβάνουν gigabyte· το να αναγκάζετε κάθε επισκέπτη να τα κατεβάζει είναι μη ρεαλιστικό τόσο ως προς τον χρόνο όσο και ως προς το πακέτο δεδομένων. Τα μοντέλα που εκτελούνται στο πρόγραμμα περιήγησης πρέπει να είναι μικρά, συμπιεσμένα (quantized) και εστιασμένα σε συγκεκριμένη εργασία.

Το δεύτερο όριο είναι η ποικιλία συσκευών. Ένα μοντέλο που τρέχει ομαλά σε μια ισχυρή κάρτα γραφικών υπολογιστή μπορεί να είναι αργό σε ένα κινητό χαμηλής κατηγορίας ή να αυξήσει την κατανάλωση μπαταρίας. Ελέγξτε τα δεδομένα analytics για να δείτε ποιες συσκευές χρησιμοποιεί το κοινό-στόχος σας.

Το τρίτο είναι η απόδοση της σελίδας. Τα βαριά αρχεία μοντέλων και οι υπολογισμοί δεν πρέπει να επιβραδύνουν την πρώτη φόρτωση της σελίδας. Η φόρτωση του μοντέλου μόνο όταν ο χρήστης χρειάζεται τη σχετική λειτουργία είναι ο τρόπος να προστατεύσετε τις τιμές των Core Web Vitals (LCP ≤ 2,5 s, INP ≤ 200 ms). Η εξισορρόπηση αυτή είναι θέμα βελτιστοποίησης ταχύτητας και απόδοσης.

Πότε να το χρησιμοποιήσετε σε έργα ιστού;

Το WebGPU δεν είναι απαραίτητο για κάθε ιστότοπο. Για έναν εταιρικό ιστότοπο παρουσίασης ή ένα τυπικό κατάστημα ηλεκτρονικού εμπορίου, μια γρήγορη, απλή και προσβάσιμη δομή μετράει πολύ περισσότερο. Το WebGPU έχει νόημα για εργασίες AI που απαιτούν απόρρητο, επεξεργασία εικόνας και ήχου σε πραγματικό χρόνο, εντατικές εμπειρίες 3D και υπολογιστικές εργασίες όπου θέλετε να μειώσετε το κόστος διακομιστών.

Όταν αποφασίζετε, κάντε αυτή την ερώτηση: τι θα έχανα αν αυτή η λειτουργία εκτελούνταν στον διακομιστή; Αν η απάντηση είναι απόρρητο, καθυστέρηση ή κόστος, το WebGPU είναι ισχυρός υποψήφιος. Την προσέγγιση της τοποθέτησης του AI στο κέντρο ενός προϊόντος την παρουσιάσαμε στο άρθρο μας για τις εφαρμογές AI-native και τη χρήση εργαλείων AI στη διαδικασία ανάπτυξης στο άρθρο μας για τη συγγραφή κώδικα με AI.

Στα έργα σχεδιασμού ιστοσελίδων και στις ειδικές για κάθε κλάδο λύσεις λογισμικού, η Aurora Yazılım επιλέγει την τεχνολογία ανάλογα με την ανάγκη, χρησιμοποιώντας ένα νέο πρότυπο μόνο όπου προσθέτει πραγματική αξία. Αν θέλετε να συζητήσουμε το έργο σας, μπορείτε να επικοινωνήσετε μαζί μας μέσω της σελίδας επικοινωνίας.

Συχνές ερωτήσεις

01Χρειάζεται ο χρήστης να εγκαταστήσει κάτι για να χρησιμοποιήσει το WebGPU;

Όχι. Αρκεί ένα σύγχρονο πρόγραμμα περιήγησης που το υποστηρίζει· δεν χρειάζεται επέκταση ή πρόγραμμα. Ωστόσο, το πρόγραμμα οδήγησης της κάρτας γραφικών πρέπει να είναι ενημερωμένο και το υλικό να υποστηρίζεται.

02Είναι ασφαλές το WebGPU;

Το WebGPU εκτελείται μέσα στο μοντέλο ασφάλειας του προγράμματος περιήγησης και μπορεί να χρησιμοποιηθεί μόνο σε ασφαλή περιβάλλοντα όπως το HTTPS. Το πρόγραμμα περιήγησης περιορίζει την πρόσβαση της σελίδας στην κάρτα γραφικών και δεν επιτρέπει άμεση πρόσβαση στο πρόγραμμα οδήγησης.

03Μπορούν μεγάλα μοντέλα όπως το ChatGPT να εκτελεστούν στο πρόγραμμα περιήγησης;

Τα μεγαλύτερα μοντέλα εξακολουθούν να εκτελούνται στο cloud λόγω του μεγέθους και των απαιτήσεών τους σε υλικό. Στο πρόγραμμα περιήγησης μπορούν να εκτελεστούν μικρότερα μοντέλα εστιασμένα σε συγκεκριμένες εργασίες· αυτά μπορεί να επαρκούν για δουλειές όπως η σύνοψη, η μετάφραση και η ταξινόμηση.

Ανοίγοντας το πρόγραμμα περιήγησης στη δύναμη της κάρτας γραφικών, το WebGPU φέρνει το AI στη συσκευή του χρήστη και προσφέρει νέες δυνατότητες σε απόρρητο, ταχύτητα και κόστος. Αν έχετε ένα έργο που θα μπορούσε να ωφεληθεί από αυτή την τεχνολογία, γνωρίστε τις λύσεις της Aurora Yazılım και ας καθορίσουμε μαζί την αρχιτεκτονική που ταιριάζει καλύτερα στις ανάγκες σας.

Συνεχίστε την ανάγνωση

Σχετικά άρθρα

Όλα τα άρθρα για την τεχνητή νοημοσύνη