Το Open Assistant είναι ένα έργο που στοχεύει να δώσει σε όλους πρόσβαση σε ένα εξαιρετικό μοντέλο μεγάλης γλώσσας που βασίζεται σε συνομιλία.
Πρόσφατα το κοινότητα ΛΑΪΟΝ (Large-Scale Artificial Intelligence Open Network) αποκαλύφθηκε μέσω ανακοίνωσης την πρώτη κυκλοφορία του έργου «OpenAssistant»., το οποίο αναπτύσσει ένα chatbot τεχνητής νοημοσύνης ικανό να κατανοεί και να απαντά ερωτήσεις σε φυσική γλώσσα, να αλληλεπιδρά με συστήματα τρίτων και να εξάγει δυναμικά τις απαραίτητες πληροφορίες.
Για όσους δεν είναι εξοικειωμένοι με το LAION, θα πρέπει να γνωρίζετε ότι αναπτύσσει εργαλεία, μοντέλα και συλλογές δεδομένων για τη δημιουργία δωρεάν συστημάτων μηχανικής εκμάθησης (για παράδειγμα, η συλλογή LAION χρησιμοποιείται για την εκπαίδευση μοντέλων του συστήματος σύνθεσης εικόνας Stable Diffusion).
Εκτός από κώδικα για την εκπαίδευση και την οργάνωση της εργασίας του bot στον υπολογιστή σας, προτείνεται η χρήση μιας συλλογής έτοιμων μοντέλων να χρησιμοποιήσει ήδη εκπαιδευμένο και γλωσσικό μοντέλο, εκπαιδευμένο με βάση 600 χιλιάδες παραδείγματα διαλόγων με τη μορφή αίτησης-απόκρισης (εντολή-εκτέλεση), που ετοιμάστηκε και αναθεωρήθηκε με τη συμμετοχή μιας κοινότητας ενθουσιωδών.
Μια διαδικτυακή υπηρεσία για την αξιολόγηση της ποιότητας του chatbot κυκλοφόρησε επίσης, χρησιμοποιώντας το μοντέλο γνώσης OA_SFT_Llama_30B_6, το οποίο καλύπτει 30 δισεκατομμύρια παραμέτρους.
Η ομάδα μας εργάστηκε ακούραστα τους τελευταίους μήνες συλλέγοντας τεράστιες ποσότητες πληροφοριών και ανατροφοδότηση με βάση το κείμενο για να δημιουργήσει ένα απίστευτα ποικίλο και μοναδικό σύνολο δεδομένων ειδικά σχεδιασμένο για εκπαίδευση μοντέλων γλώσσας ή άλλες εφαρμογές τεχνητής νοημοσύνης.
Με περισσότερα από 600 σημεία δεδομένων που δημιουργούνται από τον άνθρωπο και καλύπτουν ένα ευρύ φάσμα θεμάτων και στυλ γραφής, το σύνολο δεδομένων μας θα αποδειχθεί ένα ανεκτίμητο εργαλείο για κάθε προγραμματιστή που θέλει να δημιουργήσει εκπαιδευτικά μοντέλα επόμενης γενιάς.
Για αύξηση της αποτελεσματικότητας του συστήματος και να αποφευχθεί η ανάγκη να αποθήκευση μεγάλων ποσοτήτων προκαθορισμένων παραμέτρων, το έργο προβλέπει τη δυνατότητα χρήσης μιας δυναμικά ενημερωμένης βάσης γνώσεων που μπορεί να ανακτήσει τις απαιτούμενες πληροφορίες μέσω μηχανών αναζήτησης ή εξωτερικών υπηρεσιών.
Για παράδειγμα, κατά τη δημιουργία αποκρίσεων, το bot μπορεί να έχει πρόσβαση σε εξωτερικά API για να λάβει πρόσθετα δεδομένα. Από τα προηγμένα χαρακτηριστικά, τονίζεται και η υποστήριξη εξατομίκευσης, δηλαδή η δυνατότητα προσαρμογής σε συγκεκριμένο χρήστη με βάση τις προηγούμενες φράσεις του.
Για όσους ενδιαφέρονται να εγκαταστήσουν το OpenAssistant, θα πρέπει να γνωρίζετε ότι μπορείτε να το εγκαταστήσετε τοπικά και ότι τα υποψήφια μοντέλα Pythia SFT είναι διαθέσιμα από το HuggingFace και μπορούν να φορτωθούν μέσω της βιβλιοθήκης HuggingFace Transformers. Ως εκ τούτου, είναι πιθανό να μπορούν να χρησιμοποιηθούν με επαρκές υλικό. Υπάρχουν επίσης χώροι στο HF που μπορούν να χρησιμοποιηθούν για συνομιλία με τον υποψήφιο ΟΑ χωρίς το δικό σας υλικό. Ωστόσο, αυτά τα μοντέλα δεν είναι οριστικά και μπορεί να παράγουν κακά ή ανεπιθύμητα αποτελέσματα.
Τα μοντέλα LLaMa SFT δεν μπορούν να κυκλοφορήσουν απευθείας λόγω της άδειας Meta, αλλά τα βάρη XOR θα κυκλοφορήσουν σύντομα.
Είναι σημαντικό να αναφέρουμε ότι το τρέχον μικρότερο μοντέλο (Pythia) έχει παραμέτρους 12Β και είναι δύσκολο να εκτελεστεί σε καταναλωτικό υλικό, αλλά μπορεί να τρέξει σε μία μόνο επαγγελματική GPU. Μπορεί να υπάρχουν μικρότερα μοντέλα στο μέλλον και ελπίζουμε να προωθήσουμε μεθόδους όπως η κβαντοποίηση ακεραίων που μπορούν να βοηθήσουν στην εκτέλεση του μοντέλου σε μικρότερο υλικό.
Το έργο δεν σκοπεύει να σταματήσει στην επανάληψη των δυνατοτήτων του ChatGPT. Το Open-Assistant αναμένεται να τονώσει την ανάπτυξη ανοιχτής ανάπτυξης στον τομέα της δημιουργίας περιεχομένου και της επεξεργασίας ερωτημάτων σε φυσικές γλώσσες, όπως το έργο ανοιχτού κώδικα Stable Diffusion ενθάρρυνε την ανάπτυξη εργαλείων δημιουργίας εικόνας.
Ο κώδικας του έργου είναι γραμμένος σε Python και διανέμεται με την άδεια Apache 2.0. Οι εξελίξεις του OpenAssistant μπορούν να χρησιμοποιηθούν για τη δημιουργία των δικών σας έξυπνων βοηθών και συστημάτων διαλόγου που δεν συνδέονται με εξωτερικά API και υπηρεσίες. Το συμβατικό υλικό καταναλωτών είναι αρκετό για να λειτουργήσει, για παράδειγμα, είναι δυνατό να εργαστείτε σε smartphone. Τα δεδομένα του Open Assistant κυκλοφορούν με άδεια Creative Commons, η οποία επιτρέπει ένα ευρύ φάσμα χρήσεων, συμπεριλαμβανομένης της εμπορικής χρήσης.
Τέλος, αν σας ενδιαφέρει να μάθετε περισσότερα για αυτό καθώς και να συμβουλευτείτε τον πηγαίο κώδικα, μπορείτε να συμβουλευτείτε τις λεπτομέρειες Στον ακόλουθο σύνδεσμο.