Το OpenAI μοιράζεται πληροφορίες από την εμπειρία του 1M Grant Program Experience

Δέσμευση του OpenAI για δημόσια συνεισφορά.

Το OpenAI επανέλαβε τη δέσμευσή του να ενσωματώσει τις ιδέες του κοινού στην ανάπτυξη των μελλοντικών μοντέλων τεχνητής νοημοσύνης για να διασφαλίσει την ευθυγράμμιση με τις ανθρώπινες αξίες. Ο οργανισμός μοιράστηκε κρίσιμα διδάγματα που αποκόμισε από το πρόγραμμα επιχορήγησης ύψους 1 εκατομμυρίου δολαρίων, το οποίο αποσκοπούσε στη συμμετοχή του κοινού στη διαμόρφωση της συμπεριφοράς των μοντέλων τεχνητής νοημοσύνης (AI).

Σε μια ανάρτηση στο ιστολόγιο στις 16 Ιανουαρίου, το OpenAI περιέγραψε πέντε βασικά συμπεράσματα από το πρόγραμμα επιχορήγησης, ρίχνοντας φως στις προόδους που σημείωσαν οι 10 ομάδες που έλαβαν επιχορηγήσεις και στα σχέδια του οργανισμού για την εφαρμογή της νέας δημοκρατικής τεχνολογίας.
Η πρωτοβουλία, η οποία ανακοινώθηκε τον Μάιο του 2023, αφορούσε τη χορήγηση 10 επιχορηγήσεων των 100.000 δολαρίων η καθεμία για την υποστήριξη πειραμάτων για την καθιέρωση μιας “proof-of-concept” δημοκρατικής διαδικασίας για τον καθορισμό των κανόνων που πρέπει να τηρούν τα συστήματα τεχνητής νοημοσύνης.

Μια σημαντική διαπίστωση που αποκαλύφθηκε από το πρόγραμμα ήταν ο δυναμικός χαρακτήρας των απόψεων του κοινού, γεγονός που υπαγορεύει την ανάγκη για αποτελεσματικές διαδικασίες που να αποτυπώνουν τις θεμελιώδεις αξίες, παραμένοντας παράλληλα ευαίσθητες στις αλλαγές των απόψεων με την πάροδο του χρόνου. Το OpenAI αναγνώρισε την πρόκληση της γεφύρωσης του ψηφιακού χάσματος, με ορισμένες ομάδες να αντιμετωπίζουν δυσκολίες στην προσέλκυση συμμετεχόντων λόγω περιορισμών της πλατφόρμας και γλωσσικών ή συγκυριακών εμποδίων.

Η αντιμετώπιση της πόλωσης εντός των ομάδων ήταν μια άλλη πρόκληση που επισημάνθηκε, ιδίως όταν μια μικρή υποομάδα είχε έντονα διαφορετικές απόψεις. Η ομάδα Συλλογικών Διαλόγων, για παράδειγμα, αντιμετώπισε διαφωνίες σχετικά με τον περιορισμό των βοηθών ΤΝ από το να απαντούν σε συγκεκριμένες ερωτήσεις, υπογραμμίζοντας τη δυσκολία επίτευξης συναίνεσης εντός πολωμένων ομάδων.

Το OpenAI αναγνώρισε το δύσκολο έργο της εξισορρόπησης της συναίνεσης και της εκπροσώπησης διαφορετικών απόψεων για ένα ενιαίο αποτέλεσμα. Η ομάδα Inclusive.AI διερεύνησε διάφορους μηχανισμούς ψηφοφορίας, τονίζοντας τη σημασία των μεθόδων που αντανακλούν τα έντονα συναισθήματα και εξασφαλίζουν την ισότιμη συμμετοχή, που θεωρούνται πιο δημοκρατικές και δίκαιες.

Η έκθεση άγγιξε επίσης τις ανησυχίες σχετικά με την ΤΝ στη διακυβέρνηση, με τους συμμετέχοντες να εκφράζουν ανησυχίες σχετικά με τον ρόλο της ΤΝ στη χάραξη πολιτικής, αλλά να αποκτούν ελπίδα για την ικανότητα του κοινού να καθοδηγήσει την ΤΝ μετά από προσεκτική διαβούλευση.

Το OpenAI επιβεβαίωσε τη δέσμευσή του για την υλοποίηση των δημόσιων ιδεών, ανακοινώνοντας το σχηματισμό μιας νέας ομάδας συλλογικής ευθυγράμμισης που αποτελείται από ερευνητές και μηχανικούς. Αυτή η ομάδα θα αναλάβει την ανάπτυξη ενός συστήματος για τη συλλογή και κωδικοποίηση της δημόσιας συνεισφοράς σχετικά με τη συμπεριφορά των μοντέλων του OpenAI στα προϊόντα και τις υπηρεσίες του, αποδεικνύοντας τη συνεχή αφοσίωση στη συμμετοχικότητα και τη διαφάνεια στην ανάπτυξη της τεχνητής νοημοσύνης.

Για περισσότερα ενημερωμένα νέα, βρείτε μας στο Twitter και στις Ειδήσεις ή εγγραφείτε στο κανάλι μας στο YouTube .

Ποια είναι η γνώμη σας για το συγκεκριμένο θέμα; Αφήστε μας το σχόλιο σας από κάτω! Πάντα μας ενδιαφέρει η γνώμη σας!