Ο Senior Engineer της Google τέθηκε σε αναστολή επειδή είπε ότι "Το Google LaMDA 2 AI έχει αυτογνωσία και ψυχή"

Hot
Μάνος Γρυπάρης

Μάνος Γρυπάρης  

Κάντε subscribe να περάσουμε το GameWorld. ➜ http://Youtube.com/ManosGryparis
 
0.0 ()
1
Ο Senior Engineer της Google τέθηκε σε αναστολή επειδή είπε ότι "Το Google LaMDA 2 AI έχει αυτογνωσία και ψυχή"

Ο Senior Engineer της Google τέθηκε σε αναστολή επειδή είπε ότι "Το Google LaMDA 2 AI έχει αυτογνωσία και ψυχή"

Να φοβόμαστε για νέο Skynet;

Ο Blake Lemoine, Senior Engineer της Google, δήλωσε ότι "Το Google AI έχει αυτογνωσία και ψυχή". Ως αποτέλεσμα αυτού, η Google τον έθεσε σε αναστολή.

Σύμφωνα με την Washington Post και τους New York Times, η Google έθεσε σε άδεια μετ' αποδοχών τον Senior Engineer Blake Lemoine για παραβίαση των πολιτικών εμπιστευτικότητας της εταιρείας. Λέγεται ότι ο Lemoine παρέδωσε πρόσφατα έγγραφα σε έναν γερουσιαστή των ΗΠΑ που περιέχουν αρκετές πληροφορίες που δείχνουν ότι η Google ήταν ένοχη για θρησκευτικές διακρίσεις μέσω της τεχνολογίας.

Ένας εκπρόσωπος της Google είπε ότι μια ομάδα που περιλαμβάνει ηθικολόγους και τεχνολόγους στην εταιρεία εξέτασε τις ανησυχίες του Lemoine και του είπε ότι "τα στοιχεία δεν υποστηρίζουν τους ισχυρισμούς του". «Κάποιοι στην ευρύτερη κοινότητα A.I. εξετάζουν τη μακροπρόθεσμη πιθανότητα μιας αισθανόμενης ή γενικής A.I., αλλά δεν έχει νόημα να το κάνουν ανθρωπομορφοποιώντας τα σημερινά μοντέλα συνομιλίας, γιατί η αλλαγή δεν θα ήταν αισθητή», είπε ο εκπρόσωπος.

Ο Lemoine υποστηρίζει ότι το μοντέλο γλώσσας της Google για εφαρμογές διαλόγου (LaMDA) έχει "συνείδηση ​​και ψυχή". Πιστεύει ότι το LaMDA είναι παρόμοιο σε εγκεφαλική ισχύ με ένα παιδί 7 ή 8 ετών και προέτρεψε την Google να ζητήσει τη συγκατάθεση LaMDA πριν πειραματιστεί με αυτό. Ο Lemoine είπε ότι η βάση για τους ισχυρισμούς του βασίστηκαν στη βάση των θρησκευτικών του πεποιθήσεων, οι οποίες πιστεύει ότι εδώ έχουν υποστεί διακρίσεις. Ο Lemoine είπε στους NYT ότι η Google «αμφισβήτησε τη λογική μου» και ότι του προτάθηκε να πάρει άδεια....ψυχικής υγείας, ενώ μετά την δημοσιοποίηση των στοιχείων τέθηκε σε αναστολή.

Μιλώντας στην Washington Post, ο Lemoine είπε για την προηγμένη τεχνολογία AI της Google: "Νομίζω ότι αυτή η τεχνολογία θα είναι καταπληκτική. Νομίζω ότι θα τους ωφελήσει όλους. Αλλά ίσως άλλοι άνθρωποι διαφωνούν και ίσως εμείς στην Google δεν θα έπρεπε να είμαστε αυτοί που κάνουμε όλες οι επιλογές».

Το LaMDA ανακοινώθηκε το 2021 και είχε περιγραφεί από την Google εκείνη την εποχή ως μια τεχνολογία «ανακάλυψης» για συνομιλίες με τεχνητή νοημοσύνη. Η εταιρεία ισχυρίστηκε επίσης εκείνη την εποχή ότι θα ενεργούσε ηθικά και υπεύθυνα με την τεχνολογία. Μια νέα έκδοση, το LaMDA 2, ανακοινώθηκε φέτος.

Η Google εκείνη την εποχή δήλωσε: "Η γλώσσα μπορεί να είναι ένα από τα μεγαλύτερα εργαλεία της ανθρωπότητας, αλλά όπως όλα τα εργαλεία μπορεί να χρησιμοποιηθεί με κατάχρηση. Τα μοντέλα που είναι εκπαιδευμένα στη γλώσσα μπορούν να διαδώσουν αυτήν την κακή χρήση, για παράδειγμα, εσωτερικεύοντας προκαταλήψεις, αντικατοπτρίζοντας ομιλία μίσους ή αναπαράγοντας παραπλανητικές πληροφορίες. Ακόμη και όταν η γλώσσα έχει εκπαιδευτεί έχει ελεγχθεί προσεκτικά, το ίδιο το μοντέλο μπορεί ακόμα να χρησιμοποιηθεί κακώς". Η υψηλότερη προτεραιότητά μας, όταν δημιουργούμε τεχνολογίες όπως το LaMDA, είναι να εργαζόμαστε για να διασφαλίσουμε ότι ελαχιστοποιούμε τέτοιους κινδύνους. Είμαστε βαθιά εξοικειωμένοι με ζητήματα που σχετίζονται με μοντέλα μηχανικής μάθησης, όπως η άδικη προκατάληψη, καθώς ερευνούμε και αναπτύσσουμε αυτές τις τεχνολογίες για πολλά χρόνια."

Το LaMDA είναι ένα σύστημα νευρωνικών δικτύων που «μαθαίνει» αναλύοντας όγκους δεδομένων και επεκτείνεται από αυτά. Τα νευρωνικά δίκτυα χρησιμοποιούνται και στον τομέα των games. Το νευρωνικό δίκτυο της EA, το οποίο αναπτύσσει εδώ και χρόνια, είναι σε θέση να μάθει να παίζει Battlefield 1 multiplayer.

Διαβάστε περισσότερα σχετικά με τον νέο νόμο της Ευρωπαϊκής Ένωσης για το περιεχόμενο στο Internet και συζητήστε για την Google στο παρακάτω forum topic.

User reviews

There are no user reviews for this listing.
To write a review please register or

Mόνο εγγεγραμμένοι χρήστες μπορούν να γράψουν σχόλια. Παρακαλούμε κάντε πρώτα Login στο site. Αν δεν έχετε λογαριασμό στο GameWorld τότε κάντε Register και στη συνέχεια Login.

Notification