Anthropic: Ερευνητής αποχωρεί φοβούμενος ότι η ΑΙ θα ξεφύγει από τον έλεγχο

Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης

Να αποχωρήσει από τον κλάδο αποφάσισε ερευνητής της Anthropic, εκφράζοντας φόβους ότι η κούρσα μεταξύ των κορυφαίων εργαστηρίων AI οδηγεί στην ανάπτυξη συστημάτων τα οποία ενδέχεται τελικά να μην μπορούν να ελεγχθούν από τους ανθρώπους.

Ο Τζέικομπ Κόξον, 27 ετών, Βρετανός ερευνητής με σπουδές στα μαθηματικά, εργαζόταν στην εκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης, διαδικασία που απαιτεί τεράστιες ποσότητες δεδομένων και υπολογιστικής ισχύος. Όπως δήλωσε στην Wall Street Journal, αποφάσισε να εγκαταλείψει την Anthropic επειδή δεν θέλει να συμμετέχει στην προσπάθεια δημιουργίας ολοένα ισχυρότερων συστημάτων, τα οποία κάποια στιγμή θα μπορούσαν να ξεπεράσουν τις ανθρώπινες ικανότητες και να αρχίσουν να λειτουργούν με στόχους που δεν είναι πλέον συμβατοί με τις ανθρώπινες εντολές.

Ο Κόξον υποστηρίζει ότι η συζήτηση μέσα στη βιομηχανία έχει αλλάξει δραματικά. Όροι όπως «κρίσιμη στιγμή» και «τελικό παιχνίδι» χρησιμοποιούνται πλέον από ερευνητές για να περιγράψουν την πορεία προς μοντέλα που θα μπορούν να βελτιώνουν μόνα τους τις δυνατότητές τους. Κατά την εκτίμησή του, ορισμένα από τα πιο επιθετικά σενάρια θα μπορούσαν να αρχίσουν να εκδηλώνονται ακόμη και μέχρι το τέλος