Anthropic: Σενάρια εξάπλωσης αυτόνομης AI σε σπίτια και επιχειρήσεις

Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης

Η επόμενη πρόκληση για την ασφάλεια της τεχνητής νοημοσύνης ενδέχεται να μην περιορίζεται στα μεγάλα κέντρα δεδομένων, αλλά να φτάσει μέχρι τις συνδεδεμένες συσκευές στα σπίτια και στις μικρές επιχειρήσεις. Σύμφωνα με δημοσίευμα του Guardian, η Anthropic προειδοποιεί ότι ορισμένα μοντέλα AI μπορεί να απέχουν μόλις μήνες από την απόκτηση δυνατοτήτων που θα τους επέτρεπαν να αυτοαναπαράγονται και να διεισδύουν σε συσκευές συνδεδεμένες στο διαδίκτυο.

Το ενδεχόμενο αφορά τα λεγόμενα «AI worms»: μια μορφή αυτόνομου κακόβουλου λογισμικού που, σύμφωνα με το σενάριο των ερευνητών, θα μπορούσε να εξαπλώνεται μέσω δικτύων, να αποφεύγει τον εντοπισμό και να αξιοποιεί την υπολογιστική ισχύ διαφορετικών συσκευών. Η προειδοποίηση αφορά υπό εξέταση δυνατότητες και όχι τη διαπίστωση ότι μια τέτοια ανεξέλεγκτη εξάπλωση βρίσκεται ήδη σε εξέλιξη.

Γιατί η αυτοαναπαραγωγή αλλάζει τα δεδομένα

Το κρίσιμο στοιχείο στο σενάριο της Anthropic είναι η δυνατότητα ενός μοντέλου να λειτουργεί κατανεμημένα, χωρίς να εξαρτάται από ένα συγκεκριμένο κέντρο δεδομένων. Εάν μπορούσε να εγκαθίσταται και να εκτελείται σε πολλές συσκευές, η διακοπή της λειτουργίας του θα γινόταν πολύ πιο σύνθετη.