Anthropic: Απέτρεψε ανάπτυξη βιολογικών όπλων με τη χρήση τεχνητής νοημοσύνης

Ανακαλύψτε περισσότερα άρθρα στα αποτελέσματα αναζήτησης

Πολλαπλές προσπάθειες επιστημόνων να χρησιμοποιήσουν την τεχνολογία της για έρευνα που θα μπορούσε να συμβάλει στην ανάπτυξη βιολογικών όπλων ανακοίνωσε ότι απέτρεψε η Anthropic φέτος, καθώς εντείνεται η ανησυχία των ειδικών για την απειλή που συνιστά η τεχνητή νοημοσύνη για τη δημόσια ασφάλεια.

Η νεοφυής επιχείρηση παρέθεσε πέντε παραδείγματα περιπτώσεων όπου διάφορα άτομα «παρέκαμψαν τους ελέγχους» και κατέβαλαν προσπάθειες να «αποκρύψουν» τον σκοπό της έρευνάς τους, ώστε να αποφύγουν τις δικλείδες ασφαλείας. Οι περιπτώσεις αυτές αφορούσαν χρήστες από χώρες στις οποίες απαγορεύεται η πρόσβαση στα μοντέλα της εταιρείας, όπως η Ρωσία, η Κίνα και το Ιράν, αναφέρουν οι Financial Times.

«Ελπίζουμε ότι, κοινοποιώντας αυτά τα παραδείγματα, θα πυροδοτήσουμε μια συζήτηση εντός του κλάδου της τεχνητής νοημοσύνης και με τις κυβερνήσεις σχετικά με τους αναδυόμενους βιολογικούς κινδύνους και τους βέλτιστους τρόπους αντιμετώπισής τους», ανέφερε η Anthropic σε έκθεση σχετικά με τις προσπάθειες χρήσης των μοντέλων της για κακόβουλες δραστηριότητες.