Η Anthropic ζητά αναστολή της Τεχνητής Νοημοσύνης πριν γίνει ανεξέλεγκτη από τον άνθρωπο

Έκκληση για ένα παγκόσμιο «πάγωμα» στην ανάπτυξη της τεχνολογίας απηύθυνε Η Anthropic , η πιο πολύτιμη νεοσύστατη επιχείρηση τεχνητής νοημοσύνης παγκοσμίως, προειδοποιώντας ότι οι άνθρωποι κινδυνεύουν να χάσουν τον έλεγχο της. Η εταιρεία πίσω από το chatbot Claude δήλωσε έτοιμη να αναστείλει την πρόοδο σε πιο ισχυρά συστήματα, υπό την προϋπόθεση ότι και άλλες επιχειρήσεις του κλάδου θα ακολουθούσαν το ίδιο παράδειγμα. «Εάν ήταν δυνατόν να επιβραδύνουμε αποτελεσματικά την ανάπτυξη αυτής της τεχνολογίας, ώστε να έχουμε περισσότερο χρόνο να αντιμετωπίσουμε τις τεράστιες επιπτώσεις της, πιστεύουμε ότι αυτό θα ήταν πιθανώς κάτι καλό» , ανέφεραν στελέχη της Anthropic. googletag.cmd.push(function() { googletag.display('300x250_m1'); }); googletag.cmd.push(function() {googletag.display('300x250_middle_1')}) Οι υπεύθυνοι της εταιρείας συνέκριναν την άνοδο των συστημάτων τεχνητής νοημοσύνης με ένα «πρόβλημα ελέγχου των εξοπλισμών» , υπογραμμίζοντας ότι υπάρχει περιορισμένος χρόνος για να τεθεί η τεχνολογία υπό έλεγχο. Η πιο πολύτιμη εταιρεία Τεχνητής Νοημοσύνης Η Anthropic ξεπέρασε πρόσφατα την OpenAI – δημιουργό του ChatGPT , με αποτίμηση που φθάνει τα 965 δισεκατομμύρια δολάρια και αναδείχθηκε ως η πιο πολύτιμη εταιρεία τεχνητής νοημοσύνης στον κόσμο. Η εταιρεία έχει καθυστερήσει τη δημόσια κυκλοφορία του πιο προηγμένου συστήματός της, του Mythos , λόγω ανησυχιών για πιθανή χρήση του σε καταστροφικές κυβερνοεπιθέσεις . googletag.cmd.push(function() { googletag.display('300x250_m2'); }); Σε δοκίμιο που δημοσιεύθηκε την Πέμπτη (4/6), η Μαρίνα Φαβάρο και ο Τζακ Κλαρκ , επικεφαλής του ερευνητικού τμήματος της Anthropic και πρόεδρός της, δήλωσαν – σύμφωνα με την Telegraph – ότι η τεχνολογία πλησιάζει στο σημείο όπου τα συστήματα θα μπορούν να αναπτύσσονται αυτόνομα . googletag.cmd.push(function() { googletag.display('300x250_middle_2'); }); Η φάση αυτή, γνωστή ως «επαναληπτική αυτοβελτίωση» , θα μπορούσε να οδηγήσει σε εκρηκτική αύξηση των δυνατοτήτων, αλλά και στο ενδεχόμενο οι άνθρωποι να μην είναι πλέον σε θέση να ελέγξουν τα συστήματα . Ηθική, ασφάλεια και ανησυχίες Η Anthropic έχει τοποθετηθεί ως εταιρεία που δίνει έμφαση στην ηθική διάσταση της τεχνητής νοημοσύνης και στην ασφαλή ανάπτυξή της, παράλληλα με την ερευνητική της δραστηριότητα. Ο διευθύνων σύμβουλος Ντάριο Αμοντέι εκτίμησε ότι υπάρχει 25% πιθανότητα «τα πράγματα να πάνε πολύ, πολύ άσχημα» . Η εταιρεία σημείωσε: «Εάν μια επιβράδυνση απλώς επιτρέψει στους λιγότερο προσεκτικούς παράγοντες να προλάβουν την τεχνολογική πρόοδο, θα μπορούσε να αφήσει τους πάντες λιγότερο ασφαλείς» . Ωστόσο, πρόσθεσε ότι «θα ήταν καλό ο κόσμος να έχει τη δυνατότητα να επιβραδύνει ή να διακόψει προσωρινά την ανάπτυξη της πρωτοποριακής Τεχνητής Νοημοσύνης, ώστε να μπορέσουν οι κοινωνικές δομές και η έρευνα ευθυγράμμισης να συμβαδίσουν» . googletag.cmd.push(function() { googletag.display('300x250_middle_3'); }); Δυσκολίες στον παγκόσμιο συντονισμό Η Anthropic προειδοποίησε πως ο συντονισμός ενός παγκόσμιου παγώματος θα ήταν εξαιρετικά δύσκολος, λόγω του έντονου ανταγωνισμού ΗΠΑ και Κίνας στον τομέα της Τεχνητής Νοημοσύνης . «Μια ουσιαστική επιβράδυνση ή παύση θα απαιτούσε πολλά καλά εξοπλισμένα εργαστήρια σε διάφορες χώρες να συμφωνήσουν να σταματήσουν υπό τις ίδιες συνθήκες» , ανέφερε η εταιρεία. Πρόσθεσε επίσης ότι «θα απαιτούσε ο καθένας να μπορεί να επαληθεύσει ότι οι άλλοι έχουν πράγματι σταματήσει… Οι εκπαιδευτικές πτήσεις είναι πολύ πιο εύκολο να αποκρυφθούν από τα σιλό πυραύλων» . Αυτοβελτιούμενη τεχνολογία και αντιδράσεις Η κα. Φαβάρο και ο κ. Κλαρκ επισήμαναν ότι το προσωπικό της Anthropic παράγει πλέον οκτώ φορές περισσότερο κώδικα σε σχέση με την περίοδο 2021–2025. Η τεχνητή νοημοσύνη, όπως είπαν, βελτιώνεται στη δημιουργία νέων ιδεών και στον σχεδιασμό έρευνας, γεγονός που αποτελεί βήμα προς την αυτοδημιουργούμενη τεχνολογία . Παράλληλα, άλλοι ειδικοί υποστηρίζουν ότι η εταιρεία ενδέχεται να υπερβάλλει στις προειδοποιήσεις της, επιχειρώντας να επηρεάσει τη θέσπιση κανονισμών που θα μπορούσαν να πλήξουν τους ανταγωνιστές της. Αναταράξεις στις αγορές Η ανακοίνωση της Anthropic ήρθε σε μια περίοδο αναταράξεων στην αγορά μικροτσίπ, μετά την απογοητευτική πρόβλεψη πωλήσεων της Broadcom . Οι μετοχές της εταιρείας υποχώρησαν κατά 13%, εξαφανίζοντας περίπου 300 δισεκατομμύρια δολάρια από την κεφαλαιοποίησή της, ενώ πτώση σημείωσαν και οι Micron , SK Hynix και Arm . Φόβοι προκλήθηκαν από την μαζική πώληση για μια «φούσκα τεχνητής νοημοσύνης» , καθώς αυξάνονται τα ερωτήματα γύρω από τη ζήτηση για τα εξειδικευμένα τσιπ της Broadcom.