Οι επιστήμονες προειδοποιούν ότι εντός της τρέχουσας ή της επόμενης δεκαετίας είναι πιθανό να αναπτυχθούν εξαιρετικά ισχυρά συστήματα γενικής τεχνητής νοημοσύνης που θα ξεπερνούν τις ανθρώπινες ικανότητες σε πολλούς κρίσιμους τομείς.
Λίγο πριν τη δεύτερη Σύνοδο Κορυφής για την Ασφάλεια της Τεχνητής Νοημοσύνης, που πραγματοποιείται στις 21 και 22 Μαΐου στη Σεούλ, κορυφαίοι επιστήμονες στον τομέα ζητούν από τους παγκόσμιους ηγέτες να αναλάβουν ισχυρότερη δράση για τους κινδύνους της τεχνητής νοημοσύνης, επισημαίνοντας ότι η πρόοδος είναι ανεπαρκής μετά την πρώτη Σύνοδο που έγινε πριν από έξι μήνες.
Σε άρθρο που δημοσίευσαν στο περιοδικό «Science», 25 επιστήμονες από τις ΗΠΑ, την ΕΕ, το Ηνωμένο Βασίλειο και την Κίνα αναφέρουν ότι δεν έχουν γίνει αρκετά για την προστασία από τους κινδύνους της τεχνολογίας. Τονίζουν ότι είναι απαραίτητο οι παγκόσμιοι ηγέτες να λάβουν σοβαρά υπόψη την πιθανότητα ότι μέσα στην τρέχουσα ή την επόμενη δεκαετία θα αναπτυχθούν ισχυρά συστήματα γενικής τεχνητής νοημοσύνης, που θα ξεπερνούν τις ανθρώπινες ικανότητες σε πολλούς τομείς.
Παρόλο που οι κυβερνήσεις παγκοσμίως έχουν κάνει κάποιες προσπάθειες για την εισαγωγή αρχικών κατευθυντήριων γραμμών, αυτές οι ενέργειες δεν αντιστοιχούν στην πιθανή ταχεία πρόοδο που αναμένουν πολλοί ειδικοί. Επιπλέον, επισημαίνουν ότι η έρευνα για την ασφάλεια της τεχνητής νοημοσύνης είναι ανεπαρκής, καθώς μόνο το 1-3% των δημοσιεύσεων για την τεχνητή νοημοσύνη αφορά την ασφάλεια. Υπογραμμίζουν επίσης ότι δεν υπάρχουν μηχανισμοί ή θεσμοί για την πρόληψη της κακής χρήσης της τεχνολογίας.
Οι επιστήμονες ζητούν από τις κυβερνήσεις να δημιουργήσουν όργανα εμπειρογνωμόνων που θα ενεργούν γρήγορα για την εποπτεία της τεχνητής νοημοσύνης, και να παράσχουν μεγαλύτερη χρηματοδότηση από την προβλεπόμενη. Επιπλέον, ζητούν πιο αυστηρές αξιολογήσεις κινδύνου και απαιτούν από τις εταιρείες τεχνητής νοημοσύνης να θέτουν την ασφάλεια ως προτεραιότητα και να αποδεικνύουν ότι τα συστήματά τους δεν μπορούν να προκαλέσουν βλάβη. Τέλος, ζητούν από τις κυβερνήσεις να αναλάβουν ηγετικό ρόλο στη δημιουργία ρυθμιστικού πλαισίου.
Το άρθρο συνυπογράφουν, μεταξύ άλλων, ο ιστορικός και φιλόσοφος Γιουβάλ Νόα Χαράρι, ο επιστήμονας πληροφορικής και πρωτοπόρος της τεχνητής νοημοσύνης Τζέφρι Χίντον, και η μελετήτρια θεμάτων ασφάλειας τεχνητής νοημοσύνης Ντον Σονγκ.
