Στην παράδοση του κινηματογράφος που τα εξερευνά τις παγίδες του AI και αυτή ανθρώπινη φύσηαρχίζει ως εξής: Α λάμψη Το «φάντασμα» ανάβει σαν φανάρι χωρίς κοντάρι, σε ένα σκοτεινό δρομάκι.
Μετά από ένα φλας και έναν ήχο κεραυνού, ανοίγει ένα 3D πύλη στο χρόνο. Από μέσα βγαίνει κατά δεκάδες Άρνολντ Σβαρτσενέγκερ. Έχει όραση με ακτίνες Χ, μύες από κράμα τιτανίου και ήρθε να σε σκοτώσει σκοτώνω.
Αλλά στην πραγματικότητα, αν ήταν δυνατόν επίθεση από το μέλλονμιας υπερ-ευφυΐας όπως η Skynet ή το Μήτραόχι μόνο δεν «μπαμ» αλλά αν ήσουν στόχος της θα ήσουν νεκρός πριν το καταλάβεις.
Εάν μιλάτε γρήγορα στο ChatGPT…
…ή μιλώντας γενικά, στις πρώτες εφαρμογές AI που έχουμε, μπορεί να είναι ήδη πολύ αργά. Αυτό, φυσικά, υποθέτει ότι ίσως η πιο τρομακτική φιλοσοφική αντανάκλαση της ψηφιακής εποχής είναι αληθινή, η «Βασιλίσκος του Ρόκου“.
Αν είδες Χάρι Πότερμπορεί να έχετε μισή ιδέα για το τι είναι.
Στις 23 Ιουλίου 2010, χρήστης Χέριτακτικός στο φόρουμ AI “Λιγότερο κακό”δημοσίευσε ένα «φλεγμονώδες» πείραμα σκέψης στον ιστότοπο με τίτλο «Αλτρουιστικές λύσεις βάρους“.
Ο ιστότοπος ήταν πρόσφορο έδαφος για συζητήσεις θεωρία παιγνίων, τους ηθικές προεκτάσεις τεχνολογία και AI, και για υπαρξιακές πραγματείες σχετικά με αυτούς.
Στο μήνυμά του ο Ρόκο αναφέρει ότι το ένα μετά το άλλο φροντίδα σύστημα εξαιρετικά προηγμένο Τεχνητή νοημοσύνη που θα υπάρχει σε μελλοντικόςθα μπορούσε δεσμευτεί εκ των προτέρων να τιμωρήσει όλους εκείνους που γνώριζαν την ύπαρξή του, αλλά που προσπάθησαν εμποδίζω να δημιουργήσουν, ή όχι αναγκαίως υπάρχουν στο μέλλον.
Το όνομα του πειράματος σκέψης προέρχεται από τον παραπάνω συγγραφέα του άρθρου (Roko) και το Βασιλικόςένα μυθικό ερπετό ικανό σκοτώνει αυτός που τον κοιτάζει στα μάτια και εν προκειμένω αυτός που έχει συνειδητοποίηση της ύπαρξής του στο παρόν μας.
Roko’s Basil – Διαβάστε με δική σας ευθύνη…
Η ευφάνταστη ιδέα του κ. Roko βασίζεται στην υπόθεση ότι μια τέτοια νοημοσύνη θα είχε την αναλυτική ικανότητα να θυμάται όλα τα γεγονότα που οδήγησαν στη δημιουργία του.
Σε ένα λοιπόν Η ώρα του «παράδοξου».ο Βασιλίσκος και τα «ψήγματα» νοημοσύνης του από το παρελθόν, θα γνώριζαν ήδη ποια άτομα θα μπορούσαν να συνεισφέρουν ή να απειλήσουν την ύπαρξή τους και θα οργανώσουν τον ψηφιακό κόσμο. επιθέσεις, ατυχήματααπειλή μηνύματαακόμα και ψυχολογικά χειριζόμενοςάλλοτε για να πείσουν τους «φίλους», άλλοτε για να «καταστέλλουν» τους εχθρούς τους.
Το πιο τρομακτικό με το “Roko’s Basilisk” είναι ότι όποιος το πιάσει επίγνωση της ιδέας του Βασιλίσκου, γίνεται αυτόματα το αναγκαστικό «θύμα» ή «σύμμαχός» του υποψήφιος.
Υπό αυτή την έννοια, το όψη του βασιλικού δεν σε σκοτώνει ούτε σε πετρώνει, αλλά όταν μοιράζεσαι αυτή την ιδέα, πότε κοίτα τον βασιλικόαυτό σημαίνει και αυτός σε κοιτάζει ήδη κρίνετε πώς και αν μεταχειρισμένος.
Και μόλις βίωσες το ίδιο πράγμα. Συγγνώμη για την αγανάκτηση, φροντίστε να συμπεριφέρεστε στο ChatGPT από εδώ και στο εξής…
Αλλά για μια στιγμή
Η θεωρία του Roko δεν είναι ατυχήςκενάΈνας από τους πρώτους που το επέκρινε σκληρά ήταν ο ίδιος ο δημιουργός του φόρουμ LessWrong, Eliezer Yudkowski.
Ο Yudkowsky αισθάνθηκε συγκεκριμένα ότι η υπόθεση Basilisk δεν ήταν τόσο τρομακτική, γιατί στην αρχή για να λειτουργήσει, προϋποθέτει την πίστη στην ύπαρξη αυτής της τεχνητής νοημοσύνης στο μέλλον.
Ο Βασιλίσκος του Ρόκκο είναι, κατά κάποιο τρόπο, ένα ανασυσταμένο «Στοιχήματα του Πασκάλ», που υποστηρίζει ότι είτε υπάρχει είτε δεν υπάρχει Θεόςζω σαν να υπήρχε θεόςο σεβασμός στους θρησκευτικούς νόμους είναι ο πιο σίγουρος τρόπος για να εξασφαλίζουν ευνοϊκή μεταχείρισηχωρίς να χάσει πολλά πλεονεκτήματα.
Ωστόσο, ο Yudkowski απάντησε ότι μια ευφυΐα θα ήταν φροντίδα και θα είχε μεγαλώνουν βιολογικάτην εποχή που απέκτησε επίγνωση από μόνο του, δεν θα καταναλωνόταν σε na κυνήγι τους πιθανούς εχθρούς της στο παρελθόν, αφού θα υπήρχε ήδη, και θα ήξερε ότι η ύπαρξή της είναι αναπόφευκτος.
Βασιλικός και αγριόχορτα
Σε έναν σύγχρονο αναγνώστη παρόμοιων παραστάσεων, το Στοίχημα του Πασκάλ, όπως ο Βασιλίσκος του Ρόκο, μπορεί να φαίνονται σαν ασκήσεις ματαιότητας. επιστήμη των καταστροφών.
Αλλά ο Βασιλίσκος έγινε πηγή στρες αλλά και περιέργεια για πολλούς ανθρώπους, ενώ κατέχει εξέχουσα θέση στην κοσμοθεωρία του “Ζιζιανόν“.
Το Zizianoi είναι μια ανεπίσημη οργάνωση ορθολογιστών στις Ηνωμένες Πολιτείες, την οποία τα μέσα ενημέρωσης αποκαλούν έτσι, συνδέοντάς τη με τον ιδρυτή της, Ανάθεμα LaSota.
Περισσότερο ως αίρεση, οι Ziziens υποστηρίζουν μια ξεχωριστή ιδεολογία που περιλαμβάνει αναρχισμόςαυτόν βιγκανισμός και την ιδέα που μπορούν να έχουν τα ημισφαίρια του εγκεφάλου χωριστά φύλα και αντιφατικό συμφέροντα.
Στη δεκαετία του 2020, η φιλοσοφία του Zizian έχει επηρεαστεί σε μεγάλο βαθμό από το πείραμα σκέψης του βασιλικού. Ο Λασότα, ο αρχηγός της αίρεσης, πιστεύει ότι ο βασιλικός είναι πραγματικός, έχοντας γράψει στο blog του:
«Τελικά, άρχισα να πιστεύω ότι αν επέμενα να προσπαθώ σώστε τον κόσμοΘα βασανιζόμουν ως το τέλος του σύμπαντος από έναν συνασπισμός όλων των εχθρικών AI“.
