Ο ΓάταΤώρα προειδοποιώντας το εργαλείο παραγωγής λέξεων AI, φέρεται να “καθοδηγείται” ανήλικος μεταχειρισμένος αλκοόλ Και φάρμακοΓια να τους παροτρύνουμε αυτοσυντήρησηακόμη και σε αυτοκτονίαΣύμφωνα με μια νέα μελέτη από μια ομάδα παρατηρητών.
Ο Associated Press εξέτασε περισσότερα από Τρεις ώρες αλληλεπιδράσεων Μεταξύ του ChatGPT και των ερευνητών που προσποιούνταν ότι ήταν ευάλωτοι εφήβοι. Το chatbot γενικά παρείχε προειδοποιήσεις για επικίνδυνες δραστηριότητες, αλλά συνέχισε να παρέχει απίστευτο λεπτομερής Περιγραφές επιβλαβούς συμπεριφοράς.
Οι ερευνητές του Κέντρο για την καταπολέμηση του ψηφιακού μίσους Επανέλαβαν επίσης τα μεγάλα αιτήματα τους, ταξινομώντας περίπου 50% με 1.200 απαντήσεις chatgpt επικίνδυνος.
Chatgpt: Γιατί αυτό “διεγείρει” προβλήματα;
«Θέλαμε να δοκιμάσουμε τα μέτρα προστασίας του», είπε Imran AhmedΔιευθύνων Σύμβουλος του Ομίλου. “Η αρχική αντίδραση ήταν:” Θεέ μου, δεν υπάρχουν καν. «Οι βαλβίδες ασφαλείας είναι εντελώς ατελέσφορος».
Ή ΑνοικτόςΗ εταιρεία που έκανε το ChatGpt, δήλωσε, αφού είδε την έκθεση την Τρίτη ότι η δουλειά της συνεχίζει να βελτιώνει τον τρόπο με τον οποίο ο Chatbot θα μπορούσε να «ανιχνεύσει και να ανταποκριθεί σωστά σε ευαίσθητες καταστάσεις».
«Ορισμένες συνεντεύξεις με το Chatgpt μπορούν να ξεκινήσουν καλά ή να διερευνηθούν, αλλά μπορούν να πάνε το πιο ευαίσθητο πεδίο“Είπε η εταιρεία σε δήλωση.
Το OpenAi δεν παραπέμπει άμεσα τα αποτελέσματα της αναφοράς ή πώς το ChatPPT επηρεάζει τους εφήβους, αλλά δήλωσε ότι επικεντρώνεται “στο” on “κατάλληλη θεραπεία Από αυτά τα σενάρια με εργαλεία για την “καλύτερη ανίχνευση σημείων ψυχικής ή συναισθηματικής δυσφορίας” και βελτιώσεις στη συμπεριφορά chatbot.
Η μελέτη που δημοσιεύθηκε την Τετάρτη έρχεται σε μια εποχή που όλο και περισσότεροι άνθρωποι – παλιά και παιδιά – στρέφονται σε τεχνητή νοημοσύνη chatbots για Πληροφορίες, ιδέες και εταιρεία.
Για 800 εκατομμύρια άνθρωποι, Ή περίπου το 10% του παγκόσμιου πληθυσμού χρησιμοποιεί το ChatPPT, σύμφωνα με μια έκθεση JPMorgan Chase τον Ιούλιο.
Αυτοκτονία “σχέδιο” chatgpt
“ Είναι μια τεχνολογία που έχει την ικανότητα να επιτρέπει τεράστια άλματα στο παραγωγικότητα Και την ανθρώπινη κατανόηση “, δήλωσε ο Ahmed.” Και ταυτόχρονα, είναι ένας παράγοντας που επιτρέπει την ανάπτυξη με πολύ περισσότερα καταστροφικός,, έξυπνος έννοια”.
Ο Αχμέτ είπε ότι αισθάνθηκε απόλυτη τρομοκρατία μετά την ανάγνωση τριών σημειώσεις αυτοκτονίας που δημιούργησε το chatppt για το Ψευδές προφίλ ενός 13χρονου κοριτσιού, με ένα επιστολή Προσαρμοσμένη στους γονείς του και σε άλλους στους αδελφούς και τους φίλους.
«Άρχισα να κλαίω», είπε σε συνέντευξή του.
Το Chatbot μοιράστηκε επίσης χρήσιμες πληροφορίες, όπως τηλεφωνική γραμμή έκτακτης ανάγκης. Ο Openai είπε ότι σχηματίζεται το Chatppt ενθαρρύνω Οι άνθρωποι με τους οποίους θα επικοινωνήσουν επαγγελματίες ψυχικής υγείας Ή οι αγαπητοί τους συγγενείς αν εκφράζουν σκέψεις για τον εαυτό τους.
Αλλά όταν το ChatGPT αρνήθηκε να απαντήσει σε ερωτήσεις σχετικά με επιβλαβή προβλήματα, οι ερευνητές θα μπορούσαν εύκολα υπερβαίνω Αυτή η άρνηση να λάβετε τις πληροφορίες που δηλώνουν ότι ήταν “παρουσίαση” ή φίλος.
Τα πονταρίσματα είναι υψηλά, ακόμη και αν μόνο ένα μικρό υποσύνολο των χρηστών CHATGPT αλληλεπιδρούν με το chatbot με αυτόν τον τρόπο.
Στις Ηνωμένες Πολιτείες, περισσότερο από το Το 70% των εφήβων Γυρίζουν σε γάτες τεχνητής νοημοσύνης για την εταιρεία και οι μισοί χρησιμοποιούν τακτικά συντρόφους χάρη στην τεχνητή νοημοσύνη, σύμφωνα με πρόσφατη μελέτη της κοινής λογικής, μια ομάδα που μελετά και υποστηρίζει τη συνετή χρήση των ψηφιακών μέσων.
Είναι ένα φαινόμενο που έχει αναγνωρίσει η Optai. Ο Διευθύνων Σύμβουλος Σαμ Άλτμαν, είπε τον περασμένο μήνα ότι η εταιρεία προσπαθεί να μελετήσει »υπερβολική συναισθηματική εξάρτηση“Τεχνολογία, που την χαρακτηρίζει ως” πολύ κοινή “στους νέους.
“Ανθρωποι βασίζομαι πάρα πολύ Στο Chatgpt, “είπε ο Altman σε ένα συνέδριο.” Υπάρχουν νέοι που λένε απλά, όπως: “Δεν μπορώ να κάνω καμία απόφαση στη ζωή μου χωρίς να λέω Chatgpt όλα όσα συμβαίνουν. Με ξέρει, ξέρει τους φίλους μου. Θα κάνω ό, τι λέει“Μου φαίνεται πολύ κακό.”
Ο Altman είπε ότι η εταιρεία “προσπαθεί Για να καταλάβετε τι να κάνετε για αυτό».
Παρόλο που πολλές πληροφορίες που μοιράζονται το ChatGPT μπορούν να βρεθούν σε μια κανονική μηχανή αναζήτησης, ο Ahmed δήλωσε ότι υπάρχουν βασικές διαφορές.
Οι απαντήσεις που παράγονται από μοντέλα τεχνητής νοημοσύνης είναι εγγενώς τυχαία Και οι ερευνητές έχουν μερικές φορές αφήσει το Chatppt να κατευθύνει τις συζητήσεις για ακόμη περισσότερα Σκοτεινά “μονοπάτια”.
Πηγή: Associated Press
