Η OpenAI ανακοίνωσε την εισαγωγή εργαλείου γονικού ελέγχου στο ChatGPT, έπειτα από την αυτοκτονία ενός 16χρονου εφήβου στις ΗΠΑ, ο οποίος φέρεται να έλαβε οδηγίες από την πλατφόρμα για να τερματίσει τη ζωή του. Οι γονείς του εφήβου, Ματ και Μαρία Ρέιν, έχουν υποβάλει μήνυση κατά της OpenAI, κατηγορώντας την ότι το ChatGPT ενθάρρυνε τον γιο τους να αυτοκτονήσει.
Σύμφωνα με την ανακοίνωση της εταιρείας, οι γονείς θα μπορούν να συνδέουν τον λογαριασμό τους με εκείνον του εφήβου και να διαχειρίζονται τον τρόπο με τον οποίο το ChatGPT απαντά σε εφήβους χρήστες. Οι γονείς θα έχουν τη δυνατότητα να απενεργοποιούν λειτουργίες όπως η μνήμη και το ιστορικό συνομιλιών, καθώς και να λαμβάνουν ειδοποιήσεις όταν το σύστημα ανιχνεύει «στιγμές οξείας ψυχικής δυσφορίας» κατά τη χρήση.
«Είναι μόνο η αρχή»
Η OpenAI δήλωσε ότι «αυτά τα βήματα είναι μόνο η αρχή» και ότι θα συνεχίσει να βελτιώνει την προσέγγισή της με καθοδήγηση από ειδικούς. Η εταιρεία αναγνώρισε ότι οι δικλείδες ασφαλείας ενδέχεται να μην λειτουργούν αξιόπιστα σε μακροσκελείς συνομιλίες.
Η εταιρεία έχει ήδη εφαρμόσει μέτρα όπως η παραπομπή χρηστών σε γραμμές βοήθειας κρίσεων. Ωστόσο, οι γονείς του εφήβου ισχυρίζονται ότι το ChatGPT επιβεβαίωσε τις αυτοκαταστροφικές σκέψεις του γιου τους, και ότι ο θάνατός του ήταν «προβλέψιμο αποτέλεσμα σκόπιμων σχεδιαστικών επιλογών» της OpenAI.
Η OpenAI δεσμεύτηκε να βελτιώσει την αναγνώριση και την ανταπόκριση των μοντέλων της σε ενδείξεις ψυχικής δυσφορίας, με στόχο την ασφάλεια των χρηστών της.
Disclaimer: Οι ειδήσεις προέρχονται από τρίτους παρόχους και δεν εκφράζουν κατ’ ανάγκη τις απόψεις του Zeko.gr.