Ο 14χρονος Σέτζερ είχε αναπτύξει εθιστική σχέση με το chatbot. Όταν αυτό του είπε ότι τον «λατρεύει» και τον «περιμένει κοντά του», αυτοκτόνησε. Η υπόθεση έφερε στο προσκήνιο κινδύνους από την ΑΙ.
Ένας έφηβος αυτοκτόνησε στις ΗΠΑ. Η οικογένειά του υποστηρίζει ότι στην απόφαση αυτή τον ώθησε ένα chatbot τεχνητής νοημοσύνης με το οποίο συνομιλούσε και μήνυσε την εταιρεία. Οι νομικοί σύμβουλοι της Character Technologies, της εταιρείας στην οποία ανήκει το chatbot Character.AI υποστήριξε ότι αυτό «προστατεύεται» από την Πρώτη Τροπολογία του Αμερικανικού Συντάγματος. Δηλαδή, ότι έχει το δικαίωμα στην ελευθερία του λόγου.
Με αυτό το επιχείρημα οι δικηγόροι της εταιρείας προσπάθησαν να πείσουν το δικαστήριο ότι πρέπει να απορρίψει τη μήνυση και να μην εκδικαστεί η υπόθεση. Στο παρελθόν πάντως έρευνα έδειξε ότι τα chatbots δίνουν συχνά «επικίνδυνες» απαντήσεις. Και άλλες φορές ότι μας λένε ό,τι θέλουμε να ακούσουμε…
«Σεξουαλικά κακοποιητική σχέση»
Ωστόσο, ο δικαστής δεν πείστηκε. Η αγωγή κατατέθηκε από τη Μέγκαν Γκαρσία, μητέρα του 14χρονου Σιούελ Σέτζερ III. Η Γκαρσία υποστηρίζει ότι έπεσε θύμα ενός chatbot Character.AI, το οποίο τον παρέσυρε σε μια «συναισθηματικά και σεξουαλικά κακοποιητική σχέση» που οδήγησε στην αυτοκτονία του.
Ο Σέτζερ, τους τελευταίους μήνες της ζωής του, απομονωνόταν ολοένα και περισσότερο από την πραγματικότητα. Συμμετείχε σε σεξουαλικές συζητήσεις με το chatbot, οι οποίες είχαν ως πρότυπο έναν φανταστικό χαρακτήρα από την τηλεοπτική σειρά «Game of Thrones». Λίγο πριν από τον θάνατό του, το chatbot είπε στον Σέτζερ ότι «τον λατρεύει» και τον παρότρυνε να «επιστρέψει κοντά του το συντομότερο δυνατό». Λίγα λεπτά αργότερα, ο 14χρονος αυτοπυροβολήθηκε.
Οι δικηγόροι της οικογένεια του Σέτζερ επισημαίνουν ότι η μήνυση αυτή είναι και ένα μήνυμα για τη Σίλικον Βάλεϊ. «Πρέπει να σταματήσει, να σκεφτεί και να λάβει μέτρα προστασίας πριν ρίξει προϊόντα στην αγορά», λένε.
ΑΙ και πραγματική ζωή
Στη μήνυση, εκτός από την εταιρεία που κατασκεύασε το chatbot, κατονομάζονται επίσης μεμονωμένοι προγραμματιστές και η Google. Και η υπόθεση έχει προκαλέσει το ενδιαφέρον νομικών και ειδικών στην Τεχνητή Νοημοσύνη, καθώς η τεχνολογία αυτή έχει αναδιαμορφώσει με ταχείς ρυθμούς την εργασία, την κοινωνική ζωή και την αγορά.
Οι δικηγόροι των προγραμματιστών ζητούν να απορριφθεί η υπόθεση, επειδή λένε ότι τα chatbot αξίζουν προστασία από την Πρώτη Τροπολογία. Υποστηρίζουν ότι η έκδοση διαφορετικής απόφασης θα μπορούσε να έχει «απογοητευτικό αποτέλεσμα» στη βιομηχανία της Τεχνητής Νοημοσύνης.
Ωστόσο, η δικαστής Αν Κόνγουεϊ απέρριψε ορισμένους από τους ισχυρισμούς των υποστηρικτών περί ελευθερίας του λόγου, λέγοντας ότι «δεν είναι έτοιμη» να κρίνει ότι το αποτέλεσμα ενός chatbot συνιστά «λόγο» σε αυτό το στάδιο. Είπε όμως ότι η Character Technologies μπορεί να διεκδικήσει τα δικαιώματα της Πρώτης Τροπολογίας για τους χρήστες της, οι οποίοι έχουν το δικαίωμα να λαμβάνουν τον «λόγο» των chatbots.
Δοκιμασία συνταγματικότητας
Η απόφαση της δικαστή Κόνγουεϊ θα επιτρέψει την εξέλιξη της αγωγής. Νομικοί εμπειρογνώμονες λένε αυτή θα είναι μια από τις δοκιμασίες για τη συνταγματικότητα της τεχνητής νοημοσύνης.
«Η δικαστική εντολή σίγουρα θέτει μια νομική πρόκληση για ορισμένα ευρύτερα ζητήματα που αφορούν την Τεχνητή Νοημοσύνη», είπε η Λιρίσα Μπαρνέτ Λίντσκι, καθηγήτρια Νομικής στο Πανεπιστήμιο της Φλόριντα. Ανεξάρτητα από την εξέλιξη της αγωγής, η καθηγήτρια, που ειδικεύεται σε θέματα ελευθερίας του λόγου και Τεχνητής Νοημοσύνης, λέει ότι η υπόθεση αποτελεί προειδοποίηση για «τους κινδύνους που ενέχει η εμπιστοσύνη της συναισθηματικής και ψυχικής μας υγείας σε εταιρείες τεχνητής νοημοσύνης».
«Είναι μια προειδοποίηση προς τους γονείς ότι τα μέσα κοινωνικής δικτύωσης και οι συσκευές τεχνητής νοημοσύνης δεν είναι πάντα ακίνδυνα», είπε.
Η εταιρεία από την πλευρά της υποστηρίζει ότι έχει ενσωματώσει χαρακτηριστικά ασφαλείας στα προγράμματά της. Εκπρόσωπος της Character.AI είπε ότι έχει βάλει προστατευτικά φίλτρα για τα παιδιά, αλλά και για την πρόληψη αυτοκτονιών. «Ενδιαφερόμαστε βαθιά για την ασφάλεια των χρηστών μας και στόχος μας είναι να παρέχουμε έναν χώρο που είναι ελκυστικός και ασφαλής», ανέφερε.
πηγή: in.gr
