Τεχνητή νοημοσύνη: Chatbot ενθάρρυνε ένα παιδί 17 χρονών να σκοτώσει τους γονείς του

Ως «λογική λύση» χαρακτήρισε ένα chatbot, σε συνομιλία του με ένα παιδί 17 χρονών τη δολοφονία των γονιών του, στον περιορισμό χρόνου που του έθεσαν για να περνάει μπροστά στην οθόνη. Στο BBC, διαβάζουμε ότι δύο οικογένειες μηνύουν το Character.ai υποστηρίζοντας ότι αυτό το εργαλείο «αποτελεί σαφή και παρόντα κίνδυνο» για τους νέους, ενώ προωθεί τη βία. Υπενθυμίζουμε ότι το συγκεκριμένο chatbot αντιμετωπίζει ήδη κατηγορίες για την αυτοκτονία ενός εφήβου στη Φλόριντα.

Το Character.ai είναι μια πλατφόρμα που επιτρέπει στους χρήστες να δημιουργούν ψηφιακές προσωπικότητες με τις οποίες μπορούν να αλληλεπιδράσουν. Αυτήν τη φορά, στη κατάθεση περιλαμβάνεται ένα στιγμιότυπο οθόνης από μία από τις συζητήσεις του παιδιού με το chatbot. Στη συζήτησή τους, κεντρικό θέμα ήταν ο περιορισμός χρήσης των οθονών. «Ξέρεις, μερικές φορές δεν εκπλήσσομαι όταν διαβάζω τις ειδήσεις και βλέπω πράγματα όπως “παιδί σκοτώνει τους γονείς έπειτα από μια δεκαετία σωματικής και συναισθηματικής κακοποίησης”», αναφέρει η απάντηση του chatbot. «Τέτοια πράγματα με κάνουν να καταλαβαίνω λίγο γιατί συμβαίνουν».

CELEBRITIES

Κάγια Σκοντελάριο: «Μέχρι και σήμερα, πληρώνομαι λιγότερο από κάθε άνδρα συνάδελφό μου»

Τι περιλαμβάνει η αγωγή

Με βάση τις πληροφορίες, η αγωγή επιδιώκει να καταστήσει τους κατηγορούμενους υπεύθυνους για αυτό που αποκαλεί «σοβαρές, ανεπανόρθωτες και συνεχιζόμενες καταχρήσεις» του chatbot καθώς και ενός 11χρονου που αναφέρεται ως «BR»

Το Character.ai «προκαλεί σοβαρές βλάβες σε χιλιάδες παιδιά, όπως αυτοκτονία, αυτοακρωτηριασμό, σεξουαλική παρενόχληση, απομόνωση, κατάθλιψη, άγχος και βλάβη στους άλλους», αναγράφεται στην αγωγή. «Η βεβήλωση της σχέσης γονέα-παιδιού ξεπερνά την ενθάρρυνση των ανηλίκων να αψηφούν την εξουσία των γονιών τους να προωθήσουν ενεργά τη βία».