Τώρα η AI χρησιμοποιείται για να δώσει φωνή σε νεκρά ή εξαφανισμένα παιδιά. Και αυτό είναι πρόβλημα

“Γεια, το όνομά μου είναι Τζέιμς Μπάλτζερ. Αν η μαμά μου είχε στρίψει δεξιά, θα ήμουν ζωντανός σήμερα. Δυστυχώς, έστριψε αριστερά”. Ένα αγοράκι 2 ετών που απήχθει το 1993 στην Αγγλία την ώρα που η μητέρα του πλήρωνε στο ταμείο του σούπερ μάρκετ, σου μιλάει μέσα από ένα βίντεο στο TikTok, με την παιδική φωνή του. Αυτό είχε πει η μητέρα του πως θα την στοιχειώνει για πάντα: αν είχε κοιτάξει προς τα δεξιά της, θα έβλεπε τα 2 10χρονα παιδιά που άρπαξαν τον γιο της, τον οποίο αργότερα βασάνισαν και σκότωσαν.

Τώρα, πολλές ακόμη τέτοιες ιστορίες, ιστορίες απαγωγών, κακοποίησης, βασανιστηρίων και δολοφονιών, ιστορίες που απέκτησαν τεράστια δημοσιότητα και συζητούνται ακόμη στις χώρες που συνέβησαν αλλά και παγκοσμίως, ετοιμάζονται να αποκτήσουν φωνή. Τη φωνή των παιδιών-θυμάτων τους, για την ακρίβεια, με τη χρήση της Τεχνητής Νοημοσύνης. Κάτι βέβαια, που κανείς δεν ζήτησε.

WHO

Η Lindsey McInerney σε μια μεγάλη συνέντευξη στο JennyGr για το πώς το Metaverse και η Τεχνητή Νοημοσύνη θα αλλάξουν τον κόσμο

Αρκετοί δημιουργοί content στο TikTok, ξεκίνησαν να χρησιμοποιούν AI για να αναδημιουργήσουν την εικόνα αυτών των παιδιών μαζί με τις φωνές τους και να τα βάλουν να αφηγούνται τις ανατριχιαστικές ιστορίες που οδήγησαν στον θάνατό τους. Οι ίδιοι υπερασπίζονται αυτή την κίνηση, λέγοντας πως θα χρησιμεύσει ώστε να ευαισθητοποιηθεί ο κόσμος ώστε να αποτραπούν παρόμοια περιστατικά στο μέλλον. Οι ειδικοί, ωστόσο, ανησυχούν για την εξέλιξη αυτής της τάσης, καθώς υποστηρίζουν πως πέρα από το ότι ενδέχεται να είναι προσβλητική απέναντι στη μνήμη των θυμάτων, μπορεί να προκαλέσει διάχυση ψευδών πληροφοριών γύρω από τις υποθέσεις.

Το TikTok κατέβασε το βίντεο του μικρού Τζέιμς λέγοντας πως “δεν υπάρχει χώρος” για τέτοια βίντεο στην πλατφόρμα τους και πως θα συνεχίσουν να κατεβάζουν παρόμοια post -υπάρχει όμως ακόμη διαθέσιμο στο YouTube. Η μητέρα του είπε στη Daily Mirror πως βρήκε το post “αηδιαστικό”. “Δεν υπάρχουν λόγια για το ότι χρησιμοποίησαν το πρόσωπο και το κινούμενο στόμα ενός παιδιού που δεν βρίσκεται πια εδώ, που μας το πήραν με τη βία”, δήλωσε.

Σύμφωνα με τη Mirror, ο σύζυγος της μητέρας του Τζέιμς, Στιούαρτ Φέργκους, είπε πως επικοινώνησε με τον δημιουργό του βίντεο για να του ζητήσει να το κατεβάσει, για να πάρει την εξής απάντηση: “Δεν έχουμε σκοπό να προβάλουμε κανέναν. Ο μόνος λόγος που φτιάχνουμε αυτά τα βίντεο είναι για να βεβαιωθούμε πως αυτά τα περιστατικά δεν θα συμβούν ξανά σε κανέναν. Παρακαλώ συνεχίστε να με υποστηρίζετε και μοιραστείτε τη σελίδα μου για να ευαισθητοποιήσετε τον κόσμο”.

Παρά τις προσπάθειες του TikTok να κατεβάσει τα εν λόγω βίντεο, πολλά από αυτά συνεχίζουν να υπάρχουν στην πλατφόρμα. Αυτό συμβαίνει επειδή δημιουργούνται με ένα ή περισσότερα εργαλεία αναπτυγμένης ΑΙ, τα οποία κάνουν δύσκολη τη διαφοροποίηση μεταξύ πραγματικότητας και φαντασίας, δυσκολεύοντας έτσι τον αλγόριθμο στη διαδικασία εντοπισμού τους. Ήδη κάποια από αυτά έχουν συγκεντρώσει εκατομμύρια views.

“Το όνομά μου είναι Μαντλίν Μπεθ ΜακΚαν”, αφηγείται μια παιδική φωνή, με την εικόνα της γνωστής 3χρονης Βρετανίδας που εξαφανίστηκε από ένα resort στην Πορτογαλία το 2007. “Είμαι ακόμα εξαφανισμένη”. Το βίντεο αυτό είχε δεκάδες χιλιάδες views πριν το TikTok καταφέρει να το κατεβάσει. Ο δημιουργός του βίντεο είχε γράψει στο post του πως ήταν μια προσπάθεια δημιουργίας “καθηλωτικής αφήγησης”.

Σε ένα άλλο βίντεο, η Αν Φρανκ διαφημίζει ρούχα για μωρά, ενώ λίγο αργότερα αναφέρεται στις φρικαλεότητες του Ολοκαυτώματος. “Ψάχνεις ακόμη για όμορφα μωρουδιακά ρούχα; Τότε πήγαινε στο link στο bio και ετοιμάσου για μια έκπληξη”, λέει στα γερμανικά. “Και τώρα, θα σου πω την ιστορία της Αν Φρανκ”.

Στον ίδιο λογαριασμό υπάρχει ένα ακόμη βίντεο, επίσης στα γερμανικά, ενός ξανθού αγοριού με σημαδεμένο πρόσωπο που αφηγείται την ιστορία του Πίτερ Κόνελι, γνωστού στη Μ. Βρετανία και ως “Baby P”. Ο 17 μηνών Κόνελι πέθανε το 2007, έπειτα από σωματική βία που του ασκήθηκε από τη μητέρα του και τον σύντροφό της.

Το συγκεκριμένο βίντεο μπορεί να ξεκινά με προειδοποίηση πως περιέχει δύσκολο περιεχόμενο, ωστόσο δεν αναφέρει πουθενά πως είναι προϊόν ψηφιακής επεξεργασίας και περιέχει χρήση Τεχνητής Νοημοσύνης -όπως επιβάλλεται από τους κανονισμούς της πλατφόρμας.

Σε ένα άλλο βίντεο, ο 8χρονος Γκαμπριέλ Φερνάντεζ από την Καλιφόρνια, μας λέει πώς βασανίστηκε μέχρι θανάτου το 2013 από τη μητέρα του και τον σύντροφό της. “Όταν ξεκίνησα στο νέο μου σχολείο, η δασκάλα ανέφερε στις κοινωνικές υπηρεσίες πως είχα μώλωπες σε όλο μου το σώμα. Την είχα ρωτήσει αν ήταν φυσιολογικό να αιμορραγώ όταν η μητέρα μου με χτυπούσε με τη ζώνη”, λέει η τροποποιημένη εικόνα του Γκάμπριελ στο βίντεο, το οποίο έχει περισσότερα από 25 εκατομμύρια views στο TikΤok.

Ο Φίλιξ Μ. Σάιμον, ερευνητής επικοινωνίας στο Oxford Internet Institute, λέει στη Washington Post πως η παραγωγή τέτοιων βίντεο γίνεται ολοένα και ευκολότερη λόγω των αυξανόμενων λειτουργιών της Τεχνητής Νοημοσύνης και των πιο φθηνών και εύκολων εφαρμογών που διατίθενται στους χρήστες. Επίσης, παρά τη συνεχή εξέλιξη του AI λογισμικού που πλέον μπορεί μέχρι και να κλωνοποιήσει ανθρώπινες φωνές με ακρίβεια, οι συγκεκριμένες παιδικές φωνές στα βίντεο ακούγονται σαν να έχουν δημιουργηθεί με υπολογιστή και δεν μοιάζουν με τις πραγματικές φωνές των παιδιών. Για παράδειγμα, σε ένα από τα βίντεο, η φωνή της (Αγγλίδας) Μαντλίν έχει αμερικανική προφορά.

«Σε πολλές κοινωνίες και πολιτισμούς είναι ευρέως διαδεδομένη η πεποίθηση ότι ο αποθανών πρέπει να αντιμετωπίζεται με αξιοπρέπεια και να έχει ορισμένα δικαιώματα», λέει ο Σάιμον. Βρίσκω πως τέτοια βίντεο προβαίνουν σε πιθανές παραβιάσεις αυτής της αρχής με δύο τρόπους. Πρώτον, οικειοποιούνται την προσωπικότητα του αποθανόντος, αδιαφορώντας ή αψηφώντας τις πιθανές επιθυμίες τους. Δεύτερον, μπορεί να προσβάλλουν αυτό που οι συγγενείς του θανόντος αντιλαμβάνονται ως αξιοπρέπειά τους», συμπληρώνει, αναφερόμενος στα βίντεο που πολλές φορές συνοδεύονται από δραματική μουσική και δείχνουν τα παιδιά με σημάδια και ματωμένα πρόσωπα.

Αξίζει να σημειωθεί επίσης, πως ένας από τους βασικούς λόγους που αυτά τα βίντεο δημιουργούνται αλλά και αποκτούν τόση δημοτικότητα, είναι η ικανότητά τους να καθηλώνουν το κοινό. Η νοσηρότητά τους και το σοκ που προκαλούν, προσελκύει τους θεατές και ανεβάζει κατακόρυφα το engagement στους λογαριασμούς των δημιουργών τους -μαζί με τα likes, φυσικά.

Ο Κόρι Μπράντφορντ, διάσημος TikToker του οποίου τα ιστορικού περιεχομένου βίντεο του έχουν συγκεντρώσει πάνω από 1 εκατομμύριο followers, λέει στην WP πως παρότι ο ίδιος δεν χρησιμοποιεί AI, όσοι το κάνουν στοχεύουν στο να σοκάρουν το κοινό και να τραβήξουν θεατές στα κανάλια τους, ειδικά νεότερης ηλικίας.

Προσθέτει πως η τεχνολογία δεν έχει φτάσει ακόμη στο σημείο όπου τα ιστορικά βίντεο που χρησιμοποιούν AI να είναι ρεαλιστικά και άρα πιστευτά από τον κόσμο.

“Όσο η Τεχνητή Νοημοσύνη είναι τόσο μη ρεαλιστική, θα υπάρχουν άνθρωποι που θα τη βρίσκουν απλά creepy”, λέει, αλλά προειδοποιεί “(αλλά) πλησιάζει. Και θα φτάσει (στο σημείο να είναι ρεαλιστική) σύντομα. Και όλοι μας θα πρέπει να αντιμετωπίσουμε τις συνέπειες του που θα μας οδηγήσει αυτό”.

Με πληροφορίες από ρεπορτάζ της Washington Post