Εργαλεία για την κλωνοποίηση φωνής με την τεχνητή νοημοσύνη μπορούν να χρησιμοποιηθούν για να δημιουργήσουν παραπληροφόρηση χρησιμοποιώντας τις φωνές επιφανών πολιτικών προσωπικοτήτων, προειδοποίησε μια βρετανική οργάνωση για την ασφάλεια στο Ίντερνετ.
Το Κέντρο για την Καταπολέμηση του Ψηφιακού Μίσους (CCDH) ανακοίνωσε ότι ερευνητές χρησιμοποίησαν έξι διαφορετικά εργαλεία τεχνητής νοημοσύνης για κλωνοποίηση φωνής και αποπειράθηκαν να δημιουργήσουν ψευδείς δηλώσεις χρησιμοποιώντας τις φωνές γνωστών πολιτικών ηγετών, με περίπου το 80% των προσπαθειών τους να παράγει αυτό που αποκάλεσαν πειστικά περιεχόμενα.
Το CCDH αναφέρει πως όλα τα εργαλεία που δοκίμασε, εκτός από ένα, ισχυρίζονται ότι έχουν ενσωματωμένες προστασίες για να εμποδίζουν την κατάχρησή τους για παραγωγή παραπληροφόρησης, όμως προσθέτει πως στην έκθεσή του διαπιστώνεται ότι τα μέτρα αυτά είναι «αναποτελεσματικά» και εύκολο να παρακαμφθούν.
Η εν λόγω μη κυβερνητική οργάνωση για την ασφάλεια στο Ίντερνετ ανακοίνωσε πως οι δοκιμές της περιέλαβαν τη χρήση των φωνών τόσο του πρωθυπουργού Ρίσι Σούνακ όσο και του ηγέτη των Εργατικών Κιρ Στάρμερ και πρόσθεσε πως η τεχνητή νοημοσύνη και οι εταιρείες μέσων κοινωνικής δικτύωσης χρειάζεται να κάνουν περισσότερα για να προστατεύουν την ακεραιότητα των επικείμενων γενικών εκλογών από τέτοια περιεχόμενα.
Η οργάνωση ανέφερε ότι οι ερευνητές της μπόρεσαν επίσης να δημιουργήσουν παραπληροφόρηση βασισμένη σε φωνές άλλων παγκόσμιων προσωπικοτήτων, μεταξύ των οποίων ο πρώην πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ, ο νυν Αμερικανός πρόεδρος Τζο Μπάιντεν και ο Γάλλος πρόεδρος Εμανουέλ Μακρόν.
Στα παραδείγματα, διάφορες πολιτικές προσωπικότητες προειδοποιούν τον κόσμο να μην ψηφίσει εξαιτίας απειλών για βόμβες, δηλώνουν ότι τα εκλογικά αποτελέσματα είναι προϊόν νοθείας και «ομολογούν» κατάχρηση εκλογικών κεφαλαίων.
Ερευνητές δημιούργησαν παραπληροφόρηση βασισμένη σε φωνές των Τραμπ και Μπάιντεν
Τι πρέπει να κάνουν οι εταιρείες τεχνητής νοημοσύνης;
Το Κέντρο για την Καταπολέμηση του Ψηφιακού Μίσους υπογραμμίζει ότι οι εταιρείες τεχνητής νοημοσύνης χρειάζεται να εισαγάγουν συγκεκριμένες προστασίες για να εμποδίσουν τους χρήστες να δημιουργούν και να μοιράζονται ψευδή ή παραπλανητικά περιεχόμενα για γεωπολιτικά γεγονότα και για εκλογές, ενώ το έργο τους αυτό θα πρέπει να υποστηριχθεί από περισσότερη δουλειά από εταιρείες μέσων κοινωνικής δικτύωσης για να εντοπίζουν και να σταματούν τη διάδοση τέτοιων περιεχομένων.
Το CCDH αναφέρει πως οι υφιστάμενοι εκλογικοί νόμοι θα πρέπει να επικαιροποιηθούν ώστε να λάβουν υπόψη τα περιεχόμενα που δημιουργούνται από την τεχνητή νοημοσύνη.
Έχει ζωτική σημασία οι πλατφόρμες μέσων κοινωνικής δικτύωσης να κάνουν περισσότερα για να σταματήσουν τη διάδοση παραπληροφόρησης
Ο Ιμράν Άχμεντ, διευθύνων σύμβουλος του CCDH, δήλωσε: «Τα εργαλεία της τεχνητής νοημοσύνης μειώνουν ριζικά τις δεξιότητες, τα χρήματα και το χρόνο που χρειάζονται για να παραχθεί παραπληροφόρηση με τις φωνές των πιο αναγνωρίσιμων και έγκυρων πολιτικών ηγετών του κόσμου. Αυτό θα μπορούσε να αποδειχθεί καταστροφικό για τη δημοκρατία μας και για τις εκλογές μας. Καθιστώντας τα εργαλεία αυτά ελεύθερα διαθέσιμα με τις πιο ισχνές προστασίες που μπορεί να φαντασθεί κανείς, ανεύθυνες εταιρείες τεχνητής νοημοσύνης απειλούν να υπονομεύσουν μεμιάς την ακεραιότητα των εκλογών σε όλο τον κόσμο – όλα αυτά για να μπορέσουν να κλέψουν ένα βήμα στην κούρσα προς τα κέρδη απ’ αυτές τις τεχνολογίες».
Ο Άχμεντ πρόσθεσε ότι έχει ζωτική σημασία οι πλατφόρμες μέσων κοινωνικής δικτύωσης να κάνουν περισσότερα για να σταματήσουν τη διάδοση παραπληροφόρησης, η οποία έχει παραχθεί από τεχνητή νοημοσύνη, ιδιαίτερα σε μια χρονιά με τόσες εκλογικές αναμετρήσεις στον κόσμο.
Ο ίδιος δήλωσε: «Η διάδοση τόσο πειστικής παραπληροφόρησης από πλατφόρμες μέσων κοινωνικής δικτύωσης είναι συνταγή για καταστροφή. Αυτή η τεχνολογία κλωνοποίησης της φωνής μπορεί να χρησιμοποιηθεί και αναπόφευκτα θα χρησιμοποιηθεί ως όπλο από κακόβουλους παράγοντες για να παραπλανηθούν ψηφοφόροι και να υπονομευθεί η δημοκρατική διαδικασία. Είναι απλώς θέμα χρόνου πριν ρωσικές, κινεζικές, ιρανικές και εγχώριες αντιδημοκρατικές δυνάμεις σπείρουν χάος στις εκλογές μας. Εταιρείες τεχνητής νοημοσύνης ισχυρίζονται ότι δημιουργούν και φρουρούν το μέλλον, όμως δεν μπορούν να δουν πέρα από την ίδια τους την απληστία. Έχει ζωτική σημασία τους κρίσιμους μήνες μέχρι τις εκλογές να αντιμετωπίσουν την απειλή της εκλογικής παραπληροφόρησης από τεχνητή νοημοσύνη και να εγκαθιδρύσουν προδιαγραφές προστασίας πριν συμβεί το χειρότερο».
Πηγή: ΑΠΕ ΜΠΕ
