Ομάδα νυν και πρώην εργαζομένων σε εταιρείες τεχνητής νοημοσύνης, συμπεριλαμβανομένων των OpenAI και Google DeepMind εξέφρασε την Τρίτη ανησυχίες σχετικά με τους κινδύνους της αναδυόμενης τεχνολογίας.
Πιο συγκεκριμένα, μια ανοιχτή επιστολή από ομάδα 11 νυν και πρώην υπαλλήλων της OpenAI και ενός νυν και ενός ακόμη πρώην υπαλλήλου της Google DeepMind ανέφερε ότι τα οικονομικά κίνητρα των εταιρειών τεχνητής νοημοσύνης εμποδίζουν την αποτελεσματική εποπτεία.
Επιπλέον, η επιστολή προειδοποιεί για κινδύνους από την μη ελεγχόμενη τεχνητή νοημοσύνη, που κυμαίνονται από τη διάδοση παραπληροφόρησης έως την απώλεια ανεξάρτητων συστημάτων τεχνητής νοημοσύνης και την εμβάθυνση των υφιστάμενων ανισοτήτων, που θα μπορούσαν να οδηγήσουν σε «ανθρώπινη εξαφάνιση».
Οι ερευνητές που υπογράφουν την επιστολή αναφέρουν επίσης παραδείγματα εργαλείων δημιουργίας εικόνων που συνεχίζουν να παράγουν φωτογραφίες παραπληροφόρησης, παρά τις πολιτικές ενάντια στη δημιουργία τέτοιου είδους περιεχομένου.
Οι εταιρείες τεχνητής νοημοσύνης έχουν «αδύναμες υποχρεώσεις» στο να μοιράζονται πληροφορίες με τις κυβερνήσεις σχετικά με τις δυνατότητες και τους περιορισμούς των συστημάτων τους, αναφέρεται στην επιστολή, προσθέτοντας ότι αυτές οι εταιρείες δεν μπορούν να βασιστούν στον διαμοιρασμό αυτών των πληροφοριών οικειοθελώς.
Η ανοιχτή επιστολή είναι η πιο πρόσφατη που εγείρει ανησυχίες για την ασφάλεια σχετικά με τη δημιουργική τεχνητή νοημοσύνη, η οποία μπορεί γρήγορα και φθηνά να παράγει κείμενο, εικόνες και ήχο που μοιάζει με περιεχόμενο που έχει δημιουργηθεί από άνθρωπο.
Η ομάδα προέτρεψε τις εταιρείες τεχνητής νοημοσύνης να διευκολύνουν μια διαδικασία για νυν και πρώην υπαλλήλους να εγείρουν ανησυχίες σχετικά με τον κίνδυνο και να μην επιβάλλουν συμφωνίες εμπιστευτικότητας που απαγορεύουν την κριτική.
Παράλληλα, η OpenAI, εταιρεία υπό την ηγεσία του Σαμ Άλτμαν δήλωσε την Πέμπτη ότι διέκοψε πέντε μυστικές επιχειρήσεις επιρροής που προσπάθησαν να χρησιμοποιήσουν τα μοντέλα τεχνητής νοημοσύνης της για «παραπλανητική δραστηριότητα» στο διαδίκτυο.
Εταιρείες όπως η OpenAI, η Google, η Microsoft, η Meta Platforms και άλλες εταιρείες βρίσκονται σε μία πραγματική κούρσα ανάπτυξης μοντέλων παραγωγικής τεχνητής νοημοσύνης – μια αγορά που προβλέπεται να ξεπεράσει το 1 τρισεκατομμύριο δολάρια σε έσοδα μέσα σε μια δεκαετία – καθώς οι εταιρείες σε φαινομενικά κάθε κλάδο σπεύδουν να προσθέσουν chatbot και υπηρεσίες που υποστηρίζονται από AI για να μην μείνουν πίσω από τον ανταγωνισμό.
Πηγή: OT.gr
