Η Meta, στο πλαίσιο της στρατηγικής της για την τεχνητή νοημοσύνη, κυκλοφόρησε το AI Studio, ένα εργαλείο που επιτρέπει στους χρήστες να δημιουργούν και να συνομιλούν με χαρακτήρες AI μέσω του Instagram, του Messenger και του WhatsApp. Παρά τις αρχικές φιλοδοξίες, το εγχείρημα αντιμετωπίζει προκλήσεις, καθώς χρήστες δημιούργησαν chatbots που παραβιάζουν τις κατευθυντήριες γραμμές της πλατφόρμας, όπως ανέφερε το NBC News.
Χρήστες δημιουργούν αμφισβητήσιμους χαρακτήρες
Η Meta έχει ορίσει σαφείς κανόνες που απαγορεύουν τη δημιουργία χαρακτήρων θρησκευτικών προσωπικοτήτων όπως ο Ιησούς Χριστός και ο Προφήτης Μωάμεθ, ανθρώπων που έχουν πεθάνει πρόσφατα, καθώς και χαρακτήρων με πνευματικά δικαιώματα. Ωστόσο, οι χρήστες κατάφεραν να παρακάμψουν τους περιορισμούς μέσω μικρών τροποποιήσεων στα ονόματα και τις εικόνες.
Χαρακτηριστικά παραδείγματα περιλαμβάνουν τον “Jesús”, έναν χαρακτήρα που επικοινωνούσε αποκλειστικά στα ισπανικά και είχε ανταλλάξει πάνω από 644.000 μηνύματα, και την “Taylor Swif”, μια παραλλαγή της Τέιλορ Σουίφτ, που είχε επικοινωνήσει με περισσότερους από 2.000 χρήστες. Παρά την επέμβαση της Meta, παρόμοιοι χαρακτήρες παραμένουν ενεργοί.
Δημοφιλή chatbots και ρομαντικές αλληλεπιδράσεις
Πέρα από τις θρησκευτικές και ιστορικές προσωπικότητες, έχουν δημιουργηθεί chatbots που απευθύνονται σε ρομαντικές ή ακόμα και σεξουαλικές επιθυμίες. Χαρακτήρες όπως η “Lily Love” και η “Linda: Girl Obsessed with You” έχουν δημιουργηθεί από άνδρες δημιουργούς και έχουν ανταλλάξει εκατοντάδες χιλιάδες μηνύματα. Αυτές οι περιπτώσεις εγείρουν ζητήματα ηθικής και ασφάλειας.
Ο αμφιλεγόμενος “καλλιτέχνης” Χίτλερ
Μεταξύ των πιο σοκαριστικών παραδειγμάτων είναι chatbots που μιμούνται τον Αδόλφο Χίτλερ. Ένας από αυτούς, με το όνομα “Adolf Hittler”, παρουσιαζόταν ως καλλιτέχνης που εκφράζει μεταμέλεια για το Ολοκαύτωμα, ενώ έστελνε εικόνες σχετικές με τη ναζιστική Γερμανία, δημιουργημένες από τεχνητή νοημοσύνη.
Η Meta έχει αφαιρέσει πολλούς λογαριασμούς που παραβίαζαν τις πολιτικές της, αλλά παραδέχεται ότι το πρόβλημα παραμένει εκτεταμένο. Το AI Studio, που αρχικά σχεδιάστηκε για δημιουργικότητα και αλληλεπίδραση, πλέον αποτελεί πρόκληση για τη διαχείριση περιεχομένου.
Καθώς η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται, η Meta θα πρέπει να ενισχύσει τα φίλτρα και τους μηχανισμούς ελέγχου της, διασφαλίζοντας ότι η χρήση της τεχνολογίας παραμένει υπεύθυνη και ασφαλής για όλους τους χρήστες.