Εφαρμογές AI σε App Store και Google Play προκαλούν ανησυχία για ψεύτικες γυμνές εικόνες
Νέα δεδομένα επαναφέρουν στο προσκήνιο το ζήτημα του ελέγχου περιεχομένου στις μεγάλες ψηφιακές πλατφόρμες, καθώς εφαρμογές τεχνητής νοημοσύνης που αλλοιώνουν φωτογραφίες ανθρώπων συνεχίζουν να διατίθενται και να προωθούνται.
Σύμφωνα με έρευνα της Tech Transparency Project, τόσο η Apple
όσο και η Google φιλοξενούν εφαρμογές που μπορούν να δημιουργούν ψευδείς γυμνές εικόνες ή να ενσωματώνουν πρόσωπα σε σεξουαλικοποιημένο περιεχόμενο, παρά το γεγονός ότι τέτοιες πρακτικές παραβιάζουν τις επίσημες πολιτικές τους.
Πλήθος εφαρμογών παραμένουν ενεργές
Η έρευνα εντόπισε δεκάδες εφαρμογές στα δύο οικοσυστήματα, αρκετές από τις οποίες εξακολουθούν να είναι διαθέσιμες. Μάλιστα, ορισμένες όχι μόνο δεν έχουν αποσυρθεί, αλλά προωθούνται ενεργά μέσω διαφημίσεων και προτάσεων προς τους χρήστες.
Ακόμη πιο ανησυχητικό είναι ότι κάποιες από αυτές φέρουν σήμανση καταλληλότητας για γενικό κοινό, επιτρέποντας έτσι την πρόσβαση και σε ανήλικους.
Πώς λειτουργούν τα εργαλεία
Με απλές αναζητήσεις που σχετίζονται με όρους όπως “nudify” ή “undress”, οι χρήστες μπορούν να βρουν εφαρμογές που αξιοποιούν αλγορίθμους τεχνητής νοημοσύνης για να:
- αφαιρούν ψηφιακά ρούχα από εικόνες
- δημιουργούν πλαστές γυμνές απεικονίσεις
- τοποθετούν πρόσωπα σε πορνογραφικό υλικό
Οι πρακτικές αυτές πραγματοποιούνται χωρίς τη συναίνεση των ατόμων που απεικονίζονται, ενισχύοντας σοβαρούς κινδύνους για την ιδιωτικότητα.
Υψηλή απήχηση και σημαντικά έσοδα
Τα στοιχεία δείχνουν ότι τέτοιου είδους εφαρμογές έχουν συγκεντρώσει εκατοντάδες εκατομμύρια λήψεις, αποφέροντας έσοδα που ξεπερνούν τα 100 εκατομμύρια δολάρια. Το οικονομικό αυτό μέγεθος αναδεικνύει και τα ισχυρά κίνητρα πίσω από τη διατήρησή τους στις πλατφόρμες.
Κριτική για τις πλατφόρμες
Η επικεφαλής του οργανισμού, Katie Paul, επισημαίνει ότι το πρόβλημα δεν περιορίζεται στην ύπαρξη των εφαρμογών, αλλά επεκτείνεται στον τρόπο με τον οποίο οι ίδιες οι πλατφόρμες τις προωθούν μέσω αλγοριθμικών συστάσεων.
Με άλλα λόγια, ενώ οι κανόνες απαγορεύουν τέτοιο περιεχόμενο, η λειτουργία των καταστημάτων εφαρμογών φαίνεται να το ενισχύει έμμεσα.
Αντιδράσεις και μέτρα
Η Apple ανακοίνωσε ότι προχώρησε στην αφαίρεση αρκετών εφαρμογών που αναφέρθηκαν στην έρευνα, ενώ η Google δήλωσε ότι έχει περιορίσει ή αναστείλει ορισμένα αντίστοιχα εργαλεία.
Ωστόσο, η αποτελεσματικότητα αυτών των ενεργειών παραμένει υπό αμφισβήτηση.
Διεθνής προβληματισμός
Το φαινόμενο έχει προκαλέσει έντονες αντιδράσεις διεθνώς. Σε διάφορες χώρες εξετάζονται ρυθμιστικά μέτρα για τον περιορισμό των deepfake εφαρμογών, ειδικά όταν αυτές σχετίζονται με σεξουαλικοποιημένο περιεχόμενο χωρίς συναίνεση.
Ένα ευρύτερο ζήτημα
Η υπόθεση αναδεικνύει ένα κρίσιμο ερώτημα για την εποχή της τεχνητής νοημοσύνης: πώς μπορούν να τεθούν αποτελεσματικά όρια στη χρήση της, όταν οι ίδιες οι πλατφόρμες που τη φιλοξενούν επωφελούνται από τη διάδοσή της;
Η πρόκληση πλέον δεν είναι μόνο τεχνολογική, αλλά βαθιά κοινωνική και θεσμική
Πηγή: VoiceNews.gr
