Ένα χαρακτηριστικό ασφαλείας της Google που υπόσχεται να ανιχνεύει και να προειδοποιεί τους χρήστες για τηλεφωνικές κλήσεις scam εγείρει ανησυχίες ότι θα μπορούσε να χρησιμοποιηθεί καταχρηστικά με σκοπό την κατασκοπεία.
"Αυτό είναι απίστευτα επικίνδυνο", λέει η Meredith Whittaker, πρόεδρος ενός ιδρύματος για την εφαρμογή κρυπτογραφημένων μηνυμάτων Signal από άκρο σε άκρο.
Η Google παρουσίασε μια προεπισκόπηση της λειτουργίας ασφαλείας στο συνέδριο προγραμματιστών I/O την Τρίτη - χρησιμοποιεί το μοντέλο τεχνητής νοημοσύνης Gemini Nano της εταιρείας για να ανιχνεύει και να επισημαίνει τις τηλεφωνικές κλήσεις scam σε πραγματικό χρόνο. Σε μια επίδειξη, ο τεχνολογικός γίγαντας προσομοίωσε μια κλήση απάτης που αφορούσε έναν απατεώνα που παρίστανε μια τράπεζα. Εμφανίστηκε ένα αναδυόμενο μήνυμα, το οποίο ενθάρρυνε τον χρήστη να κλείσει το τηλέφωνο.
Μέχρι στιγμής, η Google δεν έχει περιγράψει πλήρως τον τρόπο λειτουργίας του συστήματος. Σε μια ανάρτηση στο blog, αναφέρει ότι η λειτουργία έχει σχεδιαστεί για να ανιχνεύει "μοτίβα συνομιλίας που συνήθως σχετίζονται με απάτες", υποδηλώνοντας ότι το μοντέλο τεχνητής νοημοσύνης της Google θα ακούει ενδεχομένως όλες τις τηλεφωνικές κλήσεις σας - ή τουλάχιστον αυτές που υποψιάζεται ότι προέρχονται από έναν απατεώνα.
Για την προστασία της ιδιωτικής ζωής του χρήστη, η εταιρεία λέει ότι το Gemini Nano λειτουργεί τοπικά, χωρίς σύνδεση στο διαδίκτυο. "Αυτή η προστασία γίνεται όλη στη συσκευή, έτσι ώστε η συνομιλία σας να παραμένει ιδιωτική για εσάς. Θα μοιραστούμε περισσότερα σχετικά με αυτή τη δυνατότητα επιλογής αργότερα μέσα στο έτος", αναφέρει η εταιρεία.
Ωστόσο, η Whittaker -πρώην υπάλληλος της Google- υποστηρίζει ότι η όλη υπόθεση της λειτουργίας κατά των κλήσεων απάτης ενέχει μια πιθανή απειλή. Αυτό συμβαίνει επειδή η Google θα μπορούσε δυνητικά να προγραμματίσει την ίδια τεχνολογία για να σαρώσει για άλλες λέξεις-κλειδιά, όπως να ζητήσει πρόσβαση σε υπηρεσίες έκτρωσης.
"Ανοίγει το δρόμο για κεντρική σάρωση σε επίπεδο συσκευής από την πλευρά του πελάτη", ανέφερε σε ανάρτησή της στο Twitter/X. "Από την ανίχνευση "απάτης" είναι ένα μικρό βήμα για την "ανίχνευση μοτίβων που συνδέονται συνήθως με την αναζήτηση αναπαραγωγικής φροντίδας" ή "που συνδέονται συνήθως με την παροχή πόρων LGBTQ" ή "που συνδέονται συνήθως με την καταγγελία εργαζομένων τεχνολογίας"".
Ο ειδικός σε θέματα κρυπτογράφησης Matthew Green έκρουσε επίσης τον κώδωνα του κινδύνου, γράφοντας στο Twitter: "Φανταστείτε ότι [το Gemini Nano της Google] ακούει τις συνομιλίες σας, αλλά δουλεύει για την αστυνομία και αναφέρει σε αυτήν".
Η Google δεν απάντησε αμέσως σε αίτημα για σχολιασμό. Αλλά η εταιρεία πιθανότατα γνωρίζει τις ανησυχίες για την προστασία της ιδιωτικής ζωής, γι' αυτό και σχεδιάζει να καταστήσει τη λειτουργία ασφαλείας μια λειτουργία opt-in. Το 2021, η Apple αντιμετώπισε παρόμοιες αντιδράσεις αφού πρότεινε ένα σχέδιο για τη χρήση των iPhones των καταναλωτών για να επισημαίνει το υλικό σεξουαλικής κακοποίησης παιδιών που ανεβαίνει στο iCloud. Η Apple εγκατέλειψε αργότερα την ιδέα.
Εν τω μεταξύ, άλλοι χρήστες στα μέσα κοινωνικής δικτύωσης εξέφρασαν την υποστήριξή τους στην προσπάθεια της Google να αξιοποιήσει την τεχνητή νοημοσύνη για να σταματήσει τις απάτες, οι οποίες συχνά λυμαίνονται τους λιγότερο εξοικειωμένους με την τεχνολογία χρήστες. "Πολλοί δεν καταλαβαίνουν πόσο πρωτοφανή είναι η προστασία της ιδιωτικής ζωής. Το Gemini Nano κάθεται στο τηλέφωνο και ακούει και στη συνέχεια ξεχνάει τα πάντα μετά την κλήση", έγραψε στο Twitter ο David Dalrymple, διευθυντής προγράμματος για την ARIA, έναν βρετανικό οργανισμό χρηματοδότησης της έρευνας.