ΕΠΙΣΤΗΜΗ - ΤΕΧΝΟΛΟΓΙΑ
30/12/2024 | 10:49
Ένα πολύ δυσοίωνο μέλλον: Τα εργαλεία AI πολύ σύντομα ίσως χειραγωγούν τις online αποφάσεις μας, λένε ερευνητές του Cambridge
Τα εργαλεία τεχνητής νοημοσύνης (AI) μπορεί να χρησιμοποιηθούν για τη χειραγώγηση του κοινού στο διαδίκτυο, επηρεάζοντας αποφάσεις από το τι να αγοράσουν μέχρι το ποιον να ψηφίσουν, σύμφωνα με ερευνητές του Πανεπιστημίου του Cambridge.
Η έρευνα αναδεικνύει τη δημιουργία μιας νέας αγοράς που αφορά στα «ψηφιακά σήματα πρόθεσης», γνωστή ως «οικονομία πρόθεσης» (intention economy). Σε αυτή την αγορά, οι AI βοηθοί μπορούν να κατανοούν, να προβλέπουν και να χειραγωγούν ανθρώπινες προθέσεις, πουλώντας αυτές τις πληροφορίες σε εταιρείες που μπορούν να επωφεληθούν από αυτές.
Η οικονομία πρόθεσης θεωρείται από τους ερευνητές του Leverhulme Centre for the Future of Intelligence (LCFI) του Cambridge ως διάδοχος της οικονομίας προσοχής (attention economy), στην οποία οι πλατφόρμες κοινωνικής δικτύωσης κρατούν τους χρήστες «κολλημένους» στις οθόνες τους και τους προβάλλουν διαφημίσεις.
Oικονομία πρόθεσης
Στην οικονομία πρόθεσης, οι τεχνολογικές εταιρείες που χρησιμοποιούν την AI πωλούν δεδομένα σχετικά με τις προθέσεις των χρηστών – από την επιλογή ξενοδοχείου για διακοπές έως τις απόψεις τους για πολιτικούς υποψήφιους – στον πλειοδότη.
«Για δεκαετίες, η προσοχή ήταν το νόμισμα του διαδικτύου», αναφέρει ο Dr. Jonnie Penn, ιστορικός της τεχνολογίας στο LCFI. «Η συμμετοχή σας σε κοινωνικές πλατφόρμες όπως το Facebook και το Instagram τροφοδότησε την online οικονομία».
Προσθέτει: «Εκτός αν ρυθμιστεί, η οικονομία πρόθεσης θα αντιμετωπίζει τα κίνητρά σας ως νέο νόμισμα. Θα είναι μια “χρυσοθηρία” για όσους στοχεύουν, κατευθύνουν και πωλούν ανθρώπινες προθέσεις».
Δεδομένα πρόθεσης, συμπεριφοράς και ψυχολογίας
Η έρευνα υποστηρίζει ότι μεγάλα γλωσσικά μοντέλα (LLMs), η τεχνολογία πίσω από εργαλεία AI όπως το ChatGPT, θα χρησιμοποιηθούν για να «προβλέπουν και να καθοδηγούν» τους χρήστες με βάση «δεδομένα πρόθεσης, συμπεριφοράς και ψυχολογίας».
Οι συγγραφείς επισημαίνουν ότι η οικονομία προσοχής επιτρέπει στους διαφημιστές να αγοράζουν πρόσβαση στην προσοχή των χρηστών σε πραγματικό χρόνο μέσω πλειστηριασμών διαφημίσεων ή να την προαγοράζουν για το μέλλον (π.χ. αγοράζοντας διαφημιστικό χώρο σε πινακίδες για έναν μήνα).
Στην οικονομία πρόθεσης, τα LLMs θα έχουν τη δυνατότητα να προσεγγίζουν την προσοχή σε πραγματικό χρόνο. Για παράδειγμα, θα μπορούσαν να ρωτήσουν έναν χρήστη: «Έχεις σκεφτεί να δεις το Spider-Man απόψε;» ή να κάνουν προτάσεις για μελλοντικές προθέσεις, όπως: «Ανέφερες ότι νιώθεις κουρασμένος, να σου κλείσω το εισιτήριο για την ταινία που συζητήσαμε;».
Η μελέτη περιγράφει ένα σενάριο όπου αυτά τα παραδείγματα δημιουργούνται δυναμικά με βάση τα «προσωπικά συμπεριφορικά δεδομένα» και το «ψυχολογικό προφίλ» ενός χρήστη.
«Σε μια οικονομία πρόθεσης, ένα LLM θα μπορούσε, με χαμηλό κόστος, να αξιοποιήσει τον τρόπο ομιλίας, τις πολιτικές απόψεις, το λεξιλόγιο, την ηλικία, το φύλο, και τις προτιμήσεις του χρήστη, για να μεγιστοποιήσει την πιθανότητα επίτευξης ενός στόχου (π.χ. την πώληση ενός εισιτηρίου ταινίας)», σημειώνεται στη μελέτη. Σε έναν τέτοιο κόσμο, ένα AI μοντέλο θα κατευθύνει συνομιλίες προς όφελος διαφημιστών, επιχειρήσεων και άλλων τρίτων.
Εξατομικευμένες διαφημίσεις
Η έρευνα αναφέρει ότι τα διαφημιστικά εργαλεία που βασίζονται στην AI θα επιτρέπουν τη δημιουργία εξατομικευμένων διαφημίσεων. Αναφέρεται, επίσης, στο παράδειγμα του AI μοντέλου της Meta, Cicero, που έχει επιτύχει «ανθρώπινο επίπεδο» ικανότητας στο επιτραπέζιο παιχνίδι Diplomacy – ένα παιχνίδι που εξαρτάται από την πρόβλεψη και την κατανόηση των προθέσεων των αντιπάλων.
Τα AI μοντέλα θα μπορούν να προσαρμόζουν τις απαντήσεις τους με βάση «ροές εισερχόμενων δεδομένων από χρήστες», με τη μελέτη να επισημαίνει ότι τα μοντέλα αυτά μπορούν να αντλήσουν προσωπικές πληροφορίες μέσω καθημερινών συνομιλιών και να κατευθύνουν συζητήσεις για την απόκτηση περισσότερων δεδομένων.
Στο μέλλον, η Meta ή άλλες εταιρείες θα μπορούσαν να δημοπρατούν την πρόθεση του χρήστη να κλείσει τραπέζι σε ένα εστιατόριο ή να κάνει κράτηση ξενοδοχείου. Παρόλο που η πρόβλεψη και η αγορά ανθρώπινης συμπεριφοράς ήδη υπάρχει, η AI θα μετατρέψει αυτές τις πρακτικές σε μια «εξαιρετικά ποσοτικοποιημένη, δυναμική και εξατομικευμένη μορφή».
Η έρευνα προειδοποιεί για τις επιπτώσεις αυτής της νέας αγοράς στις ανθρώπινες φιλοδοξίες, τις ελεύθερες και δίκαιες εκλογές, την ελεύθερη ενημέρωση και τον ανταγωνισμό στην αγορά, καλώντας σε έγκαιρη ρύθμιση πριν γίνουμε θύματα των ακούσιων συνεπειών της.
Με πληροφορίες από Guardian
