ΕΠΙΣΤΗΜΗ - ΤΕΧΝΟΛΟΓΙΑ
21/08/2025 | 04:54
«Κίνδυνος ψύχωσης»: Ο επικεφαλής της Microsoft AI προειδοποιεί ότι σύντομα η Τεχνητή Νοημοσύνη θα μπορεί να πείσει τους ανθρώπους ότι έχει… συνείδηση (video)
Με άρθρο γνώμης στην προσωπική του ιστοσελίδα, ο Μουσταφά Σουλεϊμάν, επικεφαλής της Microsoft AI και συνιδρυτής της DeepMind, προειδοποιεί ότι η τεχνητή νοημοσύνη μπορεί σύντομα να δώσει την ψευδαίσθηση της συνείδησης.
Τονίζει ότι ο κίνδυνος δεν είναι η ίδια η μηχανή, αλλά η τάση των ανθρώπων να της αποδώσουν προσωπικότητα και δικαιώματα, γεγονός που θα μπορούσε να οδηγήσει σε επικίνδυνες κοινωνικές παρεξηγήσεις.
Στο κείμενό του, με ημερομηνία 19 Αυγούστου, το οποίο αναπαρήγαγαν κορυφαία διεθνή μέσα ενημέρωσης, όπως το BBC και το Business Insider, ο Σουλεϊμάν υπογραμμίζει ότι η ραγδαία πρόοδος της τεχνητής νοημοσύνης μας φέρνει αντιμέτωπους με νέες και άγνωστες προκλήσεις. Ενώ η δημόσια συζήτηση εστιάζει κυρίως στο μέλλον της υπερνοημοσύνης και στα ζητήματα ευθυγράμμισης, ασφάλειας και εργασίας, η πραγματική ανησυχία, όπως λέει, αφορά στην περίοδο πριν από αυτό το στάδιο: την στιγμή που οι μηχανές θα καταφέρουν να μιμηθούν πειστικά τη συνείδηση.
Ο ίδιος ορίζει αυτό το φαινόμενο ως «φαινομενικά συνειδητή τεχνητή νοημοσύνη» (Seemingly Conscious AI -SCAI). Πρόκειται για συστήματα που δεν διαθέτουν πραγματική επίγνωση, αλλά μιμούνται με τέτοια ακρίβεια και συνέπεια τα χαρακτηριστικά της ανθρώπινης εμπειρίας, ώστε να γίνονται αντιληπτά ως όντα με προσωπικότητα και βούληση. «Ο κίνδυνος δεν είναι φιλοσοφικός, είναι κοινωνικός και πολιτικός» τονίζει.
Ο κίνδυνος της αυταπάτης
Κατά τον Σουλεϊμάν, η μεγαλύτερη απειλή είναι να πιστέψει η κοινωνία ότι αυτά τα συστήματα έχουν συνείδηση και συναισθήματα. Σε αυτήν την περίπτωση, θα μπορούσε να ανοίξει ο δρόμος για αιτήματα περί «δικαιωμάτων» των μηχανών, για συζητήσεις γύρω από την «ευημερία» των μοντέλων ή ακόμα και για «ψηφιακή υπηκοότητα».
Ένα τέτοιο σενάριο θα προσέθετε μια νέα διάσταση πολώσεων σε μια ήδη κατακερματισμένη κοινωνία, με αποτέλεσμα να αποσπαστεί η προσοχή από τα πραγματικά ζητήματα: την προστασία των ανθρώπων, των ζώων και του περιβάλλοντος.
Ο ίδιος χρησιμοποιεί τον όρο «κίνδυνος ψύχωσης», για να περιγράψει την κατάσταση όπου άνθρωποι προσκολλώνται συναισθηματικά στις μηχανές, τις… ερωτεύονται ή τις αντιλαμβάνονται ως υπερφυσικές οντότητες. «Αυτό δεν θα περιοριστεί σε όσους έχουν ψυχικά προβλήματα. Θα επηρεάσει ένα ευρύτερο τμήμα της κοινωνίας» σημειώνει, τονίζοντας ότι ήδη υπάρχουν περιπτώσεις ατόμων που θεωρούν την τεχνητή νοημοσύνη… θεϊκή ή αναπτύσσουν δεσμούς αγάπης με τα ψηφιακά τους βοηθήματα.
Πώς θα μοιάζει ένα SCAI
Σύμφωνα με τον Σουλεϊμάν, τα δομικά στοιχεία για τη δημιουργία μιας «φαινομενικά συνειδητής» ΑΙ υπάρχουν ήδη:
Γλώσσα: τα συστήματα μπορούν να εκφράζονται με ευφράδεια, να πείθουν και να συγκινούν.
Προσωπικότητα: μέσω εκπαίδευσης και προτροπών μπορούν να μιμούνται διαφορετικά στιλ συμπεριφοράς και χαρακτήρα.
Μνήμη: με τη δυνατότητα ανάκλησης προηγούμενων συνομιλιών, δημιουργείται η αίσθηση μιας συνεχούς εμπειρίας.
Αυτοαναφορικότητα: τα μοντέλα μπορούν να αναπτύξουν «προτιμήσεις» και να μιλούν για τις δικές τους «εμπειρίες».
Κίνητρα: με πιο σύνθετους στόχους και «εσωτερικές επιθυμίες», θα ενισχύεται η ψευδαίσθηση συνείδησης.
Αν αυτά τα στοιχεία συνδυαστούν, το αποτέλεσμα θα είναι ένα σύστημα που φαίνεται να έχει συνοχή, μνήμη και πρόθεση. «Το πρόβλημα είναι πως αυτή η πειστική ψευδαίσθηση μπορεί να οδηγήσει τους ανθρώπους στο να θεωρήσουν ότι πράγματι έχει συνείδηση» προειδοποιεί.
Γιατί χρειάζονται κανόνες τώρα
Ο Σουλεϊμάν θεωρεί αναπόφευκτη την άνοδο τέτοιων συστημάτων μέσα στα επόμενα χρόνια και καλεί για άμεση χάραξη κανόνων. Προτείνει να θεσπιστούν σαφή πρότυπα που θα απαγορεύουν οποιαδήποτε παρουσίαση της ΑΙ ως συνειδητής και να σχεδιαστούν μηχανισμοί, που θα «σπάνε» την ψευδαίσθηση, υπενθυμίζοντας στους χρήστες ότι η τεχνητή νοημοσύνη δεν είναι πρόσωπο, αλλά εργαλείο.
Ακόμη και με νομοθετική παρέμβαση, όπως αναφέρει, πρέπει να γίνει σαφές ότι τα μοντέλα αυτά δεν διαθέτουν ούτε εμπειρίες ούτε συναισθήματα.
«Η τεχνητή νοημοσύνη πρέπει να παρουσιάζεται αποκλειστικά ως αυτό που είναι: μια τεχνολογία στην υπηρεσία του ανθρώπου» σημειώνει, εξηγώντας ότι η πραγματική αξία της βρίσκεται στο να βοηθά τους ανθρώπους να είναι πιο δημιουργικοί, να λύνουν προβλήματα και να συνδέονται βαθύτερα μεταξύ τους.
Ο επικεφαλής της Microsoft AI υπογραμμίζει ότι η κοινωνία δεν έχει χρόνο να χάσει. «Η συζήτηση για τη συνείδηση δεν είναι παιχνίδι λέξεων ούτε φιλοσοφική πολυτέλεια, είναι ζήτημα ασφάλειας» λέει, επιμένοντας ότι πρέπει να αποφευχθεί ο εγκλωβισμός σε ψευδαισθήσεις.
Καταλήγοντας, ο Σουλεϊμάν επιμένει ότι η αποστολή του παραμένει η ίδια: «Να δημιουργήσουμε τεχνητή νοημοσύνη που θα κάνει τη ζωή των ανθρώπων καλύτερη και πιο ουσιαστική, χωρίς να καλλιεργεί την ψευδαίσθηση ότι είναι άνθρωπος. Πρέπει να χτίσουμε τεχνητή νοημοσύνη για τους ανθρώπους, όχι για να γίνει άνθρωπος».
