Ο «νονός» της τεχνητής νοημοσύνης Τζέφρι Χίντον προειδοποιεί για κινδύνους – Παραιτήθηκε – Ο Λευκός Οίκος κάλεσε τους τεχνολογικούς κολοσσούς
O άνθρωπος που θεωρείται ο “νονός της τεχνητής νοημοσύνης (AI)” παραιτήθηκε από τη δουλειά του, προειδοποιώντας για τους αυξανόμενους κινδύνους από τις εξελίξεις στον τομέα.
Ο 75χρονος πρωτοπόρος της τεχνητής νοημοσύνης Τζέφρι Χίντον ανακοίνωσε την παραίτησή του από την Google στους New York Times, λέγοντας ότι τώρα μετανιώνει για τη δουλειά του.
Πρόσθεσε ότι παραιτήθηκε για να μπορεί να μιλάει ελεύθερα σχετικά με τους κινδύνους που ενέχει η τεχνολογία αυτή, έχοντας συνειδητοποιήσει ότι οι υπολογιστές μπορεί να γίνουν εξυπνότεροι από τον άνθρωπο πολύ νωρίτερα από ό,τι ο ίδιος και άλλοι ειδικοί ανέμεναν.
Είπε στο BBC ότι ορισμένοι από τους κινδύνους των chatbots AI είναι «αρκετά τρομακτικοί». “Αυτή τη στιγμή, δεν είναι πιο έξυπνοι από εμάς, απ’ όσο μπορώ να πω. Αλλά νομίζω ότι σύντομα μπορεί να γίνουν.”
Πρόσκληση του Λευκού Οίκου στους τεχνολογικούς κολοσσούς για το μέλλον της Τεχνητής Νοημοσύνης
Λίγο μετά την παραίτηση του 75χρονος πρωτοπόρου της τεχνητής νοημοσύνης Τζέφρι Χίντον και τις δραματικές προειδοποιήσεις του για τους κινδύνους που αυτή εγκυμονεί ο Λευκός Οίκος φαίνεται ότι έλαβε το μήνυμα.
Η αμερικανική κυβέρνηση έχει προσκαλέσει σήμερα τους επικεφαλής πολύ προχωρημένων στον τομέα της Τεχνητής Νοημοσύνης (ΤΝ) επιχειρήσεων –Google, Microsoft, OpenAI και Anthropic– για μια “ειλικρινή συζήτηση για τους κινδύνους” που συνδέονται με τις τεχνολογίες αυτές με αρκετά μέλη της κυβέρνησης, μεταξύ των οποίων η αντιπρόεδρος Κάμαλα Χάρις.
“Ο σκοπός μας είναι να έχουμε μια ειλικρινή συζήτηση για τους σημερινούς και βραχυπρόθεσμους κινδύνους που διακρίνουμε στις εξελίξεις της Τεχνητής Νοημοσύνης”, αναφέρεται στην πρόσκληση για την συζήτηση αυτή, στην οποία είχε πρόσβαση το AFP την Τρίτη.
Η αμερικανική κυβέρνηση θέλει επίσης να εξεταστούν “τα μέτρα που θα πρέπει να ληφθούν για να μειωθούν οι κίνδυνοι αυτοί και άλλους τρόπους συνεργασίας για να εξασφαλίσουμε ότι ο αμερικανικός λαός επωφελείται των προόδων στην Τεχνητή Νοημοσύνη ενώ παράλληλα τον προστατεύουμε από τους κινδύνους”.
Ο Βρετανοκαναδός Δρ Χίντον αποδέχτηκε επίσης ότι η ηλικία του έπαιξε ρόλο στην απόφασή του να εγκαταλείψει τον τεχνολογικό γίγαντα, λέγοντας στο BBC: «Είμαι 75, οπότε ήρθε η ώρα να αποσυρθώ».
“Παραιτήθηκα ώστε να μπορώ να μιλάω για τους κινδύνους από την AI χωρίς να πρέπει να σκεφτώ με ποιον τρόπο αυτό θα επηρεάσει την Google“, έγραψε στο Twitter ο Τζέφρι Χίντον.
Σε συνέντευξή του στην εφημερίδα Τhe New York Times, ο Χίντον εξέφρασε την ανησυχία του σχετικά με την ικανότητα της τεχνητής νοημοσύνης να δημιουργεί πειστικές ψευδείς εικόνες και κείμενα συνθέτοντας έναν κόσμο όπου οι άνθρωποι “δεν θα μπορούν πλέον να γνωρίζουν τι είναι αληθινό”.
“Είναι δύσκολο να δει κάποιος πώς μπορεί να εμποδίσει τους κακόβουλους χρήστες από το να τη χρησιμοποιήσουν για αρνητικούς λόγους”, σχολίασε.
Η τεχνολογία αυτή θα μπορούσε σύντομα να αντικαταστήσει το υπαλληλικό προσωπικό και να καταστεί μεγαλύτερος κίνδυνος καθώς μαθαίνει νέες συμπεριφορές.
“Η ιδέα ότι αυτό το πράγμα θα μπορούσε ουσιαστικά να γίνει εξυπνότερο από τον άνθρωπο…λίγοι το πίστευαν. Αλλά οι περισσότεροι θεωρούσαν ότι ήταν μακρινό. Νόμιζα ότι θα γινόταν σε 30 με 50 χρόνια, ίσως και περισσότερα. Προφανώς πλέον δεν πιστεύω κάτι τέτοιο”, είπε ο Χίντον στους New York Times.
Όπως έγραψε στο Twitter ο Χίντον, η ίδια η Google “ενήργησε πολύ υπεύθυνα” και διέψευσε ότι παραιτήθηκε για να μπορεί να κατακρίνει τον πρώην εργοδότη του.
Η έρευνα του καθηγητή Χίντον για τα νευρωνικά δίκτυα ήταν αυτή που άνοιξε το δρόμο για τα τρέχοντα συστήματα τεχνητής νοημοσύνης, όπως το ChatGPT.
Στην τεχνητή νοημοσύνη, τα νευρωνικά δίκτυα είναι συστήματα που μοιάζουν με τον ανθρώπινο εγκέφαλο στον τρόπο με τον οποίο μαθαίνουν και επεξεργάζονται πληροφορίες. Δίνουν τη δυνατότητα στους AI να μάθουν από την εμπειρία, όπως θα έκανε ένα άτομο. Αυτό ονομάζεται βαθιά μάθηση.Ο Βρετανο-Καναδός γνωστικός ψυχολόγος και επιστήμονας υπολογιστών είπε στο BBC ότι το chatbot θα μπορούσε σύντομα να ξεπεράσει το επίπεδο πληροφοριών που κατέχει ένας ανθρώπινος εγκέφαλος.
Στο άρθρο των New York Times, ο Δρ.Χίντον αναφέρεται σε «κακούς ηθοποιούς» που θα προσπαθούσαν να χρησιμοποιήσουν την τεχνητή νοημοσύνη για «κακά πράγματα».
Όταν του ζητήθηκε από το BBC να δώσει περισσότερες λεπτομέρειες σχετικά με αυτό, απάντησε: «Αυτό είναι απλώς ένα είδος χειρότερου σεναρίου, ένα είδος εφιαλτικού σεναρίου.
«Μπορείτε να φανταστείτε, για παράδειγμα, κάποιον κακό ηθοποιό όπως ο [Ρώσος Πρόεδρος Βλαντιμίρ] Πούτιν να αποφασίζει να δώσει στα ρομπότ τη δυνατότητα να δημιουργήσουν τους δικούς τους υποστόχους».
Ο επιστήμονας προειδοποίησε ότι αυτό μπορεί τελικά να «δημιουργήσει υποστόχους του τύπου «πρέπει να αποκτήσω περισσότερη δύναμη»».
Και πρόσθεσε: «Έχω καταλήξει στο συμπέρασμα ότι το είδος της νοημοσύνης που αναπτύσσουμε είναι πολύ διαφορετικό από τη νοημοσύνη που έχουμε.
«Είμαστε βιολογικά συστήματα και αυτά είναι ψηφιακά συστήματα. Και η μεγάλη διαφορά είναι ότι με τα ψηφιακά συστήματα, έχουμε πολλά αντίγραφα του ίδιου συνόλου βαρών, του ίδιου μοντέλου του κόσμου.
“Και όλα αυτά τα αντίγραφα μπορούν να μάθουν χωριστά, αλλά να μοιράζονται τις γνώσεις τους αμέσως. Έτσι είναι σαν να έχουμε 10.000 άτομα και όποτε ένα άτομο μάθαινε κάτι, όλοι το το μαθαίνουν αυτόματα. Και έτσι αυτά τα chatbots μπορούν να γνωρίζουν πολύ περισσότερα από οποιοδήποτε άτομο.”
Ποιος είναι ο «νονός της τεχνητής νοημοσύνης»
Το 2012, μαζί με δύο από τους μεταπτυχιακούς φοιτητές του στο Πανεπιστήμιο του Τορόντο δημιούργησαν την τεχνολογία που αποτέλεσε το θεμέλιο για τα σημερινή τεχνητή νοημοσύνη.
Την εποχή εκείνη, ο Χίντον και οι δύο φοιτητές του Τορόντο δημιούργησαν μέσω μιας startup, ένα νευρωνικό δίκτυο που μπορούσε να αναλύσει χιλιάδες φωτογραφίες και να μάθει να αναγνωρίζει κοινά αντικείμενα, όπως λουλούδια, σκύλους και αυτοκίνητα.
Τότε η Google ξόδεψε 44 εκατ. δολάρια για να εξαγοράσει την startup του Βρετανοκαναδού επιστήμονα.
Και το σύστημα αυτό οδήγησε στη δημιουργία όλο και πιο ισχυρών τεχνολογιών, συμπεριλαμβανομένων νέων chatbots, όπως το «ChatGPT» και το «Google Bard».
Το 2018, ο Δρ Χίντον και οι δύο συνεργάτες του έλαβαν το βραβείο «Turing», που συχνά αποκαλείται «το βραβείο Νόμπελ της Πληροφορικής», για το έργο τους στα νευρωνικά δίκτυα.