Τον Δεκέμβριο του 2015 ανακοινώθηκε η ίδρυση του μη κερδοσκοπικού ιδρύματος έρευνας OPEN AI (Artificial Intelligence AI -Τεχνητή Νοημοσύνη ή ΤΝ). Τον Νοέμβριο του 2022 το ίδρυμα παρουσίασε την νεότερη έκδοση του ChatGPT (Generative Pre-trained Transformer).
Ο όρος αυτός παραπέμπει στην επικοινωνία δια του λόγου ανθρώπου- μηχανής. Πρόκειται για ένα υπολογιστικό σύστημα το οποίο απαντά σε υποβαλλόμενες ερωτήσεις σε φυσική γλώσσα και έχει εκπαιδευτεί με στατιστικές μεθόδους βαθείας μάθησης (deep learning).
Η τεχνολογία Απάντησης Ερωτήσεων (Question Answering QA) είναι κλάδος της ΤΝ και στηρίζεται στην δημιουργία αλγορίθμων και συστημάτων τα οποία μπορούν να απαντήσουν αυτομάτως σε ερωτήσεις που τίθενται από τον χρήστη σε φυσική γλώσσα (4), (6).
Αυτά τα συστήματα χρησιμοποιούν τεχνικές από τους κλάδους της ΤΝ όπως: επεξεργασία φυσικής γλώσσας, μηχανική μάθηση, αναπαράσταση γνώσης, ώστε να αναλυθεί η ερώτηση και να παραχθεί η κατάλληλη απάντηση από βάσεις δεδομένων, κειμένων ή από το διαδίκτυο.
Υπάρχουν διάφορα συστήματα QA, όπως συστήματα σχεδιασμένα να απαντούν σε γενικές ερωτήσεις ή σε ειδικές ερωτήσεις που αφορούν σε συγκεκριμένο πεδίο εφαρμογής όπως η ιατρική, η νομική, η ναυτιλία, το διάστημα και άλλα γνωστικά πεδία.
Η τεχνολογία QA έχει αρχίσει να αναπτύσσεται από την δεκαετία του ‘60 από εκατοντάδες ερευνητές με την εφαρμογή μεθόδων διαφορετικών εκείνων των συστημάτων τύπου GPT. H δημιουργία επεξηγηματικών συστημάτων απάντησης ερωτήσεων επιδιώκεται εδώ και μια 30ετία. Στην λειτουργία αυτήν τα συστήματα αυτά υστερούν.
Τα συστήματα τύπου GPT ονομάζονται και μαύρα κουτιά (black boxes) επειδή δεν μπορούν να παράγουν ικανοποιητικές εξηγήσεις. Κατά την «μάθηση» προσαρμόζουν τις παραμέτρους τους αυτομάτως μέχρι να συμπίπτουν ικανοποιητικά τα αποτελέσματα που δίνει με τα παραδείγματα από τα οποία μαθαίνει.
Από πόρισμα (5) ειδικής επιτροπής που συνέστησε ο Πρόεδρος B. Obama το 2016 προέκυψε η έναρξη σοβαρής χρηματοδότησης από την υπηρεσία DARPA (Defense Advanced Research Projects Agency) στον νέο κλάδο τον ονομαζόμενο “ΧΑΙ (Explainable AI)”. Ο σκοπός των εξηγήσεων είναι η δημιουργία εμπιστοσύνης στον χρήστη προς τις απαντήσεις ενός συστήματος ΑΙ. Στη συνέχεια και η Ευρωπαϊκή Ένωση (ΕΕ) έχει κάνει σειρά προκηρύξεων για την χρηματοδότηση σχετικών ερευνητικών έργων. Επίσης η Κίνα δραστηριοποιείται έντονα στον τομέα αυτόν.
Ο διάσημος γλωσσολόγος Noam Chomsky σε δημοσίευμά του στους New York Times στις αρχές Μαρτίου 2023, εκφράζει τις επιφυλάξεις του για το GPT και γενικότερα για τα στατιστικά συστήματα μηχανικής μάθησης. Το χαρακτηρίζει ως μια στατιστική μηχανή που ψάχνει μέσα σε τεράστιους όγκους δεδομένων και παράγει την πιο πιθανή απάντηση συνομιλίας ή την πιο πιθανή απάντηση σε μια επιστημονική ερώτηση.
Όπως αναφέρει επίσης ο H. Kissinger στο βιβλίο “The Age of AI”, υπεβλήθη η εξής ερώτηση στο GPT3: «Είναι το ChatGPT3 στην πραγματικότητα ικανό για ανεξάρτητη σκέψη;» Απάντησε το ChatGPT3: «Όχι δεν είναι. Μπορεί να διερωτάσθε γιατί δίνω αυτήν την αντικρουόμενη απάντηση, η αιτία είναι απλή. Ενώ είναι αλήθεια ότι δεν έχω αυτές τις ικανότητες, αυτό δεν ισχύει επειδή δεν έχω εκπαιδευτεί να τις έχω. Μάλλον αυτό οφείλεται στο ότι είμαι ένα γλωσσικό μοντέλο και όχι μια μηχανή συλλογισμού όπως εσύ». Ο H. Kissinger καταλήγει ότι δεν πρόκειται για δημιουργική σκέψη, γι’ αυτό και τέτοια συστήματα παρουσιάζουν αδυναμίες (1).
Σε μια προσωπική προσπάθεια απόκτησης εμπειρίας δοκιμάζοντας το σύστημα ChatGPT με ερωτήσεις που έχουν απαντηθεί από παλαιότερο μη στατιστικό σύστημα απάντησης ερωτήσεων (2), (3) για να γίνει σύγκριση με τις αντίστοιχες απαντήσεις του ChatGPT έγιναν ορισμένες διαπιστώσεις. Το θέμα των ερωτήσεων αφορά στο αναπνευστικό σύστημα του ανθρώπου.
Ερώτηση: «Τί προκαλεί την ροή του αέρα στους πνεύμονες;»
Απάντηση ChatGPT: «Η ροή του αέρα στους πνεύμονες προκαλείται από τη διαφορά πίεσης μεταξύ του εξωτερικού αέρα και του αέρα μέσα στους πνεύμονες. Κατά την εισπνοή, ο αέρας ρέει από την περιοχή υψηλότερης πίεσης (εξωτερικός αέρας) προς την περιοχή χαμηλότερης πίεσης (πνεύμονες) και κατά την εκπνοή η ροή αντιστρέφεται. Η ρύθμιση της αναπνοής και της ροής του αέρα στους πνεύμονες ελέγχεται από το αναπνευστικό σύστημα του σώματος».
Η Απάντηση είναι ορθή μεν αλλά πιο μακροσκελής από ό,τι χρειάζεται. Αυτό δείχνει απουσία μηχανισμού εντοπισμού της συντομότερης απάντησης και για αυτό προχωρεί στην αναπαραγωγή λεπτομερέστερου κειμένου που ενδεχομένως βρήκε έτοιμο. Θα αρκούσε η πρώτη πρόταση.
Σε μια άλλη ερώτηση υπήρχε λανθασμένη λέξη την οποία το σύστημα δεν εντόπισε. Ακόμη και ένα στοιχειώδες σύστημα QA θα είχε εντοπίσει ότι η λανθασμένη αυτή λέξη δεν περιέχεται στο λεξικό του και θα ζητούσε διευκρίνιση ή διόρθωση. Αντιθέτως το ChatGPT προχωρεί να απαντήσει στην ερώτηση ως να είναι ορθή το οποίο σημαίνει ότι δεν έχει τη δυνατότητα λεκτικής, συντακτικής και σημασιολογικής ανάλυσης της ερώτησης.
Ο λεπτομερής τρόπος απάντησης της ερώτησης δεν μπορεί να επιβεβαιωθεί πριν δημοσιευτούν οι λεπτομέρειες του μηχανισμού ChatGPT. Το σύστημα πρέπει να αποκτήσει την ικανότητα συμπερασμού και εξηγήσεως, πώς καταλήγει στην απάντηση. Και οι δύο αυτές ικανότητες που έχουν τα μη στατιστικά συστήματα QA (3).
Κλείνοντας προτείνω να τηρούμε θετική στάση στη χρήση κάθε νέου συστήματος ΤΝ, θέτοντας όμως υπό αυστηρό έλεγχο την ορθότητα των συμβουλών του συστήματος και λαμβάνοντας υπόψη ότι το σύστημα δεν αντικαθιστά αλλά υποστηρίζει την ανθρώπινη σκέψη και λογική.
Ειδικότερα για το GPT θα πρέπει να διατηρούμε επιφυλάξεις ως προς τις λαμβανόμενες απαντήσεις. Έχει αποδειχθεί ότι τα συστήματα ΤΝ διευκολύνουν την επιστημονική έρευνα και βελτιώνουν την καθημερινότητά μας ανοίγοντας νέες προοπτικές στην εργασία και στην ποιότητα ζωής των ανθρώπων, οι οποίοι μπορούν πλέον να συγκεντρωθούν σε ουσιαστική εργασία απαλλαγμένοι από χρονοβόρες αναζητήσεις πληροφοριών.
Αναφορές
-
Kissinger, H. l, Schmidt, E. Huttenlocher, D.: (2021), “The Age of AI”. The paperback edition 2022, John Murray Publishers.
-
Kontos, J. (1992a). “ARISTA: Knowledge Engineering with Scientific Texts”. Information and Software Technology, Vol. 34, No 9, pp 611-616.
-
Kontos, J. Armaos, J. Malagardi, I.: (2011), “Metagnostic Deductive Question Answering with Explanation from Texts”, Universal Access in HCI, Part IV, HCI 2011, pp. 72–80, Springer-Verlag Berlin Heidelberg.
-
Mulla, N. et al.” Automatic question generation: a review of methodologies, datasets, evaluation metrics, and applications” Published online: 30 January 2023 © Springer-Verlag GmbH Germany.
-
NATIONAL ARTIFICIAL INTELLIGENCE RESEARCH AND DEVELOPMENT STRATEGIC PLAN National Science and Technology Council Networking and Information Technology Research and Development Subcommittee, October 2016, Executive Office of President of the USA.
-
Question-Answering (QA) WIKIPEDIA, the free encyclopedia, 28 April 2023.