Δεν έγραψε το ChatGPT αυτό το κείμενο. Το έκαναν οι συντάκτες του BizΤech.gr. Ακόμα κι αν αφήναμε εσκεμμένα κάποια γραμματικά λάθη για να αποδείξουμε ότι είμαστε άνθρωποι, αυτό ακριβώς θα μπορούσε να κάνει και το ChatGPT για να σας ξεγελάσει.
Τι είναι τελικά το GhatGPT και πόσο επικίνδυνο μπορεί να γίνει; Διότι πέρα από το να πιάνει κουβέντα με ανθρώπους και την εντυπωσιακή ικανότητά του να συλλέγει πληροφορίες και να συντάσσει κείμενα επί παντός επιστητού, ίσως κάποια στιγμή ξεκινήσει να γράφει κακόβουλο κώδικα (διότι τα καταφέρνει καλά και με τον κώδικα γενικώς). Μπορεί να εξελιχθεί σε έναν AI hacker, ή να αποτελέσει πολύτιμο και άκρως επικίνδυνο εργαλείο στα χέρια ανθρώπων-hackers. Την ίδια στιγμή όσοι μάχονται ενάντια στο κακόβουλο λογισμικό, έχουν κι αυτοί το ίδιο όπλο στα χέρια τους.
Με αυτό ακριβώς το ζήτημα καταπιάνεται η ESET σε πρόσφατη δημοσίευσή της.
Ο Cameron Camp ξεκινά το άρθρο του στο welivesecurity.com της ESET προσπαθώντας να μας πείσει ότι το έγραψε ο ίδιος και όχι το ChatGPT. Αν και πλέον είναι δύσκολο να το ξεχωρίσει κανείς, ας τον πιστέψουμε κι ας δούμε τι λέει…
Το ChatGPT είναι μια εντυπωσιακή εφαρμογή τεχνητής νοημοσύνης που επιτρέπει το διάλογο με το χρήστη καθώς μπορεί να δώσει αυτόματα απαντήσεις για νομικά θέματα, ερευνητικά έγγραφα, ιατρικά θέματα, και πλήθος άλλων θεμάτων. Όμως, πέρα από αυτά, μήπως τελικά θα βοηθήσει και προς την κατεύθυνση των εκατοντάδων χιλιάδων δειγμάτων κακόβουλου λογισμικού που βλέπουμε και επεξεργαζόμαστε καθημερινά; Ή απλά θα παραμείνει μια απομίμηση ανθρώπινου λόγου που θα μπορεί κανείς εύκολα να την εντοπίσει ως fake;
Σε μια μονομαχία μηχανής εναντίον μηχανής, το ChatGPT φαίνεται ο ιδανικός υποψήφιος που θα μπορεί να μπλοκάρει τα αντίπαλα μηχανήματα. Καθώς τόσο οι κακόβουλοι δράστες όσο και εκείνοι που τους πολεμούν χρησιμοποιούν τα πιο σύγχρονα μοντέλα μηχανικής μάθησης, ήταν ζήτημα χρόνου ότι θα φτάναμε στο σημείο να δημιουργήσουμε κάτι σαν το ChatGPT. Όμως, για να φτιάξεις έναν καλό μηχανισμό άμυνας κατά του κακόβουλου λογισμικού, δεν αρκεί μόνο η χρήση κάποιου “ρομπότ”. Πάντα θα χρειάζεται η ανθρώπινη παρέμβαση: το διαπιστώσαμε αυτό πριν από πολλά χρόνια, προς απογοήτευση των προμηθευτών λύσεων που χρησιμοποιούν μόνο μηχανική μάθηση (ML-only) – και επιμένουν να θολώνουν τα νερά αναφέροντας τα προϊόντα τους ως προϊόντα που κάνουν χρήση τεχνητής νοημοσύνης (artificial intelligence – AI).
Και ενώ τα μοντέλα ML χρησιμοποιούνται τόσο για μια πρόχειρη ταξινόμηση όσο και για μια πιο σύνθετη ανάλυση, απέχουν πολύ από το να χαρακτηριστούν ως “το μαγικό κουμπί που θα εξοντώνει κακόβουλα λογισμικά”. Το κακόβουλο λογισμικό δεν είναι και τόσο απλό.
«Παρόλα αυτά, για να είμαι σίγουρος, απευθύνθηκα σε μερικούς από τους ειδικούς μηχανικής μάθησης της ESET και τους έθεσα κάποια βασικά ερωτήματα» λέει ο Cameron Camp.
Ας δούμε τι τους ρώτησε αλλά και τι απάντησαν.
Πόσο καλό είναι αυτή τη στιγμή το ChatGTP;
Το ChatGPT είναι πολύ εντυπωσιακό, αν αναλογιστεί κανείς ότι πρόκειται για ένα μεγάλο γλωσσικό μοντέλο και οι δυνατότητές του εκπλήσσουν ακόμη και τους δημιουργούς τέτοιων μοντέλων. Ωστόσο, επί του παρόντος είναι πολύ ρηχό, κάνει λάθη, δημιουργεί απαντήσεις που πλησιάζουν περισσότερο σε “κατασκευασμένες” και δεν είναι πραγματικά αξιόπιστο για οτιδήποτε σοβαρό. Φαίνεται όμως να κερδίζει γρήγορα έδαφος, αν κρίνουμε από το πλήθος των ειδικών της τεχνολογίας που αρχίζουν να ασχολούνται με το αντικείμενο.
Πόσο καλό θα είναι το κακόβουλο λογισμικό που θα δημιουργηθεί από το ChatGPT, εάν βέβαια είναι κάτι τέτοιο δυνατό;
Στην πραγματικότητα απέχουμε πολύ από το στάδιο που θα υπάρξει κακόβουλο λογισμικό που παράγεται πλήρως από τεχνητή νοημοσύνη, αν και το ChatGPT είναι αρκετά καλό στην υπόδειξη κώδικα, στη δημιουργία παραδειγμάτων και αποσπασμάτων κώδικα, στην αποσφαλμάτωση και βελτιστοποίηση κώδικα, ακόμη και στην αυτοματοποίηση της τεκμηρίωσης.
Τι γίνεται με τις πιο προηγμένες λειτουργίες;
Δεν ξέρουμε πόσο καλό είναι στις τεχνικές που εμποδίζουν ανιχνεύσεις (obfuscation). Ορισμένα από τα παραδείγματα αφορούν γλώσσες προγραμματισμού scripting όπως η Python. Αλλά είδαμε το ChatGPT να “αντιστρέφει” το νόημα του αποσυναρμολογημένου κώδικα που συνδέεται με το IDA Pro – και αυτό έχει πολύ ενδιαφέρον. Συνολικά, είναι ένα εύχρηστο εργαλείο που μπορεί να βοηθήσει έναν προγραμματιστή και ίσως αυτό να είναι ένα πρώτο βήμα προς τη δημιουργία πιο ολοκληρωμένου κακόβουλου λογισμικού, αλλά απέχουμε ακόμα από αυτό.
Τι μπορεί να κάνει αυτή τη στιγμή;
Προς το παρόν, βλέπουμε τρεις πιθανούς τομείς χρήσης του ChatGPT στις κυβερνοαπάτες:
1. Οι απάτες phishing θα γίνουν ακόμα πιο πειστικές. Δεν θα είστε σε θέση να εντοπίσετε την απάτη γρήγορα λόγω γλωσσικών λαθών καθώς η χρήση της γλώσσας θα είναι καλύτερη. Δεδομένου ότι ένα μεγάλο μέρος των επιθέσεων ξεκινά με το να κάνει κάποιος κλικ σε έναν σύνδεσμο, περιμένουμε ότι οι σχετικές επιπτώσεις θα αυξηθούν. Από τη διερεύνηση περισσότερων πηγών δεδομένων και την άψογη συνένωσή τους μέχρι τη δημιουργία ειδικά διαμορφωμένων μηνυμάτων ηλεκτρονικού ταχυδρομείου που θα είναι πολύ δύσκολο να εντοπιστούν με βάση το περιεχόμενό τους – τα ποσοστά επιτυχίας φαίνεται ότι θα είναι καλύτερα.
2. Οι διαπραγματεύσεις για λύτρα ransomware θα αυτοματοποιηθούν. Αυτό σημαίνει λιγότερα λάθη, αλλά και ευκαιρία να εντοπιστούν οι πραγματικοί απατεώνες.
3. Οι τηλεφωνικές απάτες θα γίνουν ακόμα πιο πειστικές. Με τη βοήθεια του ChatGPT οι απατεώνες θα ακούγονται σαν ντόπιοι και θα είναι πιο πειστικοί στο ότι νοιάζονται για τα συμφέροντά σας. Αυτό είναι ένα από τα πρώτα βήματα για να πέσετε θύματα σε μια απάτη κοινωνικής μηχανικής, καθώς ο λόγος που θα χρησιμοποιεί ο απατεώνας θα τον κάνει να μοιάζει με κάποιον που εμπιστεύεστε.
Μολονότι όλα αυτά ακούγονται σαν να ανήκουν στο μακρινό μέλλον, μη στοιχηματίζετε σε αυτό. Δεν θα συμβούν ταυτόχρονα, ούτε από τη μια μέρα στην άλλη, αλλά οι κυβερνοεγκληματίες θα γίνουν πολύ καλύτεροι. Μένει να δούμε το κατά πόσο οι αμυντικοί μηχανισμοί θα σταθούν στο ύψος των περιστάσεων.