Κρυφές οδηγίες σε δικαστικά έγγραφα αποκαλύπτουν μια νέα μορφή ψηφιακής απάτης που ανησυχεί τις δικαστικές Αρχές
Η τεχνητή νοημοσύνη αλλάζει με ταχείς ρυθμούς τον τρόπο λειτουργίας των δικαστικών συστημάτων σε πολλές χώρες, προσφέροντας ταχύτερη επεξεργασία υποθέσεων και καλύτερη οργάνωση των δικαστικών εγγράφων. Ωστόσο, μαζί με τα οφέλη εμφανίζονται και νέοι κίνδυνοι. Στη Βραζιλία καταγράφηκαν οι πρώτες περιπτώσεις στις οποίες δικηγόροι επιχείρησαν να εκμεταλλευτούν τα συστήματα τεχνητής νοημοσύνης των δικαστηρίων, χρησιμοποιώντας κρυφές εντολές μέσα στα δικόγραφα με στόχο να επηρεάσουν την αυτοματοποιημένη επεξεργασία των υποθέσεων.
Το περιστατικό αποκαλύφθηκε σε εργατικό δικαστήριο της χώρας, όταν εντοπίστηκε ότι σε ένα δικόγραφο είχε προστεθεί αόρατο κείμενο, γραμμένο με λευκά γράμματα πάνω σε λευκό φόντο. Αν και ήταν αδύνατο να διαβαστεί από τον άνθρωπο, μπορούσε να αναγνωριστεί από το σύστημα τεχνητής νοημοσύνης που χρησιμοποιούσε το δικαστήριο για την ανάλυση των εγγράφων. Η κρυφή οδηγία καλούσε το λογισμικό να εξετάσει επιφανειακά την υπόθεση και να μην αμφισβητήσει τα στοιχεία που είχαν κατατεθεί.
Η απόπειρα εντοπίστηκε πριν επηρεάσει τη διαδικασία, όμως προκάλεσε έντονο προβληματισμό. Οι ειδικοί κάνουν λόγο για μια νέα μορφή ψηφιακής απάτης, γνωστή ως «έγχυση προτροπών» (prompt injection), κατά την οποία κακόβουλες οδηγίες ενσωματώνονται σε έγγραφα με σκοπό να επηρεάσουν τον τρόπο λειτουργίας ενός συστήματος τεχνητής νοημοσύνης.
Τα τελευταία χρόνια πολλά δικαστήρια αξιοποιούν εργαλεία τεχνητής νοημοσύνης για τη σύνοψη εκτενών δικογραφιών, την αναζήτηση σχετικής νομολογίας και την υποβοήθηση της καθημερινής εργασίας των δικαστών και των υπαλλήλων. Αν και οι τελικές αποφάσεις εξακολουθούν να λαμβάνονται αποκλειστικά από ανθρώπους, τα συστήματα αυτά συμμετέχουν στην προετοιμασία και οργάνωση των υποθέσεων, γεγονός που τα καθιστά πιθανό στόχο κακόβουλων παρεμβάσεων.
Μετά τα περιστατικά στη Βραζιλία, οι δικαστικές Αρχές εξετάζουν νέα μέτρα ασφαλείας. Μεταξύ αυτών περιλαμβάνονται η αυτόματη ανίχνευση αόρατου κειμένου, ο έλεγχος των μορφοποιήσεων των εγγράφων πριν από την επεξεργασία τους και η ενίσχυση της ανθρώπινης εποπτείας σε όλα τα στάδια της διαδικασίας. Παράλληλα, συζητείται η θέσπιση αυστηρότερων κανόνων δεοντολογίας για τους νομικούς που χρησιμοποιούν τεχνητή νοημοσύνη κατά την άσκηση των καθηκόντων τους.
Η υπόθεση αποτελεί προειδοποίηση ότι η τεχνολογική πρόοδος συνοδεύεται από νέες μορφές απειλών, οι οποίες δεν στοχεύουν πλέον μόνο τους ανθρώπους αλλά και τα ίδια τα ψηφιακά εργαλεία που τους υποστηρίζουν. Η ασφαλής αξιοποίηση της τεχνητής νοημοσύνης στη Δικαιοσύνη θα εξαρτηθεί από την ανάπτυξη αποτελεσματικών μηχανισμών προστασίας και από τη διατήρηση του ανθρώπινου ελέγχου στις κρίσιμες αποφάσεις. Οι ειδικοί εκτιμούν ότι όσο αυξάνεται η χρήση τέτοιων συστημάτων τόσο μεγαλύτερη θα είναι και η ανάγκη για τεχνολογικές και νομικές δικλίδες ασφαλείας.
Πηγή: tanea.gr
