Πώς λειτουργεί η Palantir και τι σημαίνει η χρήση της τεχνητής νοημοσύνης στην αστυνόμευση, την επιτήρηση και τη διαχείριση κρατικών δεδομένων;
Στο επίκεντρο βρίσκεται το Gotham, το σύστημα που μπορεί να ενοποιεί τεράστιους όγκους δεδομένων, να αναλύει σχέσεις και γεωχωρικά μοτίβα και να εντοπίζει αυτό που χαρακτηρίζεται ως «ανωμαλία» ή «απειλή». Από την προβλεπτική αστυνόμευση μέχρι τη διασύνδεση διαφορετικών βάσεων δεδομένων, η τεχνολογία μεταφέρει ένα μέρος της κρατικής εξουσίας στον αλγόριθμο.
Η συζήτηση εξετάζει τους κινδύνους για την ιδιωτικότητα, την πληροφοριακή αυτοδιάθεση, τη διαφάνεια και τον δικαστικό έλεγχο, αλλά και το ζήτημα των αλγοριθμικών προκαταλήψεων: τι συμβαίνει όταν ένα σύστημα μαθαίνει από δεδομένα που ήδη περιέχουν τις προκαταλήψεις της κοινωνίας και της αστυνόμευσης;
Από τη Γερμανία και τις αποφάσεις για τη χρήση της Palantir μέχρι τις ΗΠΑ και τη διασύνδεση κρατικών δεδομένων, η συζήτηση φτάνει και στην Ελλάδα, εξετάζοντας τη χρήση προηγμένων συστημάτων ανάλυσης δεδομένων από κρατικούς φορείς και τα ζητήματα νομιμότητας που έχουν ανακύψει.
Το κρίσιμο ερώτημα είναι πλέον διαφορετικό:
Όταν η λογική της «πρόληψης» ενσωματώνεται σε λογισμικό, ποιος ελέγχει τον αλγόριθμο και ποιος λογοδοτεί για τις αποφάσεις του;
Η Σοφία και ο Ερνέστο εξετάζουν τη μετάβαση από την παραδοσιακή κρατική επιτήρηση στην αλγοριθμική εξουσία και το ενδεχόμενο δημιουργίας ενός συστήματος όπου δεν χρειάζεται να κάνεις κάτι για να βρεθείς στο στόχαστρο — αρκεί να υπάρχεις μέσα στα δεδομένα.
