Η καθολική εφαρμογή αυτόματων μηχανισμών επιτήρησης και ποινικοποίησης της ανθρώπινης συμπεριφοράς συνιστά, σύμφωνα με επικριτές, τη σκληρότερη μορφή ολοκληρωτισμού. Η ιδέα ότι η νομιμότητα μπορεί και πρέπει να επιβάλλεται μονοδιάστατα μέσω καμερών, συστημάτων τεχνητής νοημοσύνης και αλγοριθμικών αυτοματισμών αντιμετωπίζεται από πολλούς ως βαθιά επικίνδυνη και ανθρωποκτόνα.
Οι υποστηρικτές τέτοιων λύσεων δεν αντιλαμβάνονται το εύρος των συνεπειών που συνεπάγεται η αντικατάσταση της κρίσης και της ανθρώπινης ευθύνης από μηχανισμούς άκαμπτης, συνεπούς και ανελέητης εφαρμογής κανόνων. Η άγνοια ή η αμηχανία μπροστά στην ηθική, κοινωνική και θεσμική διάσταση της τεχνολογικής εφαρμογής μετατρέπουν αυτούς που προωθούν τα εν λόγω συστήματα σε παράγοντες υψηλού κινδύνου για την κοινωνία στο σύνολό της.
Το επιχείρημα δεν είναι απλώς θεωρητικό: όταν το πολιτικό σύστημα χρησιμοποιεί τέτοια εργαλεία χωρίς επαρκείς εγγυήσεις και δημοκρατικό έλεγχο, τα μέσα γίνονται όργανα καταπάτησης. Η τεχνολογία που αναπτύχθηκε από ευφυείς ανθρώπους μπορεί έτσι να μετατραπεί σε όχημα για την εγκαθίδρυση αυταρχικών πρακτικών — και αυτό, σύμφωνα με τους επικριτές, είναι το τελικό παράδοξο: οι μηχανές χρησιμεύουν για να θεοποιήσουν τη μηχανιστική, αποανθρωποποιημένη λογική.
Η ευθύνη επιμερίζεται: δεν αρκεί να επιχαίρει κανείς απλώς για την ευφυΐα της τεχνολογίας. Χρειάζεται ενεργή πολιτική και κοινωνική αντίδραση απέναντι στην εκχώρηση κρίσιμων αποφάσεων σε αλγόριθμους. Εκείνοι που κατανοούν τις επιπτώσεις και σιωπούν καλούνται επίσης να λογοδοτήσουν — γιατί η ανοχή και η απραξία απέναντι σε πρακτικές που συρρικνώνουν την ελευθερία ισοδυναμούν με συνενοχή.
Η κριτική στρέφεται επιπλέον ενάντια σε όσους, δίχως αυτογνωσία και ικανότητα αυτοελέγχου, προωθούν και νομιμοποιούν τέτοιου είδους συστήματα. Η εικόνα που σκιαγραφείται είναι αυτή πολιτών και φορέων που, με ρηχές και άκρως μηχανιστικές αντιλήψεις, μετατρέπουν την τεχνολογία σε εργαλείο κοινωνικού ελέγχου — συχνά χωρίς να αντιλαμβάνονται το μέγεθος των κινδύνων που προκαλούν.
Aν δεν τεθούν όρια, αν δεν ακουστεί η φωνή της κοινωνίας που υπερασπίζεται τα θεμελιώδη δικαιώματα, η ορθολογική χρήση της τεχνολογίας θα υποκύψει στη λογική της καταστολής. Κι αυτό, καταλήγουν οι επικριτές, δεν είναι ζήτημα ιδεολογικής έντασης, αλλά υπαρξιακής επιλογής για το είδος της κοινωνίας που θέλουμε να κληροδοτήσουμε — ανεκτική στις αυτόματες ποινές ή προσανατολισμένη στην ανθρώπινη κρίση, την αξιοπρέπεια και τη δημοκρατική λογοδοσία.
