Amazon es torna confident de la policia

‘Minority Report’ és un petit relat de l’escriptor de ciència ficció Philip K.Dick, que Steven Spielberg va transformar en pel·lícula. L’argument versa sobre tres persones mutants capaces de predir la probabilitat que un ciutadà cometi un acte delictiu en les hores següents. Si la probabilitat d’assassinat, per exemple, és prou alta, la policia va a la llar o l’oficina del ciutadà i el deté o el mata per evitar un crim que potser ni ell mateix sabia que estava a punt de cometre. La lliçó del relat és que en un món regit per les probabilitats no són els teus actes els que et fan culpable sinó les circumstàncies que t’envolten i que moltes vegades no domines. Ets culpable fins que no demostris el contrari, la qual cosa ve a ser una perversió del principi legal que diu que som innocents fins que no es demostri la nostra culpabilitat.

Ara aquests postulats han deixat de ser ficció gràcies a Amazon i el seu sistema de reconeixement facial, que ja ven a les comissaries dels Estats Units sota el nom comercial de Rekognition. En lloc de mutants, utilitza un sofisticat programari que recull centenars de milers de cares de persones i les creua amb les seves fitxes policials, on apareixen els seus antecedents. Després, amb aquestes dades i seguint uns patrons de delineació vectorial, Rekognition és capaç de determinar la probabilitat que una cara captada en una filmació coincideixi amb una altra que té en els seus arxius i, per tant, d’assignar a aquesta cara uns antecedents policials, la qual cosa en l’argot de la garjola es definiria com si la cara “està neta o no”. Rekognition es va estrenar el 2017 en una comissaria del comtat de Washington (Oregon), i la seva comesa era la identificació de sospitosos. Arribes a la comissaria detingut, et fan mirar a la càmera i immediatament se sap amb alta probabilitat quins són els teus antecedents.

El problema és que l’ús d’aquest sistema s’ha estès a comissaries d’altres estats i per a finalitats més àmplies, com les filmacions que la policia fa al carrer. Fins i tot es parla d’incorporar Rekognition a les càmeres que els patrullers estan obligats a portar, o a les CCTV, les càmeres de vigilància dels carrers, bancs, etc. Així es donaria una volta més de cargol a l’estat panòptic en el qual tots estem sent gravats per diferents càmeres dels carrers, però ara sabent qui som i si hem sigut honrats o pinxos en el passat. Sempre en funció de la probabilitat que siguem realment nosaltres els reconeguts. Ningú comenta què passarà quan Rekognition s’equivoqui i ens detinguin perquè ens assemblem molt a un narcotraficant molt buscat o ens assetgin sense preguntar senzillament per tenir una retirada molt evident amb un perillós jihadista…

Per descomptat, la notícia que Amazon està promocionant activament aquest programari ha escandalitzat nombroses organitzacions que lluiten pels drets de la ciutadania, entre les quals la Unió Americana de Llibertats Civils (ACLU), que ha demanat per carta a Jeff Bezos, el conseller delegat i fundador de l’empresa, que cessi la comercialització de Rekognition, perquè comporta un gran perill per a la presumpció d’innocència de les persones, a més que en mans de governs enemics de la llibertat és una arma letal contra qualsevol oposició democràtica. Rekognition, que el 2017 va generar vendes d’uns 17 milions de dòlars, no és l’única aplicació de reconeixement biomètric que s’està comercialitzant en els últims temps. L’empresa Axon també ha entrat en aquest sector i ha venut la seva tecnologia Axon Body a cossos de seguretat de Los Angeles, Chicago i Washington. La por, a més de despullar la nostra intimitat, és que aquests sistemes no siguin tan precisos com asseguren ser. Per exemple, és tristament famós el cas del sistema de reconeixement de cares en fotos guardades al núvol de Google perquè una usuària es va adonar que l’algoritme guardava en ocasions les fotos d’alguns dels seus amics negres a la carpeta de fotos d’animals, concretament de goril·les. Google va solucionar el problema eliminant l’algoritme, però queda clar que aquestes coses poden passar a les millors empreses.

És difícil creure que Amazon frenarà la comercialització d’un programa amb tant potencial com Rekognition, per més que l’hi demanin els activistes dels drets civils. Ja queda lluny el canvi de segle, quan semblava que els nous magnats de la tecnologia eren herois salvadors i revolucionaris que donarien pas a una nova societat. Ara està clar que són empreses sense cor que dissenyen tecnologia perquè la vella societat es defensi de qualsevol canvi. Com a mostra, un botó, o dos: Google ha renegat del seu lema inicial “ Don’t be evil ” [No siguis dolent], que l’identificava com els nois enrotllats que defensaven la gent, i està col·laborant amb el Pentàgon en un projecte de drons militars. Per la seva banda, Amazon ha passat en vint anys de ser el gran basar de la cultura a convertir-se en confident de la policia. La pela és la pela.