1. Número 1 · Enero 2015

  2. Número 2 · Enero 2015

  3. Número 3 · Enero 2015

  4. Número 4 · Febrero 2015

  5. Número 5 · Febrero 2015

  6. Número 6 · Febrero 2015

  7. Número 7 · Febrero 2015

  8. Número 8 · Marzo 2015

  9. Número 9 · Marzo 2015

  10. Número 10 · Marzo 2015

  11. Número 11 · Marzo 2015

  12. Número 12 · Abril 2015

  13. Número 13 · Abril 2015

  14. Número 14 · Abril 2015

  15. Número 15 · Abril 2015

  16. Número 16 · Mayo 2015

  17. Número 17 · Mayo 2015

  18. Número 18 · Mayo 2015

  19. Número 19 · Mayo 2015

  20. Número 20 · Junio 2015

  21. Número 21 · Junio 2015

  22. Número 22 · Junio 2015

  23. Número 23 · Junio 2015

  24. Número 24 · Julio 2015

  25. Número 25 · Julio 2015

  26. Número 26 · Julio 2015

  27. Número 27 · Julio 2015

  28. Número 28 · Septiembre 2015

  29. Número 29 · Septiembre 2015

  30. Número 30 · Septiembre 2015

  31. Número 31 · Septiembre 2015

  32. Número 32 · Septiembre 2015

  33. Número 33 · Octubre 2015

  34. Número 34 · Octubre 2015

  35. Número 35 · Octubre 2015

  36. Número 36 · Octubre 2015

  37. Número 37 · Noviembre 2015

  38. Número 38 · Noviembre 2015

  39. Número 39 · Noviembre 2015

  40. Número 40 · Noviembre 2015

  41. Número 41 · Diciembre 2015

  42. Número 42 · Diciembre 2015

  43. Número 43 · Diciembre 2015

  44. Número 44 · Diciembre 2015

  45. Número 45 · Diciembre 2015

  46. Número 46 · Enero 2016

  47. Número 47 · Enero 2016

  48. Número 48 · Enero 2016

  49. Número 49 · Enero 2016

  50. Número 50 · Febrero 2016

  51. Número 51 · Febrero 2016

  52. Número 52 · Febrero 2016

  53. Número 53 · Febrero 2016

  54. Número 54 · Marzo 2016

  55. Número 55 · Marzo 2016

  56. Número 56 · Marzo 2016

  57. Número 57 · Marzo 2016

  58. Número 58 · Marzo 2016

  59. Número 59 · Abril 2016

  60. Número 60 · Abril 2016

  61. Número 61 · Abril 2016

  62. Número 62 · Abril 2016

  63. Número 63 · Mayo 2016

  64. Número 64 · Mayo 2016

  65. Número 65 · Mayo 2016

  66. Número 66 · Mayo 2016

  67. Número 67 · Junio 2016

  68. Número 68 · Junio 2016

  69. Número 69 · Junio 2016

  70. Número 70 · Junio 2016

  71. Número 71 · Junio 2016

  72. Número 72 · Julio 2016

  73. Número 73 · Julio 2016

  74. Número 74 · Julio 2016

  75. Número 75 · Julio 2016

  76. Número 76 · Agosto 2016

  77. Número 77 · Agosto 2016

  78. Número 78 · Agosto 2016

  79. Número 79 · Agosto 2016

  80. Número 80 · Agosto 2016

  81. Número 81 · Septiembre 2016

  82. Número 82 · Septiembre 2016

  83. Número 83 · Septiembre 2016

  84. Número 84 · Septiembre 2016

  85. Número 85 · Octubre 2016

  86. Número 86 · Octubre 2016

  87. Número 87 · Octubre 2016

  88. Número 88 · Octubre 2016

  89. Número 89 · Noviembre 2016

  90. Número 90 · Noviembre 2016

  91. Número 91 · Noviembre 2016

  92. Número 92 · Noviembre 2016

  93. Número 93 · Noviembre 2016

  94. Número 94 · Diciembre 2016

  95. Número 95 · Diciembre 2016

  96. Número 96 · Diciembre 2016

  97. Número 97 · Diciembre 2016

  98. Número 98 · Enero 2017

  99. Número 99 · Enero 2017

  100. Número 100 · Enero 2017

  101. Número 101 · Enero 2017

  102. Número 102 · Febrero 2017

  103. Número 103 · Febrero 2017

  104. Número 104 · Febrero 2017

  105. Número 105 · Febrero 2017

  106. Número 106 · Marzo 2017

  107. Número 107 · Marzo 2017

  108. Número 108 · Marzo 2017

  109. Número 109 · Marzo 2017

  110. Número 110 · Marzo 2017

  111. Número 111 · Abril 2017

  112. Número 112 · Abril 2017

  113. Número 113 · Abril 2017

  114. Número 114 · Abril 2017

  115. Número 115 · Mayo 2017

  116. Número 116 · Mayo 2017

  117. Número 117 · Mayo 2017

  118. Número 118 · Mayo 2017

  119. Número 119 · Mayo 2017

  120. Número 120 · Junio 2017

  121. Número 121 · Junio 2017

  122. Número 122 · Junio 2017

  123. Número 123 · Junio 2017

  124. Número 124 · Julio 2017

  125. Número 125 · Julio 2017

  126. Número 126 · Julio 2017

  127. Número 127 · Julio 2017

  128. Número 128 · Agosto 2017

  129. Número 129 · Agosto 2017

  130. Número 130 · Agosto 2017

  131. Número 131 · Agosto 2017

  132. Número 132 · Agosto 2017

  133. Número 133 · Septiembre 2017

  134. Número 134 · Septiembre 2017

  135. Número 135 · Septiembre 2017

  136. Número 136 · Septiembre 2017

  137. Número 137 · Octubre 2017

  138. Número 138 · Octubre 2017

  139. Número 139 · Octubre 2017

  140. Número 140 · Octubre 2017

  141. Número 141 · Noviembre 2017

  142. Número 142 · Noviembre 2017

  143. Número 143 · Noviembre 2017

  144. Número 144 · Noviembre 2017

  145. Número 145 · Noviembre 2017

  146. Número 146 · Diciembre 2017

  147. Número 147 · Diciembre 2017

  148. Número 148 · Diciembre 2017

  149. Número 149 · Diciembre 2017

  150. Número 150 · Enero 2018

  151. Número 151 · Enero 2018

  152. Número 152 · Enero 2018

  153. Número 153 · Enero 2018

  154. Número 154 · Enero 2018

  155. Número 155 · Febrero 2018

  156. Número 156 · Febrero 2018

  157. Número 157 · Febrero 2018

  158. Número 158 · Febrero 2018

  159. Número 159 · Marzo 2018

  160. Número 160 · Marzo 2018

  161. Número 161 · Marzo 2018

  162. Número 162 · Marzo 2018

  163. Número 163 · Abril 2018

  164. Número 164 · Abril 2018

  165. Número 165 · Abril 2018

  166. Número 166 · Abril 2018

  167. Número 167 · Mayo 2018

  168. Número 168 · Mayo 2018

  169. Número 169 · Mayo 2018

  170. Número 170 · Mayo 2018

  171. Número 171 · Mayo 2018

  172. Número 172 · Junio 2018

  173. Número 173 · Junio 2018

  174. Número 174 · Junio 2018

  175. Número 175 · Junio 2018

  176. Número 176 · Julio 2018

  177. Número 177 · Julio 2018

  178. Número 178 · Julio 2018

  179. Número 179 · Julio 2018

  180. Número 180 · Agosto 2018

  181. Número 181 · Agosto 2018

  182. Número 182 · Agosto 2018

  183. Número 183 · Agosto 2018

  184. Número 184 · Agosto 2018

  185. Número 185 · Septiembre 2018

  186. Número 186 · Septiembre 2018

  187. Número 187 · Septiembre 2018

  188. Número 188 · Septiembre 2018

  189. Número 189 · Octubre 2018

  190. Número 190 · Octubre 2018

  191. Número 191 · Octubre 2018

  192. Número 192 · Octubre 2018

  193. Número 193 · Octubre 2018

  194. Número 194 · Noviembre 2018

  195. Número 195 · Noviembre 2018

  196. Número 196 · Noviembre 2018

  197. Número 197 · Noviembre 2018

  198. Número 198 · Diciembre 2018

  199. Número 199 · Diciembre 2018

  200. Número 200 · Diciembre 2018

  201. Número 201 · Diciembre 2018

  202. Número 202 · Enero 2019

  203. Número 203 · Enero 2019

  204. Número 204 · Enero 2019

  205. Número 205 · Enero 2019

  206. Número 206 · Enero 2019

  207. Número 207 · Febrero 2019

  208. Número 208 · Febrero 2019

  209. Número 209 · Febrero 2019

  210. Número 210 · Febrero 2019

  211. Número 211 · Marzo 2019

  212. Número 212 · Marzo 2019

  213. Número 213 · Marzo 2019

  214. Número 214 · Marzo 2019

  215. Número 215 · Abril 2019

  216. Número 216 · Abril 2019

  217. Número 217 · Abril 2019

  218. Número 218 · Abril 2019

  219. Número 219 · Mayo 2019

  220. Número 220 · Mayo 2019

  221. Número 221 · Mayo 2019

  222. Número 222 · Mayo 2019

  223. Número 223 · Mayo 2019

  224. Número 224 · Junio 2019

  225. Número 225 · Junio 2019

  226. Número 226 · Junio 2019

  227. Número 227 · Junio 2019

  228. Número 228 · Julio 2019

  229. Número 229 · Julio 2019

  230. Número 230 · Julio 2019

  231. Número 231 · Julio 2019

  232. Número 232 · Julio 2019

  233. Número 233 · Agosto 2019

  234. Número 234 · Agosto 2019

  235. Número 235 · Agosto 2019

  236. Número 236 · Agosto 2019

  237. Número 237 · Septiembre 2019

  238. Número 238 · Septiembre 2019

  239. Número 239 · Septiembre 2019

  240. Número 240 · Septiembre 2019

  241. Número 241 · Octubre 2019

  242. Número 242 · Octubre 2019

  243. Número 243 · Octubre 2019

  244. Número 244 · Octubre 2019

  245. Número 245 · Octubre 2019

  246. Número 246 · Noviembre 2019

  247. Número 247 · Noviembre 2019

  248. Número 248 · Noviembre 2019

  249. Número 249 · Noviembre 2019

  250. Número 250 · Diciembre 2019

  251. Número 251 · Diciembre 2019

  252. Número 252 · Diciembre 2019

  253. Número 253 · Diciembre 2019

  254. Número 254 · Enero 2020

  255. Número 255 · Enero 2020

  256. Número 256 · Enero 2020

  257. Número 257 · Febrero 2020

  258. Número 258 · Marzo 2020

  259. Número 259 · Abril 2020

  260. Número 260 · Mayo 2020

  261. Número 261 · Junio 2020

  262. Número 262 · Julio 2020

  263. Número 263 · Agosto 2020

  264. Número 264 · Septiembre 2020

  265. Número 265 · Octubre 2020

  266. Número 266 · Noviembre 2020

  267. Número 267 · Diciembre 2020

  268. Número 268 · Enero 2021

  269. Número 269 · Febrero 2021

  270. Número 270 · Marzo 2021

  271. Número 271 · Abril 2021

  272. Número 272 · Mayo 2021

  273. Número 273 · Junio 2021

  274. Número 274 · Julio 2021

  275. Número 275 · Agosto 2021

  276. Número 276 · Septiembre 2021

  277. Número 277 · Octubre 2021

  278. Número 278 · Noviembre 2021

  279. Número 279 · Diciembre 2021

  280. Número 280 · Enero 2022

  281. Número 281 · Febrero 2022

  282. Número 282 · Marzo 2022

  283. Número 283 · Abril 2022

  284. Número 284 · Mayo 2022

  285. Número 285 · Junio 2022

  286. Número 286 · Julio 2022

  287. Número 287 · Agosto 2022

  288. Número 288 · Septiembre 2022

  289. Número 289 · Octubre 2022

  290. Número 290 · Noviembre 2022

  291. Número 291 · Diciembre 2022

  292. Número 292 · Enero 2023

  293. Número 293 · Febrero 2023

  294. Número 294 · Marzo 2023

  295. Número 295 · Abril 2023

  296. Número 296 · Mayo 2023

  297. Número 297 · Junio 2023

  298. Número 298 · Julio 2023

  299. Número 299 · Agosto 2023

  300. Número 300 · Septiembre 2023

  301. Número 301 · Octubre 2023

  302. Número 302 · Noviembre 2023

  303. Número 303 · Diciembre 2023

  304. Número 304 · Enero 2024

  305. Número 305 · Febrero 2024

  306. Número 306 · Marzo 2024

  307. Número 307 · Abril 2024

  308. Número 308 · Mayo 2024

  309. Número 309 · Junio 2024

CTXT necesita 15.000 socias/os para seguir creciendo. Suscríbete a CTXT

impartir justicia

El derecho a transgredir

Si las actuales herramientas de IA prosperan, nadie podrá robar en el supermercado, colarse en el metro o pisar de más el acelerador del coche. Más que el triunfo de la ley, será la sustitución de la justicia por una tiranía ciega

Samuel Witteveen Gómez 20/05/2023

<p>Fotograma de la película <em>Yo, robot</em> (2004). <strong>/ Alex Proyas</strong></p>

Fotograma de la película Yo, robot (2004). / Alex Proyas

En CTXT podemos mantener nuestra radical independencia gracias a que las suscripciones suponen el 70% de los ingresos. No aceptamos “noticias” patrocinadas y apenas tenemos publicidad. Si puedes apoyarnos desde 3 euros mensuales, suscribete aquí

Existen supermercados donde las cámaras de seguridad señalan por sí solas a quienes cometen un hurto. Mediante inteligencia artificial estas cámaras son capaces de identificar los gestos y las actitudes que suelen acompañar a la sustracción de algún producto. Sucede en países como Estados Unidos y Japón. También hay estaciones de tren y metro, en Cataluña por ejemplo, donde las cámaras alertan si algún pasajero accede sin billete. 

Además, se espera que cada vez más vehículos incluyan sistemas que reducen la velocidad automáticamente cuando el conductor supera el límite permitido. Son algoritmos, asimismo, los que a menudo se ocupan de detectar y penalizar el fraude fiscal. Y un juez en Colombia ha materializado un horizonte con el que algunos juristas sueñan al recurrir a ChatGPT para escribir una sentencia.

Estos ejemplos, por dispares que parezcan, señalan una misma tendencia: la automatización de la ley. Ante las posibilidades que nos ofrece la tecnología, resulta tentador invertir en sistemas que ayuden a garantizar el cumplimiento de las normas. Y si estas herramientas realmente prosperan podría llegar un día donde nadie, independientemente de su situación, pueda robar en el supermercado, colarse en el metro o pisar de más el acelerador del coche. Pero esto, más que el triunfo de la ley, puede suponer el fin del derecho como práctica de una comunidad moral y su sustitución por algo más bien parecido a un molde, a un túnel, a una tiranía ciega. 

Tal cúmulo de amenazas justificará para muchos que las autoridades deleguen el control a sistemas automatizados

Es, además, en el contexto de los grandes retos que afrontan los Estados donde se debe entender el riesgo de la automatización. Problemas de enorme alcance como el cambio climático, migración, pandemias y amenazas terroristas encuentran a menudo en boca de políticos y empresarios su correspondiente solución en la promesa de control que nos brinda la tecnología. Una unión entre urgencia y coacción parece ser la seña de nuestro tiempo, una unión, a todas luces, temible. 

Tal cúmulo de amenazas justificará para muchos que las autoridades deleguen el control a sistemas automatizados, los únicos, posiblemente, capaces de aplicar normas a gran escala. Existe, sin embargo, una diferencia insalvable entre el acatamiento de una ley (por convencimiento o por simple sumisión) y la incapacidad de transgredirla (porque la arquitectura del poder solo permite su cumplimiento). 

El filósofo Maxim Februari explica en su último libro que las máquinas, a diferencia de nosotros, no son sujetos morales que actúan desde la responsabilidad. Por ello tampoco son capaces de ver y entender que nosotros, sobre quienes ellas deciden, sí somos seres morales. “Las máquinas” escribe Februari “no están en lo más mínimo preocupadas por la verdad de nosotros como personas, ni se preocupan por entender, lo único que persiguen es funcionar: realizar operaciones”. 

Así, por severo que pueda llegar a ser un revisor de metro, éste siempre será infinitamente más compasivo que un sistema automatizado. El revisor, a diferencia de la máquina, tiene la capacidad de comprender que hay razones para colarse en el metro, que cada pasajero representa un caso particular. La máquina, en cambio, no ve personas, no ve historias ni necesidades, tan solo es capaz de detectar aquellos indicadores que posibilitan su idéntica operación. 

Ramón López de Mántaras, experto en inteligencia artificial del CSIC, denunciaba recientemente en una tribuna el error extendido de atribuir a la tecnología características humanas. “Creemos que la IA prácticamente no tiene límites cuando de hecho es extremadamente limitada y, lo que es muy importante, no tiene nada que ver con la inteligencia humana”. A pesar de las virtudes y utilidades de estas herramientas, Mántaras advierte que la inteligencia artificial, en realidad, no es inteligente sino que realiza tareas sin poder comprenderlas. Aunque la IA sin duda pueda ser más hábil que nosotros realizando operaciones concretas, carece del conocimiento complejo del mundo que cualquier persona posee. 

Y es que el mundo funciona en gran medida gracias a procesos informales, experiencias y gestos que no son cuantificables. Incluso la persona más bruta conoce una inmensidad de sentires completamente ajenos a la máquina, sentires que en todo momento informan sus actos. La empatía, la indignación, la duda, el conflicto, la flexibilidad, el temor, la paciencia, la justicia. Quienes, ignorando todo ello, equiparan la máquina con el humano, toman las capacidades de la máquina como criterio y desprecian aquello que distingue a lo vivo de lo inerte. La historia nos muestra, además, que ignorar la importancia de los procesos informales conduce una y otra vez al desastre. 

La aplicación mecánica de la ley contradice asimismo los principios del Estado de derecho. Lo que diferencia un Estado de derecho de cualquier modelo autoritario es que el poder está sujeto a garantías. Las decisiones no reposan simplemente en la autoridad, sino que deben ser legítimas y justificables. La primacía del derecho sobre el poder implica, por tanto, la existencia de una comunidad inmersa en una práctica constante de apelar, interpelar, decidir y justificar. Renunciar a ello en pos de un orden cerrado conlleva disolver la comunidad y suspender el derecho. Cuando hablamos de automatización no hablamos por tanto de una mera sofisticación sino de un modo radicalmente diferente de gobernanza. 

La aplicación mecánica de la ley contradice asimismo los principios del Estado de derecho

La ley es incompatible con lo mecánico. No existe ley aplicable a todos los casos pues la norma necesariamente requiere, una y otra vez, interpretación y ejecución. Februari recurre a la historia de dos miembros de la resistencia holandesa en la Segunda Guerra Mundial para ilustrar esto. Dice la anécdota que estos dos partisanos capturaron a un miembro de la SS que se dedicaba a delatar a otros en su pueblo. Cuando tuvieron a este hombre en su poder quisieron matarlo pero les asaltó la duda de si hacían lo correcto. Así que acudieron al cura y le consultaron si está permitido matar a un nazi. El cura les respondió: “En realidad, no”. 

En la breve respuesta del sacerdote está encerrado todo ese terreno propiamente humano que resulta incomprensible para las máquinas. Pues el cura no toma simplemente el quinto mandamiento y les prohíbe matar sino que les informa del contenido de la ley y añade ese “en realidad'”, que es la apertura a la excepción. Entre la ley universal (no matarás) y el caso concreto y apremiante (mientras siga viva esta persona delatará a otros), los dos partisanos cargan con la responsabilidad de decidir de la forma más justa. La ley no puede simplemente aplicarse porque primero debe atravesar aquellas historias particulares para poder materializarse. Es a lo que se refería Franz Rosenzweig cuando escribió: “La ley es entregada al hombre, no el hombre a la ley”. 

El problema de dejar tareas de gobernanza en manos de la inteligencia artificial no es solo que ésta resulta a menudo susceptible de sesgos y errores. Por mucho que se llegue a perfeccionar el algoritmo y a pulir los datos, un sistema automatizado jamás igualará la capacidad interpretativa humana. La diferencia entre la inteligencia artificial y la humana no es cuantitativa, sino cualitativa. 

Por supuesto que la tecnología puede asistirnos en tareas anodinas, por ejemplo, a la hora de encontrar u organizar información y esto puede aliviar los juzgados y agilizar los procesos. La decisión de un juez, en cambio, no debería realizarla un sistema de inteligencia artificial generativa (como el ChatGPT) pues por mucha jurisprudencia que la herramienta sea capaz de moldear, nunca podrá comprender aquello de lo que realmente se trata: impartir justicia

El juez es el enlace entre la legislación y el caso particular y en cada una de sus decisiones debe introducir un elemento original. Una norma aplicada automáticamente puede crear ilusión de ecuanimidad pero en realidad sucede lo contrario: se impone una misma interpretación a casos diferentes. La justicia precisa de un miramiento especial en cada caso, un instante de peligro donde la doctrina se asoma a la profundidad de la vida. Jacques Derrida lo expresó así en Fuerza de ley: “La ley es el elemento de cálculo, mientras que la justicia es incalculable, requiere que calculemos con lo incalculable”.

 

Existen supermercados donde las cámaras de seguridad señalan por sí solas a quienes cometen un hurto. Mediante inteligencia artificial estas cámaras son capaces de identificar los gestos y las actitudes que suelen acompañar a la sustracción de algún producto. Sucede en países como Estados Unidos y Japón. También...

Este artículo es exclusivo para las personas suscritas a CTXT. Puedes suscribirte aquí

Autor >

Samuel Witteveen Gómez

Suscríbete a CTXT

Orgullosas
de llegar tarde
a las últimas noticias

Gracias a tu suscripción podemos ejercer un periodismo público y en libertad.
¿Quieres suscribirte a CTXT por solo 6 euros al mes? Pulsa aquí

Artículos relacionados >

Deja un comentario


Los comentarios solo están habilitados para las personas suscritas a CTXT. Puedes suscribirte aquí