La seguridad pública, entre Robocop y la ética
Rubén Olvera Marines
“El informe de la minoría” es un cuento de ciencia ficción publicado en 1956 por el escritor estadounidense Philip K. Dick. En un futuro, un extraño sistema, conformado por tres seres, en apariencia desprovistos de sentimientos y necesidades espirituales, denominados “precognitivos”, asistidos por un mecanismo tecnológico, desarrollan la capacidad para predecir crímenes antes de que se cometan.
Los “sospechosos” son detenidos y procesados antes de perpetuar el delito. Gracias a este artilugio, la criminalidad se redujo en un 99.8%.
Pero hay un problema. El sistema no es infalible. El protagonista del cuento es identificado como un delincuente, pues supuestamente atentará en contra de la vida de un individuo. No obstante, descubre que uno de los tres seres discrepa del resto, ya que su informe señala que el acusado en realidad no cometerá el crimen; desacuerdo que jamás se había presentado, al menos no públicamente.
El informe minoritario sugiere la posibilidad de que en el pasado las predicciones pudieron ser erróneas, provocando que se recluyeran y sentenciaran a ciudadanos inocentes.
Este relato de ciencia ficción ilustra uno de los mayores dilemas que envuelven a las políticas públicas de prevención y disuasión del delito. La tecnología predictiva, la inteligencia artificial y la robótica, asistidas, sí lo leyó bien “asistidas”, por fuerzas de élite o militares, parecen convertirse en el nuevo paradigma de la seguridad ciudadana frente a los crecientes índices de criminalidad y violencia.
En el cuento de K. Dick, al momento de que uno de los seres tenía algo que decir distinto a lo que determinaba el sistema, la máquina no lo permitía. Los papeles cambiaron, la tecnología no auxilia a la humanidad, es el hombre quien asiste a la inteligencia artificial.
Frente al creciente grado de tecnificación y robotización en las labores de seguridad ciudadana, y en varios ámbitos de la administración pública, sobre todo en naciones desarrolladas, así como la militarización en países en vías de desarrollo, los grupos opositores han externado algunas preocupaciones.
Señalan que pronto el algoritmo sustituirá al juicio razonado. El hombre, sugieren, podría terminar siendo obsoleto, un objeto que asiste al robot para que éste ejecute las instrucciones que recibe de la máquina.
La discusión se activó recientemente al conocerse que la policía de San Francisco, California, planea utilizar robots con capacidad de matar en situaciones extremas. La medida fue autorizada por la mayoría de los integrantes del Ayuntamiento.
De inmediato, las organizaciones pro derechos humanos y de supervisión a la policía objetaron la presencia de este tipo de tecnología en las calles de la ciudad, temiendo una mayor militarización de la que ya existe, además de los riesgos inherentes al uso excesivo de la fuerza, ahora robotizada, sobre todo en barrios marginados.
Es innegable que los robots han traído grandes benéficos para la humanidad. Gracias a ellos logramos explorar otros planetas del sistema solar; detectamos enfermedades ocultas a los diagnósticos tradicionales; mejoramos los procesos productivos; y, evitamos que los seres humanos realicen labores de alto riesgo.
No obstante, más allá de la ciencia ficción, por cierto, a punto de ser caricaturizada por la realidad, la aplicación de la tecnología en la esfera pública, principalmente en labores de seguridad y, en algunos casos, la impartición de justicia, plantea una serie de interrogantes éticas y legales que se deben discutir antes de la toma de decisiones.
¿Quién o qué determinará la existencia de una circunstancia extrema? ¿Quién o qué girará la orden al robot para accionar el gatillo? ¿A quién se llamará a rendir cuentas en caso de presentarse una falla o acribillar a una persona inocente?
Antes de que los gobiernos inviertan mayores recursos en la robotización de la seguridad ciudadana, debemos tener claro que la función pública no es una fábrica que requiera automatizarse.
Las decisiones públicas implican siempre juicios de valor y funcionarios con “oído” ético que las respalden.
Cuidado cuando el algoritmo se convierte en juez y los robots sean utilizados para ejecutar las sentencias.
