¿Es posible utilizar la inteligencia artificial para predecir crímenes?. Año 2002, se estrenaba la película «Minority Report», basada en un relato corto de 1956 de Philip K. Dick titulado «El informe de la minoría«. En este relato se especula acerca de la predestinación y la posibilidad de alterar nuestro futuro, si este es conocido de antemano. El hilo argumental se basa en la existencia de unos «videntes» capaces de predecir el futuro; estos son utilizados por la policía para predecir asesinatos antes que ocurran.
El protagonista, John Anderton (Tom Cruise), es el jefe de Precrimen, la agencia encargada de realizar las detenciones. Sin embargo, un día todo se complica cuando, según los videntes, él cometerá un asesinato. La película llamó la atención por el simple hecho de pensar en lo que sucedería si los crímenes pudieran predecirse; quizá entonces se podría vivir de forma más segura. Pero por otro lado, también muestra que las personas no están predestinadas, y que una mínima acción puede cambiar su futuro.
El profesor de la Universidad de Harrisburg, Nathaniel JS Ashby, desarrolló una investigación sobre el uso de inteligencia artificial basada en reconocimiento facial, con el fin de predecir quien puede ser un delincuente. En la publicación titulada «Un modelo de red neuronal profunda para predecir la criminalidad usando el procesamiento de imágenes»; se señala que los algoritmos basados en IA serán capaces de reconocer cuándo una persona se convertirá en criminal basándose en el reconocimiento facial automatizado. Los desarrolladores aseguran que al automatizar la identificación de posibles amenazas eliminando las respuestas emocionales se podrá garantizar una mejor impartición de la ley.
LOS ARGUMENTOS DE LA COMUNIDAD DE INTELIGENCIA ARTIFICIAL
Sin embargo, en una carta abierta, expertos en IA expresaron que el reconocimiento facial debe abordarse con extrema precaución para no aprovecharse de comunidades vulnerables. Las principales preocupaciones se centran en el sesgo racial. Todos los sistemas actuales de reconocimiento facial son más precisos cuando se detectan hombres blancos; a menudo, señalan incorrectamente a los miembros de la comunidad BAME (negros, asiáticos y minoritarios), como delincuentes con mayor frecuencia.
Parte de la explicación que contiene la carta es la siguiente:
“La investigación de esta naturaleza, y las afirmaciones de precisión que la acompañan, se basa en la suposición de que los datos relacionados con el arresto criminal y la condena pueden servir como indicadores confiables y neutrales de la actividad criminal subyacente. sin embargo, estos registros están lejos de ser neutrales.
Innumerables estudios han demostrado que las personas de color son tratadas con más dureza que las personas blancas situadas de manera similar en todas las etapas del sistema legal, lo que resulta en serias distorsiones en los datos. por lo tanto, cualquier software creado dentro del marco legal penal existente inevitablemente hará eco de esos mismos prejuicios e imprecisiones fundamentales a la hora de determinar si una persona tiene el ‘rostro de un criminal’
Los programas de Aprendizaje Automático (Machine Learning) no son neutrales; Las agendas de investigación y los conjuntos de datos con los que trabajan, a menudo heredan creencias culturales dominantes sobre el mundo”.
Comunidad de especialistas en inteligencia artificial
ENTONCES ¿ESTA LISTA LA TECNOLOGIA DE INTELIGENCIA ARTIFICIAL PARA PREVENIR CRÍMENES?
La tecnología de reconocimiento facial frecuentemente se ve envuelta en problemas de sesgos raciales y étnicos, lo que provoca preocupaciones científicas y éticas. En la investigación se desarrolló un software de reconocimiento facial que se puede aplicar con fines de vigilancia predictiva; esto haría que las labores de justicia tengan un déficit, por las razones ya expuestas.
En Microsys usamos tecnología de inteligencia artificial de una forma adecuada; realizando aportaciones sociales a sectores como el médico o de seguridad pública. Le invitamos a que las conozca.
