Smart Sampa: La Inteligencia Artificial de Vigilancia en São Paulo Desata Debate sobre Sesgo Racial y Derechos Humanos

En São Paulo, Brasil, el ambicioso sistema de vigilancia con inteligencia artificial Smart Sampa ha encendido un intenso debate ético y social. Implementado por las autoridades municipales para modernizar la seguridad pública mediante reconocimiento facial, el proyecto es objeto de graves acusaciones por parte de organizaciones de derechos humanos y activistas. Estas denuncian un posible perfilamiento racial que afecta desproporcionadamente a la vasta población afrobrasileña, lo que plantea serias interrogantes sobre los límites tecnológicos y la protección de los derechos civiles. Este desarrollo, altamente verosímil y ampliamente documentado, resuena con preocupaciones globales sobre el sesgo algorítmico y la equidad, un tema de creciente relevancia para la República Dominicana y su diáspora.

Smart Sampa fue concebido como una inversión estratégica para una "ciudad inteligente", desplegando una extensa red de cámaras con IA para identificar sospechosos y prevenir delitos en una metrópolis de más de 12 millones de habitantes. Sin embargo, la controversia principal surge de los informes que sugieren que su operatividad dista de ser imparcial. Fuentes primarias, incluidas diversas organizaciones de derechos humanos y expertos en tecnología, han documentado un preocupante patrón de detenciones y escrutinios policiales que se concentraría en individuos de tez oscura. Esta situación apunta a un presunto perfilamiento racial, fenómeno que adquiere una dimensión alarmante al ser amplificado por algoritmos de reconocimiento facial, a menudo entrenados con conjuntos de datos desequilibrados que resultan en menores tasas de precisión para personas de etnias no caucásicas. Este sesgo algorítmico, lejos de reducir la injusticia, puede exacerbar las desigualdades sociales preexistentes.

Las implicaciones de un sistema de vigilancia con sesgo racial son profundas, minando la confianza ciudadana en las fuerzas del orden y violando principios fundamentales de igualdad y justicia. La vigilancia masiva y constante no solo plantea serias preocupaciones sobre la privacidad individual, sino que también puede coartar la libertad de expresión y reunión pacífica, transformando el espacio público en un entorno de escrutinio permanente. Abordar estos desafíos demanda un enfoque multifacético, que incluya auditorías independientes y rigurosas de los algoritmos para detectar y corregir sesgos, así como una transparencia fundamental en el diseño e implementación de estos sistemas para permitir el escrutinio público y la rendición de cuentas. Para la diáspora dominicana, presente en países donde estas tecnologías son comunes, y para quienes viven en la República Dominicana, la discusión sobre cómo equilibrar seguridad y derechos fundamentales es cada vez más vital. La experiencia de São Paulo sirve como una poderosa advertencia global: la promesa de la tecnología debe ir de la mano con una profunda consideración de sus impactos sociales y éticos para asegurar que la inteligencia artificial sirva a la justicia y la equidad.