Reino Unido. - Una investigación realizada por destacado medio ha revelado que funcionarios del gobierno en el Reino Unido están utilizando inteligencia artificial (IA) y algoritmos complejos en una amplia gama de áreas de toma de decisiones, lo que ha generado preocupaciones sobre posibles resultados discriminatorios y la falta de transparencia en el proceso.
Al menos ocho departamentos gubernamentales en Whitehall y algunas fuerzas policiales están empleando la IA para asistir en decisiones que abarcan desde el bienestar social hasta la inmigración y la justicia penal. Sin embargo, la investigación del medio The Guardian ha encontrado evidencia de que algunas de estas herramientas de IA pueden generar resultados discriminatorios y errores graves, lo que plantea dudas sobre la equidad en el proceso de toma de decisiones.
Algunos ejemplos alarmantes incluyen un algoritmo utilizado por el Departamento de Trabajo y Pensiones (DWP) que llevó a la eliminación incorrecta de beneficios de numerosas personas. También se descubrió que una herramienta de reconocimiento facial utilizada por la Policía Metropolitana tenía más dificultades para reconocer rostros negros que blancos en ciertos entornos, lo que plantea preocupaciones sobre la discriminación racial. Además, un algoritmo utilizado por el Ministerio del Interior para identificar matrimonios falsos parecía señalar de manera desproporcionada a personas de ciertas nacionalidades.
La inteligencia artificial se basa en gran medida en grandes conjuntos de datos para su entrenamiento, y en ocasiones, los resultados pueden ser impredecibles incluso para aquellos que diseñaron las herramientas. Si los datos utilizados reflejan sesgos o discriminación, existe un riesgo significativo de que la IA produzca decisiones discriminatorias.
Rishi Sunak, el canciller del Exchequer del Reino Unido, ha elogiado la capacidad de la IA para transformar los servicios públicos, desde la educación hasta la atención médica. Sin embargo, su uso en el sector público ha sido motivo de controversia, como se vio en los Países Bajos, donde las autoridades fiscales fueron multadas con 3.7 millones de euros por decisiones equivocadas que llevaron a decenas de miles de familias a la pobreza en un programa de detección de fraudes en las prestaciones de cuidado infantil.
Expertos en el Reino Unido expresan su preocupación de que se repita una situación similar, ya que los funcionarios británicos utilizan algoritmos mal comprendidos para tomar decisiones que afectan significativamente la vida de las personas, sin que estas últimas tengan conocimiento de ello. Además, la abolición a principios de este año de una junta asesora gubernamental independiente que supervisaba el uso de la IA en el sector público ha elevado las preocupaciones sobre la falta de responsabilidad.
Marion Oswald, profesora de derecho en la Universidad de Northumbria y ex miembro de la junta asesora del gobierno sobre ética de datos, expresó su preocupación por la falta de transparencia en el uso de la IA en el sector público, señalando que muchas personas se ven afectadas por estas decisiones sin entender por qué se utilizan algoritmos y sin la oportunidad de cuestionarlos.
Rishi Sunak convocará una cumbre internacional sobre la seguridad de la IA en Bletchley Park la próxima semana, centrándose en la amenaza potencial que representan los modelos algorítmicos avanzados para la humanidad. A pesar de la promoción de la IA en el gobierno, la investigación de ese medio subraya la necesidad de abordar cuestiones críticas relacionadas con la ética, la transparencia y la equidad en el uso de la IA en la toma de decisiones gubernamentales.
Fuente: Tribuna