Una mujer demuestra cómo funciona una aplicación de
inteligencia artificial en robótica durante una conferencia en Ginebra. ITU
De la mesa de redacciónDe nuestra asociada RNU
Las potentes herramientas digitales que utilizan software de
inteligencia artificial ayudan en la lucha contra la COVID-19 y tienen el
potencial de mejorar el mundo de muchas otras formas. Sin embargo, a medida que
la inteligencia artificial se infiltra en más áreas de la vida diaria, se hace
evidente que su mal uso puede provocar daños graves. Por ese motivo, las
Naciones Unidas piden una regulación internacional sólida de la tecnología.
Aunque la inteligencia artificial evoca imágenes de máquinas
que son capaces de pensar y actuar como las personas humanas, la realidad es
más prosaica y tiende a usarse para describir softwares que pueden, hasta
cierto punto, "aprender", resolver problemas y encontrar patrones.
Esto es particularmente útil cuando es necesario clasificar y comprender
grandes cantidades de datos.
Otro concepto erróneo es que, debido al aspecto de
autoaprendizaje de la inteligencia artificial, se garantiza que proporcionará
resultados más eficientes, confiables y superiores que cualquier cosa que los
humanos puedan obtener. Sin embargo, los ejemplos recientes de uso indebido, en
los que se ha visto cómo se han degradado incorrectamente calificaciones de
exámenes, se ha enviado a personas inocentes a la cárcel y se han robado datos
personales, son un recordatorio de que son los humanos, con todas sus
imperfecciones, quienes están detrás de los éxitos de las fallas de las
herramientas de inteligencia artificial.
Antes del lanzamiento de una guía de la ONU para comprender
la ética de la inteligencia artificial, hay cinco cosas que debe saber sobre su
uso, sus consecuencias y cómo se puede mejorar.
La Inteligencia Artificial es mucho más amplia que el uso de
robots. Unsplash/Rock'n Roll Monkey
1) Las consecuencias del mal uso pueden ser devastadoras
En enero, un hombre afroamericano en Michigan, en Estados
Unidos, fue arrestado por un delito de hurto del que no sabía nada. Fue
detenido después de ser esposado frente a su casa delante de su familia.
Se cree que este es el primer arresto injusto de este tipo:
los oficiales de policía involucrados habían confiado en una inteligencia
artificial de reconocimiento facial para atrapar al hombre, pero la herramienta
no había aprendido a reconocer las diferencias entre los rostros de los
ciudadanos negros porque las imágenes que se usaron para entrenarlo habían sido
en su mayoría de caras blancas. Por suerte, rápidamente quedó claro que no se
parecía en nada al sospechoso que se ve en una foto tomada de las cámaras de
seguridad de la tienda, y fue liberado, aunque pasó varias horas en la cárcel.
Y, en julio, hubo un alboroto en el Reino Unido, cuando los
sueños de muchos estudiantes que esperaban ir a la universidad de su elección
se frustraron, cuando se utilizó un programa para evaluar sus calificaciones,
ya que los exámenes tradicionales se habían cancelado, debido a la pandemia de
COVID-19.
Para averiguar qué calificación hubieran obtenido los
estudiantes si se hubieran presentado a los exámenes, el programa tomó las
calificaciones existentes y también tuvo en cuenta el historial de su escuela a
lo largo del tiempo. Esto terminó por penalizar a los estudiantes brillantes de
vecindarios minoritarios y de bajos ingresos, que tienen más probabilidades de
ir a escuelas que, en general, cuentan con unas calificaciones promedio más
bajas que aquellas a las que asisten estudiantes más ricos.
Estos ejemplos muestran que, para que las herramientas de
inteligencia artificial funcionen correctamente, los expertos informáticos
deben trabajar con datos de alta calidad.
Desafortunadamente, muchos de los datos que se utilizan para
entrenar la inteligencia artificial se obtienen actualmente de consumidores de
todo el mundo, a menudo sin su consentimiento explícito: los países más pobres
a menudo carecen de la capacidad para garantizar que los datos personales estén
protegidos o para proteger a sus sociedades de los dañinos ciberataques y de la
desinformación que ha aumentado desde la pandemia de COVID-19.
La inteligencia artificial sirve para procesar y analizar
grandes cantidades de datos. Unsplash/Franki Chamaki
2) El odio, la división y la mentira son buenos para los negocios
Muchas empresas de redes sociales han sido criticadas por
usar algoritmos, impulsados por inteligencia artificial, para determinados
usuarios enviándoles contenido personalizado que reforzará sus prejuicios.
Cuanto más provocador sea el contenido, más posibilidades hay de que se consuma
y se comparta.
La razón por la que estas empresas están felices de
"impulsar" contenido socialmente divisorio y polarizador a sus
usuarios, es que aumenta la probabilidad de que permanezcan más tiempo en la
plataforma, lo que mantiene felices a sus anunciantes y aumenta sus ganancias.
Esto ha llevado a la popularidad de publicaciones
extremistas y llenas de odio, difundidas por grupos que de otra manera serían
conjuntos marginales poco conocidos. Durante la pandemia de COVID-19, esa
práctica también ha llevado a la diseminación de información erróneamente
peligrosa sobre el virus, lo que podría llevar a que más personas se infecten.
El cierre de escuelas impidió a muchos estudiantes
examinarse en 2020. Unsplash/Jeswin Thomas
3) La desigualdad global se refleja en línea
Existe una sólida evidencia que sugiere que la inteligencia
artificial está desempeñando un papel en hacer que el mundo sea más desigual y
está beneficiando a una pequeña proporción de personas.
Por ejemplo, más de las tres cuartas partes de todas las
nuevas innovaciones digitales y patentes son producidas por solo 200 empresas.
De las 15 plataformas digitales más grandes que utilizamos, 11 son de Estados
Unidos, mientras que el resto son chinas.
Esto significa que las herramientas de inteligencia
artificial están diseñadas principalmente por desarrolladores en Occidente. De
hecho, estos desarrolladores son abrumadoramente hombres blancos, que también
representan la gran mayoría de los autores sobre temas de inteligencia
artificial. El caso del arresto injusto en Michigan es solo un ejemplo de los
peligros que plantea la falta de diversidad en este campo tan importante.
También significa que, para 2030, se espera que América del
Norte y China obtengan la mayor parte de las ganancias económicas, que se
espera que valgan billones de dólares, que se prevé que genere la inteligencia
artificial.
El incremento del número de datos es una herramienta clave
para los avances en la inteligencia artificial. Unsplash/Maxime Valcarce
4) Los beneficios potenciales son enormes
Esto no quiere decir que la inteligencia artificial deba
usarse menos: las innovaciones que utilizan la tecnología son inmensamente
útiles para la sociedad, como hemos visto durante la pandemia.
Los gobiernos de todo el mundo han recurrido a soluciones
digitales para nuevos problemas, desde aplicaciones de rastreo de contactos
hasta telemedicina y medicamentos entregados por drones y, con el fin de
rastrear la propagación mundial de COVID-19, la inteligencia artificial se ha
utilizado para indagar a través de grandes almacenes de datos derivados de
nuestras interacciones en las redes sociales y en línea.
Sin embargo, los beneficios van mucho más allá de la
pandemia: la inteligencia artificial puede ayudar en la lucha contra la crisis
climática, impulsando modelos que podrían ayudar a restaurar ecosistemas y
hábitats, y retardar la pérdida de biodiversidad; y salvar vidas ayudando a las
organizaciones humanitarias a dirigir mejor sus recursos donde más se
necesitan.
El problema es que las herramientas de inteligencia
artificial se están desarrollando con tanta rapidez que ni los diseñadores, ni
los accionistas corporativos ni los gobiernos han tenido tiempo de considerar
los posibles escollos de estas deslumbrantes nuevas tecnologías.
Las compañías de automóviles como Tesla usan cada vez más la
inteligencia artificial para el control de vehículos. Unsplash/David von Diemar
5) Necesitamos acordar una regulación internacional de inteligencia artificial
Por estas razones, la Organización de las Naciones Unidas
para la Educación, la Ciencia y la Cultura (UNESCO) está consultando a una
amplia gama de grupos, incluidos representantes de la sociedad civil, el sector
privado y el público en general, con el fin de establecer estándares
internacionales de inteligencia artificial y garantizar que la tecnología tenga
una sólida base ética, que abarque el estado de derecho y la promoción de los
derechos humanos.
Las áreas importantes que deben tenerse en cuenta incluyen:
• la importancia de
brindar más diversidad en este campo para reducir los sesgos y los estereotipos
raciales y de género
• el uso apropiado
de la inteligencia artificial en los sistemas judiciales para hacerlos más
justos y eficientes
• encontrar formas
de garantizar que los beneficios de la tecnología se distribuyan entre el mayor
número de personas posible
La consulta comenzó en julio de 2020, y los expertos de la
UNESCO redactaron un borrador de documento legal y global sobre la ética de la
inteligencia artificial, teniendo en cuenta sus impactos de amplio alcance,
incluido el medio ambiente y las necesidades de los países del sur.
La elaboración de reglas internacionales que rijan el uso de
la inteligencia artificial es un paso importante que nos permitirá decidir qué
valores deben consagrarse y, lo que es más importante, qué reglas deben
aplicarse.
Redacción de normas internacionales de la inteligencia
artificial
Para ayudar a explicar las oportunidades y desafíos que
plantea la inteligencia artificial, la UNESCO lanzará una nueva guía:
"Comprender la ética de la inteligencia artificial: ¿Por qué es una
preocupación de todos?" en enero de 2021.
Una de las funciones de esta agencia de la ONU es crear conciencia, educar a las personas y proporcionarles herramientas para la reflexión ética. Esta publicación permitirá a las personas de todas las edades y procedencias comprender mejor los problemas complejos relacionados con la inteligencia artificial y por qué deberían preocuparse por sus aplicaciones.
No hay comentarios:
Publicar un comentario