¿Qué es la inteligencia artificial y por qué puede entrañar riesgos?
Los ordenadores pueden realizar ciertas funciones, como el procesamiento de datos, más rápidamente y con más precisión que un humano. Las aplicaciones que emplean la denominada “inteligencia artificial” (IA) son cada vez más comunes en distintos ámbitos de la vida cotidiana como las finanzas, la medicina y la educación.
Sin embargo, depender de la IA también conlleva riesgos, especialmente cuando se toman decisiones sin supervisión humana. El aprendizaje automático se basa en el reconocimiento de patrones dentro de los conjuntos de datos. Los problemas surgen cuando los datos disponibles reflejan un sesgo social.
La inteligencia artificial y la toma de decisiones
Que nos concedan un crédito, acceder a un empleo o recibir un determinado tratamiento médico son procesos que implican una decisión que puede verse influida de manera determinante por la inteligencia artificial y los llamados “sistemas de decisión algorítmica” o “ADS”, por sus siglas en inglés. La toma de decisiones automatizada puede, por lo tanto, perpetuar las divisiones sociales. Se ha descubierto, por ejemplo, que algunos algoritmos de contratación reproducen la brecha salarial discriminatoria con las mujeres que existe en la sociedad.
Cómo proteger a los consumidores en la era de la IA
El desarrollo de la IA y los procesos automatizados de toma de decisiones también presentan desafíos para la confianza y el bienestar del consumidor. Cuando los consumidores interactúan con un sistema de este tipo, se les debe informar adecuadamente sobre cómo funciona.
La posición del Parlamento
Los eurodiputados han instado a la Comisión Europea a que examine si es necesario adoptar medidas adicionales para proteger a los consumidores ,en una resolución de la comisión parlamentaria de Mercado Interior, el 23 de enero.
La Comisión debería aclarar cómo va a garantizar que los consumidores estén protegidos ante prácticas comerciales desleales y / o discriminatorias, o de los riesgos que conllevan los servicios profesionales impulsados por la inteligencia artificial. Asimismo, tendría que garantizar una mayor transparencia en estos procesos y asegurarse de que solo se utilicen conjuntos de datos de alta calidad y sin sesgos en ADS.
"Tenemos que asegurarnos de que se garantice la protección y la confianza del consumidor, que las normas de la UE sobre seguridad y responsabilidad por productos y servicios sean adecuadas para la era digital", señaló la presidenta de la comisión de Mercado Interior del PE, Petra De Sutter.
Próximos pasos
La resolución se votará durante la sesión plenaria de febrero. Después de eso, se transmitirá al Consejo de la UE (Estados miembros) y a la Comisión. La Comisión debería presentar sus planes para un enfoque europeo de la IA, el 19 de febrero de 2020.
|
