Los consumidores ven el potencial de la inteligencia artificial pero plantean serias preocupaciones

INTELIGENCIA ARTIFICIAL: Genera inquietud lo relativo al tratamiento de datos personales y el sesgo discriminatorio que pueden introducir los procesos automatizado
Genera inquietud lo relativo al tratamiento de datos personales y el sesgo discriminatorio que pueden introducir los procesos automatizados.

Compartir

Share on facebook
Share on linkedin
Share on twitter
Share on email

La pandemia releva la utilidad de la tecnología en circunstancias extremas, con herramientas como el Radar Covid, aunque muchos dudan del tratamiento inocuo de los datos personales

Los consumidores europeos creen que la inteligencia artificial (IA) puede aportar beneficios, pero cuando se les pide que evalúen el valor añadido de una serie de servicios específicos que ya usan hoy en día (como asistentes virtuales o la publicidad en sitios de comercio electrónico), la mayoría manifiesta sus dudas. Es la conclusión que se desprende de un estudio llevado a cabo por la asociación de consumo europea BEUC, a la que pertenece ASUFIN, sobre grupos de consumidores en nueve países de la UE, publicada hoy.

Las dudas que plantea el tratamiento de los datos personales para perfeccionar y automatizar procesos se han puesto de manifiesto estos últimos meses como consecuencia de hacer un mejor seguimiento de la pandemia, con herramientas como el Radar Covid. Muchos consumidores desconfían del uso que se haga de estos datos ante temas tan sensibles como la propia salud, sin embargo, se han mostrado como herramientas muy eficaces en países como Corea del Sur.

¡SÍGUENOS EN FACEBOOK PARA NO PERDERTE NADA!

Los participantes de la encuesta de BEUC expresaron sus preocupaciones en ese sentido, como que la IA puede dar lugar a un mal uso de los datos personales. De hecho, cuando se trata de tecnologías particularmente intrusivas, como el reconocimiento de voz, muchos consumidores –hasta el 68% en Alemania y el 71% en Bélgica- tienen poca confianza en que su privacidad esté protegida.

Un gran número de encuestados dice que no cree que la legislación actual sea adecuada para regular eficazmente las actividades basadas en la inteligencia artificial. Sólo una quinta parte de los encuestados dice que las normas actuales los protegen del posible daño que supone la IA. Por lo tanto, los planes de la UE para una ley sobre la IA están muy en línea con las expectativas de la gente.

SUSCRÍBETE A NUSTRA NEWSLETTER DE FINTECH

La encuesta muestra que los consumidores confían en el potencial de la IA, pero quieren mantener el control. Más de dos tercios de los encuestados dicen que los usuarios deberían tener derecho a decir “no” a la toma de decisiones automatizada. Este número es significativamente superior en Italia y Portugal, donde se eleva al 78%, y en España, donde escala al 80%.

Los datos recabados por BEUC están en línea con el I Estudio sobre hábitos y uso de las Fintech elaborado por ASUFIN a finales del pasado año. En concreto, en aquella encuesta realizada a consumidores de nuestro país se concluía que existe un grado de desconfianza muy alto en las grandes tecnológicas que tratan nuestros datos, mayor si cabe con respecto a otras instituciones y organismos públicos como la Agencia Tributaria, la Seguridad Social o los tribunales.

Otras conclusiones de la encuesta de BEUC:

  • El conocimiento de la IA es todavía relativamente bajo, con el 21% de los consumidores europeos que no han oído hablar de ellos o que no perciben su presencia.
  • Los consumidores esperan que los servicios que se prestan en base a los cálculos de inteligencia artificial puedan ayudar a prevenir los accidentes de tráfico (91%), a prevenir cuestiones relativas a la salud (87%) o ayudar en sus problemas financieros (81%).
  • Muchos consumidores también plantean serias preocupaciones, ya que hasta cinco de cada diez declara que la IA conducirá a una discriminación injusta, debido al sesgo que introduce la automatización intensa de los procesos.
 
INTELIGENCIA ARTIFICIAL

Desde BEUC se considera “preocupante” que la mayoría de los consumidores no confíen en que su privacidad esté protegida cuando utilizan herramientas de IA como relojes inteligentes o asistentes de voz: “Los consumidores nos dicen que les preocupa el riesgo de que las empresas y los gobiernos puedan desplegar la IA para manipular sus decisiones y que la IA conduzca a una discriminación injusta. Los legisladores de la UE deben tomarse en serio estas preocupaciones y asegurarse de que los consumidores están protegidos y pueden confiar en esta tecnología”.

Monique Goyens, directora general de BEUC: “Las actuales normas de protección del consumidor, la privacidad y la responsabilidad simplemente no son adecuadas para proteger a los consumidores de las consecuencias negativas de la IA. La UE tiene previsto proponer normas sobre la IA: se necesitan con urgencia. Los consumidores deben ser protegidos de riesgos como la discriminación o la manipulación”.

Patricia Suárez, presidenta de ASUFIN: “Para los consumidores siempre es mejor elegir. Lo que tenemos que conseguir es usuarios informados para que la elección sea nuestra y no nos la impongan. Las grandes tecnológicas disponen de numerosos datos personales nuestros, sin que muchas veces seamos conscientes. Los reguladores están deberán estar vigilantes porque el riesgo radica en cómo se utilicen nuestros datos”.

BEUC – The Consumer voice in Europe – Artificial integillence: what consumers say

Suscríbete a nuestra newsletter

Todas las noticias de Asufin.tech en tu mail

También te puede interesar