La nueva desigualdad en la sociedad digital: cómo los algorítmos están haciendo de las suyas1/29/2024 Pamela Irazú Ramírez IbarraLa Inteligencia Artificial (IA) se ha vuelto la estrella del espectáculo a partir de la normalización de herramientas como ChatGTP, ChatSonic o Google Bard. También sabemos que se utiliza para hacer recomendaciones personalizadas de compras en Internet basándose en nuestros comportamientos en línea. Y por supuesto, todos hemos pasado por la ironía de que un robot nos pida asegurar que no somos un robot para accesar a algún servicio web. La IA se basa en modelos algorítmicos que han sido diseñados con el objetivo de imitar la inteligencia humana mediante el uso de grandes cantidades de datos y el aprendizaje predictivo para la toma de decisiones. Su uso ya es tán extendido que la gobernanza algorítmica está dando forma a cómo funcionan nuestras sociedades, como apunta Zajko (2022). En el nivel macro e industrial, estamos viendo un montón de ventajas con la aplicación de estas herramientas. Desde servicios bancarios más eficientes, predicciones de ventas más precisas, hasta la personalización de servicios. Incluso, la tecnología está siendo utilizada para abordar problemas medioambientales como la deforestación a través del uso de drones. Y en nuestra vida diaria, ¡la IA se ha vuelto nuestra mejor amiga! Desde el reconocimiento facial en nuestros teléfonos que nos facilita el acceso, hasta los asistentes virtuales como Siri o Alexa que nos ayudan con tareas y responden a nuestras preguntas. La conveniencia que nos brindan estas aplicaciones individuales es increíble. ¡La IA está realmente transformando la forma en que vivimos y trabajamos! 🌐📱💻 Pero, ¿es todo realmente miel sobre hojuelas? Desde el lado más social y sociológico, se están planteando preguntas serias sobre el poder social que los modelos algorítmicos pueden tener. Estos cuestionamientos abarcan tres puntos relevantes: 1) la equidad en la comprensión del sistema de datificación, 2) la recopilación y análisis de big data y, 3) las desigualdades en el trato (Ragnedda, 2020). Analizaremos estos puntos clave brevemente. Equidad en el conocimiento: ¿Estamos todos en la misma página cuando se trata de entender cómo funcionan estos sistemas de datificación? La verdad es que no todos caemos en cuenta de cómo los datos que soltamos en la red pueden influir hasta en la sopa que comemos. Y aquí entra en escena el desigual reparto de conocimiento: la gente tiene niveles distintos de entender cómo los algoritmos moldean nuestra visión del mundo, ya sea filtrando la info que recibimos o reforzando ideales que son más aceptados que el sol en verano (Ragnedda, 2020). Como ejemplo de esto, las cookies son las reinas. Esas chismosas entran a nuestro espacio cibernético como si fueran un regalo, recopilando datos de nuestras andanzas online para crear un perfil detallado de nosotros. Y no todos nos damos cuenta de que estamos regalando información tan valiosa sin obtener nada a cambio. Lo peor es que muchos no tenemos ni idea del papel que juegan los algoritmos cuando filtran y seleccionan información en "nuestro nombre" (porque, sinceramente, ¿quién lee las condiciones y siempre damos click en "aceptar cookies"?). Y ahí estamos, expuestos a la manipulación de los que diseñan estos filtros. ¡Es un mundo salvaje allá afuera en el ciberespacio! 🌐🍪💻 Inequidad en las bases de datos: ¿Hay un sesgo en la recopilación y análisis de datos? Resulta que los datos que alimentan a los algoritmos y sistemas de inteligencia artificial están más sesgados que un juego de cartas marcadas. Se trata de un sesgo profundo en términos de raza, estatus socioeconómico, género y discapacidad, justo siguiendo las líneas principales de las desigualdades sociales. Y lo peor es que este sesgo se cuece desde las bases del sistema, metiéndose en cada rincón y añadiendo capas nuevas a las injusticias que ya existen. Te pongo un ejemplo: la toma de decisiones automatizada para cosas como préstamos, hipotecas y oportunidades laborales. Los algoritmos aprenden a juzgar candidatos y situaciones a partir de datos que, desde el principio, ya están cargados con creencias preexistentes. Es como si los algoritmos fueran niños absorbiendo prejuicios del ambiente en el que crecen, reproduciéndolos sin darse cuenta. Es un círculo vicioso de discriminación que se perpetúa. 🔄💻🤖 Inequidad en el trato: ¿Está el trato que recibimos de estos algoritmos en pie de igualdad? Si unos cuantos “genios” crean un sistema con datos que favorecen a los de siempre y perpetúan las desigualdades, la realidad es que los que se llevan la peor parte son los más vulnerables. El sistema se arma sin tomar en cuenta lo que le importa a esa gente, y al final son ellos los que pagan las consecuencias. Un desastre total. 🌐💔 Los datos sesgados son como veneno para los algoritmos. Cuando estos modelos de inteligencia artificial se entrenan con información sesgada, perpetúan y amplifican las desigualdades existentes. Resultado: discriminación a la orden del día. Los ciudadanos son tratados de manera diferente según sus características sociodemográficas y socioeconómicas, todo porque los algoritmos están operando con datos que reflejan y refuerzan los prejuicios y desigualdades presentes en la sociedad. Es un círculo vicioso que puede tener consecuencias negativas y a veces injustas para ciertos grupos. Un ejemplo bien documentado es el que muestra Noble (2018) sobre las búsquedas en Google de black girls, cuyos resultados generalmente mostraban contenido mujeres negras semidesnudas. Todo lo anterior deja claro que las cuestiones sociales son como el ingrediente secreto en el desarrollo de estas nuevas tecnologías algorítmicas. Aunque los cerebros detrás de la inteligencia artificial sean genios, a veces se les escapa (¿o no quieren?) entender bien los aspectos sociales que se mezclan con sus creaciones. Aquí la responsabilidad y el derecho son cosa de todos nosotros, los usuarios. Tenemos el derecho de saber, entender y cuestionar cómo funcionan estos algoritmos que toman decisiones sobre nosotros. Eso es lo que llamamos el derecho a la explicación, la chispa que enciende la llama para que nosotros, como ciudadanos, exijamos que estos modelos algorítmicos no solo sean poderosos, sino también justos. ¡Nadie quiere que aumenten las desigualdades que ya son bastante grandes entre nosotros! 🌐💡👥 ReferenciasNoble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism. New York University Press. Ragnedda, M. (2020). New Digital Inequalities. Algorithms Divide. En M. Ragnedda, Enhancing Digital Equity (pp. 61–83). Springer International Publishing. https://doi.org/10.1007/978-3-030-49079-9_4 Zajko, M. (2022). Artificial intelligence, algorithms, and social inequality: Sociological contributions to contemporary debates. Sociology Compass, 16(3), e12962. https://doi.org/10.1111/soc4.12962
18 Comments
Adriana Martínez Martínez*22 de enero de 2024 La industria automotriz (IA) mantiene su relevancia a nivel global, regional y local; aunque enfrenta un futuro complejo e incierto. Diversas tendencias están redefiniendo el presente de esta industria y previsiblemente tendrán repercusiones en su evolución. La primera de estas tendencias es la creciente demanda de vehículos eléctricos (VE), respaldada por avances tecnológicos en las baterías y la reducción de sus costos. Además, su promesa de ser menos contaminantes que los vehículos de combustión interna los coloca en el centro de los cambios de la IA. Otro factor significativo es el desarrollo de vehículos autónomos, la conducción autónoma avanza rápidamente y podría convertirse en una en el futuro cercano. Esto podría transformar la IA en una industria de movilidad, donde la propiedad de los automóviles pase a un segundo plano, y los usuarios busquen simplemente su transportación. La conectividad impulsada por el avance del Internet de las cosas (IoT), también está remodelando la industria. Actualmente, los vehículos conectados a internet son más comunes, algunos incluso cuentan con infotenimiento en lugar de tableros tradicionales, brindando a los usuarios información útil sobre una amplia gama de funciones en el automóvil. El uso creciente de la inteligencia artificial se observa tanto en la fabricación como en la conducción autónoma, evidenciado la creciente integración de tecnología en los vehículos. La sostenibilidad se ha convertido en una prioridad para la IA, respondiendo a la creciente preocupación de los consumidores por el impacto ambiental de sus vehículos. Esto también está llevando a empresas autopartistas a centrarse en impulsar una mayor eficiencia de combustible. En la fabricación sostenible, destacan tres estrategias, 1) implementación de prácticas sostenibles en la producción de vehículos y autopartes, así como en su operación y mantenimiento; 2) reducción de emisiones de CO2, y 3) la implementación de prácticas de economía circular en la producción y uso de materiales. Además, hay un mayor enfoque en la seguridad, con funciones como frenado automático de emergencia, detección de objetos en el camino y desarrollo de sistemas de conducción autónoma. Finalmente, la aparición de mega-clientes que, a través de su demanda, pueden inclinar la producción de automóviles hacia alguna de las posibles vertientes. Enfoquémonos en la producción de vehículos, donde las OEMs (fabricantes de equipos originales) están apostando por dos vertientes: Producción de vehículos de hidrógeno: En este ámbito, destacan diversas empresas líderes. Toyota ha lanzado su modelo Mirai, un sedán de pila de combustible de hidrógeno. Hyundai, por su parte, ha presentado el Nexo, un SUV de tecnología de pila de combustible de hidrógeno. La compañía también está trabajando en el desarrollo de camiones y autobuses de hidrógeno. Honda ha lanzado su modelo Clarity Fuel Cell, un sedán de pila de combustible, y al igual que Toyota y Hyundai, también trabaja en el desarrollo de camiones y autobuses de hidrógeno. Mercedes-Benz ha introducido su modelo GLC F-Cell, un SUV de pila de combustible de hidrógeno que combina esta tecnología con una batería eléctrica. Por su parte, General Motors: General Motors está invirtiendo en la tecnología de hidrógeno y ha desarrollado un camión de celda de combustible llamado Surus (Silent Utility Rover Universal Superstructure). Producción de vehículos eléctricos: En este campo, numerosos fabricantes de automóviles están apostando fuertemente por la tecnología de vehículos eléctricos, considerada una de las principales tendencias en la IA. Tesla destaca como líder exclusivo en la fabricación de vehículos eléctricos. General Motors ha anunciado planes para electrificar la mayoría de sus vehículos para 2035, invirtiendo en modelos como el Chevy Bolt y el Cadillac Lyriq. Ford tiene planes de invertir $ 22 mil millones en vehículos eléctricos hasta 2025, con el lanzamiento del SUV totalmente eléctrico Mustang Mach-E. Por su parte, Volkswagen ha presentado varios modelos eléctricos, como el ID.4 y el Audi e-tron. Finalmente, Nissan ha sido pionero en la producción de vehículos eléctricos de masas con su modelo Leaf y continúa invirtiendo en esta tecnología. La introducción de los vehículos eléctricos implica cambios en componentes clave, como el motor, la transmisión y el sistema de escape que se eliminan o reducen; y destacando las baterías como un componente crítico. En lugar de motores y transmisiones de combustión interna, los vehículos eléctricos utilizan sistemas de propulsión eléctricos. Además, surge una industria en desarrollo para sistemas de carga en hogares, estaciones públicas y de carga rápida. A manera de conclusión Podemos señalar que la industria automotriz se encuentra inmersa en una fase de transformación sin precedentes, impulsada por las tendencias de electrificación, autonomía y conectividad. La apuesta de las OEMs por vehículos de hidrógeno y eléctricos refleja un compromiso hacia la sostenibilidad y la innovación. Este cambio hacia tecnologías más limpias no solo redefine los componentes clave de los vehículos, sino que también está dando forma a nuevos modelos de movilidad y formas de propiedad. A medida que estas tecnologías avanzan, las empresas enfrentan el desafío de adaptarse a un entorno normativo en constante evolución y satisfacer las cambiantes preferencias del consumidor. Interrogantes que debemos tratar de responder y que nos llevan a nuevas líneas de investigación son:
Estas nuevas líneas de discusión pueden ayudarnos a ampliar nuestra visión sobre los desafíos y oportunidades que enfrenta la industria automotriz en su búsqueda de un futuro más sostenible e innovador. Algunos de estos temas serán tratados en nuestro X Seminario de Industria 4.0 y Convergencia Tecnológica que se llevará a cabo el 5 y 6 de septiembre, mantente al pendiente de la información a través de nuestra página y redes sociales.
|