La nueva desigualdad en la sociedad digital: cómo los algorítmos están haciendo de las suyas1/29/2024 Pamela Irazú Ramírez IbarraLa Inteligencia Artificial (IA) se ha vuelto la estrella del espectáculo a partir de la normalización de herramientas como ChatGTP, ChatSonic o Google Bard. También sabemos que se utiliza para hacer recomendaciones personalizadas de compras en Internet basándose en nuestros comportamientos en línea. Y por supuesto, todos hemos pasado por la ironía de que un robot nos pida asegurar que no somos un robot para accesar a algún servicio web. La IA se basa en modelos algorítmicos que han sido diseñados con el objetivo de imitar la inteligencia humana mediante el uso de grandes cantidades de datos y el aprendizaje predictivo para la toma de decisiones. Su uso ya es tán extendido que la gobernanza algorítmica está dando forma a cómo funcionan nuestras sociedades, como apunta Zajko (2022). En el nivel macro e industrial, estamos viendo un montón de ventajas con la aplicación de estas herramientas. Desde servicios bancarios más eficientes, predicciones de ventas más precisas, hasta la personalización de servicios. Incluso, la tecnología está siendo utilizada para abordar problemas medioambientales como la deforestación a través del uso de drones. Y en nuestra vida diaria, ¡la IA se ha vuelto nuestra mejor amiga! Desde el reconocimiento facial en nuestros teléfonos que nos facilita el acceso, hasta los asistentes virtuales como Siri o Alexa que nos ayudan con tareas y responden a nuestras preguntas. La conveniencia que nos brindan estas aplicaciones individuales es increíble. ¡La IA está realmente transformando la forma en que vivimos y trabajamos! 🌐📱💻 Pero, ¿es todo realmente miel sobre hojuelas? Desde el lado más social y sociológico, se están planteando preguntas serias sobre el poder social que los modelos algorítmicos pueden tener. Estos cuestionamientos abarcan tres puntos relevantes: 1) la equidad en la comprensión del sistema de datificación, 2) la recopilación y análisis de big data y, 3) las desigualdades en el trato (Ragnedda, 2020). Analizaremos estos puntos clave brevemente. Equidad en el conocimiento: ¿Estamos todos en la misma página cuando se trata de entender cómo funcionan estos sistemas de datificación? La verdad es que no todos caemos en cuenta de cómo los datos que soltamos en la red pueden influir hasta en la sopa que comemos. Y aquí entra en escena el desigual reparto de conocimiento: la gente tiene niveles distintos de entender cómo los algoritmos moldean nuestra visión del mundo, ya sea filtrando la info que recibimos o reforzando ideales que son más aceptados que el sol en verano (Ragnedda, 2020). Como ejemplo de esto, las cookies son las reinas. Esas chismosas entran a nuestro espacio cibernético como si fueran un regalo, recopilando datos de nuestras andanzas online para crear un perfil detallado de nosotros. Y no todos nos damos cuenta de que estamos regalando información tan valiosa sin obtener nada a cambio. Lo peor es que muchos no tenemos ni idea del papel que juegan los algoritmos cuando filtran y seleccionan información en "nuestro nombre" (porque, sinceramente, ¿quién lee las condiciones y siempre damos click en "aceptar cookies"?). Y ahí estamos, expuestos a la manipulación de los que diseñan estos filtros. ¡Es un mundo salvaje allá afuera en el ciberespacio! 🌐🍪💻 Inequidad en las bases de datos: ¿Hay un sesgo en la recopilación y análisis de datos? Resulta que los datos que alimentan a los algoritmos y sistemas de inteligencia artificial están más sesgados que un juego de cartas marcadas. Se trata de un sesgo profundo en términos de raza, estatus socioeconómico, género y discapacidad, justo siguiendo las líneas principales de las desigualdades sociales. Y lo peor es que este sesgo se cuece desde las bases del sistema, metiéndose en cada rincón y añadiendo capas nuevas a las injusticias que ya existen. Te pongo un ejemplo: la toma de decisiones automatizada para cosas como préstamos, hipotecas y oportunidades laborales. Los algoritmos aprenden a juzgar candidatos y situaciones a partir de datos que, desde el principio, ya están cargados con creencias preexistentes. Es como si los algoritmos fueran niños absorbiendo prejuicios del ambiente en el que crecen, reproduciéndolos sin darse cuenta. Es un círculo vicioso de discriminación que se perpetúa. 🔄💻🤖 Inequidad en el trato: ¿Está el trato que recibimos de estos algoritmos en pie de igualdad? Si unos cuantos “genios” crean un sistema con datos que favorecen a los de siempre y perpetúan las desigualdades, la realidad es que los que se llevan la peor parte son los más vulnerables. El sistema se arma sin tomar en cuenta lo que le importa a esa gente, y al final son ellos los que pagan las consecuencias. Un desastre total. 🌐💔 Los datos sesgados son como veneno para los algoritmos. Cuando estos modelos de inteligencia artificial se entrenan con información sesgada, perpetúan y amplifican las desigualdades existentes. Resultado: discriminación a la orden del día. Los ciudadanos son tratados de manera diferente según sus características sociodemográficas y socioeconómicas, todo porque los algoritmos están operando con datos que reflejan y refuerzan los prejuicios y desigualdades presentes en la sociedad. Es un círculo vicioso que puede tener consecuencias negativas y a veces injustas para ciertos grupos. Un ejemplo bien documentado es el que muestra Noble (2018) sobre las búsquedas en Google de black girls, cuyos resultados generalmente mostraban contenido mujeres negras semidesnudas. Todo lo anterior deja claro que las cuestiones sociales son como el ingrediente secreto en el desarrollo de estas nuevas tecnologías algorítmicas. Aunque los cerebros detrás de la inteligencia artificial sean genios, a veces se les escapa (¿o no quieren?) entender bien los aspectos sociales que se mezclan con sus creaciones. Aquí la responsabilidad y el derecho son cosa de todos nosotros, los usuarios. Tenemos el derecho de saber, entender y cuestionar cómo funcionan estos algoritmos que toman decisiones sobre nosotros. Eso es lo que llamamos el derecho a la explicación, la chispa que enciende la llama para que nosotros, como ciudadanos, exijamos que estos modelos algorítmicos no solo sean poderosos, sino también justos. ¡Nadie quiere que aumenten las desigualdades que ya son bastante grandes entre nosotros! 🌐💡👥 ReferenciasNoble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism. New York University Press. Ragnedda, M. (2020). New Digital Inequalities. Algorithms Divide. En M. Ragnedda, Enhancing Digital Equity (pp. 61–83). Springer International Publishing. https://doi.org/10.1007/978-3-030-49079-9_4 Zajko, M. (2022). Artificial intelligence, algorithms, and social inequality: Sociological contributions to contemporary debates. Sociology Compass, 16(3), e12962. https://doi.org/10.1111/soc4.12962
18 Comments
Julieta
1/30/2024 06:02:34 am
Felicidades. Me gustó porque se me hizo muy buena redacción para explicar el artículo.
Reply
Socorro Mendoza
1/30/2024 06:23:15 am
Es una excelente reflexión la que has hecho y de la que tenemos que tomar en cuenta. Tienes toda la razón en tus comentarios. Estío de acuerdo en que no debe haber desigualdad porque todos somos iguales. Felicidades. Espero consigas lo que buscas.
Reply
Martha
1/30/2024 09:15:52 am
Considero que es un tema de interés hoy en día, ya que para realizar absolutamente todas nuestras actividades de la vida cotidiana, estamos haciendo uso de la inteligencia artificial, que como sabemos es une herramienta de muchísima ayuda si es que le sabemos dar un buen uso. En particular lo veo desde el momento en el que incluso ya no tenemos que salir por los productos que requerimos, hay personas que por medio de una app nos lo traen. Me gustó que usa palabras de fácil comprensión y que todos estamos muy familiarizados con el tema que para generaciones más antiguas es todo un reto.
Reply
Margit
1/31/2024 06:16:33 am
Excelente explicación que nos lleva a reflexionar sobre la importancia de cuidar nuestra privacidad.
Reply
Yuliana
1/31/2024 02:37:16 pm
Considero que la inteligencia artificial es un tema muy controversial, debido a que es un gran cambio para la sociedad; sin embargo, pocas personas nos ponemos a pensar en los prejuicios que está trae consigo y peor aún, que aceptamos cosas (como las cookies) sin abundar en el tema.
Reply
Ilse Hinojosa Aguilar
1/31/2024 03:00:34 pm
Realmente es una reflexión super importante y necesaria ante todos los avances que presenta la tecnología mediante la inteligencia artificial y como nosotros hacemos uso de esta a veces sin siquiera notarlo; tal cual las cookies, es muy cierto que simplemente las aceptamos y no sabemos que es lo que estamos dejando entrar, aun que también es super impresionante el como haces una búsqueda de algo en específico y de repente ya aparece en todos lados, es ahí cuando debemos tener más cuidado con la tecnología y que aceptamos.
Reply
Luis Alfredo
1/31/2024 03:11:19 pm
Realmente, fue muy interesante tomarme unos cuantos minutos para leer de texto que realmente es muy interesante, enriquecedor ya que siendo de una generación Centennial no conocía muchas cosas como lo que implica aceptar "las cookies” que en cierto modo es como regalar tu información a desconocidos y que poco a poco te vayan analizando con el algoritmo.
Reply
Gabriela Rodríguez Jantes
1/31/2024 03:40:33 pm
En lo personal este tema me interesa mucho, ya que a estas alturas hay varias cosas de la IA que desconozco, después de leer este texto se me hizo más sencillo comprender el impacto positivo, pero sin dejar de lado todo lo negativo que puede tener en nuestras vidas el uso de la inteligencia artificial, es inevitable estar cerca de ella, ya que es necesaria para muchas de nuestras actividades. Sin embargo, es importante considerar los riesgos a los que estamos expuestos al digitalizar todo lo que nos rodea, creo que es importante ser responsables en los usos que le damos y la importancia que tiene el ser responsables con lo que podemos encontrar en las redes.
Reply
Aranzazu Butanda
1/31/2024 06:56:56 pm
En muchas ocasiones creemos que es por obra del destino que aparecen anuncios sobre productos o servicios que nos interesan y que hemos investigado, pero sólo son los algoritmos haciendo de las suyas. Creo que a veces nos cuesta un poco dimensionar todo lo que la IA puede hacer y cómo es puede obtener información de nosotros. El uso que debemos de tener con las plataformas debe ser adecuado y responsable, tenemos acceso a cualquier tipo de información y debemos ser cuidadosos con lo que aceptamos y consumimos.
Reply
Azucena Maldonado
1/31/2024 08:44:38 pm
Creo que poco había analizado la postura de desigualdad con el uso de la IA. Ciertamente, hago y hacemos uso extenuante de ella, sin embargo, no había contemplado ese caso dado que para mí es "habitual" (puedo verlo sesgado) por el acceso al que he tenido. Los factores sociodemográficos y socioeconómicos influyen directamente en nuestra percepción sobre esto, pero, a mí la cuestión que me inquietó es sobre si es algo que se hace de manera inconsciente o como tal es razonado y aplicado por los creadores de manera intencional.
Reply
Leslie Caudillo S.
1/31/2024 09:49:07 pm
Al leer dicho artículo me pude percatar que las generaciones actuales estamos sumamente inmiscuidos con el la poderosa inteligencia artificial. Me toma por sorpresa que muchas de las personas no tomen la importancia de aceptar las cookies en cualquier página a la que nos adentramos, pareciera que es algo inofensivo cuando claramente puede llegar a ser invasivo.
Reply
Teresita Navarro Meza
2/1/2024 06:10:01 am
Me pareció muy interesante la lectura, me ha puesto a pensar sobre como la IA ha ido entrando en nuestro ritmo de vida y como los algoritmos influencian en nuestra navegación en la web, sobre todo cuando no somos conscientes de leer términos y condiciones de ciertas paginas a las que acedemos al aceptar las cookies. Un dato sorprende es el cómo inclusive a través de la IA se da la desigualdad por los algoritmos que toman en cuenta las situaciones sociodemográficas y socioeconómicas.
Reply
Karla Denisse Rico
2/2/2024 08:05:17 am
Nunca me había puesto a pensar acerca del tema de las cookies y es cierto, en toda investigación que realizamos simplemente le ponemos aceptar sin saber que es lo que significa , considero que la IA ha tenido mucho impacto en nuestra vida y sobre todo en nuestra generación ya que todo ha ido cambiado, como el hecho de que ya las ventas también surgen de ahí, y siento que hasta cierto punto la IA nos podría sustituir en algún momento. Es un tema muy interesante que tenemos que tomar en cuenta.
Reply
Stephani Fernández
2/3/2024 05:09:12 pm
Creo que es algo muy importante tomar consciencia de los peligros a los que nos exponemos en internet, desafortunadamente desde el plagio, hasta el mal uso que se hace de la información que proporcionamos. Todo esto es muy importante para nuestra protección pero también para el mundo que estamos moldeando con cada una de nuestras decisiones.
Reply
Laura Ximena Vargas Aguilar
2/5/2024 12:48:08 pm
Considero que es un artículo muy interesante que aborda temas actuales, como la inteligencia artificial, algo que llamo mucho mi atención fue el tema de las cookies yo desconocía toda la información que se obtenía al darle aceptar.
Reply
Luis Alfredo Mares Rocha
2/29/2024 08:05:00 am
Realmente el artículo, me parece muy interesante ya que pues nos habla acerca del amor en las plataformas digitales, por mi parte pues opino que pues realmente te da conocer nuevas experiencias, pero él el Aldo de la seguridad y la integridad queda de por medio y a veces te pones a pensar con qué persona está detrás de la pantalla.
Reply
Ivanna Gutiérrez
3/2/2024 08:30:39 pm
Es tan interesante el ver cómo es que cada día va en aumento el uso de las IAS por los seres humanos, y cómo ésta nos va reemplazando poco a poco.
Reply
Arleth Alamilla
6/5/2024 10:08:21 pm
El artículo ofrece una perspectiva muy completa sobre el impacto de la inteligencia artificial en nuestra vida cotidiana y en la sociedad en general. Destaca tanto las ventajas como los desafíos que presenta esta tecnología. Además, resalta la importancia de la responsabilidad y el derecho a la explicación por parte de los usuarios para garantizar que estos modelos algorítmicos sean poderosos y justos. Desde mi perspectiva, este artículo es un llamado importante a la reflexión y la acción en un mundo cada vez más dominado por la IA.
Reply
Leave a Reply. |