Los sistemas automatizados, como la inteligencia artificial (IA), son cada vez más parte integral de nuestra vida cotidiana. Desde las plataformas de redes sociales hasta las decisiones de justicia penal, pasando por los procesos de contratación, la IA está redefiniendo la manera en que interactuamos con el mundo. Sin embargo, a pesar de sus avances, la IA presenta desafíos éticos y sociales que no deben ser ignorados. Uno de los problemas más complejos es la discriminación y el sesgo inherentes que estos sistemas pueden perpetuar.

Un ejemplo significativo de esta problemática se vio en el caso de Amazon, que en 2018 abandonó un sistema de reclutamiento basado en IA debido a que mostraba sesgo en contra de las mujeres. Este algoritmo estaba diseñado para analizar currículos y predecir la idoneidad de los candidatos para diversos puestos, pero debido a la predominancia histórica de hombres en los roles tecnológicos, el sistema terminó favoreciendo a los hombres y desechando a las mujeres. Este caso pone de manifiesto cómo los sistemas automatizados, aunque diseñados para ser imparciales, pueden replicar y amplificar los sesgos de los datos sobre los que se entrenan.

El sesgo algorítmico no es exclusivo de un sector; se presenta en diferentes áreas. Las evaluaciones de riesgos en el ámbito judicial, por ejemplo, también están influenciadas por la IA. En 2016, un informe de ProPublica reveló que un software utilizado en el sistema de justicia penal estadounidense, llamado COMPAS, estaba sesgado racialmente, proporcionando puntuaciones de riesgo más altas a los afroamericanos en comparación con los blancos, incluso cuando los delitos cometidos eran similares. Este tipo de discriminación es aún más problemático cuando los algoritmos son empleados en contextos críticos como la libertad condicional o las sentencias judiciales.

La influencia de la IA sobre los procesos sociales no se limita solo a la justicia o la contratación. En el ámbito de las redes sociales, las plataformas como Facebook han sido objeto de críticas por facilitar la propagación de noticias falsas y desinformación, lo que a su vez ha tenido un impacto negativo en eventos políticos, como las elecciones presidenciales de Estados Unidos en 2016 y los disturbios en Myanmar. Las herramientas algorítmicas de estas plataformas están diseñadas para maximizar el compromiso de los usuarios, pero no siempre toman en cuenta el daño potencial que pueden causar a las sociedades y democracias al fomentar narrativas polarizadas y extremistas.

Los problemas de sesgo en la IA están profundamente relacionados con la idea de interseccionalidad, un concepto clave para comprender cómo los diferentes sistemas de opresión se entrelazan y se refuerzan mutuamente. La interseccionalidad, un término acuñado por Kimberlé Crenshaw, sugiere que las identidades sociales y las estructuras de poder no pueden ser entendidas de manera aislada. En cambio, deben ser vistas como una red de experiencias que afectan a los individuos de manera múltiple y simultánea. Por ejemplo, una mujer negra puede enfrentar discriminación no solo por su género o su raza de forma aislada, sino por la combinación de ambas características. De esta forma, los algoritmos que operan bajo lógicas que no toman en cuenta las complejidades de las identidades humanas corren el riesgo de excluir, marginalizar y dañar aún más a ciertos grupos, exacerbando las desigualdades ya existentes.

Para abordar estos problemas, no basta con mejorar la precisión de los algoritmos o hacerlos más transparentes. Es necesario un enfoque ético que integre diversas perspectivas sociales, culturales y políticas. Las empresas tecnológicas deben reconocer que sus productos no operan en un vacío, sino en un contexto social y político que influye profundamente en los resultados. La inclusión de expertos en derechos humanos, justicia social y ética debe ser una parte integral del proceso de diseño y desarrollo de inteligencia artificial. Solo a través de la integración de diversas voces se podrá mitigar el riesgo de que estos sistemas repliquen y amplifiquen las desigualdades que ya existen en la sociedad.

Por último, es fundamental que la sociedad en su conjunto sea consciente de los efectos que tiene la IA en la vida diaria. Los usuarios deben ser críticos con las tecnologías que utilizan, cuestionando cómo las plataformas y los algoritmos que emplean influyen en sus decisiones, opiniones y comportamientos. La transparencia y la rendición de cuentas son esenciales para evitar que estos sistemas sean utilizados para perpetuar injusticias o incluso para consolidar el poder de ciertos grupos sobre otros.

¿Cómo influye la exposición a noticias falsas en el comportamiento electoral?

En las democracias liberales, la influencia de las noticias falsas en el comportamiento electoral no es tan determinante como a menudo se plantea. Si los votantes fueran completamente individualizados e impresionables por factores contextuales, deberíamos observar niveles exorbitantes de volatilidad electoral en cada elección, lo cual no ocurre. De hecho, la estabilidad política tiende a prevalecer en estos sistemas, lo que sugiere que la elección del votante sigue estando influenciada por sus redes sociales construidas y bastante homogéneas, cuyas fronteras no varían drásticamente con el tiempo (Dalton 1996). Estas redes sociales afectan de manera significativa el comportamiento del votante, ya que aunque cada individuo pueda tomar decisiones más estratégicas y fuertes, sigue estando identificado y situado socialmente dentro de un grupo determinado (Corbetta y Cavazza 2009).

Una de las razones psicológicas detrás del consumo de noticias, especialmente en redes sociales, tiene que ver con un fenómeno conocido como "exposición selectiva". Investigaciones han demostrado que las personas tienden a preferir información congruente con sus creencias preexistentes (Iyengar y Hahn 2009; Iyengar et al. 2008). Este comportamiento, de acuerdo con estudios previos, permite a los individuos defender sus actitudes y creencias evitando información que podría desafiarlas, y buscando aquella que las respalde (Hart et al. 2009). Esta motivación de "defensa" se ve reforzada por el compromiso de los individuos con sus creencias preexistentes, y en el ámbito político, donde las creencias son de una naturaleza especialmente relevante y accesible, la exposición selectiva es aún más común. A medida que las redes sociales se han integrado en la vida cotidiana, resulta mucho más fácil para los usuarios participar en este tipo de exposición selectiva, ya que las plataformas sociales están diseñadas para promover contenidos que refuercen las ideas previas de los usuarios, creando lo que se denomina "burbujas de filtro" (Bessi et al. 2016; Sunstein 2001). Estas burbujas limitan la exposición a diferentes ideas y puntos de vista, reforzando las creencias existentes y reduciendo el contacto con opiniones contrarias.

En cuanto al papel de las campañas políticas en el comportamiento electoral, existe un debate sobre si la publicidad política tiene un impacto significativo en las decisiones de los votantes. La investigación sugiere dos razones principales por las cuales la publicidad electoral podría influir en la elección de los votantes: (1) proporcionando nuevos argumentos e información, y (2) aumentando la saliencia de los argumentos ya existentes. Sin embargo, ambos aspectos deben ser tratados con cautela. En primer lugar, los votantes ya han absorbido la mayoría de la información que consideran relevante antes de la campaña electoral, ya sea a través de los medios de comunicación u otras fuentes (Gelman y King 1993). De hecho, se ha demostrado que los votantes retienen solo aquella información que consideran significativa para sus creencias políticas previas (Kalla y Broockman 2018). Esto hace que sea difícil para las campañas cambiar las opiniones de los votantes mediante la presentación de nuevas posiciones de los partidos, especialmente cuando los votantes ya están comprometidos con una visión política preexistente (Berinsky 2009; Lauderdale 2016).

El impacto de las campañas también puede ser limitado por la presencia de señales claras y la exposición a argumentos competidores (Druckman, Peterson y Slothuus 2013). En general, las campañas tienden a reforzar los marcos existentes, lo que rara vez lleva a los votantes a cambiar de partido, especialmente a medida que se acerca el día de las elecciones. Kalla y Broockman (2018) concluyen en su meta-análisis que las campañas tienen "efectos mínimos", un hallazgo que también se observa en los experimentos de campo que prueban los efectos de los anuncios en línea sobre los candidatos y los temas políticos (Nyhan 2018). Este tipo de resultados cuestiona la idea común de que las campañas puedan manipular fácilmente las elecciones políticas de los votantes.

En cuanto a las noticias falsas y su impacto en las elecciones, muchas estadísticas han sido producidas sobre cuántas veces se compartieron noticias falsas en plataformas como Facebook o Twitter. Sin embargo, estos números deben tomarse con precaución, ya que no reflejan necesariamente cuántos votantes han sido realmente afectados por estas noticias. La mayor parte de las personas no están en plataformas como Twitter ni consumen grandes cantidades de noticias políticas. De hecho, al comparar el consumo de noticias falsas con el de noticias tradicionales más "mainstream", se observa que el impacto relativo de las noticias falsas es mucho menor de lo que a menudo se presenta.

Una investigación clave sobre la propagación de noticias falsas en Twitter (Vosoughi, Roy y Aral, 2018) muestra que las historias falsas se difunden significativamente más rápido y a más usuarios que las verdaderas. Sin embargo, esto no significa que dicha difusión haya tenido un impacto real sobre las actitudes públicas. En realidad, muchos usuarios que comparten estas noticias ya tenían creencias políticas preexistentes que solo reforzaban al consumir este tipo de contenido. Por lo tanto, la exposición a noticias falsas en las redes sociales, aunque amplia, no necesariamente cambia las actitudes políticas de los votantes.

Es fundamental entender que el comportamiento electoral es un fenómeno complejo que involucra tanto factores individuales como sociales. La influencia de las noticias falsas, aunque relevante en el contexto de la manipulación mediática, no debe sobreestimarse. En lugar de influir directamente en las decisiones de los votantes, las noticias falsas tienden a reforzar las creencias políticas ya existentes. Por tanto, es esencial considerar que la exposición a noticias falsas y la interacción con contenidos ideológicamente afines no alteran significativamente las decisiones de voto, ya que estas decisiones están más fuertemente determinadas por redes sociales consolidadas, creencias preexistentes y la exposición selectiva a contenidos que validan estas creencias.

¿Cómo pueden las democracias liberales enfrentar la interferencia digital sin comprometer sus valores fundamentales?

Las democracias liberales se encuentran ante una nueva y compleja amenaza en la que la protección de su integridad interna se ve puesta en riesgo por una serie de operaciones externas que utilizan tecnologías digitales. Estas amenazas, que se manifiestan principalmente en formas de desinformación, manipulación de elecciones, y ciberataques, encuentran un terreno fértil en las vulnerabilidades estructurales que han surgido con el auge de las plataformas digitales. Sin embargo, a pesar de este escenario desafiante, se han propuesto soluciones a nivel experto, tanto en comités nacionales como internacionales, las cuales ofrecen un conjunto de políticas útiles para hacer frente a esta problemática creciente.

El consenso sobre muchas de estas propuestas es notablemente amplio, lo que sugiere que las democracias tienen la oportunidad de actuar de manera coherente, comenzando con pasos claros para fortalecer sus infraestructuras digitales. Es crucial que las preocupaciones nacidas a raíz de la intervención rusa en los procesos políticos internos no se desvanezcan, sino que se conviertan en un punto de partida para una acción más coordinada y efectiva.

Uno de los puntos clave en esta discusión es la necesidad de abordar las vulnerabilidades internas que permiten que tales injerencias se materialicen. Las naciones vecinas de la Federación Rusa, por ejemplo, deben tomar medidas para contrarrestar la omnipresencia de Rusia en sus espacios informativos, aunque sin sucumbir a la tentación de la censura, incluso cuando se encuentren bajo presión. Este es un desafío significativo: mientras que la lucha por la integridad de la información es legítima, también lo es la preservación de los principios democráticos fundamentales, que requieren una apertura en la circulación de ideas.

La gestión de la confrontación con Rusia no debe limitarse a una respuesta reactiva ante sus intervenciones, sino que debe implicar una reflexión profunda sobre cómo fortalecer las democracias ante futuros intentos de manipulación. A pesar de que las medidas tomadas deben ser específicas, los gobiernos occidentales deben ser conscientes de que no es suficiente con atacar la superficie del problema. La clave está en identificar y remediar las fallas estructurales que han permitido que estas injerencias tengan éxito en primer lugar. La cuestión no es solo sobre cómo responder a Rusia, sino sobre cómo asegurar que las democracias sean resilientes ante futuras amenazas.

El concepto de "medidas activas", que históricamente ha sido utilizado por actores como Rusia, se encuentra de nuevo en el centro de la discusión. Estas operaciones, que pueden incluir desde campañas de desinformación hasta ciberataques directamente dirigidos a desestabilizar gobiernos, requieren un entendimiento profundo de los mecanismos detrás de la manipulación digital. Los avances tecnológicos han facilitado la dispersión masiva de información a través de canales como las redes sociales, donde incluso pequeñas cantidades de contenido pueden tener un impacto significativo en la opinión pública.

En este contexto, el entendimiento de las herramientas y las plataformas digitales debe ser una prioridad. Las grandes empresas tecnológicas, por ejemplo, juegan un papel crucial, tanto al proporcionar servicios de seguridad como al ser una plataforma abierta para estas actividades. Aunque algunas de estas empresas han comenzado a ofrecer protección adicional a las campañas políticas, las preocupaciones sobre su influencia global y sus políticas internas continúan siendo un tema de debate.

Es esencial, por tanto, que las democracias liberales no solo se centren en las amenazas externas, sino que también desarrollen una visión más holística que contemple la protección de los procesos democráticos desde su núcleo. Esto implica fortalecer la educación digital y los sistemas de verificación de la información, así como promover una mayor transparencia en las políticas de las plataformas digitales. A medida que la información digital se convierte en un campo de batalla, es fundamental que los gobiernos, las instituciones y la sociedad civil colaboren para construir un entorno digital más seguro, transparente y confiable.

Además, más allá de las medidas tecnológicas, es necesario implementar marcos legales internacionales que diferencien las intervenciones legítimas de las ilegítimas. En este sentido, se han hecho propuestas, como la creación de normas internacionales claras que regulen las intervenciones transfronterizas, distinguiendo entre la ayuda legítima en procesos democráticos y las acciones que buscan alterar el equilibrio de poder interno de un país. A través de un esfuerzo conjunto, las democracias pueden construir una red de protección robusta frente a las operaciones externas que amenazan con socavar su estabilidad.

Es crucial también mantener un equilibrio entre la libertad de expresión y la protección contra la manipulación. Mientras que la censura directa puede parecer una solución atractiva ante la amenaza de la desinformación, su implementación indiscriminada podría socavar principios fundamentales de la democracia. En este sentido, la regulación debe ser precisa y estar orientada a combatir únicamente las intervenciones externas dañinas, sin caer en la tentación de restringir el discurso legítimo.

¿Cómo la combinación de ingredientes puede transformar un plato en una experiencia única?
¿Cómo se relacionan las especialidades médicas y los procedimientos en el cuidado de la salud?
¿Cómo influye la integración social en la reconstrucción personal tras una pérdida?
¿Cómo las plantas y los animales desarrollan defensas únicas para sobrevivir?