El impacto de los contenidos generados por IA en la comunicación digital y su influencia en la formación de imaginarios sociales1

Óscar Darío Villota Cuásquer2

Juan Alejandro López Carmona3

Artículo recibido: 21 de mayo de 2024 - Artículo aprobado: 21 de junio de 2024

Villota Cuásquer, O.D; López Carmona J.A. (2024). El impacto de los contenidos generados por IA en

la comunicación digital y su influencia en la formación de imaginarios sociales. escribanía, V22(1)

DOI: https://doi.org/10.30554/40xbts51

Resumen

Este artículo reflexiona sobre cómo la creciente presencia de contenidos generados por inteligencia artificial (IA) en los espacios digitales está transformando la comunicación y la formación de imaginarios sociales. Se exploran las preocupaciones actuales, como la “Dead Internet Theory”, que sugiere que gran parte del contenido en línea es generado por bots y algoritmos, y cómo esto influye en la percepción de autenticidad y en la naturaleza “social” de las redes sociales. A través de una revisión de conceptos clave y un análisis crítico, se busca comprender las implicaciones de esta tendencia en la construcción de la realidad social y en el futuro de la comunicación digital.

Palabras clave: Inteligencia artificial, Comunicación digital, Imaginarios sociales, Autenticidad, Redes sociales, Dead Internet Theory.

The impact of AI-generated content in digital communication and its influence on the formation of social imaginaries

Abstract

This article reflects on how the growing presence of content generated by artificial intelligence (AI) in digital spaces is transforming communication and the formation of social imaginaries. Current concerns are explored, such as the “Dead Internet Theory”, which suggests that much of online content is generated by bots and algorithms, and how this influences the perception of authenticity and the “social” nature of social networks. Through a review of main concepts and critical analysis, it seeks to understand the implications of this trend in the construction of social reality and the future of digital communication.

Keywords: Artificial Intelligence, Digital Communication, Social Imaginaries, Authenticity, Social Networks, Dead Internet Theory.

Introducción

En la era digital, la comunicación ha experimentado una transformación sin precedentes. Las plataformas digitales y las redes sociales han redefinido la forma en que nos relacionamos, compartimos información y, consecuentemente, la manera en que construimos nuestros imaginarios sociales. Sin embargo, en los últimos años, la creciente presencia de contenidos generados por inteligencia artificial (IA) en estos espacios ha suscitado preocupaciones sobre la autenticidad, la naturaleza “social” de las interacciones en línea y su impacto en la formación de nuestras percepciones y realidades.

Una de las manifestaciones de esta preocupación, por ejemplo, es la “Dead Internet Theory” (teoría de la Internet muerta), que sugiere que una gran parte del contenido en línea es generado por bots y algoritmos, en lugar de ser creado por usuarios humanos. Si bien esta teoría se enmarca más en el terreno de las conspiraciones, refleja un creciente sentimiento de desconfianza y alienación entre los usuarios de Internet frente a la proliferación de contenidos generados por aplicaciones de Inteligencias Artificiales IA.

En este contexto, surge la necesidad de reflexionar sobre cómo la presencia de estos contenidos está transformando la comunicación digital y la formación de imaginarios sociales. ¿Cómo afecta la IA a la percepción de autenticidad en línea?, ¿las redes sociales están perdiendo su carácter “social” debido a la intervención de algoritmos y bots?, ¿cuáles son las implicaciones de esta tendencia en la construcción de la realidad social y en el futuro de la comunicación digital? Estas son preguntas que adquieren vigencia bajo la mirada de las interacciones entre agentes humanos y no humanos (con una capacidad de agencia compleja).

Este artículo se propone reflexionar sobre estas cuestiones a través de una revisión de conceptos clave y un análisis crítico de las implicaciones de los contenidos generados por IA en la comunicación digital y la formación de imaginarios sociales. En primer lugar, se definirán y caracterizarán los contenidos generados por IA, para luego explorar teorías sobre la formación de imaginarios sociales y su relación con la comunicación digital. A continuación, se analizará la “Dead Internet Theory” y su relación con la percepción de autenticidad en línea, así como la transformación de la naturaleza “social” de las redes sociales. Se discutirán las implicaciones de esta tendencia en la formación de imaginarios sociales y en la construcción de la realidad social, identificando desafíos y oportunidades para la comunicación digital en este contexto. Por último, se ofrecerán conclusiones y recomendaciones para abordar los desafíos que presenta esta nueva realidad comunicativa.

Marco teórico y conceptual

Para comprender el impacto de los contenidos generados por IA en la comunicación digital y la formación de imaginarios sociales, es necesario definir y caracterizar estos contenidos, así como explorar teorías relevantes sobre la construcción de imaginarios y su relación con la comunicación en línea.

Los contenidos generados por IA abarcan una amplia gama de producciones digitales, incluyendo textos, imágenes, videos y audios, creados mediante algoritmos y sistemas de inteligencia artificial en lugar de ser producidos directamente por humanos. Estas creaciones son posibles gracias a la denominada inteligencia artificial generativa, una tecnología que emplea algoritmos y modelos de aprendizaje automático para producir contenido “original” que emula la creatividad humana. Caracterizados por su habilidad para replicar patrones de creación humana, adaptarse a contextos específicos y generar respuestas rápidamente, estos contenidos logran, en ocasiones, integrarse de manera casi imperceptible en los espacios digitales (Molavi Vasse’i & Udoh, 2024).

De otro lado, la formación de imaginarios sociales es un proceso complejo que involucra la construcción colectiva de significados, valores y percepciones compartidas (Taylor, 2004). Es necesario tener en cuenta que dichos significados requieren de un complejo proceso de intercambios e interacciones para llegar a adquirir una significación de carácter colectiva e identitaria. En este punto, vale la pena mencionar el concepto de “semiosfera” (Lotman, 2013), en la medida que es necesario que exista una interacción estético-material entre los sujetos pertenecientes a un grupo social, que va determinando cuáles son los valores que adquieren sentido en ese grupo cultural específico. Así, por ejemplo, puede entenderse como los sucesos del mundo configuran contenidos que son consumidos por ciertos grupos según intereses particulares, como podría tratarse de memes, stickers de servicios de mensajería instantánea o incluso filtros con banderas de países en crisis para demostrar empatía.

De tal manera, puede comprenderse que se generen codificaciones a partir del consumo de objetos digitales (Gutierrez, 2021) que permite la configuración de imaginarios colectivos a partir de la generación de espacios de significación compartidos, o dicho de otro modo, aquello que resulta racional y, por tanto, comprensible para un grupo social (Echeverría, 2001). En consecuencia, las ideas de realidad que son empleadas por los diferentes grupos sociales, se construyen a partir de la colectivización o el acuerdo intersubjetivo sobre los significados de las representaciones con las que se interactúa, que para el presente caso, son altamente susceptibles de ser modificadas por su naturaleza digital y variable. Esto permite proponer, a manera de hipótesis, que en la medida que objetos digitales como las IA generativas pueden proponer representaciones con cierta autonomía, también tendrán incidencia en la constitución de ideas de realidad.

La comunicación en línea desempeñaría un papel fundamental en este proceso, ya que las plataformas digitales y las redes sociales se han convertido en espacios centrales para la interacción, el intercambio de información y la negociación de sentidos (Castells, 2009). Los imaginarios sociales se construyen a partir de las experiencias, discursos y representaciones que circulan en estos espacios, influenciando la forma en que los individuos y las comunidades perciben y dan sentido a su realidad (Appadurai, 1996).

En este contexto, conceptos como la autenticidad y la identidad digital adquieren una especial relevancia. La autenticidad se refiere a la percepción de que un contenido o interacción en línea es genuino, original y no manipulado (Salisbury & Pooley, 2017). Por su parte, la identidad digital hace referencia a la representación de uno mismo en los espacios digitales, que se construye a través de la información, las acciones y las interacciones en línea (Boyd, 2014). Ambos conceptos están estrechamente relacionados con la confianza y la credibilidad en los entornos digitales, y pueden verse afectados por la presencia de contenidos generados por IA.

Otro concepto fundamental para entender el impacto de los contenidos generados por IA es la realidad social construida. Desde una perspectiva constructivista, la realidad social no es algo dado o preexistente, sino que se construye a través de las interacciones, los discursos y las prácticas sociales (Berger & Luckmann, 1991). En la era digital, las plataformas y los contenidos en línea juegan un papel cada vez más importante en la construcción de esta realidad, ya que influyen en la forma en que las personas perciben, interpretan y dan sentido a su entorno. Sentido susceptible de configurar un relato social, en el cual la racionalidad obedece al mundo de las razones que validan dicho entendimiento del mundo (Habermas, 1981). Así, las ideas de realidad constituidas por la interacción con los objetos digitales tienen la opción de emerger como discursos hegemónicos que dicten lo que se considera correcto o “racional”.

En la misma línea, los investigadores Nick Couldry y Andreas Hepp (2017), profundizan en cómo los medios y las tecnologías de comunicación influyen en la construcción social de la realidad, continuando y ampliando la teoría originalmente propuesta por Berger, Luckmann (1991) y Habermas (1981). Según Couldry y Hepp (2017), la realidad social no solo se construye a través de interacciones cara a cara y prácticas discursivas tradicionales, sino que en la era digital, esta construcción se ve profundamente mediada y transformada por las tecnologías de comunicación contemporáneas. Esta propuesta es coherente con la idea de la semiosfera constituida a partir de la interacción material con los objetos, esbozada por Lotman (2013) y Echeverría (2001).

Couldry y Hepp (2017) introducen el concepto de “mediatización”, para describir el proceso por el cual los medios de comunicación se integran en todos los aspectos de la vida social, afectando la manera en que la realidad social se construye, se entiende y se experimenta. La mediatización no solo se refiere a la presencia de los medios en nuestras vidas, sino a cómo estos medios cambian las estructuras y dinámicas de las prácticas sociales. En la era digital, los datos y las plataformas digitales juegan un papel crucial en la construcción de la realidad social, y los autores argumentan que las plataformas como redes sociales, motores de búsqueda y otros servicios en línea actúan como mediadores entre los individuos y la sociedad. Estas plataformas no solo facilitan la comunicación, sino que también configuran las formas en que los individuos se presentan a sí mismos y se relacionan con los demás. Esto da lugar a una “cultura de la conectividad”, donde la identidad y la interacción social están cada vez más ligadas a la visibilidad y actividad en línea.

Otro aspecto importante del análisis de estos autores es la transformación de la agencia en la era digital. La agencia, o la capacidad de los individuos para tomar decisiones y actuar, está siendo reconfigurada por la mediatización. En un mundo donde los datos y las plataformas digitales son omnipresentes, las formas tradicionales de acción y expresión social están siendo reemplazadas o complementadas por nuevas formas de interacción mediada por algoritmos. Los individuos, ahora, no solo actúan en el mundo físico, sino también en el espacio digital, donde sus acciones están constantemente monitoreadas, analizadas, e incluso influenciadas por la capacidad de agencia de los objetos digitales.

A lo anterior, se suman las capacidades comunicativas de estas tecnologías emergentes. Los investigadores Andrea Guzman y Seth Lewis (2020), argumentan que las interacciones de las personas con aplicaciones de inteligencia artificial, como agentes virtuales, socialbots y software de generación de lenguaje, no encajan fácilmente en los paradigmas de la teoría de la comunicación que se han centrado durante mucho tiempo en la comunicación entre humanos. Para abordar esta desconexión entre la teoría de la comunicación y estas nuevas tecnologías, los autores proponen un marco teórico basado en la Comunicación Humano-Máquina (Human-Machine Communication, HMC), que se enfoca en el estudio de la creación de significado entre humanos y máquinas.

Desde esta perspectiva, Guzman y Lewis (2020) enfatizan que lo que distingue a las tecnologías comunicativas de IA de otras experiencias interactivas es que están diseñadas para funcionar como sujetos comunicativos, lo cual es el centro de su enfoque: “What sets HMC apart is its focus on people’s interactions with technologies designed as communicative subjects, instead of mere interactive objects” (Guzman & Lewis, 2020, p. 71). Esta perspectiva hace eco de la comprensión del objeto digital como un agente con capacidad de agencia, como elabora Gutierrez (2021), y trasciende de la noción de las IA como simples herramientas, reconociéndolas como entidades comunicativas con las que los humanos pueden entablar intercambios.

Este enfoque en la máquina como comunicador ofrece un punto de partida conceptual para comprender las interacciones entre humanos y tecnologías de IA diseñadas para funcionar como emisores. Guzman y Lewis (2020) proponen una agenda de investigación centrada en tres aspectos clave de las tecnologías comunicativas de IA: las dimensiones funcionales a través de las cuales las personas dan sentido a estos dispositivos y aplicaciones como comunicadores, las dinámicas relacionales a través de las cuales las personas se asocian con estas tecnologías y, a su vez, se relacionan consigo mismas y con los demás, y las implicaciones suscitadas por la difuminación de las fronteras ontológicas en torno a lo que constituye lo humano, la máquina y la comunicación.

A partir de este marco teórico y conceptual, es posible analizar críticamente cómo la presencia de contenidos generados por IA en los espacios digitales está transformando la comunicación y la formación de imaginarios sociales, así como las implicaciones de esta tendencia en la construcción de la realidad social y el futuro de la comunicación digital.

Discusión

Es necesario considerar la forma en que la inteligencia artificial ha irrumpido en el panorama digital, transformando la manera en que se crea y consume contenido en línea. Esta tecnología, impulsada por algoritmos y sistemas de aprendizaje automático, ha demostrado una asombrosa capacidad para imitar patrones de creación humana y generar de manera ágil respuestas adecuadas a distintos contextos. Como resultado, los contenidos generados por IA, que abarcan textos, imágenes, videos y audios, han permeado los espacios digitales de manera eficaz y en ocasiones inadvertida, poniendo a prueba nuestra percepción de lo que es real en estas plataformas.

Uno de los casos más destacados de la inteligencia artificial generativa en términos comunicativos y de influencia en los imaginarios son los “influencers virtuales”. Estos personajes digitales son creados enteramente por algoritmos y diseñados para interactuar con audiencias en línea. Lil Miquela, una influencer virtual con millones de seguidores en redes sociales, es un buen ejemplo de cómo es posible crear personalidades convincentes y atractivas al público con ayuda de aplicaciones de IA. A través de sus publicaciones, esta influencer comparte su “vida” e interactúa con sus seguidores, generando un sentido de conexión emocional, a pesar de ser un ente completamente artificial.

La creación de influencers virtuales se ha expandido, con agencias como BE A LION y The Clueless adentrándose en este campo. Sus creaciones, Alba Renai y Aitana López respectivamente, son personajes generados con asistencia de IA que han alcanzado una notable popularidad en redes sociales. Estos avatares digitales participan en campañas publicitarias y colaboran con marcas, mientras que producen contenido que cautiva a una audiencia cada vez más habituada a la interacción con entidades virtuales (Ponjoan, 2023).

Los “Twitter Bots” son otro ejemplo claro de la presencia de la inteligencia artificial en las redes sociales. Estos bots son cuentas automatizadas que generan y difunden contenido en la plataforma conocida ahora como X. Aunque su número exacto es desconocido, se estima que una parte significativa de la actividad en X proviene de estos bots, cuya actividad se incrementa en eventos de gran interés como el Super Bowl (Binder, 2024). Estos pueden ser programados para realizar diversas tareas, desde responder a menciones y hashtags hasta participar en conversaciones y debates en tiempo real.

La capacidad de los Twitter Bots para generar contenido coherente y contextualmente relevante los hace difíciles de distinguir de los usuarios humanos, lo cual plantea desafíos en términos de autenticidad y confiabilidad de la información en la plataforma. Hay que tener en cuenta que los bots pueden ser utilizados tanto para difundir información útil como para propagar desinformación y manipular la opinión pública. Esto último, por ejemplo, tuvo un impacto constatable durante la pandemia de COVID-19 en Estados Unidos, cuando bots fueron usados en esta red social para promover teorías conspirativas, relacionadas tanto con la emergencia sanitaria como con temas políticos (Ferrara, 2020).

Por otro lado, la inteligencia artificial generativa no solo está presente en las redes sociales, sino que también se utiliza en la creación de contenido en diversos ámbitos, como el periodismo, la publicidad y el entretenimiento. Desde artículos de noticias generados automáticamente hasta guiones de videos y canciones compuestas por IA, esta tecnología está empezando a ocupar un terreno cada vez más amplio en términos de la producción mediática, y, por tanto, cultural, que se genera en Internet.

A medida que la inteligencia artificial continúa evolucionando y perfeccionándose, es probable que su presencia en los espacios digitales se vuelva aún más ubicua y difícil de detectar. Esto plantea interrogantes sobre la autenticidad, la transparencia y la confiabilidad del contenido que consumimos en línea. ¿Cómo podemos distinguir entre el contenido generado por humanos y el generado por IA? ¿Qué implicaciones tiene esto para la formación de opiniones, la toma de decisiones y la construcción de relaciones en el entorno digital?

Justamente, la creciente presencia de contenidos generados por IA en los espacios digitales ha dado lugar a preocupaciones como la “Dead Internet Theory”, que sugiere que una gran parte del contenido en línea es generado por bots y algoritmos en lugar de usuarios humanos, con fines de manipulación y control. Si bien esta teoría se enmarca más en el terreno de las especulaciones y las conspiraciones, también puede entenderse como un reflejo de una creciente desconfianza y sensación de alienación entre los usuarios de Internet frente a la proliferación de estos contenidos.

Robert Mariani (2023) explora el concepto de la “Dead Internet Theory” y cómo la proliferación de chatbots impulsados por IA podría hacer realidad este escenario. El autor argumenta que con el advenimiento de modelos avanzados de lenguaje como ChatGPT, Claude o Gemini y su creciente accesibilidad, el panorama de Internet podría cambiar drásticamente. La web ya ha empezado a alojar una cantidad notable de contenido generado por IA, una tendencia que, de mantenerse, dificultará la distinción entre interacciones humanas genuinas y aquellas generadas por máquinas.

Mariani imagina un escenario hipotético en el año 2026, donde los bots impulsados por IA son omnipresentes y la desconfianza en las interacciones en línea es generalizada. Las principales plataformas implementan medidas de autenticación rigurosas, pero los bots aún logran infiltrarse. La Internet abierta se convierte en un refugio para los bots, mientras que las personas se refugian en comunidades aisladas y cerradas. La paranoia en línea y fuera de línea se difumina, y la soledad se apodera de las personas en esta “Internet muerta”.

Sin embargo, el autor también imagina escenarios más esperanzadores. Sugiere que las soluciones técnicas, como las suscripciones unificadas y los sistemas de reputación, podrían ayudar a mantener a raya la inundación de bots. Además, aboga por alinear el comportamiento de los bots con los intereses humanos y ajustar las expectativas humanas a un futuro impregnado de IA. El autor concluye que, si bien es imposible vencer a los bots por completo, podemos buscar la armonía con ellos, aunque esto pueda tener un costo: perder el toque humano auténtico en la comunicación.

Este es un elemento crítico, ya que uno de los principales aspectos afectados por la presencia de contenidos generados por IA es, como se ha mencionado, la percepción de autenticidad en línea. A medida que los algoritmos y los sistemas de IA se vuelven más sofisticados y capaces de imitar patrones de creación humana, se vuelve cada vez más difícil distinguir entre contenidos generados por humanos y aquellos creados por máquinas. Esto puede llevar a una erosión de la confianza en los espacios digitales, ya que los usuarios deberán cuestionarse constantemente la veracidad y originalidad de los contenidos que encuentran en línea.

Esta erosión de la confianza y la autenticidad en los espacios digitales se alinea con los conceptos presentados previamente en el marco teórico. Desde la perspectiva de la mediatización propuesta por Couldry y Hepp (2017), la “Dead Internet Theory” puede verse como una manifestación extrema de cómo las tecnologías digitales no solo median nuestra experiencia de la realidad, sino que también transforman fundamentalmente las estructuras de las prácticas sociales en línea. La teoría del Internet muerto refleja la preocupación de cómo la omnipresencia de contenidos generados por IA podría influir decisivamente en la “cultura de la conectividad”, donde la identidad y la interacción social están cada vez más relacionadas con la visibilidad y actividad en línea.

Además, la dificultad para distinguir entre contenidos humanos y artificiales se relaciona directamente con el marco de Comunicación Humano-Máquina (HMC) propuesto por Guzman y Lewis (2020), puesto que se enfoca en cómo las tecnologías comunicativas de IA están diseñadas para funcionar como sujetos comunicativos. En este contexto, la “Dead Internet Theory” no solo pone en discusión la autenticidad del contenido, sino también la naturaleza misma de las interacciones en línea. Lo anterior pone en crisis nuestra comprensión de lo que constituye un “comunicador” en el espacio digital y cómo esto influye en la construcción de la realidad social mediada por la tecnología.

Siguiendo este razonamiento, es posible afirmar que la proliferación de contenidos generados por IA está transformando la naturaleza “social” de las redes sociales. Estas plataformas, que en principio fueron concebidas como espacios para la interacción y el intercambio directo entre personas, ahora están cada vez más pobladas por bots y algoritmos que generan e interactúan con contenidos de manera automatizada (Ferrara et al., 2016). A esto se suma una prelación al contenido patrocinado y sugerencias de creadores de contenido dadas por los algoritmos de plataformas como TikTok, Instagram o Facebook. Todo lo anterior puede llevar a una sensación de desconexión y falta de autenticidad en las interacciones en línea, ya que los usuarios pueden tener dificultades para distinguir entre interacciones genuinas y aquellas que no lo son.

Estas transformaciones tienen implicaciones significativas en la formación de imaginarios y en la construcción de la realidad social. Los contenidos generados por IA, al integrarse de manera casi imperceptible en los espacios digitales, pueden influir en la forma en que las personas perciben y dan sentido a su entorno (Couldry & Hepp, 2017). Si una parte considerable de los contenidos y las interacciones en línea son generados por algoritmos, esto puede llevar a una distorsión de los imaginarios sociales, ya que las percepciones y los significados compartidos estarían siendo moldeados, al menos en parte, por entidades no humanas.

Lo anterior implica reconocer que las aplicaciones que emplean inteligencia artificial se han convertido en una extensión de la cultura y la experiencia humana. Estas aplicaciones están intrínsecamente vinculadas a los códigos con los que operan y a los imaginarios específicos de los usuarios, lo que les permite moldear la percepción y la interacción con el entorno. Un ejemplo notable de este fenómeno se observa en la ciudad de Medellín, Colombia, donde plataformas como Airbnb —impulsada por algoritmos, Big Data e IA— han reconfigurado el paisaje urbano y la forma en que se percibe la ciudad. Si bien estas aplicaciones han generado beneficios económicos, también han traído consigo desafíos sociales, como la gentrificación y el desplazamiento de residentes históricos, lo que pone de manifiesto la compleja relación entre la tecnología y la transformación urbana (López & Villota, 2023).

Asimismo, la presencia de contenidos generados por IA puede tener un impacto en la construcción de identidades digitales, pues a medida que los usuarios interactúan con contenidos e identidades generadas por algoritmos, su propia identidad digital puede verse influenciada y moldeada por estas interacciones (Boyd, 2014). Esto puede traer consecuencias en la constitución de códigos culturales e ideas de realidad, como se ha comentado anteriormente a partir de Echeverría (2001), Lotman (2013) y Habermas(1981). La mediación tecnológica reconfigura así no solo las identidades personales, sino también los marcos colectivos de interpretación y significación.

Es importante considerar, es el potencial de este tipo de contenidos para amplificar y perpetuar sesgos y desigualdades existentes en la sociedad. Los algoritmos y sistemas de IA son entrenados con datos que pueden reflejar prejuicios históricos y culturales. Esto puede llevar a que estos sesgos se reproduzcan y amplifiquen en los contenidos generados por estas tecnologías (Noble, 2018), así como ser fácilmente normalizados y legitimados (Eubanks, 2018). Además, la opacidad y la falta de transparencia en el funcionamiento de muchos algoritmos y sistemas de IA dificultan la identificación y el abordaje de estos sesgos.

Para hacer frente a este desafío, es fundamental promover la diversidad y la inclusión en el desarrollo y entrenamiento de los sistemas de IA, así como establecer mecanismos de auditoría y rendición de cuentas para identificar y mitigar los sesgos (Gebru et al., 2021). Igualmente, es importante fomentar una mayor alfabetización digital entre los usuarios de internet, para que puedan comprender mejor cómo funcionan estos sistemas y cómo pueden influir en los contenidos que consumen (Gillespie, 2014).

Otra consideración relevante es el impacto de los contenidos generados por IA en la esfera pública y el debate democrático. A medida que estos contenidos se vuelven más prevalentes y sofisticados, pueden influir en la formación de opiniones y la toma de decisiones políticas, especialmente si los usuarios no son conscientes de su origen algorítmico (Woolley & Howard, 2018). Esto puede llevar a la manipulación de la opinión pública y a la difusión de desinformación, socavando la calidad del debate democrático y la confianza en las instituciones.

En ese sentido, es necesario fortalecer la resiliencia de la esfera pública frente a la desinformación y la manipulación algorítmica. Esto implica promover la alfabetización mediática y digital entre los ciudadanos, así como establecer regulaciones y estándares éticos para el uso de IA en la generación de contenidos relacionados con asuntos de interés público (Nemitz, 2018). También es importante fomentar la colaboración entre plataformas digitales, organizaciones de la sociedad civil y autoridades públicas para detectar y contrarrestar la desinformación y la manipulación a través de estos medios.

Sin embargo, es importante reconocer que la presencia de contenidos generados por IA también puede presentar oportunidades para la comunicación digital. Por ejemplo, estos contenidos pueden utilizarse para personalizar y mejorar las experiencias de los usuarios, ofrecer información relevante y facilitar la navegación en los espacios digitales (Guzman & Lewis, 2020). Además, la IA puede emplearse para moderar y filtrar contenidos inapropiados o dañinos, contribuyendo a la creación de entornos en línea más seguros y saludables.

Para abordar los desafíos y aprovechar las oportunidades que presenta esta nueva realidad comunicativa, es necesario fomentar la alfabetización digital y el pensamiento crítico entre los usuarios de internet. Esto implica desarrollar habilidades para evaluar la autenticidad y la credibilidad de los contenidos en línea, así como para distinguir entre interacciones humanas genuinas y aquellas generadas por algoritmos (Livingstone, 2004). Además, es importante promover la transparencia por parte de las plataformas digitales y los desarrolladores de IA, para que los usuarios estén informados sobre la presencia y el funcionamiento de los contenidos generados por algoritmos.

Conclusiones

La creciente presencia de contenidos generados por IA en los espacios digitales está transformando la comunicación y la formación de imaginarios sociales de manera significativa. A lo largo de este artículo, se ha reflexionado sobre cómo estos contenidos influyen en la percepción de autenticidad en línea, la naturaleza «social» de las redes sociales y la construcción de la realidad social.

Aunque la “Dead Internet Theory” se sitúa en el ámbito de las conspiraciones, pone de manifiesto inquietudes válidas sobre la proliferación de contenidos generados por IA y su influencia en la comunicación digital. La creciente presencia de bots y algoritmos en las redes sociales está influyendo en parte la esfera de la opinión pública y, potencialmente, los imaginarios sociales. A medida que estos contenidos crecen en presencia y sofisticación, la línea entre contenidos de origen humano y aquellos generados por IA se vuelve cada vez más difusa y amenaza con erosionar la confianza y la percepción de autenticidad en los espacios digitales. Esto implica desafíos significativos para la interacción en línea.

Estas transformaciones tienen implicaciones importantes en la formación de imaginarios sociales y la construcción de la realidad social. Los contenidos generados por IA pueden influir en la forma en que las personas perciben y dan sentido a su entorno, moldeando los significados compartidos y las percepciones colectivas. Además, pueden tener un impacto en la construcción de identidades digitales, ya que las interacciones con contenidos e identidades generadas por algoritmos pueden influir en la expresión y representación de cada usuario en línea.

Lo anterior plantea un escenario emergente, que analizado a través de las perspectivas de Habermas (1981), Lotman (2013) y Echavarría (2001), sugiere el advenimiento de un nuevo imaginario sociopolítico o proyecto de sociedad. En este contexto, una “Internet muerta” se erigiría como el núcleo de las interacciones simbólicas que dotan de sentido a las creencias de los grupos sociales. Este fenómeno daría lugar a un imaginario singular, fruto de la creciente capacidad de agencia y autonomía de los objetos digitales. En este escenario, son estos objetos los que, paradójicamente, dictarían las características estéticas y los criterios de validación de la realidad para los seres humanos.

Sin embargo, es importante reconocer que la presencia de contenidos generados por IA también presenta oportunidades para mejorar la experiencia de los usuarios y abordar desafíos como la moderación de contenidos inapropiados. Para aprovechar estas oportunidades y hacer frente a los desafíos, es fundamental fomentar la alfabetización digital y el pensamiento crítico entre los usuarios de internet, así como promover la transparencia por parte de las plataformas digitales y los desarrolladores de IA.

De cara al futuro, es probable que la presencia de contenidos generados por IA en los espacios digitales siga aumentando, a medida que los algoritmos y los sistemas de inteligencia artificial continúen evolucionando y perfeccionándose. Esto requerirá un esfuerzo continuo por parte de los usuarios, los investigadores y los responsables políticos para comprender y abordar las implicaciones de esta tendencia en la comunicación digital y la formación de imaginarios sociales.

En este contexto, se recomienda seguir investigando y analizando el impacto de los contenidos generados por IA en la comunicación digital, así como desarrollar marcos éticos y regulatorios para garantizar su uso responsable y transparente. Además, es importante fomentar el diálogo y la colaboración entre los diferentes actores involucrados, incluyendo a los usuarios, las plataformas digitales, los desarrolladores de IA y los académicos, para abordar de manera efectiva los desafíos y aprovechar las oportunidades que presenta esta nueva realidad comunicativa.

Referencias bibliográficas

Appadurai, A. (1996). Modernity at large: Cultural dimensions of globalization. University of Minnesota Press.

Berger, P, & Luckmann, T. (1991). The social construction of reality: A treatise in the sociology of knowledge. Penguin Books.

Binder, M. (2024, 16 de febrero). The majority of traffic from Elon Musk’s X may have been fake during the Super Bowl, report suggests. Mashable. https://mashable.com/article/x-twitter-elon-musk-bots-fake-traffic

Boyd, D. (2014). It’s complicated: The social lives of networked teens. Yale University Press.

Castells, M. (2009). Communication power. Oxford University Press.

Couldry, N., & Hepp, A. (2017). The mediated construction of reality. Polity Press.

Echeverría, B. (2001). Definición de la cultura. Itaca / Universidad Nacional Autónoma de México.

Eubanks, V. (2018). Automating inequality: How high-tech tools profile, police, and punish the poor. St. Martin’s Press.

Ferrara, E; Varol, O; Davis, C., Menczer, F; & Flammini, A. (2016). The rise of social bots. Communications of the ACM, 59(7), 96-104.

Ferrara, E. (2020). #COVID-19 on Twitter: Bots, Conspiracies, and Social Media Activism. ArXiv, abs/2004.09531.

Gebru, T; Morgenstern, J; Vecchione, B; Wortman Vaughan, J; Wallach, H; Daumé III, H., & Crawford, K. (2021). Datasheets for datasets. Communications of the ACM, 64(12), 86-92. https://doi.org/10.1145/3458723

Gillespie, T. (2014). The relevance of algorithms. In T. Gillespie, P. J. Boczkowski, & K. A. Foot (Eds.), Media technologies: Essays on communication, materiality, and society (pp. 167-194). MIT Press.

Gutiérrez Jiménez, E. (2021). Caminos de la creación digital. Arte y computación. Medellín: Instituto Tecnológico Metropolitano; Institución Universitaria de Envigado.

Guzman, A. & Lewis, S. (2020). Artificial intelligence and communication: A Human–Machine Communication research agenda. New Media & Society, 22(1), 70-86.

Habermas, J. (1981). Teoría de la acción comunicativa, Vol. 1: Racionalidad de la acción y racionalización social (T. McCarthy, Trad.). Taurus.

Livingstone, S. (2004). Media literacy and the challenge of new information and communication technologies. The Communication Review, 7(1), 3-14.

López, J. & Villota, O. (2023). Construction and Experience of the Physical-Digital Space: A Reflection on Digital Interaction as a Vector in the Construction of Narratives and Signification in the Urban Space. Accelerated Landscapes - Proceedings of the XXVII International Conference of the Ibero-American Society of Digital Graphics (SIGraDi 2023), Punta del Este, Maldonado, Uruguay, noviembre 29 - diciembre 1 2023, pp. 1513–1523. https://papers.cumincad.org/cgi-bin/works/Show?sigradi2023_99

Lotman, J. (2013). The unpredictable workings of culture. Tallinn: TLU Press.

Mariani, R. (2023). The Dead Internet to Come. The New Atlantis, 73, 34–42. https://www.jstor.org/stable/27244117

Molavi Vasse‘i, R., & Udoh, G. (2024). In transparency we trust? Evaluating the effectiveness of watermarking and labeling AI-generated content. Mozilla Foundation. https://foundation.mozilla.org/en/research/library/in-transparency-we-trust/research-report/

Nemitz, P. (2018). Constitutional democracy and technology in the age of artificial intelligence. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 376(2133), 20180089. https://doi.org/10.1098/rsta.2018.0089

Noble, S. (2018). Algorithms of oppression: How search engines reinforce racism. New York University Press.

Ponjoan, N. (2023, diciembre 13). La nueva industria de ‘influencers’ virtuales: celebridades que trabajan sin descanso y no piden un aumento. El País. https://elpais.com/tecnologia/2023-12-13/la-nueva-industria-de-influencers-virtuales-celebridades-que-trabajan-sin-descanso-y-no-piden-un-aumento.html

Salisbury, M., & Pooley, J. (2017). The #nofilter self: The contest for authenticity among social networking sites, 2002–2016. Social Sciences, 6(1), 10.

Taylor, C. (2004). Modern social imaginaries. Duke University Press.

Woolley, S; & Howard, P; (Eds.). (2018). Computational propaganda: Political parties, politicians, and political manipulation on social media. Oxford University Press.

---