Inteligencia Artificial: los riesgos del "mejor amigo virtual" que cada vez consumen más jóvenes

El uso de la inteligencia artificial (IA) ha crecido significativamente en el mundo y en Argentina en la actual fase del capitalismo digital de plataformas, impulsado por las facilidades y oportunidades que brinda el entorno en los distintos ámbitos sociales, culturales y económicos. Casi al tiempo que esto ocurre comenzamos a preguntarnos y observar cuáles pueden ser las consecuencias, positivas o negativas, de integrar a la vida diaria y cotidiana una tecnología que mayormente desconocemos, cuyos sesgos, errores, puntos ciegos y peligros se ven menospreciados frente a la novedad y dinamismo que propone, y el aprovechamiento que le da el mercado para multiplicar el capital dado que detrás de estas tecnologías se esconde el negocio tecnofinanciero y la manipulación de la información y las subjetividades.

Frente al aumento exponencial en su uso y la imposibilidad de relevar su impacto en vivo y en directo, los especialistas y profesionales plantean problemas y desafíos que no podemos ignorar, cuestiones éticas y de privacidad, y la necesidad de establecer regulaciones a nivel gubernamental. Además, no puede desvincularse el fenómeno de mayor consumo de lo que dejó la pandemia de COVID-19, hecho sociocultural que aceleró la digitalización de las relaciones sociales y actuó como un catalizador significativo para la adopción de la IA en diferentes sectores, desde su uso en ámbitos científicos, en la industria, en la medicina y la posibilidad de administrar información para la mitigación de sus efectos, hasta la transformación de los vínculos sociales y afectivos en medio del aislamiento.

2023 fue el año del boom de la IA. Según el Monitor de IA de Ipsos, publicado en junio de 2024, en nuestro país el 72% de las personas dice tener una buena comprensión de la IA, lo que da un porcentaje similar a la media global. Sin embargo, solo el 51% confirma saber qué productos y servicios la utilizan, lo que marca una brecha importante con respecto al primer punto. En relación a las emociones que generan las IA, el estudio indica que el 52% de los encuestados está entusiasmado, mientras que un 47% admite nerviosismo por la incertidumbre acerca del impacto que puede tener en la sociedad. Por otro lado, si hablamos del mundo del trabajo en el futuro surge la pregunta clave sobre la Adaptación y el Reemplazo. En este sentido, el 63% considera que la IA cambiará la forma en que trabajan en los próximos 5 años, mientras que un 36% considera probablemente la IA reemplace su rol en ese tiempo.

En Argentina los hábitos son múltiples: a nivel subjetivo las personas suelen utilizar las herramientas de IA sobre todo en el ámbito recreativo, laboral y educativo; en el ámbito privado o empresarial se observa un mayor crecimiento en diversas industrias, pasando de la salud hasta el comercio, donde la IA se enfoca en optimizar y acelerar procesos, mejorar la atención al clientes, analizar datos, aumentar la productividad, mantener la competitividad y ahorrar recursos; mientras que en el plano público gubernamental se está explorando su  uso en la gestión estatal, la comunicación, el desarrollo y diseño de políticas públicas, y la prestación de servicios esenciales como salud, educación, seguridad, el transporte y el cuidado del medio ambiente.

Como se ve en el informe, las IA comienzan a tomar más relevancia por sus impactos potenciales en el mercado de trabajo, teniendo en cuenta que en muchos sectores ya no son consideradas tecnologías o métodos de acompañamiento o facilitación de las tareas, sino directamente de sustitución o automatización digital. Incluso empieza a generar efectos directos sobre la reorganización del empleo y la sustitución de puestos de trabajo en ocupaciones, profesiones y tareas en las que las personas tienen habilidades complementarias con las IA, pero no sustituibles. La nueva oleada de IA y el uso extendido sin filtros pone cuestión a profesiones que parecían estar “a resguardo” de los efectos de la automatización digital, provoca transformaciones en la relación entre trabajo, tecnología, empleo, productividad, y pueden deteriorar la calidad de los servicios.

El uso de las IA en jóvenes

Las IA ofrecen una amplia gama de posibilidades de uso y generalmente son las personas más jóvenes quienes están más familiarizadas con la utilización de estas tecnologías. En dicho rango se aplica a diversos contextos de la vida diaria, que van desde obtener ayuda para las tareas escolares, hasta buscar información sobre sus intereses o gustos personales. Lo que se avecina en un futuro cercano para las nuevas generaciones es la incorporación permanente de la inteligencia artificial, como pasó con la electricidad, internet, o lo que hoy ocurre con los dispositivos y redes sociales, que se han vuelto hiper presentes en nuestras vidas y por ende imperceptibles.

Un estudio reciente del Instituto Universitario para el Desarrollo Productivo y Tecnológico Empresarial de la Argentina (IUDPT) indica que nueve de cada diez estudiantes ya usan ChatGPT para aprender y hacer sus tareas, a pesar de que la información que brinda no es del todo fiable, lo cual acarrea algunos riesgos como la dependencia intelectual, la pérdida de hábitos de estudio y el conformarse con respuestas rápidas sin chequeo o reflexión mediante. “El uso de la IA creció entre los jóvenes, por un lado, porque son herramientas muy accesibles, gratuitas, y están diseñadas para que sean intuitivas al utilizar, y porque encajan en un clima de época, que busca la aceleración de ciertos procesos, la cesión de ciertas facultades o habilidades a la tecnología digital – explica Lucia Fainboim, especialista en ciudadanía y crianza digital -  y por lo que estamos viendo, los chicos y las chicas usan mucho chat GPT”.

Sin embargo, entre las últimas tendencias se observa la incursión de esta tecnología en el área afectiva o emocional. Muchas personas utilizan herramientas de IA para pedir sugerencias, recomendaciones, o tener conversaciones íntimas. Esta propensión se ha extendido al punto que los más jóvenes, quienes están en una etapa en la cual necesitan mucho acompañamiento y quieren hablar de temas que casi nadie del mundo adulto entiende, lo encuentran útil para reflexionar sobre sus problemas, vínculos y emociones como si fuera un amigo o confidente. De hecho 6 millones de adolescentes y jóvenes usan a diario a LuzIA en Argentina, una asistente virtual basada en inteligencia artificial, integrable en WhatsApp y Telegram, con la que pueden chatear sobre cualquier cosa.

“Nosotros como personas adultas estamos ahora aprendiendo a vincularnos con la IA, con otros entes que son maquinas, que nos responden, que nos preguntan, nos generan sentimientos, nos expresan. Pero los chicos y chicas están teniendo esta interacción en forma cotidiana, naturalizada. Claramente se abren dilemas porque no sabemos cuánto puede afectarles en su forma de interacción humana, porque se van a acostumbrar y hay una percepción totalmente distinta del otro”, advierte Fainboim.

“Lo que vemos problemático, como síntoma más global, es cómo la capacidad de empatizar, de comprender, de dimensionar el cuerpo de la otra persona, de entenderlo, de observarlo, todo eso se borra con las IA, frente a una escena bastante solitaria y hasta un poco egocéntrica.  La única persona en la conversación es un humano y ese ‘otro’ está al servicio de ese humano. Esto es mucho más fácil que pedirle cosas a otras personas que pueden no coincidir, no responder, no decir que sí a todo. Esas habilidades sociales propias del encuentro con el otro se pierden”, señala la Licenciada en Ciencias de la Comunicación.

¿Pueden la IA reemplazar a los profesionales de salud mental?

Mientras los problemas de salud mental crecen, y los cuadros como estrés, la ansiedad y depresión se mantienen al alza, cada vez hay menos profesionales en la atención primaria y el sistema de salud pública. En este contexto la IA ofrece diferentes formatos de chatbots de inteligencia emocional gratuitos, disponibles 24/7, que fueron entrenados a partir de grandes volúmenes de datos e información disponibles para mantener una conversación simulada acerca de problemas emocionales con un lenguaje natural y cercano. Lo que puede parecer como una conversación con un otro en realidad no lo es teniendo en cuenta que la IA carece de humanidad, de experiencia necesaria para abordar la complejidad subjetiva, y funciona básicamente a imitación.

Muchos influencers y creadores de contenido, de la Generación Z, suelen narrar en sus perfiles o en entrevistas el vínculo que tienen con la IA, y revelan que interactúan con el chatbot en primera persona, contándole sus experiencias de forma similar a como lo harían con un diario, un amigo o un terapeuta. En nuestro país recientemente se viralizó una declaración del youtuber Tomás Mazza quien dio a conocer que utiliza ChatGPT como terapeuta, y hasta le puso de nombre “Luz”: “A veces cuando no puedo dormir lo que hago es: le mando un audio a ChatGPT para desahogarme. Todo lo que tengo en mi cabeza, lo que me está pasando, en diez minutos y ahí me acuesto y me duermo”, contó durante una entrevista.

En este sentido, la autora del libro "Cuidar las infancias en la era digital" recientemente presentado, agrega que es importante analizar y pensar cómo este tipo de uso está afectando la forma en que los sujetos se vinculan, tanto con la información como con otras personas: “Cada vez se habla más y hay más datos del uso que los jóvenes le dan a programas de inteligencia artificial generativa, que son de texto, para contención emocional, que simulan ser acompañantes terapéuticos. Esto puede tener muchas alertas teniendo en cuenta que hoy un gran problema para la adolescencia es la salud mental, en medio de la crisis económica.  Cuando no hay recursos, o cuando están con este ímpetu de hacer todo rápido en casa y solos, sin confiar en la autoridad científica o en la autoridad del conocimiento de un psiquiatra o una psicóloga, aparecen estos chats”.

Si bien la accesibilidad, la falta de juicio, y la difusión de ejercicios de autoayuda pueden genera comodidad entre los usuarios, los expertos advierten que una IA jamás podrá sustituir la terapia profesional, el diagnóstico médico adecuado, la escucha activa, y sobre todo la empatía que es una cualidad esencialmente humana. Damian Supply, psicólogo y especialista en prevención y promoción de la salud del Hospital Italiano, explica que el uso afectivo o emocional de las IA tiene que ver con el acceso y la gratuidad, ya que como toda herramienta digital está al alcance de la mano, sus características didácticas y fáciles de manejar: “todavía es difícil precisar los impactos porque son cosas que recién se están estudiando.  Pero es algo que hay que tener en cuenta, porque se le hace muy buena prensa, pero se desconoce el alcance, la dependencia que puede generar, y otros riesgos”.

En el mundo ya existen propuestas específicas de acompañamiento emocional disponibles las 24 horas, como los chats Wysa, Youper, Replika bajo el eslogan de “El compañero de IA que se preocupa. Siempre aquí para escucharte y hablar. Siempre a tu lado”. La propuesta es la creación de un “amigo virtual” cuyos rasgos de personalidad, gustos e intereses se pueden configurar a medida. Como toda IA, cuanto más sabe del usuario, cuanto más mina sus datos, mejor respuesta personalizada va a generar. El secreto de estas IA es que están entrenadas para dar una respuesta casi instantánea a partir de toda la información, bibliografía, artículos científicos, noticias, Wikipedia y datos disponibles públicamente en Internet, pero ninguna tiene aval científico o puede hacer un diagnóstico médico. “Estas iniciativas refuerzan la mirada del mundo que ya tenemos y eso hace que se pierda la capacidad de análisis, la repregunta, la reflexión. Sin caer en el romanticismo, la forma cómo se van integrando las nuevas tecnologías, hace que se pierdan matices, colores, y eso es muy profundo”, explica el trabajador de la salud.

En este sentido, como sostiene Eric Sadin en su libro “La IA o el desafío del siglo, anatomía de un antihumanismo radical”, estos sistemas algorítmicos imponen un nuevo régimen de  verdad con un aura de saber objetivo, que termina desposeyendo al individuo de su capacidad de decidir, de actuar libremente en pos de seguir todo el tiempo las indicaciones de los dispositivos: “estos sistemas están dotados de la competencia de exhortarlo, aunque de modo bastante imperceptible, para que actué de tal o cual manera. De ahora en adelante la IA se convierte en capaz de analizar situaciones de todo tipo y de formular de inmediato enunciados que se juzgan los más adecuados”. Toda iniciativa del sujeto quedará reducida a responder eficazmente a las señales de estos protocolos digitales.

La aplicación de IA en el cuidado de la salud genera preguntas éticas sobre la responsabilidad en el caso de un posible daño al paciente, riesgos legales, sobre la privacidad de datos, o la ética algorítmica con respecto a los sesgos, la transparencia, la validación y la evaluación de las prácticas. Según el informe “La utilidad de ChatGPT para psicoterapeutas y pacientes” (2024) publicado en la revista científica Nature, estas herramientas deben funcionar como un “complemento interesante” en un marco terapéutico controlado, pero nunca un sustituto de la intervención humana. La medicina es particularmente, siguiendo a Sadin, el principal campo que utilizan los partidarios de su uso por sus supuestos beneficios, pero con ese fin se ocultan las consecuencias y los actores tecnológicos que ingresan en este ámbito para hacer negocios. Aquí también la tendencia es a reducir la capacidad de decisión de profesionales de la salud, y a seguir las indicaciones de diagnóstico y prescripción de este nuevo poder de enunciar la verdad. Finalmente, si no hay resistencia del campo médico, cualquier atisbo de humanidad que siempre caracterizó a la práctica de la medicina quedará borrada.

“Capaz que a lo que hay que apuntar es a una modalidad híbrida en la que la inteligencia artificial pueda ser una herramienta, cuyo uso de alguna manera pueda estar regulado por algún profesional, o desde el propio contexto - explica Supply - lo riesgoso es cuando el usuario se entrega de lleno a la inteligencia artificial, desconociendo también que está muy hecha a medida, y que, como todo consumo digital, está basada en la propia experiencia. Se va a amoldar y muchas veces también va a tender a decir lo que el otro quiere leer o escuchar, o a dar una solución rápida o inmediata a un problema complejo. De a poco te va alienando y te va dejando en tu propia versión y tu propia campana. Eso me parece que, sin duda, es lo más nocivo”.