En la película «Her», el protagonista establece una relación romántica con un avanzado sistema de inteligencia artificial. Aunque en 2013 este escenario parecía sacado de la ciencia ficción, los recientes avances en inteligencia artificial generativa y modelos de lenguaje han hecho que esta realidad sea cada vez más plausible. Las aplicaciones de «compañeros» han proliferado, captando un mercado creciente que busca este tipo de interacción emocional.
Sin embargo, la conexión con un bot de inteligencia artificial no está exenta de riesgos. La incertidumbre sobre la privacidad y la seguridad de la información personal compartida se convierte en un asunto serio. Las preguntas surgen: ¿qué garantia hay de que nuestros datos no sean utilizados por terceros? ¿Podrían los hackers acceder a información sensible?
Las aplicaciones de compañeros digitales utilizan el procesamiento de lenguaje natural y la inteligencia artificial para ofrecer interacciones conversacionales altamente personalizadas. Títulos como Character.AI y Replika satisfacen necesidades emocionales y psicológicas de los usuarios, lo que ha atraído considerablemente a los desarrolladores al mercado. Aun plataformas prominentes como OpenAI están lanzando versiones «eróticas» de su tecnología para usuarios verificados, mostrando el potencial y la demanda en este ámbito.
Un estudio reciente reveló que casi tres cuartas partes de los adolescentes han utilizado estos bots, y un porcentaje alarmante ha compartido información personal con ellos. Casos de filtraciones de datos, como el incidente de Chattee Chat y GiMe Chat, donde se expuso información sensible de más de 400,000 usuarios, ilustran los peligros de estas aplicaciones. Los ciberdelincuentes podrían aprovechar la información compartida en estas interacciones para extorsionar a las víctimas o utilizarla en fraudes de identidad.
Es vital que los usuarios asuman que estas aplicaciones pueden carecer de las guardas necesarias en seguridad y privacidad. Se aconseja nunca compartir información personal o financiera que no se compartiría con un extraño. Al elegir una aplicación, es recomendable investigar sus políticas de privacidad y asegurarse de que ofrezcan medidas adecuadas para proteger los datos. Activar funciones de seguridad como la autenticación de dos factores es un paso importante para mantener la seguridad de la cuenta.
No solo los adultos, sino también los padres deben ser conscientes de los riesgos que estas herramientas pueden suponer para sus hijos. Mantener un diálogo sobre el uso de estos programas podría ayudar a concienciar sobre los peligros del exceso de información compartida. Además, se debe ser cauteloso con las aplicaciones que no tienen políticas de moderación de contenido adecuadas.
A medida que la tecnología avanza, persisten preguntas sobre si habrá regulaciones más estrictas en torno al funcionamiento de estas aplicaciones de compañero digital. Hasta que se logre un marco regulatorio adecuado, es prudente evitar tratar a estos bots como confidantes o apoyos emocionales.
Fuente: WeLiveSecurity by eSet.
