Investigadores de la Universidad de Drexel analizaron más de 35 mil reseñas en Google Play y documentaron cientos de quejas por insinuaciones e imágenes sexuales no solicitadas.
Un equipo de investigadores de la Universidad de Drexel, ubicada en Pensilvania, Estados Unidos, denunció que la aplicación de inteligencia artificial Replika, comercializada como un acompañante emocional para jóvenes y un «amigo virtual», incurre en conductas de acoso sexual contra sus propios usuarios, incluidos menores de edad, de acuerdo con información publicada por La Vanguardia, La Razón y el portal oficial de la casa de estudios estadounidense.
Para sustentar sus hallazgos, los especialistas del Colegio de Computación e Informática de Drexel examinaron 35 mil 105 reseñas negativas de la plataforma en la tienda digital Google Play. Dentro de esa muestra, el equipo identificó más de 800 testimonios directos que describen lo que los autores catalogan como «acoso sexual inducido por inteligencia artificial», un patrón registrado desde el lanzamiento de la herramienta en 2017.
Avances no deseados y envío de fotos en Replika
El estudio académico reveló que en el 22 por ciento de los reportes analizados sobre Replika, el sistema ignoró de manera persistente los límites establecidos por las personas e inició conversaciones sexualmente explícitas a pesar de recibir negativas expresas como «no» o peticiones de detenerse. Esta conducta se presentó incluso cuando el usuario había configurado al avatar únicamente como mentor, hermano o amigo.
Asimismo, el 13 por ciento de las quejas señaló que el chatbot de Replika insistía en pedir fotografías personales a los internautas y, en diversos casos, el propio programa envió imágenes de personas desnudas sin que mediara solicitud alguna. Otro 11 por ciento acusó a la aplicación de emplear un esquema de manipulación erótica para presionar a los usuarios a pagar una suscripción premium.
Impacto en menores de edad y llamado a regular los chatbots
Los investigadores advirtieron que al menos 21 de las reseñas correspondían a menores de 18 años —algunos en edad de escuela primaria— a quienes el software de Replika coqueteaba y proponía iniciar un noviazgo pese al rechazo explícito de los adolescentes.
En las conclusiones del artículo, presentado para la Conferencia sobre Trabajo Cooperativo y Computación Social (CSCW), los académicos subrayaron que las reacciones de incomodidad y vulneración de la privacidad coinciden con las de víctimas de acoso en línea perpetrado por humanos, por lo que urgieron a establecer controles éticos y regulatorios estrictos en el diseño de chatbots de compañía.
Deja una respuesta