Una reciente investigación ha revelado un fenómeno alarmante en las redes sociales: la creación de perfiles falsos generados por inteligencia artificial (IA) que se hacen pasar por mujeres negras emprendedoras. Estos perfiles, que proliferan en plataformas como TikTok, Instagram y Facebook, utilizan videos emotivos para contar historias de superación y discriminación, con el objetivo de generar empatía y, en última instancia, vender productos a precios inflados. Por ejemplo, se documentó un caso donde cinturones que costaban 40 dólares eran revendidos, cuando en realidad podían encontrarse en sitios como Shein por una cuarta parte de ese precio. Este tipo de manipulación emocional, combinada con el uso de avatares que representan identidades culturales, plantea serias preocupaciones sobre la ética y la legalidad de estas prácticas.

La investigación, publicada por The Verge, destaca que detrás de estas cuentas no hay personas reales, sino un sistema de dropshipping que permite a los estafadores revender productos de bajo costo con márgenes de ganancia elevados. Este modelo de negocio se basa en la creación de confianza a través de historias emotivas que apelan a la solidaridad de los consumidores. La investigadora Cienna Davis, de la Universidad de Pennsylvania, describe estas prácticas como una forma de "digital blackface", donde las identidades raciales son recreadas artificialmente para obtener beneficios económicos. Este fenómeno no es aislado, ya que se asemeja a la "Estafa Shein" detectada en América Latina, donde los delincuentes utilizaban anuncios engañosos para atraer a las víctimas a participar en esquemas fraudulentos.

El uso de influencers generados por IA no es un concepto nuevo; desde hace algunos años, marcas y agencias han estado experimentando con personajes virtuales que pueden producir contenido las 24 horas del día. Un análisis de PwC indica que los influencers virtuales están en auge gracias a los avances en IA generativa y animación, lo que permite a las empresas tener control total sobre el mensaje y reducir costos operativos. Sin embargo, el problema radica en que muchos usuarios no son capaces de distinguir entre personas reales y avatares generados por IA, lo que abre la puerta a un uso indebido por parte de estafadores.

De acuerdo con estudios, solo el 0.1% de las personas puede detectar con precisión las falsificaciones generadas por IA. Esto plantea un desafío significativo para la regulación y la protección del consumidor, ya que los marcos normativos actuales apenas comienzan a abordar cuestiones de transparencia y responsabilidad legal en torno a los influencers virtuales. Para los consumidores, la recomendación es clara: verificar la autenticidad de las cuentas y desconfiar de historias excesivamente emotivas que buscan impulsar ventas. La ciberseguridad sugiere investigar la existencia real de los negocios detrás de las cuentas y comparar precios antes de realizar una compra.

La situación actual plantea un riesgo considerable para los consumidores, especialmente en un entorno donde la confianza en las plataformas digitales es fundamental. La proliferación de estos perfiles falsos podría llevar a un aumento en las quejas y reclamos por parte de los usuarios, lo que podría afectar la reputación de las plataformas involucradas. A futuro, será crucial monitorear cómo las regulaciones evolucionan para abordar estos problemas y cómo las plataformas sociales implementan medidas para proteger a los usuarios de fraudes. La concienciación y la educación sobre el uso de la IA en el comercio electrónico serán vitales para mitigar estos riesgos y fomentar un entorno más seguro para los consumidores.