En el vertiginoso avance de la inteligencia artificial, la tecnología generativa ha emergido como una fuerza revolucionaria, capaz de reconstruir o reproducir contenido de manera asombrosamente verosímil. Sin embargo, este salto hacia el futuro no está exento de desafíos, según el análisis de ESET, existen cinco riesgos cruciales de la Inteligencia Artificial Generativa que no debemos ignorar.
La Inteligencia Artificial Generativa y su vacío legal
La primera línea de riesgo se sitúa en la moderación de contenidos. Redes sociales, sitios web y aplicaciones a menudo carecen de claridad legal en cuanto a los contenidos subidos por usuarios y aquellos generados por IA. A pesar de los términos de uso y políticas de privacidad, existe un vacío legal que sirve de blindaje para los proveedores ante posibles violaciones de derechos de autor. La fácil accesibilidad a herramientas de IA Generativa, con políticas poco claras, amplifica este riesgo.
Infracción de derechos de autor e imagen: Hollywood se levanta en contra
En mayo de 2023, una huelga del Sindicato de Guionistas en Estados Unidos desencadenó una serie de conflictos que involucraron al Sindicato de Actores en julio del mismo año. El aumento de la demanda y creación de contenido en plataformas digitales generó conflictos salariales, pero también reveló el abuso de la IA Generativa. Grandes compañías utilizaban esta tecnología para producir contenido sin el consentimiento de actores y guionistas, llevando a Estados Unidos a implementar recursos legales para proteger los derechos de ambas partes.
Privacidad: ¿Qué sucede cuando los datos se obtienen sin consentimiento?
El tercer riesgo se centra en la privacidad. Para que los modelos de IA Generativa funcionen, necesitan grandes volúmenes de datos. Sin embargo, la obtención de estos datos de fuentes públicas, sin el consentimiento del titular, plantea interrogantes éticos. ESET sugiere adherirse al marco normativo sobre privacidad de datos o al GDPR del Parlamento Europeo para abordar esta cuestión.
La Inteligencia Artificial Generativa y el problema de la suplantación de identidad
En países con regulaciones laxas sobre IA, la tecnología generativa se aprovecha para fines poco éticos. La suplantación de identidad, lanzamiento de campañas de phishing sofisticadas y estafas tipo catfishing se vuelven moneda corriente. La falta de regulación crea un terreno fértil para prácticas fraudulentas.
Desinformación
El quinto riesgo destaca cómo la IA Generativa impulsa la difusión de noticias falsas en plataformas y redes sociales, agravando la desinformación. La viralización de contenido engañoso perjudica la imagen de individuos, comunidades, países, gobiernos y empresas.
David González Cuautle, Investigador de Seguridad Informática de ESET Latinoamérica, advierte sobre la necesidad de abordar estos riesgos de manera cuidadosa para garantizar el uso ético y seguro de la IA Generativa.
En respuesta a estos desafíos, ESET destaca la importancia de estrategias preventivas y correctivas, desde un filtrado y moderación efectiva hasta la promoción de la educación pública sobre los riesgos asociados. Estas medidas buscan no solo proteger a los individuos y empresas, sino también fomentar prácticas éticas en el desarrollo y uso de la Inteligencia Artificial Generativa.
