La Autoridad Nacional de Protección de Datos (ANPD) de Brasil ordenó suspender el uso de datos personales publicados en las plataformas de la empresa Meta para el entrenamiento de sus sistemas de inteligencia artificial (IA), por medio de una medida cautelar aprobada por su junta decisoria. La orden fue publicada en el Boletín Oficial de la Unión (DOU) el martes 2. Además de la prohibición, la medida estableció una multa diaria de 50.000 reales (9.209 dólares, al 16 de julio), en caso de incumplimiento.
Esta prohibición derivó del anuncio de Meta de que usará, a partir del 26 de junio y a raíz de una nueva política de privacidad, los datos compartidos por los usuarios de Facebook, Messenger e Instagram para entrenar su IA generativa.
Para la ANPD esto comporta graves riesgos de daños para los 102 millones de usuarios activos de estas plataformas en Brasil, quienes, además, están ante una flagrante violación de la Ley General de Protección de Datos (LGPD) nacional.
Relacionado: ¿Cómo está dando forma la IA a las agencias de publicidad y a los creadores de contenidos?
La Agencia tiene especial interés en proteger los datos personales de niños y adolescentes del proceso de entrenamiento de la IA de Meta, pues estos son sujetos de especial protección dentro de la LGPD. El ente dijo en un anuncio oficial que:
"La ANPD evaluó que la empresa no proporcionó la información adecuada y necesaria para que los titulares fueran conscientes de las posibles consecuencias del tratamiento de sus datos personales para el desarrollo de modelos generativos de IA".
En respuesta a la prohibición, Meta Inc. emitió un comunicado en el que informó que está decepcionada con la decisión de la ANPD, especialmente porque, según ellos, son más transparentes que otras empresas respecto al uso de los datos para entrenar sus algoritmos e IAs, “que han utilizado contenidos públicos para entrenar sus modelos y productos”.
La decisión de la ANPD surgió de la identificación de varias irregularidades en la política de Meta, como el uso indebido de la base jurídica del ‘interés legítimo’ para el procesamiento de datos personales, particularmente sensibles; la falta de transparencia en la información a los usuarios sobre la nueva política; obstáculos excesivos para los usuarios que buscan ejercer sus derechos y el manejo inadecuado de datos relativos a niños y adolescentes.
Raissa Varrasquim Pavon, especialista en derecho digital y protección de datos de Ernesto Borges Advogados, explicó que la medida preventiva aplicada por la ANPD se basó en la protección del derecho fundamental a la protección de datos personales por evidencia de ausencia de hipótesis jurídica para el tratamiento de datos personales, falta de transparencia en estos tratamientos, limitación al ejercicio de derechos de los interesados y tratamiento de datos personales de niños, niñas y adolescentes sin las debidas salvaguardas, conductas expresamente reguladas por la LGPD.
Te interesa: Smiley face, el logotipo de Nirvana, tiene una historia de disputa por derechos de autor
La decisión tuvo origen en un procedimiento de inspección de la ANPD que dio origen a la Nota Técnica nº 27/2024/FIS/CGF/ANPD (SEI nº 0129769), que tiene por objeto la nueva Política de Privacidad publicada por Meta, que establece que la empresa estará recabando datos personales compartidos por usuarios y no usuarios de sus plataformas con la finalidad de entrenar y mejorar sus sistemas de inteligencia artificial generativa, dijo.
"La propia LGPD, desde su artículo 52, trata de buenas prácticas y gobernanza del dato, que deben ser adoptadas por las empresas que tratan datos en su operativa habitual. Entre estas prácticas es importante destacar la finalidad y necesidad de conformidad con la base jurídica adoptada para el procesamiento, así como la adopción de medios claros y objetivos que permitan a los titulares de los datos procesados ejercer regularmente sus derechos".
Marcelo Cárgano, abogado especialista en derecho digital de Abe Advogados, precisó que la decisión de la ANPD de suspender la política de Meta destaca cómo las empresas deben alinear sus prácticas de datos con los requisitos de la LGPD, para garantizar que puedan procesar datos personales en Brasil.
Más sobre Brasil: Brasil promulga ley que regula los ensayos clínicos y podría atraer inversiones en I+D
Dice que, para entender por qué la ANPD dictó la medida cautelar, hay que examinar uno a uno los cuatro argumentos formulados en su decisión. Por ejemplo, en cuanto al “uso inadecuado de la base legal del ‘interés legítimo’ para el procesamiento de datos personales”, proporciona varias bases legales para que las organizaciones procesen datos personales.
Entre ellos se encuentra el ‘interés legítimo’, que Meta afirmó utilizar para entrenar sus IA con datos personales, que la Autoridad consideró cuestionable porque involucra datos personales sensibles y contradice las expectativas de los usuarios sobre la privacidad de los datos, especialmente en lo que respecta a los datos compartidos hace años por los usuarios para la capacitación en IA.
Sobre la “falta de transparencia”, explicó que Meta no proporcionó información clara a los usuarios sobre los cambios en su política de privacidad. La ANPD señaló que la divulgación de la actualización de la política de privacidad en Brasil fue significativamente menos extensa en comparación con la UE, donde los usuarios fueron notificados con anticipación, con la opción de oponerse al uso de sus datos para capacitación en IA.
"Esta falta de transparencia viola la LGPD y exacerba las preocupaciones sobre el procesamiento de intereses legítimos, ya que es posible que los usuarios no comprendan completamente las implicaciones".
Más sobre este tema: Ante los ciberataques: ¿Cuánto han avanzado las leyes en América Latina en protección de datos?
En cuanto a los “obstáculos excesivos para los usuarios que buscan ejercer sus derechos”, el organismo destacó el uso de “patrones oscuros” (manipulan a los usuarios para que tomen decisiones que pueden no alinearse con sus intereses o expectativas) en el diseño de la interfaz de usuario de Meta; además, el proceso para los usuarios brasileños era excesivamente complejo y requería hasta ocho pasos, lo que efectivamente disuadía a los usuarios de ejercer sus derechos LGPD.
Referente al “manejo inadecuado de datos relativos a niños y adolescentes”, tanto la LGPD como las leyes brasileñas y el Estatuto del Niño y del Adolescente (ECA) exigen protecciones especiales para el procesamiento de sus datos personales. La ANPD criticó a Meta por no aclarar cómo se manejarían los datos de los menores brasileños en el entrenamiento de IA, “lo que generó preocupaciones sobre impactos y riesgos desproporcionados.”
Sugerimos: Además de Huawei, Chanel ha sufrido otros reveses marcarios en la Unión Europea
Todo esto es especialmente relevante si se compara el comportamiento de Meta en Brasil con el que tuvo en la Unión Europea, donde —al contrario que en Brasil— no entrenará sus modelos de IA utilizando contenidos generados por menores.
"La ANPD justificó su medida preventiva debido a la naturaleza irreversible del uso de datos de entrenamiento de IA, lo que requiere una acción rápida para evitar daños importantes y proteger los derechos de los interesados. La verdad es que una vez que Meta comienza a utilizar datos personales con fines de entrenamiento de IA, es difícil garantizar la eliminación completa de dicha información".
Esta es una decisión histórica que subraya la importancia crítica de las prácticas sólidas de protección de datos exigidas por la LGPD, que —además— puede entenderse desde la perspectiva de la protección de la propiedad intelectual, ya que existe la posibilidad de que la IA de Meta también pueda ser entrenada a partir de obras protegidas por derechos de autor, puestas a disposición de los usuarios en sus plataformas, sin que estos hayan dado autorización o lo sepan a tiempo para frenar el uso indebido o puedan ejercer sus derechos como titulares de los datos y también como titulares de la propiedad intelectual vulnerada, indica Raissa Varrasquim.
No te pierdas: Las disposiciones más destacadas del Reglamento Europeo de Inteligencia Artificial
Marcelo Cárgano recuerda que si bien la medida preventiva específica de la ANPD aborda únicamente cuestiones de protección de datos y no implica denuncias de abuso o violaciones de la propiedad intelectual, la intersección de las leyes de propiedad intelectual y la capacitación en IA es cada vez más relevante en el desarrollo de estos sistemas, que dependen en gran medida de amplios conjuntos de datos (que pueden incluir contenido protegido por las leyes de propiedad intelectual) para lograr una funcionalidad efectiva.
Por lo tanto, más allá de las preocupaciones relacionadas con los datos personales protegidos por las leyes de privacidad de datos, la formación de sistemas generativos de IA también plantea importantes consideraciones de propiedad intelectual.
La intersección de estos hechos cobra especial relevancia si se considera que, a nivel mundial, los tribunales y las legislaturas están debatiendo si el uso de obras protegidas para entrenar modelos de IA califica como uso legítimo o si las leyes de propiedad intelectual deben adaptarse para dar cabida a la extracción de datos con fines de capacitación de diversas IA.
Debates, cabe precisar, que abordan cuestiones éticas sobre la privacidad, el consentimiento y el uso póstumo de la imagen personal, con la creación de deepfakes de personas fallecidas, por ejemplo; o sobre el límite entre la reinterpretación de una obra o el plagio de esta sobre el contenido generado por IAs con capacidad para crear obras que aún se discute si son originales o legítimas.
Si bien en Brasil (y otros países) se están debatiendo las implicaciones de la IA en la propiedad intelectual y los legisladores brasileños están considerando medidas para abordar estos desafíos, siguen sin resolverse en todo el mundo lo que presenta desafíos complejos en la intersección de la tecnología, el derecho y la innovación, dijo Cárgano.
}
Add new comment