Entre el 25 y 27 de abril, se llevaron a cabo las 10° Jornadas Profesionales para Ilustradores, en el marco de la Feria Internacional del Libro de Buenos Aires,l. Allí, tuvo lugar el día 26 la charla “IAs y derechos autorales", moderada por el Presidente de la ADA, Poly Bernatene, y en la que participaron los socios Diego Agrimbau y Walter Koza, junto con la Dra. Micaela Mantegna, Abogamer, especializada, entre otras cosas, en el campo emergente de la política de los videojuegos y el aspecto legal de las inteligencias artificiales.
Dicha actividad estuvo focalizada en desarrollar la problemática que implica el uso indebido de las inteligencias artificiales para la profesión de los Artistas Gráficos y cómo es el panorama legal en torno a ellas. Y, sobre todo, en generar conciencia en la importancia de informarnos y capacitarnos para tener un rol activo y enfrentar la incertidumbre que provoca la irrupción antiética de estas tecnologías que seguirán evolucionando y ya son parte de nuestra realidad. Nadie puede negar su tremendo impacto sobre lo que significa ser humano y creativo. Por eso es fundamental determinar qué límites y alcances deben tener para LUCHAR POR SU REGULACIÓN.
De todas formas es crucial comprender, más que nunca, que no todos estamos parados de la misma manera frente a esta dramática situación. Debemos diferenciar a los que utilizan las IAs amparados en una falsa democratización para sacar provecho sin miramientos éticos ni legales, de los que las usan obligados por necesidad o falta de opciones para sobrevivir. Por eso, en ADA, pretendemos no demonizar a nadie. Desde la empatía y el respeto hacia las diferentes realidades y posiciones debemos sumar las energías y voluntades necesarias para superar juntos esta compleja realidad que acecha a la creatividad y a nuestra profesión.
En primer lugar, se realizó una breve introducción respecto de lo que es una inteligencia artificial y cómo son utilizadas. Por un lado, se remarcó que en el desarrollo del dataset de las inteligencias artificiales generativas de imágenes (IAGI) se recurrió a imágenes extraídas de internet sin el consentimiento de sus autores e infringiendo sus Derechos de Propiedad Intelectual. Por otro lado, se hizo mención acerca de lo que es un ‘prompt’, entendido como una petición que se hace mediante un texto a un dispositivo con el propósito de que devuelva una respuesta (un texto nuevo, una imagen, un video, etcétera). En el caso de las IAGIs, se refirió a las características de estas instrucciones, señalando que, mediante estas, se pueden solicitar imágenes con el estilo de un autor o una obra específicos. Al respecto, se analizó el siguiente prompt extraído de Lexic.ar y su correspondiente output:
Ejemplo de prompt y output.
Como se puede apreciar, es posible pedirle a la IAGI que imite el estilo de un artista reconocido (en este caso, Hergé y Tardi), como así también referir a una obra (Tintín). En relación con ello, un problema que se evidencia desde la asociación es la capacidad de las IAGIs para imitar estilos de artistas vivos, sin que estos den su consentimiento y, a su vez, no se les retribuya económicamente.
Lo anterior, a su vez, trae aparejada la problemática de establecer si las imágenes generadas por estos dispositivos son derivativas (un producto que no agrega nada al original del que se basa) o transformativas, es decir, logran un producto nuevo.
IAs y derechos autorales I
En relación con todo ello, la asociación señala los siguientes efectos negativos y sus impactos en la profesión:
- La capacidad de estas IAs de reproducir estilos particulares de artistas vivos,utilizando sus nombres propios y obras dentro de los prompts para imitarlos sin su consentimiento ni retribución.
- El vacío legal en torno al copyright y derecho de autor en la generación de imágenes con IAGIs fomenta el PLAGIO a nivel masivo de los usuarios de estas tecnologías.
- La competencia desleal, en la medida en que la precarización actual de nuestro oficio se ve recrudecida por la aparición de un nuevo actor que produce “resultados” a una velocidad y costos imposibles de empatar.
- Reemplazo de empleos “freelancers o de producción” por parte de empresas dentro de las industrias creativas (cine, animación, cómics, videojuegos, etc), una gran masa crítica e invisible de trabajadores de las Artes Gráficas y Audiovisuales que quedan vulneradas y con riesgo de desaparecer por fuera de cualquier conflicto relacionado con los derechos autorales.
- La obligación de que muchos artistas tengan que adaptarse a tecnologías que no desean incorporar, que consideran injustas o ilegítimas para tener que sobrevivir económicamente.
- El desánimo por el estudio y la formación de disciplinas artísticas tradicionales. Dibujar, pintar y reelaborar el error desde la experimentación son primordiales en el desarrollo cognitivo y artístico y medios con los que las personas se constituyen como intérpretes activos del mundo. Consideramos que las IAGIs anulan las capacidad de conmover y emocionar.
- Incremento de las dificultades para el ingreso de jóvenes al mercado laboral y, por lo tanto, para el surgimiento de nuevas generaciones de artistas y creativos.
- Impacto anímico. A la incertidumbre que los artistas estamos acostumbrados, se suma la inestabilidad emocional provocada por cambios abruptos en reglas que modifican las relaciones laborales y con nuestro entorno profesional.
- Empobrecimiento de nuestro arte y de la cultura en general. Consideramos que los algoritmos, llenos de sesgos y carentes de valores morales, profundizan desigualdades y enriquecen solo a las grandes corporaciones tecnológicas.
IAs y derechos autorales II
Agradecemos especialmente a Micaela Mantegna por regalarle a ADA un ejemplar de “ARTEFICIAL: CREATIVIDAD, INTELIGENCIA ARTIFICIAL Y DERECHO DE AUTOR”, sin duda alguna recomendamos su lectura, nosotros ya lo estamos leyendo con atención e informándonos muchísimo. Pueden conseguirlo aquí.
Por otra parte, la presentación de Mantegna resultó tan interesante y rica en información que nos quedamos sin tiempo, por eso compartimos por aquí las propuestas de Regulación con el compromiso de trabajar conjuntamente con especialistas en la materia para poder llevarlas ante los organismos Estatales responsables de legislar.
Posibles caminos para regular las IAs
Fuente: Manifiesto EGAIR al que apoyamos desde ADA
- Los datos relacionados con personas u obras, en cualquier forma, ya sean datos digitales —como archivos de texto, audios, videos o imágenes— o capturados de la realidad por cámaras, micrófonos o cualquier otro medio de registro, no se utilizarán para entrenar modelo de IA sin el consentimiento explícito e informado de su propietario. Pedir la introducción de una nueva forma de protección específica para este tipo de explotación: el “derecho de entrenamiento”.
Esta protección establece tres escenarios alternativos para las empresas de IA en cuanto al uso de un contenido para el entrenamiento:
- La imposibilidad de utilizar dicho contenido sin el consentimiento explícito del titular,
- La autorización del titular para usar el contenido sin restricciones,
- La autorización para usar el contenido regulado por un contrato comercial de licencia entre las partes con términos y condiciones claros.
- Prohibir el uso de nombres de personas, nombres artísticos o títulos de obras no amparadas por una licencia de explotación para el entrenamiento de IA para aquellos software que permitan el uso de indicaciones textuales o vocales para generar imágenes, videos, textos o audio.
- Prohibir el uso de videos, imágenes, audios y textos no cubiertos por una licencia de explotación para el entrenamiento de IA para aquellos software que permitan la carga de contenidos multimedia para generar una imagen, un video, un texto o un audio.
- Establecer un sistema de indexación y certificación "legible por humanos y máquinas", que informe todas las actividades de las IA y el contenido completo de sus conjuntos de datos de imágenes, textos, videos y sonidos, ya sea que se reproduzcan total o parcialmente. Los subtítulos como "completamente hecho por IA", "hecho con material generado por IA" deberían convertirse en el estándar.
- Cualquier dato utilizado en el entrenamiento de un modelo debe ser curado y autorizado por su propietario legítimo e insertado voluntariamente en el conjunto de datos por su autor con pleno conocimiento de ello, las empresas de AI deberán producir internamente materiales originales para la capacitación o licenciar material externo siguiendo términos y contratos previamente establecidos con los autores o legítimos titulares de dicho material.
Propuestas que suma ADA
- Solicitar a la oficina de Derechos de Autor en Argentina que se niegue el copyright a algo hecho por una entidad no humana (como en EE.UU.).
- Promover la inclusión de esta lista de buenas prácticas dentro de las guías y manuales de las empresas inversionistas, inversores de capitales de riesgo como Black Rock y otras. El respeto al copyright y derechos de propiedad intelectual, así como la protección de datos personales, debe sumarse como una práctica exigible así como lo son el uso responsable de energías renovables, las cuotas de género y diversidades dentro del plantel de una empresa. De este modo las productoras, agencias y plataformas que usen tecnología IA, sin atención a las exigencias aquí presentes, verán reducidas sus calificaciones y por lo tanto su cotización y capitalización, como ya sucede con otro tipo de exigencias de buenas prácticas.