La inteligencia artificial ha abierto nuevas posibilidades para crear contenido digital. Hoy existen herramientas capaces de imitar una voz humana, recrear un rostro o generar vídeos hiperrealistas en cuestión de minutos. Sin embargo, estos avances también plantean un reto importante: la protección de nuestros datos biométricos.
Los datos biométricos son características físicas o biológicas únicas de cada persona, como la voz, el rostro, las huellas dactilares o el reconocimiento facial. A diferencia de una contraseña, estos datos no se pueden cambiar fácilmente, lo que hace que su protección sea especialmente importante.
El problema surge cuando estas características se utilizan sin consentimiento para generar contenido digital. Con la ayuda de la inteligencia artificial, es posible crear audios falsos que imitan la voz de una persona o vídeos manipulados que reproducen su imagen, lo que se conoce como deepfakes. Estas técnicas pueden utilizarse para fraudes, desinformación o suplantación de identidad.
Por este motivo, la legislación europea considera los datos biométricos como información especialmente sensible, sujeta a normas estrictas de protección. Las empresas que utilizan tecnologías de reconocimiento facial o de voz deben garantizar medidas de seguridad adecuadas y contar con el consentimiento del usuario.
En un entorno digital cada vez más avanzado, proteger nuestros datos biométricos se ha convertido en una prioridad. La tecnología seguirá evolucionando, pero la seguridad y el respeto a la identidad de las personas deben avanzar al mismo ritmo.
Esta semana, en el programa La mañana de COPE Canarias, hablamos sobre este nuevo riesgo en Internet
[Roberto González]
Aquí seguimos en nuestra mesa de tertulia con Carlos Saavedra, con Paco Ramos y atentos a una noticia que la verdad es que nos ha llamado mucho la atención y queremos ver hasta qué punto podría tener recorrido el hecho de que tengamos que proteger jurídicamente nuestra identidad biológica a cuenta de lo que se puede hacer con ella en las redes sociales. A ver, la biología no puede registrarse bajo las leyes de propiedad intelectual tradicionales, pero viendo el desarrollo que hay, la posibilidad de que hagan una película directamente con nuestro rostro, con nuestra voz, sin que nosotros participemos en un solo fotograma, pues ya está ahí.
Y el derecho a la propia imagen se erige hoy como un escudo fundamental frente a la explotación no autorizada de nuestra imagen en el entorno digital. ¿Esto se puede hacer? Se está haciendo ya.
Josué Fumero, director de Internetísimo.com, buenos días.
[Josué Fumero]
Hola, qué tal, buenos días.
[Roberto González]
Esto que he dicho yo no es una exageración, ¿verdad?
[Josué Fumero]
Hombre, todo esto sale a colación de que la creación de vídeos de inteligencia artificial ha llegado a unos límites de exactitud que asustan, ¿no? Y el otro día, pues, en las redes salió bastante una película que hicieron con una pelea entre Tom Cruise y Brad Pitt, me parece que fue.
[Roberto González]
Sí, correcto.
[Josué Fumero]
Era tan realista que, claro, ya todos los actores y toda la gente del mundo del cine pues saltaron las alarmas porque sin su autorización estábamos utilizando su imagen y, por supuesto, ganando dinero a partir de ella, ¿no? Entonces, claro, ahí no se reparte con la persona real y ahí entramos en un conflicto aparte de que la persona real también tiene que dar autorización a que su imagen sea publicada de esa forma, ¿no? Entonces, es un tema bastante delicado, ¿no?
[Roberto González]
Claro, de alguna manera le estamos dando nosotros a las grandes empresas tecnológicas permisos sobre el uso de nuestro rostro, de nuestra cara al utilizar alguna de las aplicaciones que aparentemente son gratis. Esa parte donde dice, acepto, leo y acepto las condiciones que nadie lee y que todos le damos, ¿no?
[Josué Fumero]
Yo creo que sí, capaz que lo tiene impuesto dentro de esa súper letra pequeña que firmamos sin leer todos, ¿no? ¿verdad? Y capaz que está dentro de ese texto, ¿no?
Lo que pasa es que la Agencia de Protección de Datos ya está diciendo que es una categoría de datos muy sensible y que no se puede utilizar a la ligera, ¿no? Incluso ya estaba viendo multas importantes a empresas que están haciendo sistemas biométricos para la identificación en lo que es la gestión del horario, ¿verdad? Que dicen que, claro, esa forma de identificar es demasiado invasiva, demasiado delicada.
Hay que dejar una cosa clara. Por ejemplo, nuestra cara, nuestra biometría, no es una contraseña. Por ejemplo, en el caso este de la identificación de control horario.
Entonces, claro, si nosotros no hay una brecha y alguien utiliza nuestra cara para identificarse, pues ahí no es como una contraseña que la podemos cambiar, ¿verdad? Sino que ya estamos un poquito comprometidos y posiblemente ese sistema biométrico de identificación deba ser sustituido, ¿no? Estamos hablando de temas muy delicados.
[Roberto González]
Bueno, pues ahí Dinamarca, una sociedad tan adelantada respecto a determinados asuntos, pues ha decidido crear una ley de propiedad intelectual para reconocer la voz, el rostro y el cuerpo de los ciudadanos. Recurrimos a una empresa, perdón, a una experta, Noemí Brito, que es socia responsable de Derecho Digital de KPMG Abogados. ¿Qué tal, Noemí? Buenos días.
[Noemí Brito]
Hola, muy buenos días. Un placer sumarme al debate.
[Roberto González]
Siempre es un gusto hablar contigo, Noemí. Oye, ¿esto que están haciendo en Dinamarca va a ser tendencia? ¿Vamos a tener que hacerlo también en el resto de Europa?
[Noemí Brito]
Bueno, yo creo que en Dinamarca han dado un paso adelante respecto a la protección actual que se está planteando ya desde la propia Unión Europea. Ahora comentaré brevemente cómo se está abordando desde la propia Unión Europea, pero desde luego en Dinamarca lo que han hecho es plantear este tipo de activos como activos, como bien comentaba, protegibles por la ley de propiedad intelectual, una especie de derecho de autor personal, vamos a decirlo así. Y básicamente lo que se plantea es que se tenga que dar, salvo determinados permisos para proteger la libertad de expresión, esa autorización explícita, que incluso va más allá de la vida, porque se protege 50 años según esta ley tras la muerte de la persona, precisamente para proteger estos activos ante el aumento significativo de los deepfakes y toda la parte de ultrapalsificaciones, como se llama en la ley.
[Roberto González]
Claro, porque ahora mismo una persona fallecida, qué sé yo, yo podría hacer una película de Humphrey Bogart sin Humphrey Bogart, por ejemplo.
[Noemí Brito]
Pues por eso se plantea desde el punto de vista de la propiedad intelectual, en esta ley, la protección con posterioridad a la muerte y al fallecimiento, que esto va un poco marcado en la propia normativa. No obstante diría que en la propia Unión Europea ya hay diferentes ángulos, incluso en España, para abordar toda la problemática de deepfakes. Y de hecho la principal línea de protección viene por la nueva regulación en materia de inteligencia artificial de la Unión Europea.
¿Por qué? Porque ahí se prohíbe específicamente deepfakes sexuales, por ejemplo, de pornografía, que entran dentro de lo que son las categorías prohibidas de sistemas de inteligencia artificial, como categorías inaceptables. Luego también se plantean nuevas obligaciones de transparencia y de etiquetado.
No olvidemos que es una normativa ya en vigor, aunque tiene diferentes plazos de ejecución. Pero hay un artículo que establece específicamente que se tiene que informar que determinados contenidos son generados con inteligencia artificial a diferente nivel y con diferentes condiciones. Otro tema que me parece muy importante y que complementa a la parte de inteligencia artificial es que hay una directiva también que se tiene que transponer por todos los Estados miembros que protege toda la parte de deepfakes en la parte de violencia sexual contra mujeres.
Regula lo que es la violencia de género digital. Y hay otra serie de medidas, con lo cual creo que hay un marco bastante general dentro y fuera de la Unión Europea para empezar también a poner coto al no todo vale desde el punto de vista de la protección de lo que son las personas, los derechos, los activos y los datos también de las mismas a diferente nivel.
[Roberto González]
Es curioso, si alguien nos pidiese esos datos por la calle, o sea, si yo me acerco a cualquiera y me dice, oye, déjame ver con quién te has chateado últimamente o qué páginas has buscado últimamente, hombre, uno se negaría. Sin embargo, no es mí, cuando firmamos este estoy de acuerdo en determinadas aplicaciones gratuitas o aparentemente gratuitas, estamos entregando parte de nuestra intimidad. Sabemos realmente que estamos permitiéndole o entregándole a esa empresa a cambio de participar en unos divertidos fotomontajes o lo que sea.
[Noemí Brito]
Hombre, esta parte siempre ha sido como se ha puesto siempre sobre la mesa la necesidad de los usuarios de tener más curiosidad sobre lo que están firmando y lo que están cediendo en términos de derechos. No obstante, los usuarios al final también se encuentran muchas veces y los consumidores en situaciones un tanto de desprotección. Por lo tanto, también las normativas que he comentado y otras como la Ley de Servicios Digitales que de hecho lo que hace es proteger específicamente los derechos de los usuarios digitales, en particular de los menores, precisamente por esa situación de desprotección.
Por lo tanto, diría que por un lado por parte de los usuarios en general tiene que haber mayor proactividad en la protección de sus derechos y por otro lado también es cierto que en esas situaciones un tanto de desequilibrio las propias normas están evolucionando para proteger mejor esos derechos en el entorno digital. Y evidentemente se va ajustando.
[Roberto González]
Cualquiera sabe todo eso, ¿no? No, claro. Yo le querría preguntar a Noemí.
Es decir, parece que el sistema de aceptar unas condiciones, no digo ya en los adultos, yo digo en adolescentes o menores, pero en los adultos es absolutamente ineficiente. Está bien conceptualmente, usted está dando su voluntad para determinadas cosas, pero realmente en la práctica es absolutamente imposible si uno navega medianamente durante 20 minutos que no acepte 3 o 4 veces unas condiciones generales que necesariamente nadie va a leer, ¿no? Entonces, como no haya una capa superior, yo no sé si se ha pensado en algún otro tipo de sistema, ¿no?
Pero es que realmente o directamente se le prohíbe la utilización de muchos de esos datos para gran parte de lo que lo quieren utilizar o ese sistema de aceptación parece que no tiene mucho sentido, ¿verdad?
[Noemí Brito]
Absolutamente. Bueno, desde el punto de vista de la protección ya estáis viendo que hay riesgos y determinados usos que están directamente prohibidos porque se entiende que son absolutamente desproporcionados, eso por un lado. Por otro lado, la propia regulación, y aquí creo que falta a lo mejor articularlo de una manera más clara, plantea que los sistemas de información tienen que ser los más sencillos, los más incluso iconográficos, utilizando imágenes, que al final es mucho más visual para los propios usuarios.
Entonces yo creo que esa parte a lo mejor de la simplicidad de hacerlo todo mucho más directo faltaría a lo mejor desde el punto de vista de la articulación práctica de la normativa. Pero la normativa creo que actualmente sí que protege de diferentes ángulos, no solamente desde el punto de vista de la propia regulación en materia de inteligencia artificial, también desde el punto de vista de la protección de datos de carácter personal, también el hecho de que exista una regulación específica con la parte de los sistemas de verificación de edad, porque evidentemente no es lo mismo informar a una persona mayor de edad que a una persona menor de edad, la información de hecho se tiene que intentar también acotar. Y luego yo creo que hay aquí un punto también importante que creo que es importante resaltar desde el punto de vista, lo comentabas tú Roberto, de lo que es el derecho también a la imagen y al honor, pero fundamentalmente a la imagen.
Se suele confundir toda la parte de protección de datos con lo que es otro derecho fundamental como el derecho a la imagen. Y no sé si se sabe que también hay un anteproyecto de ley en España que pretende de hecho modificar y amplificar lo que es la protección precisamente frente a los deepfakes en este punto y hay una reforma en marcha en ese sentido.
[Roberto González]
Bueno, es que el otro día, Josué, estábamos hablando el otro día precisamente del uso para cuestiones sexuales de la imagen de cualquiera, con consentimiento o sin consentimiento, pero es que ya no es solo eso, Josué, es que nos encontramos también, yo estoy pensando en todos estos vacilones que hay, todos estos memes que se crean ya en el cual se puede usar el de cualquier persona, o sea, para reírse de uno también, por ejemplo, ¿no, Josué?
O sea, se utiliza para cualquier cosa, ¿no?
[Josué Fumero]
No, sí, el tema, desgraciadamente, hay que dejar una cosa clara, que una foto pública no es un permiso. Entonces, nosotros es cierto que estamos compartiendo en un montón de redes sociales nuestra imagen y que ya la agencia de protección de datos ya ha advertido de que no podemos utilizar esta imagen para cosas como estas que estás hablando, y sobre todo porque generan un daño bastante grave, especialmente en el caso de los menores donde se están utilizando para burlas y bullying hacia terceras personas.
Entonces, es verdad que ya la agencia de protección de datos se ha advertido de que eso no se puede usar, ya hay una ley de la IA a nivel europeo que también lo está diciendo, y lo que dice Noemí es que hay que articularlo de una manera más clara para que los límites sean mucho más claros.
[Roberto González]
Yo me pregunto si, por ejemplo, un Pedro Sánchez, un José Luis Ábalos, que aparecen ahora, no son protagonistas de los memes Noemí, ¿podrían de alguna manera tomar medidas contra los que crean estos memes si es que descubren quiénes son? Claro, porque eso no será tan fácil tampoco, ¿no?
[Noemí Brito]
Ni es tan fácil ni tampoco es el mismo criterio para todos, ¿no? Hay un punto también, ¿no?, de lo que son figuras públicas, ¿no? Que al final pues tienen, vamos a decirlo así, una modulación distinta en la protección de sus derechos, pero no significa que no tengan derechos, al contrario, ¿no?
Entonces yo creo que aquí el punto está en, oye, intentar poner coto dentro de lo que es este salvaje oeste, y hay diferentes ángulos donde se plantea. Incluso, y lo comentaba antes ahora mismo Josué, en la parte de los menores, se ha puesto mucho foco también en las nuevas reformas penales en España, ¿no? Y se introduce, ¿no?, el nuevo delito de deepfake sexual y grooming, sobre todo por relación al nuevo proyecto de ley orgánica de protección de los menores, ¿no?
Yo creo que hay que ser muy consciente de que, lo comentaba antes, ¿no? Que no todo vale, lo comentaba también Josué ahora mismo, de, oye, el que haya una imagen, una fotografía en internet, ya sea consentida o no consentida, no significa que sea de libre uso. Entonces aquí hay diferentes líneas de protección, por la parte de protección de datos, por la parte también de la ley de servicios digitales, por la parte de inteligencia artificial, por la parte de menores, por la parte también de lo que es el derecho al honor y a la propia imagen.
En definitiva, creo que lo primero que se tiene que plantear es, oye, ser muy consciente de que nuestra imagen a día de hoy es oro para las organizaciones, para las compañías.
[Roberto González]
Y no venderlo tan barato, ¿verdad?
[Noemí Brito]
Eso es, eso es. De hecho, bueno, pues ahora mismo también se estaba planteando. Hubo una polémica, ¿no?
Si recordáis con el tema de entregar el iris, ¿no? A cambio de 70, 100 euros que íbamos todos, ¿no? A los supermercados a vender esos datos.
Son datos altamente sensibles, altamente sensibles. Un dato biométrico es un dato que nos identifica de manera inequívoca y realmente, pues, es muy grave, ¿no? Que no tengamos conciencia sobre las capacidades que tiene ahora mismo también la inteligencia artificial por relación a estos datos.
Realmente nos pone en una situación de vulnerabilidad.
[Roberto González]
Bueno, pero la verdad que a veces el límite es un poco complicado. Por ejemplo, estábamos hablando de suplantar a un actor con imágenes. Claro, le quitas hasta su sustento, por decirlo de alguna manera.
Pero claro, el otro límite es, yo no puedo. Antes se hacían caricaturas y te burlabas de un político. ¿Hasta dónde una crítica porque utilice una foto en un momento determinado es un delito de odio o algo de este tipo?
A veces la frontera tampoco está clara. Porque si todo lo regulamos hasta un punto muy fuerte, al final no podemos hacer nada.
[Josué Fumero]
De otra manera, una cosa, Roberto, también hay que meter en vista la voz. Aquí estamos hablando ahora de imágenes, pero también la voz puede ser utilizada. Me interesa, me interesa eso.
Rápidamente, Carlos.
[Carlos Saavedra]
Dijiste una cosa, Roberto, que me hiciste una pregunta. No lo hiciste conscientemente, pero dijiste, bueno, quizás no haya que venderlo tan barato. La pregunta que le hago a los expertos es…
¿Hay que venderlo? No, hay que venderlo en una decisión personal. ¿Se puede vender?
¿Yo puedo vender mi imagen? Todo esto que decimos que no queremos que hagan a cambio de nada. Oye, yo por mil euros puedo llegar con una productora y decir, ¿Puede usted utilizar toda mi imagen para hacer a partir de lo que ahora, con inteligencia artificial, lo que quiera?
No, un actor con 80 años que ya no va a cobrar más, vende mi imagen y venga, úsala. Dame tres millones de dólares. Una imagen con 30 años, a lo mejor, ¿no?
¿Pero se puede? Es mi pregunta que le haría a Noemí.
[Noemí Brito]
En un minuto ya. Nada, perfecto, muy bien. O sea, yo creo que aquí la respuesta es que hay límites, límites claros incluso a la venta de ese tipo de datos.
Porque puede realmente afectar a otros derechos fundamentales también y puede ser excesivo. De hecho, la propia Agencia Española de Protección de Datos muchas veces ha dado como inválidos ciertos consentimientos por entender que son altamente intrusivos a los derechos fundamentales de las propias personas. Y respecto a otros límites, pues es verdad que es muy importante también tener en cuenta la libertad de expresión.
Hay límites con la parodia, sátiras, etcétera, que se admiten por la propia.
[Roberto González]
Les veo interesados. Ya saben que ahí está Noemí Brito, social responsable de Derecho Digital de KPMG Abogados, por si hiciera falta. Y también Josué Fumero, otro respecto, director de Internetísimo.com.
Muchas gracias a los dos. Un abrazo.
[Noemí Brito]
Un abrazo fuerte. Adiós.
