El creador de una IA para identificar a actrices porno pide perdón

Un programador anónimo de Alemania generó una enorme indignación la semana pasada cuando se descubrió que, supuestamente, había usado tecnología de reconocimiento facial para “atrapar” a las mujeres que habían aparecido en algún vídeo porno. El programador afirma que, desde entonces, eliminó el proyecto y todos sus datos. Pero no lo ha hecho por altruismo, no, su ‘gran idea’ violaba el Reglamento General de Protección de Datos (RGPD) de la Unión Europea (UE) y es posible que las consecuencias legales se hubieran extendido a otros países.

Todavía no hay pruebas de que su sistema realmente funcionara, o incluso de que existiera a nivel. Supuestamente, su tecnología de inteligencia artificial (IA) comparaba las fotos de las redes sociales de algunas mujeres con imágenes de páginas web como Pornhub. Lo hiciera o no, se trata de un enfoque técnicamente posible con consecuencias terribles.

La abogada especializada en violaciones de la privacidad sexual y autora del libro La víctima de nadie: Luchando contra los psicópatas, los acosadores, los pervertidos y los troles, Carrie A. Goldberg, advierte: “Algo así puede matar a la gente. De todos mis clientes, los que más acoso han sufrido han sido aquellos que han hecho pornografía, a menudo sólo una vez en su vida y algunas veces inconscientemente [porque] les engañaron. Sus vidas fueron arruinadas por todo el movimiento Incel (o celebridades involuntarias es un movimiento de misoginia de hombres que alegan que las mujeres les niegan el sexo) que, por diversión, expone a las mujeres que han hecho pornografía y publican sobre ellas online y las acosan”.

El GDPR de la Unión Europea previene, precisamente, este tipo de situaciones. Aunque el programador, que divulgó su proyecto en la red social china Weibo, al principio insistía en que todo estaba bien porque no hizo pública la información. Solo es ilegal recopilar los datos si las mujeres no han dado su consentimiento, según el experto en protección de datos y socio del bufete de abogados alemán Neuwerk Börge Seeger. Estas leyes se aplican a cualquier información de los residentes de la UE, por lo que se habrían aplicado incluso si el programador no viviera en la UE.

De acuerdo con la GDPR, los datos personales (y especialmente los datos biométricos sensibles) pueden recopilarse para fines específicos y legítimos. Pero esa descripción no se ajusta a la de rastrear datos para averiguar si alguien apareció en un vídeo porno. Y si el programador hubiera cobrado dinero por acceder a esta información, podría haberse enfrentado a hasta tres años de prisión bajo la ley penal alemana, agrega Seeger.

Pero más allá de la fuerte regulación de la UE y de algunas normas restrictivas en algunos estados de EE. UU., lo que ha hecho este programador podría repetirse en muchos otros países vulnerables. Y el cumplimiento de estas leyes es complicado, agrega Gagnier. Las autoridades de protección de datos de cada uno de los países son las responsables de su cumplimiento, pero deben elegir sus batallas y puede ser difícil servir a las personas con demandas judiciales. El fin de semana pasado, y a través de Weibo, el programador (que no dio su nombre real) insistió en que la tecnología existía, pero reconoció que planteaba problemas legales. Después, pidió disculpas por haber causado problemas. Pero él no es el único capaz de construir una tecnología de este tipo ni el único interesado en usarla con fines peligrosos. Los políticos que se preocupan por la ley de privacidad global deben comenzar a pensar en el futuro de esta posibilidad.

Fuente: technologyreview.es

¿Ya conoces nuestro canal de YouTube? ¡Suscríbete!