Autorregulación no ha dado resultados: experto sobre disminución de riesgos en redes sociales

Pues de entender el tema del día y la noticia del día en España. El gobierno pide suspender Tik Tok. La razón contenidos de abuso sexual infantil. Las pruebas son contundentes. 48 millones de visualizaciones. de vídeos detectados por una investigación de quien ayer habló aquí, en Caracol. Maldita.es. Veinte mil perfiles de potenciales pedófilos identificados. Siete mil operan en español. 780 cuentas utilizadas para captar compradores de material de abuso infantil. Más de 90 emisiones en directo protagonizadas por menores. en las que algunos usuarios solicitaban acciones de carácter sexual a cambio de dinero. A esto se suma una comunidad de más de 2.000 miembros que busca contenido de bebés, es decir, la casa del pederasta. Así lo definió la investigación. Nuestro invitado promueve precisamente el uso seguro del internet, de las redes sociales. Lleva 20 años analizando lo que se llama grooming, el ciberacoso sexual a menores. Nos atiende a esta hora. Don Jorge Flores, bienvenido a Caracol. Hola, muchas gracias, encantado. Pues un placer tenerlo en un día tan especial en donde parecería que el primer país en Europa que le va a decir no más a tiktok sería españa usted cree que esto se resuelve desmontando la plataforma para españa o volver a intentar que se autorregulen pero es que se ha intentado tantas veces y nunca se autorregulan o simplemente un llamado de atención cuál es su opinión don jorge

Bueno, yo creo que la autorregulación efectivamente no ha dado resultado porque se están empleando medios insuficientes para combatir el ciberdelito en sus diferentes formas y en la más grave que es el abuso sexual de personas menores y el tráfico con imágenes de esta categoría de crimen pues está creciendo, se ve que está al menos al margen de la de la intervención, no sólo de las policías, sino también de las propias plataformas. Por lo tanto, la autorregulación ha demostrado, como usted decía, lleva muy mal de 20 años, como algo que no es suficiente. Por lo tanto, sí que hay, al menos en Europa, hay unas directivas, en Estados Unidos también, que intentan encorsetar y, digamos, de alguna forma, poner un marco más rígido, transparente y también punible a las plataformas, sobre todo cuando se trata de la victimización de personas menores. Esto ya se está dando. Ahora bien, tampoco creo que pretender cerrar la plataforma en el marco de un país en tal y como es internet ni creo que sea muy posible ni creo que sea tampoco extraordinariamente efectivo porque dentro de esos datos quedaba maldita no sé si estuvo con ustedes Clara la fundadora y amiga pues yo creo que Hay que distinguir lo que es la exposición de vídeos y, por lo tanto, una plataforma que es usada por pederastas y pederófilos de un lugar donde se victimiza. Y ahí también habría que distinguir en esas categorías de dónde son las víctimas y los depredadores. Por lo tanto, es un asunto complejo.

Sí, claro, es complicado. Otras plataformas como Facebook en su momento enfrentaron situaciones parecidas con las denuncias, de las que también en su caso hicieron caso omiso hasta que se descubrió lo que estaba pasando. ¿Eso ha cambiado en algo en otras plataformas? ¿Realmente se puede hacer algo de control por parte de estas empresas?

Sí, yo creo que la visibilización pública de lo que está ocurriendo y poner esos datos en frente de la sociedad, de las redes de comunicación y, por supuesto, de las propias plataformas, tiene que tener un efecto, no solo reputacional, sino también en cuanto al uso, a los anunciantes, bueno, tiene que tener un efecto. Por lo tanto, es de esperar que esas acciones que contribuyen en definitiva a limpiar la red en general y una plataforma en particular pues tengan su efecto, ¿no? Y yo creo que es importante. Y yo creo que también lo han tenido de forma muy tardía, ya lo tuvo Meta, que como digo, llevo viendo la trayectoria durante mucho tiempo y siempre vamos muy por detrás, pero yo creo que actualmente ya se está actuando de forma más coercitiva frente a estas grandes empresas globales.

Señor Flores, yo pienso en esos padres, en esas madres que tienen hijos menores de edad y que utilizan plataformas, redes sociales, en este caso TikTok. Usted decía que no es suficiente prohibir ¿Qué medidas en su experiencia, en su empresa de pantallas amigas, qué medidas creen que debe tomar hoy día, hoy mismo, esos padres cuyos hijos usan TikTok?

Bueno, pues siempre está lo que hablamos de estar cerca, ¿no? Estar cerca también en su vida digital y significa pues no ser tan de tener un poquito de mano izquierda, de mostrarse más a este lado de la pantalla con ellos, sino siempre en contra, lo cual no significa en absoluto ser permisivos. Y ahí va la otra parte. Tenemos que acercarnos y conocer su mundo y compartirlo con ellos en la medida en que nos dejen y sin alterar o violar su privacidad. pero al mismo tiempo tenemos que ser muy restrictivos en cuanto a qué usan y cuándo lo usan. Por ejemplo, sabemos que muchos menores de 14 años en TikTok y sus familias lo saben, pues no está hecha la plataforma, depende en qué países cambia la edad, para esas personas, por lo tanto, no debieran de esto. Sin embargo, sus padres nos permiten o también, y por poner otro caso de victimización de contenidos, para adultos que se llaman pornográficos están en internet con simplemente dar diez teclas y estamos proporcionando celulares a nuestros hijos con diez años. ¿Nos preocupa el porno entonces? Yo creo que las familias tienen que implicarse primero, conocer segundo, acompañar tercero y también poner límites claros.

Señor Flores, se habla de tiktok o se habla de meta como empresas y plataformas pero finalmente al otro lado de la pantalla o de este lado de la pantalla hay usuarios y hay usuarios que están buscando ese contenido qué tan juiciosa es la justicia a la hora de ir tras quienes consumen el contenido y no únicamente tras quienes lo producen o quienes lo difunden que son las plataformas

Bueno, realmente los medios, como sabemos, en todos los sentidos son escasos, sobre todo cuando estamos hablando de una cuestión global donde la página o el contenido puede estar en un lugar, quien lo ha producido en otro, quien lo consume en otro, el servidor del servicio de la plataforma en otro, es complicado. Esto lo tenemos que tener en cuenta. Y en la medida en que el consumo, digamos, esto está es tan abundante en la red en general y los recursos son escasos y la tramitación vamos a decir o la coordinación entre las policías cuando intervienen varios países es más laboriosa y lenta pues quiero entender con esto que desde luego es un delito que se persigue de forma primordial o principal o prioritaria pero que antes que perseguir a quien consume, posiblemente estén más ocupados en perseguir a quien está victimizando directamente o está distribuyendo, sin que estos últimos sean menos delincuentes. Pero sí que es cierto que cuando los medios son más escasos tratamos de aplicarlos allí donde pueden evitar nuevas victimizaciones o de alguna manera nuevos delitos. o más graves delitos.

A propósito de este tema y el tema del abuso sexual infantil, Hablemos de la IA. ¿Cómo la inteligencia artificial puede hacer que estas personas que están enfermas, estos depredadores, utilicen imágenes de niños que no están en esas condiciones y empiecen a crear estas imágenes hechas a través de inteligencia artificial y que terminen creando más imágenes de abuso sexual infantil? ¿Esa es una preocupación en este momento?

Bueno, hay que entender que eso está pasando ya, pero sí que es cierto que los diferentes modelos de inteligencia artificial generativa tratan de poner límites a lo que sus propias plataformas, en este caso herramientas vamos a llamar, pueden producir. Es decir, no es tan fácil producir imágenes, digamos, virtuales o digitales sintéticas de personas menores en actitudes sexuales. Esto no es tan fácil, ni siquiera de personas adultas, porque los propios modelos ponen sus trabas técnicas. No obstante, sí que es cierto que es posible engañarlos y que, por otro lado, también es cierto que la ley ha avanzado en ese sentido y está penalizando La producción de esos contenidos, aun cuando no haya víctimas reales, aun cuando no sean personas las que están siendo victimizadas, no sea simplemente una ficción que puede ser una imagen sintética o también una imagen, depende de qué grado, de dibujos animados, por decirlo así.

Don Jorge, gracias por atendernos. Muy interesante su ilustración. Pues muchas gracias a ustedes. Es que miran a su pregunta de la inteligencia artificial.