TikTok estrena una ferramenta per a detectar continguts fets amb IA i reforça el control parental
La popular xarxa xinesa de vídeos en vertical incorpora una eina per a avisar els creadors de l'ús il·lícit de la seua imatge i permetrà als progenitors saber amb qui interactuen els fills
Realitat o creació de la intel·ligència artificial? TikTok ha posat en marxa este dijous una nova eina que permetrà els usuaris, registrats o no, comprovar per ells mateixos si un contingut és real o fruit de la IA. És una de les novetats que la xarxa social xinesa, referent en vídeos curts de format vertical, ha presentat en el Fòrum de Seguretat i Innovació 2026 de Londres.
En la trobada, en la qual han participat periodistes de diferents països europeus, ha estat molt present la investigació destapada per la fundació espanyola Maldita.es sobre els més de mil vídeos d'abús sexual infantil que circulaven en la plataforma. “El contingut sobre abús a menors està totalment prohibit en TikTok, però els criminals troben la manera. Per a esmenar estes llacunes estem millorant les mesures de seguretat i protecció”, ha dit Valiant Richey, director global d'Aliances, Eleccions i Integritat del Mercat de la xarxa.
Una de les novetats presentades que més expectació genera és una pàgina web per a verificar si un contingut és real o està fet amb les ferramentes d'intel·ligència artificial de la plataforma mateixa, TikTok AI. Qui vulga distingir la realitat del que no ho és ha de descarregar-se el contingut de TikTok que vulga comprovar, pujar-lo a l’eina, accessible a través del Centre de Transparència, i en uns segons obtindrà la resposta. No fa falta ser usuari per a fer esta verificació.
Fonts de la plataforma indiquen que els usuaris han creat més de 5.000 milions de vídeos amb les eines d'IA. Encara que hi ha un avís de si el contingut està fet artificialment, hi ha publicacions que l'evadixen.
Evitar l'ús il·lícit de la imatge aliena
Una altra de les violacions més comunes en la plataforma és utilitzar la imatge d'un altre sense consentiment. TikTok ha creat una nova aplicació opcional, anomenada Likeness detection, que avisarà els creadors de continguts registrats de l'ús il·lícit de la seua imatge. Aquells creadors verificats que complisquen els requisits s'han de registrar en Likeness detection verificant la identitat a través d'un soci extern de confiança.
Quan es detecten continguts o comptes en TikTok que podrien emprar la seua imatge sense consentiment rebran una notificació, podran revisar el contingut sospitós i denunciar-lo directament als equips de seguretat de la plataforma. "Aquells que infringisquen les normes de la comunitat sobre representacions nocives, enganyoses o no consentides de persones seran eliminats", ha assenyalat Tom Varghese, responsable global de Polítiques Públiques d'IA en TikTok.
Més control parental
Un altre front en què la tecnològica xinesa fa un pas més és en la supervisió parental. Els progenitors podran saber amb qui interactuen els fills, qui els seguix, a qui lleven o bloquegen, així com els comptes amb les quals intercanvien missatges. Això sí, "per a assegurar el respecte a la privacitat dels menors", asseguren fonts de TikTok, els pares i mares podran saber "amb qui", però no coneixeran quin contingut intercanvien.
També podran rebre notificacions quan les criatures facen una publicació i conéixer quin abast (audiència) té. El temps que els adolescents passen en l'aplicació serà més visible en el control parental amb les actualitzacions presentades.
Prevenció en salut mental
Richey ha avançat que TikTok treballa amb experts de referència en salut mental adolescent, entre els quals ha citat alguns de l'Hospital Infantil de Boston i de l'Associació Internacional per a la Prevenció del Suïcidi, per a desenvolupar una nova alerta dirigida als pares si els fills fan cerques repetides de termes relacionats amb les autolesions o el suïcidi. Una notificació informarà en el futur els progenitors si els menors intenten accedir a contingut potencialment perjudicial i els oferirà orientació secundada per experts sobre com actuar.
Guia per a educadors
La plataforma també llança hui una guia de TikTok per a educadors, disponible en el Centre de Seguretat, perquè els docents tinguen un compendi d'informació, eines i orientacions sobre l'ús i seguretat en TikTok. Pròximament, incorporaran a la guia alguns recursos per a usar a les aules.