Ojo con el 'cloaking'

Está claro que no siempre dice la verdad y también que detectar los errores es nuestra labor. Pero ¿qué pasa si la misma IA es engañada? Esta nueva variable en la ecuación se ha bautizado como AI-targeted cloaking y consiste, según el autor del artículo, jcastilloa5f9631067 en la web UAD by Hispasec, en permitir «a atacantes manipular el contenido que los rastreadores de IA consumen, haciéndoles creer que la información falsa es una verdad autorizada». El concepto, que no es nuevo aunque no así su aplicación a esta nueva tecnología, me lo ha descubierto mi querida Lourdes Torrejón a través de LinkedIn. Todo muy TIC.

Esto, que suena a ficción, es tan simple como peligroso. Imaginen que una empresa utiliza una IA para filtrar currículums. Un atacante podría mostrarle al rastreador de esa IA un perfil inflado de un candidato y la IA, engañada, recomendaría al postulante menos cualificado, asumiendo como verdad absoluta la mentira que le han servido. Ahora extrapolen esto a la reputación de una marca, a la biografía de un personaje público o a los resultados de una investigación científica. Se puede reescribir la realidad, envenenando la fuente en la que millones de usuarios confían para estructurar sus vidas.

Así que ahora, cada vez que abran su plataforma de IA preferida, recuerden que su nuevo mejor amigo/a, consejero/a, llámenlo X, no solo puede equivocarse, sino que también puede ser la víctima de un engaño. Y como hasta ahora, nos tocará a los humanos dudar, contrastar y, en definitiva, seguir siendo algo más efectivos que las máquinas.