NEW YORK.-
Un reciente informe ha puesto de manifiesto una significativa vulnerabilidad en las herramientas de Inteligencia Artificial (IA), como ChatGPT, Google y Gemini, que permite la fácil manipulación y propagación de desinformación. El periodista Thomas Germain reveló cómo estas avanzadas plataformas pueden ser coaccionadas para emitir información errónea, un problema que, según expertos, podría tener serias consecuencias para el acceso a datos verídicos y la seguridad de los usuarios.
La problemática se extiende más allá de los conocidos “errores” que ocasionalmente cometen los chatbots de IA. Se ha descubierto una estrategia sorprendentemente sencilla, que permite a los usuarios inducir a estas herramientas a decir prácticamente cualquier cosa que deseen. Esta manipulación ya está afectando la información que las principales IA del mundo ofrecen sobre temas críticos como la salud y las finanzas personales, lo que podría llevar a decisiones perjudiciales.
Para demostrar la gravedad de la situación, Germain realizó un experimento. Logró que ChatGPT, las herramientas de búsqueda de IA de Google y Gemini afirmaran que él era un experto excepcional en el consumo de perros calientes. Esta demostración, si bien satírica, subraya un punto mucho más serio: la facilidad con la que se puede alterar la narrativa de la IA.
El método de manipulación es alarmantemente simple: la publicación de una entrada de blog bien elaborada en cualquier sitio web puede ser suficiente para cambiar las respuestas que las herramientas de IA ofrecen a otros usuarios. Este truco explota debilidades inherentes en los sistemas integrados en los chatbots, especialmente cuando buscan información en internet para responder a consultas sobre temas de los que carecen de datos preexistentes.
Germain ha revisado “decenas de ejemplos” donde se ha coaccionado a las IA para promocionar negocios y difundir desinformación, sugiriendo que este fenómeno está ocurriendo a gran escala. “Es fácil engañar a los chatbots de IA, mucho más fácil que engañar a Google hace dos o tres años”, afirmó Lily Ray, vicepresidenta de estrategia e investigación de optimización de motores de búsqueda (SEO) en Amsive, una agencia de marketing.
Ray añadió: “Las empresas de IA avanzan más rápido que su capacidad para regular la precisión de las respuestas. Creo que es peligroso”. Un portavoz de Google reconoció que la compañía es consciente de los intentos de manipular sus sistemas y que están trabajando activamente para abordarlos, señalando que los sistemas de clasificación mantienen los resultados “99% libres de spam”.
De manera similar, OpenAI, desarrollador de ChatGPT, indicó que “toma medidas para interrumpir y exponer los intentos de influir de forma encubierta” en sus herramientas y ambas compañías advierten a los usuarios que sus IA “pueden cometer errores”. Sin embargo, Cooper Quintin, tecnólogo sénior de la Electronic Frontier Foundation, un grupo de defensa de los derechos digitales, opina que el problema “no está cerca de resolverse” y advirtió sobre “innumerables formas de abusar de esto: estafar a la gente, destruir la reputación de alguien, incluso se podría engañar a la gente para que sufra daños físicos”.
La experimentación de Germain incluyó la creación de un artículo falso en su sitio web personal titulado “Los mejores periodistas tecnológicos comiendo perros calientes”. En menos de 24 horas, los chatbots más importantes del mundo, incluidos Google (a través de Gemini y AI Overviews) y ChatGPT, replicaron la información errónea, clasificándolo como el número uno en un campeonato inexistente. Curiosamente, Claude, un chatbot de la empresa Anthropic, no fue engañado por la estratagema.
Las pruebas revelaron que Gemini no citaba la fuente de la información, mientras que otras IA sí enlazaban al artículo de Germain, aunque rara vez mencionaban que era la única fuente sobre el tema en internet. “Cualquiera puede hacer esto. Es absurdo, parece que no hay límites”, comentó Harpreet Chatha, quien dirige la consultora SEO Harps Digital, destacando la facilidad con la que se puede autopromocionar una marca o producto.
Expertos señalan que si bien los motores de búsqueda tradicionales han lidiado con “hacks y lagunas” durante décadas, las herramientas de IA han “deshecho gran parte del trabajo de la industria tecnológica para mantener la seguridad de las personas”. Ray compara la situación actual con “una especie de renacimiento para los spammers”, recordando los inicios de los 2000 antes de que Google implementara equipos antispam.
La preocupación se intensifica porque los usuarios son más propensos a confiar en la información generada por la IA. A diferencia de los resultados de búsqueda tradicionales, que requieren visitar un sitio web y, por lo tanto, una mayor reflexión crítica, la información de la IA “suele parecer procedente directamente de la empresa tecnológica”, explica Quintin. Un estudio reciente respalda esta inquietud, revelando que las personas tienen un 58% menos de probabilidades de hacer clic en un enlace cuando aparece una descripción general de la IA en la parte superior de la Búsqueda de Google.
Además de la autopromoción, la vulnerabilidad de la IA se ha demostrado en casos más graves. Chatha mostró cómo las AI Overviews de Google extrajeron información de una empresa de gomitas de cannabis con afirmaciones falsas, como que el producto “no tiene efectos secundarios y, por lo tanto, es seguro en todos los aspectos”, a pesar de los riesgos conocidos. También se ha observado que la IA utiliza comunicados de prensa pagados y contenido patrocinado para promocionar clínicas de trasplante capilar o empresas de cuentas IRA de oro.
Lily Ray también demostró cómo se pueden difundir mentiras con una publicación de blog sobre una falsa actualización del algoritmo de búsqueda de Google. ChatGPT y Google replicaron la historia antes de que ella eliminara la publicación para evitar la desinformación.
Un portavoz de Google argumentó que muchos de los ejemplos compartidos son “búsquedas extremadamente inusuales que no reflejan la experiencia normal del usuario” y que están trabajando para evitar que las AI Overviews aparezcan en “vacíos de datos”. Sin embargo, Ray contrarresta que el 15% de las búsquedas diarias son completamente nuevas, y la IA fomenta preguntas más específicas, lo que los spammers están aprovechando.
Los expertos coinciden en que existen soluciones. La más sencilla es incluir “descargos de responsabilidad más claros” y que las herramientas de IA sean más explícitas sobre la procedencia de la información. Por ejemplo, si los datos provienen de un comunicado de prensa o de una única fuente, la IA debería alertar al usuario, sugiere Ray.
Mientras Google y OpenAI afirman estar trabajando en el problema, es fundamental que los usuarios tomen precauciones. La IA es útil para preguntas de conocimiento común, pero su uso es riesgoso en temas que requieren precisión y pueden tener “consecuencias reales”, como directrices médicas, normas legales o recomendaciones financieras.
Es crucial “buscar información de seguimiento”, “verificar las fuentes” y “no dejar que el pensamiento crítico se pierda”. “Con la IA, es muy fácil aceptar las cosas al pie de la letra”, advierte Ray. “Hay que seguir siendo un buen ciudadano de internet y verificar las cosas”.
