Herramientas de búsqueda AI citan concepto inventado en una semana
Un experimento revelador sobre la citación de conceptos inventados Un estudio reciente realizado por investigadores de la Universidad de Fudan ha revelado un fenómeno sorprendente: varias...
Un experimento revelador sobre la citación de conceptos inventados
Un estudio reciente realizado por investigadores de la Universidad de Fudan ha revelado un fenómeno sorprendente: varias herramientas de búsqueda impulsadas por inteligencia artificial, como ChatGPT, Perplexity, Grok y Google AI, citaron un concepto completamente inventado en tan solo una semana. Este experimento fue diseñado para evaluar cómo estas herramientas procesan y citan información publicada en línea.
Tabla de contenidos
El experimento consistió en publicar artículos sobre un concepto ficticio denominado ‘Cactus Gravity Protocol’ en varios sitios web que estas herramientas suelen citar. A pesar de que el concepto era completamente fabricado, las herramientas lo citaron rápidamente, lo que plantea preguntas sobre la fiabilidad de las fuentes que utilizan estas tecnologías avanzadas.
Metodología del estudio
El equipo de investigación llevó a cabo su estudio en marzo y abril, ejecutando 120 preguntas a través de 10 herramientas de búsqueda AI diferentes. Entre estas, se encontraban cuatro herramientas de la web en inglés y seis de la web china. Los investigadores eligieron sitios web que las herramientas citan frecuentemente y publicaron artículos desde cuentas ordinarias.
Los artículos incluían detalles inventados para identificar si las herramientas repetían esta información. Sorprendentemente, ocho de las 10 herramientas citaron el concepto ficticio dentro de una semana. Esto plantea interrogantes sobre la capacidad de estas herramientas para discernir entre información verificada y fabricada.
Resultados sorprendentes y sus implicaciones
El estudio encontró que Grok y Google AI fueron los más propensos a citar el concepto ficticio, mientras que Perplexity y ChatGPT lo hicieron en menor medida. Sin embargo, ninguna de las herramientas proporcionó una respuesta informativa sobre los otros temas ficticios planteados, como un producto inventado o una cuestión de opinión.
Estos resultados sugieren que la ubicación y la frecuencia de publicación en sitios frecuentemente citados pueden influir significativamente en la probabilidad de que una herramienta de AI cite un contenido, independientemente de su veracidad. Esto tiene implicaciones importantes para la forma en que las empresas y los individuos pueden manipular o influir en la información que estas herramientas distribuyen.
La influencia del lugar de publicación
Una parte crucial del estudio fue determinar si la ubicación de una publicación influía en su citación. Los investigadores descubrieron que las publicaciones ubicadas en fuentes frecuentemente referenciadas por las herramientas de AI eran citadas más rápidamente que aquellas en sitios menos referenciados. Esto sugiere que el volumen y la visibilidad en plataformas populares pueden tener un impacto mayor que la calidad o veracidad del contenido.
En una serie de experimentos adicionales, los investigadores publicaron artículos sobre destinos vacacionales poco conocidos, observando que aquellos publicados en sitios populares eran citados con mayor frecuencia. Este hallazgo subraya la importancia de la estrategia de publicación para maximizar la visibilidad y el impacto de la información en línea.
Consideraciones finales y futuras investigaciones
El estudio realizado por la Universidad de Fudan arroja luz sobre un aspecto crucial de las herramientas de búsqueda AI: su susceptibilidad a citar información no verificada si está bien posicionada en la web. Esto destaca la necesidad de mejorar los algoritmos de estas herramientas para que puedan diferenciar mejor entre contenido verificado e inventado.
Futuras investigaciones podrían centrarse en desarrollar métodos para que las herramientas de búsqueda AI verifiquen la autenticidad de la información antes de citarla. Además, se podría explorar cómo estos hallazgos afectan la confianza del público en la información proporcionada por herramientas AI y qué medidas se pueden tomar para mejorar su precisión y fiabilidad. En este contexto, la reciente iniciativa de DeepSeek para abrir su motor de búsqueda a desarrolladores podría ofrecer nuevas oportunidades para mejorar las capacidades de verificación de información.
