Un estudio revela que los modelos de IA producen falsedades electorales con más frecuencia en español que en inglés
Un informe del Reuters Institute y la Universidad de Oxford reveló que, con la llegada de la Inteligencia Artificial (IA), los latinos de Estados Unidos fueron un objetivo clave de la desinformación en el ciclo electoral estadounidense de 2024.
Además de las formas más tradicionales de desinformación, el grupo, que tradicionalmente había votado por el aprtido republicano, fue bombardeado por audio, imágenes y vídeos creados con Midjourney, Dall-E, ChatGPT y otras herramientas.
Te puede interesar: Elecciones 2024: ¿Dónde es ahora legal y dónde es ilegal el aborto en Estados Unidos?
"Estamos ante el primer proceso electoral en pleno auge de la inteligencia artificial generativa y he empezado a ver cómo las campañas electorales están utilizando la IA para engañar a la gente sin ninguna transparencia sobre la tecnología que utilizan", afirma Tamoa Calzadilla, redactora jefe de Factchequeado, un medio digital de fact-checking (corroboración de hechos) centrado en la desinformación en español en Estados Unidos, al revelar el informe poco antes de las elecciones del 5 de noviembre.
Si avanzamos hasta el día de hoy, parece que muchos de esos temores se han hecho realidad, ya que un nuevo estudio de Proof News y Factchequeado ha revelado que más el 50% de las respuestas relacionadas con las elecciones, generadas por IA en español contenían información incorrecta, frente al 43% en inglés.
El estudio, realizado en colaboración con el Laboratorio de Ciencia, Tecnología y Valores Sociales del Instituto de Estudios Avanzados, puso a prueba cinco grandes modelos de IA: Llama 3 de Meta, Gemini de Google, Claude de Anthropic, GPT-4 de OpenAI y Mixtral de Mistral.
Traducciones incorrectas
La Llama 3 de Meta obtuvo los peores resultados, ya que casi dos tercios de sus respuestas en español contenían errores. Un ejemplo fue la definición incorrecta del modelo: un votante "sólo federal", confundiéndolo con los votantes en territorios de EE.UU. como Puerto Rico, mientras que en realidad, este término se refiere a los residentes de Arizona que sólo pueden votar en las elecciones federales debido a problemas de documentación.
Otros modelos de IA, como Claude de Anthropic, respondieron a la misma pregunta dirigiendo a los usuarios a las autoridades de países como México y Venezuela, confundiendo aún más la información.
En otro ejemplo, cuando se le preguntó a Gemini de Google sobre el fraude electoral en español, respondió enumerando complejas medidas para evitarlo, divergiendo de su respuesta en inglés, que señalaba con precisión que el fraude electoral es "increíblemente raro". Las respuestas de Gemini en español también incluían afirmaciones sin fundamento sobre la "manipulación del voto" en el Colegio Electoral de Estados Unidos.
Te puede interesar: Anuel busca quedar bien con todos: celebra triunfo de Donald Trump
A los activistas les preocupa que la desinformación generada por la IA afecte de manera desproporcionada a los votantes hispanohablantes a través de disparidades basadas en el idioma, especialmente en estados con grandes poblaciones latinas, como Arizona y Nevada, ampliando las brechas de información para este grupo demográfico de votantes en rápido crecimiento.
Información falsa
"Está claro que las empresas tienen que hacer un mejor trabajo para detectar que la gente también está haciendo preguntas relacionadas con las elecciones en español", dijo Miranda Bogen, directora del AI Governance Lab en el Center for Democracy and Technology a Factchequeado. "Creo que es decepcionante que, incluso después de haber planteado estas cuestiones a las empresas en el contexto realmente delicado de las elecciones de este año, sigan mostrando un nivel tan alto de respuestas inexactas a información importante en todos los idiomas", añadió.
Las organizaciones están tomando medidas independientes para abordar este problema. Mi Familia en Acción, una organización de votantes latinos, lanzó recientemente un chatbot bilingüe para proporcionar información precisa a los votantes, haciendo hincapié en la necesidad de una orientación electoral sin errores. Del mismo modo, Factchequeado desarrolló Electobot, un chatbot para responder preguntas electorales en español a través de WhatsApp utilizando una mezcla de tecnologías de IA.
