A principios de año, existía una gran preocupación sobre cómo la inteligencia artificial generativa podría interferir en las elecciones globales, difundiendo propaganda y desinformación. Sin embargo, un informe reciente de Meta muestra que estas preocupaciones no se han materializado en su plataforma. Meta afirma que el impacto de la inteligencia artificial generativa en la información relacionada con las elecciones en plataformas como Facebook, Instagram y Threads ha sido mínimo. Nota de la imagen: Imagen generada por IA, la imagen fue proporcionada por el servicio de imágenes Midjourney basándose en la investigación de Meta.

Durante las elecciones presidenciales de Estados Unidos, se descubrió que el chatbot Grok de X estaba difundiendo información errónea. Según las pruebas de TechCrunch, Grok cometió errores frecuentes al responder preguntas sobre los resultados electorales, incluso llegó a declarar que Trump había ganado estados clave en disputa, a pesar de que el recuento y los informes de esos estados aún no habían finalizado. En una entrevista, Grok afirmó repetidamente que Trump había ganado las elecciones de 2024 en Ohio, a pesar de que no era cierto. La fuente de la información errónea parece provenir de tuits de diferentes años electorales y de un lenguaje engañoso.

Recientemente, un innovador sistema de análisis de opinión basado en la plataforma social Reddit ha llamado la atención. Este sistema utiliza tecnología de inteligencia artificial para rastrear y analizar en tiempo real la opinión pública sobre los candidatos a la presidencia de los Estados Unidos en 2024, Donald Trump y Kamala Harris. El sistema funciona automáticamente extrayendo discusiones relevantes de Reddit cada 10 minutos. Se centra en contenido con cierta influencia, seleccionando solo publicaciones realizadas en la última hora,

Un nuevo estudio revela que los modelos de inteligencia artificial son significativamente menos precisos al responder preguntas sobre elecciones en español que en inglés. El estudio fue realizado por el Proyecto IA y Democracia, una colaboración entre Proof News, el servicio de verificación de hechos Factchequeado y el Instituto de Estudios Avanzados de San Francisco. Nota de la imagen: Imagen generada por IA, proveída por Midjourney. Los investigadores plantearon preguntas que imitarían las de los votantes de Arizona en las próximas elecciones presidenciales de Estados Unidos.

Recientemente, algunos usuarios en la plataforma de redes sociales X han afirmado ganar "miles de dólares" publicando información falsa relacionada con las elecciones estadounidenses, imágenes generadas por IA y diversas teorías conspirativas sin fundamento. Estos usuarios suelen compartir su contenido entre sí, retuiteando varias veces al día para aumentar su visibilidad e ingresos. Una investigación de la BBC descubrió que estos usuarios forman redes con decenas de cuentas que interactúan entre sí, compartiendo una mezcla de información verdadera y falsa con el objetivo de aumentar su presencia en la plataforma.

Singapur ha publicado recientemente una serie de importantes anuncios sobre ciberseguridad, en particular una guía de seguridad para sistemas de inteligencia artificial (IA) y una legislación que prohíbe el uso de la tecnología deepfake en la publicidad electoral. Estas medidas tienen como objetivo ayudar a las organizaciones a mitigar los riesgos potenciales durante el desarrollo e implementación de la IA, garantizando la seguridad de la tecnología. Nota sobre la imagen: Imagen generada por IA, servicio de licencias de imágenes Midjourney. La guía de seguridad para sistemas de IA, publicada por la Agencia de Ciberseguridad de Singapur (CSA), destaca el concepto de "seguridad por diseño", con el objetivo de...

OpenAI ha emitido recientemente una advertencia sobre el uso de su modelo de IA ChatGPT por parte de ciberdelincuentes para diversas actividades maliciosas, incluyendo el desarrollo de malware, la difusión de información falsa y ataques de phishing. Según un nuevo informe, desde principios de 2024, OpenAI ha intervenido en más de 20 operaciones fraudulentas a nivel mundial, revelando una preocupante tendencia de abuso de la IA. Estas actividades incluyen no solo la depuración de malware, sino también la creación de contenido para cuentas falsas en redes sociales y la generación de correos electrónicos de phishing atractivos.

Con las elecciones estadounidenses de 2024 acercándose, el rápido desarrollo de la IA está generando cada vez más preocupación. Un análisis reciente de Axios muestra que al menos 26 estados ya han aprobado o están considerando leyes para regular el uso de la IA generativa en las elecciones. Esto significa que, en las futuras elecciones, la IA dejará de ser una simple herramienta tecnológica y se convertirá en un "cambia-juego" que podría influir en los resultados de las votaciones. Nota sobre la imagen: Imagen generada por IA, proveedor de servicios de licencias de imágenes Midjourney, como es bien sabido.

Recientemente, un estudio de Adobe sobre la "Veracidad en la era de la IA" reveló que, con la creciente proliferación de contenido generado por IA, muchas personas se sienten confundidas e inseguras al obtener información. Esta encuesta a 2000 consumidores estadounidenses muestra que la preocupación por la información falsa se está intensificando en las próximas elecciones presidenciales de Estados Unidos de 2024. La encuesta reveló que el 94% de los encuestados expresaron una gran preocupación de que la información falsa pudiera afectar el resultado de las próximas elecciones. Nota de la imagen: La imagen fue generada por IA, proveedor de servicios de autorización de imágenes.

Singapur ha presentado recientemente un nuevo proyecto de ley que busca prohibir el uso de deepfakes durante las elecciones, con el objetivo de garantizar la veracidad de la información y la equidad electoral. Con el auge de la inteligencia artificial generativa, el riesgo de contenido deepfake ha aumentado. Este proyecto de ley regula el contenido falso creado con IA y sin IA, incluyendo videos, audios e imágenes. La regulación clave prohíbe la publicación de anuncios online que muestren falsamente las acciones o palabras de los candidatos durante el periodo electoral. Quienes infrinjan la ley enfrentarán multas o prisión. El proyecto de ley también permite emitir órdenes de rectificación a individuos y plataformas de redes sociales que publiquen contenido falso.

Con las elecciones presidenciales estadounidenses de 2024 acercándose, la inteligencia artificial generativa (IA) se está convirtiendo en un nuevo actor en el campo de batalla electoral. La tecnología de IA puede generar imágenes, videos y audio falsos que influyen en las decisiones de los votantes, una tendencia que ya se ha mostrado en varias ocasiones. Por ejemplo, el expresidente Trump compartió una imagen sintética de IA para intentar engañar al público, mientras que los residentes de New Hampshire fueron víctimas de llamadas con deepfakes que intentaban impedir su participación en las primarias demócratas. Los expertos advierten que la influencia de la desinformación de la IA podría cambiar sustancialmente los resultados electorales, y que las tecnologías actuales de detección aún no están maduras.

La plataforma de redes sociales X (anteriormente Twitter) de Musk ha realizado ajustes para abordar el problema de la desinformación en las elecciones presidenciales de 2024, especialmente en su sistema de IA Grok. El objetivo es dirigir a los usuarios hacia fuentes oficiales de información, como vote.gov, para obtener la información electoral más actualizada. Varios secretarios de Estado de EE. UU. expresaron su preocupación por los errores de Grok en el manejo de temas electorales, señalando que podría causar confusión informativa y exigiendo su corrección. Tras el anuncio de la retirada del presidente Biden de la candidatura, Grok erróneamente afirmó que la fecha límite para votar había pasado en algunos estados, lo que provocó una amplia controversia.

Microsoft publicó un informe que indica que Irán está utilizando operaciones de influencia cibernética e inteligencia artificial generativa para intentar manipular las elecciones presidenciales de EE. UU. de 2024. Las actividades aumentaron a partir de junio e incluyen reconocimiento cibernético, infiltración en grupos y sitios web en línea. El informe menciona que varios grupos iraníes participan, como "Sefid Flood", que crea confusión haciéndose pasar por activistas sociales y políticos para debilitar la confianza pública en las autoridades; la organización "Mint Sandstorm" realiza ataques de phishing. Además, la operación cibernética "Storm-2035" opera sitios web de noticias falsas.

El chatbot Grok de la plataforma de redes sociales X afirmó erróneamente que la vicepresidenta Kamala Harris no era elegible en algunas papeletas de las elecciones presidenciales estadounidenses de 2024. Esta información, derivada de un resultado de búsqueda de IA erróneo, ha generado preocupación entre los secretarios de Estado, quienes instan al CEO de X, Elon Musk, a corregir inmediatamente el asistente de búsqueda de IA y garantizar que los votantes reciban información precisa. Este incidente se propagó rápidamente en X, a pesar de que Grok solo está disponible para usuarios premium y cuenta con indicaciones de verificación de información. Sin embargo, la información errónea se difundió ampliamente. Las recientes declaraciones y acciones de Musk, incluyendo la redifusión de contenido que...

Google limita las respuestas de su chatbot de IA Gemini a consultas relacionadas con las elecciones. La decisión tiene como objetivo reducir los posibles errores en el despliegue de la tecnología. Esto afecta a las elecciones presidenciales de Estados Unidos y a las elecciones nacionales de otros países. Google está cada vez más preocupado por la posibilidad de que la IA se utilice para difundir información errónea durante las elecciones.

Meta publica un plan de acción para las elecciones de la UE para intensificar la lucha contra la desinformación. Los expertos temen que el plan de Meta para combatir los rumores tenga limitaciones. Meta mejora la transparencia del contenido de la IA, pero es difícil identificar las falsificaciones profundas. Los expertos consideran que las voces auténticas son fáciles de manipular y que la protección de la democracia sigue siendo un desafío.

OpenAI anuncia un plan para las elecciones de 2024 que prohíbe el uso de sus herramientas para imitar a candidatos o al gobierno, y evita su uso en campañas y cabildeo. Se introducirán certificados digitales para abordar la falsificación de imágenes generadas por DALL-E, simplificando el proceso de identificación. Las herramientas de OpenAI dirigirán a los usuarios a sitios web autorizados como CanIVote.org para obtener información sobre el voto. El plan está en proceso de implementación y depende de los informes de los usuarios sobre conductas inapropiadas. Los expertos advierten sobre el aumento del riesgo de desinformación a medida que se acercan las elecciones, e instan a fomentar el alfabetismo mediático para cuestionar la información.

Los expertos advierten que la desinformación relacionada con las elecciones podría convertirse en un problema aún mayor a medida que se acercan las elecciones presidenciales de 2024. Se han reducido las medidas para contrarrestar las narrativas falsas, mientras que las herramientas y redes para difundir desinformación se han vuelto más potentes. Antes de las elecciones presidenciales de 2024, los expertos advierten que la desinformación relacionada con las elecciones podría convertirse en un problema mayor. La regulación en la publicidad política, donde la IA se utiliza ampliamente, aumenta el riesgo de desinformación.

Google planea restringir el uso de sus herramientas de IA generativa durante las elecciones estadounidenses. Las restricciones se implementarán a principios del próximo año para evitar que la IA generativa difunda información errónea. Preocupado por la posibilidad de que la IA generativa manipule los resultados electorales, Google prestará más atención al papel de la inteligencia artificial en las elecciones.

Según una nueva encuesta, el 58% de los adultos estadounidenses cree que las elecciones de 2024 verán un aumento de la desinformación, y responsabilizan a las herramientas de inteligencia artificial. La gran mayoría desaprueba que los candidatos utilicen la IA para crear medios falsos o engañosos, editar fotos o videos, crear anuncios políticos adaptados a los votantes o usar chatbots para responder preguntas de los votantes. El público muestra escepticismo hacia la información proporcionada por los chatbots de IA y prefiere consultar noticias, amigos y familiares, y las redes sociales para obtener información sobre las elecciones presidenciales.