El lanzamiento reciente de una función de inteligencia artificial por parte de Apple ha generado una gran atención y controversia. Esta función está diseñada para ofrecer a los usuarios resúmenes de noticias, pero ha sido criticada por difundir información errónea. Reporteros Sin Fronteras ha hecho un llamamiento público a Apple para que retire inmediatamente esta función, debido a que ha resumido incorrectamente un artículo de la BBC en las notificaciones enviadas a los usuarios.
En concreto, el sistema de IA de Apple afirmó erróneamente que Luigi Manzione, sospechoso de asesinar al director ejecutivo de UnitedHealthcare, se había suicidado. Sin embargo, la BBC no mencionó esto en su informe original. La BBC ha declarado que se ha puesto en contacto con Apple para resolver este problema, pero aún no se ha confirmado si Apple ha respondido.
Vincent Bertille, director de Tecnología y Asuntos de Prensa de Reporteros Sin Fronteras, declaró que Apple debería asumir la responsabilidad de este incidente y retirar la función inmediatamente. Señaló que la inteligencia artificial es una simple máquina probabilística y que no puede determinar la verdad simplemente mediante una selección aleatoria. Destacó que la información errónea generada automáticamente no solo daña la credibilidad de los medios de comunicación, sino que también amenaza el derecho del público a acceder a información fiable.
Además, la organización expresó su preocupación por los riesgos que las nuevas herramientas de inteligencia artificial plantean para los medios de comunicación, considerando que la tecnología de IA actual no está madura y no debería utilizarse para la difusión de información pública.
Por su parte, la BBC respondió que es fundamental garantizar que el público confíe en la información y las noticias que publica, y que todo el contenido, incluidas las notificaciones push, debe ser veraz y fiable.
Apple lanzó esta herramienta de IA generativa en Estados Unidos en junio de este año, promocionándola como una herramienta capaz de resumir contenido específico en párrafos concisos, puntos clave o tablas. Esta función pretende ayudar a los usuarios a acceder a la información de forma más sencilla, pudiendo recibir notificaciones centralizadas en sus dispositivos iPhone, iPad y Mac. Sin embargo, desde su lanzamiento oficial a finales de octubre, los usuarios han descubierto que también ha resumido incorrectamente artículos del New York Times, afirmando que el primer ministro israelí, Netanyahu, había sido arrestado, cuando en realidad solo se había emitido una orden de arresto por parte de la Corte Penal Internacional.
El desafío de este incidente radica en que las agencias de noticias no tienen control sobre el contenido resumido por la IA de Apple. Si bien algunos editores han optado por utilizar la IA para ayudar en la redacción de artículos, esto ha sido una decisión propia. Sin embargo, los resúmenes de la IA de Apple se publican en nombre de las instituciones editoriales, lo que no solo difunde información potencialmente errónea, sino que también pone en peligro la credibilidad de los medios de comunicación.
Apple no ha respondido a este incidente, y la controversia en torno a esta función de IA refleja los desafíos a los que se enfrenta la industria editorial en un entorno tecnológico en rápida evolución. Desde el lanzamiento de ChatGPT, varios gigantes tecnológicos han lanzado sus propios modelos lingüísticos de gran tamaño, muchos de los cuales han sido acusados de utilizar contenido con derechos de autor en su entrenamiento, incluidas noticias. Si bien algunos medios de comunicación han emprendido acciones legales, otros, como Axel Springer, han optado por llegar a acuerdos de licencia con los desarrolladores.
Puntos clave:
📰 La nueva función de IA de Apple ha recibido amplias críticas por la información errónea que difunde.
🚨 Reporteros Sin Fronteras pide a Apple que retire la función, enfatizando que la tecnología de IA no debe utilizarse para resumir noticias.
🗞️ La BBC afirma que es crucial garantizar la fiabilidad de la información y se ha puesto en contacto con Apple al respecto.
