En una noche emocionante, Oprah Winfrey presentó un programa especial sobre la inteligencia artificial (IA), titulado "IA y nuestro futuro". El evento contó con la presencia de importantes figuras, incluyendo al CEO de OpenAI, Sam Altman; al tecnólogo influyente Marques Brownlee; y al director del FBI, Christopher Wray. El tono general del programa fue de cautela, como si todos estuvieran tocando los tambores de una inminente tormenta.
Oprah comenzó señalando que el "demonio" de la IA ya ha salido de la botella, lo cual puede ser algo bueno o malo. Recordó a la audiencia que la humanidad debe aprender a coexistir con esta tecnología. "La IA está más allá de nuestro control y nuestra comprensión de la misma es limitada, pero ya está aquí, y necesitamos pensar si es nuestra aliada o nuestra adversaria... Somos las criaturas más adaptables del planeta, nos adaptaremos de nuevo. Pero debemos mantenernos alerta ante la realidad, los riesgos no son una broma."
Nota de la fuente: Imagen generada por IA, proveída por Midjourney.
Como primer entrevistado, Altman afirmó con confianza que la IA actual puede comprender los conceptos de sus datos de entrenamiento. "Le mostramos al sistema mil palabras y le preguntamos qué sucederá después", dijo. "El sistema aprende en la predicción, comprendiendo así los conceptos inherentes". Sin embargo, muchos expertos no están de acuerdo.
Sistemas de IA como ChatGPT predicen la palabra más probable para la siguiente frase, pero en realidad son solo máquinas estadísticas, sin intenciones reales, haciendo conjeturas inteligentes basadas puramente en patrones de datos.
Aunque Altman podría haber exagerado las capacidades de los sistemas de IA actuales, enfatizó la importancia de probar la seguridad de estos sistemas. "Necesitamos que el gobierno comience a pensar en cómo probar la seguridad de estos sistemas, como lo hacemos con los aviones o los nuevos medicamentos". Reveló que casi todos los días se comunica con funcionarios gubernamentales.
El llamado de Altman a la regulación podría tener motivaciones personales, considerando que OpenAI se opuso al proyecto de ley de seguridad de IA de California SB1047, argumentando que "ahogaría la innovación". Sin embargo, ex empleados de OpenAI y expertos en IA como Geoffrey Hinton apoyaron el proyecto de ley, considerando que impondría las garantías de seguridad necesarias para el desarrollo de la IA.
En otra parte del programa, Oprah le preguntó a Altman por qué la gente debería confiar en él. Altman evitó la pregunta, diciendo que su objetivo es construir confianza gradualmente. Anteriormente, había declarado claramente que la gente no debería confiar solo en él o en ninguna persona en particular para asegurar que la IA beneficie a la humanidad.
En la siguiente discusión, Oprah introdujo el tema de las imágenes deepfake. Marques Brownlee, para ilustrar la precisión de los medios sintéticos, mostró una comparación entre el generador de videos de IA Sora de OpenAI y las imágenes generadas por IA anteriores. Los resultados mostraron que las muestras de Sora eran excelentes, demostrando el rápido progreso en este campo. "Aunque todavía se pueden ver imperfecciones", dijo Brownlee, pero Oprah pensó que se veían muy reales.
Las imágenes deepfake llevaron a una conversación con el director del FBI, Wray, quien recordó su primer encuentro con la tecnología deepfake de IA. "Estaba en una sala de conferencias, y mis colegas del FBI me mostraron cómo crear imágenes deepfake mejoradas con IA", recordó Wray. "Crearon una imagen mía diciendo algo que nunca había dicho". Señaló que los casos de extorsión con ayuda de IA están aumentando drásticamente, con un incremento del 178% entre 2022 y 2023.
Wray describió el proceso de esta extorsión, comenzando por atraer a adolescentes haciéndose pasar por sus compañeros y luego presionándolos con imágenes generadas por IA. Dijo: "En realidad, detrás de esto hay alguien sentado en Nigeria, que una vez que obtiene una foto real, la usa para amenazar".
También mencionó el problema de la desinformación en las próximas elecciones presidenciales de Estados Unidos, enfatizando que no hay necesidad de pánico, pero que "cada estadounidense" debe estar alerta y consciente de que los "malos" pueden usar la IA para atacarlos.
Luego, Oprah tuvo una conversación con el fundador de Microsoft, Bill Gates, quien se mostró optimista sobre el futuro de la IA en la educación y la salud. Imaginó a la IA como un tercero en las citas médicas, encargada de registrar y sugerir recetas, permitiendo a los médicos interactuar más con los pacientes en lugar de con las pantallas de las computadoras.
Sin embargo, Gates pareció pasar por alto los posibles sesgos causados por un entrenamiento inadecuado. Un estudio reciente mostró que los sistemas de reconocimiento de voz de las principales empresas tecnológicas cometen el doble de errores al reconocer el habla de personas negras que la de personas blancas. Otros estudios muestran que los sistemas de IA pueden reforzar creencias erróneas de larga data, como las falsas ideas sobre las diferencias biológicas entre negros y blancos, lo que podría llevar a diagnósticos erróneos por parte de los médicos.
En el ámbito de la educación, Gates cree que la IA puede proporcionar una experiencia de aprendizaje "siempre disponible", aprendiendo cómo motivar a los estudiantes. Sin embargo, no todas las escuelas comparten este optimismo.
El verano pasado, muchas escuelas prohibieron apresuradamente el uso de ChatGPT por temor al plagio y a la desinformación, aunque algunas escuelas luego lo restablecieron, muchas personas aún dudan del potencial de la IA. Las encuestas muestran que más de la mitad de los niños han visto a sus compañeros usar la IA de manera indebida, como crear información o imágenes falsas creíbles para dañar a otros.
La UNESCO también hizo un llamado a los gobiernos de todo el mundo a finales del año pasado para que regulen el uso de la IA en la educación, incluyendo la implementación de límites de edad y medidas de protección de datos para los usuarios.
A través de este profundo diálogo sobre la IA, la audiencia pudo comprender mejor el rápido desarrollo de la tecnología y los posibles riesgos que conlleva, lo que también generó una profunda reflexión sobre el futuro de la humanidad y la IA.
