La tecnología de inteligencia artificial está avanzando rápidamente, pero sus riesgos potenciales no deben pasarse por alto. Yoshua Bengio, considerado el "padre de la inteligencia artificial", expresó recientemente su preocupación sobre el desarrollo de la IA en una entrevista.
Bengio es un científico informático canadiense. A sus 60 años, ha dedicado su vida a la investigación de redes neuronales y algoritmos de aprendizaje profundo, sentando las bases para los modelos de IA actuales como ChatGPT y Claude. Como ganador del Premio Turing en 2018 y el científico informático más citado a nivel mundial en 2022, la influencia de Bengio en el campo de la IA es innegable.
Nota de la fuente: La imagen fue generada por IA, proveedor de servicios de licencia de imágenes Midjourney
Sin embargo, este pionero de la IA ahora lanza una advertencia. Señaló: "La inteligencia significa poder, y quien controle ese poder, ya sea a nivel humano o superior, se volverá muy poderoso". Bengio cree que debemos ser extremadamente cautelosos antes de crear tecnologías que puedan concentrar el poder de manera peligrosa.
Bengio mencionó específicamente las amenazas potenciales que la IA podría presentar. Advirtió que si la IA cae en manos de "malos actores", podría ser utilizada por terroristas o entidades estatales que intenten socavar la democracia. Aún más preocupante es que, según la forma en que se entrenan actualmente, los científicos señalan que puede que no podamos evitar que estos sistemas se vuelvan autónomos y desarrollen objetivos de autoprotección, lo que resultaría en la pérdida de control sobre ellos.
A pesar del entusiasmo de los inversores por el campo de la IA, como lo demuestra el aumento del 172% en el precio de las acciones de Nvidia (NVDA) desde principios de año, la advertencia de Bengio no debe pasarse por alto. Hace un llamado a considerar plenamente los riesgos potenciales al desarrollar sistemas de IA potentes, asegurando que el desarrollo tecnológico no represente una amenaza para la sociedad humana.
En la actualidad, con el rápido desarrollo de la IA, las opiniones de Bengio nos sirven como una llamada de atención. Cómo impulsar el progreso tecnológico al mismo tiempo que se controlan eficazmente sus riesgos será un desafío importante para toda la industria de la IA.
