En un reciente artículo de opinión, Gary Marcus, uno de los fundadores del campo del aprendizaje automático, lanzó duras críticas a Sam Altman, CEO de OpenAI, alegando que no es de fiar y que el desarrollo de la IA generativa se está encaminando por una senda equivocada. Marcus señala que, si bien Altman menciona con frecuencia la importancia de la seguridad de la inteligencia artificial en público, sus acciones reales contradicen sus palabras, lo que genera dudas sobre su credibilidad.
Nota de la imagen: Imagen generada por IA, proveedor de servicios de licencias Midjourney
Marcus detalla en su artículo sus preocupaciones sobre la tecnología de IA actual, especialmente sobre los riesgos de seguridad de herramientas como ChatGPT. Considera que el optimismo excesivo de Altman sobre la tecnología de IA no se ajusta a la realidad, y que la seguridad de estas tecnologías podría nunca estar garantizada. Destaca el marcado contraste entre el rápido desarrollo tecnológico y la falta de atención a sus peligros potenciales, lo que está generando una creciente ansiedad pública.
Además, Marcus menciona la falta de regulación y transparencia en la investigación y el desarrollo actuales de la IA, lo que permite que muchas tecnologías y aplicaciones se lancen al mercado sin una evaluación adecuada. Esta práctica no solo representa un riesgo para los usuarios, sino que también podría tener un impacto profundo en la sociedad. Marcus hace un llamamiento a que los desarrolladores de tecnología de IA asuman una mayor responsabilidad y consideren el impacto social de sus tecnologías, en lugar de centrarse únicamente en la innovación tecnológica y los beneficios comerciales.
Las opiniones de Marcus han suscitado un amplio debate, y muchas personas han comenzado a reflexionar sobre el futuro y la dirección de la tecnología de IA actual. Él argumenta que solo mediante una revisión y regulación exhaustivas de la tecnología de IA se puede garantizar su seguridad y fiabilidad, y asegurar que contribuya positivamente a la sociedad.
Puntos clave:
🌐 Las declaraciones de Altman sobre la seguridad de la IA contradicen sus acciones reales, generando una crisis de confianza.
🔍 Marcus advierte que la seguridad de la IA generativa podría nunca estar garantizada, y el público debe estar alerta.
📊 La falta de regulación y transparencia en la tecnología de IA exige una actitud responsable por parte del sector y una revisión exhaustiva.
