Meta lanzó recientemente sus gafas inteligentes Ray-Ban con tecnología de IA. Estas gafas cuentan con una cámara oculta en la parte frontal que puede tomar fotos. Lo notable es que estas fotos no solo se toman cuando se las solicita, sino que también pueden capturarse automáticamente cuando se activa una función de IA, por ejemplo, al decir "mira". Esto significa que las gafas Ray-Ban Meta recopilan una gran cantidad de fotos, tanto las tomadas activamente por el usuario como las capturadas accidentalmente.

Recientemente, un periodista de TechCrunch preguntó a Meta si planeaban usar las fotos tomadas por los usuarios de Ray-Ban para entrenar modelos de IA, al igual que lo hacen con las imágenes de cuentas públicas de redes sociales. Meta no dio una respuesta clara.

Anuj Kumar, director sénior de dispositivos portátiles con IA de Meta, declaró en una entrevista en video: "No vamos a discutir públicamente este tema". Simultáneamente, la portavoz de Meta, Mimi Huggins, dijo: "No es algo que normalmente compartamos públicamente". Cuando TechCrunch preguntó a Meta si estaban entrenando con estas imágenes, Huggins respondió: "Ni lo afirmamos ni lo negamos".

Lo que genera especial preocupación es la cantidad de fotografías pasivas que se tomarán al activar las nuevas funciones de IA de Ray-Ban. La semana pasada, TechCrunch informó sobre los planes de Meta de lanzar una función de video en tiempo real; una vez activada mediante palabras clave específicas, las gafas inteligentes transmitirán una serie de imágenes (básicamente, un video en tiempo real) a un modelo de IA multimodal, lo que permitirá responder preguntas sobre el entorno de forma natural y con baja latencia.

Esto significa que los usuarios podrían estar tomando inconscientemente una gran cantidad de imágenes en su vida diaria y subiéndolas a la nube para entrenar modelos de IA. Por ejemplo, cuando un usuario pide a las gafas que escaneen la ropa de su armario para ayudarlo a elegir un atuendo, las gafas en realidad tomarán docenas de fotos de la habitación y sus objetos.

Entonces, ¿cómo se procesarán estas fotos una vez subidas? Meta se niega a revelar esta información.

Llevar puestas las gafas Ray-Ban Meta significa llevar una cámara en la cara. Como hemos aprendido de la experiencia con Google Glass, la aceptación de una cámara en la cara no es muy alta. Por lo tanto, normalmente, las empresas que lanzan este tipo de productos deberían declarar claramente: "¡Oye! Todas las fotos y videos que tomes con la cámara frontal son completamente privados y solo para tu uso".

Sin embargo, Meta no lo ha hecho. Meta ya anunció que entrenará su IA con todas las publicaciones públicas de usuarios estadounidenses en Instagram y Facebook. La compañía considera que toda esta información son "datos públicamente disponibles", y es posible que solo podamos aceptar esta realidad. Su definición de "públicamente disponible" es muy amplia, y los límites de la privacidad del usuario se vuelven borrosos.

Si bien no podemos estar seguros de si Meta está utilizando las imágenes capturadas por la cámara de las Ray-Ban Meta para entrenar modelos de IA, la compañía tampoco lo ha negado explícitamente.

Otros proveedores de modelos de IA tienen políticas más claras al respecto. Por ejemplo, Anthropic afirma que nunca utiliza los datos de entrada o salida de los clientes para el entrenamiento, y OpenAI también afirma que nunca utiliza los datos de entrada o salida de los clientes de su API para el entrenamiento.

Puntos clave:

📸 Las gafas inteligentes Ray-Ban de Meta incorporan una cámara oculta que puede tomar fotos automáticamente del entorno del usuario.

🤔 Meta no ha aclarado si utilizará las fotos tomadas por los usuarios para entrenar modelos de IA, lo que genera preocupación sobre la privacidad.

🔒 Otras empresas de IA tienen restricciones más claras sobre el uso de datos de usuario; la política de Meta es ambigua.