Según TechCrunch, que fue el primero en informar sobre la función, a los usuarios se les muestra un nuevo mensaje emergente que solicita permiso para «permitir el procesamiento en la nube» cuando intentan crear una nueva historia en Facebook.
«Para generar ideas, seleccionaremos contenido multimedia de tu galería y lo subiremos a nuestra nube periódicamente, basándonos en información como la hora, la ubicación o los temas», indica la empresa en la ventana emergente. «Solo tú puedes ver las sugerencias. Tu contenido no se utilizará para publicidad dirigida. Lo revisaremos por motivos de seguridad e integridad».
Si los usuarios consienten que sus fotos se procesen en la nube, Meta también afirma que están aceptando sus términos de inteligencia artificial, que le permiten analizar sus medios y características faciales.
En una página de ayuda, Meta indica que «esta función aún no está disponible para todos» y que está limitada a usuarios de Estados Unidos y Canadá. También indicó a TechCrunch que estas sugerencias de IA son opcionales y se pueden desactivar en cualquier momento.
Este desarrollo es otro ejemplo de cómo las empresas compiten por integrar funciones de IA en sus productos, muchas veces a costa de la privacidad del usuario.
Meta afirma que su nueva función de IA no se usará para anuncios dirigidos, pero los expertos aún tienen dudas. Cuando las personas suben fotos o videos personales, incluso si lo aceptan, no está claro cuánto tiempo se conservan esos datos ni quién puede verlos. Dado que el procesamiento se realiza en la nube, existen riesgos, especialmente con aspectos como el reconocimiento facial y detalles ocultos como la hora o la ubicación.
Incluso si no se utilizan para anuncios, este tipo de datos podría acabar en conjuntos de datos de entrenamiento o usarse para crear perfiles de usuario. Es como entregar tu álbum de fotos a un algoritmo que aprende silenciosamente tus hábitos, preferencias y patrones con el tiempo. Sin embargo, Meta declaró a The Verge que no está entrenando sus modelos de IA con fotos inéditas con esta nueva función.
El mes pasado, Meta comenzó a entrenar sus modelos de IA con datos públicos compartidos por adultos en sus plataformas de la Unión Europea tras recibir la aprobación de la Comisión de Protección de Datos de Irlanda (CPD). La empresa suspendió el uso de herramientas de IA generativa en Brasil en julio de 2024 en respuesta a las preocupaciones sobre privacidad planteadas por el gobierno.
El gigante de las redes sociales también ha añadido funciones de inteligencia artificial a WhatsApp, la más reciente siendo la capacidad de resumir los mensajes no leídos en los chats utilizando un enfoque centrado en la privacidad que denomina Procesamiento Privado.
Este cambio forma parte de una tendencia más amplia en la IA generativa, donde las empresas tecnológicas combinan la comodidad con el seguimiento. Funciones como los collages automáticos o las sugerencias inteligentes de historias pueden parecer útiles, pero dependen de una IA que observa cómo usas tus dispositivos, no solo la aplicación. Por eso, la configuración de privacidad, el consentimiento explícito y la limitación de la recopilación de datos son más importantes que nunca.
La función de inteligencia artificial de Facebook también llega cuando uno de los organismos de control de protección de datos de Alemania pidió a Apple y Google que eliminen las aplicaciones de DeepSeek de sus respectivas tiendas de aplicaciones debido a transferencias ilegales de datos de usuarios a China, tras preocupaciones similares planteadas por varios países a principios de año.
El servicio procesa una gran cantidad de datos personales de los usuarios, incluyendo todas las entradas de texto, historiales de chat y archivos subidos, así como información sobre la ubicación, los dispositivos utilizados y las redes, según un comunicado del Comisionado de Berlín para la Protección de Datos y la Libertad de Información. El servicio transmite los datos personales recopilados de los usuarios a procesadores chinos y los almacena en servidores en China.
Estas transferencias violan el Reglamento General de Protección de Datos (RGPD) de la Unión Europea, dada la falta de garantías de que los datos de los usuarios alemanes en China estén protegidos a un nivel equivalente al del bloque.
A principios de esta semana, Reuters informó que la empresa china de inteligencia artificial está ayudando a las operaciones militares y de inteligencia del país y que está compartiendo información de los usuarios con Beijing, citando a un funcionario anónimo del Departamento de Estado de EEUU.
Hace un par de semanas, OpenAI también consiguió 200 millones de dólares del Departamento de Defensa de Estados Unidos (DoD) para «desarrollar prototipos de capacidades de inteligencia artificial de frontera para abordar desafíos críticos de seguridad nacional tanto en el ámbito bélico como en el empresarial».
La compañía afirmó que ayudará al Pentágono a «identificar y crear prototipos de cómo la IA de frontera puede transformar sus operaciones administrativas, desde mejorar la forma en que los miembros del servicio y sus familias obtienen atención médica hasta agilizar la forma en que miran los datos de programas y adquisiciones, y respaldar la ciberdefensa proactiva».
