El miércoles 11 de mayo de 2022, se espera que la Comisión de la UE publique el proyecto de ley sobre el llamado control de chat. Es una comprobación basada en IA de todo el contenido de los mensajes y las imágenes directamente en nuestros dispositivos. El llamado escaneo del lado del cliente sería un ataque a cualquier comunicación confidencial.
El borrador prevé que todo el contenido de la comunicación se examine directamente en nuestros dispositivos y, en caso de sospecha, se desvíe. Este escaneo del lado del cliente no sería el primer método de vigilancia exagerado y equivocado que se justifica en la lucha contra el abuso infantil.
Sin duda, las víctimas de abuso infantil necesitan una mejor ayuda, pero el control del chat es un enfoque exagerado, fácil de eludir y completamente incorrecto. Sin ningún éxito esperado en términos de la meta real, se va a introducir una herramienta de monitoreo sin precedentes.
Perdió completamente el objetivo
La ley propuesta requeriría que cada dispositivo escanee cada mensaje en busca de imágenes de abuso infantil y delincuentes contactando a los niños. Si dicho contenido se reconoce en un mensaje, debe remitirlo directamente a una autoridad de control a la policía.
El escaneo masivo no solo ataca las comunicaciones confidenciales en sus cimientos, sino que también sería ineficaz: los delincuentes ya están utilizando canales de distribución que no se verían afectados por estos escaneos y que también evadirán fácilmente los escaneos en el futuro:
Los perpetradores usan servidores públicos en lugar de los mensajeros a los que se dirige la comisión, sobre todo porque los mensajeros son completamente inadecuados para intercambiar grandes colecciones de archivos. También encriptan los datos antes del intercambio.
Solo por esta razón, el seguimiento planificado no impedirá que se sigan difundiendo imágenes de abuso.
No hay comunicación confiable sin dispositivos confiables
No solo los periodistas y los denunciantes dependen de una comunicación confiable: es un derecho fundamental y una piedra angular importante de nuestra seguridad de TI. Para que la comunicación sea verdaderamente confiable, se deben cumplir dos condiciones:
- Su propio dispositivo debe tener integridad y no puede reenviar contenido a terceros.
- El cifrado debe ser seguro, para que no tengamos que confiar en la red.
Con el secreto de las telecomunicaciones y el derecho fundamental a garantizar la confidencialidad e integridad de los sistemas de tecnología de la información, el control del chat anula dos derechos fundamentales. Los usuarios pierden el control sobre qué datos comparten y con quién. Pierden la confianza básica en sus propios dispositivos.
Hasta el momento no está claro quién debe definir y controlar los algoritmos de detección y las bases de datos. Tal sistema no transparente puede y será ampliado fácilmente después de su introducción. Ya es previsible hoy que la industria de la explotación de derechos se interese por el sistema tanto como los gobiernos antidemocráticos. Es tanto más aterrador con la inocencia que ahora se presenta.
Las tasas de error conducen a una avalancha de imágenes en los puntos de control
Una «inteligencia artificial» que verifica contenido abusivo también marcará incorrectamente el contenido como ilegal. Incluso las tasas de error más pequeñas conducirían a cantidades masivas de mensajes «reconocidos» y rechazados incorrectamente: solo en Alemania, se envían más de 500 millones de mensajes cada día Incluso las tasas de detección enormemente «buenas» conducirían a la expulsión de varios miles de mensajes por día.
Por supuesto, la probabilidad de desvío aumenta en el caso de intercambio de imágenes privado, completamente legal y consensuado entre adultos y jóvenes. Los adultos jóvenes ya pueden esperar la evaluación de su edad por parte de los organismos de inspección. La preocupación entumecida acerca de si nuestros mensajes se filtrarán, quién los está viendo y qué tan seguros están del abuso nos afectará a todos.
Al mismo tiempo, montañas de material irrelevante se acumularán en los puntos de control e impedirán que los oficiales realicen un importante trabajo de investigación. Las autoridades investigadoras ya están sobrecargadas con los datos que se acumulan hoy. Las investigaciones no tienen éxito y los materiales encontrados ni siquiera se eliminan. La eliminación efectiva de estos déficits sería el objetivo más importante en la lucha contra el abuso infantil. En cambio, la Comisión quiere confiar en la vigilancia masiva y la promesa de salvación de la «inteligencia artificial».
El control de chat debe rechazarse fundamentalmente como una tecnología fundamentalmente equivocada.