Una situación “espantosa” para la protección de los niños y una empresa al borde de la quiebra: después de un año de colaboración con la Oficina de Menores, el inventor de una herramienta informática contra los contenidos delictivos infantiles denuncia que el Estado ha puesto fin a una colaboración de utilidad pública.
Anne-Gaëlle Philbert, presidenta de KorpMedia, empresa de los Vosgos fundada en 2018, trabaja desde hace meses en el mayor secreto en el proyecto “Dapi” (para la “detección automatizada de actividades potencialmente ilegales”), como declaró a Mediapart a principios de octubre.
Su empresa, que anteriormente producía vídeos para las autoridades locales, había comenzado a avanzar hacia la informática traviesa. De hecho, estaba preparando un algoritmo que permitía a los individuos realizar montajes de sus travesuras íntimas, sin ningún conocimiento particular de vídeo.
Una colaboración público-privada imprescindible
Y hizo clic. El algoritmo es capaz de detectar automáticamente la actividad sexual y también debe poder detectar la posible presencia de niños en vídeos pornográficos, consideró Philbert.
Después de hablar con policías y gendarmes, “nos quedamos estupefactos cuando supimos que nada de esto existía”: los investigadores ahora se ven obligados a examinar todo el contenido encontrado en teléfonos móviles o ordenadores incautados manualmente. “Consume mucho tiempo”.
El empresario se pone entonces en contacto con la Oficina de Menores (Ofmin) creada en 2023 y adscrita a la dirección nacional de la policía judicial “para ver si es posible una colaboración”, sobre todo porque una colaboración público-privada es esencial para el desarrollo de un proyecto de este tipo, ya que está prohibido que un particular o una empresa privada posea, conserve o visualice imágenes de carácter pornográfico infantil.
La confidencialidad, un obstáculo a la búsqueda de inversores
La colaboración, que no ha sido contractualizada, comienza en enero de 2024. Dapi es una especie de “asistente de investigación con combinaciones de filtros” que permite puntuar las imágenes “para que la policía, que es muy escasa y no tiene suficiente tiempo, pueda estudiar inmediatamente los contenidos” que la herramienta ha considerado potencialmente delictivos.
Ofmin integró la solución de KorpMedia en una convocatoria de proyectos europea más global. Del millón de euros solicitado a la UE, Dapi representó 150.000 euros. Por su parte, la empresa tuvo que financiar 200.000 euros.
KorpMedia había recibido de Ofmin un “acuerdo de principio” del departamento digital de la policía judicial para esta colaboración, con dos obligaciones: mantener la más estricta confidencialidad, lo que impedía a la empresa “buscar financiación” para los 200.000 euros que invirtió en el proyecto.
Riesgo de quiebra
La otra condición era no vender el producto a operadores privados. “Recibimos estas condiciones y este acuerdo por escrito”, subraya Philbert.
Lamentablemente, a finales de 2024, Ofmin no recibirá ayuda europea. Aún se mantienen reuniones para avanzar en el proyecto, pero desde finales de abril y una reunión con un miembro del gabinete de Emmanuel Macron, la empresa ya no ha tenido noticias del Ministerio del Interior. Mientras tanto, la falta de efectivo lo pone en riesgo de quiebra.
“No hacemos nada para proteger a los niños”
Preguntado por la AFP, el Ministerio del Interior confirmó que el proyecto “no fue aceptado” y afirmó que sus conversaciones con KorpMedia plantearon “varias cuestiones de precaución, en particular en relación con cuestiones jurídicas”.
“Si la empresa considera que ha sufrido un daño, dispone de los recursos adecuados para hacer valer el daño. La solución de un posible conflicto sólo puede tener lugar en el marco de los procedimientos legales vigentes”, subrayó el ministerio.
Mientras tanto, “no hacemos nada, o muy poco”, para proteger a los niños en Francia, considera Philbert, denunciando una situación “espantosa”.
