Doctorant F/H Évaluation des techniques de surveillance

Le centre Inria de l’université de Bordeaux est un des neuf centres d’Inria en France et compte une vingtaine d’équipes de recherche. Le centre Inria est un acteur majeur et reconnu dans le domaine des sciences numériques. Il est au cœur d'un riche écosystème de R&D et d’innovation : PME fortement innovantes, grands groupes industriels, pôles de compétitivité, acteurs de la recherche et de l’enseignement supérieur, laboratoires d'excellence, institut de recherche technologique…

Un enjeu technologique en plein expansion. Les techniques de surveillance numérique ne cessent d'innover, aidées en cela par des capacités accrues de collecte, de stockage et de traitement de l'information. Traditionnellement opérée par les États, la surveillance de masse s'est largement étendue aux opérateurs privés, notamment les GAFAM (Google, Amazon, Facebook, Apple, Microsoft) via les réseaux sociaux, moteurs de recherche ou autre enceintes connectées. Pour autant, ce ne sont pas les seuls terrains d'innovation de la surveillance et durant la dernière décennie, les avancées en apprentissage machine ont rendu possible de nouvelle techniques jusque-là hors de portée. Ainsi, l'identification faciale ou biométrique (téléphonie), la vidéo-surveillance algorithmique (jeux olympiques) ou la traque distribuée (Apple AirTag) sont entrées dans nos vies quotidiennes. Face à ces nouvelles techniques, le citoyen et le législateur se trouvent particulièrement démunis quant à la compréhension de ce que chaque technique implique en termes de vie privée et de démocratie. Les infamantes et largement illisibles EULA (End User License Agreement) — lorsqu'elles sont disponibles — n'aidant pas réellement à comprendre les tenants et les aboutissants d'un service donné, noyant le plus souvent les informations essentielles au milieu d'autres informations.

Un cadre légal à la traîne. Si aujourd’hui, en France, les technologies de surveillance font l’objet d’un encadrement légal, il convient de souligner que l’encadrement arrive néanmoins quelques années après la mise en œuvre de dispositifs de surveillance. Effectivement, les textes juridiquesexistants offrent une base pour encadrer la collecte et l’utilisation des données personnelles. Il ne couvre cependant pas toujours les spécificités des nouvelles techniques de surveillance.

Des enjeux éthiques et sociétaux cruciaux. Le développement des technologies de surveillance pose de nombreuses questions éthiques, notamment sur leur influence sur les libertés fondamentales, par leur intrusion dans la vie privée, mais également la capacité discriminatoire de certains algorithmes. Par ailleurs, le sujet tend à dépasser les enjeux techniques et juridiques pour toucher directement aux enjeux démocratiques. Les technologies de surveillance peuvent créer un climat de surveillance généralisée, de méfiance, dans lequel les comportements des citoyens se normalisent ou s’auto-censure. Qu’il s’agisse d’une normalisation des comportements ou d’une auto-censure des citoyens, cela pose des questions en termes d’exercice des libertés, et in fine de démocratie.

Un besoin urgent d’évaluation et de standardisation. Avec la prolifération des techniques de surveillance, il devient urgent de mettre en place un cadre d’évaluation standardisée permettant d’analyser et de comparer les dispositifs de surveillance. Pour ce faire, il convient de développer :

• Une fiche technique claire pour identifier les différentes caractéristiques et limites de chaque dispositif

• Une méthode d’évaluation interdisciplinaire, associant les expertises informatique et juridique, afin de garantir, d’une part l’applicabilité multidimensionnelle de la grille d’évaluation, et d’autre part, le respect par les dispositifs de surveillance des enjeux éthiques et légaux.

• Enfin, une approche pédagogique, afin de rendre cette grille d’évaluation accessible au grand public.

Recenser et structurer les techniques de surveillance. Concevoir une méthode d’évaluation et de labellisation interdisciplinaire implique tout d’abord de recenser l’ensemble des dispositifs de surveillance. Ce recensement mettra par la suite de catégoriser les techniques de surveillance de manière rigoureuse et systématique, permettant ainsi d’y inclure de futures techniques de surveillance. Cette structuration des techniques de surveillance en catégories permettra d’établir une hiérarchisation des techniques et de faciliter leur compréhension et leur analyse. Cette recension ne pourra se faire que dans l’inter-connexion des disciplines scientifiques, que sont le droit et l’informatique, puisqu’elle devra systématiser aussi bien les usages techniques que les réglementations.

Développer une méthode d’évaluation et de labellisation interdisciplinaire. Une fois la recension effectuée, une méthode d’évaluation et de labellisation interdisciplinaire devra être effectuée. Cette méthodologie devra intégrer aussi bien des sources techniques que juridique. Le degré de précision de la méthodologie sera à préciser en amont afin de produire une évaluation ou labellisation rigoureuse et standardisée fonctionnant pour tous dispositifs de surveillance. L’objectif final étant de fournir un outil transparent pour évaluer l’objectivement et de manière standardisé les dispositifs de surveillance selon des critères multidimensionnels.

Tester la méthode sur un échantillon représentatif. La grille d’évaluation ou la labellisation interdisciplinaire créée, elle devra être testé sur un échantillon représentatif des dispositifs de surveillance. Une fois testé sur divers dispositifs de surveillance, une campagne de tests devra être menée auprès de sujets naïfs afin d’évaluer la pertinence du design proposé, permettant ainsi d’identifier les points faibles et les points forts du label construit.

Approche multidimensionnelle. Si la labellisation est encore embryonnaire dans le domaine des nouvelles technologies, on voit quelques initiatives percées/ Tout d’abord, en Europe, des initiatives naissent pour créer des certifications de garantie des technologies respectant le RGPD ou encore les principes éthiques liées à l’IA, comme le label Trust AI proposé par certainesorganisations. A l’échelle internationale, l’Organisation internationale de  ormalisation (ISO) a créée quelques normes liées à l’éthique de l’IA (ISO/IEC TR 24028) ou encore liées à la sécurité informatique (ISO/IEC 27001). Néanmoins, elles ne visent pas à s’appliquer directement aux dispositifs de surveillance. Aujourd’hui, nos recherches font état d’aucun cadre global harmonisé permettant l’évaluation et la labellisation des techniques de surveillance en fonction de leur enjeux techniques, éthiques, et juridiques. Il semblerait que les labels existants ne se centrent que sur un des aspects, soit la technique soit le cadre légal, sans prendre en compte une approche multidimensionnelle.

Au delà de l’informatique et du droit public, d’autres disciplines seront mobilisées

• La philosophie : Cette recherche s’appuiera en partie sur les Surveillance Studies, notamment sur les travaux des sociologues David Lyon (Queen’s University, Canada), qui a théorisé les notions de nouvelle surveillance et de culture de la surveillance, et Gary T. Marx (Massachusetts Institute of Technology), dont les analyses portent sur les concepts de contrôle et de contre-contrôle.

• La sociologie : Cette recherche s’appuiera en partie sur les Surveillance Studies, notamment sur les travaux des sociologues David Lyon (Queen’s University, Canada), qui a théorisé les notions de nouvelle surveillance et de culture de la surveillance, et Gary T. Marx (Massachusetts Institute of Technology), dont les analyses portent sur les concepts de contrôle et de contre-contrôle.

• La psychologie : Ce travail de recherche se basera, en partie, sur des travaux de psychologie. Penser une grille d’évaluation des technologies de surveillance implique de se demander les effets que produisent les dispositifs sur les individus. Se sentent-ils surveillés constamment ? Cela a-t-il un impact sur leur manière d’agir en société, notamment sur l’exercice de leurs droits et libertés fondamentaux ?

Le ou la candidate devra être titulaire d'un master en droit ou en informatique, être à l'aise avec l'outil informatique, notamment ceux permettant la fouille de textes, et être sensibilisé(e) aux techniques de surveillance. Une solide formation en apprentissage automatique, traitement de l'information et intelligence artificielle serait un plus. Il ou elle devra maîtriser la langue anglaise, le langage juridique et le langage technique.

• Restauration subventionnée
• Transports publics remboursés partiellement
• Congés: 7 semaines de congés annuels + 10 jours de RTT (base temps plein) + possibilité d'autorisations d'absence exceptionnelle (ex : enfants malades, déménagement)
• Possibilité de télétravail partiel et aménagement du temps de travail
• Équipements professionnels à disposition (visioconférence, prêts de matériels informatiques, etc.)
• Prestations sociales, culturelles et sportives (Association de gestion des œuvres sociales d'Inria)
• Accès à la formation professionnelle
• Sécurité sociale

La rémunération mensuelle brute sera de 2200 euros en 2025 puis 2300 euros en 2026