Original subtitles

Quelles sont les activités de cette association ?

C'est une association de réinsertion.

On y apprend à jardiner.

Où vivrez-vous si on vous accorde la liberté conditionnelle ?

Dans un appartement de l'association.

- Et après ? - Comment ça ?

Où vous voyez-vous dans 3 ans ? Qu'aimeriez-vous faire ?

J'aimerais continuer dans l'informatique.

C'est ma passion.

J'ai passé 2 ans en prison.

J'ai eu le temps de réfléchir.

Evidemment,

je veux trouver un travail légal, dans le software, par exemple.

Je sais pas...

J'aimerais travailler dans un domaine

où je peux mettre mes connaissances en pratique pour la communauté.

Ou continuer de développer tout ça.

Un software de protection des données...

La demande du plaignant est rejetée par le ministère.

Nous parlons de 2 millions d'euros de dommages informatiques.

Ses regrets ne sont pas sincères.

Il reste présent sur des forums de hacking.

C'est vrai ?

Madame la juge...

Si vous parlez des forums que j'ai consultés,

c'est vrai.

Mais c'est simplement pour me former.

Sinon, quoi ?

Je me lance dans un tout autre domaine ?

C'est ça que je veux faire.

Mais de manière légale.

Je veux me spécialiser

et travailler.

Toutes les conditions sont requises

donc je statue en faveur...

Mme la juge, prenez en compte la recommandation de THENTE.

M. le procureur, ne m'interrompez pas.

Le logiciel recommande qu'il reste en prison.

Ce tribunal statue en faveur du plaignant.

Monsieur Almeida,

ne gâchez pas cette opportunité.

Merci.

La séance est levée.

- C'est à quelle heure ? - 10h30.

On peut boire un café en même temps.

J'aurais dû prendre rendez-vous.

Je t'ai écrit plusieurs fois, sans réponse.

Oui, j'ai vu, désolée.

- Je suis très occupée. - Je sais.

Je dois te parler.

C'est très urgent.

Vendredi matin ?

Je te recontacte demain pour bloquer ça.

Très bien.

- Enchantée. - De même.

Je prends la parole aujourd'hui pour vous parler de notre volonté

de lancer un référendum historique.

Le moment est venu de mettre notre constitution à jour.

L'objectif est de nous doter d'un cadre législatif

qui nous permette d'introduire l'intelligence artificielle

pour moderniser l'administration de la justice.

Afin d'augmenter l'efficacité de tous nos tribunaux,

nous proposons la mise en service de THENTE 2.

Nous cherchons la confiance et l'approbation des citoyens,

à travers ce référendum,

pour mener à bien ce processus de transition essentiel

pour le futur de nos institutions.

Mme la Présidente, la PDG de THENTE devait s'exprimer.

Oui, mais je suis navrée, Alicia Kovack n'a pas pu être là,

elle a eu un empêchement.

Mais quel cynisme.

Pilote automatique désactivé dans 3, 2, 1.

Aujourd'hui, la justice a plein de problèmes.

On la considère comme trop lente, inefficace, trop politisée

et pas assez en phase avec les valeurs actuelles.

Depuis trop longtemps, les tribunaux sont conflictuels.

Longues attentes, paperasse, bureaucratie.

Nos sociétés sont complexes et mondialisées,

mais nos tribunaux sont restés figés dans le 20e siècle.

Ce sont des structures lentes et incapables de s'adapter.

On targuait la voiture autonome de rêve futuriste.

On arguait que l'art était réservé aux humains.

Qu'une intelligence artificielle ne remplacerait jamais un juge.

Ils se sont trompés.

- Alors, Alicia ? - C'est puéril.

Vois avec le marketing, on a besoin d'autres options.

Puisqu'on est tous là, j'aimerais qu'on parle.

Tu ne devrais pas être la seule à parler à la présentation.

Alicia est le visage de THENTE.

La pression monte.

Tu crois qu'elle ne peut pas la gérer ?

Tu disparais pendant 2 semaines, tu lâches la Présidente.

Alors ?

Y aura pas de présentation.

Le système n'est pas prêt.

La date est bloquée. On s'est engagés.

J'ai convoqué le Conseil.

On l'annonce demain.

T'es folle !

Ca vient d'être annoncé en conférence de presse.

- Brais ! - Quoi ?

Tu veux quoi ?

T'aurais dû m'en parler.

On devait le lancer et l'améliorer ensuite.

- Des emplois sont en jeu. - Pas que.

C'est du suicide !

Le Conseil te laissera pas faire. Et moi non plus.

Les investisseurs sont prêts pour le lancement,

le gouvernement aussi.

Ce n'est pas le moment.

Tu pourras faire des modifications plus tard.

C'est décidé.

Tout s'est bien passé.

Vous avez expulsé tous les restes de l'embryon.

C'est normal que vous n'ayez pas le moral.

Je vais bien, ne vous en faites pas.

Carmen, je ne vous recommande pas de réessayer.

Le risque est très élevé d'après le système.

Nous nous retrouverons sûrement dans la même situation.

Mais la décision vous revient.

Prenez votre temps.

L'accident a eu lieu peu de temps après l'annonce de la Présidente

sur la réforme judiciaire.

La mort d'Alicia Kovack

est un coup dur pour cette initiative,

mais surtout pour THENTE, qui perd son plus grand atout.

Elle vous attend, madame.

Je t'avais dit quoi ?

Que les chiffres étaient mauvais.

La moyenne, c'est 550 procédures par trimestre

et tu n'atteins pas les 300.

On veut doubler ce chiffre pour l'an prochain.

Helena, tu sais très bien que c'est impossible.

Je sais. C'est pour ça qu'on a THENTE.

J'ai appris pour celui aux 82 % de chance de récidive

que tu as libéré.

Il remplissait toutes les conditions.

C'est la loi.

La loi...

Arrête un peu, Carmen.

82 % de chances.

Tu n'as pas peur qu'il récidive ?

Il t'a contactée ?

Qui ?

- Le syndicat des juges. - Je ne suis pas membre.

Je sais.

- Mais Goitia ne t'a pas appelée ? - Non.

Je ne l'ai pas vu depuis des mois.

Le syndicat fait campagne pour le non.

Ils ont recruté des collègues.

Goitia est avec eux.

J'ai quelqu'un à te présenter.

M. le juge, je vous présente la juge Carmen Costa.

- Avila. - Monsieur le juge.

On ne se connaît pas, mais j'ai suivi votre travail.

Je suis le collègue de votre instructeur.

J'aide à mettre en place THENTE avec le ministère de la Technologie.

Pour ou contre ?

Je ne sais pas encore.

Nous ne sommes pas aussi imprudents qu'ils le disent.

Nous comprenons ce qu'implique de déléguer la justice à l'IA.

Mais le logiciel a été testé.

Plus de 100 juges ont été audités par THENTE.

Alicia Kovack coordonnait cela.

Vous la connaissiez ?

J'ai été en procès avec elle il y a longtemps.

Elle appréciait beaucoup votre travail.

Elle voulait vous inclure, c'est pour ça qu'on vous a appelée.

On aimerait que tu fasses un dernier audit.

Ca ne durera que 2 semaines.

Le ministère va te donner un congé spécial.

Excusez-moi, mais je ne suis pas celle qu'il vous faut.

On est certains du contraire.

On aimerait beaucoup que vous nous aidiez.

Tous les sondages disent la même chose.

Le "oui" va gagner au référendum.

Ce serait historique, car si cela se confirme,

l'Espagne sera le 1er pays à déléguer à un logiciel d'IA

le fonctionnement d'une partie de sa démocratie,

à savoir l'administration juridique du pays.

Pour Alicia, quand la justice arrivait trop tard,

elle perdait son essence.

A l'inverse, elle est partie trop tôt.

Soyez sûrs que son projet reste bien en vie

et grandira

grâce à la vision qu'elle nous a léguée.

Alicia est la personne la plus brillante que j'ai connue,

et je vais continuer pour elle.

Les défis qui nous attendent sont à la hauteur de nos réussites.

Nous sommes si proches du but.

Merci, Alicia.

Vous êtes arrivée.

Bienvenue, Carmen.

Merci.

Je suis Alejandro Javel, directeur des opérations.

- Enchantée. - Suivez-moi.

- Vous avez fait bonne route ? - Oui.

Je m'attendais à plus de monde.

C'est un centre de recherche.

Alicia l'a créé quand on a cessé d'être une start-up.

- Elle n'aimait pas la ville ? - Non.

Elle n'aimait pas le bruit.

Je vous présente Carmen Costa.

Carmen, je te présente Bea et Dorian, du marketing,

Aitor, du département juridique.

Et Sofia, notre responsable technologie.

Elle s'occupe du suivi du testing.

Elle a signé la clause de confidentialité ?

Elle va le faire.

Racontez-moi tout.

Je préparais le bain des petits.

Et il a appelé.

J'ai répondu et il m'a demandé de lui ouvrir.

Il était en bas.

- Et vous avez ouvert ? - Non.

Il a continué à parler, il voulait voir les petits.

Il voulait leur donner un truc

et... j'ai commencé à avoir peur.

Je lui ai dit d'attendre en bas, mais il s'est mis à crier.

Le système a rendu sa sentence.

Tu as accès aux documents qu'utilise THENTE.

Ce sont des affaires que THENTE et toi ne connaissez pas.

Vous allez les étudier en même temps.

On aimerait que tu apportes ton point de vue à chaque fois.

On le comparera ensuite avec la sentence de la machine.

L'idée, c'est que THENTE apprenne de toi.

Tu peux utiliser les 2 écrans.

THENTE travaille en arrière-plan.

Prête ?

Il y a quelques différences,

mais d'après l'historique,

90 % des juges interprètent la loi comme toi.

Le logiciel suit le même schéma.

Je vais charger les sentences.

Tu les analyseras.

Excuse-moi.

Je veux voir d'autres sentences de THENTE.

Pénales, sociales et contentieuses.

Je les veux imprimées pour les étudier chez moi.

Comme tu voudras.

Tu ne devrais pas être là.

Les sentences imprimées.

C'était le bureau d'Alicia.

Suis-moi.

Le président veut te voir.

Carmen.

Désolé de ne pas être venu plus tôt.

Avec le lancement de la campagne, on est débordés.

Je suis Brais Lago.

Je vous ai vu à l'enterrement.

Tu y étais ?

Ca n'a pas été facile,

mais on a reçu beaucoup de soutiens et ça nous permet de tenir.

J'espère que ça va, on a beaucoup à apprendre de toi.

N'hésite pas à demander à Sofia et Alex tout ce que tu veux.

On doit y aller.

A bientôt.

Très bien.

Je te raccompagne.

Excuse Brais.

On vient d'annoncer une commission sur la justice algorithmique.

En pleine campagne et à l'approche du référendum,

on doit bien la préparer.

Vous allez utiliser mon audit dans votre campagne ?

Ils ne t'ont rien dit ?

Ils vont te demander de témoigner devant le Congrès.

- Qui ? - Tous.

Le syndicat, le gouvernement.

Tu es une juge respectée.

Tu as affronté les compagnies d'électricité.

Tes sentences sont minutieuses.

Elles sont très claires.

Et tu n'es pas membre d'un syndicat...

Ton profil est parfait pour THENTE.

Alicia le savait très bien.

Elle adorait venir ici.

Tu figures dans son testament.

Comment ça ?

Elle voulait que tu travailles sur la nouvelle version de THENTE.

Le lancement dépendait de ta validation en tant que juge.

Elle a laissé une trace écrite, au cas où.

Au cas où ?

Pourquoi on ne m'a rien dit ?

On ne prend pas toutes les décisions.

Ils ont dû penser que cette version te plairait

et que tu l'approuverais sans souci.

J'allais finir par le savoir.

Maintenant, tu sais.

Ne laisse pas ça impacter ton avis sur le logiciel.

On a besoin que tu t'appliques à l'améliorer.

C'est ce que voulait Alicia.

Si je ne l'approuve pas, vous ne le présenterez pas.

Non.

C'est un problème pour nous et pour le gouvernement.

Tu sais qui s'occupe de l'accident d'Alicia ?

Oui.

Je suis désolée. Vous étiez amies ?

Non, je l'ai connu dans un procès.

Nous n'étions pas amies,

mais elle m'écrivait parfois.

Au fait.

Une plainte du bureau du procureur.

C'est juste un rappel à l'ordre.

Pour le hacker.

Le pourcentage était très...

Je t'ai demandé ton avis ?

Excuse-moi.

Comment tu vas ?

Bien.

La clinique m'a dit que c'était terminé.

Quoi ?

Non, écoute-moi.

Si c'est ce que tu veux, tu dois réessayer.

Non, je vais arrêter.

Tu sais quoi ? On va aller boire un verre.

J'ai pas envie d'en parler.

On se revoit vite, au revoir.

Quand une victime ou un suspect témoigne,

comment percevoir sa colère

sinon dans sa façon de s'exprimer,

dans l'emphase mise dans sa façon de décrire

ses propres réactions.

Tu montes pas ?

Je préfère qu'on marche.

Quand la loi sera passée,

les sentences de THENTE ne seront plus des recommandations.

Je sais.

Je travaille avec le syndicat.

On m'a dit ça, oui.

On a aucun soutien.

C'est parce que le syndicat n'est connu

que pour ses positions politiques.

Et sa corruption.

Arrête, ce sont des exceptions.

Là, c'est différent.

C'est différent quand ça vous touche.

Mais quand on a besoin de vous

pour contrer les pressions, vous n'êtes pas là.

Ils t'ont appelée ?

Pour travailler avec eux.

Ils veulent se servir de toi.

Pour leur campagne. Tu n'es pas n'importe qui.

Ton soutien sera symbolique.

Je ne suis pas pour cette réforme.

Mais on a besoin de changement.

On est débordés et tu le sais.

Mais c'est pas la solution.

Dans une semaine, il y aura une commission.

Sur la justice algorithmique.

Ca aura un impact fort sur l'opinion publique.

On aimerait que tu témoignes.

Non, je ne veux pas m'exposer.

Mon avis n'est pas tranché.

C'est pas le moment d'être neutre.

Tu dois prendre position.

Il paraît

qu'Alicia a essayé de freiner le lancement du logiciel.

Un accident mortel dans une voiture autonome,

ce n'est pas commun.

Alors s'il te plaît,

fais attention.

Bien sûr.

La question qu'on se pose tous :

les juges tels qu'on les connaît vont cesser d'exister ?

Absolument pas.

Les juges continueront de participer au processus judiciaire,

mais différemment.

Le regard humain sera toujours nécessaire.

C'est derrière tous nos juges et leurs décisions

que le progrès se fait.

Ce qui est curieux, c'est que ces juges-là

ne sont pas ceux qui sont promus aux instances supérieures.

Ceux qui sont promus sont ceux proches du pouvoir.

Ecoutez.

Nous ne sommes pas là pour parler de politique.

Elle a raison.

On doit séparer le système judiciaire

du pouvoir politique.

Cela implique plus de transparence dans la justice et notre système,

ainsi que la création de mécanismes ambitieux

qui favorisent la participation citoyenne

à la justice.

On assiste à l'ascension de THENTE

et on ignore son but et jusqu'où le logiciel ira...

Expliquez-nous clairement.

Tout le monde savait qu'il magouillait.

- Vous y participiez ? - Non.

Pourtant, le mercredi 17 octobre, vous étiez avec lui.

Oui, c'était au bar.

Vous l'avez touché ?

Oui, au cou.

Qu'aviez-vous convenu ?

Rien du tout. J'étais au bar, il est arrivé, on a bu un coup.

Je le sentais pas, honnêtement.

En plus, ma pote m'avait raconté des trucs sur lui.

Vers 2 h du matin.

Du temps, des filles, de s'il était sorti.

Ce genre de choses.

Tes arguments principaux coïncident avec ceux de THENTE.

A nouveau.

Il n'y a qu'une seule différence.

Pour le jury, l'accusée est coupable mais pas pour THENTE et toi.

- Qu'a dit son avocat ? - Il n'a pas fait appel.

Faire appel coûte cher.

Tout le monde ne peut pas se le permettre.

La justice doit être accessible à tous.

THENTE et toi êtes en accord sur toutes les affaires.

La seule différence, c'est le temps que ça prend.

Quand avez-vous prévu la présentation ?

Avant le référendum.

Le 15.

Alicia est morte il y a une semaine.

Je sais.

Vous avez fondé cette entreprise ensemble.

Elle a créé l'algorithme et j'en ai fait une entreprise.

Nous avons un calendrier strict à respecter.

- Alex va te montrer les données... - Ca a dû être dur.

Ca faisait un moment qu'on était séparés.

Ca s'est fait à l'amiable.

Autre chose ?

Tout s'est bien passé ?

Je ne vois pas ce que je peux apporter de plus.

Pourquoi ?

Je ne comprends pas ce sur quoi mes audits portent.

Alicia cherchait quelqu'un qui soit capable

de mettre le système à jour.

Quelqu'un avec une formation juridique.

Et qui s'adapte aux progrès sociaux.

Ca, c'est pour le long terme.

- On doit se concentrer sur l'audit. - A long terme ?

J'aimerais que tu rejoignes notre équipe.

Quelle que soit l'issue du référendum.

On a besoin de quelqu'un comme toi.

On a beaucoup investi en big data.

On a acheté des bases de données de tous types.

Légales, commerciales, de réseaux sociaux.

C'est la pierre angulaire du logiciel.

Tu penses quoi de l'accident d'Alicia ?

J'attends la décision du juge.

C'est pour bientôt.

THENTE a déjà sa sentence.

Elle est sous scellé.

Je ne le dirai à personne.

D'accord.

Viens.

Ce sont les images satellites.

On y voit pas grand-chose, ça s'est passé de nuit.

Ca, c'est la voiture qui a provoqué l'accident.

Elle a patiné et terminé au milieu de la route.

Là, c'est Alicia.

Elle sort du virage et tombe sur la voiture.

Le système automatique a pris le contrôle du véhicule.

Il a essayé de l'éviter, pensant freiner à temps.

- C'était la meilleure option. - Pour qui ?

Pour tout le monde.

Mais surtout pour l'adulte et l'enfant du 1er véhicule.

A cette vitesse, le choc les aurait tous tués.

Le système a pris cette décision à partir de l'algorithme éthique.

Sauver deux personnes

en risquant la vie d'une seule.

On sait si l'algorithme éthique apparaît dans la sentence ?

Non, c'est protégé par la loi sur les brevets commerciaux.

Comment on peut prouver que l'algorithme éthique a décidé ?

Une minute.

La sentence s'est fondée sur la déclaration d'un ingénieur.

Brais !

Quoi ?

Tu veux quoi ?

T'aurais dû m'en parler.

On devait le lancer et l'améliorer ensuite.

- Des emplois sont en jeu. - Pas que.

C'est du suicide !

Le Conseil te laissera pas faire.

Et moi non plus.

Ce matin, le verdict sur l'accident d'Alicia Kovack est tombé.

La décision qui a provoqué l'accident mortel

a été prise par l'algorithme éthique de son véhicule, de marque Vinseng.

Elle est qualifiée de "décision équitable".

Le porte-parole de Vinseng s'est exprimé.

Nous sommes tous égaux aux yeux de l'algorithme.

Ce verdict est interprété par les marchés

comme une preuve claire de la neutralité de l'IA

face aux décisions.

Cela renforce les arguments des partisans du oui au référendum

sur la justice algorithmique.

Son nom n'a pas été rendu public.

D'où ma requête.

Je sais, mais ça n'a pas plu au juge et à moi non plus.

C'est pas notre affaire.

Je l'aurais fait moi-même, mais je suis en congé.

Carlos Vidal, directeur de la sécurité de Vinseng.

C'est l'ingénieur qui a témoigné.

Il est expert en cybersécurité et intelligence artificielle.

Il a travaillé pour plusieurs boîtes aux Etats-Unis, en Asie...

Comment on peut le trouver ?

Tu peux trouver les avocats ?

Bien sûr.

Je t'écoute.

- Tu connais Carlos Vidal ? - Non.

C'est l'ingénieur qui a témoigné dans l'affaire d'Alicia.

Je ne le connais que de nom.

Je dois lui parler.

Je vais tenter d'être réglo, mais j'y crois pas.

Je vais essayer de te trouver ça. Viens, Sofia t'attend.

J'arrive.

Rien... Je suis tombé.

Chez toi ?

Oui et je me suis pris...

Le coin de la porte.

Alejandro, tu sais pourquoi on est là ?

Non.

THENTE estime sa crédibilité à 6 %.

Oui, il ment.

Mais pourquoi ?

Avec les mineurs, c'est compliqué.

Comment ça ?

Comment savoir s'ils disent la vérité

ou s'ils sont manipulés par un parent ?

En discutant avec eux.

Et grâce aux rapports psychosociaux.

Tu as des enfants ?

Une fille de 12 ans.

Tu as la garde ?

A 12 ans, je considère qu'ils peuvent choisir.

- On peut revoir les peines ? - Bien sûr.

On a les mêmes sentences,

mais pas la même peine pour les individus 1 et 3.

Les délits et circonstances sont pourtant similaires.

Les peines devraient être les mêmes.

THENTE peut émettre des peines de différents niveaux.

Chaque individu est évalué en fonction de ses antécédents.

Quel est le poids de chacun des facteurs ?

Il est pondéré par un algorithme.

Je dois le voir.

Personne n'y a accès.

Ce barème impacte la peine, il doit donc être public.

Je ne peux rien te dire de plus.

Alors qui ?

Sofia te l'a expliqué.

THENTE estime l'impact futur que l'individu aura sur la société.

La justice n'est pas la même pour tous.

Mais la loi, si. Ca ne peut pas rester confidentiel.

Toi aussi, tu dois approuver ou non une liberté conditionnelle.

Imaginer si le détenu en fera bon usage.

THENTE fait la même chose, mais il prédit au lieu d'imaginer.

C'est l'un des principes de base de l'algorithme.

Comment ça ?

Tu le sais très bien.

Alicia t'admirait.

Elle aurait pu finir en prison, mais tu lui as donné une 2e chance.

Tu as cru en elle.

THENTE aurait fait la même chose.

Je sais que tu as des réserves, mais je défends son héritage.

Tu n'as pourtant pas l'air déterminé à savoir ce qui lui est arrivé.

C'est pas le moment.

Autre chose ?

Alicia était d'accord pour présenter le logiciel ?

L'idée, c'était de le lancer et de l'améliorer ensuite.

Je dois répondre.

On se voit au Congrès.

Appeler Goitia.

Vous m'avez inscrite pour témoigner ?

- J'ai été très claire... - C'est le gouvernement.

Ils veulent ton soutien.

Ils veulent t'acheter.

Tu peux encore nous aider.

Aujourd'hui, au Congrès, à quelques jours du référendum,

se tient un débat décisif pour l'opinion publique.

Je pense que les juges vont défendre férocement

ce que j'ai envie d'appeler leurs privilèges.

L'équipe de THENTE, elle, va défendre son logiciel

qui, on l'a vu, est impressionnant.

On voit bien que les juges se retrouvent seuls.

D'une part, par leur corporatisme flagrant

et d'autre part, car ils ne sont plus essentiels.

Bonjour.

Vous parlez souvent de productivité et d'efficacité,

mais selon vous, à quoi mesure-t-on la qualité de la justice d'un pays ?

Je ne suis ni juriste ni juge.

Je juge la qualité d'un service à l'avis de ses utilisateurs.

Quand on élimine de ce processus

les déterminants humains tels que l'idéologie,

l'émotion, les biais racistes, sexistes et classistes,

quand les sentences sont dépourvues de ces préjugés,

les citoyens les trouvent plus justes.

C'est en tout cas ce que disent nos études.

Et c'est cela, pour nous, une justice de qualité.

Je n'ai jamais fait partie d'aucun syndicat de juges.

Je suis tout à fait opposé à la politisation de la justice.

Mais j'ai décidé de me lancer,

car c'est un moment crucial de notre démocratie.

La justice a toujours été inconfortable

parce qu'elle contrôle le pouvoir politique et économique.

Elle est le dernier rempart de défense des droits fondamentaux.

Un rempart

qui est défendu par plus de 5 000 juges respectés

qui se tuent à la tâche

et sont étouffés par les manques de moyens.

Certains fonds d'investissement et secteurs du gouvernement

ont décidé de se débarrasser de ce contre-pouvoir.

Ils parlent d'efficacité et de neutralité

pour occulter le véritable objectif.

Contrôler la justice du pays.

Je vous remercie.

M. le représentant des juges,

vous parlez d'indépendance.

Hier, nous avons découvert

l'enregistrement d'un politicien qui demandait à un magistrat

qu'il assigne "le bon juge" pour s'occuper de son affaire.

Il s'avère que le magistrat a accédé à sa demande.

Voilà la justice que vous défendez.

La justice humaine.

Nous sommes là pour en terminer avec cette corruption.

Notre logiciel permet de lire les émotions des témoins,

de détecter des schémas, d'exploiter des données,

d'évaluer les demandes d'asile, de liberté conditionnelle,

les litiges, les conflits, de modeler le présent,

le passé et le futur.

Des millions de procédures venant de tout le pays,

simultanément et en moins de temps qu'il faut à un fonctionnaire

pour faire sa demande d'arrêt pour dépression.

Vous savez ce qu'on économiserait ?

Merci.

Mme la juge, vous avez condamné une entreprise d'électricité

en interprétant la loi d'une toute nouvelle façon.

Pourquoi ?

J'ai considéré que les droits de la victime avaient été bafoués.

Cette loi avait 10 ans

et personne ne l'avait jamais interprétée ainsi.

En effet.

Le contexte a changé.

Le pays s'était fortement appauvri

et cette loi conduisait à une réduction des droits.

Je crois et je considère qu'il revient au pouvoir judiciaire

de questionner si une loi est conforme ou non

à la réalité du pays.

Le Tribunal Suprême vous a donné raison.

Le gouvernement a modifié cette loi.

Cela serait-il possible avec un système comme THENTE ?

Un système comme THENTE

fonde ses sentences sur des données passées.

Il est incapable d'adapter son interprétation de la loi.

Il est donc incapable de générer une jurisprudence.

Il est incapable d'avancer.

Son regard est porté vers le passé.

Il est condamné à le répéter.

Merci, Mme la juge.

C'est un professionnel indépendant

et il est difficile...

C'est difficile à contrôler.

On est sous haute pression.

Moi aussi.

Il faut que tu valides le logiciel.

Non, le système n'est pas prêt.

On peut retarder son lancement, refaire des tests.

Je te donnerai accès à l'algorithme et à tout ce que tu veux.

On fera comme tu voudras.

Tu vas y réfléchir ?

Pilote automatique désactivé dans 3, 2, 1.

Allô ?

Je suis Carlos Vidal. Vous vouliez me parler ?

Oui, en effet.

A 00 h, sur le parking du km 521 de l'A6.

Cette relation commence et se termine aujourd'hui.

Vous ne parlez pas de moi.

Je nierai avoir parlé avec vous.

Je ne témoignerai pas.

C'est clair ?

Oui.

Je n'ai pas dit toute la vérité, au procès.

On m'a mis la pression.

Vous devez être au courant.

De quoi ?

"Nous sommes tous égaux aux yeux de l'algorithme.

Toutes les vies se valent."

L'algorithme a des exceptions.

Il y a des utilisateurs VIP qui payent.

Leur vie est prioritaire en cas d'accident.

- La voiture d'Alicia était VIP ? - Bien sûr.

N'importe quel véhicule Vinseng conduit par Alicia Kovack

choisira toujours la meilleure option pour la sauver.

- Ca n'a pas été le cas. - Non.

2 jours avant l'accident, nos serveurs ont été attaqués.

L'exception éthique a été supprimée

de son véhicule, et seulement de son véhicule.

Est-ce qu'il y a un rapport de cette attaque ?

Tout a été détruit.

Admettre qu'il y a eu une attaque, c'est admettre les exceptions.

Et ce serait... un scandale.

Que sais-tu de cette attaque ?

J'ai examiné le système

et j'ai trouvé des connexions suspectes,

quelques jours plus tôt.

Et ces connexions, d'où venaient-elles ?

De THENTE.

C'est l'IP du réseau de THENTE.

Je ne peux pas identifier l'appareil.

Maintenant, c'est votre problème.

Oubliez-moi.

Manuela, j'ai besoin que tu m'aides et c'est urgent.

Quoi ?

J'ai besoin que tu localises une adresse IP.

Tu te fous de moi ?

- Une adresse IP ? - Oui.

Tu vas avoir des ennuis.

Tu peux le faire ou pas ?

Carmen, il est 00h30.

On voit ça demain.

Faut s'occuper de ça.

Tiens.

On peut discuter ?

Bien sûr.

Je reviens.

Je suis désolée pour hier.

J'ai besoin de localiser cette adresse IP.

C'est très important.

Non, il faut que je fasse un rapport et y a aucune raison...

Va voir Martin, de la cybercriminalité.

Non, je vais pas me cramer.

Tu cherches quoi ?

J'ai vu l'ingénieur.

La mort d'Alicia n'est pas un accident.

Elle voulait stopper la présentation.

J'ai besoin de ton aide.

Si tu as des preuves, tu connais la marche à suivre.

Ce n'est pas notre affaire.

Je n'ai que des indices.

C'est juste une adresse IP.

Comment ça, "juste une adresse IP" ?

Tu te rends compte de ce que tu me demandes ?

On a aucun cadre légal.

Et puis, j'ai plein de dossiers sur les bras.

C'est beaucoup plus important que tes putains de dossiers !

S'il te plaît.

Oublie.

Et me reparle pas comme ça.

Vous avez l'argent ?

Oui.

Le mot de passe. 2 000 euros en Bitcoin.

Jesus, s'il te plaît.

Je joue gros.

Tu ne dois pas être vu.

Ne vous en faites pas.

Tu as connu Alicia ?

Oui, il y a longtemps.

Avant d'être une star, elle était connue dans le hacking.

On l'admirait tous.

Et puis elle a trahi toutes nos valeurs.

Quelles valeurs ?

Alicia venait de la communauté du logiciel libre.

D'un sous-groupe connu

très impliqué dans la conception d'outils collaboratifs.

Ils voulaient tout démocratiser.

L'idée, c'était de redistribuer le pouvoir.

A l'inverse, THENTE le concentre.

- Brais revient quand ? - Je sais pas.

C'est là.

Attends-moi ici et sois attentive.

Si tu vois quelque chose, tu me préviens.

D'accord.

Je suis entré.

Y a plein de dossiers.

Je prends des photos.

Ca te parle ?

La fiche d'Alicia Kovack.

Nubiok, ils font de la biosécurité.

Ils implantent des puces GPS sous la peau.

Ce code permet d'accéder à l'historique

des déplacements et à la localisation d'Alicia.

Mais on sait déjà où elle est.

Garde cette clé.

J'analyse tout et je te rappelle.

Et autre chose.

On est quitte.

Merci.

- Bonjour à tous. - Bonjour.

- Manuela n'est pas là ? - Non.

Vous savez quand elle arrive ?

Elle avait beaucoup à faire, je ne sais pas.

- C'est pour elle ? - Oui.

Je lui donnerai.

- Merci beaucoup. - De rien.

- Allô ? - C'est Jesus.

- Tu as trouvé quelque chose ? - Oui, c'est bon.

On a des preuves de l'attaque, mais c'est pas tout.

Je préfère qu'on se voie.

Où ? Tu es dispo tout de suite ?

J'ai pas terminé. Je t'appelle demain.

D'accord.

A demain.

Oui, Manuela ?

Ca fait 2 h que j'essaie de t'avoir.

Quelle heure il est ?

Viens au tribunal et ne parle pas aux journalistes.

Aux journalistes ? Quoi ?

- Bonjour, Mme la juge. - Bonjour.

Je vous appelle quand je la trouve.

Très bien.

Qu'est-ce qu'il y a ?

Carmen, on va gérer ça très calmement, d'accord ?

Qu'est-ce qu'il se passe ?

Le hacker que tu as libéré, Jesus Almeida,

a été arrêté pour pédophilie.

Il avait des photos et vidéos d'un petit qui a disparu. Regarde.

C'est pas ta faute.

Mais on va te blâmer.

Suivez-moi, on va discuter ailleurs.

Vous avez lu la presse ?

Multiples piratages, des séjours en détention,

squat, radicalisation et pédophilie ?

Mais vous le libérez contre l'avis de THENTE.

Les parents du petit veulent porter plainte.

Quand a-t-il été arrêté ?

Hier soir. Et on sait que vous vous êtes vus.

- Vous avez l'argent ? - Oui.

2 000 euros en Bitcoin.

Je joue gros.

On est quitte.

Vous m'espionnez ?

Tu as passé un accord pour sa libération ?

Non.

Comment tu expliques ça, Carmen ?

A quoi tu pensais ? C'est très grave.

Tu vas être suspendue et passer devant la Cour Suprême.

Tu vas être écartée de la magistrature.

Vous aurez notre soutien.

Vous en avez assez bavé.

- Goitia ! - Une minute, s'il te plaît.

- Ce n'est pas ta faute. - Ils me suivent.

Ils m'ont menacée et pistée.

J'ai besoin de vous.

Le problème, avec ce hacker,

c'est que l'IA avait raison.

On en sait rien, Goitia.

Je vous ai soutenus et ils me le font payer.

Bon, attends.

C'est terminé.

Ils vont gagner le référendum haut la main.

Cette affaire leur est favorable.

Ils nous ont mis la pression.

A nous tous.

J'ai trouvé un accord avec le gouvernement.

Les juges humains s'occuperont des secondes instances.

On reprendra les négociations dans un an.

Vous vous êtes vendus.

J'ai fait ce que m'ont demandé les collègues.

Vous vous êtes vendus.

Je ne peux plus lutter.

C'est à vous.

Ca vous fait quoi d'avoir libéré un pédophile ?

Pourquoi ne pas avoir suivi THENTE ?

Un mot pour la famille des victimes ?

Carmen, on vous écoute.

Comment tu vas ?

Tu m'as fait tellement peur.

Comment tu vas ?

Pardon.

Vos constantes sont presque normales.

Je vais pouvoir sortir ?

Si tout va bien, demain matin.

Comment tu te sens ?

Bien, très bien.

Tu te souviens de ce qu'il s'est passé ?

Je me souviens que le vent a vite tourné.

Le courant m'a emportée.

Et on m'a secourue sur la plage.

Tu as fait ce qu'il fallait.

Si tu avais continué à nager, tu te serais noyée.

Je reviens demain pour ta sortie.

Bonjour.

- Tu as pu te reposer ? - Oui.

Tu as ton autorisation de sortie ?

Ils vont me l'apporter.

Qu'est-ce qu'il y a ?

Je vais réessayer.

Quoi ?

D'avoir un bébé.

Je t'ai apporté des chocolats pour fêter ça.

De la part du bureau.

Ils m'ont demandé de tes nouvelles.

Merci.

Tais-toi, idiote.

Quelle idiote.

Je suis désolée.

Ne sois pas désolée.

Si, je suis désolée.

Le moment que le gouvernement et moi-même attendions est arrivé.

Nous avons travaillé très dur.

Nous avons le soutien des institutions européennes.

Durant la phase de développement,

nous avons rempli les conditions éthiques requises

par la réglementation communautaire pour mener à bien ces changements

dans l'administration de la justice.

Demain, nous présenterons le système que nous avons choisi

pour augmenter l'efficacité et la qualité de travail

dans les instances judiciaires du pays.

C'est le nouveau président de THENTE.

Et Brais ?

Il a été arrêté ?

Il a disparu.

On a trouvé chez lui les preuves

qu'il a provoqué l'accident d'Alicia.

Il y a un mandat d'arrêt international contre lui.

Il est accusé de meurtre.

Mais c'est pas tout.

Devine qui il a intégré à son entreprise ?

Vidal ?

Oui.

- Alex a dit ne pas le connaître. - Il le connaît.

Ils ont travaillé ensemble il y a des années.

Alex prend de tes nouvelles tous les jours depuis ton accident.

Vous avez profité de mon accident pour annoncer la présentation.

Nous en avons le droit.

Le ministère t'a suspendue.

Oui.

- Et Brais ? - Ils vont le retrouver.

Ecoute, on va présenter THENTE 2

et je n'oublierai pas Alicia.

On développe les améliorations qu'elle voulait.

J'aimerais vraiment que tu rejoignes l'équipe.

Rien de ce qu'on a dit de moi n'est vrai.

On m'a pris tout ce que j'ai trouvé chez Brais.

La police a fouillé chez lui.

Ils ont relié Brais au hacking de la voiture d'Alicia.

J'ai vu les preuves.

Mais c'est bidon.

Bidon.

Ecoute.

Ils ont mis des vidéos pédophiles dans mon PC.

Ils ont pu lui mettre n'importe quoi pour le relier à Alicia.

Et ils l'ont fait disparaître.

Qui t'a donné l'adresse IP ?

On s'est servi de toi pour blanchir une opération.

Tu l'as apportée ?

On va l'analyser pour prouver que les données sont manipulées.

D'accord.

Peu avant de mourir,

Alicia a laissé une note à Brais.

Une note secrète.

Intitulée THENTE 3.

Brais et Alicia étaient de mèche.

C'est peut-être pour ça qu'il savait pour la puce GPS.

Tu avais raison, Carmen.

Elle voulait transformer tout le système judiciaire.

- Oui ? - Regarde ce que je t'ai envoyé.

C'est une puce GPS que portait Alicia.

Brais doit avoir la même.

Regarde si on y accède avec la même clé.

On a tous les déplacements de Brais.

Et ça, c'est sa position actuelle.

Là, on perd le signal.

Et ça, c'est tout son itinéraire.

D'où il venait ?

De cette forêt.

Et là, on le perd.

Comment il a atteint la mer ?

De nuit, en fourgonnette, sans phares.

C'est l'image satellite.

Envoie-moi son itinéraire et toi, rends-toi à la falaise.

Le signal vient de la mer, mais on a aucun plongeur dispo.

Comment ça ? Quand est-ce qu'ils viendront ?

Pas avant 48 h, et c'est même pas sûr.

Sergent, une équipe de télé est en chemin, je vous le dis.

Ecoute, Carmen, on a pas de plongeurs.

Fais-en une priorité, vois avec ton supérieur.

Carmen, tu es suspendue.

C'est tendu.

Je te dis qu'il y a un cadavre, là-dessous !

On en sait rien, ce n'est qu'un signal.

Ca va passer en direct à la télé, tu vas te ridiculiser.

A quelle profondeur était le signal ?

A 45 mètres.

Et si c'est pas lui ?

Bonsoir et bienvenue dans ce programme spécial.

Aujourd'hui a lieu la présentation de THENTE 2,

à 48 h du référendum décisif pour la société espagnole.

En direct avec nous, son nouveau président.

Alejandro Javel, bonsoir.

Merci beaucoup, Olalla, pour cette invitation.

Le public et la société espagnole nous écoutent.

Ils ont une décision importante à prendre.

Qu'aimerais-tu leur dire ?

On aimerait faire part aux citoyens

de notre inquiétude quant à l'état de la justice

en Espagne et dans le monde.

L'année dernière, en Espagne, il y a eu 1 million de plaintes

et seuls 60 % d'entre elles ont été traitées.

Pour l'année à venir, on en prévoit 1,2 million.

La justice humaine n'est pas réaliste.

Malheureusement, tout le monde n'est pas de cet avis.

C'est pour ça qu'on a invité une magistrate de renom.

Ces derniers jours, elle a fait l'objet d'une polémique.

Elle est avec nous. Voici Carmen Costa.

Bonsoir, Carmen, bienvenue.

- Merci d'être avec nous. - Merci à toi.

Le public te connaît sûrement bien.

Carmen est l'une des rares voix ouvertement opposées à la réforme.

- Evidemment, vous vous connaissez. - Oui.

Carmen a travaillé avec nous et je respecte son travail.

Mme la juge, il reste 48 h avant ce référendum décisif.

Il pourrait apporter des changements très importants à la constitution.

Pourquoi voter non ?

Voter en faveur de la justice algorithmique,

c'est remettre l'indépendance judiciaire

et l'un des pouvoirs de l'Etat à une multinationale.

Ce n'est pas du tout vrai.

THENTE libère le pouvoir judiciaire du contrôle politique.

C'est le chemin

et la vision que nous a donnée quelqu'un qu'on admire tous.

La créatrice de THENTE, Alicia Kovack.

Non, ce n'est pas la vision d'Alicia Kovack.

Quelle était sa vision ?

Son projet cherchait à renforcer la justice humaine grâce à l'IA

en soumettant son contrôle à des processus démocratiques.

C'est exactement l'inverse qui est proposé par THENTE, ici.

C'est ce qui l'a motivée à stopper la présentation.

Et c'est ce qui l'a tuée.

C'est son ex-mari qui l'a tuée pour récupérer l'entreprise.

C'est ce que dit la police.

Ecoutez, notre logiciel a été testé par des centaines de juges.

Il a été testé avec succès dans tous les tribunaux du pays.

Sa méthodologie et ses résultats sont tout à fait fiables,

comme plein de systèmes déjà en usage.

Par exemple,

si tu as recours à la médecine pour tomber enceinte

et qu'un système d'IA t'indique que tes chances sont très minces

et que si tu essaies, tu mets en risque ta santé,

tu suivrais la recommandation du système, non ?

Ce n'est pas une décision qui revient à une machine.

Non, bien sûr.

Mais tu suivrais sa recommandation ?

Si je la suivais, je le regretterais.

Tu te fierais...

Excusez-moi, je dois vous couper.

Nous avons une nouvelle de dernière minute

concernant l'affaire Brais Lago,

l'ex-président de THENTE, dans le cadre de l'enquête.

La police a mis en place un dispositif, il y a environ 1 h.

Une équipe de plongeurs

est à la recherche d'un corps.

Le corps vient d'être repêché.

A première vue,

il s'agit du cadavre de Brais Lago.

L'ex-président de THENTE était recherché

pour son lien avec l'accident

qui a donné la mort à Alicia Kovack.

C'est correct, M. Javel ?

Oui.

Brais Lago a tué Alicia pour récupérer son entreprise.

On a retrouvé des preuves, c'est pour ça qu'il s'est enfui.

Brais n'a tué personne.

Les preuves sont fausses et on l'a fait disparaître.

On sait maintenant où il est.

Et on sait où tu es, toi.

Qu'est-ce que tu insinues ?

Qu'est-ce que tu veux dire ?

Tu viens d'être suspendue pour avoir libéré un criminel

et tu as l'audace de m'accuser de meurtre ?

Fais attention, Carmen.

Ce n'est pas moi qui vais te juger.

Je veux m'assurer que tu auras droit à un procès équitable.

Nous allons devoir vous laisser.

Merci beaucoup à vous deux, Carmen, Alejandro,

d'avoir été en direct avec nous.

C'est vous qui avez désormais le dernier mot.

Il faudra voter au référendum dans 48 heures.

Adaptation : Mélissa Mlocik

Sous-titrage : VDM