De Taïwan aux Etats-Unis, comment les intelligences artificielles bouleversent le débat démocratique ?

Le deuxième, c'est maintenant, vous avez Elon Musk.
Elon Musk, lui, carrément, il a fait ce que Bolloré pourrait faire en France
s'il avait plus d'argent, c'est racheter un réseau social.
Parce qu'aujourd'hui, nous, Bolloré, il ne fait que racheter un média.
Ça, c'est le truc d'il y a 20 ans, pour avoir du pouvoir.
Aujourd'hui, si tu veux vraiment avoir du pouvoir, tu rachètes le réseau social.
Non, mais c'est vraiment ça, c'est qu'en fait, l'information aujourd'hui,
la source de l'information est désormais plus dans les réseaux sociaux que dans les médias.
Parce que que font les médias traditionnels ?
Ils reprennent ce qui a marché sur les réseaux sociaux.
Et c'est pour ça que tous les plateaux télé sont à la recherche de la petite punchline,
parce qu'ils savent que c'est cette punchline qui va être reprise après sur les réseaux sociaux,
qui va faire après connaître l'émission.
Pourquoi, d'après vous, les journalistes sont addicts à Twitter ?
Parce que Twitter leur permet d'avoir une sorte de boule de cristal journalistique
parce qu'ils font des tweets avec des certains angles de vue,
des certains points de vue.
Et en fait, en fonction de ce qui a percé sur Twitter,
ils savent si cet angle, cette perspective, va marcher ou pas après dans leurs médias.
C'est hyper bien.
Et donc, là, vous avez...
Donc ça, c'est un truc qui a été fait par Bloomberg,
qui a passé en revue tous les tweets d'Elon Musk depuis 2020 à 2024.
Et on voit une sorte de tendance qu'il y a depuis 2020.
Donc, en gros, les deux lignes-là, c'est la proportion.
Donc là, en gros, à l'horizontale, vous avez les années.
Bon, en 2020, 2021 jusqu'à 2024.
Et en vertical, c'est la proportion de ces tweets cette année-là
qui est affiliée à un sujet précis.
Donc, par exemple, en 2020, il ne parlait pas du tout d'immigration et de fraude électorale.
0% de ces tweets étaient sur ça.
Et il parlait, en gros, 20% de Tesla et 22% de SpaceX et de Starlink.
Et on voit que ces quatre dernières années, ces deux sujets-là ont baissé.
Et il a, en 2024, publié pas moins de 6-7% consacrés juste à l'immigration et à la fraude électorale.
Plus 7% consacrés aux élections aux US.
OK ?
Et sachant qu'il s'est fait attraper la main dans le sac,
parce qu'à un moment, il a été vexé.
Parce que sur un sujet, je ne sais plus, c'était un truc ridicule.
C'était un match de baseball.
Et apparemment, il aurait été vexé
que Joe Biden ait fait un tweet aussi sur le même événement
et eu plus de retweets que lui.
Plus de visibilité.
Et du coup, il a dit aux ingénieurs, il y a un bug, ce n'est pas normal.
Et en fait, il n'a pas volontairement manipulé l'algorithme,
il a juste tellement mis la pression à ses ingénieurs
que les ingénieurs ont au moins pendant un temps
codé dans le dur le fait que les tweets d'Elon Musk
avaient un statut particulier
et devaient être plus amplifiés.
Parce qu'ils en avaient un petit peu marre
de prendre des savons de l'espace par Elon Musk.
Ouais, ouais, c'est un papier sérieux.
Après, oui, oui, c'est un papier sérieux.
Je te mettrai la source, mais oui, oui.
Mais ça, enfin, ouais, ça a été pas mal repris.
Oui, oui.
On a eu, alors je crois que si je ne me trompe pas,
c'est l'info, elle vient d'une partie des ingénieurs
qui ont pris le savon.
Sachant que forcément,
les clauses de non-divigulation,
une fois que tu es viré...
Alors, oui, le second là,
et ça, c'est pareil,
mais c'est avec le pourcentage de repostes.
C'est-à-dire, en fait, là,
ce n'est pas le nombre de ces postes,
c'est à quel point chaque sujet qu'il a abordé
a généré, quelque part,
une réaction et de la visibilité par l'algorithme.
Donc, en gros, si vous voulez,
ça, ça veut dire quelque chose de très triste,
c'est que, quelque part,
on s'intéresse plus aux fraudes électorales
et à l'immigration
qu'à la voiture électrique et qu'à SpaceX.
C'est-à-dire qu'en fait,
petit à petit, ce qui s'est passé,
c'est qu'il y avait de moins en moins
de ces repostes
qui étaient attribués
à des thèmes un peu classiques
et une grosse partie de sa visibilité
venait plutôt de ces nouveaux thèmes.
Et là, moi, c'est une thématique
que j'aime beaucoup aborder.
On peut se demander
quel a le rôle
des algorithmes de recommandation
sur les prises de position publique des gens.
Parce qu'en gros,
il y a un truc très vicieux
quand vous créez du contenu sur Internet,
c'est que vous parlez du sujet A,
vous avez 3 likes.
Vous parlez du sujet B,
vous avez 3 likes.
Vous parlez du sujet C,
vous avez 42 likes.
Quel sera votre sujet D ?
Si vous n'avez pas une boussole morale
ou technique extrêmement ancrée,
vous allez parler de C.
C1, C2, C3.
Et en fait, par cette mécanique-là,
vous allez vous retrouver
quelque part coincé
dans ce qui résonne
avec votre audience
ou ce que l'algorithme fait résonner.
Et ça, c'est vraiment hyper dur.
On le sent.
Moi, je le sens très fort.
Il y a des sujets,
tu sais que ça va marcher,
donc tu dis
est-ce que j'y vais,
est-ce que j'y vais pas,
j'y vais pas.
Bon, moi, j'y vais jamais,
c'est pour ça que je suis absolument...
Ça marche pas.
Mais tu sais comment ça pourrait marcher.
Et quelque part,
moi, je me demande vraiment
à quel point c'est Musk
qui oriente et qui manipule l'algo
et à quel point c'est l'algo
qui, quelque part, manipule Musk.
Je pense que c'est une boucle de rétroaction
qui va effectivement dans les deux sens.
Enfin, quand une boucle de rétroaction,
ça va souvent dans les deux sens, d'ailleurs.
Ça boucle.
Mais ça, c'est vraiment intéressant
de se poser la question.
Et après, c'est marrant
quand tu parles à des créatrices
ou des créateurs de contenu,
tout le monde te dit
ah non, moi, je m'en fiche
de l'algorithme de recommandation,
je regarde pas.
C'est ça.
Personne s'en fiche.
Personne s'en fiche.
On a tous un égo.
Quand tu passes 20 heures
à faire un article ou une vidéo,
t'as deux likes, t'es dégoûté.
Point.
C'est normal.
En fait, il y a vraiment ce truc
où il y a un énorme pouvoir
cet algo de recommandation.
Donc ça, c'est ce que je voulais vous dire
vraiment sur le côté
manipulation, pour le coup, politique.
Et juste, pour arriver
et pas conclure,
mais commencer quand même à...
Moi, ma vision, c'est celle-là.
Un biais cognitif,
la définition, c'est...
Déjà, le biais cognitif,
c'est pas un super terme.
On aurait plutôt parlé
de raccourci de la pensée.
Parce qu'en fait,
un biais cognitif,
c'est juste une manière
de sélectionner l'information.
Parce qu'autour de vous,
autour de nous,
il y a trop d'informations.
Je ne peux pas tout processer.
Je suis obligé de trier
et de prioriser l'information.
En l'occurrence, là,
j'ai beau être très intéressé
par la conférence,
si j'entends un rugissement derrière,
je vais vous oublier
et je vais prioriser
cette information derrière moi.
Parce qu'elle est plus importante.
et du coup,
on les appelle biais cognitifs,
mais ce n'est pas bon
parce qu'en fait,
souvent,
ces biais,
ils sont très, très pertinents.
Ce truc de regarder derrière moi
le loup,
c'est plutôt bon pour ma survie.
Les gens qui n'ont pas fait ça
sont morts.
Et donc,
leur manière de ne pas avoir
des biais cognitifs
a disparu.
Et en fait,
du coup,
c'est plutôt des raccourcis
de la pensée.
ça priorise l'information
qui est importante.
Que font les algos
de recommandation aujourd'hui ?
Ils font un peu la même chose.
En fait,
parmi toute l'information
qu'il y a sur le web,
c'est eux qui sélectionnent
ce qui mérite
de toucher les individus humains.
Seulement,
si les biais cognitifs
ont tendance à vouloir
mettre en avant
les infos importantes,
les algos de recommandation,
pas du tout.
Donc en fait,
l'embêtant,
c'est qu'on a des biais cognitifs
à l'échelle de l'humanité
qui ne sont pas du tout fonctionnels.
C'est-à-dire que
si on pense que
le changement climatique,
c'est un sujet,
on voudrait que
les algos de recommandation
mettent en avant
une information
pour susciter
de l'action climatique.
Ça n'est pas ce qu'ils font.
Donc là, en fait,
on a une situation terrible
où, en gros,
si un individu avait
les mêmes biais cognitifs
que nos algos de recommandation,
ça donnerait un individu
qui,
quand il y a des loups
qui arrivent derrière lui,
se dit
je vais plutôt me couper les bras
et je regarde ailleurs
et ça va bien se passer.
Au moment même
où il faudrait
quelque part
que les démocraties
fonctionnent mieux,
les démocraties
s'écroulent
et du coup,
on perd notre
quelque part
meilleur outil
d'arriver peut-être
à avancer
sur des sujets
internationaux
comme le changement climatique.
Du coup,
c'est problématique.
Donc voilà,
si nos biais cognitifs
fonctionnaient
comme nos algos
de recommandation,
ça ne se passerait
pas très bien.
Et du coup,
un magnifique gif
pour dire
grande question
que je vous pose.
Si les algos
de recommandation,
on ne les indexe pas
sur la quantité
de temps passé
par les gens,
sur quoi,
d'après vous,
ou on les indexe ?
Le nombre de vues,
c'est un peu
une autre manière
de dire
le temps passé finalement.
Le pouce bleu ?
Le pouce bleu,
ça serait de dire
effectivement,
du coup,
tu l'indexerais
sur une sorte
d'appréciation
à long terme
des gens.
C'est-à-dire,
les gens disent
« J'ai pris le temps
de dire ça,
j'aimais bien. »
Mais ça,
en fait,
c'est quelque part...
Effectivement,
tu pourrais faire ça,
tu pourrais faire
les pouces bleus,
tu pourrais aussi
faire le nombre
de commentaires.
Tu peux dire
« J'ai laissé un commentaire,
ça veut dire
que j'aime bien,
etc. »
Mais si tu veux,
d'après toi,
l'embêtant,
c'est que
la métrique derrière
que tu cherches,
elle est économiquement...
Comment tu justifierais
le fait de dire
« Non mais nous,
on a mis en avant
les contenus
qui ont plein
de pouces bleus ? »
Parce que
ça n'a aucun
intérêt économique.
Parce que
si moi,
je vais voir des vidéos
et je mets des pouces bleus
partout sans les regarder,
il va mettre en avant ça.
Pourquoi ?
En fait,
c'est une question,
c'est de dire
l'algo de recommandation,
il optimise quelque chose.
Je vais laisser
parce que
sinon,
désolé,
ça bouge
et moi,
je ne le vois pas.
En fait,
la question
que je trouve
moins vertigineuse,
c'est de se dire
qu'on a une métrique
aujourd'hui
qui économiquement
et techniquement
est hyper efficace.
C'est hyper efficace
de dire
qu'on fait un algorithme
qui extrait
le plus de temps
d'attention des gens.
Et si
on veut avoir
un algorithme,
par exemple,
moi,
je dis,
il faut un algorithme
qui ne détruise pas
les démocraties
ou qui les favorise.
Comment tu choisis ?
Qui c'est qui décide ?
Ce que je veux dire,
c'est qui c'est qui décide ?
On va plutôt regarder
des trucs sur le climat.
Vous,
vous allez décider,
on va plutôt regarder
des trucs sur la BM de Lyon
parce que la BM de Lyon,
c'est quand même un truc
vraiment important
pour le monde entier.
On va pousser des contenus
de la BM de Lyon.
Pourquoi pas ?
Et moi,
je vais dire,
le skateboard,
c'est quand même
un truc sociétalement,
c'est génial,
etc.
Comment on voulait faire ?
Et donc,
c'est une question
quand même vertigineuse
qui est de dire,
personne n'a réfléchi
à une autre métrique
que juste la capacité
qu'a l'algorithme
à extraire du temps.
Et donc,
du coup,
c'est vraiment ça
qui est un sujet politique
aujourd'hui énorme.
C'est que
il y a une première étape,
c'est de dire,
OK,
on va réguler
les algorithmes
de manière
quelque part négative.
C'est-à-dire,
on va leur dire,
il y a des choses
qui sont interdites
de faire,
qui est une question
assez facile.
Et dans le livre,
on développe,
dans le livre,
on a une partie
qui n'est que sur ça,
donc enquête
du démocratie algorithmique.
Parce qu'effectivement,
la peur,
c'est de dire,
on va tomber
sur l'ORTF
de l'algorithme,
en fait.
C'est-à-dire qu'il va y avoir
une sorte de ministère
de la recommandation algorithmique
qui va dire,
on va recommander
tel type de contenu.
Ce n'est pas hyper satisfaisant.
L'ORTF,
pour ceux qui...
C'est le ministère
de l'information
des années 50-60.
Enfin,
pas le ministère,
mais c'est la chaîne
de télé publique
où, effectivement,
l'État disait,
il faut ce genre de programme.
Donc voilà,
c'est quelque chose
qui est questionnable.
Et du coup,
les deux premières recommandations
qui sont plutôt
du coup en négatif,
c'est de dire,
déjà,
on pourrait faire,
il faudrait qu'il y ait
une sorte de présomption
de non-conformité.
Quand vous arrivez,
vous trouvez une nouvelle pilule,
un nouveau médicament.
L'Europe ne vous dit pas
« Ah, nouveau médicament ? »
Le marché est à vous.
Vous devez prouver
que votre médicament
répond à certains critères
et ne va pas causer
une épidémie massive
de dépression ou de suicide.
Même avec ça,
on a quand même des problèmes
parce qu'il y a
les lobbies,
etc.
Donc là,
il y a plein de scandales
sur des médicaments
qui ont eu le droit
d'être mis sur le marché
et qui potentiellement
sont dangereux.
Mais on a quand même
des régulations.
Vous ne faites pas ce que vous voulez.
Quand vous mettez un avion
sur le marché,
c'est pareil.
Vous ne dites pas
« Mon avion,
il marche bien.
Regardez,
je le vends.
C'est très bien. »
Vous devez prouver
à l'Europe
ou au système
qui légifère
que c'est inoffensif.
Aujourd'hui,
pour les algos
de recommandations,
pas du tout.
Aujourd'hui,
vous avez eu GPT
qui est un modèle
de langage.
Pareil,
on lui a dit
« Allez-y,
testez votre modèle de langage
sur l'humanité.
Et on verra bien
ce que ça donne. »
Surprise, surprise,
ça ne donne pas
que des trucs génial.
Mais il n'y a pas
de régulation,
c'est incroyable.
Donc ça,
c'est le premier truc,
c'est qu'on devrait
arrêter
avec cette présomption
de conformité
de toutes ces
disinnovations technologiques.
Et ça,
on ne va pas rentrer
dans les détails,
mais par exemple,
moi,
je trouve ça scandaleux
voir que
criminel
qu'aujourd'hui,
quand on veut demander
et avoir l'avis
d'un expert
sur quelles sont
les conséquences
de l'intelligence artificielle
sur la société,
on invite Yann Lequin,
directeur de la recherche
de méta,
pour nous donner son avis
sur ce qu'il pense
des effets négatifs
ou positifs de l'IA.
Mais c'est leur produit.
S'il ne pensait pas
que c'est inoffensif,
il ne serait pas là.
Ça ne veut pas dire
qu'il ne pense pas sincèrement.
Attention,
c'est ça qui est marrant.
Il pense sincèrement.
Mais sauf que
s'il ne pensait pas sincèrement
que c'était positif,
il ne serait pas directeur
de la recherche de méta.
Donc ça,
c'est le premier truc
dont on parle, nous.
La seconde,
c'est un principe assez simple,
c'est la présomption
de non-recommandabilité.
Il y a un problème
dans le débat aujourd'hui,
et d'ailleurs,
Musk s'en est emparé
vraiment, vraiment beaucoup.
On confond,
et Musk fait semblant
de nous confondre,
parce qu'en vrai,
il a tout à fait
les connaissances
de savoir que c'est différent,
entre la liberté d'expression
et le droit
à l'amplification.
La liberté d'expression,
c'est ma liberté à moi
de dire sur mon blog
des trucs qui sont
bien ou pas bien,
etc.
Donc déjà,
c'est limité
parce que je ne peux pas
dire des horreurs,
mais effectivement,
j'ai la liberté
de dire plus ou moins
ce que je veux
dans un certain cadre.
Mais ça,
ça ne veut pas dire
qu'on doit donner
le droit
à des entreprises
d'amplifier absolument
le contenu qu'elles veulent,
parce qu'on peut
tout à fait créer
une guerre civile
en amplifiant
des données
à certaines personnes,
mais potentiellement
des données
tout à fait vraies.
Vous allez voir
le fil d'actualité
d'un truc comme par exemple
valeur actuelle,
vous allez avoir
tous les faits divers
véridiques
qui ont été faits
par des gens
comme par hasard
pakistanais.
Ça ne veut pas dire
que ça n'a pas eu lieu,
mais ça veut dire
que si tu ne fais que ça,
de montrer que ça,
il y a un biais de sélection
énorme qui va avoir
tendance à générer
quelque chose
chez certaines personnes.
Et donc,
vous pouvez très bien
créer des énormes problèmes,
des énormes conflits,
une énorme polarisation
qu'avec une certaine sélection
de certaines nouvelles.
Et cette amplification
ciblée,
quelque part,
ça ne vient pas
naturellement.
Et donc,
la présomption
de non-recommandabilité,
ça serait de dire
en fait,
mettons que
je m'appelle Elon Musk,
que j'ai 200 millions
d'abonnés,
on va appliquer
pour le coup
un peu le même truc
dont on parlait
avec Kim Kardashian,
c'est que je fais un poste,
par défaut,
mettons,
il y a
un nombre
humain
de personnes
qui vont le voir,
donc mettons 500.
Et en fait,
si l'algo
détecte
que
suivant la règle,
la règle
qu'on lui a implémentée,
il devrait le recommander
beaucoup plus massivement,
là,
il faudrait
qu'il y ait une vérification.
c'est-à-dire que
de base,
on estime
le contenu
n'est pas
par défaut
recommandable.
Pour passer
ce truc-là
de recommandable
à une plus grande échelle,
il faut passer
à un certain
épreuve,
un certain filtre,
une certaine vérification.
Après,
on peut discuter
d'où c'est
qu'on met
les trucs
et comment on valifie.
Mais en tout cas,
le concept,
c'est ça,
c'est vraiment
la présomption
de non-recommandabilité
par défaut.
Est-ce qu'il n'y a pas
déjà ça
sur YouTube
avec
une limite
à 300 vues ?
Quelque chose
comme ça
sur YouTube
où le nombre
de vues
s'arrête à 300
avant qu'il y ait
une vérification ?
Pour le coup,
je...
Tu ne serais pas
au courant ?
Je ne serais pas
au courant.
Le truc des 300
vues de YouTube,
non ?
Ça ne me dit
rien du tout.
OK.
Je regarderais.
Pour moi,
ça n'existe pas
du tout encore.
J'ai difficilement
atteint ce genre
de chiffres
et je n'ai jamais
eu vent
d'une vérification.
Il me semble
que ce seuil
de 300 vues,
en fait,
il ne vérifie pas
le contenu,
il ne vérifie pas
la vidéo,
il vérifie en fait
les viewers.
Il vérifie que
les gens qui ont
regardé la vidéo,
ce n'est pas des robots
pour savoir
s'ils peuvent ensuite
la recommander.
carrément,
ça,
ça me dit
plus quelque chose.
C'est effectivement,
mais du coup,
ce n'est pas pour vérifier
que c'est recommandable
et diffusable,
c'est juste pour dire
est-ce que c'est
des vraies personnes
ou alors là,
on a affaire
à quelqu'un
qui a créé des bots
pour regarder.
c'est pour que les réactions
et pour le coup,
les amplifications
soient organiques
et ne soient pas manipulées.
Et après,
du coup,
dernière chose
dont je voulais vous parler,
c'est est-ce qu'il existe,
et là,
c'est la question difficile,
des manières alternatives
de recommander.
Des choses
qui nous permettraient
potentiellement
de vivre
dans une réalité partagée.
Je vais parler
de deux choses,
une dans laquelle
je suis impliqué
et une autre
qui a fait ses preuves
sur un autre sujet.
Donc la première,
c'est Tournesol.
Donc Tournesol,
c'est une plateforme,
et en gros,
c'est de la recherche-action.
C'est-à-dire qu'on se pose
la question
de comment on pourrait
recommander
et créer une boussole
différente
pour recommander du contenu.
Et donc nous,
la direction
dans laquelle on cherche,
c'est le fait de dire
plutôt que de faire appel
au côté instinctif
et court-termiste
de tout le monde
pour décider
de ce qui va être recommandé,
on va plutôt faire le contraire.
On va essayer
de solliciter
et demander aux gens
qui prennent le temps
de dire
qu'est-ce qu'ils voudraient
recommander
sur le long terme
et essayer de faire émerger
de ces avis-là
une sorte
d'intérêt général,
mais pas mon intérêt général
ni votre intérêt général
et surtout pas
l'intérêt général
d'Elon Musk,
mais ce qui émergerait
de ce que nous,
on pense être
l'intérêt général.
Et là,
ça fait vraiment partie
d'une école philosophique
qui serait...
Il n'y a pas de bonne morale,
mais il n'y a qu'une manière,
une manière collective
de construire une morale.
C'est-à-dire,
voilà,
donc c'est la bonne morale,
c'est la morale
qui émane
d'un bon processus
démocratique
de décision.
Donc vous pouvez aller voir,
ça s'appelle
tournesol.app.
C'est loin d'être parfait.
Si vous avez un petit peu
de clairvoyance politique,
vous allez vite vous apercevoir
que la plateforme
est quand même
très ancrée
geek de gauche.
Je le fais caricaturellement,
mais c'est vraiment ça.
Et ce n'est pas un but en soi.
C'est-à-dire que moi,
par exemple,
personnellement,
ça ne me satisfait pas du tout
que ce soit quelque chose
de aussi geek de gauche
parce que le but,
c'est plutôt
que ce soit un outil
qui ne soit pas forcément
identifiable geek de gauche
parce que j'ai très peur
que quelqu'un
qui en est marre
des gens de gauche
et qui ait voté pour Trump
ne vienne pas
et du coup,
ça perd tout son intérêt.
Mais en tout cas,
pour l'instant,
c'est ça.
Et ça nous émeut assez peu
pour l'instant
que ce soit aussi peu diversifié
parce que déjà,
nous,
c'est vraiment
de la recherche-action.
Donc le but,
c'est de voir
comment on fait ça,
quelles sont les meilleures manières
d'accumuler
et d'agréger
toutes les opinions des gens.
Par exemple,
du coup,
c'est à base de curseurs
dont là,
vous avez deux vidéos différentes
et vous allez juger
laquelle vous devriez
le plus recommander.
Donc c'est que des jugements
par comparaison
parce qu'en fait,
les jugements par comparaison
sont plus robustes
que les jugements
dans l'absolu.
C'est très dur
de dire dans l'absolu
cette vidéo.
Est-ce qu'elle fait
8, 9, 10 ?
Ce que tu as regardé
hier, avant-hier,
il y a un an.
L'échelle,
elle est différente
alors que si tu compares,
en fait,
en accumulant des comparaisons,
tu fais un classement
qui est plus solide
que si on vous demande
juste...
L'exemple pour ça,
c'est de dire,
là,
vous me demandez
de classer tous les gens ici
par ordre croissant de taille.
Je vais avoir
beaucoup plus de difficultés
que si en fait,
vous me donnez des paires
et je dis plus grand,
plus petit,
plus grand,
plus petit.
Je ne vais jamais me tromper
sur le plus grand,
plus petit.
En fait,
quand tu vas ajouter
tous mes jugements
de plus grand,
plus petit,
tu vas pouvoir faire
une échelle très robuste
du plus grand
au plus petit de la salle.
Alors que si là,
j'essaye de le faire
en manière absolue,
je n'y arriverai jamais.
Donc là,
c'est pareil.
Donc on fait ça
et en fait,
on s'aperçoit
qu'il y a beaucoup de choses
qui sont compliquées
et le but,
c'est essayer
de créer quelque chose
qui soit fonctionnel
et pertinent
et pour l'instant,
pour avancer,
on n'a même pas besoin
de beaucoup plus de diversité,
même si dans l'idéal,
la plateforme,
elle sera un succès
que quand ce genre
d'algorithme
sera diffusé
à une échelle plus grande.
Alors,
pour répondre
à une opposition
que vous allez peut-être
me faire,
mais le PDG de TikTok
a un grand argument
contre Tournesol.
Il dit,
non,
mais nous,
on le fait déjà en fait.
Parce que le PDG de TikTok,
qui est très très bon
en communication d'ailleurs,
hélas,
il dit dans cette conférence TED,
je ne sais pas pourquoi
on l'a invité
à avoir un micro là,
c'est comme Yann Lequin,
mais bon,
ça c'est une autre question.
Il dit,
en fait,
TikTok,
c'est la démocratie,
tout le monde vote
avec les pouces.
Et c'est vrai,
il a raison.
Quand vous regardez une vidéo,
quand vous likez,
quelque part,
vous votez,
vous donnez votre avis.
Vous savez que ça,
ça va être intégré
dans la logo de recommandation.
Donc d'après vous,
qu'est-ce qui fait la différence
entre une démocratie
et TikTok ?
Il y en a deux.
La première,
c'est qu'en fait,
pour qu'il y ait démocratie,
il faut savoir
comment va être pris en compte
votre vote.
Je sais que mon bulletin
vaut le vote,
qu'il va y avoir un ajout
et que la démocratie,
ça marche comme ça
et qu'à la fin,
si on est en France,
c'est le candidat
qui a le plus de voix
qui gagne
et si on est aux Etats-Unis,
c'est un truc hyper complexe
avec des collèges,
etc.
et je sais
comment va être compté
mon vote.
Je sais.
C'est la transparence.
Et là,
les systèmes de recommandation
sont opaques
et vous ne savez pas
si trois likes,
ça vaut un commentaire,
ça vaut un swipe,
vous ne savez pas.
Et deuxième chose,
c'est que la démocratie
tente,
tant bien que mal,
de faire appel
à vos jugements long terme.
C'est pour ça
qu'il y a une petite trêve médiatique
le vendredi soir
et on vous dit
rentrez chez vous,
réfléchissez,
regardez les programmes,
pensez à l'intérêt
supérieur de la nation
et dimanche,
allez voter.
Mais il y a vraiment
ce temps de la réflexion
dans l'esprit.
Et Tournesol fait la même chose.
Tournesol tente
de dire
non mais votez pas instinctivement,
justement,
on a fait des curseurs
pour que ça soit plus lent,
donc plus difficile,
donc on fait plus appel
à la partie rationnelle
de nous-mêmes.
Donc c'est plutôt
celle-là
qui vote.
Alors que sur TikTok,
c'est le contrat.
Et pour reprendre,
nous,
avec Tournesol
ou avec la plateforme
dont je vais vous parler après,
on essaie
d'extraire
l'intelligence des foules
alors que TikTok
en extrait
la substantifique débilité.
Voilà.
Donc c'est ça la différence.
Donc ça,
c'est ce qu'on fait nous.
Et après,
je voulais juste vous dire
un mot.
Dans le marasme politique actuel,
honnêtement,
honnêtement,
je trouve que la seule source
d'espoir aujourd'hui,
c'est Taïwan.
Taïwan qui a eu,
du coup,
une révolution
qui s'appelle
la révolution des tournesols.
Rien à voir avec le nom
de la plateforme,
mais c'est un heureux hasard
dont je suis très content.
En gros,
il y a eu un élan
de protestation en 2014
parce qu'en gros,
la Chine,
ils allaient faire
une loi
qui rapprochait
Taïwan de la Chine.
et Taïwan savait très bien
qu'au vu de ce qui arrivait
à Hong Kong,
ce n'est pas une bonne idée
et qu'ils allaient finir
comme Hong Kong.
Donc,
il y a eu une révolution.
Ils ont envahi le Parlement.
C'était avec beaucoup de gens
qui étaient des activistes,
donc très proches
justement des logiciels
open source,
etc.,
et très proches
d'un logiciel
qui s'appelle
pol.is
qui a été conçu
au moment
de la révolution
en Égypte
de la place Tahir
et notamment
de la révolution
du mouvement
Occupy Wall Street
en 2011
où on s'est aperçu
que 5 000 personnes
en plein cagnard
qui font des signes
avec les mains,
ça ne marche pas.
C'est très bien.
Il y avait un élan
de protestation.
Il y a eu une nuit debout
aussi en France.
Il y a eu aussi
le mouvement
des Gilets jaunes.
Ces mouvements
sociaux spontanés,
ils expriment une colère,
ils expriment une frustration,
mais c'est extrêmement dur
de concrétiser
en action politique
derrière.
Ça ne veut pas dire
que ça ne délégitime pas
le mouvement.
ça veut juste dire
qu'à la fin,
on n'arrive
avec aucune sortie politique
ou moins de sorties politiques
qu'on voudrait
parce que c'est très très dur
de se mettre d'accord
sur le vif,
sur une place.
Et en fait,
il y a des gens
qui ont dit
« Ok,
est-ce qu'on ne pourrait
pas faire quelque chose ? »
ils ont créé une plateforme
qui est open source
qui s'appelle Police
où le but,
c'est d'essayer
de trouver dans une foule
de 100 personnes,
500,
10 000 personnes,
tous les points
de clivage
et tous les points
de consensus.
En fait,
ça cartographie
toutes les opinions
d'une foule
et ça arrive à trouver
même des consensus cachés.
Et du coup,
Taïwan a utilisé
la plateforme Police
et plein d'autres outils
numériques
et c'est quelque part
Taïwan la preuve
de concept
qu'une démocratie
et que le numérique
au service de la démocratie
c'est possible.
Parce qu'en gros,
c'est le seul pays
qui depuis 10 ans
a toutes les valeurs
démocratiques
qui sont devenues
meilleures
ces dernières années
alors que dans les autres pays
ça a tendance
à chuter.
Et je finis sur ça.
Il y a un exemple
en gros,
ça se ressemble à ça
la partie
alors là,
c'est en grec
parce que
non,
pas parce que je suis grec
mais parce qu'il y a eu
un exemple intéressant
je trouvais
que c'était sur Airbnb
en Grèce.
En fait,
le reste est en grec aussi
mais Google Translate
fait des miracles
mais comme l'autre
c'est une image
il n'a pas traduit l'image
mais en gros
ce qui est important
c'est plutôt le graphisme
de toute manière
en fait là,
c'est
la plateforme
fait émerger
deux groupes
très différents
donc vous avez
le groupe A
et le groupe B
vous voyez que
le groupe A
et le groupe B
quand B
sur ces trois propositions
ils votent contre
le groupe A
vote pour
on a vraiment un truc
où c'est clivant
et en fait
sur Airbnb
c'est facile
il y a les libéraux
et pas les libéraux
donc les gens qui disent
non mais Airbnb
c'est trop bien
il faut qu'ils fassent
ce qu'ils veulent
et les gens qui ne sont pas libéraux
qui sont
oui,
il faudrait quand même
des logements à long terme
pour les médecins
les enseignants
et les gens qui sont là
et avec le niveau
et le pouvoir d'achat
des touristes
il s'avère qu'à avoir
trop de Airbnb
ça fait que les gens
qui vivent sur le lieu
ne peuvent pas
se payer des logements
donc il y avait vraiment
ces deux populations là
et en fait
ce que la plateforme permet
donc ok
on n'est pas d'accord
et à la limite
on savait sur quoi
on n'était pas d'accord
mais ce que fait la plateforme
c'est qu'elle trouve
des propositions
sur lesquelles
tout le monde est d'accord
et donc avant
tout le monde était d'accord
pour baisser les impôts
des gens qui louaient
à destination
à long terme
des gens qui allaient habiter
sur place
même les gens
qui sont pour une dérégulation
d'Airbnb
ils disent ok
moi ça me va
de baisser les impôts
des gens qui mettent
à disposition
des logements à long terme
tout le monde a dit d'accord
par exemple
sur le fait
de faire payer
plus de charges locatives
au Airbnb
parce qu'ils sont plus responsables
de la dégradation
de l'immeuble
parce que les passages
etc
et en fait
c'est un truc
qui est vraiment
l'encontre
de ce qu'on fait aujourd'hui
c'est à dire qu'en fait
quand on est sur un sujet
hyper clivant
on n'avance pas
on n'arrive pas
à sortir une seule loi
une seule marge d'action
ou une seule action
du coup on est encore
plus clivé derrière
on a encore moins envie
d'avancer
on a encore moins envie
de trouver
des trucs
où on va avancer ensemble
alors que là
tu te dis juste
ok
on fait ça
et potentiellement
le fait d'arriver
à avancer
sur les trucs consensuels
ça engage dans l'action
et ça permet potentiellement
de résoudre des trucs
qui avant étaient
quelque part
inenvisageables
parce qu'on a commencé
à avancer
et ça voilà
c'est ce qu'ils font
à Taïwan
et c'est tout
ce que je voulais dire
aujourd'hui
désolé
j'ai un peu débordé
même voir beaucoup
je vous dis juste
merci beaucoup
alors si vous voulez
il y a ce livre
et je vous dis
surtout pas
de me suivre
sur les réseaux sociaux
après tout ce que je vous ai dit
ce n'est pas forcément
ça ne serait pas
hyper bienvenu
parce qu'en fait
il faut bien savoir
que quand vous abonnez
à quelqu'un
sur les réseaux sociaux
ce qui va se passer
c'est que vous allez voir
le pire du contenu
qui va produire
quelque part
parce qu'en gros
à chaque fois
qu'il va avoir un avis
un peu nuancé etc
l'algorithme de recommandation
ne va pas recommander
ce contenu là
alors que quand il va avoir
sa bonne punchline
un peu piquante
c'est là que vous allez voir
parce que vous ne voyez pas
tout le contenu
des gens auxquels
vous êtes abonné
je l'ai expliqué
donc vous pouvez vous abonner
à la newsletter
parce que là
il n'y a pas d'algorithme
de recommandation
c'est que vous la recevez
à chaque fois que je l'envoie
c'est à dire
à peu près tous les 6 mois
donc ne vous inquiétez pas
le spam
ça va
et pour les gens
qui n'aiment pas les QR codes
parce que ça arrive
vous pouvez aussi
écrire votre email là
et pour ceux qui veulent aussi
je peux envoyer
la présentation
qui n'est pas incroyable
mais où il y a
les sources en commentaire
si vous voulez en savoir plus
sur les sources
des choses que j'ai citées
ok
et donc du coup
quand vous allez avoir
la présentation
qui est un lien Google
on ne s'en extrait pas autant
aussi facilement
dans le champ de commentaires
il y a les ressources
donc voilà
merci beaucoup
de votre écoute
et je suis désolé
on n'aura pas les débats
sur le biocognitif
biologique
ou pas biologique
parce que la dame
est partie
mais voilà
si vous avez des questions
je serais vraiment ravi
d'y répondre
concernant ce que vous avez
abordé vers la fin
on va dire
si on n'aborde
que des questions clivantes
on ne se mettra pas d'accord
on va dire
sur le 1%
sur lequel
on pourrait tous être d'accord
est-ce que de manière
directe ou indirecte
volontaire ou involontaire
consciente ou inconsciente
est-ce que vous n'auriez pas
abordé le fameux truc
on va dire de Gramsci
le pessimisme de la pensée
l'optimisme de l'action
est-ce que c'est vers là
vous voulez en venir ou pas
c'est spontanément
ça à quoi ça m'a fait penser
alors
il y a
il y a
il y a
il y a
il y a
il y a
il y a
il y a beaucoup de
de
de
de débats sur
il y a des gens
qui disent
non mais la polarisation
c'est bien
la polarisation c'est nécessaire
et je ne suis pas forcément
contre ça
je pense qu'un certain
degré de polarisation
et de
de dissensus
sont sains
mais encore une fois
comme tout
c'est une question
d'équilibre
si tu n'as
que du dissensus
et que du clivage
ben moi j'ai envie de dire
ok si tu penses vraiment
et ça c'est vraiment un truc
aujourd'hui
c'est
si on pense aujourd'hui
vraiment qu'il y a
par exemple
30% de la population française
c'est des nazis
ok
j'achète
mais dans ce cas là
il faut prendre des armes
il y a moins
si tu arrives à un
si tu arrives à un
degré de dissensus
où tu estimes
que tu ne peux plus avancer
il faut faire quelque chose
parce que là
il faut être cohérent
et donc moi je pense que
je pense qu'on n'en est pas là
et je pense surtout
qu'il y a des choses
qui seraient très consensuelles
et du coup
ben
c'est peut-être intéressant
d'avancer sur ces choses là
parce que effectivement
le fait de faire des choses
et d'avancer
ça permet de
de gagner de l'énergie
pour résoudre
des choses plus difficiles
mais c'est pas en répétant
les choses difficiles
et insolubles
que tu vas les résoudre
ça fait me penser un peu
quand tu vas quelque part
qu'il y a quelqu'un
qui te parle d'une langue étrangère
que tu ne comprends pas
et qui répète
et qui espère que tout d'un coup
tu vas te dire
ah oui j'ai compris
sinon je ne parle pas japonais
donc c'est pas en répétant
20 fois le même mot
que je vais y arriver
et c'est pas en répétant
des clivages
que tu vas avancer dessus
la seule manière
c'est que nous tous
on ait l'énergie
et l'envie
de surmonter ces clivages
et ça je pense que
l'action sur des choses
consensuelles
ça peut permettre
de gagner cette énergie
ou alors le fait
d'imposer
sa vision
à la partie adverse
c'est
c'est
voilà
je ne vois pas
comment tu fais
autrement
je voulais une précision
vous avez cité
un auteur
Jonathan Wright
qui a regardé ces questions
les faits sur les adolescents
j'ai cherché sur internet
je n'ai pas trouvé son nom
je ne sais pas comment ça s'écrit
c'est pas facile
juste avec l'audio
si vous pouviez me pister un peu
Height
H-A-I-D-T
H-A-I-D-T
Height
et il a une newsletter
blog
qui s'appelle
Babel
B-A-B-E-L
et c'est vraiment
alors
c'est
c'est très scientifique
et il a fait notamment
un travail que je trouve remarquable
où il essaie de faire une revue
de la littérature
sur toutes les études
qui étudient
le lien entre
écran
et moi je préfère dire
réseaux sociaux
plateforme
parce qu'en fait
les écrans c'est pas grave
vous pouvez lire
Dostoyevsky
ça va pas
avoir d'impact
forcément négatif
sur votre vie
si vous lisez Dostoyevsky
sur une liseuse
ce qui est vraiment dangereux
c'est pas les écrans
en tant que tel
c'est vraiment
les mécaniques
qu'il y a derrière
les plateformes
pour nous faire rester
sur les écrans
le contenu YouTube
sera affiché
sur un tableau
Velleda
ça serait aussi dangereux
c'est vraiment
c'est la mécanique
et lui
il a fait une revue
de littérature
de tout ça
au moment
il prend toutes les études
il essaie de voir
combien de pourcentages
disent qu'il y a un lien
combien disent
qu'il y en a pas
pour vraiment
essayer d'avoir
quelque chose
le plus solide possible
sur ce sujet
qui est un sujet
encore très discuté
mais moi je fais partie
des gens qui pensent
qu'il y a un conflit
d'intérêts massifs
sur ces sujets là
où en fait
il y a deux problèmes
c'est que
l'argent
il est
notamment
c'est les plateformes
qui l'ont
la recherche par exemple
en intelligence artificielle
aujourd'hui
est massivement liée
au financement
venant des big tech
c'est toujours pareil
Google demande
aux gens
qui font des recherches
pour Google
d'avoir un ton positif
dans leur papier
ça c'est quand même bien
et ensuite
le deuxième problème
c'est que
qui a
toutes les données
qui nous permettraient
d'en savoir un petit peu plus
sur leur responsabilité
eux
c'est Facebook
qui a les données
qui permettraient aux chercheurs
de savoir
est-ce que dans tel ou tel
mouvement sociaux
ou dans telle catastrophe
il y a eu un impact
comme de par hasard
les grandes plateformes
ne donnent pas les données
qui nous permettraient
de connaître leurs responsabilités
donc voilà
sur ça
il y a un grand débat
et c'est bien
qu'il y ait des gens
comme Jonathan Haidt
qui essayent
du coup
de faire de la recherche
moi je pense
qu'on devrait avoir
une envie
de baisser le risque
et une
comment dire
risque de précaution
précaution de risque
voilà pardon
je suis fatigué
principe de précaution
un petit peu plus affûté
que ce qu'on fait en ce moment
genre le principe de précaution
par exemple
par rapport aux algorithmes
de recommandation
d'il y a 20 ans
on devrait quand même
commencer à
à l'avoir
au vu des éléments
qui s'ajoutent
et principe de précaution
quant aux dernières avancées
des modèles de langage
je pense qu'on ferait bien
de le développer un peu
alors la bonne nouvelle
c'est qu'on a encore
un quart d'heure
pour échanger
si vous avez
d'autres questions
alors moi
ma question
c'était sur
les intelligences artificielles
génératives
on en parle beaucoup
en ce moment
et on voit
par exemple sur Youtube
il y a des chaînes
qui sont entièrement
générées par
par IA
et donc à part
ces chaînes
qui pour l'instant
sont bénignes
est-ce que ça pourrait
avoir d'autres impacts
sur
tu as vu la dernière vidéo
de monsieur
voilà c'est ça
alors
première chose
c'est que
il y a
alors déjà
trois choses
première chose
c'est que je pense
qu'il y a
un flou artistique
et moi aussi
je rentre dans ce flou artistique
je pense que
ça fosse tout le débat
assez souvent
de parler d'intelligence artificielle
non pas
parce que
mais juste
je pense que
quand on dit
intelligence artificielle
il faudrait vraiment
avoir la rigueur
de se dire
en fait
ce qui compte
c'est pas
si c'est intelligent
ou pas intelligent
c'est que
en fait
ces choses là
donnent du pouvoir
c'est moi
un pouvoir
énorme
et on a déjà eu
plein de rigueur
l'imprimerie
donne un pouvoir
énorme à celui
qui possède
l'imprimerie
et on a déjà eu
des régulations
pour cadrer
ce pouvoir
qu'a donné
l'imprimerie
et en fait
un algo de recommandation
les algos de recommandation
ont donné un pouvoir
stratosphérique
aux plateformes
et en fait
à chaque fois
qu'il y a
un pouvoir
technologique
qui apparaît
derrière
s'il n'y a pas
de régulation
qui encadre
ce pouvoir
tu te retrouves
avec
des énormes problèmes
plus le pouvoir
est grand
plus les problèmes
sont grands
les algos de recommandation
sont un pouvoir
monumental
qui n'est toujours
pas régulé
et là effectivement
avec les intelligences
artificielles génératives
tu arrives avec
une autre forme
de pouvoir
qui n'est pas non plus
régulée
mais où les gens
qui font des intelligences
artificielles
ou ce pouvoir
génératif
pour ceux qui ne savent pas
les IA génératives
c'est tout ce qui est
production de texte
et d'image
par des intelligences
artificielles
ou par des algorithmes
ou des réseaux
de neurones
entraînés
et du coup
oui
il va y avoir
des conséquences
alors les conséquences
que je vois
moi
elles me semblent
moins pressées
que les algos
de recommandation
parce que les algos
de recommandation
c'est maintenant
c'est à dire que
en fait
pour prendre une image
ça ne me fait pas
très peur
qu'il y ait
beaucoup d'IA génératives
qui fassent
beaucoup de contenu
parce qu'en fait
du contenu
de merde
il y en a déjà
plein le web
et encore une fois
le problème
c'est pas
le contenu
de merde
le problème
c'est
qu'est-ce qu'on choisit
d'amplifier
donc là
moi ce que je te dis
c'est imagine
t'as un barrage
avec un lac
il est déjà
plein
ok
et les algos
de recommandation
c'est ça
qui filtre
ce qui va vraiment
alimenter la rivière
dans laquelle
on va tous boire
et moi
les IA génératives
en fait
elles me font moins peur
parce que ce qui me fait peur
c'est les robinets
c'est ce qui filtre
les algos de recommandation
en fait
que les IA génératives
elles participent
à mettre encore plus de merde
dans le lac
si tu veux
entre
ce qui pourrait se passer
c'est qu'elles comprennent
mieux l'algorithme
du coup
oui oui
et donc là
mais là du coup
tu viens dans une mécanique
qui est aussi avec l'algorithme
mais oui
effectivement
le problème de tout ça
et le
le problème de tout ça
c'est qu'effectivement
si elles comprennent plus
l'algorithme
du coup
elles ont plus de capacité
à arriver dans la rivière
donc le problème
il est bien au niveau
des filtres
et après le deuxième problème
des IA génératives
c'est qu'effectivement
on est dans quelque chose
où c'est hyper facile
de penser
qu'il y a un humain derrière
parce qu'en fait
on anthropomorphise
hyper facilement
parce que
effectivement
quand vous parlez
enfin tout le monde l'a fait
d'ailleurs
quand tu parles à GPT
ou à un modèle de langage
instinctivement
tu dis s'il te plaît
ou des trucs comme ça
parce que
la personne
elle répond
enfin la personne
moi même là
je viens de le faire
je dis la personne
c'est un modèle de langage
et donc du coup
ça c'est un risque
parce qu'en fait
pour le coup
ça vient
taper dans des parties
de notre cognition
et ça donne
un pouvoir
incommensurable
aux personnes
qui maîtrisent
ces modèles
et ça c'est
pour le coup
on entre dans l'inconnu
et c'est pour ça
qu'à mon avis
la mise en production
mondiale
de GPT
il y a
deux ans et demi
ou deux ans
c'est la plus grande
expérience sociologique
sauvage
que l'humanité
ait jamais tentée
on s'est dit
ah ben là
on va mettre un modèle
où personne n'est incapable
de faire la différence
entre ça et un humain
parce que
ça fait
six ou six mois
ou
ça fait quelques mois
que
ces modèles de langage
ont dépassé
le test de Turing
facilement
aucun moyen
de savoir
si c'est vraiment
un humain
derrière ou pas
ça pose des questions
effectivement
alors là
on est dans
la grande inconnue
mais bon
là on est dans
une période
où tout est inconnu
donc on devrait
s'habituer
merci
oui il y avait
une question là
bonsoir
bonsoir
je voulais savoir
s'il y avait
des études
qui ont été faites
sur les faux comptes
parce qu'on pourrait
imaginer
des personnes
mal intentionnées
ou bien intentionnées
qui
sur les faux comptes
qui
en fait
par exemple
il y a des personnes
physiques
biologiques
qui créeraient
des faux comptes
qui s'auto-alimenteraient
pour faire véhiculer
des messages
et capter d'autres personnes
est-ce que c'est quantifié
est-ce qu'il y a des études
à ce sujet
alors c'est
encore une fois
on est
on est un peu soumis
à ce que les grandes plateformes
veulent bien nous dire
de ça
parce que
mais c'est rigolo
Facebook a communiqué
sur le nombre de comptes
qu'il supprime
combien de comptes
a supprimé
Facebook
en 2020
ou 2021
combien de comptes
Facebook
ont été supprimés
en 2020
ou 2021
sur une année
quoi
7 milliards
7 milliards
1 milliard et demi
par trimestre
enfin plus d'1 milliard et demi
donc j'ai envie de te dire
oui
et d'ailleurs
moi c'est quelque chose
que je n'avais pas en tête
avant d'être à Tournesol
mais à Tournesol
les gens qu'il y a
derrière la plateforme
c'est vraiment des gens
qui sont notamment
dans la recherche
et notamment dans la recherche
en cybersécurité
et avant même
de se dire
on va extraire
l'intérêt général
de comparaison
leur gros réflexe
c'est de s'assurer
qu'un vote
appartient
et vient
d'une personne physique
parce qu'aujourd'hui
vous êtes incapables
sur Twitter
de savoir
si ce n'est pas
un LLM
qui a derrière Twitter
et c'était déjà
le cas avant
parce qu'avant
tu pouvais faire
des bots
et tu pouvais en créer
des milliers
et des millions
et ça a été d'ailleurs
un des arguments
principaux
de Elon Musk
pour dire
on va faire payer
l'accès à la plateforme
en faisant payer
l'accès à la plateforme
je fais en sorte
que les gens
qui veulent créer
des milliers de bots
pour pourrir
les recommandations
de la plateforme
doivent payer beaucoup
et donc du coup
selon lui
ça empêcherait
ce genre
en tout cas
ça augmenterait
le coût
de ce genre d'attaque
tu ne peux plus
juste créer
1000 comptes
sur Twitter
gratuitement
tu es obligé
de payer 1000 comptes
donc c'est l'argument
mais oui
ça existe
et c'est quelque chose
qui est phénomène
et c'est très important
et du coup
c'est un des arguments
par exemple
là du coup
j'en profite
pour dire un truc
qu'a fait Taïwan
et qui est vraiment
contre-intuitif
et moi je trouve
très intéressant
un gros argument
aujourd'hui
pour rendre accessible
le vote
et pour faciliter
c'est de faire
on va tous faire
du vote numérique
ok
moi je me disais
oui c'est une bonne idée
et en fait
quand tu t'intéresses
à ça
tout le monde te dit
non mais en fait
le vote numérique
c'est un nid à fraude
monumental
parce qu'il n'y a rien
de plus solide
aujourd'hui
que demander
que la personne
physiquement se déplace
parce que frauder
massivement
avec des gens physiques
c'est plus dur
et donc
ce qu'ils ont fait
à Taïwan
c'est qu'ils se sont dit
donc ils ont une solution
quelque part numérique
à ce dilemme de fraude
parce qu'ils sont
comme aux Etats-Unis
ils ont ces accusations
de fraude etc
et en fait
ce qu'ils ont fait
c'est qu'ils ont dit
à tout le monde
donc ils ont fait
un vote physique
parce qu'il faut
c'est le truc le plus safe
mais pour éviter
qu'il y ait des accusations
de vote
en disant
oui dans tel bureau
de vote
il y a eu une fraude
massive etc
ils ont demandé
à tous les citoyens
de filmer
et de streamer
tout le passage
dans le bureau de vote
parce que du coup
ce qu'ils veulent dire
si il y a à Hamon
une fraude
dans le bureau
numéro 28
à 22h30
il y a eu une fraude
mais t'as 8 vidéos
qui filment la scène
au même moment
et là
tu dis
non regardez
8 vidéos
il y en a un
qui était de la gauche
un de la droite
l'autre de l'extrême droite
l'autre de l'extrême gauche
et toutes les vidéos
disent la même chose
racontent la même histoire
et je trouve que
c'est assez intelligent
parce que ça montre
à quel point
sur tout ce genre
de thématiques
Taïwan
ils arrivent à faire
justement un usage
intelligent du numérique
et pas juste
se précipiter
la tête baissée
sur n'importe quelle innovation
en disant
ah c'est une innovation
ça va être génial
ils ont vraiment le truc
de se dire
comment on peut innover
au service de plus
de démocratie
et ça c'est parce que
vraiment la révolution
des tours au sol
il y avait une grosse base
de gens qui étaient
très hacktivistes
donc de hackers
et activistes
qui étaient à la base
de la révolution
des tours au sol
voilà
si vous avez d'autres questions
moi je suis encore là
alors en attendant
du coup
pour rebondir
sur ce que tu disais
sur la recherche
et l'accès aux données
il y a ce programme
politoscope
du CNRS
qui propose
d'installer
une extension
qui s'appelle
Horus
H-O-R-U-S
dont vous parlez
dans le livre
et du coup
peut-être
tu veux développer
aussi
pour expliquer
à quoi ça sert
en fait
c'est
tout ce genre
de
vous savez
c'est des plugins
et en fait
vous pouvez les installer
sur votre navigateur
et ça permet
de savoir
et de comprendre
un petit peu plus
comment les gens
arrivent
à naviguer
et savoir
ce que les gens
sur quoi on clique
comment la recommandation
est faite
et ça permet aussi
à des chercheurs
de savoir
qu'est-ce qui se passe
parce qu'en fait
si on n'a pas un plugin
on ne peut pas savoir
et d'ailleurs
c'est un des usages
de tournesol maintenant
on a un plugin
sur Youtube
d'ailleurs vous pouvez
l'installer
on a aussi un plugin
et alors vous avez
les recommandations
de tournesol qui arrivent
et un truc qu'on a eu
et que moi je ne me doutais pas
c'est qu'en fait
les chercheurs
ils sont intéressés
par les données
que tournesol
est capable
de collecter
sur comment les gens
cliquent sur le plugin
tournesol en fait
parce que quand tu cliques
sur Youtube
à part Youtube
personne ne sait
sur quoi on a cliqué
alors que s'il y a
un plugin
Horus
ou tournesol
le polytoscope
peut récolter
ces données là
et en faire des études
ou tournesol
et ça c'est intéressant
d'un point de vue
de recherche
on ne dépend pas
quelque part
de Youtube
pour avoir les données
d'utilisation
à partir du moment
où les gens
ont cliqué
dans le plugin
vous voyez comment ça
à quoi
si on veut voir
comment ça
alors j'ai pas installé
Polytoscope
je suis désolé
mais par contre
si on va sur Youtube
si je me trompe pas
ah attendez
ah si c'est bon
ouais
vous blâmerez
le wifi
de la bibliothèque
municipale
ah ben voilà
c'est carrément
c'est même pas
je crois
c'est moi qui m'a fait
la manip
je crois
mais je vais partager
et ça c'est
et d'ailleurs
ça me permet de
ça me permet de vous montrer
aussi un autre truc
qui est intéressant
et qui est en lien
avec ce travail
de recherche
voilà
ah ben d'ailleurs
il y a la vidéo
dont tu parlais
donc voilà
ça c'est le plugin
tournesol
c'est celui
qui est dans le cadre
jaune là
donc en fait
ça c'est pas une
recommandation
de Youtube
c'est une recommandation
du plugin
voilà c'est ça
en fait c'est
le plugin
va chercher
dans les recommandations
de tournesol
et vous les affiche
dans votre page d'accueil
et donc
c'est ça
les recommandations
alors que les recommandations
de Youtube
c'est
c'est plutôt
les quatre du bas
et qu'est-ce que
je voulais dire
ah oui
dans ces trucs
de recherche
il y a aussi
par exemple
une recherche
qui est assez rigolote
qui s'appelle
la morale machine
et ça c'est une recherche
qui a été faite
par
pour essayer
de voir
si on devait créer
une intelligence
artificielle
qui
qui
en français
c'est là
qui conduit
quelle morale
il faudrait
qu'elle applique
ça c'est des vraies questions
c'est pareil que les algos
de recommandations
c'est à un moment
plus il va y avoir
de pouvoir
et d'autonomie
qui va être laissé
à des algorithmes
de recommandation
ou des algorithmes
de conduite
la question elle est
qui décide
qui décide
des données
sur lesquelles
vont être entraînés
ces algorithmes
parce que le jour
où
la voiture
elle est en face
d'un dilemme
elle écrase
deux chats
ou un humain
elle fait quoi
alors moi je suis pas
particulièrement
antispéciste
donc là pour le coup
le choix est facile
mais la question
se pose
et ça c'est un truc
qui a été fait
il y a quelques années
qui est hyper intéressant
au point de vue recherche
c'est qu'ils se sont
juste dit
comment je
qu'est-ce que pensent
les gens
et on en parlait
à midi
à Mélanie
il y a ce truc de
en fonction des cultures
on fait pas les mêmes choses
en fait on s'est aperçu
c'était pas une surprise
mais on a vu ça
dans la recherche
en fait ils ont vu
les papiers sont vraiment
enfin tout est super bien
et c'est rigolo
parce que vous pouvez voir
aussi votre moral
vous pouvez faire le test vous
et en fait au bout d'un moment
émerge votre moral
et vous vous rendez compte
que vous avez tendance
à plutôt choisir
tel ou tel type de personne
alors il n'y a pas
beaucoup de profils
mais vous voyez là
il y a des sportifs
il y a des gens
des femmes enceintes
etc
après il y a des bandits
il y a des gens
qui sont des métiers
de la santé
il y a des gens
qui traversent au rouge
il y a des gens
qui traversent au vert
donc est-ce que
vous écrasez plus facilement
les gens qui contrevenaient
déjà aux règles
etc
c'est assez rigolo
et ce genre de recherche
c'est un peu ça
ça permet
à des chercheurs
et des chercheuses
de collecter de la donnée
pour essayer
quelque part
de comprendre
comment mieux
entraîner des algorithmes
et comment
comment
alors ça dépend
parce que
ça peut être pour mieux
refourguer plein de données
à des gens
et ça peut être aussi
pour faire des choses
plutôt bonnes
dans la vente
mais pour le coup
c'est pas que de la recherche
puisque BMW
fait ce type de test
pour sortir
ses voitures autonomes
et donc
à titre d'exemple
l'Inde par exemple
est beaucoup plus
incline
à mettre en place
de la voiture autonome
que la France
ou l'Allemagne
qui eux
sont
les gens
qui ont participé
aux tests
étaient beaucoup plus
réfractaires
justement
à être confrontés
à ces dilemmes
et donc ne voulant pas
être confrontés
à ces dilemmes
ils préfèrent avoir
moins d'autonomie
dans les voitures
alors qu'en Inde
non
c'est pas grave
et donc voilà
c'est assez intéressant
mais en fait
encore une fois
je pense que
c'est pour ça
que quand on parle
d'intelligence artificielle
c'est hyper instructif
de revenir
en disant juste
c'est un pouvoir
la question c'est
à qui on laisse
ce pouvoir
est-ce que ce pouvoir
est efficace
et va dans le bien commun
ou pas
parce qu'il y a aussi
le truc de dire
si on ne veut pas
qu'il y ait des voitures
qui soient autonomes
peut-être que
l'Inde dans 20 ans
dira
regardez
nous
nos accidents
ont baissé
de fois 10
on a divisé par 10
le nombre de nos morts
sur les routes
parce que
tout est autonome maintenant
et que du coup
il y a des bugs
mais il y a moins de bugs
que quand c'était
les humains qui conduisaient
et toi tu diras
ben oui mais nous
on a respecté notre éthique
pourquoi pas
c'est des vrais sujets
je ne les prends pas
par dessus la jambe
c'est juste que
in fine
c'est des décisions politiques
est-ce qu'on laisse
du pouvoir
à des algorithmes
oui non
et si on laisse
du pouvoir
à ces algorithmes
qui les entraîne
et sur quelles données
ils sont entraînés
parce que
pour vous dire
par exemple
il y a eu plein de trucs
de reconnaissance faciale
par exemple
où on a entraîné
les algorithmes
sur des libreries
de photos
de gens
et on s'est rendu compte
après qu'ils pensaient
que toutes les personnes
de couleur
c'était des singes
parce qu'ils n'étaient pas
entraînés
sur des humains
de toutes les couleurs
et donc
quand un algorithme
tu l'as entraîné
que sur des gens
qui sont blancs
ben ils pensent
que tous les humains
sont blancs
sur ça il y a une histoire
trop marante
on a entraîné
un algorithme
à faire la différence
entre des chiens
et des loups
et l'algorithme
était hyper fort
pour reconnaître
les chiens et des loups
ça c'est un chien
ça c'est un loup
vraiment hyper bon
et en fait
à un moment
on lui a montré
un chien
avec un fond
dans de la neige
ça c'est un loup
un chien
avec de la neige derrière
et on s'est rendu compte
que toutes les photos
qu'on lui avait montrées
les loups étaient
dans un fond
avec de la neige
et les chiens non
ben du coup
l'algo
tu lui as pas dit
l'algo
il s'entraîne
à reconnaître
les trucs lui-même
on l'entraîne
juste avec de la donnée
s'il s'avère
qu'il y a un biais énorme
dans ces données
ben oui
tu n'es pas sûr
qu'il ait la bonne méthode
pour faire les choses
donc
en fait
les algos
le corpus de données
sur lequel on l'entraîne
c'est hyper important
c'est pour ça d'ailleurs
une des thèses
c'est
si tu entraînes
des modèles de langage
sur
je sais pas
sur Twitter
il y a moyen
que
le modèle de langage
devienne beaucoup plus radical
que si tu l'entraînes
sur Wikipédia
il va devenir
comme son corpus d'entraînement
alors peut-être
une dernière question
pour conclure
dans la salle
est-ce qu'il y a quelqu'un
sinon moi j'en aurais vu
ah non
je sais pas
moi je voulais juste savoir
parce que tu vous en parlais
dans le livre
avec Lé
finalement
quelles sont les recommandations
pour une gestion
individuelle
de nos données
qu'est-ce qu'on peut
ce sur quoi on peut agir
alors ça c'est
ça c'est
alors
moi j'en parle
beaucoup de ce thème là
parce que
une des raisons
pour lesquelles
je m'intéresse à tout ça
c'est que je pense
que je suis la personne
la plus sensible
à ce genre de truc
c'est-à-dire que moi
si j'avais pas
une batterie d'outils
je pense que
je passerais ma vie
à juste être
sur les plateformes
donc du coup
moi je pense
qu'il y a
la première chose à faire
c'est vraiment important
c'est
de reconnaître
qu'il y a
une véritable guerre
qui est menée
pour capter notre attention
et du coup
une guerre
si vous êtes pas conscient
qu'elle a lieu
et si vous faites pas tout
pour la gagner
vous l'avez déjà perdue
derrière moi ce truc de
si moi je pense que
sans faire aucun effort
supplémentaire
je vais arriver
à ne pas me faire
voler mon temps
par des entités
qui en savent
beaucoup plus sur moi
que moi sur elle
c'est pas étonnant
qu'on y passe
autant de temps
moi je pense qu'il y a
vraiment une démarche
proactive
pour les gens
qui comme moi
sont sensibles
il y a des gens
ils aiment pas les écrans
ils y arrivent très très bien
dans ce cas là
il n'y a pas de recommandation
ils sont déjà
plutôt pas mal
donc du coup
il y a vraiment
cette reconnaissance
de si vous voulez
que ça change
ou si vous voulez
que ça évolue pas
vers le pire
je pense qu'il faut
mettre beaucoup d'énergie
et après
pour moi
il y a deux grands types
de manières
de se prémunir
contre le temps
volé par les plateformes
donc notre temps de vie
ce qui est un peu précieux
volé par les plateformes
il y a
la manière
tout votre environnement
donc il y a
tout le truc
de se dire
si vous voulez par exemple
pas manger des dragibus
tout le temps
déjà
commencez par ne pas en avoir
dans votre appartement
ça sera plus facile
donc du coup
ça c'est vraiment
environnemental
c'est à dire que
moi j'ai une
j'ai une quantité
de bloqueurs
et de stratégies
pour pas pouvoir faire
les usages
que je trouve négatifs
qui est monumental
donc j'ai des applis
qui bloquent
je connais pas mes mots de passe
mes mots de passe
sont sur un fichier
non mes mots de passe
de réseaux sociaux
sont sur un fichier
auquel j'ai pas accès
parce qu'il est sur mon ordi
d'un lieu où je vais
qu'une fois par semaine
enfin je m'invente des trucs
des stratégies
complètement folles
pour arriver à faire ça
après chacun a son rythme
mais les trucs
qui marchent bien
pour certaines personnes
qui sont pas aussi
gravement atteintes que moi
c'est mettre le téléphone
en mode avion
éteindre son téléphone
le mettre dans un tiroir
tout ça
tout ça c'est vraiment
du changement environnemental
si vous êtes alcoolique
et que vous avez envie
de moins boire
vous déménagez loin d'un bar
enfin c'est logique
donc il y a
toute cette stratégie
c'est aussi par exemple
une stratégie
qui est je pense
hyper intéressante
c'est si vous êtes
émotionnellement connecté
à un sujet
s'il y a un sujet
où vraiment vous sentez
que ça vous touche
profondément
ne vous renseignez pas
sur ce sujet
sur les réseaux sociaux
c'est vraiment
intellectuellement
c'est pas possible
vous allez être
nécessairement
hacké par vos émotions
l'algo va trouver
la manière
de vous faire vriller
sur n'importe quel thème
donc en gros
moi sur les sujets
où je sens
que ça m'enrage
j'achète des livres
vraiment
je pense que c'est
hyper important
et après il y a
la deuxième batterie
d'outils
qui sont plutôt
pour le coup
de se dire
il faut devenir
meilleur
à se concentrer
et en gros
prendre conscience
par exemple
moi je suis en train
de travailler
et d'un seul coup
je suis en train
de faire un bon vieux
contrôle T
ouvrir une table
pour aller sur un site
genre Twitter
et bien en fait
plus vite j'arrive
à me rendre compte
que je suis en train
de faire ça
plus vite je suis en train
de me rendre compte
que je suis en train
de me faire rapper
plus j'ai de chances
de m'en extraire
et ça pour beaucoup
c'est plutôt une pratique
alors chacun fait
comme il veut
mais en gros
c'est arriver
à s'entraîner
à se concentrer
à s'entraîner
à rester concentré
c'est un autre truc
et je pense que
les deux vont
main dans la main
je pense que les gens
qui veulent que dire
non mais moi
je veux arriver
à rester concentré
même si je suis dans un bar
que il y a Twitter
avec des notifications là
et je vais arriver
à faire mon rapport
hyper concentré
dans ce monde
de perturbation numérique
bon je pense que
moi je ne suis pas encore
Mathieu Ricard
donc je vais avoir du mal
donc j'essaie déjà
de ne pas aller travailler
dans ces lieux là
mais par contre
je sais très bien
que plus ça va
et plus j'ai de difficultés
à lire par exemple
et à rester concentré
parce que j'habitue
mon cerveau
à avoir des distractions
tout le temps
donc je pense
que c'est aussi intéressant
de se dire
d'avoir une sorte
de pratique régulière
comme un sport
de la capacité
à rester concentré
voilà
c'est deux types
de conseils
que je vous donnerai
c'est vraiment
modifier l'environnement
pour rester concentré
et se changer
et avancer
pour développer
des compétences
pour se concentrer
voilà
je vais être rapide
j'ai utilisé un petit peu
tournesol
et ce système
de comparaison
donc apparemment
il doit être très robuste
mais il est quand même
assez pénible
à utiliser
donc si on veut
que les algorithmes
de recommandation
éthique
se diffusent
il faudrait trouver
quelque chose
qui serait peut-être
plus
je suis d'accord
et par contre
il va toujours y avoir
un arbitrage
entre facilité
et robustesse
et robustesse
c'est aussi surtout
en fait si tu le rends
plus facile
tu vas te retrouver
avec des recommandations
qui sont beaucoup
plus instinctives
et tu perds ce truc
il y a vraiment
un intérêt
à ce que ce soit chiant
mais du coup
c'est terrible
et là du coup
ça me permet de conclure
c'est que
le genre d'algo
comme tournesol
ou comme ce genre d'algo
ça ne se diffusera
que si
réglementairement
il y a quelque chose
qui change
parce que dans le monde
économique actuel
mais bien sûr
que tournesol
ne sera jamais aussi
efficace
et attirant
que TikTok
donc il y a vraiment
un truc
et c'est pour ça
que je suis là
aujourd'hui
on essaie
le plus possible
de faire du lobbying
pour faire en sorte
que nos pouvoirs
se rendent compte
du suicide collectif
dans lequel
les algos de recommandation
actuels nous mènent
et qu'il faut vraiment
commencer à réfléchir
à la meilleure manière
de réguler
ce super pouvoir là
merci beaucoup
pour tous ces échanges
et on aura l'occasion
de reparler
de tournesol
à l'ABM
parce qu'on vous proposera
sûrement un atelier
pour justement
s'en saisir
avec les usagers
de la bibliothèque
merci beaucoup