WEBVTT

00:00.976 --> 00:05.607
Lors d'un entretien, Sam Altman, le directeur
général de la société d'IA OpenAI, a décrit

00:05.607 --> 00:09.000
ses projets concernant le successeur de ChatGPT.

00:09.000 --> 00:15.679
Celui-ci devrait être opérationnel dès les
prochains mois. Altman a déclaré ce qui suit :

00:15.679 --> 00:23.091
« Je pense que nous sommes proches d’un monde où l’on pourrait
disposer d’un successeur de ChatGPT qui observerait en permanence

00:23.091 --> 00:29.518
l’écran de votre ordinateur, suivrait chaque réunion à laquelle
vous participez, enregistrerait chaque appel et

00:29.518 --> 00:37.279
disposerait ainsi d’un aperçu parfait de l’ensemble
de votre vie – à partir de tout ce que vous voyez. »

00:37.279 --> 00:42.840
D'ici peu, l'IA ne se contentera donc plus de
répondre aux demandes, mais agira de manière proactive.

00:42.840 --> 00:51.161
Elle proposera des idées, identifiera les problèmes
potentiels et facilitera le quotidien. Quel beau monde nouveau !

00:51.161 --> 00:56.248
À côté de cela, les dystopies classiques , comme 1984 – « Big
Brother vous surveille » –, ressemblent à un

00:56.248 --> 01:02.178
spectacle de marionnettes inoffensif, car les
observateurs d'Orwell étaient encore cachés derrière un mur.

01:02.178 --> 01:08.526
Les observateurs d'Altman se trouvent dans notre
smartphone ou notre ordinateur, et bientôt dans notre cerveau.

01:08.526 --> 01:12.650
Ils deviennent des compagnons de
tous les instants, de soi-disants amis.

01:12.650 --> 01:15.343
L'appât du confort est séduisant.

01:15.343 --> 01:19.637
Qui n'aimerait pas se débarrasser de quelques
rendez-vous fastidieux ou bénéficier de

01:19.637 --> 01:23.476
l'aide d'un collaborateur exemplaire au travail ?

01:23.476 --> 01:30.363
Mais à peine les gens seront-ils devenus dépendants de ces
nouveaux outils d'IA que celle-ci commencera à les réprimander.

01:30.363 --> 01:37.520
La frontière ténue entre « aide » et « tutelle » n'est alors
plus définie par les utilisateurs, mais par des algorithmes.

01:37.520 --> 01:41.204
C'est ainsi que l'aide proactive se
transforme en ingérence paternaliste.

01:41.204 --> 01:47.020
Voici quelques exemples concrets :

01:47.020 --> 01:50.695
1. Vous souhaitez rédiger un commentaire
critique sur la politique du gouvernement ?

01:50.695 --> 01:55.437
L'IA, qui suit chaque frappe, «
corrige » le texte au fur et à mesure.

01:55.437 --> 02:00.693
Elle propose des formulations plus neutres ou
ne publie tout simplement pas l'article, car

02:00.693 --> 02:04.040
celui-ci est jugé « incorrect » ou « polarisant ».

02:04.040 --> 02:11.060
D'ores et déjà, l'IA de Google bloque des avis
inoffensifs sur la base de ses propres critères.

02:11.060 --> 02:15.078
2. On cherche des informations sur
des sujets controversés sur Internet ?

02:15.078 --> 02:19.925
L'IA filtre les résultats de recherche et
n'affiche plus que les sources qu'elle juge «

02:19.925 --> 02:22.414
fiables », c'est-à-dire conformes au système.

02:22.414 --> 02:25.585
Le « shadow banning » existe déjà sur les réseaux sociaux.

02:25.585 --> 02:29.895
Les contenus ne sont pas bloqués, mais ils
n'apparaissent plus dans les résultats de

02:29.895 --> 02:34.269
recherche et ne sont donc plus accessibles aux abonnés.

02:35.769 --> 02:40.038
3. Il n'est plus nécessaire de savoir lire et
écrire, car l'IA résume des textes complexes

02:40.038 --> 02:42.683
ou rédige des articles et des discours entiers.

02:42.683 --> 02:49.870
Le journaliste Tom-Oliver Regenauer a récemment
écrit à ce sujet dans une prise de position :

02:49.870 --> 02:56.020
« Celui qui délègue la lecture, la réflexion et
l'écriture finit par les oublier – et ce, très rapidement. »

02:56.020 --> 03:01.599
Le cerveau est comparable à un muscle.
S'il n'est pas entraîné, il s'atrophie...

03:01.599 --> 03:09.322
Si l'on prend conscience des conséquences désastreuses qu'a
entraînées l'arrivée du smartphone depuis 2007, il ne faut pas

03:09.322 --> 03:15.842
beaucoup d'imagination pour extrapoler les
répercussions que l'IA aura, dans un laps de temps bien plus

03:15.842 --> 03:19.616
court, sur les capacités cognitives de notre espèce.

03:19.616 --> 03:26.343
L'IA est – tout comme le smartphone – avant tout une
technologie militaire et un instrument de dégénérescence.

03:26.343 --> 03:32.294
Un outil que très peu de gens savent
utiliser de manière responsable et productive.

03:32.294 --> 03:39.050
Les « smombies », dépourvus de sens de l'orientation, de volonté
et de réflexion, qui marquent déjà le paysage urbain ne semblent

03:39.050 --> 03:43.840
toutefois pas encore suffire à servir d’exemple dissuasif. »

03:43.840 --> 03:49.059
4. L'IA identifie très rapidement les opinions
politiques de chacun, lit les messages privés et

03:49.059 --> 03:52.821
connaît le réseau relationnel et les contacts de chacun.

03:52.821 --> 03:58.580
Elle n'utilise pas ces connaissances pour favoriser le
développement de l'être humain, mais pour l'« optimiser ».

03:58.580 --> 04:02.526
En clair, cela signifie : se conformer à la norme requise.

04:02.526 --> 04:06.699
Le « nudging », c'est-à-dire le contrôle subtil des opinions,
a déjà fait l'objet d'essais à grande échelle couronnés

04:06.699 --> 04:10.245
de succès pendant les années de la pandémie de coronavirus.

04:10.245 --> 04:15.040
Quel pouvoir sommes-nous donc prêts, nous les
utilisateurs, à accorder à ChatGPT et compagnie ?

04:15.040 --> 04:19.198
Tom-Oliver Regenauer se prononce clairement à ce sujet :

04:19.198 --> 04:27.392
« Je refuse de m'entraîner avec un système qui m'espionne
en permanence et qui a déjà le potentiel de me tuer. »

04:27.392 --> 04:37.007
Car c’est exactement ce que font déjà Palantir, ChatGPT d’OpenAI,
Claude d’Anthropic et Grok de SpaceXAI à Gaza, en Ukraine, en

04:37.007 --> 04:45.259
Iran et dans d’autres zones de conflit, où des systèmes d’armes
autonomes sont pilotés par ces mêmes systèmes

04:45.259 --> 04:52.424
– à l’instar de ces mini-drones qui, selon
EUROPOL, patrouilleront bientôt dans nos villes.

04:52.424 --> 04:57.267
Quiconque utilise des systèmes d'IA contribue à
entraîner « SkyNet », une base de données

04:57.267 --> 05:00.370
centrale qui contrôlera le véritable « Terminator ».

05:00.370 --> 05:06.784
« Et grâce à Boston Dynamics, Unitree et
Tesla, il sera très bientôt à notre porte. »