1
00:00:00,000 --> 00:00:00,976


2
00:00:00,976 --> 00:00:05,607
Lors d'un entretien, Sam Altman, le directeur
général de la société d'IA OpenAI, a décrit

3
00:00:05,607 --> 00:00:09,000
ses projets concernant le successeur de ChatGPT.

4
00:00:09,000 --> 00:00:15,679
Celui-ci devrait être opérationnel dès les
prochains mois. Altman a déclaré ce qui suit :

5
00:00:15,679 --> 00:00:23,091
« Je pense que nous sommes proches d’un monde où l’on pourrait
disposer d’un successeur de ChatGPT qui observerait en permanence

6
00:00:23,091 --> 00:00:29,518
l’écran de votre ordinateur, suivrait chaque réunion à laquelle
vous participez, enregistrerait chaque appel et

7
00:00:29,518 --> 00:00:37,279
disposerait ainsi d’un aperçu parfait de l’ensemble
de votre vie – à partir de tout ce que vous voyez. »

8
00:00:37,279 --> 00:00:42,840
D'ici peu, l'IA ne se contentera donc plus de
répondre aux demandes, mais agira de manière proactive.

9
00:00:42,840 --> 00:00:51,161
Elle proposera des idées, identifiera les problèmes
potentiels et facilitera le quotidien. Quel beau monde nouveau !

10
00:00:51,161 --> 00:00:56,248
À côté de cela, les dystopies classiques , comme 1984 – « Big
Brother vous surveille » –, ressemblent à un

11
00:00:56,248 --> 00:01:02,178
spectacle de marionnettes inoffensif, car les
observateurs d'Orwell étaient encore cachés derrière un mur.

12
00:01:02,178 --> 00:01:08,526
Les observateurs d'Altman se trouvent dans notre
smartphone ou notre ordinateur, et bientôt dans notre cerveau.

13
00:01:08,526 --> 00:01:12,650
Ils deviennent des compagnons de
tous les instants, de soi-disants amis.

14
00:01:12,650 --> 00:01:15,343
L'appât du confort est séduisant.

15
00:01:15,343 --> 00:01:19,637
Qui n'aimerait pas se débarrasser de quelques
rendez-vous fastidieux ou bénéficier de

16
00:01:19,637 --> 00:01:23,476
l'aide d'un collaborateur exemplaire au travail ?

17
00:01:23,476 --> 00:01:30,363
Mais à peine les gens seront-ils devenus dépendants de ces
nouveaux outils d'IA que celle-ci commencera à les réprimander.

18
00:01:30,363 --> 00:01:37,520
La frontière ténue entre « aide » et « tutelle » n'est alors
plus définie par les utilisateurs, mais par des algorithmes.

19
00:01:37,520 --> 00:01:41,204
C'est ainsi que l'aide proactive se
transforme en ingérence paternaliste.

20
00:01:41,204 --> 00:01:47,020
Voici quelques exemples concrets :

21
00:01:47,020 --> 00:01:50,695
1. Vous souhaitez rédiger un commentaire
critique sur la politique du gouvernement ?

22
00:01:50,695 --> 00:01:55,437
L'IA, qui suit chaque frappe, «
corrige » le texte au fur et à mesure.

23
00:01:55,437 --> 00:02:00,693
Elle propose des formulations plus neutres ou
ne publie tout simplement pas l'article, car

24
00:02:00,693 --> 00:02:04,040
celui-ci est jugé « incorrect » ou « polarisant ».

25
00:02:04,040 --> 00:02:11,060
D'ores et déjà, l'IA de Google bloque des avis
inoffensifs sur la base de ses propres critères.

26
00:02:11,060 --> 00:02:15,078
2. On cherche des informations sur
des sujets controversés sur Internet ?

27
00:02:15,078 --> 00:02:19,925
L'IA filtre les résultats de recherche et
n'affiche plus que les sources qu'elle juge «

28
00:02:19,925 --> 00:02:22,414
fiables », c'est-à-dire conformes au système.

29
00:02:22,414 --> 00:02:25,585
Le « shadow banning » existe déjà sur les réseaux sociaux.

30
00:02:25,585 --> 00:02:29,895
Les contenus ne sont pas bloqués, mais ils
n'apparaissent plus dans les résultats de

31
00:02:29,895 --> 00:02:34,269
recherche et ne sont donc plus accessibles aux abonnés.

32
00:02:35,769 --> 00:02:40,038
3. Il n'est plus nécessaire de savoir lire et
écrire, car l'IA résume des textes complexes

33
00:02:40,038 --> 00:02:42,683
ou rédige des articles et des discours entiers.

34
00:02:42,683 --> 00:02:49,870
Le journaliste Tom-Oliver Regenauer a récemment
écrit à ce sujet dans une prise de position :

35
00:02:49,870 --> 00:02:56,020
« Celui qui délègue la lecture, la réflexion et
l'écriture finit par les oublier – et ce, très rapidement. »

36
00:02:56,020 --> 00:03:01,599
Le cerveau est comparable à un muscle.
S'il n'est pas entraîné, il s'atrophie...

37
00:03:01,599 --> 00:03:09,322
Si l'on prend conscience des conséquences désastreuses qu'a
entraînées l'arrivée du smartphone depuis 2007, il ne faut pas

38
00:03:09,322 --> 00:03:15,842
beaucoup d'imagination pour extrapoler les
répercussions que l'IA aura, dans un laps de temps bien plus

39
00:03:15,842 --> 00:03:19,616
court, sur les capacités cognitives de notre espèce.

40
00:03:19,616 --> 00:03:26,343
L'IA est – tout comme le smartphone – avant tout une
technologie militaire et un instrument de dégénérescence.

41
00:03:26,343 --> 00:03:32,294
Un outil que très peu de gens savent
utiliser de manière responsable et productive.

42
00:03:32,294 --> 00:03:39,050
Les « smombies », dépourvus de sens de l'orientation, de volonté
et de réflexion, qui marquent déjà le paysage urbain ne semblent

43
00:03:39,050 --> 00:03:43,840
toutefois pas encore suffire à servir d’exemple dissuasif. »

44
00:03:43,840 --> 00:03:49,059
4. L'IA identifie très rapidement les opinions
politiques de chacun, lit les messages privés et

45
00:03:49,059 --> 00:03:52,821
connaît le réseau relationnel et les contacts de chacun.

46
00:03:52,821 --> 00:03:58,580
Elle n'utilise pas ces connaissances pour favoriser le
développement de l'être humain, mais pour l'« optimiser ».

47
00:03:58,580 --> 00:04:02,526
En clair, cela signifie : se conformer à la norme requise.

48
00:04:02,526 --> 00:04:06,699
Le « nudging », c'est-à-dire le contrôle subtil des opinions,
a déjà fait l'objet d'essais à grande échelle couronnés

49
00:04:06,699 --> 00:04:10,245
de succès pendant les années de la pandémie de coronavirus.

50
00:04:10,245 --> 00:04:15,040
Quel pouvoir sommes-nous donc prêts, nous les
utilisateurs, à accorder à ChatGPT et compagnie ?

51
00:04:15,040 --> 00:04:19,198
Tom-Oliver Regenauer se prononce clairement à ce sujet :

52
00:04:19,198 --> 00:04:27,392
« Je refuse de m'entraîner avec un système qui m'espionne
en permanence et qui a déjà le potentiel de me tuer. »

53
00:04:27,392 --> 00:04:37,007
Car c’est exactement ce que font déjà Palantir, ChatGPT d’OpenAI,
Claude d’Anthropic et Grok de SpaceXAI à Gaza, en Ukraine, en

54
00:04:37,007 --> 00:04:45,259
Iran et dans d’autres zones de conflit, où des systèmes d’armes
autonomes sont pilotés par ces mêmes systèmes

55
00:04:45,259 --> 00:04:52,424
– à l’instar de ces mini-drones qui, selon
EUROPOL, patrouilleront bientôt dans nos villes.

56
00:04:52,424 --> 00:04:57,267
Quiconque utilise des systèmes d'IA contribue à
entraîner « SkyNet », une base de données

57
00:04:57,267 --> 00:05:00,370
centrale qui contrôlera le véritable « Terminator ».

58
00:05:00,370 --> 00:05:06,784
« Et grâce à Boston Dynamics, Unitree et
Tesla, il sera très bientôt à notre porte. »