1
00:00:00,000 --> 00:00:00,976


2
00:00:00,976 --> 00:00:09,000
בשיחה תיאר סם אלטמן, ראש חברת הבינה
המלאכותית OpenAI, את תוכניותיו ליורש של ChatGPT.

3
00:00:09,000 --> 00:00:15,679
זה אמור להיות מוכן לשימוש כבר בחודשים
הקרובים. אלטמן אמר את הדברים הבאים:

4
00:00:15,679 --> 00:00:26,585
"אני חושב שאנחנו קרובים לעולם שבו אפשר יהיה לקבל יורש של ChatGPT
שצופה כל הזמן במסך המחשב שלך, עוקב אחרי כל

5
00:00:26,585 --> 00:00:37,279
פגישה שאתה משתתף בה, מקליט כל שיחה, וכך יש
לו הקשר מושלם של כל חייך – מכל מה שאתה רואה."

6
00:00:37,279 --> 00:00:42,840
בקרוב הבינה המלאכותית לא רק תגיב לבקשות, אלא תפעל באופן יזום.

7
00:00:42,840 --> 00:00:51,161
היא תציע רעיונות, תזהה בעיות אפשריות
ותסייע בחיי היומיום. איזה עולם חדש ונפלא!

8
00:00:51,161 --> 00:00:57,652
לעומת זאת, הדיסטופיות הקלאסיות כמו 1984 – "האח
הגדול צופה בך" – נראות כמו תיאטרון בובות

9
00:00:57,652 --> 00:01:02,178
תמים, שכן הצופים של אורוול עדיין ישבו מאחורי קיר.

10
00:01:02,178 --> 00:01:08,526
הצופים של אלטמן יושבים בסמארטפון או
במחשב האישי שלך, ובקרוב ממש במוח שלך.

11
00:01:08,526 --> 00:01:12,650
הם יהפכו למלווים קבועים, לחברים לכאורה.

12
00:01:12,650 --> 00:01:15,343
הפיתיון של הנוחות מפתה.

13
00:01:15,343 --> 00:01:23,476
מי לא היה רוצה להעביר כמה פגישות מטרידות
למישהו אחר או להיעזר במופע מושלם בעבודה?

14
00:01:23,476 --> 00:01:30,363
אך בקושי הופכים בני האדם לתלויים בתמיכות הבינה
המלאכותית החדשות, הבינה המלאכותית תתחיל להטיף להם מוסר.

15
00:01:30,363 --> 00:01:37,520
הקו הדק בין "תמיכה" ל"התנשאות" יוגדר אז
לא על ידי המשתמשים, אלא על ידי אלגוריתמים.

16
00:01:37,520 --> 00:01:41,204
כך הופכת העזרה היזומה להתערבות מתנשאת.

17
00:01:41,204 --> 00:01:47,020
הנה כמה דוגמאות כיצד זה נראה בפועל:

18
00:01:47,020 --> 00:01:50,695
1. רוצים לכתוב תגובה ביקורתית על מדיניות הממשלה?

19
00:01:50,695 --> 00:01:55,437
הבינה המלאכותית, שעוקבת אחרי כל
הקשה על מקש, "מתקנת" את הטקסט מראש.

20
00:01:55,437 --> 00:02:04,040
היא מציעה ניסוחים בלתי מזיקים יותר או שאינה מפרסמת את
הפוסט מלכתחילה, מכיוון שהוא מסווג כ"שגוי" או "מקוטב".

21
00:02:04,040 --> 00:02:11,060
כבר כעת הבינה המלאכותית של גוגל חוסמת
ביקורות בלתי מזיקות בשל הגדרות משלה.

22
00:02:11,060 --> 00:02:15,078
2. מחפשים מידע על נושאים שנויים במחלוקת ברשת?

23
00:02:15,078 --> 00:02:22,414
הבינה המלאכותית מסננת את תוצאות החיפוש ומציגה רק את
אותם מקורות שהיא רואה כ"מהימנים" – כלומר תואמים למערכת.

24
00:02:22,414 --> 00:02:25,585
כבר כעת קיים Shadow Banning ברשתות החברתיות.

25
00:02:25,585 --> 00:02:34,269
התכנים אינם חסומים, אך הם אינם מוצגים יותר
בחיפוש ולפיכך אינם עומדים עוד לרשות המנויים.

26
00:02:35,769 --> 00:02:42,683
3. אין יותר צורך לקרוא ולכתוב, מכיוון שהבינה המלאכותית
מסכמת טקסטים תובעניים או מחברת מאמרים ונאומים שלמים.

27
00:02:42,683 --> 00:02:49,870
הפובליציסט טום-אוליבר רגנאואר כתב על כך לאחרונה במסמך עמדה:

28
00:02:49,870 --> 00:02:56,020
"מי שמעביר החוצה את הקריאה, החשיבה
והכתיבה, שוכח אותן – ובמהירות רבה.

29
00:02:56,020 --> 00:03:01,599
המוח דומה לשריר. אם אינו מאומן, הוא מתנוון...

30
00:03:01,599 --> 00:03:13,310
אם מביאים בחשבון אילו השלכות הרות אסון היו להכנסת הסמארטפון
מאז 2007, אין צורך בדמיון רב כדי להסיק, אילו השפעות תהיינה לבינה

31
00:03:13,310 --> 00:03:19,616
המלאכותית בזמן קצר בהרבה על היכולות הקוגניטיביות של המין שלנו.

32
00:03:19,616 --> 00:03:26,343
בינה מלאכותית היא – כמו גם הסמארטפון –
בראש ובראשונה טכנולוגיה צבאית וכלי ניוון.

33
00:03:26,343 --> 00:03:32,294
כלי שמעטים ביותר יודעים להשתמש בו באחריות ובאופן פרודוקטיבי.

34
00:03:32,294 --> 00:03:43,840
ה"סמומביז" חסרי ההתמצאות, הרצון והמחשבה, שכבר כיום
מעצבים את מראה העיר, עדיין אינם נראים כדוגמה מרתיעה מספקת."

35
00:03:43,840 --> 00:03:49,235
4. הבינה המלאכותית מזהה לאחר זמן קצר מאוד
את העמדה הפוליטית האישית, קוראת את ההודעות

36
00:03:49,235 --> 00:03:52,821
הפרטיות ומכירה את רשת הקשרים והקשרים הזוגיים.

37
00:03:52,821 --> 00:03:58,580
היא אינה משתמשת בידע הזה כדי לקדם את
האדם בהתפתחותו, אלא כדי "לייעל" אותו.

38
00:03:58,580 --> 00:04:02,526
המשמעות במילים פשוטות: התאמה לנורמה הנדרשת.

39
00:04:02,526 --> 00:04:10,245
נודג'ינג, כלומר שליטה עדינה בדעות, כבר נבחן
בהצלחה בקנה מידה המוני במהלך שנות הקורונה.

40
00:04:10,245 --> 00:04:15,040
כמה כוח אפוא אנחנו, המשתמשים, רוצים לתת ל-ChatGPT וחברותיה?

41
00:04:15,040 --> 00:04:19,198
טום-אוליבר רגנאואר מציב לכך הצהרה ברורה:

42
00:04:19,198 --> 00:04:27,392
"אני מסרב לאמן מערכת שריגלה אחריי באופן
תמידי וכבר כיום יש לה את הפוטנציאל להרוג אותי.

43
00:04:27,392 --> 00:04:39,561
כי בדיוק זה מה שפלנטיר, ChatGPT של OpenAI, Claude של Anthropic
ו-Grok של SpaceXAI כבר עושים היום בעזה, באוקראינה, באיראן ובאזורי

44
00:04:39,561 --> 00:04:47,451
מלחמה אחרים, שבהם מערכות נשק אוטונומיות
נשלטות בדיוק על ידי המערכות האלה – כמו אותם

45
00:04:47,451 --> 00:04:52,424
מיני-רחפנים שלפי EUROPOL יסיירו בקרוב בערים שלנו.

46
00:04:52,424 --> 00:05:00,370
מי שמשתמש במערכות בינה מלאכותית מאמן את
"SkyNet", מסד נתונים מרכזי שישלוט ב"טרמינייטור" האמיתי.

47
00:05:00,370 --> 00:05:06,784
והוא, הודות ל-Boston Dynamics,
Unitree וטסלה, יעמוד די בקרוב לפתח ביתנו."