WEBVTT

00:00.976 --> 00:09.000
בשיחה תיאר סם אלטמן, ראש חברת הבינה
המלאכותית OpenAI, את תוכניותיו ליורש של ChatGPT.

00:09.000 --> 00:15.679
זה אמור להיות מוכן לשימוש כבר בחודשים
הקרובים. אלטמן אמר את הדברים הבאים:

00:15.679 --> 00:26.585
"אני חושב שאנחנו קרובים לעולם שבו אפשר יהיה לקבל יורש של ChatGPT
שצופה כל הזמן במסך המחשב שלך, עוקב אחרי כל

00:26.585 --> 00:37.279
פגישה שאתה משתתף בה, מקליט כל שיחה, וכך יש
לו הקשר מושלם של כל חייך – מכל מה שאתה רואה."

00:37.279 --> 00:42.840
בקרוב הבינה המלאכותית לא רק תגיב לבקשות, אלא תפעל באופן יזום.

00:42.840 --> 00:51.161
היא תציע רעיונות, תזהה בעיות אפשריות
ותסייע בחיי היומיום. איזה עולם חדש ונפלא!

00:51.161 --> 00:57.652
לעומת זאת, הדיסטופיות הקלאסיות כמו 1984 – "האח
הגדול צופה בך" – נראות כמו תיאטרון בובות

00:57.652 --> 01:02.178
תמים, שכן הצופים של אורוול עדיין ישבו מאחורי קיר.

01:02.178 --> 01:08.526
הצופים של אלטמן יושבים בסמארטפון או
במחשב האישי שלך, ובקרוב ממש במוח שלך.

01:08.526 --> 01:12.650
הם יהפכו למלווים קבועים, לחברים לכאורה.

01:12.650 --> 01:15.343
הפיתיון של הנוחות מפתה.

01:15.343 --> 01:23.476
מי לא היה רוצה להעביר כמה פגישות מטרידות
למישהו אחר או להיעזר במופע מושלם בעבודה?

01:23.476 --> 01:30.363
אך בקושי הופכים בני האדם לתלויים בתמיכות הבינה
המלאכותית החדשות, הבינה המלאכותית תתחיל להטיף להם מוסר.

01:30.363 --> 01:37.520
הקו הדק בין "תמיכה" ל"התנשאות" יוגדר אז
לא על ידי המשתמשים, אלא על ידי אלגוריתמים.

01:37.520 --> 01:41.204
כך הופכת העזרה היזומה להתערבות מתנשאת.

01:41.204 --> 01:47.020
הנה כמה דוגמאות כיצד זה נראה בפועל:

01:47.020 --> 01:50.695
1. רוצים לכתוב תגובה ביקורתית על מדיניות הממשלה?

01:50.695 --> 01:55.437
הבינה המלאכותית, שעוקבת אחרי כל
הקשה על מקש, "מתקנת" את הטקסט מראש.

01:55.437 --> 02:04.040
היא מציעה ניסוחים בלתי מזיקים יותר או שאינה מפרסמת את
הפוסט מלכתחילה, מכיוון שהוא מסווג כ"שגוי" או "מקוטב".

02:04.040 --> 02:11.060
כבר כעת הבינה המלאכותית של גוגל חוסמת
ביקורות בלתי מזיקות בשל הגדרות משלה.

02:11.060 --> 02:15.078
2. מחפשים מידע על נושאים שנויים במחלוקת ברשת?

02:15.078 --> 02:22.414
הבינה המלאכותית מסננת את תוצאות החיפוש ומציגה רק את
אותם מקורות שהיא רואה כ"מהימנים" – כלומר תואמים למערכת.

02:22.414 --> 02:25.585
כבר כעת קיים Shadow Banning ברשתות החברתיות.

02:25.585 --> 02:34.269
התכנים אינם חסומים, אך הם אינם מוצגים יותר
בחיפוש ולפיכך אינם עומדים עוד לרשות המנויים.

02:35.769 --> 02:42.683
3. אין יותר צורך לקרוא ולכתוב, מכיוון שהבינה המלאכותית
מסכמת טקסטים תובעניים או מחברת מאמרים ונאומים שלמים.

02:42.683 --> 02:49.870
הפובליציסט טום-אוליבר רגנאואר כתב על כך לאחרונה במסמך עמדה:

02:49.870 --> 02:56.020
"מי שמעביר החוצה את הקריאה, החשיבה
והכתיבה, שוכח אותן – ובמהירות רבה.

02:56.020 --> 03:01.599
המוח דומה לשריר. אם אינו מאומן, הוא מתנוון...

03:01.599 --> 03:13.310
אם מביאים בחשבון אילו השלכות הרות אסון היו להכנסת הסמארטפון
מאז 2007, אין צורך בדמיון רב כדי להסיק, אילו השפעות תהיינה לבינה

03:13.310 --> 03:19.616
המלאכותית בזמן קצר בהרבה על היכולות הקוגניטיביות של המין שלנו.

03:19.616 --> 03:26.343
בינה מלאכותית היא – כמו גם הסמארטפון –
בראש ובראשונה טכנולוגיה צבאית וכלי ניוון.

03:26.343 --> 03:32.294
כלי שמעטים ביותר יודעים להשתמש בו באחריות ובאופן פרודוקטיבי.

03:32.294 --> 03:43.840
ה"סמומביז" חסרי ההתמצאות, הרצון והמחשבה, שכבר כיום
מעצבים את מראה העיר, עדיין אינם נראים כדוגמה מרתיעה מספקת."

03:43.840 --> 03:49.235
4. הבינה המלאכותית מזהה לאחר זמן קצר מאוד
את העמדה הפוליטית האישית, קוראת את ההודעות

03:49.235 --> 03:52.821
הפרטיות ומכירה את רשת הקשרים והקשרים הזוגיים.

03:52.821 --> 03:58.580
היא אינה משתמשת בידע הזה כדי לקדם את
האדם בהתפתחותו, אלא כדי "לייעל" אותו.

03:58.580 --> 04:02.526
המשמעות במילים פשוטות: התאמה לנורמה הנדרשת.

04:02.526 --> 04:10.245
נודג'ינג, כלומר שליטה עדינה בדעות, כבר נבחן
בהצלחה בקנה מידה המוני במהלך שנות הקורונה.

04:10.245 --> 04:15.040
כמה כוח אפוא אנחנו, המשתמשים, רוצים לתת ל-ChatGPT וחברותיה?

04:15.040 --> 04:19.198
טום-אוליבר רגנאואר מציב לכך הצהרה ברורה:

04:19.198 --> 04:27.392
"אני מסרב לאמן מערכת שריגלה אחריי באופן
תמידי וכבר כיום יש לה את הפוטנציאל להרוג אותי.

04:27.392 --> 04:39.561
כי בדיוק זה מה שפלנטיר, ChatGPT של OpenAI, Claude של Anthropic
ו-Grok של SpaceXAI כבר עושים היום בעזה, באוקראינה, באיראן ובאזורי

04:39.561 --> 04:47.451
מלחמה אחרים, שבהם מערכות נשק אוטונומיות
נשלטות בדיוק על ידי המערכות האלה – כמו אותם

04:47.451 --> 04:52.424
מיני-רחפנים שלפי EUROPOL יסיירו בקרוב בערים שלנו.

04:52.424 --> 05:00.370
מי שמשתמש במערכות בינה מלאכותית מאמן את
"SkyNet", מסד נתונים מרכזי שישלוט ב"טרמינייטור" האמיתי.

05:00.370 --> 05:06.784
והוא, הודות ל-Boston Dynamics,
Unitree וטסלה, יעמוד די בקרוב לפתח ביתנו."