1
00:00:00,000 --> 00:00:00,976


2
00:00:00,976 --> 00:00:09,000
سام آلتمن، مدیر شرکت هوش مصنوعی OpenAI، در گفتگویی
برنامه‌های خود را برای جانشین ChatGPT توصیف کرد.

3
00:00:09,000 --> 00:00:15,679
قرار است این جانشین همین ماه‌های
آینده آماده بهره‌برداری باشد. آلتمن گفت:

4
00:00:15,679 --> 00:00:24,691
«من فکر می‌کنم ما به دنیایی نزدیک شده‌ایم که در آن می‌توان
جانشینی برای ChatGPT داشت که تمام وقت صفحه کامپیوترت را تماشا

5
00:00:24,691 --> 00:00:31,751
کند، در هر جلسه‌ای که شرکت می‌کنی حاضر باشد، هر
تماسی را ضبط کند و بدین ترتیب زمینه‌ای کامل از

6
00:00:31,751 --> 00:00:37,279
تمام زندگی‌ات داشته باشد – از هر چیزی که می‌بینی.»

7
00:00:37,279 --> 00:00:42,840
به زودی هوش مصنوعی نه تنها به
درخواست‌ها پاسخ می‌دهد، بلکه فعالانه عمل می‌کند.

8
00:00:42,840 --> 00:00:51,161
ایده‌ها پیشنهاد می‌دهد، مشکلات بالقوه را تشخیص می‌دهد و
از زندگی روزمره پشتیبانی می‌کند. چه دنیای جدید زیبایی!

9
00:00:51,161 --> 00:00:57,892
در کنار آن، دیستوپیاهای کلاسیک مانند 1984 – «برادر بزرگ
تو را می‌پاید» – مانند یک نمایش عروسکی بی‌ضرر به نظر

10
00:00:57,892 --> 00:01:02,178
می‌رسند، زیرا ناظران اورول هنوز پشت دیواری نشسته بودند.

11
00:01:02,178 --> 00:01:08,526
ناظران آلتمن در گوشی هوشمند یا کامپیوتر
خود و به زودی در مغز خودشان نشسته‌اند.

12
00:01:08,526 --> 00:01:12,650
آنها به همراهان دائمی، به دوستانی پنداری تبدیل می‌شوند.

13
00:01:12,650 --> 00:01:15,343
طعمه راحتی فریبنده است.

14
00:01:15,343 --> 00:01:23,476
چه کسی دوست ندارد چند قرار ملاقات آزاردهنده را
واگذار کند یا از یک مرجع کامل در کار کمک بگیرد؟

15
00:01:23,476 --> 00:01:30,363
اما به محض اینکه مردم به پشتیبانی‌های جدید هوش مصنوعی
وابسته شدند، هوش مصنوعی شروع به سرزنش آن‌ها می‌کند.

16
00:01:30,363 --> 00:01:37,520
مرز باریک بین «پشتیبانی» و «قیمومیت» دیگر توسط
کاربران، بلکه توسط الگوریتم‌ها تعریف می‌شود.

17
00:01:37,520 --> 00:01:41,204
بدین ترتیب کمک فعالانه به مداخله قیمومیت‌آمیز تبدیل می‌شود.

18
00:01:41,204 --> 00:01:47,020
در اینجا چند نمونه از اینکه این موضوع به طور مشخص چگونه است:

19
00:01:47,020 --> 00:01:50,695
۱. می‌خواهید یک نظر انتقادی درباره سیاست دولت بنویسید؟

20
00:01:50,695 --> 00:01:55,437
هوش مصنوعی که هر فشردن کلید را دنبال
می‌کند، متن را از پیش «تصحیح» می‌کند.

21
00:01:55,437 --> 00:02:04,040
او پیشنهادهای بی‌ضررتری می‌دهد یا اصلاً پست را منتشر نمی‌کند،
چون به‌عنوان «نادرست» یا «دوقطبی‌کننده» طبقه‌بندی می‌شود.

22
00:02:04,040 --> 00:02:11,060
همین حالا هوش مصنوعی گوگل نظرات بی‌ضرر
را بر اساس تعاریف خودش مسدود می‌کند.

23
00:02:11,060 --> 00:02:15,078
۲. آیا در اینترنت به دنبال اطلاعات
درباره موضوعات بحث‌برانگیز می‌گردید؟

24
00:02:15,078 --> 00:02:22,414
هوش مصنوعی نتایج جستجو را فیلتر می‌کند و فقط منابعی را نشان
می‌دهد که آن‌ها را «قابل‌اعتماد» – یعنی همسو با سیستم – می‌داند.

25
00:02:22,414 --> 00:02:25,585
همین حالا شادو بنینگ در شبکه‌های اجتماعی وجود دارد.

26
00:02:25,585 --> 00:02:34,269
محتواها مسدود نشده‌اند، اما دیگر در جستجو نمایش داده
نمی‌شوند و در نتیجه دیگر در اختیار مشترکان قرار نمی‌گیرند.

27
00:02:35,769 --> 00:02:42,683
۳. خواندن و نوشتن دیگر لازم نیست، زیرا هوش مصنوعی متون
دشوار را خلاصه می‌کند یا کل مقالات و سخنرانی‌ها را می‌نویسد.

28
00:02:42,683 --> 00:02:49,870
نویسنده و روزنامه‌نگار تام-اولیور رگنباوئر
اخیراً در یک سند موضع‌گیری در این باره نوشت:

29
00:02:49,870 --> 00:02:56,020
«کسی که خواندن، اندیشیدن و نوشتن را برون‌سپاری
کند، آن‌ها را از دست می‌دهد – و آن هم بسیار سریع.

30
00:02:56,020 --> 00:03:01,599
مغز قابل مقایسه با یک عضله است.
اگر تمرین داده نشود، تحلیل می‌رود...

31
00:03:01,599 --> 00:03:10,508
اگر در نظر بگیریم که معرفی گوشی هوشمند از سال ۲۰۰۷ چه پیامدهای
فاجعه‌باری به بار آورده است، برای برآورد اینکه هوش

32
00:03:10,508 --> 00:03:19,616
مصنوعی در زمانی به‌مراتب کوتاه‌تر چه تأثیری بر
توانایی‌های شناختی گونه ما خواهد داشت، به تخیل زیادی نیاز نیست.

33
00:03:19,616 --> 00:03:26,343
هوش مصنوعی – مانند گوشی هوشمند – پیش از
هر چیز فناوری نظامی و ابزار انحطاط است.

34
00:03:26,343 --> 00:03:32,294
ابزاری که کمترین تعداد می‌توانند
به‌صورت مسئولانه و سازنده با آن برخورد کنند.

35
00:03:32,294 --> 00:03:38,881
«اسموبی»های بی‌جهت، بی‌اراده و بی‌فکر، که همین
حالا چهره شهر را شکل می‌دهند، اما به‌نظر می‌رسد

36
00:03:38,881 --> 00:03:43,840
هنوز به‌عنوان نمونه‌ای هشداردهنده کافی نیستند.»

37
00:03:43,840 --> 00:03:49,365
۴. هوش مصنوعی پس از مدت بسیار کوتاهی گرایش
سیاسی شخصی را تشخیص می‌دهد، پیام‌های خصوصی را

38
00:03:49,365 --> 00:03:52,821
می‌خواند و شبکه روابط و مخاطبان را می‌شناسد.

39
00:03:52,821 --> 00:03:58,580
او از این دانش نه برای پرورش انسان در رشد او
استفاده می‌کند، بلکه برای «بهینه‌سازی» او.

40
00:03:58,580 --> 00:04:02,526
این به زبان ساده یعنی: انطباق با هنجار مورد مطالبه.

41
00:04:02,526 --> 00:04:10,245
«نادجینگ»، یعنی کنترل نامحسوس افکار عمومی، پیش‌تر در
طول سال‌های کرونا با موفقیت به‌صورت انبوه آزمایش شده بود.

42
00:04:10,245 --> 00:04:15,040
پس ما کاربران، چه مقدار قدرت
می‌خواهیم به ChatGPT و امثال آن بدهیم؟

43
00:04:15,040 --> 00:04:19,198
تام-اولیور رگناوئر در این باره موضعی صریح اتخاذ می‌کند:

44
00:04:19,198 --> 00:04:27,392
«من از آموزش دادن سیستمی که به‌طور دائمی از من جاسوسی
می‌کند و همین حالا نیز توانایی کشتن من را دارد، خودداری می‌کنم.

45
00:04:27,392 --> 00:04:37,402
زیرا دقیقاً همین کار را Palantir، ChatGPT از OpenAI، Claude از
Anthropic و Grok از SpaceXAI همین امروز در غزه، اوکراین، ایران و

46
00:04:37,402 --> 00:04:45,442
دیگر مناطق جنگی انجام می‌دهند، جایی که سامانه‌های تسلیحاتی
خودمختار توسط همین سیستم‌ها کنترل می‌شوند –

47
00:04:45,442 --> 00:04:52,424
مانند همان مینی‌پهپادهایی که به گفته
EUROPOL به‌زودی در شهرهای ما گشت‌زنی خواهند کرد.

48
00:04:52,424 --> 00:04:57,400
هر کس از سیستم‌های هوش مصنوعی استفاده کند،
«اسکای‌نت» را آموزش می‌دهد، یک پایگاه داده

49
00:04:57,400 --> 00:05:00,370
مرکزی که «ترمیناتور» واقعی را کنترل خواهد کرد.

50
00:05:00,370 --> 00:05:06,784
و آن، به لطف Boston Dynamics، Unitree و Tesla،
خیلی زود در برابر درِ خانه ما خواهد ایستاد.»