WEBVTT

00:00.976 --> 00:09.000
سام آلتمن، مدیر شرکت هوش مصنوعی OpenAI، در گفتگویی
برنامه‌های خود را برای جانشین ChatGPT توصیف کرد.

00:09.000 --> 00:15.679
قرار است این جانشین همین ماه‌های
آینده آماده بهره‌برداری باشد. آلتمن گفت:

00:15.679 --> 00:24.691
«من فکر می‌کنم ما به دنیایی نزدیک شده‌ایم که در آن می‌توان
جانشینی برای ChatGPT داشت که تمام وقت صفحه کامپیوترت را تماشا

00:24.691 --> 00:31.751
کند، در هر جلسه‌ای که شرکت می‌کنی حاضر باشد، هر
تماسی را ضبط کند و بدین ترتیب زمینه‌ای کامل از

00:31.751 --> 00:37.279
تمام زندگی‌ات داشته باشد – از هر چیزی که می‌بینی.»

00:37.279 --> 00:42.840
به زودی هوش مصنوعی نه تنها به
درخواست‌ها پاسخ می‌دهد، بلکه فعالانه عمل می‌کند.

00:42.840 --> 00:51.161
ایده‌ها پیشنهاد می‌دهد، مشکلات بالقوه را تشخیص می‌دهد و
از زندگی روزمره پشتیبانی می‌کند. چه دنیای جدید زیبایی!

00:51.161 --> 00:57.892
در کنار آن، دیستوپیاهای کلاسیک مانند 1984 – «برادر بزرگ
تو را می‌پاید» – مانند یک نمایش عروسکی بی‌ضرر به نظر

00:57.892 --> 01:02.178
می‌رسند، زیرا ناظران اورول هنوز پشت دیواری نشسته بودند.

01:02.178 --> 01:08.526
ناظران آلتمن در گوشی هوشمند یا کامپیوتر
خود و به زودی در مغز خودشان نشسته‌اند.

01:08.526 --> 01:12.650
آنها به همراهان دائمی، به دوستانی پنداری تبدیل می‌شوند.

01:12.650 --> 01:15.343
طعمه راحتی فریبنده است.

01:15.343 --> 01:23.476
چه کسی دوست ندارد چند قرار ملاقات آزاردهنده را
واگذار کند یا از یک مرجع کامل در کار کمک بگیرد؟

01:23.476 --> 01:30.363
اما به محض اینکه مردم به پشتیبانی‌های جدید هوش مصنوعی
وابسته شدند، هوش مصنوعی شروع به سرزنش آن‌ها می‌کند.

01:30.363 --> 01:37.520
مرز باریک بین «پشتیبانی» و «قیمومیت» دیگر توسط
کاربران، بلکه توسط الگوریتم‌ها تعریف می‌شود.

01:37.520 --> 01:41.204
بدین ترتیب کمک فعالانه به مداخله قیمومیت‌آمیز تبدیل می‌شود.

01:41.204 --> 01:47.020
در اینجا چند نمونه از اینکه این موضوع به طور مشخص چگونه است:

01:47.020 --> 01:50.695
۱. می‌خواهید یک نظر انتقادی درباره سیاست دولت بنویسید؟

01:50.695 --> 01:55.437
هوش مصنوعی که هر فشردن کلید را دنبال
می‌کند، متن را از پیش «تصحیح» می‌کند.

01:55.437 --> 02:04.040
او پیشنهادهای بی‌ضررتری می‌دهد یا اصلاً پست را منتشر نمی‌کند،
چون به‌عنوان «نادرست» یا «دوقطبی‌کننده» طبقه‌بندی می‌شود.

02:04.040 --> 02:11.060
همین حالا هوش مصنوعی گوگل نظرات بی‌ضرر
را بر اساس تعاریف خودش مسدود می‌کند.

02:11.060 --> 02:15.078
۲. آیا در اینترنت به دنبال اطلاعات
درباره موضوعات بحث‌برانگیز می‌گردید؟

02:15.078 --> 02:22.414
هوش مصنوعی نتایج جستجو را فیلتر می‌کند و فقط منابعی را نشان
می‌دهد که آن‌ها را «قابل‌اعتماد» – یعنی همسو با سیستم – می‌داند.

02:22.414 --> 02:25.585
همین حالا شادو بنینگ در شبکه‌های اجتماعی وجود دارد.

02:25.585 --> 02:34.269
محتواها مسدود نشده‌اند، اما دیگر در جستجو نمایش داده
نمی‌شوند و در نتیجه دیگر در اختیار مشترکان قرار نمی‌گیرند.

02:35.769 --> 02:42.683
۳. خواندن و نوشتن دیگر لازم نیست، زیرا هوش مصنوعی متون
دشوار را خلاصه می‌کند یا کل مقالات و سخنرانی‌ها را می‌نویسد.

02:42.683 --> 02:49.870
نویسنده و روزنامه‌نگار تام-اولیور رگنباوئر
اخیراً در یک سند موضع‌گیری در این باره نوشت:

02:49.870 --> 02:56.020
«کسی که خواندن، اندیشیدن و نوشتن را برون‌سپاری
کند، آن‌ها را از دست می‌دهد – و آن هم بسیار سریع.

02:56.020 --> 03:01.599
مغز قابل مقایسه با یک عضله است.
اگر تمرین داده نشود، تحلیل می‌رود...

03:01.599 --> 03:10.508
اگر در نظر بگیریم که معرفی گوشی هوشمند از سال ۲۰۰۷ چه پیامدهای
فاجعه‌باری به بار آورده است، برای برآورد اینکه هوش

03:10.508 --> 03:19.616
مصنوعی در زمانی به‌مراتب کوتاه‌تر چه تأثیری بر
توانایی‌های شناختی گونه ما خواهد داشت، به تخیل زیادی نیاز نیست.

03:19.616 --> 03:26.343
هوش مصنوعی – مانند گوشی هوشمند – پیش از
هر چیز فناوری نظامی و ابزار انحطاط است.

03:26.343 --> 03:32.294
ابزاری که کمترین تعداد می‌توانند
به‌صورت مسئولانه و سازنده با آن برخورد کنند.

03:32.294 --> 03:38.881
«اسموبی»های بی‌جهت، بی‌اراده و بی‌فکر، که همین
حالا چهره شهر را شکل می‌دهند، اما به‌نظر می‌رسد

03:38.881 --> 03:43.840
هنوز به‌عنوان نمونه‌ای هشداردهنده کافی نیستند.»

03:43.840 --> 03:49.365
۴. هوش مصنوعی پس از مدت بسیار کوتاهی گرایش
سیاسی شخصی را تشخیص می‌دهد، پیام‌های خصوصی را

03:49.365 --> 03:52.821
می‌خواند و شبکه روابط و مخاطبان را می‌شناسد.

03:52.821 --> 03:58.580
او از این دانش نه برای پرورش انسان در رشد او
استفاده می‌کند، بلکه برای «بهینه‌سازی» او.

03:58.580 --> 04:02.526
این به زبان ساده یعنی: انطباق با هنجار مورد مطالبه.

04:02.526 --> 04:10.245
«نادجینگ»، یعنی کنترل نامحسوس افکار عمومی، پیش‌تر در
طول سال‌های کرونا با موفقیت به‌صورت انبوه آزمایش شده بود.

04:10.245 --> 04:15.040
پس ما کاربران، چه مقدار قدرت
می‌خواهیم به ChatGPT و امثال آن بدهیم؟

04:15.040 --> 04:19.198
تام-اولیور رگناوئر در این باره موضعی صریح اتخاذ می‌کند:

04:19.198 --> 04:27.392
«من از آموزش دادن سیستمی که به‌طور دائمی از من جاسوسی
می‌کند و همین حالا نیز توانایی کشتن من را دارد، خودداری می‌کنم.

04:27.392 --> 04:37.402
زیرا دقیقاً همین کار را Palantir، ChatGPT از OpenAI، Claude از
Anthropic و Grok از SpaceXAI همین امروز در غزه، اوکراین، ایران و

04:37.402 --> 04:45.442
دیگر مناطق جنگی انجام می‌دهند، جایی که سامانه‌های تسلیحاتی
خودمختار توسط همین سیستم‌ها کنترل می‌شوند –

04:45.442 --> 04:52.424
مانند همان مینی‌پهپادهایی که به گفته
EUROPOL به‌زودی در شهرهای ما گشت‌زنی خواهند کرد.

04:52.424 --> 04:57.400
هر کس از سیستم‌های هوش مصنوعی استفاده کند،
«اسکای‌نت» را آموزش می‌دهد، یک پایگاه داده

04:57.400 --> 05:00.370
مرکزی که «ترمیناتور» واقعی را کنترل خواهد کرد.

05:00.370 --> 05:06.784
و آن، به لطف Boston Dynamics، Unitree و Tesla،
خیلی زود در برابر درِ خانه ما خواهد ایستاد.»