در پاییز سال ۲۰۲۲، در جریان یک خلوت سازمانی و نشستِ دربسته برای مدیران شرکت «OpenAI»، ایلیا سوتسکِوِر، دانشمند ارشد وقت آن، پیکرهای چوبی را به آتش کشید.
آن پیکره — چنانکه حاضران بعدها برای کارین هاو، خبرنگار، روایت کردند — نمادی از «هوش مصنوعیِ ناهمسو» بود؛ یعنی همان نسخهٔ ازکنترلخارجشدهٔ ماشینی که به دست خود میساختند. در حالی که شعلههای آتش پیکره را میبلعید، حاضران شعاری را سر میدادند که بعدها به طنینِ نیمهرسمی این شرکت بدل شد: «نزدیکیِ هوش مصنوعی عمومی را احساس کنید!»
چند ماه پیش از آن واقعه، مهندس دیگری در گوگل به نام بلیک لِموین، علناً اعلام کرده بود که مدل گفتوگوپذیرِ تحت کار او («لامدا» / LaMDA) از مرزهای برنامهنویسی فراتر رفته و به چیزی شبیه به آگاهی دست یافته است؛ بلکه صریحاً دارای روح — به معنای دینی کلمه — است.
لموین چند هفته بعد به اتهام نقض سیاستهای امنیت دادهها از کار اخراج شد و دانشمندانِ علوم شناختی ادعای او را از اساس رد کردند و آن را، با توجه به گرایشهای تصوف مسیحیاش، بازتابی انسانی بر ماشینی آماری دانستند که خود نمیفهمد چه میگوید. اما نکتهٔ قابل توجه، نه خطای فنی لموین، بلکه این بود که او نخستین کسی نبود که به این زبان درغلتید و آخرین نیز نخواهد بود.
هفت سال پیش از آن، مهندس سومی به نام آنتونی لواندوفسکی — که رهبری پروژههای خودروهای خودران را در گوگل و سپس اوبر بر عهده داشت — کلیسایی را با نام «راه آینده» (Way of the Future) بهطور رسمی در ادارهٔ مالیات آمریکا به ثبت رسانده بود. هدف اعلامشدهٔ آن، طبق اسناد تأسیس، «توسعه و ارتقای درک الهیِ مبتنی بر هوش مصنوعی و پرستش آن» بود.
لواندوفسکی مزاح نمیکرد و قصد استعارهای روزنامهنگارانه را نداشت، بلکه نهادی کاملاً قانونی با الهیات، مناسک و شناسنامهٔ مالیاتیِ به رسمیتشناختهشده ساخت.
با این حال، داستان به همان تأسیس ختم نشد؛ لواندوفسکی در پایان سال ۲۰۲۰ کلیسای خود را منحل کرد و داراییهای ناچیز آن را به یک صندوق دفاع حقوقی اهدا نمود؛ گامی که گویی اعترافی ضمنی به عدم استقبال مخاطبان بود.
سپس در نوامبر ۲۰۲۳، احیای مجدد آن را اعلام کرد و مدعی پیوستن حدود ۲۰۰۰ عضو شد؛ هرچند تاکنون هیچ ارزیابی و راستیآزمایی مستقلی از این آمار و هیچ فعالیت میدانیِ ملموسی همسنگ با جنجال رسانهایِ یک دهه پیش صورت نگرفته است. بدین ترتیب، کلیسای هوش مصنوعی متولد شد، مرد و تلاش کرد دوباره برانگیخته شود، بیآنکه به اقبالِ بشارتدادهشده توسط مؤسسش دست یابد.
چه چیزی باعث میشود مهندسان فنی — یعنی پایبندترین مردم به منطق محاسباتی و کدهای قابل تفسیر — تا این اندازه به سمت زبان دینی حرکت کنند؟
پاسخ آسان این است که اینها صرفاً استعاره، شوخی میان برنامهنویسان خسته یا نمایشی فرهنگی ملهم از جشنوارههایی چون «برنینگ من» (Burning Man) است که نخبگان سیلیکونولی شیفتهٔ آن هستند.
این تفسیر تا حدی معقول است، اما نکتهٔ مهمتری را نادیده میگیرد. هنگامی که زبانِ نجات، رستاخیز، خدایان و بتها نزد افرادی تکرار میشود که به هیچ نهاد دینی تعلق ندارند و با این حال اصرار میورزند که در حساسترین لحظات حرفهای خود از آن استفاده کنند، ماجرا از مجاز فراتر رفته و به چیزی شبیه «اعتراف» تبدیل میشود.
این اعتراف، دو وجه دارد:
وجه نخست، اعتراف به ترس است. به آتش کشیدن پیکرهٔ چوبیِ نماد «هوش ازکنترلخارجشده» توسط سوتسکور، یک مزاح نیست، بلکه آیینِ باستانیِ دفع شر است که قدمتی به اندازهٔ خود انسان دارد: شر را در قالبی نمادین و کوچک که قابل کنترل باشد احضار میکنیم تا از مواجهه با شکل واقعی و بزرگتر آن اجتناب ورزیم. این اعتراف ضمنی به آن است که ساختهٔ دستشان، از فهم خودشان بزرگتر شده است.
وجه دوم، اعتراف به نیاز به معنایی فراتر از کد و معادله است.
مهندسی که روزی ۱۴ ساعت روی یک مدل زبانی کار میکند و به اذعان خود نمیتواند دقیقاً توضیح دهد چرا مدل تصمیم خاصی گرفته است، به روایتی بزرگتر از «بهبود ۲ درصدی دقت مدل» نیاز دارد؛ نیاز دارد که بخشی از یک داستان دربارهٔ سرنوشت کل بشریت باشد.
خود سام آلتمن گفته است که دعا نمیکند تا خدا در جبههٔ او باشد، بلکه دعا میکند تا خود در جبههٔ خدا قرار گیرد. این بیش از آنکه زبانی تبلیغاتی باشد، زبان کسی است که به کار خود معنایی وجودی میبخشد، نه صرفاً فنی.
این همان مدخلی است که باید آن را جدی بگیریم: ما نه با یک شوخی روبروییم و نه با پرستش کلامی به معنای کلیسایی آن؛ بلکه در برابر پدیدهای هستیم که شایستهٔ تفسیری جامعهشناختی و عمیقتر از «ثروتمندان عجیبوغریب سیلیکونولی» است.
خدای جدید، هرچقدر هم که برای سازندگانش ترسان یا گیجکننده به نظر برسد، نیازی به تفویض دموکراتیک، پاسخگویی پارلمانی یا بحث عمومی دربارهٔ اینکه چه کسی شایستهٔ تصمیمگیری برای سرنوشت همگان است ندارد. تنها — مانند همهٔ خدایان باستان — به کاهنانی نیاز دارد که آن را برای عامه تفسیر کنند.
وعدهٔ نئولیبرالِ شکستخورده
برای فهم اینکه چرا این مهندسان دقیقاً به این زبان و در این لحظهٔ خاص نیاز پیدا کردهاند، باید ۴۰ سال به عقب بازگشت؛ به وعدهای که نیولیبرالیسم به نسلها داد: بازارها را آزاد کنید، نقش دولت را کاهش دهید، سرمایه را رها سازید و رفاه و آزادی برای همگان جاری خواهد شد.
این یک وعدهٔ شبهنجاتبخش و تبشیری بود؛ وعدهای مبنی بر اینکه خودِ بازار، بدون نیاز به مداخلهٔ گستردهٔ انسانی، از طریق مکانیزمی نامرئی و شبیه به عنایت الهی، جهانی بهتر خواهد ساخت.
این وعده آنگونه که گفته شد محقق نشد. دستمزدها در اقتصادهای بزرگ برای دههها راکد ماند، در حالی که ثروت اقلیتِ معدود چندین برابر شد. بحران مالی سال ۲۰۰۸ آشکار ساخت که «دست نامرئی» که قرار بود همهچیز را تنظیم کند، در واقع برای نجات خود به تریلیونها دلار از اموال مالیاتدهندگان نیاز دارد.
سپس پاندمی کرونا، تورم و بحران اقلیمی — که هیچ راهکار سیاسی واقعی برای آن یافت نمیشود — لایهٔ دیگری از ناامیدی را افزود.
نسلهایی که قرار بود وارث جهانی مرفهتر از پدران خود باشند، خود را در برابر بازارهای کار شکننده، مسکنهای غیرقابل تملک و آیندهٔ اقلیمی نگرانکننده یافتند. وعدهٔ نیولیبرالی مبنی بر اینکه آزادی اقتصادی به تنهایی برای ساختن جهانی بهتر کافی است، در برابر دیدگان کسانی که با آن بزرگ شده بودند شکست خورد.
هنگامی که چنین وعدهٔ بزرگی میشکند، اشتیاق به نجات و رستگاری از بین نمیرود، بلکه به دنبال ظرفی جدید میگردد. و دقیقاً در همینجا هوش مصنوعی وارد میشود.
به جای یک وعدهٔ سیاسی یا اقتصادی که نیازمند اصلاحات نهادی پیچیده و مقاومتِ منافعِ نهادینهشده است، وعدهای فنی، تمیزتر و سریعتر ارائه میشود: ما نیازی به بازتوزیع ثروت، اصلاح نظام مالیاتی یا مواجهه با شرکتهای بزرگ نداریم؛ فقط کمی صبر کنید تا هوش فوقالعاده فرارسد و همهٔ این معضلات را یکجا حل کند. این وعده، نظام موجود را از پاسخگویی معاف میسازد، چرا که حل مسائل را به جای حالِ سیاسی، به آیندهٔ فنی احاله میدهد.
وعدهٔ فنی و وعدهٔ دموکراتیک
بحرانی موازی و کمتر پرداختهشده در ادبیات رایجِ «الهیات سیلیکون» وجود دارد که شاید از نظر سیاسی خطرناکترین باشد: بحرانِ خودِ وعدهٔ دموکراتیک. نظام دموکراتیک مدرن تاریخاً بر پایهای ساده بنا شده است: اینکه آیندهٔ جامعه از طریق گفتوگوی عمومی، رأیگیری و پاسخگویی دورهای صاحبان قدرت تعیین میشود.
این وعده فرض میکرد که مردم، مجتمع در نهادهای نمایندگی خود، رسمکنندهٔ خطوط فردا هستند که همواره بهتر خواهد بود.
اما اعتماد گسترده به این وعده در دو دههٔ اخیر فرسوده شده است. میزان مشارکت در انتخابات در دموکراسیهای دیرپا کاهش یافته و شکاف میان آنچه سیاستمداران وعده میدهند و آنچه واقعاً در برابر نیروهای فراملیِ بازار میتوانند اجرا کنند عمیقتر شده است؛ و پارلمان کندتر از آن به نظر میرسد که بتواند با بحرانهای نیازمند تصمیمگیری سریع — مانند اقلیم و خودِ فناوری — همگام شود.
در این خلاء، هوش مصنوعی نه به عنوان ابزاری تکمیلی در دست دموکراسی، بلکه به عنوان جایگزینی ضمنی برای آن ظاهر شد. به جای آنکه از شهروندان پای صندوقهای رأی دربارهٔ مسیری که میخواهند آیندهٔ فنیشان طی کند پرسش شود، از آنان خواسته میشود اعتماد کنند که نخبگان کوچکی از مهندسان و سرمایهگذاران — که خارج از هرگونه نظارت تقنینی واقعی کار میکنند — آنان را به ساحل نجات خواهند رساند.
در اینجا شکل پاسخگویی سیاسی بهطور بنیادی تغییر میکند. پاسخگویی دموکراتیک فرض میکند مرجعی وجود دارد که میتوان از او پرسید: چه کسی این را تصمیم گرفت؟ چرا؟ و جایگزین چیست؟ اما پاسخگویی در برابر «وعدهٔ فنی» با زبانی تماماً متفاوت صیقل مییابد؛ زبان جبر تاریخی: این آمدنی است و چارهای نیست، و تنها پرسشِ مجاز این است که: چگونه برای آن آماده شویم؟ نه اینکه آیا اصلاً آن را میخواهیم یا چه کسی حق شکلدهی به آن را دارد.
هنگامی که سام آلتمن یا دمیس هاسابیس از «حکمرانی هوش مصنوعی» سخن میگویند، حکمرانی مد نظر آنان غالباً حکمرانی فنی در درون شرکت است، نه پاسخگویی دموکراتیک از بیرون آن.
و این تا حدی توضیح میدهد که چرا بسیاری از تصمیمات این فناوری — که بازارهای کار، آموزش و حریم خصوصی را بازطراحی خواهد کرد — در اتاقهای هیئتمدیرهٔ شرکتهای خصوصی و به دور از پارلمانی که کسی انتخاب کرده باشد گرفته میشود.
با این معنا، «الهیات سیلیکون» نه تنها با دین، بلکه با خودِ سیاستِ دموکراتیک بر سر جایگاهش به عنوان مرجعی که شکل آینده را تعیین میکند رقابت میورزد. تفاوت بنیادی در این است که ادیان سنتی، هرچقدر هم که نفوذشان زیاد باشد، تاریخاً تابع موازنهٔ قدرتهای دیگر میمانند، در حالی که سخنگویان «وعدهٔ فنی» امروزه منابع مالی و محاسباتیای در اختیار دارند که از بودجهٔ تمامِ یک کشور پیشی میگیرد، بیآنکه مکانیزم انتخاب یا عزلی در برابر آن وجود داشته باشد.
از دل این شک، جاذبهٔ «ماشینِ نجاتبخش» پدیدار میشود. اگر سیاستِ انسانی از حل مشکلات وجودی به عظمتِ تغییرات اقلیمی، جنگها و ناعدالتی عاجز است، و اگر پروژهٔ پیشرفت با صبغهٔ قدیمیاش فروغ خود را از دست داده، یک امید باقی میماند: اینکه ماشینی بسیار هوشمندتر از ما بیاید تا آنچه را ما از حلش عاجز بودیم حل کند.
احیای مفهوم پیشرفت
بحران سوم، عمیقتر و قدیمیتر از نیولیبرالیسم و دموکراسی است. تجدد و مدرنیتهٔ غربی تماماً بر این اندیشه بنا شد که تاریخ در خطی صعودی به سوی بهترینها حرکت میکند و هر نسلی به لطف علم، عقل و فناوری، هوشمندتر، بهتر و آزادتر از نسل پیشین خود است. این همان اندیشهٔ «پیشرفت» است که بشریت را طی دو قرن صنعتیشدن، کشفیات پزشکی و گسترش حقوق پیش برد.
با این حال، خودِ قرن بیستم نخستین تردیدهای بزرگ را دربارهٔ این خط مستقیم برانگیخت. دو جنگ جهانی، اردوگاههای نابودی که با آخرین دستاوردهای بوروکراسی مدرن ساخته شده بودند، و بمب اتمی که از والاترین فیزیکِ شناختهشده برای انسان متولد شد. سپس قرن بیستویکم بحران اقلیمی جهانی را افزود که سیاست قادر به مواجههٔ سریع با آن به نظر نمیرسد، همراه با فقر و شکافهای اجتماعی رو به گسترش با وجود تمام پیشرفتهای فنی شگفتانگیز در اطراف ما، و جنگهای ابدی و نسلکشیهای بینهایت...
آشکار شد که فناوری به تنهایی جهانی بهتر را تضمین نمیکند و انسان قادر است از بزرگترین دستاوردهای علمی خود برای نابودی خویش استفاده کند. بدین ترتیب، اندیشهٔ پیشرفت به عنوان مسیری خودکار به سوی بهبود، بخش اعظمی از اعتبار خود را از دست داد.
از دل این تردید، جذابیت «ماشینِ نجاتبخش» رخ مینماید. اگر سیاست انسانی عاجز است، تنها امید این است که ماشینی فوقالعاده هوشمند فرارسد.
این دقیقاً همان چیزی است که ری کورزویل (مخترع و آیندهپژوه) با سخن گفتن از «تکينگی فنی» (Singularity) مد نظر دارد که تا سال ۲۰۴۵ مشکلات مرگ، بیماری و کمیابی را حل خواهد کرد.
این یک پیشبینی علمی نیست، بلکه ازسرگیریِ وعدهٔ پیشرفت است، پس از آنکه وعدهٔ قدیمی دچار آسیب و خللی شده که با وسایل معمول سیاسی و اقتصادی قابل ترمیم نیست.
افسونزدایی یا افسونبخشیِ مجدد به جهان
در آغاز قرن گذشته، ماکس وبر (جامعهشناس آلمانی) دید که مدرنیته در یک مسیر یکطرفه و بازگشتناپذیر حرکت میکند؛ همان چیزی که آن را «افسونزدایی از جهان» نامید. منظور او این بود که علم، بوروکراسی و محاسبات عقلانی جایگزین خدایان، ارواح و معجزات شدهاند و هر پدیدهای اصولاً بدون نیاز به نیروهای غیبی قابل تفسیر و محاسبه است. جهانِ وبر جهانی سرد و کارآمد، اما خالی از شگفتزدگی بود.
پارادوکس در این است که قاطعترین محصول این جهان عقلانی — یعنی هوش مصنوعی — خود به ابزاری بدل شده که بار دیگر در را به روی جادو و افسون گشوده است. مدلهای بزرگ با معادلات ریاضی دقیق ساخته میشوند، اما رفتاری تولید میکنند که خود مهندسانشان نیز نمیتوانند آن را به تمامی توضیح دهند؛ مشکلی که به نام «جعبهٔ سیاه» (Black Box) شناخته میشود: ورودیها و خروجیها را میدانیم، اما آنچه میان آنها میگذرد از توان رهگیری کامل انسانی فراتر میرود.
مهندس با نتیجهای روبرو میشود که نمیفهمد چگونه شکل گرفته، با آنکه خود کد اصلی را نوشته است؛ او در برابر تجربهای قرار میگیرد که به هراس و شگفتی نزدیکتر است تا به محاسبه، و از شگفتی تا آیین، فاصلهای بسیار کوتاه است.
با این معنا، آتش زدن پیکرههای چوبی و شعار «نزدیکی هوش مصنوعی عمومی را احساس کنید» نباید انحرافی از عقلانیت علمی تلقی شود، بلکه نتیجهٔ منطقی آن است هنگامی که به مرزهای نهایی خود میرسد.
عقلانیتی که چیزی بزرگتر از فهم خود تولید میکند، مجبور میشود واژگانی را به وام گیرد که رسماً دیگر به آنها باور ندارد؛ نظیر نجات، روز جزا، کاهنی و آیین. نه به این دلیل که این مهندسان به ایمان دینی سنتی بازگشتهاند، بلکه به این دلیل که نیاز انسانی به تفسیر آنچه از ما فراتر میرود و احساس شگفتی در برابر قدرتی که کاملاً کنترلش نمیکنیم، هرگز از بین نرفته، بلکه تنها آدرس خود را تغییر داده است: از معبد به آزمایشگاه تحقیقاتی.
چه کسی از خودِ وعده سود میبرد؟
پرسشی باقی میماند که بدون آن تصویر کامل نمیشود: این الهیات چگونه به منافع مادی ملموس برای رهبرانش ترجمه میشود؟
پاسخ بیش از آنکه به باور شخصی صاحبان آن به هر عقیدهای مربوط باشد، در طرز کار شرکتهای فناوری مدرن نهفته است. ارزش شرکتهای بزرگ فناوری در بازارهای مالی تنها با سودآوری فعلی آنها سنجیده نمیشود، بلکه با سودهای آینده که سرمایهگذاران انتظار آن را دارند ارزیابی میگردد.
هنگامی که یک شرکت بزرگ سرمایهگذاران را قانع میسازد که در آستانهٔ دستاوردی است که سرنوشت بشریت را تغییر میدهد، به چیزی ارزشمندتر از هر سودآوری دست مییابد: مهلتی طولانی، سرمایهگذاری عظیم و صبری استثنایی از سوی سهامداران در برابر زیانهای عملیاتی سنگینی که در هر بخش دیگری میتوانست به برکناری مدیریت یا سقوط سهام بینجامد.
این دقیقاً کارکرد اقتصادیِ «وعده به آینده» است؛ زیرا حسابِ سود و زیان را تا زمانی نامعلوم به حالت تعلیق درمیآورد، به جای آنکه آن را تابع بودجهٔ امروز سازد. وقتی شرکتی دهها میلیارد دلار صرف مراكز داده، انرژی و تراشهها میکند، در حالی که عواید واقعی آن از این هزینهها هنوز محل بحث گسترده میان تحلیلگران است، روایت دینیِ شبهنجاتبخش دربارهٔ «هوش عمومیِ در راه» به این هزینهها پوششی میدهد که هیچ جدول محاسباتی عادی نمیتواند فراهم کند.
هیچکس از شرکتی که «آینده را میسازد» آن پرسشی را نمیپرسد که معمولاً از هر پروژهٔ تجاری پرسیده میشود: این سرمایهگذاری دقیقاً چه زمانی بازگشت خواهد داشت؟ زیرا خودِ پرسش در برابر پروژهای که به عنوان سرنوشت نوع بشر ارائه میشود، تنگنظرانه به نظر میرسد.
و بدین ترتیب حلقه کامل میشود. مهندسی که پیکرهٔ چوبی را به آتش میکشد، نگرانیِ صادقانهای را نسبت به قدرتی ابراز میدارد که میترسد کنترلش نکند، اما این نگرانی، به محض آنکه به زبان جبر و نجات ترجمه شود، به داراییِ استراتژیکی در دست شرکتِ محل کارش تبدیل میگردد؛ داراییای که تمرکز سرمایه را توجیه میکند، پاسخگویی سیاسی را به تعلیق درمیآورد و تصمیماتِ مربوط به سرنوشت کل جوامع را به امری داخلی تبدیل میسازد که توسط نخبگانی کوچک — که به نام آیندهای هنوزنیامده سخن میگویند — اداره میشود.
خدای جدید، هرچقدر هم که برای سازندگانش ترسان یا گیجکننده به نظر برسد، نیازی به تفویض دموکراتیک، پاسخگویی پارلمانی یا بحث عمومی دربارهٔ اینکه چه کسی شایستهٔ تصمیمگیری برای سرنوشت همگان است ندارد.
تنها — مانند همهٔ خدایان باستان — به کاهنانی نیاز دارد که آن را برای عامه تفسیر کنند، سرمایهگذارانی که اطمینان دارند نجات حتماً میآید، و جامعهای که داوطلبانه یا ناآگاهانه بپذیرد پرسشهای سیاسی خود را به پس از رسیدنِ منجی موکول کند.
دربارهٔ نویسنده:
روزنامهنگار، پژوهشگر علوم اجتماعی و مشاور حل منازعات در چندین نهاد بینالمللی
هشام جعفر روزنامهنگار، پژوهشگر علوم اجتماعی و مشاور حل منازعات در چندین سازمان و نهاد بینالمللی است. وی آثار و تألیفات متعددی به نگارش درآورده که جدیدترین آنها عبارتند از:
نبرد بر سر روح اسلام در منطقهٔ عربی (۲۰۲۳)
مصرِ خسته و رنجور؛ بازنگری، شرطِ اصلاح (۲۰۲۴)
از خیزشها تا طوفانالاقصی (۲۰۲۴)
جهانِ ترامپ (۲۰۲۵)
جهانِ پس از غزه (۲۰۲۶)
وی بهطور منظم با نگارش یادداشت و مقاله در چند رسانه و پلتفرم مطبوعاتی مشارکت دارد و همچنین راهنماهای کاربردی متعددی را در زمینهٔ حل و تحول منازعات تدوین کرده است.
نظرات