پیروزی فنآوری‌های جدید: پیش به سوی عصر حجر

آندری بیستریتسکی[1]

12 مارس 2025

تنها می‌توان حیرت‌زده شد که چگونه شگفت‌انگیزترین اختراعات، پیشرفت خارق‌العاده و در عین حال بربریت خونین وحشیانه، بی‌رحمی و خشونت هیولایی همچنان در دنیای مدرن وجود دارد. اما در واقعیت هیچ چیز شگفت‌انگیزی در این مورد نیست. همیشه در طول تاریخ بشر اینطور بوده است. گاهی اوقات پیشرفت‌ها شیوه زندگی مردم را به طور اساسی تغییر داده که کمتر از وحشیانه‌ترین جنگ‌ها نیست. و سوال اینجاست که هوش مصنوعی چه چیزی برای ما به ارمغان خواهد آورد؟ پیرامون این موضوع دیدگاه‌های مختلفی وجود دارد.

ما در مورد آینده بسیار صحبت می‌کنیم؛ در مورد تأثیر عوامل مختلف بر این آینده (آرزوهای سیاسی رهبران، بی‌ثباتی روحیه نخبگان یا توانایی آنها برای تثبیت)، در مورد منابع طبیعی، درباره برخی از شرایط عینی روابط بین‌الملل، که اغلب با قابلیت‌های فنی کشورهای مختلف ارتباط دارد و در نهایت، در مورد نیروی نظامی، که به روحیه سربازان محدود نمی‌شود بلکه تا حد زیادی به کیفیت سلاح های همین سربازان بستگی دارد (حتی ممکن است با سلاح های خوب آنها شجاع‌تر هم باشند) و خدا می‌داند چه چیز دیگری.

اما همه اینها با هم بر اساس اختراعات شگفت‌انگیز و متحول‌کننده زندگی است که بشر در طول تاریخ خود به آنها دست یافته است: آهن، باروت، سفینه‌های فضایی، مهندسی ژنتیک، چاپ و چیزهای دیگری به همان اندازه مهم. ایجاد هوش مصنوعی البته، یکی از آن اختراعات ظاهرا سرنوشت‌ساز است که می‌تواند بر توسعه بشریت و تمام ساختارهای اجتماعی و سیاسی آن تأثیر بگذارد.

تقریباً تمام اختراعات، از اولین روزهای پیدایش انسان هوشمند (هومو ساپینس)، البته نه تنها به پیشرفت بشریت، بلکه به آنچه می‌توان آن را رقابت درون گونه‌ای نامید نیز خدمت کرده است. یعنی اختراعات به برخی افراد کمک کرد تا در مقایسه با دیگران به نوعی پیشروتر باشند. مردی که در ساخت تبر سنگی از دیگران مهارت بیشتری داشت، می‌توانست سریع‌تر از دیگران برای خود هیزم بتراشد، حیوانی را بکشد و سپس در مقابل هم قبیله‌ها خودنمایی کند و در موارد دیگر. به طور کلی، اولین ابزار کار، بلافاصله منجر به نابرابری شد (اگرچه انصافاً متذکر می‌شوم: در ابتدا این نابرابری کاملاً در سطح متوسط ‌بود).

بنابراین شکی نیست که هوش مصنوعی مانند هر اختراع مهم دیگری، نقش بسزایی در تسریع رقابت اجتماعی درون ما خواهد داشت. زمانی، کنراد لورنز، اخلاق‌شناس بزرگ، خاطرنشان کرد که مبارزه درون گونه‌ای بسیار مهم‌تر از مبارزه بین گونه‌ای است. یکی از نمونه‌های آن، دویدن ماهی‌های رنگارنگ در دریای استوایی در نزدیکی صخره‌های مرجانی است. ماهی راه راه و ماهی قرمز، با یک دم بلند و یک دم کوتاه، آنها با آرامش بخش‌های مختلف مرجان را نیش می‌زنند. هیچ خصومتی بین آنها نیست، با هم تداخلی ندارند، اما همین که مثلاً دو تا ماهی قرمز در یک جا باشند، آرامش به هم می‌خورد. مسئله این است که آنها یک چیز را می‌خورند و هر بوته مرجانی فقط می‌تواند یکی را تغذیه کند، جایی برای دو نفر نیست.

اوضاع برای مردم هم بهتر و هم بدتر است. از یک سو، همه ما شبیه هم هستیم، اما از سوی دیگر، برابری کامل غیرممکن است و هرگز منابع کافی برای همه وجود ندارد. انسان‌ها جوامع بسیار پیچیده‌ای را ایجاد کرده‌اند که در آنها یاد گرفته‌اند رقابت اجتماعی اجتناب ناپذیر را کمابیش ماهرانه تنظیم کنند. با این حال، توسعه و اختراعات دائماً چالش‌های جدیدی را ایجاد می‌کند.

بنابراین، ظهور هوش مصنوعی به عنوان یک منبع جدید و بالقوه بسیار قدرتمند، ناگزیر مستلزم افزایش رقابت بین افراد و احتمالاً تغییر در کیفیت آن خواهد بود.

این سوال پیش می‌آید: چه نوع رقابتی خواهد بود؟ در اینجا گزینه‌های محتمل متفاوتی وجود دارد و برخی از آنها ممکن است بسیار دراماتیک باشند.

به عنوان مثال ظاهر خودروها بلافاصله سلسله مراتب جدیدی را در جامعه ایجاد کرد. برخی از مردم سوپراسپرت‌های گران‌قیمت را می‌رانند، در حالی که برخی دیگر با خودروهای معمولی رانندگی می‌کنند. اما در عین حال، توانایی رانندگی بهتر از دیگران، مزیت اجتماعی خاصی ایجاد نمی‌کند. شغل راننده را به سختی می‌توان رویایی دانست که تحقق آن نمادی از موفقیت اجتماعی باشد. کاملا برعکس است. البته، مگر اینکه در مورد یک راننده فرمول 1 در کلاس لوئیس همیلتون[2] یا فرناندو آلونسو[3] صحبت کنیم.

ظهور رایانه به توسعه حرفه‌های جدید کمک کرده است. اما پیشرفت در این حرفه‌ها تا نردبان شغلی، گرچه البته به توانایی استفاده از رایانه بستگی دارد، اما حیاتی نبود. برای مثال، صلاحیت بهترین تراشکار برای مدیر کارخانه‌ شدن کافی نیست، به همین ترتیب، مدارک یک متخصص IT، یک متخصص کامپیوتر، در سطح پایین و متوسط ‌خواهند بود. رده‌های بالای این حوزه بر اساس اصول عادی و انسانی شکل می‌گیرند: مهارت ارتباطی، پشتکار، ویژگی‌های اخلاقی و ارادی و غیره.

در همان زمان، اختراعاتی وجود داشت که رقابت را به حدی تشدید کرد که کل چشم‌انداز انسان‌زادی[4] می‌توانست تغییر کند.

روزی روزگاری، نژادهای مختلف مردم روی زمین با یکدیگر همزیستی داشتند. بنابراین، کرومانیون‌ها (در اصل، یعنی ما) در کنار نئاندرتال‌ها زندگی می‌کردند (تا حدی، ما هم همینطور، اما به میزان بسیار کم). پس از سال‌ها زندگی مشترک، نئاندرتال‌ها مردند و یک توضیح برای مرگ آنها این است که کرومانیون‌ها در استفاده از ابزارها و برقراری ارتباط با یکدیگر مهارت بیشتری داشتند. البته توضیحات دیگری نیز وجود دارد. در سطح دانش فعلی ما پاسخ دقیقی نداریم. تنها چیزی که باقی می‌ماند این است که منتظر مداخله هوش مصنوعی باشیم.

کشف آهن مسیر جنگ‌ها را تغییر داد و منجر به سقوط تمام قدرت‌ها و رشد بردگی در نتیجه افزایش کارایی سلاح ها و افزایش تعداد اسیران شد.

کارشناسان از تأثیر اسب‌ها، رکاب‌ها و ارابه‌ها در ساختار اجتماعی و تشکیل سلسله مراتب اجتماعی-سیاسی می‌گویند.

چیزی که می‌خواهم بگویم این است که همه اختراعات یکسان نیستند. برخی اختراعات، اگرچه بر زندگی جامعه تأثیر می‌گذارند، اما به عواقب سریع و ریشه‌ای منجر نمی‌شوند، این در حالی‌ست که برخی دیگر می‌توانند بسیار خطرناک‌تر باشند.

به عنوان مثال، این دیدگاه وجود دارد که بسیاری از فاجعه خمرهای سرخ و کامبوج با این واقعیت مرتبط است که کوهنوردان این کشور که در عصر نیمه حجر زندگی می‌کردند، دست به سلاح گرم زدند. آنها هیچ تجربه‌ای با آن نداشتند، فرهنگ آنها دستورالعمل یا مفاهیمی را برای استفاده از چنین ابزار خشونت ایجاد نکرده بود. البته با یک چماق می‌توانید افراد زیادی را بکشید، اما با مسلسل بسیار راحت‌تر است. البته بدبختی کامبوج را نمی‌توان تنها با ظاهر سلاح گرم توضیح داد، اما آنها از اسلحه شلیک کردند. بدون آنها نمی‌شد. بنابراین اختراعات مهم هستند. در یک زمان، اریک اشمیت یکی از معماران محیط اطلاعات و ارتباطات مدرن، خاطرنشان کرد که اختراع اینترنت به یک آزمایش خطرناک و ضعیف با کنترل هرج و مرج تبدیل شد و ساندار پیچای، [5] مدیر عامل گوگل، گفت که تغییر به سمت هوش مصنوعی بیشتر از تغییر به سمت رایانه‌های شخصی و دستگاه‌های تلفن همراه است.

سوال این است که چقدر می‌توانیم از هوش مصنوعی انتظار تأثیر داشته باشیم؟

البته منظور من هیچ قیام ماشینی، جنگ بین ربات‌های هوشمند و مردم، یا دیگر تخیلات فیلم‌سازان مبتکر نیست.

مشکل اصلی در مردم است، در تمایل غیرقابل نابودی آنها برای تسلط اجتماعی، برای برتری بر دیگران.

نکته همانطور که من متوجه شدم این است که استفاده از هوش مصنوعی توسط یک فرد فرآیندی است که در آن شخص در واقع یک دستیار فکری جهانی برای خود ایجاد می‌کند، یک ماشین قدرتمند که توانایی‌ها و بهره‌وری فرد را افزایش می‌دهد.

شخصی در حال کار بر روی یک مقاله، یک پایان‌نامه یا به سادگی در حال تجزیه و تحلیل داده‌هاست. هوش مصنوعی می‌تواند به فرد کمک کند تا این کار را سریعتر انجام دهد. در بسیاری از موارد، هوش مصنوعی قادر به پردازش داده‌های بیشتری از آن چیزی است که یک پژوهشگر معمولی می‌تواند در طول عمرش مطالعه کند. در واقع، هوش مصنوعی می‌تواند به توسعه فکری انسان تبدیل شود. همانطور که یک اسلحه به شما اجازه می‌دهد از فاصله کیلومتری ماشه را بکشید که انجام آن فقط با قدرت عضلانی، غیرممکن است.

علاوه بر هر چیز دیگری، هوش مصنوعی خیلی زود در میدان جنگ ضروری خواهد شد. حتی با استعدادترین افسر نظامی هم نمی‌تواند با مدیریت عملیاتی نبردی کنار بیاید که در آن هزاران یا حتی ده‌ها هزار نوع تجهیزات مختلف، صدها هزار یا حتی میلیون‌ها نفر یا ربات‌های رزمی که ممکن است به زودی به میان بیایند، درگیر شوند. هوش مصنوعی آموزش دیده توسط این افسر می‌تواند کمک شایانی را ارائه دهد و تمام داده‌ها را در یک دقیقه یا ثانیه در نظر بگیرد؛ بستگی به سرعت دستگاه دارد.

اما من در مورد مسائل فنی صحبت نمی‌کنم؛ آنچه من می‌گویم این است که به دلیل منحصر به فرد بودن، هوش مصنوعی می‌تواند به افزایش کاملا باورنکردنی نابرابری کمک کند.

اولاً، ممکن است افرادی وجود داشته باشند که به طور قابل توجهی بهتر از دیگران به هوش مصنوعی تسلط داشته باشند و با آن هماهنگ شده‌اند گویی مغز و دست جدیدی دریافت کرده و تبدیل به افرادی با بالاترین درجه شدند. دیگران تقریباً ناگزیر از آنها عقب خواهند ماند. در واقع، یک جامعه فراملی متشکل از افراد دارای استعدادهای فکری استثنایی ظهور خواهد کرد و درام ناپدید شدن نئاندرتال‌ها که توسط کرومانیون‌ها آواره شدند، ممکن است تکرار شود. کسانی که از نظر فکری عقب می‌مانند، یعنی نمی‌توانند با استثمار هوش مصنوعی کنار بیایند، ممکن است به معنای واقعی کلمه به افراد درجه دوم تبدیل شوند.

ثانیاً، کشورهایی که قادر به استفاده و ایجاد هوش مصنوعی و گردآوری تیم‌های متخصص مطمئن هستند، نسبت به کشورهای کمتر توسعه‌یافته به چنان مزیتی دست خواهند یافت که سلاح‌های هسته‌ای نمی‌توانند آن را فراهم کنند. استفاده از سلاح‌های هسته‌ای بسیار ناخوشایند است، دست و پا گیر است، عواقب آن وخیم است، اما هوش مصنوعی می‌تواند دیگران را دستکاری کند تا کسی متوجه نشود. البته این هوش مصنوعی نیست که دستکاری می‌کند، بلکه شخصی است که بر آن تسلط دارد.

ثالثاً، به طورکلی شما می‌توانید با درک واقعیت توسط توده‌ها به مشکل بزرگی برخورد کنید. به عبارت دقیق‌تر، برخی از مردم این فرصت را خواهند داشت که تصویر جهان را در چشم دیگران شکل دهند و از هر «ماتریکس» [6] بدتر خواهد بود. به اضافه آنکه این تهدید در حال حاضر محقق شده است: بسیاری از مردم در واقع توانایی تشخیص دروغ از حقیقت، اطلاعات قابل اعتماد از اطلاعات غیر قابل اعتماد را ندارند در حالی که هنوز به اندازه کافی روزنامه‌نگاران وفادار و خدمتگزار برای چنین عملیات ساده‌ای با افکار عمومی وجود دارد، نگاه کنید که آنها با چه مهارتی حقایق را در بسیاری از کانال‌ها، به عنوان مثال در سی. ان. ان مدیریت می‌کنند. معرفی فعال هوش مصنوعی به محیط اطلاعات و ارتباطات، امکان ایجاد جهان‌های خیالی یا دروغین را فراهم می‌کند که فرار از آن بسیار دشوار خواهد بود.

با تبدیل شدن هوش مصنوعی به ابزاری روزمره، خطرات زیادی به وجود می‌آید. اجازه دهید تکرار کنم، خطرات مرتبط با افرادی که از هوش مصنوعی استفاده می‌کنند. خود هوش مصنوعی در آینده قابل پیش‌بینی خطر خاصی برای ما ایجاد نمی‌کند بلکه برعکس، کمک می‌کند.

بنابراین به نظر من بشریت باید احتیاط کند. احتمالا بایستی کنترل مضاعف وجود داشته باشد. از یک طرف، خود معماری هوش مصنوعی در ابتدا باید محدودیت‌هایی را شامل شود و از سوی دیگر، ابزار کنترل نیز تا حدی باید بر روی صاحبان این هوش مصنوعی‌ها، یعنی افراد باشند.

آشکار است که اجرای چنین اقدامات گسترده‌ای عملا غیرممکن است، زیرا همه اینها مستلزم توافق گسترده بین‌المللی است که به طور واقعی وجود ندارد و در آینده نزدیک هم انتظار نمی‌رود. بلکه باید انتظار استفاده وحشیانه از هوش مصنوعی در میدان جنگ را داشته باشیم.

داریو آمودی[7] مدیرعامل کمپانی آنتروپیک، اخیراً خاطرنشان کرد که قابلیت‌های هوش مصنوعی باید به عنوان ظهور یک دولت جدید در صحنه جهانی تلقی شود که منحصراً افراد بسیار باهوش در آن زندگی می‌کنند، دولتی که مرزی ندارد و تابعیت آن به هیچ وجه ثبت نشده است و چنین نیرویی می‌تواند آرزوهای خود را به هر جایی هدایت کند و با در نظر گرفتن خصوصیات فرد مشخص می‌شود که کجاست؛ به سوی یک سلطه جدید و یک نابرابری جدید.

من تمایلی به دست بالا گرفتن خطر چنین تحولی ندارم. این احتمال به دلایلی زیاد نیست، مردم هم در میل به خیر و هم گناه بسیار ثابت‌قدم هستند. اما هنوز یک خطر جدید وجود دارد، یک تهدید جدید و سپس می‌توانیم شکل‌گیری نوع جدیدی از جامعه را ببینیم که در آن طبقه‌بندی بر اساس ویژگی‌های بیولوژیکی؛ قوی‌تر یا بلندتر، ملاک نیست همچنین پارامترهای خارجی مثل ثروت، موقعیت، شهرت، داشتن سلاح‌های قوی‌تر یا تهاجم طبیعی. خیر، این طمع یا میل احمقانه برای برتری بر دیگران نیست که نظم اجتماعی جدید را شکل خواهد داد، اساس آن ممکن است اتحاد روشنفکران بلندپرواز و تحصیل‌کرده‌ای باشد که تصمیم گرفته‌اند در درجه اول بر سازماندهی تمرکز کنند. از این چه حاصل خواهد شد، خدا می‌داند. ببینیم.

به طور کلی، همزیستی خاصی بین انسان و ماشین به خودی خود نه خیر است و نه شر. و ما باید هوش مصنوعی را از هر راه ممکن توسعه دهیم. اما با این حال، نباید خطرات و سناریوی منفی را فراموش کنیم. احتمال یک کابوس جدید و شگفت‌انگیز در عصر حجر روباتیک وجود دارد.

منبع:

https://ru.valdaiclub.com/a/chairman-speech/vperyed-k-kamennomu-veku/