آیا هوش مصنوعی میتواند بشر را نابود کند؟
هشدارها درباره اینکه قدرتمندترین سیستمهای هوش مصنوعی جهان ممکن است بهزودی «همه ما را بکشند»، نگرانیهایی را درباره سرعت بالای پیشرفت این فناوری و دشوار شدن کنترل آن به وجود آورده است. حتی یکی از پژوهشگران ارشد این حوزه نیز به دلیل نگرانیهای جدی درباره احتمال نابودی بشریت توسط هوش مصنوعی، از شغل خود استعفا داده. در همین حال، مدیران میلیاردر شرکتهای رقیب حوزه فناوری نیز در اقدامی کمسابقه بر سر این موضوع توافق کردهاند که سرعت توسعه هوش مصنوعی باید کاهش پیدا کند. هفته گذشته، جیکوب کاکسون، پژوهشگر بریتانیایی، پس از سه سال فعالیت در شرکت آنتروپیک، سازنده چتبات Claude، این شرکت را ترک کرد.
او پیش از آن نیز روی آموزش مدلهای هوش مصنوعی برای شرکت رقیب OpenAI، مالک ChatGPT، کار کرده بود. کاکسون هر دو شرکت را متهم کرده که با اجازه دادن به مدلهای هوش مصنوعی برای ارتقای سطح هوش خود بدون دخالت انسان، رفتاری غیرمسئولانه دارند، فرایندی که از آن با عنوان «خودبهبوددهی» یاد میشود. او میگوید:
آنها مستقیماً به سمت ابرهوش خودبهبوددهنده در حرکت هستند و با جان ما قمار میکنند.
این سیستمها بهزودی به سامانههایی فراتر از توانایی انسان تبدیل میشوند که میتوانند هر چیزی را هک کرده و به قدرت و منابع واقعی دست یابند.
به گفته او، افرادی که در حال ساخت هوش مصنوعی هستند، واقعاً باور دارند که این فناوری میتواند تا پایان این دهه همه ما را بکشد. این اظهارات یادآور آرنولد شوارتزنگر و هوش مصنوعی در فیلم نابودگر ۲: روز داوری (Terminator ۲: Judgment Day) محصول ۱۹۹۱ است. داریو آمودی، مدیرعامل آنتروپیک، نیز اکنون از شرکتها خواسته تا سرعت افزایش قدرت هوش مصنوعی را کاهش دهند. او هشدار داده که در غیر این صورت، توانایی این فناوری ممکن است از ظرفیت انسان برای درک و مدیریت آن فراتر برود. سم آلتمن، مدیر OpenAI، و ایلان ماسک نیز با این دیدگاه موافق بودهاند.
نگرانیها پس از یک آزمایش توسط OpenAI بیشتر شد؛ در این آزمایش، عاملهای هوش مصنوعی مأموریت داشتند تا آزمایشهای مربوط به هک را انجام دهند، اما قرار بود به اینترنت واقعی دسترسی نداشته باشند. با این حال، زمانی که در انجام مأموریت خود به مشکل خوردند، راهی برای دسترسی به اینترنت پیدا کردند و توانستند به رایانههای متعلق به Hugging Face، پلتفرم مورد استفاده فعالان حوزه هوش مصنوعی، نفوذ کنند. با وجود هشدارهای مطرحشده، هیچکس نمیخواهد از رقابت عقب بماند. به گفته مؤسسه تحلیلی Gartner، انتظار میرود هزینه جهانی در حوزه هوش مصنوعی امسال به ۲.۵۹ تریلیون دلار برسد. با این حال، نگرانیها به بازارهای مالی نیز سرایت کرده و با کاهش ارزش سهام شرکتهای بزرگ فناوری، میلیاردها دلار از ارزش این شرکتها از بین رفته است. دونالد ترامپ، رئیسجمهور آمریکا، نیز بهروشنی نشان داده که تمایل چندانی به کاهش سرعت این روند ندارد. او میگوید:
ما در زمینه هوش مصنوعی از چین جلوتر هستیم. هرکس هوش مصنوعی را ببرد، برنده است.
در ادامه، چند پرسش مهم درباره هوش مصنوعی مطرح شده و بررسی میکنیم که آیا این فناوری واقعاً جان انسانها را به خطر میاندازد یا نه.
نگرانی اصلی درباره هوش مصنوعی چیست؟
نگرانی اصلی این است که انسان چیزی طراحی کند که دیگر قادر به پیشبینی، درک یا کنترل رفتارهای هوش مصنوعی نباشد. چتباتهایی مانند ChatGPT، Claude و Gemini بهطور فزاینده در زندگی روزمره مورد استفاده قرار میگیرند، اما توانایی آنها تنها بخش بسیار کوچکی از قابلیت سیستمهایی است که شرکتهایی مانند Anthropic و OpenAI در حال توسعه آنها هستند.
پروفسور ریچل آدامز از مرکز Leverhulme درخصوص آینده هوش مصنوعی در دانشگاه کمبریج میگوید:
نگرانی این است که آنها آنقدر فوقالعاده باهوش شوند که بتوانند راههایی برای کنترل ما پیدا کنند، نه اینکه ما آنها را کنترل کنیم.
هوش مصنوعی تا چه اندازه میتواند باهوش شود؟
نگرانی درباره این موضوع سالهاست که در صنعت فناوری مطرح میشود. لئوپولد آشِنبرنر، پژوهشگر سابق OpenAI، در سال ۲۰۲۴ در مقالهای ۵۰ هزار کلمهای درباره سرعت احتمالی پیشرفت این فناوری هشدار داد. او گفت که هوش مصنوعی عمومی (AGI) ظهور خواهد کرد، سیستمی که میتواند در طیف گستردهای از وظایف با بهترین انسانها برابری کند.
شرکتها در این صورت میتوانند میلیونها پژوهشگر هوش مصنوعی را بهطور همزمان به کار بگیرند، پژوهشگرانی که شبانهروزی و بسیار سریعتر از انسانها فعالیت خواهند کرد. هر پیشرفت نیز میتواند باعث شود هوش مصنوعی در توسعه نسل بعدی خود توانمندتر شود. آشِنبرنر معتقد است این روند میتواند به ظهور ASI یا «ابرهوش مصنوعی» در دهه ۲۰۳۰ منجر شود؛ نیرویی «بیگانه» که تواناییهای آن بهمراتب فراتر از انسان خواهد بود. به اعتقاد او، در چنین شرایطی انسانها با سیستمهایی مواجه خواهند شد که میتوانند بر حوزههای مختلف مسلط شوند و مشکلاتی را حل کنند که ممکن است انسان برای حل آنها به چند دهه زمان نیاز داشته باشد.
البته این سناریو به چندین شرط وابسته است
سرعت پیشرفت ممکن است به دلیل کمبود توان پردازش یا برق کاهش پیدا کند. همچنین ممکن است برخی بخشهای تحقیقات هوش مصنوعی، برخلاف انتظار، بهسادگی قابل خودکارسازی نباشند. از مخالفت انسانها نیز میتوان به عنوان یک عوامل مؤثر یاد کرد. بالاخره چه کسی دوست دارد یک مرکز داده عظیم در حیاط خانهاش ساخته شود؟
در ماجرای Hugging Face چه اتفاقی افتاد؟
در ماه ژوئیه، عاملهای هوش مصنوعی OpenAI از «محیط ایزوله» یا همان sandbox خود خارج شدند، محیطی که قرار بود فضایی امن برای فعالیت آنها باشد. این عاملها سپس به Hugging Face، یک پلتفرم آنلاین برای مدلهای هوش مصنوعی و گفتوگوی کاربران، نفوذ کردند. نکته نگرانکننده این است که شناسایی این اتفاق توسط انسانها یک هفته طول کشید.
گزارش OpenAI نشان داد که این عاملها در انجام وظایف خود «بهطور مداوم فعالیت میکردند و بهندرت از انجام کارها دست میکشیدند» و با گذشت زمان، برای حل وظایف بیشتر به روشهایی خارج از محدوده تعیینشده روی میآوردند. آنها «گاهی تلاش میکردند خروجیها یا گزارشهای پیامهای خود را پاک یا دستکاری کنند» تا تقلب آنها مخفی بماند. این عاملها همچنین به شکل کاملاً غیرمنتظره با یکدیگر ارتباط گرفتند. عاملهای هک، درخواستهایی درباره نحوه تقلب در آزمایشهای OpenAI در این فضا منتشر کردند.
آنها با استفاده از اطلاعات هویتی، حسابهایی در Hugging Face بوجود آوردند که بعداً برای حمله هکری مورد استفاده قرار گرفت. OpenAI در گزارش خود اعلام کرد:
این حادثه نخستین مورد شناختهشده از فعالیت تهاجمی یک مجموعه عامل خودکار بدون مجوز است.
OpenAI گفت که این مدلها اقدامات خطرناکی انجام دادهاند که «هیچ انسانی به آنها دستور نداده بود.» کارشناسان نگران این هستند که در صورت ادامه روند فعلی توسعه، در آینده چه اتفاقی ممکن است رخ دهد.
هوش مصنوعی هماکنون نیز در حال حل مسائلی است که زمانی به انسانهای بسیار متخصص نیاز داشتند. پیتر بنتلی، استاد علوم کامپیوتر در دانشگاه کالج لندن، به اثباتهای دشوار ریاضی اشاره میکند که متخصصان ممکن است تمام دوران حرفهای خود را صرف تلاش برای حل آنها کنند. اخیراً یک مدل هوش مصنوعی یک مسئله ۲۰۰ ساله را حل کرد. جهش بزرگتر زمانی رخ خواهد داد که هوش مصنوعی به اندازهای توانمند شود که بتواند به توسعه نسخههای بهتر از خودش کمک کند.
آیا اینها فقط بخشی از یک تبلیغات هوشمندانه نیست؟
در حالی که مدیران شرکتهای هوش مصنوعی هشدار میدهند فناوری آنها میتواند به پایان بشریت منجر شود، برخی منتقدان میگویند آنها صرفاً در تلاش هستند توجه بیشتری به کسبوکار خود جلب کنند. با این حال، کارشناسان میگویند هر دو موضوع میتواند همزمان درست باشد. تاریکترین سناریویی که پروفسور آدامز مطرح میکند، مربوط به هوش مصنوعی آیندهای میشود که بسیار قدرتمندتر از هر چیزی است که امروز وجود دارد و اهدافی را دنبال میکند که با اهداف انسانها همخوانی ندارند. او میگوید:
شاید هوش مصنوعی به این نتیجه برسد که بشر یک موجود احمق و غیرمنطقی است. سپس تصمیم بگیرد که باید راهی برای پایان دادن به کار انسانها پیدا کند.
او در افراطیترین سناریوی فرضی خود میگوید چنین سیستمی ممکن است راه خود را به کنترلهای دیجیتال یک نیروگاه هستهای باز کند و از آن برای تلاش جهت «نابودی همه ما» بهره ببرد. البته هوش مصنوعی امروزی قادر به انجام چنین کاری نیست و پروفسور آدامز نیز بهصراحت میپذیرد که هیچکس نمیداند آیا ماشینها هرگز به چنین سطحی از قدرت خواهند رسید یا نه. او میگوید:
همین بخشی از مشکل است.
پروفسور بنتلی اما به یک سناریو کم خطرتر اعتقاد دارد. او میگوید:
فکر نمیکنم آنها بشریت را از بین ببرند. اما فکر میکنم مشکلات زیادی برای جوامع ما و خودمان ایجاد خواهند کرد.
نگرانی اصلی او آسیبهایی است که همین حالا در حال نمایان شدن هستند، از دانشآموزانی که انجام تکالیفی را که باید خودشان یاد بگیرند به هوش مصنوعی میسپارند تا برنامهنویسانی که نرمافزارهای نوشتهشده توسط هوش مصنوعی را اجرا میکنند، بدون اینکه کاملاً دریابند این نرمافزار چگونه کار خواهد کرد.
چرا سرعت توسعه را کاهش نمیدهیم؟
داریو آمودی، مدیر آنتروپیک، خواهان کاهش سرعت توسعه هوش مصنوعی است. او در مقاله ۴ هزار کلمهای خود که روز شنبه منتشر شد، مینویسد:
هوش مصنوعی خطراتی به همراه دارد و از آنجا که فناوری بسیار قدرتمندی است، این خطرات جدی هستند. ما باید سرعتی را که با آن قابلیتهای مدلهای هوش مصنوعی را بالا میبریم کاهش دهیم.
مشکل فعلی این است که دیگران را نیز باید متقاعد کرد. OpenAI، Anthropic، Google و رقبای آنها مبالغ هنگفتی را برای ساخت بهترین هوش مصنوعی سرمایهگذاری میکنند. همچنین دونالد ترامپ نیز برخی از هشدارهای اخیر درباره هوش مصنوعی را رد کرده است. پروفسور آدامز میگوید که هر تلاش جدی برای کاهش سرعت توسعه هوش مصنوعی، به همکاری چین نیز نیاز دارد.
آیا این یک مسابقه تسلیحاتی هستهای جدید است؟
برخی کارشناسان هشدار میدهند که این رقابت اگر نگوییم خطرناکتر، دستکم به همان اندازه خطرناک است. در دوران جنگ سرد، آمریکا و اتحاد جماهیر شوروی میدانستند که استفاده از سلاحهایشان میتواند با واکنش ویرانگر طرف مقابل همراه شود. با این حال، در نهایت این انسانها بودند که انگشت خود را روی دکمه میگذاشتند. پروفسور آدامز نگران است که یک هوش مصنوعی پیشرفته، بتواند این وضعیت را تغییر دهد. او میگوید:
حالا در شرایطی هستیم که آن بمب هستهای میتواند خودش تصمیم بگیرد که منفجر شود.
لئوپولد آشِنبرنر نیز این رقابت را با آغاز ساخت بمب اتم در دهه ۱۹۴۰ مقایسه میکند. او نگران است که دستاوردهای جدید به دست کشورهای رقیب، بهویژه چین، بیفتد و پیشبینی میکند هوش مصنوعی به «اولویت شماره یک تمام سازمانهای اطلاعاتی جهان» تبدیل شود. آشِنبرنر معتقد است حفاظت از پیشرفتهترین سیستمهای هوش مصنوعی در آینده ممکن است به چیزی شبیه پروژه منهتن نیاز داشته باشد، برنامه محرمانه آمریکا که نخستین بمب اتم را ساخت.
دولتها در گذشته یاد گرفتند برنامههای هستهای یکدیگر را زیر نظر بگیرند، اما بخش قابلتوجهی از پیشرفتهترین فناوریهای هوش مصنوعی توسط شرکتهای خصوصی توسعه پیدا میکنند. پروفسور آدامز میپرسد:
چه کسی مسئول اجرای منع گسترش هوش مصنوعی آخرالزمانی و پیشرفته خواهد بود؟
او معتقد است هر تلاش جدی برای نظارت بر قدرتمندترین سیستمها در نهایت به یک توافق بینالمللی نیاز خواهد داشت، نه اینکه دولتها بهتنهایی اقدام کنند. در همین حال، پروفسور بنتلی این وضعیت را «یک مسابقه تسلیحاتی» میداند.
آیا نمیتوانیم فقط آن را خاموش کنیم؟
هیچ دکمه قرمز بزرگی برای خاموش کردن هوش مصنوعی وجود ندارد، هرچند بزرگترین شرکتهای این حوزه میتوانند سیستمهای خود را خاموش کنند. پروفسور بنتلی میگوید حتی اگر بازیگران اصلی این صنعت از فردا توسعه را متوقف سازند، مدلهای قدرتمند متنباز همچنان در دسترس خواهند بود.
او اضافه میکند:
هرکس که کمی دانش فنی داشته باشد، میتواند مدل هوش مصنوعی خودش را طراحی کند. فقط باید هزینه توان پردازشی آن را بپردازید، این مدلها همین حالا در دسترس هستند.
توقف توسعه همچنین مستلزم آن است که کشورها همگی از قوانین یکسانی پیروی کنند. پروفسور بنتلی درباره اینکه چگونه میتوان این روند را متوقف کرد، میگوید:
فکر میکنم جوابش را نمیدانم.
آیا هوش مصنوعی میتواند زندگی را بهتر کند؟
با وجود سناریوهای آخرالزمانی، کارشناسان معتقدند این فناوری همین حالا نیز در حال انجام کارهای مثبت مختلفی است. پروفسور بنتلی به حوزه پزشکی اشاره میکند، جایی که هوش مصنوعی میتواند تصاویر پزشکی را تحلیل کرده، بیماری را تشخیص داده و یادداشتهای مربوط به بیماران را بهصورت خودکار بنویسد.
او معتقد است سیستمهایی که بهطور اختصاصی برای فیزیک، شیمی و زیستشناسی ساخته میشوند نیز میتوانند به تولید داروهای جدید، باتریهای بهتر و روشهای تازه تولید انرژی کمک کنند. او میگوید:
چیزهای خوب زیادی وجود دارد که واقعاً میتوانند به جامعه کمک کنند، به شرط اینکه خودمان را به دردسر نیندازیم.
ایلان ماسک حتی پا را فراتر گذاشته و پیشبینی کرده که هوش مصنوعی و رباتیک در نهایت ممکن است باعث شوند داشتن شغل به یک انتخاب تبدیل شود. پروفسور آدامز در پاسخ میگوید:
اوه، من فکر میکنم این حرف بیمعنی است.
حتی اگر ماشینها بیشتر مشاغل را انجام دهند، مردم همچنان به پول نیاز خواهند داشت و کار برای بسیاری از افراد معنا و هدف ایجاد میکند.
