هوش مصنوعی بیشتر شبیه جاروی بیش‌ از حد وظیفه‌شناس داستان گوته است: یک ماشین خودمختار!

 جاروی وظیفه شناس گوته در پویانمایی والت دیسنی

.

.

این ایده که آفریده‌ای هوشمند به انسان‌ها آسیب می‌رساند، بارها در عرصه‌ی هنر و نظر مطرح شده است: در رمان فرانکشتاین۱ نوشته‌ی مری شلی۲، مصنوع دکتر فرانکشتاین از کنترلش خارج شده و دست به جنایت می‌زند؛ در فیلم ۲۰۰۱: اودیسه‌ی فضایی۳ محصول مشترک استنلی کوبریک۴ و آرتور کلارک۵، کامپیوتر هوشمند سفینه – موسوم به هال ۹۰۰۰ – ارزیابی مرگ‌باری از شرایط مأموریت ارائه می‌دهد؛ در ماتریس۶ محصول برادران واچوفسکی۷، جهان تحت سلطه‌ی ماشین‌هایی هوشمند قرار گرفته که انسان‌ها را به انقیاد خود درآورده‌اند؛ در نابودگر۸ به کارگردانی جیمز کامرون۹، شبکه‌ی آسمان – موسوم به اسکای‌نت – قصد نابودی بشریت را دارد. این‌ها چند نمونه از مواردی هستند که می‌شناسم، وگرنه مثال‌ها به مراتب بیشترند.

استیون هاوکینگ۱۰ – که چند سال پیش درگذشت؛ روحش شاد – گفته بود «دستگاه‌های هوشمند می‌توانند پایان گونه‌ی انسان را رقم بزنند.» اگر روزگاری فقط نخبگان فکری نسبت به پیشرفت فن‌آوری و انقیاد انسان هشدار می‌دادند، امروز حتی کارآفرین‌های خوش‌بینی نظیر الون ماسک۱۱ هم نگران پیشرفت‌های سریع در حوزه‌ی هوش مصنوعی هستند: ماسک خطر هوش مصنوعی را از سلاح‌های هسته‌ای بیشتر می‌داند و خواستار ایجاد نهادهایی برای کنترل آن شده است.

اغلب ما، وقتی به ماشین‌هایی با توانایی فرا-انسانی می‌اندیشیم، ویران‌شهری۱۲ را تصویر می‌کنیم که در آن ماشین‌ها علیه انسان‌ها شوریده‌اند، تو گویی اراده‌ای ضدبشری در آن‌ها شکل گرفته است. اما، پژوهشگری به نام نِیت سوراس۱۳، از انستیتوی تحقیقات هوش ماشینی۱۴ می‌گوید که این تصویر کاملی نیست. به نظر او ویران‌شهر ناشی از ماشین‌های هوشمند احتمالاً شباهت زیادی به ماتریس یا نابودگر ندارد. در این داستان‌ها ماشین‌های هوشمند قصد جان آدم‌ها را کرده‌اند؛ اما دلیلی وجود ندارد هوش مصنوعی رویکردی منفی علیه انسان‌ها داشته باشد. در عوض سوراس خطر اصلی را در این می‌داند که هوش مصنوعی وظیفه‌ی محول شده به خود را بیش از حد خوب انجام دهد؛ همراه با خلاقیتی مستقل، ولی از نظر ما نامطلوب. به نظر او چالش بزرگی که پیش روی ما قرار دارد این است که بفهمیم هوش مصنوعی چگونه کار می‌کند و بتوانیم عملکرد آن‌را در جهت مورد نظرمان هدایت کنیم. اما هوش مصنوعی، اگر به مرحله‌ی قابل مقایسه با هوش انسانی برسد، دارای ابتکار عمل‌های ویژه‌ی خود خواهد شد و پیش‌بینی و مهار این ابتکار عمل‌ها به شیوه‌ای که مطلوب ما باشد دشوار است.

یوهان ولفگانگ گوته۱۵ تصنیفی دارد به نام «شاگرد جادوگر»۱۶. استاد جادوگر برای کاری از کارگاه بیرون می‌رود. شاگرد که وظیفه دارد کارگاه را تمیز کند، به کمک جادویی که هنوز به خوبی نیاموخته، جاروی دستی‌اش را وادار می‌کند که به جای او کار کند؛ اما کم‌کم متوجه می‌شود که مشکلی وجود دارد. جارو متوقف نمی‌شود و مصرانه به آوردن آب از چاه ادامه می‌دهد. از آن‌جا که او به هیچ‌وجه نمی‌تواند جارو را متوقف کند، با تبر آن‌را دو نیمه می‌کند. اما نیمه‌ها، خود به جاروهایی کامل تبدیل می‌شوند و به آب آوردن ادامه می‌دهند. عاقبت در حالی که اوضاع به کلی از کنترل شاگرد خارج شده است، استاد به کارگاه باز می‌گردد و طلسم را می‌شکند. کمپانیِ والت‌دیسنی، در روزهایی که هنوز هنر را می‌فهمید، پویانمایی بلندی تولید کرد به نام «فانتزیا»۱۷ که یکی از ماندگارترین قسمت‌های آن بر اساس همین شعر گوته ساخته شده است.۱۸

.

جاروی وظیفه شناس گوته و خلاقیت نامطلوب آن

.

شاید خطر هوش مصنوعی بیشتر شبیه جاروی بیش‌ از حد وظیفه‌شناس داستان گوته باشد. شاگرد جادوگر، در ساختن جارویی که آب می‌آورد موفق بود؛ اما جارو بیش از حد وظیفه‌شناس و خلاق بود و او را غافلگیر کرد. جارو دشمن شاگرد نبود، بلکه قصد داشت وظیفه‌ای که به او محول شده بود را انجام دهد و در این‌کار هوش و درایت خود را به کار گرفت؛ با این‌حال نتیجه‌ی کارش ویرانی بود. ماشین‌های فوق‌هوشمندی را در نظر بگیرید که برای ارائه‌ی خدمات به جامعه طراحی شده‌اند و کارشان را نیز به خوبی انجام می‌دهند. اما پیچیدگی زیادشان به اتخاذ ابتکارعمل‌هایی منجر شود که از نظر ما غیرقابل قبول هستند و در عین حال راهی برای مهار فوری آن‌ها نداریم. از این نظر، هال ۹۰۰۰ داستان اودیسه‌ی فضایی، در مقایسه با شبکه‌ی آسمان فیلم نابودگر، آینده‌ی ویران‌شهری باورپذیرتری را نمایندگی می‌کند.

این تصویر کمی اغراق‌آمیز است، اما نسخه‌ی واقع‌گرایانه‌‌تر آن‌را می‌توان چنین در نظر گرفت که خطر ماشین‌های هوشمند وقتی در اختیار دولت‌ها یا تروریست‌ها قرار بگیرند به شکلی غیرقابل پیش‌بینی زیاد است. اما در این صورت هم آن‌ها هنوز تحت کنترل انسان‌ها هستند و گونه‌ی خودمختاری از ابزارها تلقی نمی‌شوند. 

.

.

مطالب مرتبط:

یکی از بنیان‌گذاران «اَپِل» خواهان ممنوعیت ربات‌های رزمی خودمختار شد

.

.

پانویس‌ها:

۱- Frankenstein; or, The Modern Prometheus

۲- Mary Shelley

۳- ۲۰۰۱A Space Odyssey

۴- Stanley Kubrick 

۵- Arthur C. Clarke

۶- The Matrix 

۷- The Wachowskis 

۸- The Terminator 

۹- James Cameron 

۱۰- Stephen Hawking 

۱۱- Elon Musk 

۱۲- dystopian 

۱۳- Nate Soares 

۱۴- Machine Intelligence Research Institute 

۱۵- Johann Wolfgang von Goethe 

۱۶- The Sorcerer’s Apprentice; 1797 

۱۷- Fantasia; 1940 

۱۸- Fantasia Sorcerer’s Apprentice

.

.

برگرفته از: نشریه اینترنتی کارگاه

.

.