.
.
این ایده که آفریده‌ای هوشمند به انسان‌ها آسیب می‌رساند، بارها در عرصه‌ی هنر و نظر مطرح شده است: در رمان فرانکشتاین1 نوشته‌ی مری شلی2، مصنوع دکتر فرانکشتاین از کنترلش خارج شده و دست به جنایت می‌زند؛ در فیلم ۲۰۰۱: اودیسه‌ی فضایی3 محصول مشترک استنلی کوبریک4 و آرتور کلارک5، کامپیوتر هوشمند سفینه - موسوم به هال ۹۰۰۰ - ارزیابی مرگ‌باری از شرایط مأموریت ارائه می‌دهد؛ در ماتریس6 محصول برادران واچوفسکی7، جهان تحت سلطه‌ی ماشین‌هایی هوشمند قرار گرفته که انسان‌ها را به انقیاد خود درآورده‌اند؛ در نابودگر8 به کارگردانی جیمز کامرون9، شبکه‌ی آسمان - موسوم به اسکای‌نت - قصد نابودی بشریت را دارد. این‌ها چند نمونه از مواردی هستند که می‌شناسم، وگرنه مثال‌ها به مراتب بیشترند.
استیون هاوکینگ10 - که چند سال پیش درگذشت؛ روحش شاد - گفته بود «دستگاه‌های هوشمند می‌توانند پایان گونه‌ی انسان را رقم بزنند.» اگر روزگاری فقط نخبگان فکری نسبت به پیشرفت فن‌آوری و انقیاد انسان هشدار می‌دادند، امروز حتی کارآفرین‌های خوش‌بینی نظیر الون ماسک11 هم نگران پیشرفت‌های سریع در حوزه‌ی هوش مصنوعی هستند: ماسک خطر هوش مصنوعی را از سلاح‌های هسته‌ای بیشتر می‌داند و خواستار ایجاد نهادهایی برای کنترل آن شده است.
اغلب ما، وقتی به ماشین‌هایی با توانایی فرا-انسانی می‌اندیشیم، ویران‌شهری12 را تصویر می‌کنیم که در آن ماشین‌ها علیه انسان‌ها شوریده‌اند، تو گویی اراده‌ای ضدبشری در آن‌ها شکل گرفته است. اما، پژوهشگری به نام نِیت سوراس13، از انستیتوی تحقیقات هوش ماشینی14 می‌گوید که این تصویر کاملی نیست. به نظر او ویران‌شهر ناشی از ماشین‌های هوشمند احتمالاً شباهت زیادی به ماتریس یا نابودگر ندارد. در این داستان‌ها ماشین‌های هوشمند قصد جان آدم‌ها را کرده‌اند؛ اما دلیلی وجود ندارد هوش مصنوعی رویکردی منفی علیه انسان‌ها داشته باشد. در عوض سوراس خطر اصلی را در این می‌داند که هوش مصنوعی وظیفه‌ی محول شده به خود را بیش از حد خوب انجام دهد؛ همراه با خلاقیتی مستقل، ولی از نظر ما نامطلوب. به نظر او چالش بزرگی که پیش روی ما قرار دارد این است که بفهمیم هوش مصنوعی چگونه کار می‌کند و بتوانیم عملکرد آن‌را در جهت مورد نظرمان هدایت کنیم. اما هوش مصنوعی، اگر به مرحله‌ی قابل مقایسه با هوش انسانی برسد، دارای ابتکار عمل‌های ویژه‌ی خود خواهد شد و پیش‌بینی و مهار این ابتکار عمل‌ها به شیوه‌ای که مطلوب ما باشد دشوار است.
یوهان ولفگانگ گوته15 تصنیفی دارد به نام «شاگرد جادوگر»16. استاد جادوگر برای کاری از کارگاه بیرون می‌رود. شاگرد که وظیفه دارد کارگاه را تمیز کند، به کمک جادویی که هنوز به خوبی نیاموخته، جاروی دستی‌اش را وادار می‌کند که به جای او کار کند؛ اما کم‌کم متوجه می‌شود که مشکلی وجود دارد. جارو متوقف نمی‌شود و مصرانه به آوردن آب از چاه ادامه می‌دهد. از آن‌جا که او به هیچ‌وجه نمی‌تواند جارو را متوقف کند، با تبر آن‌را دو نیمه می‌کند. اما نیمه‌ها، خود به جاروهایی کامل تبدیل می‌شوند و به آب آوردن ادامه می‌دهند. عاقبت در حالی که اوضاع به کلی از کنترل شاگرد خارج شده است، استاد به کارگاه باز می‌گردد و طلسم را می‌شکند. کمپانیِ والت‌دیسنی، در روزهایی که هنوز هنر را می‌فهمید، پویانمایی بلندی تولید کرد به نام «فانتزیا»17 که یکی از ماندگارترین قسمت‌های آن بر اساس همین شعر گوته ساخته شده است.18
.
.
شاید خطر هوش مصنوعی بیشتر شبیه جاروی بیش از حد وظیفه‌شناس داستان گوته باشد. شاگرد جادوگر، در ساختن جارویی که آب می‌آورد موفق بود؛ اما جارو بیش از حد وظیفه‌شناس و خلاق بود و او را غافلگیر کرد. جارو دشمن شاگرد نبود، بلکه قصد داشت وظیفه‌ای که به او محول شده بود را انجام دهد و در این‌کار هوش و درایت خود را به کار گرفت؛ با این‌حال نتیجه‌ی کارش ویرانی بود. ماشین‌های فوق‌هوشمندی را در نظر بگیرید که برای ارائه‌ی خدمات به جامعه طراحی شده‌اند و کارشان را نیز به خوبی انجام می‌دهند. اما پیچیدگی زیادشان به اتخاذ ابتکارعمل‌هایی منجر شود که از نظر ما غیرقابل قبول هستند و در عین حال راهی برای مهار فوری آن‌ها نداریم. از این نظر، هال ۹۰۰۰ داستان اودیسه‌ی فضایی، در مقایسه با شبکه‌ی آسمان فیلم نابودگر، آینده‌ی ویران‌شهری باورپذیرتری را نمایندگی می‌کند.
این تصویر کمی اغراق‌آمیز است، اما نسخه‌ی واقع‌گرایانه‌‌تر آن‌را می‌توان چنین در نظر گرفت که خطر ماشین‌های هوشمند وقتی در اختیار دولت‌ها یا تروریست‌ها قرار بگیرند به شکلی غیرقابل پیش‌بینی زیاد است. اما در این صورت هم آن‌ها هنوز تحت کنترل انسان‌ها هستند و گونه‌ی خودمختاری از ابزارها تلقی نمی‌شوند.
.
.
مطالب مرتبط:
یکی از بنیان‌گذاران «اَپِل» خواهان ممنوعیت ربات‌های رزمی خودمختار شد
.
.
پانویس‌ها:
1- Frankenstein; or, The Modern Prometheus
2- Mary Shelley
3- ۲۰۰۱A Space Odyssey
4- Stanley Kubrick
5- Arthur C. Clarke
6- The Matrix
7- The Wachowskis
8- The Terminator
9- James Cameron
10- Stephen Hawking
11- Elon Musk
12- dystopian
13- Nate Soares
14- Machine Intelligence Research Institute
15- Johann Wolfgang von Goethe
16- The Sorcerer’s Apprentice; 1797
17- Fantasia; 1940
18- Fantasia Sorcerer’s Apprentice
.
.
برگرفته از: نشریه اینترنتی کارگاه
.
.
