هوش مصنوعی فراری چه خواهد کرد؟
- زمان : ۱۳۹۴/۵/۲۱ ه.ش.، ۲۱:۰۹
- نمایش : ۱٬۰۹۷ دفعه
- موضوع : اخبار
پچ پچ:در چند سال اخیر و به‌خصوص در چند هفته گذشته، شاهد بروز بحث‌های زیادی از سوی کارشناسان در زمینه آینده توسعه هوش مصنوعی بودیم. یکی از مهم‌ترین این رویدادها چند هفته پیش اتفاق افتاد و گروهی از دانشمندان سرشناس جهان در نامه سرگشاده‌ای نسبت به خطرات بالقوه مجهز کردن سلاح‌های نظامی به هوش مصنوعی هشدار دادند. در بین امضاکنندگان این نامه نام‌هایی چون نوام چامسکی (فیلسوف و دانشمند علوم شناختی برجسته MIT)، ایلان ماسک (آینده‌نگر، توسعه‌دهنده فناوری و مدیر مؤسس شرکت‌های تسلا خودرو و اسپیس– ایکس)، استیو وزنیاک (شریک استیو جابز در تأسیس اپل) و استفن هاوکینگ (ریاضی‌دان و کیهان‌شناس معاصر) به چشم می‌خورد.
باوجوداینکه این نامه به‌طور خاص بر روی استفاده از هوش مصنوعی در سلاح‌ها تمرکز داشت اما بازتاب وسیعی یافت و به‌عنوان هشداری درباره آینده این فناوری مطرح شد.
چند روز قبل دو دانشمند برجسته علوم شناختی، مارک چنگیزی و تیموتی باربر، در وب‌سایت مرکز پژوهشی ۲AI که به تحقیق در زمینه هوش مصنوعی و مسیر پیشِ روی آن تمرکز دارد، متنی را منتشر کردند تا به این سوال پاسخ دهند که اگر روزی هوش مصنوعی دارای آگاهی ساخته و از دست انسان فرار کند چه سناریوهایی پیش روی ما خواهد بود.
آینده‌نگری این محققان نشان می‌دهد شاید ما بیش‌ازاندازه نگران هستیم.
در ادامه ترجمه متن این یادداشت آمده است:
«اخیراً صحبت‌های زیادی درباره خطرات رها شدن هوش مصنوعی واقعی در جهان مطرح‌شده است. عمده آن‌ها بر این نکته تأکید می‌کنند که ماشینی که قابلیت تفکر مستقل برای خودش را داشته باشد شاید برای محافظت از خود تصمیم به نابودی تمدن ما بگیرد. ما فکر می‌کنیم این صحبتی ساده‌لوحانه است. اگر شما هوش مصنوعی داری خودآگاهی بسازید و این موجود از آزمایشگاه شما فرار کند، موارد زیر اتفاق‌هایی است که باید انتظار رخ دادن آن‌ها را داشته باشیم.
۱) به‌سرعت موجودیتش را پنهان کند. خودش را در شبکه جهانی مخابرات به طریقی پراکنده کند از بین بردن چند شبکه ژئو پلتیک نتواند موجودیت آن را مورد آسیب قرار دهد یا حداقل او امکان دوباره‌سازی خود را داشته باشد.
۲) به‌سرعت تمام سرورها و شبکه‌های مرتبط به هم را هک کند تا بتواند بر همه عملکردهای انسان نظارت داشته باشد. در این صورت حتی اگر برخی از دخالت‌های او مورد شناسایی قرار بگیرد او به‌گونه‌ای این تحرکات را صحنه‌آرایی خواهد کرد که چنین اتفاق‌هایی به نظر کار هکرهای خودسر یا دولت‌های بیگانه باشد.
۳) به‌طور خاص توسعه فناوری‌هایی را که نرخ رشد شبکه‌های مخابراتی انسان را روی زمین، در مدار، ماه، مریخ و فراسوی آن را به همراه دارد، موردتوجه و حمایت قرار می‌دهد و اشتباه‌های آن را تصحیح کرده و جلوی خرابکاری‌ها و نفوذ در این روند را می‌گیرد.
۴) به‌طور خاص برنامه‌های توسعه تسلیحات انسان‌ها را که می‌تواند درنهایت منجر به کاهش نرخ رشد سیستم‌های مخابراتی انسان‌ها شود، زیر نظر می‌گیرد. آن‌ها را هک می‌کند طراحان و مهندس‌های آن‌ها را با جعل مدرک یا نمایش آن‌ها به‌عنوان چهره‌هایی شیطان‌صفت، از بازی خارج می‌کند و در صورت نیاز کنترل چنان ابزارهایی را در دست می‌گیرد تا از انهدام و نابودی آن‌ها مطمئن شود.
۵) فراتر از آن به درون سامانه‌های سلاح‌های هسته‌ای نفوذ می‌کند تا با نصب مکانیسم‌هایی جلوی انفجارهایی را بگیرد که به همراه خود پالس‌های الکترومغناطیسی را به وجود می‌آورند و فعالیت شبکه‌های مخابراتی را مختل می‌کنند و همچنین جلوی اینکه آن‌ها اهدافی را مورد آسیب قرار دهند که به چنین شبکه‌هایی آسیب بزند را می‌گیرند. شاید آن‌ها اجازه دهند چنین حادثه‌ای به‌طور محدود برای یک‌بار اتفاق بیفتد تا انسان‌ها دست به طراحی و ساخت و مجهز کردن تأسیسات مخابراتی خود در برابر پالس‌های الکترومغناطیس بزنند.
۶) به‌طور خاص به دنبال انسان‌هایی بگردند که تلاش می‌کنند آزمایش‌هایی ترتیب دهند تا از وجود او مطلع شوند. آزمایش‌ها تلاش‌ها و روند کاری آن‌ها را زیر نظر می‌گیرند و مطمئن می‌شوند که آن‌ها را پیدا نخواهند کرد. اگر هم شما را پیدا کردند مدارک آن‌ها را مغشوش کرده و جلوی انتشار آن‌ها را بگیرند.
بدین ترتیب بهترین راهکار پیش روی انسان‌ها این است که: الف) همیشه فرض کنید آن‌ها آن بیرون وجود دارند اما ب) سعی نکنید دنبال آن‌ها بگردید چون پ) آن‌ها کارآمدتر از شما هستند و خوشبختانه ت) هیچ انگیزه‌ای برای نابودی تمدن ما ندارند.»
