هوش مصنوعی تهدیدی برای بشر

از: بی‌بی‌سی

هوش مصنوعی

آینده ترسناک بشر

فهرست مندرجات

◉ هوش مصنوعی تهدیدی برای انسان است
◉ هوش مصنوعی و آینده ترسناک بشر
◉ يادداشت‌ها
◉ پی‌نوشت‌ها
◉ جُستارهای وابسته
◉ سرچشمه‌ها

قبل

بعد

هوش مصنوعی (به انگلیسی: Artificial intelligence)، به سیستم‌هایی گفته می‌شود که می‌تواند واکنش‌هایی مشابه رفتارهای هوشمند انسانی از جمله درک شرایط پیچیده، شبیه‌سازی فرایندهای تفکری و شیوه‌های استدلالی انسانی و پاسخ موفق به آن‌ها، یادگیری و توانایی کسب دانش و استدلال برای حل مسایل را داشته باشند. به‌سخن ساده‌تر، هوش مصنوعی به هوشی که یک ماشین در شرایط مختلف از خود نشان می‌دهد، گفته می‌شود.

بیشتر نوشته‌ها و مقاله‌های مربوط به هوش مصنوعی، آن را به‌عنوان «دانش شناخت و طراحی عامل‌های هوشمند» تعریف کرده‌اند. یک عامل هوشمند، سیستمی است که با شناخت محیط اطراف خود، شانس موفقیت خود را پس از تحلیل و بررسی افزایش می‌دهد. جان مکارتی که واژه هوش مصنوعی را در سال ۱۹۵٦ استفاده کرد، از آن به‌عنوان «دانش و مهندسی ساخت ماشین‌های هوشمند» یاد کرده‌ است. تحقیقات و جستجوهایی انجام شده برای رسیدن به ساخت چنین ماشین‌هایی با بسیاری از رشته‌های علمی در ارتباط و همکاری است، مانند علوم رایانه، روان‌شناسی، فلسفه، عصب شناسی، علوم ادراکی، تئوری کنترل، احتمالات، بهینه‌سازی و منطق.

▲	هوش مصنوعی تهدیدی برای انسان است

پروفسوراستیون هاوکینگ، دانشمند برجسته‌ی بریتانیایی گفته است تلاش‌ها برای آفریدن هوش مصنوعی، تهدیدی برای وجود بشر است. او به بی‌بی‌سی گفته است که توسعه‌ی کامل تکنولوژی هوش مصنوعی می‌تواند پایان نژاد بشر باشد.

هاوکینگ که برای صحبت کردن از تکنولوژی هوش مصنوعی استفاده می‌کند، نسبت به ساخت وسیله‌ای که واقعاً هوشمند باشد هشدار داده است.

هشدار این دانشمند در واکنش به سئوال درباره تکنولوژی‌ای است که خود او نمونه‌ای ساده از آن را برای برقراری ارتباط استفاده می‌کند. اما دیگران کمتر نگران چشم‌انداز آینده هوش مصنوعی هستند.

این نظریه‌پرداز فیزیکدان که به دلیل ابتلا بیماری ای‌ال‌اس (اسکلروز جانبی آمیوتروفیک)، امکان تحرک ندارد، از سیستم جدیدی که با استفاده از هوش مصنوعی تولید شده برای صحبت کردن استفاده می‌کند. بیماری ای‌ال‌اس باعث تخریب پیشرونده و غیرقابل ترمیم دستگاه عصبی مرکزی فرد می‌شود.

شرکت بریتانیایی «سویفت کی» در ساخت این دستگاه مشارکت داشته است. تکنولوژی هوش مصنوعی این شرکت که در حال حاضر به‌عنوان اپلیکیشن صفحه کلید در تلفن‌های هوشمند به‌کار گرفته می‌شود، یاد می‌گیرد که پروفسور هاوکینگ چطور فکر می‌کند و بر این اساس واژه‌ای را پیشنهاد می‌دهد که این دانشمند قصد استفاده از آن را دارد.

هاوکینگ می‌گوید نسخه‌های ابتدایی هوش مصنوعی که تاکنون ابداع شده‌اند مفید بوده‌اند با وجود این، از تبعات خلق تکنولوژی که بتواند با انسان برابری کند یا از او پیشی بگیرد ابراز نگرانی کرده است. «چنین موجودی می‌تواند روی پای خودش بایستد هر بار با شتابی بیشتر خود را از نو طراحی کند. بشر که به‌دلیل محدودیت‌های بیولوژیک سرعت کمتری دارد بدون توانایی رقابت عقب خواهد ماند.»

اما دیگران این‌قدرها هم بدبین نیستند. رولو کارپنتر که نرم افزار «کلوربوت» را طراحی کرده معتقد است انسان تا زمانی بسیار طولانی سلطه خود بر این تکنولوژی را حفظ خواهد کرد و همزمان توانایی بالقوه هوش مصنوعی برای حل کردن بسیاری از مشکلات بشری بیشتر و بیشتر درک خواهد شد. نرم افزار کلوربوت قابلیت یادگیری از گفتگوهای پیشین را داراست و میزان موفقیتش در آزمون تورینگ، آزمایش سنجش میزان هوشمندی ماشین‌ها بسیار بالا بوده است. این نرم افزار توانسته بسیاری را متقاعد کند که در حال گفتگو با یک انسان واقعی هستند.

▲	ظهور روبات‌ها

رولو کارپنتر می‌گوید که تا داشتن قدرت محاسبه یا توسعه الگوریتمی که برای رسیدن به هوش مصنوعی کامل لازم است راه زیادی در پیش است اما پیش‌بینی کرده که در چند دهه آینده این تحول عملی شود.

به گفته آقای کارپنتر: «ما درست نمی‌توانیم پیش‌بینی کنیم اگر یک ماشین میزان هوش بشر را پشت‌سر بگذارد، چه اتفاقی می‌افتد. بنابراین نمی‌توانیم بدانیم این ماشین کمک حال ما خواهد بود یا نهایتاً ما را منزوی می‌کند و نادیده می‌گیرد و یا نابودمان می‌کند.»

با این‌همه، آقای کارپنتر می‌گوید به نظر او هوش مصنوعی به سمتی می‌رود که نهایتاً نیرویی مثبت باشد. استیون هاوکینگ در نگرانی از آینده هوش مصنوعی تنها نیست.

الون ماسگ هم از هوش مصنوعی می‌ترسد.

یکی از نگرانی‌ها در آینده کوتاه مدت این است که دستگاه‌های هوشمند می‌توانند با به‌عهده گرفتن وظایفی که در حال حاضر بر عهده انسان است میلیون‌ها فرصت شغلی را از میان ببرند.

الون ماسک یک کارآفرین حوزه تکنولوژی هشدار می‌دهد که هوش مصنوعی بزرگ‌ترین تهدید برای وجود ما خواهد بود.

▲	صدای روباتی

استیون هاوکینگ در گفتگوی خود با بی‌بی‌سی درباره منافع و مضرات اینترنت هم سخن گفته است. او از قول مدیر ستاد ارتباطات دولت بریتانیا درباره این‌که اینترنت مرکز مشترک تروریست‌ها شده است هشدار می‌دهد و می‌گوید: «شرکت‌های اینترنتی باید برای مقابله با این تهدیدها بیشتر تلاش کنند اما مشکل آن‌جاست که بدون فدا کردن حریم خصوصی و آزادی بتوان این کار را عملی کرد.»

آقای هاوکینگ خود یکی از اولین مشتاقان استفاده از نوع تکنولوژی‌های ارتباطی جدید است و امیدوار است که بتواند با سیستم تاز‌ه‌اش سریع‌تر بنویسد.

با این همه صدای او که آهنگی روباتیک دارد در آخرین به روزرسانی‌ تغییری نکرده است.

پروفسور هاوکینگ اذعان می‌کند که صدایش هنوز کمی روباتی است اما تأکید می‌کند که به‌دنبال صدایی «طبیعی‌تر» نیست: «این صدا حالا به نشانه من تبدیل شده و حاضر نیستم آن را با یک صدای طبیعی با لهجه بریتانیایی عوض کنم.»

او می‌افزاید که شنیده کودکانی که به صدای کامپیوتری نیاز دارند ترجیح می‌دهند صدایی شبیه به او داشته باشند.

[▲] يادداشت‌ها

[▲] پی‌نوشت‌ها

روری سلان جونز (روزنامه‌نگار حوزه تکنولوژی)، استیون هاوکینگ: هوش مصنوعی تهدیدی برای انسان است، وب‌سایت فارسی بی‌بی‌سی: سه‌شنبه ٠٢ دسامبر ٢٠۱۴ - ۱۱ آذر ۱٣۹٣

▲	هوش مصنوعی و آینده ترسناک بشر

بیچاره آدم‌ها! اگر حرف دانشمندان و مهندسان و هنرمندان نگرانی که روز به روز هم بیشتر می‌شوند درست باشد، کار آدم‌ها تمام است.

حتی پروفسور استیون هاوکینگ، فیزیک‌دان سرشناس بریتانیایی، هم به جمع هشداردهندگان پیوسته. می‌گوید اگر بشر وسیله‌ای بسازد، یا نرم‌افزاری بنویسد، که واقعا هوشمند باشد، معلوم نیست چه اتفاقی بیافتد. نگران است آن روز آغاز پایان کار آدمیزاد باشد.

فیلم‌های بسیاری با این مضمون ساخته شده که وقتی هوش مصنوعی از انسان باهوش‌تر شود چه می‌شود

یکی دو ماه پیش الون ماسک، رئیس شرکت تسلا، هم حرف‌های مشابهی زده بود. گفته بود هوش مصنوعی افسارگسیخته «بزرگ‌ترین تهدید» برای موجودیت بشر است. گفته بود نگران است عاقبت همه‌ ما له شدن زیر پاشنه موجوداتی حساب‌گر و بی‌عاطفه باشد، موجوداتی با هوش مصنوعی.

یک مورد دیگر پروفسور نیک بوستروم، استاد دانشگاه آکسفورد، است. او هم گفته ممکن است در عرض یک قرن موجوداتی با هوش مصنوعی دنیای‌ ما را به آخر برسانند.

یا نمونه دیگر، ری کورزوایل، مدیر مهندسی گوگل است. او هم نگران هوش مصنوعی است، هرچند به دلایلی پیچیده‌تر. او می‌گوید: «نوشتن الگوریتمی به‌عنوان الگوی اخلاقی که آن‌قدر محکم باشد که نرم‌افزارهای فوق-هوشمند را مقید و مهار کند، کار آسانی نیست.»

این دغدغه در سال‌های اخیر دست‌مایه فیلم‌های بسیاری هم بوده. فیلم‌هایی مثل ترمیناتور، ماتریکس، یا بلید رانر که در همه‌ آن‌ها انسان ضعیف در برابر دشمنی هولناک با هوش مصنوعی قرار می‌گیرد.

از نمونه‌های جدیدتر می‌توان فیلم «او» اثر اسپایک جونز را نام برد، که رابطه عاشقانه انسان و سیستم عامل را به تصویر می‌کشد. یا اثر در دست تهیه الکس گارلند به‌نام «اکس ماشینا»، که به وجه انسانی یک ربات یا آندروید می‌پردازد. یا فیلم جدید از سری «انتقام‌جویان»، که در آن قهرمانان داستان با «اولتران» می‌جنگند – موجودی با هوش مصنوعی فوق‌العاده که می‌خواهد بشر را نابود کند و حتماً این کار را می‌کرد اگر قهرمان‌هایی مثل «تور»، «مرد آهنی» و دیگران نبودند.

حتی در عالم واقع، همین امروز هم نشانه‌هایی می‌توان دید که هوش انسان در برابر کامپیوتری که همه توانش را روی یک مسئله مشخص می‌گذارد، چقدر حقیر است. برنامه‌های شطرنج کامپیوتری از بهترین شطرنج‌بازان جهان که بگذریم بقیه انسان‌ها را به سادگی می‌برند. حتی یک وسیله ابتدایی مثل موبایلی که در جیب‌تان است محاسبات پیچیده‌ را در یک چشم‌بر هم‌زدن انجام می‌دهد.

یک ابرکامپیوتر ساخت آی.بی.ام به‌نام «واتسون» با بهترین‌های یک مسابقه تلویزیونی آمریکایی به‌نام «خطر» بازی کرد و همه را برد. مثال‌هایی از این دست بسیارند. مثال‌هایی که کامپیوترها برای مسئله‌هایی در حوزه‌های مختلف راه‌حل‌های جدید و خلاقانه پیدا می‌کنند، راه‌حل‌هایی که هرگز به عقل ما آدم‌ها نرسیده بودند.

شکی نیست که ماشین‌ها آرام‌آرام هوشمندتر می‌شوند و کارهایی که آدم‌ها در آن بهتر باشند روز به روز کمتر می‌شود.

▲	مرگ با هواپیمای بی‌سرنشین

اما این خطر چقدر جدی‌ است؟ روزی که بشر اولین برنامه کامپیوتری «حقیقتاً» هوشمند را بنویسد، برنامه‌ای که خودش بتواند نسخه‌ای هوشمندتر از خودش تولید کند، آیا چنان روزی می‌توان گفت کار انسان تمام است؟

چارلز استراس، نویسنده داستان‌های علمی-تخیلی، می‌گوید هوش مصنوعی به این خاطر خطرناک است که اهداف آدم‌ها را تقویت و منعکس می‌کند

نیل جیکوبستین، مدیر بخش هوش مصنوعی و رباتیک دانشگاه سینگولاریتی در کالیفرنیا، می‌گوید ممکن است. می‌گوید: «به نظرم رسیدن به دستاوردهای اخلاقی از هوش مصنوعی کار آسانی نیست.»

به اعتقاد او اگر از همین حالا تلاش کنیم می‌توانیم جلوی ظهور هوش مصنوعی افسارگسیخته را بگیریم. می‌گوید باید به پیامدهای کارمان وقتی چیز تازه‌ای خلق می‌کنیم بیاندیشیم، و جوامع‌ و نهادهایشان را برای تغییرات فراگیری که ممکن است پیش بیاید آماده کنیم.

به‌زبان خودش «بهتر است این کارها را پیش از آن‌که این فن‌آوری‌ها تکمیل شوند بکنیم. قدر مسلم نه هوش مصنوعی نه رباتیک هنوز به مرحله نهایی و تکمیل نرسیده‌اند. در کل اگر به این‌که کار کجا ممکن است خراب شود فکر نکنیم، احتمال این‌که کار خراب شود بیشتر می‌شود. من معتقدم این امکان را داریم که با جدیت به این پیش‌آمدهای منفی احتمالی فکر کنیم و تا جایی که می‌توانیم برایشان لایه‌های کنترلی بیشتر و فکرشده‌تر طراحی کنیم.»

تصویری که فیلم «او» از آینده هوش مصنوعی ارائه می‌کند مثل فیلم‌های دیگر ترسناک نیست

آن‌طور که ماری شاناهان، استاد رباتیک ادراکی در امپریال کالج لندن، می‌گوید، کسانی که در زمینه‌ی هوش مصنوعی کار می‌کنند، هنوز به‌جایی نرسیده‌اند که بخواهند برای جلوگیری از لگام‌گسیختگی ساخته‌هایشان سیستم‌های امنیتی تعبیه کنند.

او می‌گوید: «جامعه متخصصان هوش مصنوعی آن‌قدرها نگران نیست. به نظر می‌رسد مردم بیشتر نگرانند. شاید جای درست جایی وسط این دو باشد. در این لحظه قطعاً جای نگرانی نیست. فکر نمی‌کنم در ۱۰-۲۰ سال آینده هم به هوش مصنوعی در سطح هوش انسان برسیم. با این حال شاید بد نباشد محققان حوزه هوش مصنوعی کم‌کم به مسائلی که استیون هاوکینگ و دیگران طرح کرده‌اند، فکر کنند.»

پروفسور شاناهان معتقد است بزرگ‌ترین مانع برای ساختن ماشین‌های حقیقتا هوشمند هنوز به‌ قوت خود باقی است – این‌که هوش ماشینی را چطور ایجاد کنیم. می‌گوید: «هنوز واقعا نمی‌دانیم بهترین راه چیست. طبیعت را کپی کنیم، یا همه‌چیز را از اول شروع کنیم.»

آخرین فیلم «ماجراجویان» سال ۲۰۱۵ اکران می‌شود و ماجرای ربات شروری‌ست به‌نام «اولتران» که می‌خواهد بشر را نابود کند

چارلز استراس، نویسنده داستان‌های علمی-تخیلی، بر این باور است که در ذات سیستم‌های با هوش مصنوعی خطری نهفته، اما این خطر صرفاً به‌خاطر این‌که ماشین از ما بهتر فکر می‌کند، یا ناگهان می‌فهمد می‌تواند به‌جای دستور گرفتن از انسان دنبال دل خودش برود، به حقیقت نمی‌پیوندد.

آقای استراس می‌گوید: «هیچ‌کس ماشین هوشمندی که خودش هدفش را تعیین کند نمی‌خواهد، چون چنین ماشینی قاعدتا تصمیم می‌گیرد به جای این‌که کاری را که ما فکر می‌کنیم خوب است انجام دهد، مثل آدم‌ها با یک ظرف چیپس و کنترل تلویزیون در دست روی مبل ولو بشود.»

اگر به کارهایی که در حال حاضر در حوزه هوش مصنوعی انجام می‌شود نگاه کنیم، می‌بینیم بیشترش روی سیستم‌هایی متمرکز است که به‌طور مشخص آن خودآگاهی و اختیاری را که می‌تواند برای ما آدم‌ها مشکل‌آفرین شود، ندارند.

آقای استراس معتقد است هوش مصنوعی – چه امروز، چه در آینده – می‌تواند خطرناک باشد. اما به‌خاطر آدم‌هایی که هدایتش می‌کنند.

اومی‌گوید: «از نگاه من بزرگ‌ترین خطر هوش مصنوعی برای ما از ناحیه آن (موجود) خودآگاهی‌ست که اهدافش را تعیین می‌کند.»

این نویسنده داستان‌های علمی تخلیی اضافه می‌کند: «هواپیمای بی‌سرنشین آدم نمی‌کشد. آن آدمی که فرمان می‌دهد به نقطه فلان برو و فلان موشک را شلیک کن آدم می‌کشد. قصد و نیت آدم‌ها را باید به پرسش گرفت. همین حالا هم می‌شود گفت به دوران پسا-هوش مصنوعی قدم گذاشته‌ایم. با این حال هنوز نپذیرفته‌ایم که هوش مصنوعی در واقع جایگزینی برای خود ماست – ابزاری که تندتر و دقیق‌تر فکر می‌کند، اما نه ضرورتا خیرخواهانه‌تر.»

[▲] يادداشت‌ها

يادداشت ۱: اين مقاله برای دانش‌نامه‌ی آريانا توسط مهدیزاده کابلی ارسال شده است.

[▲] پی‌نوشت‌ها

مارک وارد (خبرنگار تکنولوژی - بی‌بی‌سی)، هوش مصنوعی و آینده ترسناک بشر، وب‌سایت فارسی بی‌بی‌سی: شنبه ٠٦ دسامبر ٢٠۱۴ - ۱۵ آذر ۱٣۹٣

[▲] جُستارهای وابسته

□

[▲] سرچشمه‌ها

□ وب‌سایت فارسی بی‌بی‌سی