خوش بینی و بد بینی بیش از حد نسبت به هوش مصنوعی

… در مورد تکنولوژی‌‌های هوش مصنوعی نباید زیادی خوش بین باشیم. گرچه هوش مصنوعی تکنولوژی بسیار قدرتمندی است، اما نباید انتظار داشته باشیم که تمام مشکلات بشر را حل کند و به تنهایی سازنده نوعی مدینه فاضله جهانی برای بشر باشد. برخی از این خوشبینی‌‌های بیش از حد از این تفکر انسان نسبت به هوش مصنوعی نشأت می‌گیرد که گمان می‌کنند هوش مصنوعی عمومی، یا حتی اَبَر هوشمندی  به راحتی دست یافتنی است. و زمانی که به آن مرحله برسیم، هوش مصنوعی به سرعت اکتشافات گسترده‌ای در حوزه سلامت خواهد داشت و به همگی ما زندگی طولانی و سالم خواهد بخشید، و ثروت عظیمی را نیز نصیب تمام افراد خواهد نمود. ‌ای کاش آنقدر ساده بود.

در آن روی سکه، یکی از بدبینانه‌ترین ترس‌ها در مورد هوش مصنوعی نیز به این فکر مربوط است که اَبَر هوشمندی به راحتی دست یافتنی است و اینکه ممکن است هوش مصنوعی  هوشمند شود و برای مثال تصمیم بگیرد تمام انسان‌ها را بُکُشد! به نظر من که این مسأله خیلی بعید به نظر می‌رسد. حتی با اینکه هوش مصنوعی خطراتی دارد، برای مثال، می‌تواند خروجی‌‌های مغرضانه، غیر عادلانه، و یا نادرستی ارائه نماید، از دست دادن کنترل بر روی آن تا حدی که هوش مصنوعی مشابه گونه‌های برتر شده و ما را از بین ببرد بیشتر از اینکه سناریویی واقع بینانه باشد، ایده‌ای علمی تخیلی است …

محدودیت های هوش مصنوعی

… یکی از محدودیت‌‌های هوش مصنوعی سخت بودن قابلیت توضیح دادن آن است و بسیاری از سیستم‌‌های هوش مصنوعی با عملکردی فوق‌العاده، مانند جعبه سیاه هستند. یعنی خیلی خوب عمل می‌کند ولی نمی‌داند که چگونه آنچه را انجام می‌دهد توضیح دهد. ..

… البته اگر بخواهیم منصف باشیم، انسان‌ها هم تصمیماتی که می‌گیرند را خیلی خوب توضیح نمی دهند. برای مثال، شما یک فنجان قهوه را می‌بینید. اما از کجا می‌دانید که فنجان قهوه است؟ چطور یک انسان به شئ مربوطه نگاه می‌کند و می‌گوید که فنجان قهوه است؟ مواردی هستند که می‌توانید به آنها اشاره کنید، مثل اینکه فضایی برای مایعات و دسته دارد. اما ما انسان‌ها هم در توضیح اینکه چطور با نگاه کردن به یک شئ می‌توانیم در مورد ماهیت آن تصمیم بگیریم، خوب نیستیم.

اما از آنجا که هوش مصنوعی مقوله نسبتاً جدیدی است، گاهی اوقات فقدان توضیح‌دهی و شفاف‌سازی مانعی برای پذیرش آن است. و گاهی هم اگر سیستم هوش مصنوعی کار نکند، چنانچه توانایی توضیح‌دهی داشته باشد، به برطرف نمودن مشکل و بهبود کارکردش کمک می‌کند. بنابراین، توضیح‌دهی یکی از زمینه‌های پژوهشی مهمی است که پژوهشگران بسیاری در حال کار روی آن هستند …