هشدار دانشمند هوش مصنوعی: از دست رفتن کنترول می‌تواند بشر را نابود کند

جفری هینتون، از چهره‌های برجسته هوش مصنوعی، هشدار داده است که اگر بشر کنترول سیستم‌های اَبَرهوشمند را از دست بدهد، پیامد آن می‌تواند فاجعه‌بار و حتی به انقراض انسان‌ها منجر شود.

جفری هینتون، دانشمند بریتانیایی-کانادایی و از پیشگامان هوش مصنوعی، گفته است که احتمال نابودی بشر در نتیجه از دست رفتن کنترول بر سیستم‌های اَبَرهوشمند، بین ده تا بیست درصد است.

به گزارش روزنامه‌ی تایمز بریتانیا، هینتون که از او به عنوان یکی از « چهره برجسته هوش مصنوعی» یاد می‌شود، گفته است هوش مصنوعی در صورت پیشی گرفتن از انسان، ممکن است دیگر به آسانی قابل کنترول نباشد.

او استدلال کرده است که سیستم‌های دیجیتالی می‌توانند دانش خود را به سرعت با یکدیگر شریک سازند، در حالی که مغز انسان چنین قابلیتی را ندارد.

به گفته‌ی هینتون، در تاریخ نمونه‌ای وجود ندارد که موجودی کم‌هوش‌تر بتواند برای مدت طولانی، موجودی بسیار باهوش‌تر از خودش را کنترول کند.

این دانشمند همچنین درباره‌ی استفاده از هوش مصنوعی برای ساخت سلاح‌های بیولوژیکی و انجام حملات گسترده سایبری هشدار داده است.

او می‌گوید این تهدیدها ممکن است حتی پیش از ظهور هوش مصنوعی اَبَرهوشمند نیز به واقعیت تبدیل شوند.

هینتون از حکومت‌ها خواسته است قوانین سخت‌گیرانه‌تری وضع کنند و حدود یک‌سوم ظرفیت محاسباتی اختصاص‌یافته به هوش مصنوعی، برای تحقیقات ایمنی مصرف شود.

او همچنان بر ایجاد توافق‌های بین‌المللی برای جلوگیری از استفاده از سلاح‌های مرگبار خودکار تأکید کرده است.

هینتون که از پایه‌گذاران فناوری «یادگیری عمیق» به شمار می‌رود، پیش‌تر نیز درباره‌ی احتمال بروز ویژگی‌هایی شبیه خودآگاهی در سیستم‌های هوش مصنوعی ابراز نگرانی کرده بود.

او گفته است از مشارکت خود در توسعه‌ی این فناوری «بسیار پشیمان» است و نگران است که جهان خطرات هوش مصنوعی را جدی نگیرد.

هشدار جفری هینتون بار دیگر نگرانی‌ها درباره‌ی آینده‌ی هوش مصنوعی را برجسته کرده است؛ نگرانی‌هایی که بر ضرورت وضع قوانین، تحقیقات ایمنی و همکاری بین‌المللی برای جلوگیری از خارج شدن این فناوری از کنترول تأکید دارد.