به گزارش جام جم کلیک ، آیا اگر هوش مصنوعی بتواند بدون نیاز به کوچکترین فعالیتی، بسیاری از مشکلات ما را حل کند بسیار جذاب نیست؟ تصور کنید امکان پیشبینی نیازهایتان را داشته باشد و سپس وظایف شما به صورت خودکار انجام شوند که در این صورت در زمان افراد صرفه جویی زیادی خواهد شد، اما برخی از افراد نظیر ایلان ماسک و استفان هاوکینگ از چنین شرایطی برای بشر ابراز نگرانی کردهاند.
گوگل یکی از شرکتهایی اسـت که یکی از برترینهای حال حاضر در زمینه هوش مصنوعی به حساب میآید. این کمپانی ظاهرا ترسهایی از چنین دانشی دارد، و به همین دلیل اسـت که شرکت DeepMind که توسط گوگل خریداری شده، یک دکمه مخصوص را توسعه میدهد که باعث خواهد شد هوش مصنوعی بلافاصله از کار انداخته شود و از هرگونه آسیبرسانی توسط هوش مصنوعی چه به خودش و چه به مسئولان آن یا سایر افراد جلوگیری شود.
بر اساس تحقیقاتی که در DeepMind صورت گرفته کار این دکمه در واقع چیزی شبیه به این مورد اسـت: «اگر همانند یک مامور که در حال نجات یک انسان اسـت و در این شرایط شاید یک اپراتور انسانی نیاز به فشار دادن یک دکمه بزرگ قرمز داشته باشد تا از آسیبهایی که مامور نجات در اعمال خود و نیز آسیبهایی که میتواند به محیط بزند جلوگیری شود و سپس مامور را با یک راه امنتر راهنمایی کند.»
در هرحال، نمیتوان این دکمه را به عنوان پایان کار کامل هوش مصنوعی دانست. به عنوان مثال برخی از الگوریتمها مانند Q-learning به نحوی طراحی شدهاند که امکان توقف سریع و امن هوش مصنوعی را فراهم میکنند اما ممکن اسـت برخی دیگراز الگوریتمها نیاز به تغییرات داشته باشند. همچنین هنوز مشخص نیست که آیا دکمه مورد نظر گوگل میتواند در دیگر الگورتیمها نیز مورد استفاده قرار بگیرد یا خیر اما در هرصورت میتوان این موضوع را یک شروع برای جلوگیری از آسیبرسانی هوش مصنوعی دانست.
منبع: زومیت
لینک منبع
بازنشر: مفیدستان
این مطلب ساخت دکمه ای توسط گوگل برای جلوگیری از شورش هوش مصنوعی در سایت مفیدستان
ادامه مطلب ...