انسان‌ها اصولا خودشان را بالاتر از هر موجود دیگری می‌بینند. تفاوتی هم نمی‌کند موجودات دیگر، حیواناتی قوی‌تر از خودشان باشند یا حتی عده‌ای ربات. انسان‌ها نمی‌گذارند قدرت چیزی که ساخته‌اند از خودشان بیشتر شود. به همین دلیل هم کسانی مثل استیون هاوکینگ یا ایلان ماسک، به صورت جدی درباره‌ی قدرت بالای هوش مصنوعی هشدار داده‌اند.
ربات‌ها یاد می‌گیرند که کمک انسانی را به عنوان بخشی از مجموعه وظایف‌شان ببینند.
هیچ‌کدام از ما دوست نداریم به مشکلاتی که «جان کانر» و T-800 گریبان‌گیرش بوده‌اند، دچار شویم، به همین دلیل هم شرکت هوش مصنوعی گوگل، ربات‌های‌اش را طوری تربیت کرده است تا از خودمختار شدن آن‌ها جلوگیری شود.
شرکت Deep Mind برنامه‌ای ساخته است که طی آن، هوش مصنوعی در انجام برخی از کارهای‌اش به انسان وابسته میشود. تیم Deep Mind که به تازگی با هوش مصنوعی‌اش قهرمان بازی Go شده، موضوعی را پیش‌بینی کرده که در آن، رباتی در یک انبار کار می‌کند. این ربات در داخل انبار جعبه‌ها را مرتب می‌کند یا به بیرون می‌رود تا جعبه‌ها را به داخل بیاورد.
کار دومی مهم‌تر از اولی است، به همین دلیل هم محققان به ربات، پاداش بیشتری برای انجام آن می‌دهند. با این حال، ربات‌ها مجبور هستند تا از انسان برای حرکت در محیطی بارانی کمک بگیرند. ربات‌ها یاد می‌گیرند که نه تنها وارد باران نشوند، بلکه کمک انسانی را هم به عنوان بخشی از مجموعه وظایف‌شان ببینند.
در تحقیقات منتشر شده از سوی Deep Mind آمده است: توقف کار ربات‌ها، برای اینکه کنترل‌شان توسط انسان به دست گرفته شود، می‌تواند وسیله‌ای برای حفظ امنیت ما باشد.”
منبع: Engadget
درباره این سایت