تاریخ:
سخنگوی دولت: قلب نشان دادم، شبیه کلیه شد! 
درس هشتاد و چهار
گوگل به دنبال دکمه خاموشی هوش مصنوعی است
محققان پیش از این در مورد تهدیدزا شدن هوش مصنوعی برای بشریت هشدار داده بودند و سناریوهایی از آخرالزمان در اثر غلبه رباتها طراحی شد که در آنها، قدرت آنها نامیرا و غیرقابل پیشبینی خوانده شده بود.
بخش هوش مصنوعی گوگل در تلاش برای ساخت یک دکمه بزرگ قرمز است که بتواند عملکرد نرمافزارهای هوش مصنوعی را متوقف کند.
محققان پیش از این در مورد تهدیدزا شدن هوش مصنوعی برای بشریت هشدار داده بودند و سناریوهایی از آخرالزمان در اثر غلبه رباتها طراحی شد که در آنها، قدرت آنها نامیرا و غیرقابل پیشبینی خوانده شده بود.
اکنون تیم "ذهن عمیق" گوگل با همکاری موسسه آینده بشریت در آکسفورد قصد دارد کلیدی را برای خاموش کردن هوش مصنوعی در صورت نیاز طراحی کند. این کلید برای در دست گرفتن کنترل رباتهایی که رفتار نادرستی داشته و ممکن است به عواقب غیرقابل برگشتی منجر شود، سودمند است.
اگرچه دانشمندان اذعان کردهاند که برخی سیستمها ممکن است غیرقابل توقف باشند. به گفته آنها، زمانی که هوش مصنوعی به خود آموزش میدهد که چگونه آزاد شود، آن را با سرعت بسیار بالاتری از انسان یاد میگیرد.
متوقف کردن یک ماشین لزوما به معنی کشیدن آن از برق نیست، بلکه باید آن را فریب داد. به این منظور، دانشمندان در تلاش برای ساخت الگوریتمهایی برای ایجاد یک سیاست متوقفسازی یا محرکی هستند که به انسان اجازه میدهد بطور موقت، رفتار ربات را تغییر دهد.
به عبارت دیگر، این کلید در حقیقت یک سیگنال است که باعث میشود دستگاه فکر کند باید متوقف شود. بجای پیروی از فرمان بیرونی، تصمیمگیری برای توقف توسط خود دستگاه انجام میشود.
منبع: ایسنا
لینک کوتاه: کپی لینک
داستان جولین؛ نیمقرن فاصله میان التماس «دالی پارتن» و هشدار «بیانسه» چرا سلطنت طلبان دست از سر دکتر یزدی برنمیدارند؟ تکرار دو دروغ یک اشتباه در لیست بیمه، مستمری کارگر را کم میکند؛ هشدار مهم فعال کارگری معاون اجرایی رئیسجمهور: مردم در سختی زیادی به سر میبرند و کار دولت نیز سخت است علم الهدی: آمریکا برای ایجاد لشکر در داخل کشور به سراغ بیبندوبارها و دینگریزان میرود آمریکا به دنبال ساخت موشکهای ضدبالستیک ارزان موشک «آریان ۶» به همراه یک ماهواره راهی مدار زمین شد مرگ پادشاه ۳۴ ساله اوگاندایی که در ۳ سالگی به سلطنت رسید هشدار امام جمعه اهواز به مسئولان؛ معیشت مردم را جدی بگیرید و برای کاهش فشار اقتصادی اقدام کنید بازداشت ۳۰ لیدر و عامل تخریب اموال مردم در استان مرکزی شروط سئول برای گفتوگوی ترامپ با کره شمالی عکس روز ناسا از چرخش آسمان امام جمعه قم: هر گوشی تلفن همراه یک سنگر است میدری: حمایت از همه فروشگاههای عرضهکننده کالابرگ ادامه دارد وزارت خارجه: تحریمهای یکجانبه آمریکا علیه ایران غیرقانونی است؛ کشورها نباید از تحریمها تبعیت کنند