فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
captcha
سوگل خلیق: متمدنانه تمام می کنم بهاره افشاری: از صفتی که رویم گذاشتند بیزارم پزشکیان: واردات گران شده؛ هزینه واردات زیاد شده /بررسی دورکاری کامل برخی ادارات در زمستان / واردات و صادرات ۲۵ تا ۳۵ درصد کاهش یافته است / مسیرها بسته است؛ کالا وارد نمی‌شود و یکی از این کالاها بنزین است تأکید جانشین فرمانده نیروی هوایی ارتش بر ضرورت بازآرایی این نیرو عراقچی: کشورهای منطقه دریافتند اتکا به آمریکا برای تأمین امنیت، یک اشتباه راهبردی است هشدار حماس به اسرائیل: مسئول پیامدهای ترور جدید در کرانه باختری هستید قدرتمندترین موشک اروپا پرتاب شد بفرمایید شکلات ساخت چین! رئیس جمهور: عمانی‌ها پذیرفتند که مسیر تنگه هرمز بر اساس چارچوب توافق شده باز شود به‌اندازه کافی آمریکایی نیستند نعیم قاسم: وحدت اسلامی باید به تقویت مسلمانان و مقابله با پروژه‌های تجزیه‌طلبانه منجر شود سهمیه فروش ارز به شرکت‌ها ۵ برابر شد/ سقف فروش ارز به بالای ۱۸ ساله‌ها مرکز آمار: ۱۲ استان در مرداد ماه تورم بالای ۱۰۰ درصد داشته اند کروبی: امام ۱۰ سال در تهران بود اما یک خانه برای خودش نخرید تحریم های جدید وزارت خزانه داری آمریکا علیه ایران