۲۷ بهمن ۱۴۰۴
به روز شده در: ۲۷ بهمن ۱۴۰۴ - ۰۳:۰۰
فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
«ارخوطس»؛ فیلسوفی که احتمالا اولین «ماشین پرنده» جهان را ساخت وقتی گلر سعودی رئال مادرید را زیر سؤال برد پرسپولیس در دوراهی ثبات و شوک؛ اخراج اوسمار منطقی است؟ اوضاع دروازه پرسپولیس خوب نیست سیگنال نرم به بازارها؛ افت تورم آمریکا، ورق نرخ بهره را برمی‌گرداند؟ سارا حاتمی: به من رکب زدند سریال "رضا پروانه" کی می‌آید؟ پیش‌بینی هیجان‌انگیز: انسان‌ها تا ۱۵۰ سال عمر خواهند کرد! شهر زیرزمینی کاریز کیش؛ روایت تصویری از مهندسی در قلب زمین (+عکس) سالم‌ترین کشورهای جهان در سال ۲۰۲۶ کدامند؟ علم جفت‌های روحی؛ آیا «نیمه گمشده» واقعاً در جهان وجود دارد؟ ترامپ: حماس فورا خلع سلاح شود  طالبان: هیچ تهدیدی از خاک افغانستان متوجه کشور دیگری نخواهد بود نماینده مجلس: اجازه نمی‌دهم دخترم، همسرم یا خواهرم سوار موتور دوچرخ شوند/ امضا جمع کردیم که جلوی مصوبه دولت گرفته شود لاریجانی: برنامه موشکی ایران در مذاکرات اخیر مطرح نشده/ رخدادهای اخیر نه حاصل نفوذ خارق‌العاده، بلکه نتیجه کاهش سطح احتیاط در برخی دستگاه‌ها بود
نظرسنجی
پیش بینی شما از نتیجه مذاکرات ایران و آمریکا طی یک ماه آتی؟