شما درحال پاسخ به هستید :
به گفت‌وگو بپیوندید !
0
هوش مصنوعی داره بهمون یاد میده یا دانش غلط ایجاد میکنه؟
بارها برام پیش اومده که از AI، مخصوصاً تو زمینه تخصصی خودم و مباحث عمیق‌تر، سوالی پرسیدم و جوابی بسیار پرت تحویلم داده. بعد، مرحله به مرحله براش تشریح کردم که چرا جوابش غلطه و جالبه که تو هر مرحله هم تأیید کرده و مثلاً گفته: «اوه بله، حق با شماست، با توجه به فلان منبع، حرف شما درسته...» حالا فکر کن کسی در زمینه‌ای تخصص نداشته باشه و همون اول یک جواب غلط رو با کلی آب و تاب و لحنی کاملاً مطمئن تحویل بگیره (که خب خیلی هم پیش میاد). اون آدم که به جواب شک نمی‌کنه و فکر میکنه اطلاعات درستی به دست آورده. نتیجه این اتفاق چی می‌تونه باشه جز یادگیری غلط و ایجاد یک توهم دانش خطرناک؟ به نظرتون برای رفع این مشکل باید چیکار کرد؟
به گفت‌وگو بپیوندید !
مشکل خیلی از هوش مصنوعی ها مخصوصا مدل GPT این هست که با اعتماد به نفس طراحی شدن و حتی وقتی از جوابی مطمئن نیستن، باز هم با لحن قاطع باهات صحبت میکنن و چون ظاهرش منطقی هست، آدم راحت گول میخوره و فکر میکنه که حرفشون درست هست. از اون بدتر زمانی هست که وقتی نقدشون میکنی روی حرفشون پافشاری نمیکنن یا توضیح نمیدن که چرا حرفشون درسته. سریع میگن که «آره، حق با توعه». همین باعث میشه که کسی که تو حوزه ای تخصص نداره به اشتباه جواب های نادرست رو درست تلقی کنه و اطلاعات غلط یاد بگیره. حالا باید چیکار کنیم که این مشکل حل بشه؟ بهتره همیشه از هوش مصنوعی بخوایم که دلایلش رو توضیح بده و خودش رو نقد کنه. اینجوری هم منطق پشت حرف خودش رو میبینیم هم اینکه سریع تر متوجه اشتباهش میشیم. در کل نباید هیچ جوابی از هوش مصنوعی رو چون قشنگ و مطمئن حرف میزنه قبول کنیم. باید مثل یک دوستی بهش نگاه کنیم که تازه باهاش دوست شدیم و اعتماد کامل بهش نداریم. به حرف هاش گوش میدیم. اما همیشه یکمی شک داریم به حرف هاش.
0