هوش مصنوعی داره بهمون یاد میده یا دانش غلط ایجاد میکنه؟
بارها برام پیش اومده که از AI، مخصوصاً تو زمینه تخصصی خودم و مباحث عمیق‌تر، سوالی پرسیدم و جوابی بسیار پرت تحویلم داده. بعد، مرحله به مرحله براش تشریح کردم که چرا جوابش غلطه و جالبه که تو هر مرحله هم تأیید کرده و مثلاً گفته: «اوه بله، حق با شماست، با توجه به فلان منبع، حرف شما درسته...»
حالا فکر کن کسی در زمینه‌ای تخصص نداشته باشه و همون اول یک جواب غلط رو با کلی آب و تاب و لحنی کاملاً مطمئن تحویل بگیره (که خب خیلی هم پیش میاد). اون آدم که به جواب شک نمی‌کنه و فکر میکنه اطلاعات درستی به دست آورده. نتیجه این اتفاق چی میتونه باشه جز یادگیری غلط و ایجاد یک توهم دانش خطرناک؟
به نظرتون برای رفع این مشکل باید چیکار کرد؟