جواب‌های ساختگی و اشتباه ChatGPT

سلام. نگران نباش، این تجربه تلخ رو تقریباً هر کسی که با این ابزارها کار جدی کرده، یه بار داشته. اتفاقی که افتاده تقصیر تو نیست و خوبه که قبل از تحویل تحقیقت متوجه شدی. ببین، بزرگترین سوءتفاهم در مورد ChatGPT اینه که مردم فکر می‌کنن اون یک موتور جستجو یا یک دیتابیسِ که میره اطلاعات رو پیدا می‌کنه و بهت میده. اصلاً اینطور نیست. بهترین تشبیهی که می‌تونم برات بکنم اینه: ChatGPT یک ماشینِ حدسِ کلمه‌ی فوق‌العاده قویه. کار اصلیش اینه که با توجه به حرفی که زدی، کلمه‌ها رو طوری پشت سر هم بچینه که نتیجه‌اش از نظر آماری، شبیه‌ترین چیز به متنی باشه که یک انسان متخصص ممکنه بنویسه. اون اصلاً نمی‌فهمه "حقیقت" چیه. دلیل اینکه اون جواب ساختگی رو بهت داده اینه که الگویی که یاد گرفته این شکلیه: "وقتی کسی لیستی از مقالات یک نویسنده رو می‌خواد، خروجی باید فرمتی شبیه به [اسم مقاله]، منتشر شده در [اسم ژورنال]، [سال] داشته باشه." اگه اطلاعات واقعی در مورد مقاله‌های اون نویسنده نداشته باشه، برای اینکه درخواست تو رو بی‌پاسخ نذاره، خودش جاهای خالی رو با محتمل‌ترین کلماتی که به اون الگو می‌خورن، پر می‌کنه. یعنی یک اسم مقاله قابل قبول و یک سال انتشار منطقی رو حدس می‌زنه. اون نمی‌فهمه که این کار اشتباهه، فقط داره کار اصلیش یعنی تکمیل الگو رو به بهترین شکل انجام میده. قانون شماره یک کار با این ابزارها اینه: برای خلاقیت و ایده‌پردازی بهش اعتماد کن، ولی برای اطلاعات واقعی و فکت، هرگز. همیشه و همیشه هر اسم، تاریخ، آمار یا منبعی که بهت می‌ده رو باید خودت جداگانه چک کنی. این ضعفش نیست، ذاتشه. باید یاد بگیریم چطور درست ازش استفاده کنیم. موفق باشی با تحقیقت.