توهم هوش مصنوعی چیست؟
شاید برای شما هم پیش آمده باشد که از ChatGPT یک سؤال تخصصی بپرسید و پاسخی کاملاً مطمئن و دقیق دریافت کنید؛ اما بعد از بررسی متوجه شوید بخشی از اطلاعات اشتباه است یا حتی منبعی که معرفی کرده وجود خارجی ندارد!
این اتفاق در دنیای هوش مصنوعی با اصطلاح توهم هوش مصنوعی (AI Hallucination) شناخته می‌شود. منظور از توهم در اینجا یک خطای فنی در تولید پاسخ است؛ یعنی مدل هوش مصنوعی اطلاعاتی نادرست، ساختگی یا گمراه‌کننده تولید می‌کند، در حالی که ممکن است آن اطلاعات کاملاً واقعی به نظر برسند.
این مسئله یکی از محدودیت‌های مهم مدل‌های زبانی بزرگ است و شناخت آن به ما کمک می‌کند با دقت بیشتری از ابزارهایی مانند ChatGPT استفاده کنیم.
چرا هوش مصنوعی اطلاعات اشتباه تولید می‌کند؟
برای درک بهتر این موضوع باید بدانیم مدل‌های زبانی چگونه کار می‌کنند. این مدل‌ها با استفاده از حجم زیادی از داده‌ها آموزش می‌بینند و هنگام پاسخ‌گویی، بر اساس متن ورودی و الگوهایی که یاد گرفته‌اند، ادامه مناسب متن را تولید می‌کنند.
آن‌ها لزوماً مانند یک انسان اطلاعات را درک یا صحت هر جمله را بررسی نمی‌کنند. به همین دلیل ممکن است پاسخی روان و منطقی تولید کنند که از نظر factual یا واقعی بودن اشتباه باشد.
۱. اطلاعات ناقص یا محدود
اگر مدل درباره یک موضوع اطلاعات کافی نداشته باشد، ممکن است به جای اعلام ناتوانی، پاسخی تولید کند که فقط از نظر زبانی محتمل به نظر می‌رسد.
برای مثال، ممکن است درباره یک محصول بسیار جدید سؤال کنید، اما مدل به اطلاعات به‌روز آن دسترسی نداشته باشد و مشخصات نادرستی ارائه کند.
۲. ابهام در سؤال کاربر
گاهی درخواست کاربر چند معنی مختلف دارد یا اطلاعات کافی در آن وجود ندارد. در چنین شرایطی مدل ممکن است یکی از برداشت‌های احتمالی را انتخاب کند و پاسخی نامرتبط یا نادرست ارائه دهد.
۳. وجود اطلاعات نادرست در داده‌های آموزشی
مدل‌های هوش مصنوعی با مجموعه‌های بزرگی از داده‌ها آموزش می‌بینند. اگر اطلاعات نادرست، متناقض یا قدیمی در داده‌های آموزشی وجود داشته باشد، احتمال دارد مدل نیز پاسخ‌هایی بر اساس همان الگوها تولید کند.
۴. تلاش برای پاسخ دادن به همه سؤال‌ها
یکی از دلایل مهم بروز توهم این است که مدل ممکن است حتی در شرایطی که اطلاعات کافی ندارد، همچنان تلاش کند پاسخ کاملی ارائه دهد. این موضوع می‌تواند باعث تولید نام‌ها، آمارها، تاریخ‌ها یا منابع ساختگی شود.
۵. پیچیدگی موضوع
در موضوعات بسیار تخصصی، محاسبات پیچیده یا سؤال‌هایی که به چند مرحله استدلال نیاز دارند، احتمال بروز خطا می‌تواند بیشتر شود. به همین دلیل پاسخ‌های تخصصی باید با منابع معتبر بررسی شوند.
مثال‌هایی از توهم هوش مصنوعی
برای شناخت بهتر این پدیده، چند نمونه رایج را بررسی کنیم:
- منابع علمی ساختگی: معرفی یک مقاله پژوهشی با عنوان، نویسنده یا لینک غیرواقعی.
- آمار اشتباه: ارائه درصدها و اعداد بدون پشتوانه معتبر.
- تاریخ‌های نادرست: اشتباه در تاریخ انتشار یک محصول یا وقوع یک رویداد.
- اطلاعات نادرست درباره اشخاص: نسبت دادن شغل، نقل‌قول یا فعالیتی به فردی که واقعاً آن را انجام نداده است.
- کد برنامه‌نویسی اشتباه: پیشنهاد یک تابع، کتابخانه یا قابلیت که وجود ندارد یا به شکل نادرستی استفاده شده است.
آیا همه مدل‌های هوش مصنوعی دچار توهم می‌شوند؟
بسیاری از مدل‌های هوش مصنوعی مولد، از جمله مدل‌های زبانی بزرگ، ممکن است دچار این مشکل شوند. البته میزان و نوع خطا به مدل، داده‌های آموزشی، نوع سؤال، ابزارهای در دسترس و روش ارزیابی آن بستگی دارد.
برخی مدل‌ها با استفاده از ابزار جست‌وجوی وب، منابع خارجی یا سیستم‌های بازیابی اطلاعات می‌توانند احتمال بعضی از خطاها را کاهش دهند؛ اما این قابلیت‌ها نیز تضمین‌کننده صحت تمام پاسخ‌ها نیستند.
چگونه از توهم هوش مصنوعی جلوگیری کنیم؟
نمی‌توان تضمین کرد که یک ابزار هوش مصنوعی هیچ‌وقت پاسخ اشتباه ندهد؛ اما با رعایت چند نکته می‌توان احتمال استفاده از اطلاعات نادرست را کاهش داد.
۱. سؤال‌های دقیق و شفاف بپرسید
درخواست خود را واضح بنویسید و اطلاعات زمینه‌ای لازم را در اختیار مدل قرار دهید. سؤال‌های مبهم معمولاً احتمال دریافت پاسخ نامرتبط را افزایش می‌دهند.
۲. درخواست منبع معتبر کنید
اگر درباره یک موضوع علمی یا تخصصی سؤال می‌کنید، از هوش مصنوعی بخواهید منابع و لینک‌های مرتبط را معرفی کند. البته صرف ارائه لینک به معنی معتبر بودن آن نیست؛ خودتان منبع را باز و بررسی کنید.
۳. اطلاعات مهم را با چند منبع بررسی کنید
برای موضوعات حساس، به یک پاسخ اکتفا نکنید. اطلاعات را با منابع رسمی، مستندات تخصصی یا وب‌سایت‌های معتبر مقایسه کنید.
۴. از مدل بخواهید میزان اطمینان خود را مشخص کند
می‌توانید در پرامپت خود بنویسید که اگر مدل از صحت موضوع مطمئن نیست، صریحاً اعلام کند و از حدس زدن خودداری کند. این کار ممکن است به شفاف‌تر شدن پاسخ کمک کند، اما تضمین نمی‌کند که خطایی رخ ندهد.
۵. اطلاعات حساس را بدون بررسی استفاده نکنید
در زمینه‌هایی مانند پزشکی، حقوق، امور مالی و امنیت، پاسخ هوش مصنوعی نباید جایگزین نظر متخصص یا بررسی منابع رسمی شود.
یک پرامپت کاربردی برای کاهش پاسخ‌های اشتباه
می‌توانید از دستور زیر در ChatGPT استفاده کنید تا مدل هنگام پاسخ‌گویی محتاط‌تر باشد:
به سؤال من با دقت پاسخ بده. فقط اطلاعاتی را بیان کن که برای آن شواهد یا مبنای قابل اتکا داری. اگر درباره بخشی از پاسخ مطمئن نیستی، صریحاً اعلام کن. هیچ منبع، آمار، نام یا نقل‌قولی را حدس نزن یا نساز. در صورت امکان منابع معتبر و قابل بررسی معرفی کن و بین واقعیت، احتمال و نظر شخصی تفاوت قائل شو.
این پرامپت می‌تواند به شفاف‌تر شدن پاسخ‌ها کمک کند، اما به تنهایی جلوی تمام خطاهای هوش مصنوعی را نمی‌گیرد.
آیا می‌توان به پاسخ‌های ChatGPT اعتماد کرد؟
ChatGPT و سایر ابزارهای هوش مصنوعی می‌توانند در یادگیری، تولید محتوا، برنامه‌نویسی، تحقیق اولیه و انجام کارهای روزمره بسیار مفید باشند. با این حال، بهتر است آن‌ها را دستیار هوشمند در نظر بگیریم، نه منبعی که همیشه پاسخ قطعی و بدون خطا ارائه می‌دهد.
برای کارهای ساده و ایده‌پردازی می‌توانید از پاسخ‌ها به عنوان نقطه شروع استفاده کنید. اما در تصمیم‌های مهم، اطلاعات تخصصی و موضوعات حساس، بررسی مستقل ضروری است.
جمع‌بندی
توهم هوش مصنوعی یکی از محدودیت‌های مدل‌های مولد است که باعث می‌شود گاهی اطلاعات نادرست با ظاهری کاملاً معتبر تولید کنند. این خطا می‌تواند به دلایلی مانند ابهام سؤال، اطلاعات ناقص، محدودیت داده‌های آموزشی و پیچیدگی موضوع رخ دهد.
بهترین راه استفاده از هوش مصنوعی این است که سؤال‌های دقیق بپرسیم، منابع را بررسی کنیم و پاسخ‌های مهم را بدون ارزیابی نپذیریم. هوش مصنوعی می‌تواند سرعت و کیفیت بسیاری از کارها را افزایش دهد، اما قضاوت نهایی و بررسی صحت اطلاعات همچنان اهمیت زیادی دارد.
برای آشنایی بیشتر با ابزارهای هوش مصنوعی و روش استفاده بهتر از آن‌ها، سایر مقالات آموزشی پرمیوم‌کده را نیز مطالعه کنید.