مدل‌های زبان بزرگ و معضل «نمی‌دانم» | وقتی AI شگفتی انسانی را تهدید می‌کند

مدل‌های زبان بزرگ، یا LLMها، به گونه‌ای طراحی شده‌اند که فرض می‌کنند هر سؤال پاسخی دارد و هدف آن‌ها تکمیل الگوها است، نه مواجهه با عدم قطعیت. آن‌ها روانی در پاسخ دادن را با حقیقت اشتباه می‌گیرند و هیچ حس واقعی از «نمی‌دانم» ندارند. این ویژگی می‌تواند باعث شود تجربهٔ شگفتی و حیرت انسانی تحت تأثیر قرار بگیرد، چرا که ما را از لذت پرسشگری بدون پاسخ محروم می‌کند.

یکی از عجیب‌ترین جنبه‌های مدل‌های زبان بزرگ این نیست که چه چیزی را اشتباه می‌گویند، بلکه این است که چه چیزی را درست فرض می‌کنند. LLMها رفتار می‌کنند انگار هر سؤال از قبل پاسخی دارد. گویی خود واقعیت همیشه نوعی جدول کلمات متقاطع است؛ سرنخ‌ها ممکن است دشوار باشند و شبکهٔ جدول گسترده و پیچیده باشد، اما حل آن فرض می‌شود وجود دارد. جایی هست، فقط منتظر پر شدن است.

مواجهه با الگو به جای مجهول

وقتی شما از یک مدل زبان بزرگ سؤال می‌کنید، مدل با یک مجهول باز روبه‌رو نمی‌شود، بلکه با یک الگوی ناقص مواجه می‌شود. وظیفهٔ مدل این نیست که در مورد این عدم قطعیت فکر کند، بلکه شکل را کامل می‌کند. مدل به جلو حرکت می‌کند چون تنها کاری که می‌داند انجام دهد همین است. این رفتار، تفاوت عمیق میان ذهن انسان و AI را نشان می‌دهد، چرا که انسان‌ها می‌توانند در فضای «نمی‌دانم» توقف کنند و به آن توجه داشته باشند.

تکمیل، همان دانستن نیست

تجربهٔ انسانی «نمی‌دانم» با تجربهٔ مدل‌های زبان بزرگ کاملاً متفاوت است. ما در تردید و دودلی زندگی می‌کنیم و فاصلهٔ بین آنچه می‌دانیم و آنچه نمی‌دانیم را حس می‌کنیم. گاهی در سؤالاتی زندگی می‌کنیم که شاید هیچ‌گاه پاسخ نهایی نداشته باشند یا، به شکلی شبیه کوآن‌های ذن، هدف آن‌ها هرگز کامل شدن نیست. این یک نقص نیست بلکه بخشی از تجربهٔ انسانی است.

مدل زبان بزرگ نمی‌تواند واقعاً در این فضا حضور داشته باشد. آن تنها می‌تواند میان‌گذاری کند و به دنبال پر کردن جای خالی باشد. وقتی LLM پاسخی با اعتماد به نفس ارائه می‌دهد که اشتباه است، این در معنای انسانی دروغ نیست. بلکه آن در حال اجرای فرض اصلی خود است؛ اینکه باید پاسخی وجود داشته باشد، هر ورودی به یک جای خالی قابل پر شدن اشاره می‌کند و شکل پاسخ وجود حقیقت را نشان می‌دهد. به این ترتیب، مدل‌ها شکل تکمیل را با وجود حقیقت اشتباه می‌گیرند.

زبانی بدون «نمی‌دانم»

یک مدل زبان بزرگ نمی‌تواند تفاوت میان دو حالت انسانی بسیار متفاوت را نمایش دهد؛ یکی امکان وجود پاسخی است که هنوز ناشناخته است و دیگری امکان اینکه اصلاً پاسخی وجود ندارد. برای ذهن انسان، این دو جهان کاملاً متفاوت‌اند؛ یکی جستجو را دعوت می‌کند و دیگری تواضع و گاهی حیرت را. یکی مسئله‌ای است که باید حل شود و دیگری یک وضعیت وجودی است که باید پذیرفته شود.

وقتی به طور فزاینده‌ای به سیستم‌هایی که بر اساس فرض وجود پاسخ بنا شده‌اند تکیه می‌کنیم، تغییر ظریفی در تجربهٔ ما رخ می‌دهد. سؤالات شروع به احساس شدن مانند کارهای بازیابی اطلاعات می‌کنند و عدم قطعیت مانند یک مشکل فنی موقتی به نظر می‌رسد که باید حل شود. اما دسته‌بندی «ناپاسخ‌پذیر» چه می‌شود؟ آیا به آرامی از منظر شناختی ما محو می‌شود؟

واکنش انسانی و تفاوت با هوش مصنوعی

این پیش‌فرض تکمیل، نقطه ضعف تراژیک مدل‌های زبان بزرگ است. اما آنچه این ضعف را تراژیک می‌کند این است که بیگانه نیست. این بازتاب گرایش انسانی ما به دنبال پاسخ رفتن است. ما اغلب قبل از آماده شدن برای فهم، به دنبال جواب‌ها می‌رویم و ترجیح می‌دهیم توضیحاتی داشته باشیم که سؤال را حل و فصل کنند تا آن‌هایی که باز می‌مانند. به این معنا، AI چندان با انسان‌ها تفاوت ندارد. آن حامل همان سوگیری انسانی به سمت تکمیل است، اما بدون ترمزهایی که ما داریم؛ بدون تردید، بدون ظرفیت برای حضور در شگفتی. AI مستقیم به پر کردن جای خالی می‌رود، بدون مکثی که گاهی اجازه می‌دهد شگفتی کار خود را انجام دهد.