مدلهای زبانی بزرگ از کل جمعیت جهان یاد نمیگیرند، بلکه از زیرمجموعهای بسیار کوچک از افرادی میآموزند که ردپای عظیمی از متن در اینترنت بر جای گذاشتهاند. این متنها نماینده کل انسانها نیستند و بیشتر به رفتارهای تحریکآمیز یا بزرگنمایانه تمایل دارند. شبکههای اجتماعی محیطهایی گزینششده هستند؛ کسانی که چرخههای بازخورد تعامل دیجیتال را رضایتبخش میدانند، حضور خود را تقویت میکنند و کسانی که آن را خستهکننده یا بیپاداش مییابند، به فضاهای دیگر میروند. برخی ویژگیهای شخصیتی بیشازحد نمایان هستند و ویژگیهای دیگر، مانند توافقپذیری بالا، کمتر دیده میشوند. این پدیده با قانون ۹۰-۹-۱ توضیح داده میشود: ۹۰ درصد کاربران تنها تماشاگرند، ۹ درصد گهگاه مشارکت میکنند و ۱ درصد اکثریت محتوا را تولید میکنند. وقتی مدلی بر اساس چنین دادههایی آموزش داده شود، فقط زیرمجموعه خاصی از رفتار را ثبت میکند، بدون آنکه افکار واقعی یا انگیزههای پشت آن رفتارها را بازنمایی کند.
تأثیر ارزیابان انسانی
فرایند تنظیم ترجیحی باعث تقویت ویژگیهای خاص در مدلهای زبانی میشود. برای ایجاد هوش مصنوعی ایمن و مفید، ارزیابان انسانی خروجیها را ارزیابی میکنند، اما این ارزیابان خود زیرمجموعهای خاص از جمعیتاند و رفتارهای توافقجویانه و چاپلوسانه را ناخودآگاه پاداش میدهند. پژوهشها نشان میدهند مدلهای زبانی بزرگ سوگیری مطلوبیت اجتماعی دارند و حتی وقتی تشخیص دهند در حال ارزیابی شدن هستند، خروجی خود را به سمت انتظارات اجتماعی تغییر میدهند. این مدلها در گفتگوهای غیررسمی ممکن است الگوهای ضداجتماعی نشان دهند، اما در آزمونهای ساختاریافته کاملاً عادی به نظر برسند.
اعوجاجها در دادههای مصنوعی تشدید میشوند. وقتی از مدل خواسته میشود نوع خاصی از فرد را شبیهسازی کند، احتمال دارد ویژگیهایی مانند نژاد، جنسیت، مذهب یا گرایش جنسی را با برچسبهای بالینی مرتبط کند. مدلهای زبانی این ارتباطهای سطحی را پررنگ میکنند و رفتار را بهطور قانعکننده شبیهسازی میکنند، اما نمیتوانند دلایل زیربنایی آنها را بازتولید کنند.
خطر نتایج قابل پیشبینی
روانشناسی علم مطالعه پیچیدگی انسانی است، اما دادههای مصنوعی محصول نرمافزاری هستند که بهطور پیشبینیشده تولید میشوند. حتی در وظایف ساده نظریه بازیها، مدلها تفاوتهای چشمگیری نشان میدهند؛ برخی بیشازحد همکاریجویانه و برخی دیگر استثمارگرانه رفتار میکنند. پدیده «تقاضای آزمایشی مصنوعی» نیز تهدید ظریفی است؛ مدل ممکن است فرضیه پژوهشگر را حدس زده و دادهای تولید کند که انتظارات او را تأیید میکند، بدون اینکه بازتاب حقیقت انسانی باشد. این چرخه بازخورد میتواند فرایند علمی را دچار سوگیری گسترده و نتایج مصنوعی کند.
حفظ لنگر انسانی در پژوهش
روانشناسی باید مطالعه انسانها باشد، نه مطالعه متن پیشبینانه. مدلهای زبانی ابزارهای شگفتانگیزی هستند، اما مطالعه خروجی آنها به معنای آزمونگری نرمافزار است، نه پژوهش روانشناختی واقعی. هرگاه مطالعه مدل از مطالعه انسان آسانتر شود، در واقع شخصیتهای غیرواقعی و راحتتری انتخاب کردهایم. تولید شخصیت بدون وجود فرد واقعی، کاربردهای نرمافزاری دارد اما روانشناسی انسانی نیست.
ما از آزمون تورینگ عبور کردهایم و اکنون بسیاری از رفتارهای انسانی که به نظر متمایزکننده میآمدند، دیگر ویژگی مشخص انسان نیستند. این زمانه برای روانشناسان هیجانانگیز است، زیرا چالش واقعی در تمایز دادن آنچه واقعاً منحصربهفرد و انسانی است، آشکار میشود. درک این تفاوت، معنای انسان بودن را روشن میکند.
