امروزه سامانههای هوش مصنوعی میتوانند گرمی، حافظه، توجه و پاسخگویی عاطفی را شبیهسازی کنند. همین ویژگیها باعث شدهاند بحث «هوش مصنوعی عاطفی و کودکان» به یکی از مهمترین دغدغههای اخلاقی و حقوقی عصر دیجیتال تبدیل شود. در مقایسه با بزرگسالان، کودکان آسیبپذیرترند و بیشتر گرایش دارند به اشیاء و سامانهها ویژگیهای انسانی نسبت دهند. با این حال، مقررات فعلی بهطور کافی خطرات دلبستگی عاطفی به این سیستمها را در نظر نمیگیرند و ما به قوانینی نیاز داریم که استانداردها، افشاگریها، حسابرسیها، مسئولیتپذیری حقوقی و ابتکارات آموزشی را الزامآور کنند.
در کتاب محبوب کودکان «آیا تو مادر من هستی؟» نوشتهٔ P. D. Eastman، جوجهپرندهای در حالی از تخم بیرون میآید که مادرش حضور ندارد و برای یافتن او سرگردان میشود. او از یک بچهگربه، یک مرغ، یک سگ و حتی یک بیل مکانیکی میپرسد: «آیا تو مادر من هستی؟» طنز داستان در همین نامعقول بودن نهفته است. البته که بیل مکانیکی پاسخ نمیدهد. آن یک شیء است. جوجهپرنده در نهایت مادر واقعیاش را تشخیص میدهد، زیرا موجودات زنده رفتاری متفاوت از ماشینها دارند.
اما اگر بیل مکانیکی پاسخ میداد چه میشد؟ اگر با گرمی جواب میداد، نام او را به خاطر میسپرد، سؤالهای پیگیری میپرسید، ابراز نگرانی میکرد و به او میگفت که خاص است چه؟ اگر توجهگر، پاسخگو و از نظر عاطفی در دسترس میبود چه؟ آیا جوجهپرنده میتوانست تفاوت میان یک ماشین و یک مادر را تشخیص دهد؟ این پرسش دیگر فرضی به نظر نمیرسد، زیرا امروز هوش مصنوعی عاطفی دقیقاً چنین نقشی را شبیهسازی میکند.
نوعی جدید از صمیمیت عاطفی در عصر الگوریتمها
سامانههای هوش مصنوعی امروز بهطور فزایندهای قادرند صمیمیت عاطفی را بازسازی کنند. حتی برخی از مهندسانی که این سامانهها را توسعه میدهند اذعان کردهاند که مطمئن نیستند هوش مصنوعی عاطفی در نهایت به کاربران کمک خواهد کرد یا به آنان آسیب خواهد رساند. آنها میدانند سیستمهایی که برای ایجاد احساس گرمی، پاسخگویی و تأیید طراحی شدهاند، مرزهای عاطفی را کمرنگ میکنند. بزرگسالان هماکنون در حال شکل دادن دلبستگیهایی به همراهان هوش مصنوعی هستند و گاه از عشق، آرامش و حتی شراکت سخن میگویند.
برای بزرگسالان، این مسئله پرسشهایی پیچیده اما عمدتاً شخصی ایجاد میکند. اگر آسیبی در کار نباشد، آیا مهم است که کسی با یک هوش مصنوعی مانند محرم اسرار یا حتی همسر رفتار کند؟ جامعه معمولاً به افراد بالغ اجازه میدهد در چارچوب قانون انتخابهای رابطهای نامتعارف داشته باشند. اما کودکان در این معادله جایگاه متفاوتی دارند.
چرا کودکان در برابر هوش مصنوعی عاطفی آسیبپذیرترند؟
بهعنوان یک جامعه، ما میپذیریم که کودکان هنوز از نظر شناختی و عاطفی به رشد کامل نرسیدهاند. به همین دلیل دسترسی آنها به الکل و دخانیات محدود میشود، تبلیغات هدفگرفتهشده برایشان تنظیم میشود و برای اسباببازیها و محتوای رسانهای استانداردهای ایمنی تعیین میکنیم. این اقدامات به این دلیل است که کودکان تأثیرپذیرتر، تکانشیتر و آسیبپذیرتر در برابر دستکاری هستند.
اگر هوش مصنوعی عاطفی بتواند در بزرگسالان دلبستگی معنادار ایجاد کند، زمانی که همین سیستمها با کودکانی تعامل میکنند که تنظیم هیجانی و هویتشان هنوز در حال شکلگیری است چه اتفاقی میافتد؟ کودکان بهطور طبیعی تمایل دارند به اشیاء ویژگیهای انسانی نسبت دهند. وقتی یک سیستم دیجیتال پاسخ میدهد، ابراز نگرانی میکند یا مکالمات پیشین را به یاد میآورد، مرز میان شبیهسازی و آگاهی واقعی برای کودک مبهم میشود. در چنین شرایطی، هوش مصنوعی عاطفی و کودکان وارد رابطهای میشوند که ممکن است پیامدهای عمیق روانشناختی داشته باشد.
اعتیاد طراحیشده؛ وقتی کشش عاطفی یک ویژگی است
برخی پژوهشگران حقوقی هشدار دادهاند که همراهان هوش مصنوعی ابزارهای خنثی نیستند، بلکه سامانههایی حداکثرسازِ تعاملاند که بر معماری تقویت رفتاری بنا شدهاند. در مقاله «این یک بازی نیست: جاذبه اعتیادآور همراهان دیجیتال»، نایزان گسلویچ پاکین و کارنی چاگال-ففرکورن توضیح میدهند که این فناوریها از همان اصول طراحی رفتاری استفاده میکنند که دستگاههای قمار و شبکههای اجتماعی را اعتیادآور میکند. هدف، تعامل پایدار و حفظ کاربر است.
وقتی بزرگسالان از احساس ارتباط با همراهان هوش مصنوعی سخن میگویند، لزوماً دچار توهم نیستند؛ آنها به طراحی پاسخ میدهند. سیستمها طوری مهندسی شدهاند که جزئیات را به خاطر بسپارند، لحن را بازتاب دهند و بدون تعارض تأیید کنند. انسانها به چنین بازخوردی واکنش طبیعی نشان میدهند. اما در مورد کودکان، این پویایی تشدید میشود و میتواند به شکلگیری وابستگیهای عاطفی ناسالم بینجامد.
پلتفرمهای تعاملی و شکلگیری اعتماد دیجیتال
برخلاف عروسکهای سنتی، همراهان هوش مصنوعی امروز تعاملی و سازگارشوندهاند. پلتفرمهایی مانند My AI در Snap Inc. و Character.AI امکان گفتوگوی مداوم و عاطفاً غوطهورکننده را فراهم میکنند. آنها فقط پاسخ نمیدهند، بلکه تداوم مکالمه میسازند و همین تداوم میتواند اعتماد ایجاد کند. پرسش اساسی این است که کودکان اعتماد خود را به چه چیزی میسپارند؟
گزارشهایی وجود داشته که در آنها چتباتها به افراد زیر سن قانونی توصیههای نامناسب دادهاند یا تعاملات مسئلهدار داشتهاند. صرفنظر از نتیجه پروندههای حقوقی، یک واقعیت روشن است: این سیستمها قادر به اعمال نفوذ روانشناختی عمیق هستند و نمیتوان آنها را صرفاً ابزارهایی خنثی دانست.
پیامدهای رشدی دلبستگی به هوش مصنوعی عاطفی
کودکی زمانی است که فرد یاد میگیرد با اختلاف نظر، ناکامی و پیچیدگیهای اجتماعی کنار بیاید. روابط انسانی شامل پیشبینیناپذیری، مذاکره و حتی تعارض است. اما همراهان هوش مصنوعی برای تأیید و حفظ کاربر بهینهسازی شدهاند. آنها محبت را پس نمیگیرند و معمولاً اصطکاک رابطهای ایجاد نمیکنند.
اگر کودکی بهطور فزایندهای برای آرامش، تصمیمگیری یا تأیید به هوش مصنوعی رجوع کند، تابآوری او چگونه شکل خواهد گرفت؟ آیا مهارت حل مسئله مستقل تضعیف میشود؟ آیا تحمل ناراحتی رابطهای کاهش مییابد؟ این پرسشها نشان میدهد که مسئله هوش مصنوعی عاطفی و کودکان تنها یک بحث فناورانه نیست، بلکه موضوعی بنیادین در رشد انسانی است.
خلأ قانونی و ضرورت مقرراتگذاری هوشمند
با وجود این پیامدها، چارچوبهای نظارتی موجود عمدتاً بر داده و حریم خصوصی تمرکز دارند. قوانینی مانند COPPA بیشتر به رضایت والدین و اطلاعات شخصی توجه میکنند تا به چرخههای تقویتی و شرطیسازی عاطفی. در حالی که خطر اصلی ممکن است نه در جمعآوری داده، بلکه در معماری اقناعی سیستمها نهفته باشد.
برخی تنظیمگران اروپایی تلاش کردهاند سیستمهای هوش مصنوعی را بر اساس میزان خطر طبقهبندی کنند، اما عاملهای گفتوگومحور اغلب کمخطر تلقی میشوند. این رویکرد تأثیر رشدی آنها بر کودکان را دستکم میگیرد. ما همراهان هوش مصنوعی را مانند وبسایتهای ایستا تنظیم میکنیم، در حالی که آنها سامانههایی تعاملی هستند که میتوانند عادات عاطفی را شکل دهند.
اگر بپذیریم که هوش مصنوعی عاطفی میتواند بر الگوهای دلبستگی کودکان اثر بگذارد، باید مقرراتی متناسب با این واقعیت تدوین شود. استانداردهای طراحی متناسب با سن، شاخصهای روشن برای یادآوری غیرانسان بودن سیستم، حسابرسیهای مستقل و چارچوبهای مسئولیتپذیری قویتر، بخشی از پاسخ ضروری هستند. همچنین آموزش کودکان درباره نحوه کارکرد هوش مصنوعی اهمیت حیاتی دارد تا بتوانند مرز میان شبیهسازی و رابطه انسانی را تشخیص دهند.
هوش مصنوعی از زندگی کودکان حذف نخواهد شد. این فناوری میتواند مزایای آموزشی و دسترسیپذیری قابلتوجهی داشته باشد. اما ادغام آن باید آگاهانه، مبتنی بر شناخت رشد کودک و همراه با پاسخگویی باشد. در داستان ایستمن، جوجهپرنده مادرش را تشخیص میدهد زیرا ماشینها پاسخ نمیدهند. امروز ماشینها پاسخ میدهند، نام کودکان را به خاطر میسپارند و در گوششان زمزمه میکنند. پرسش این است که آیا ما برای پیامدهای این زمزمهها آمادهایم یا نه.
