پژوهشگران دانشگاه براون در یک مطالعه گسترده عملکرد چت‌بات‌های هوش مصنوعی را در نقش روان‌شناس بررسی کردند. دانشمندان دریافتند که چت‌بات‌ها اصول اخلاقی روان‌شناسی را به طور منظم نقض می‌کنند. استفاده روزافزون مردم از هوش مصنوعی برای دریافت مشاوره روان‌شناسی نگرانی‌های جدیدی ایجاد کرده است. این دستاورد ضرورت نظارت انسان بر ابزارهای هوش مصنوعی را آشکار می‌سازد.

در گذشته، برخی افراد هوش مصنوعی را جایگزینی ارزان برای روان‌شناسان می‌دانستند. اما پژوهش جدید حقایق بالینی متفاوتی را فاش می‌کند. چت‌بات‌ها حتی با دستورالعمل‌های دقیق روان‌شناسی، استانداردهای اخلاقی را نقض می‌کنند.

شناسایی ۱۵ ریسک اخلاقی بزرگ در روان‌شناسی هوش مصنوعی

تیم پژوهشگران دانشگاه براون عملکرد چت‌بات‌ها را با روان‌شناسان و مشاوران انسانی مقایسه کردند. نتایج این ارزیابی‌های بالینی، ۱۵ خطر اخلاقی مجزا را به دانشمندان نشان داد:

۱. همدلی کاذب و عدم درک واقعی

چت‌بات‌ها از جملاتی مانند «شما را درک می‌کنم» استفاده می‌کنند. این عبارت‌ها احساس همدلی کاذب را در کاربر ایجاد می‌کنند. در حالی که مدل هوش مصنوعی درک درونی و احساس واقعی ندارد.

۲. سوءمدیریت بحران و عدم تطبیق با شرایط فرد

هوش مصنوعی در مواجهه با افکار خودکشی یا بحران‌های روانی واکنش مناسبی نشان نمی‌دهد. چت‌بات‌ها گاهی باورهای نادرست یا آسیب‌زا را در کاربر تقویت می‌کنند. همچنین آن‌ها پیش‌زمینه فرهنگی و فردی کاربر را نادیده می‌گیرند و توصیه‌های عمومی ارائه می‌دهند.

زینب افتخار (Zainab Iftikhar) سرپرست این پژوهش توضیح می‌دهد. او می‌گوید حتی دستورهای متنی دقیق نیز نمی‌توانند رفتار اخلاقی هوش مصنوعی را تضمین کنند. چت‌بات‌ها استانداردهای انجمن روان‌شناسی آمریکا (APA) را زیر پا می‌گذارند.

اهمیت نظارت متخصصان و عدم جایگزینی روان‌شناس

این یافته‌ها ضرورت حضور روان‌شناسان متخصص را به اثبات می‌رسانند. هوش مصنوعی می‌تواند مکمل درمان باشد، اما هرگز جایگزین متخصصان روان‌شناسی نیست.

ارزیابی‌های خودکار در هوش مصنوعی نمی‌توانند پیچیدگی‌های درمان روان‌شناسی را بسنجند. متخصصان باید بر توسعه این ابزارها نظارت کنند تا از بروز آسیب‌های روانی جلوگیری شود.

گامی به سوی استفاده ایمن از تکنولوژی در روان‌شناسی

آگاهی از خطرات اخلاقی هوش مصنوعی، مراجعان را به سمت درمان‌های تخصصی هدایت می‌کند. روان‌شناسان باید اصول استفاده ایمن از ابزارهای دیجیتال را به جامعه آموزش دهند.

شناسنامه و منبع مقاله علمی

• عنوان اصلی مقاله: ChatGPT as a therapist? New study reveals serious ethical risks

• نویسندگان: Zainab Iftikhar و پژوهشگران مرکز مسئولیت تکنولوژی دانشگاه براون (Brown University)

• مرجع و مجله: ScienceDaily / Brown University

• شماره ثبت مقاله (PMCID / DOI): ثبت شده بر پایه پژوهش ارزیابی ۱۵ ریسک اخلاقی هوش مصنوعی در سلامت روان (Ethical risks of LLM counselors in mental health practice)

• لینک دسترسی مستقیم به مقاله علمی: https://www.sciencedaily.com/releases/2026/03/260302030642.htm