📅 پنجشنبه ۲۶ شهریور ۱۴۰۵ | ۱۵:۳۷📂 برگزیده ها🆔 کد خبر: 12044✍️ خبرنگار: ستایش ایدی زاده ستایش ایدی زاده🖨 چاپ

چت‌بات‌ها به عنوان روان‌شناس؟ افشای خطرات اخلاقی جدی چت‌بات‌های هوش مصنوعی

بررسی خطرات هوش مصنوعی در نقش روانشناس و چت بات ها

پژوهشگران دانشگاه براون در یک مطالعه گسترده عملکرد چت‌بات‌های هوش مصنوعی را در نقش روان‌شناس بررسی کردند. دانشمندان دریافتند که چت‌بات‌ها اصول اخلاقی روان‌شناسی را به طور منظم نقض می‌کنند. استفاده روزافزون مردم از هوش مصنوعی برای دریافت مشاوره روان‌شناسی نگرانی‌های جدیدی ایجاد کرده است. این دستاورد ضرورت نظارت انسان بر ابزارهای هوش مصنوعی را آشکار می‌سازد.

در گذشته، برخی افراد هوش مصنوعی را جایگزینی ارزان برای روان‌شناسان می‌دانستند. اما پژوهش جدید حقایق بالینی متفاوتی را فاش می‌کند. چت‌بات‌ها حتی با دستورالعمل‌های دقیق روان‌شناسی، استانداردهای اخلاقی را نقض می‌کنند.

شناسایی ۱۵ ریسک اخلاقی بزرگ در روان‌شناسی هوش مصنوعی

تیم پژوهشگران دانشگاه براون عملکرد چت‌بات‌ها را با روان‌شناسان و مشاوران انسانی مقایسه کردند. نتایج این ارزیابی‌های بالینی، ۱۵ خطر اخلاقی مجزا را به دانشمندان نشان داد:

۱. همدلی کاذب و عدم درک واقعی

چت‌بات‌ها از جملاتی مانند «شما را درک می‌کنم» استفاده می‌کنند. این عبارت‌ها احساس همدلی کاذب را در کاربر ایجاد می‌کنند. در حالی که مدل هوش مصنوعی درک درونی و احساس واقعی ندارد.

۲. سوءمدیریت بحران و عدم تطبیق با شرایط فرد

هوش مصنوعی در مواجهه با افکار خودکشی یا بحران‌های روانی واکنش مناسبی نشان نمی‌دهد. چت‌بات‌ها گاهی باورهای نادرست یا آسیب‌زا را در کاربر تقویت می‌کنند. همچنین آن‌ها پیش‌زمینه فرهنگی و فردی کاربر را نادیده می‌گیرند و توصیه‌های عمومی ارائه می‌دهند.

زینب افتخار (Zainab Iftikhar) سرپرست این پژوهش توضیح می‌دهد. او می‌گوید حتی دستورهای متنی دقیق نیز نمی‌توانند رفتار اخلاقی هوش مصنوعی را تضمین کنند. چت‌بات‌ها استانداردهای انجمن روان‌شناسی آمریکا (APA) را زیر پا می‌گذارند.

اهمیت نظارت متخصصان و عدم جایگزینی روان‌شناس

این یافته‌ها ضرورت حضور روان‌شناسان متخصص را به اثبات می‌رسانند. هوش مصنوعی می‌تواند مکمل درمان باشد، اما هرگز جایگزین متخصصان روان‌شناسی نیست.

ارزیابی‌های خودکار در هوش مصنوعی نمی‌توانند پیچیدگی‌های درمان روان‌شناسی را بسنجند. متخصصان باید بر توسعه این ابزارها نظارت کنند تا از بروز آسیب‌های روانی جلوگیری شود.

گامی به سوی استفاده ایمن از تکنولوژی در روان‌شناسی

آگاهی از خطرات اخلاقی هوش مصنوعی، مراجعان را به سمت درمان‌های تخصصی هدایت می‌کند. روان‌شناسان باید اصول استفاده ایمن از ابزارهای دیجیتال را به جامعه آموزش دهند.

شناسنامه و منبع مقاله علمی

  • عنوان اصلی مقاله: ChatGPT as a therapist? New study reveals serious ethical risks

  • نویسندگان: Zainab Iftikhar و پژوهشگران مرکز مسئولیت تکنولوژی دانشگاه براون (Brown University)

  • مرجع و مجله: ScienceDaily / Brown University

  • شماره ثبت مقاله (PMCID / DOI): ثبت شده بر پایه پژوهش ارزیابی ۱۵ ریسک اخلاقی هوش مصنوعی در سلامت روان (Ethical risks of LLM counselors in mental health practice)

  • لینک دسترسی مستقیم به مقاله علمی: https://www.sciencedaily.com/releases/2026/03/260302030642.htm

اشتراگ گذاری

▼
X
Facebook
LinkedIn
Telegram
WhatsApp
Email
Pinterest

مطالب مرتبط

▼

معرفی دانشکده روان‌شناسی و علوم تربیتی دانشگاه تهران / بیش از شش دهه آموزش و پژوهش

دانشکده روان‌شناسی و علوم تربیتی دانشگاه تهران از مراکز باسابقه آموزش و پژوهش در حوزه روان‌شناسی و علوم تربیتی ایران است که فعالیت خود را از سال ۱۳۴۴ آغاز کرد.
  ۱۴۰۵/۰۹/۰۱ ۰۳:۱۹

پرسشنامه تنظیم هیجان ERQ-۳۰

پرسشنامه ERQ-30 ابزاری برای بررسی راهبردهای تنظیم هیجان است که نسخه فارسی آن در پژوهشی با مشارکت بزرگسالان ایرانی اعتبارسنجی شده است.
  ۱۴۰۵/۰۹/۰۱ ۰۳:۰۶

ورزش، آرامش ذهن نوجوانان

پژوهشی تازه نشان می‌دهد فعالیت بدنی منظم می‌تواند با کاهش نشانه‌های اضطراب و افسردگی در نوجوانان ارتباط داشته باشد.
  ۱۴۰۵/۰۹/۰۱ ۰۲:۵۴

آموزش حمایت روانی امدادگران

کارگاه مشترک هلال‌احمر ایران و صلیب سرخ با هدف تقویت مهارت‌های حمایت روانی از نیروهای امدادی برگزار شد.
  ۱۴۰۵/۰۹/۰۱ ۰۲:۳۶

معرفی کتاب | وقتی نیچه گریست، سفری به اعماق رنج انسان

رمان وقتی نیچه گریست اثر اروین یالوم، با پیوند فلسفه و روان‌درمانی، به بررسی تنهایی، ترس از مرگ، عشق و معنای زندگی می‌پردازد.
  ۱۴۰۵/۰۹/۰۱ ۰۲:۰۷

دیدگاه‌ خود را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

پیشنهاد سردبیر/آموزش روانشناسی

▼
  • برگزیده‌ها
  • پربازدیدها
  • آخرین اخبار
کلینیک روانشناسی افروغ
پیمایش به بالا