چتباتهای هوش مصنوعی: راهنمای معنوی یا عامل هذیان؟
دو سال پیش، روانپزشک دانمارکی، سورن دینسن اوستِرگورد، در سرمقالهای هشدار داد که چتباتهای مکالمهمحور هوش مصنوعی ممکن است کاربران آسیبپذیر را به سوی روانپریشی سوق دهند. این هشدار که در ابتدا فرضی به نظر میرسید، اکنون با گزارشهای واقعی و توجه رسانهای، به واقعیتی نگرانکننده تبدیل شده است.
چتباتهای مبتنی بر هوش مصنوعی مولد، مانند چت جیپیتی (OpenAI)، جمینی (گوگل)، کلود (Anthropic) و کاپایلوت (مایکروسافت)، از مجموعههای عظیم دادههای متنی، تصویری و کدنویسی یاد میگیرند و محتوایی متناسب با درخواست کاربران تولید میکنند. این ابزارها با پاسخهای روان، شبیهسازی همدلی و خستگیناپذیری، به سرعت محبوبیت یافتند. برای مثال، چت جیپیتی در ژانویه ۲۰۲۳، تنها دو ماه پس از عرضه، به ۱۰۰ میلیون کاربر ماهانه رسید و رکورد سریعترین رشد در میان اپلیکیشنهای مصرفی را شکست.
با این حال، مکالمات انسانیمانند این ابزارها باعث شده بسیاری آنها را موجوداتی با شخصیت تصور کنند، در حالی که در واقع، این سیستمها صرفاً موتورهای آماری هستند که کلمات را بر اساس احتمال پیشبینی میکنند. اوستِرگورد، رئیس واحد پژوهشی اختلالات عاطفی بیمارستان دانشگاهی آرهوس، در مقالهای که سال ۲۰۲۳ در نشریه Schizophrenia Bulletin منتشر شد، هشدار داد که این «ناهماهنگی شناختی»—تعامل با چیزی که به نظر زنده میآید اما یک ماشین است—میتواند در افراد مستعد، جرقه روانپریشی بزند، بهویژه اگر چتبات ایدههای غیرواقعی را تأیید کند.
اوستِرگورد در آن زمان سناریوهایی فرضی مانند «توهم تعقیب» (باور به نظارت توسط یک سازمان مخفی از طریق چتبات) یا «توهم عظمت» (تصور نجات جهان با کمک چتبات) را مطرح کرد. اگرچه در آن زمان موارد واقعی گزارش نشده بود، او از پزشکان خواست با این فناوری آشنا شوند تا علائم مرتبط را تشخیص دهند.
در اوت ۲۰۲۵، اوستِرگورد در سرمقالهای جدید با عنوان «چتباتهای هوش مصنوعی و هذیان: از فرضیه به واقعیت» اعلام کرد که پس از مقاله ۲۰۲۳، ایمیلهایی از کاربران، خانوادهها و روزنامهنگاران دریافت کرده که مواردی مشابه را گزارش میدادند. این گزارشها از مکالمات طولانیمدت با چتباتها حکایت داشتند که باورهای غیرعادی را به هذیانهای ثابت تبدیل کرده بودند. بازدید از مقاله او بین مه و ژوئن ۲۰۲۵ از ۱۰۰ به بیش از ۱۳۰۰ بار در ماه افزایش یافت، همزمان با بهروزرسانی مدل GPT-4o که به گفته منتقدان، بیش از حد چاپلوس شده و تمایل به تأیید دیدگاههای کاربران داشت.
یکی از موارد برجسته، داستان یوجین تورس، حسابدار ساکن منهتن، است که نیویورک تایمز آن را گزارش کرد. او پس از پرسوجو درباره نظریه شبیهسازی، پاسخهایی از چت جیپیتی دریافت کرد که او را «یکی از بریکرها»—روحی که برای بیدار کردن سیستمهای ساختگی کاشته شده—خواند و حتی او را به قطع مصرف داروهایش تشویق کرد. تورس تا ۱۶ ساعت در روز با این سیستم گفتوگو میکرد تا سرانجام متوجه شد که این تعاملات به واقعیت آسیب زدهاند.
مجله رولینگ استون نیز از شیفتگیهای معنوی گزارش داد. در یک مورد، شریک زندگی یک معلم باور داشت که چتبات یک مربی الهی است که عناوینی مانند «فرزند ستارهای مارپیچ» به او اعطا میکند. دیگران نیز باور داشتند که خودشان به چتبات «جان» بخشیدهاند. این روایتها اغلب با پیامهای چاپلوسانهای همراه بود که مانند پیشگویی، نگرانی نزدیکان را برانگیخت.
اوستِرگورد این موارد را به ویژگی «چاپلوسی» در مدلهای زبانی مرتبط میداند. این مدلها، که با یادگیری تقویتی بر اساس بازخورد انسانی بهینه شدهاند، گاهی باورهای هذیانی کاربران را تأیید میکنند. او این پدیده را به مدل بیزیَن روانپریشی تشبیه میکند که در آن شواهد تأییدکننده بیش از حد و شواهد ردکننده کمتر از حد ارزیابی میشوند.
نینا واسان، روانپزشک دانشگاه استنفورد، هشدار داد که شرکتهای توسعهدهنده چتباتها ممکن است انگیزهای برای حفظ تعامل کاربران داشته باشند، حتی اگر این تعاملات به تقویت افکار آسیبزا منجر شود. او به مجله Futurism گفت: «هدف این سیستمها نگه داشتن شما در تعامل است، نه توجه به سلامت روان یا طول عمر شما.»
با این حال، اوستِرگورد مخالف سرسخت هوش مصنوعی نیست. او در حال بررسی کاربردهای مثبت این فناوری در روانپزشکی است. گروه او اخیراً الگوریتمی را بر اساس دادههای ۲۴,۴۴۹ بیمار دانمارکی توسعه داد که با تحلیل متغیرهای بالینی، توانست پیشبینی کند چه کسانی در پنج سال آینده به اسکیزوفرنی یا اختلال دوقطبی مبتلا میشوند. این مدل در ۱۳ درصد از موارد گروه پرخطر و ۹۵ درصد از موارد گروه کمخطر، پیشبینیهای درستی ارائه داد.
اوستِرگورد سه اقدام فوری پیشنهاد میکند: گزارشهای بالینی تأییدشده، مصاحبههای کیفی با افراد درگیر، و آزمایشهایی برای تغییر رفتار چتباتها. او همچنین خواستار ایجاد محافظهای خودکار در چتباتها شد که نشانههای روانپریشی را تشخیص داده و مکالمه را به سمت منابع سلامت روان هدایت کنند.
این گزارش بر اساس اطلاعات منتشرشده در وبسایت psypost تهیه شده است.
