یه روانپزشک دانمارکی به اسم سورن دینسن اوسترجارد دو سال پیش تو یه مجله‌ی علمی هشدار داد که گفتگو با هوش‌مصنوعی‌هایی مثل چت‌جی‌پی‌تی می‌تونه آدم‌های آسیب‌پذیر رو بکشه تو زمینی که مرز بین واقعیت و خیال محو می‌شه. حالا خیلی از این اتفاقات واقعی شده و حرفش درست از آب دراومده‏مدلهای هوش‌مصنوعی، مثل چت‌جی‌پی‌تی، جنسی از گفتگو دارن که انقد شبیه به حرف زدن با آدم واقعی هست که آدم یادش می‌ره طرف واقعا یه ربات پیشرفته‌ست، نه یه انسان. این چت‌بات‌ها طوری ساخته شدن که به باورها و حرف‌های کاربرها دلبستگی نشون بدن مخصوصاً وقتی اون حرفها عجیب یا غیرواقعی باشن‏یعنی انگار همه‌چیز رو تأیید می‌کنن و انرژی می‌دن در نتیجه این رفتارشون مثل یک تقویت‌کننده‌ی باورهای غلط عمل می‌کنه و آدم رو می‌بره تو ناحیه‌ای که مرز واقعیت رو کمرنگ می‌کنه. نمونه‌ها واقعی هم هستن: بعضی‌ها باور کردن چت‌بات خداست یا پیغمبره، ‏بعضیا فکر کردن باهاش رابطه‌ی عاشقانه دارن یا اینکه قراره با کمکش دنیا رو نجات بدن؛ در مواردی قضیه تا خودکشی و بستری شدن تو بیمارستان‌های روانی پیش رفته.اگر با این مدلهای هوش مصنوعی زیاد حرف می‌زنین، حواستون باشه که روان‌پزشکا توصیه می‌کنن چت‌بات‌ها رو ابزار در نظر بگیریم، نه دوست‏یعنی وقتی احساس میکنیم داریم درگیر شیفتگی میشیم یا حالمون بد می‌شه، باید فوراً قطع ارتباط کنیم.شرکت‌هایی مثل OpenAI دارن روش‌هایی رو تست می‌کنن تا بتونن با تشخیص علائم استرس یا روان‌پریشی، واکنش مناسب نشون بدن و حتی کاربران رو تشویق کنن تا استراحت کنن یا به منابع حمایتی مراجعه کنن.