زمینه و هدف:گسترش روزافزون کاربرد هوش مصنوعی در خدمات سلامت روان، به ویژه در حوزه های حساس مانند مشاوره خودکشی، چالش های اخلاقی، بالینی و حقوقی متعددی را ایجاد کرده است.این مطالعه با هدف تحلیل تعامل کاربران با برنامه‌های روانشناسی و مشاوره مبتنی بر هوش مصنوعی، شناسایی چالش های کلیدی در حوزه های اخلاقی، روانپزشکی، حقوقی و پزشکی قانونی، و ارائه راهکارهایی برای بهره برداری مسئولانه از این فناوری در پیشگیری از خودکشی انجام شد
روش بررسی: این مطالعه کیفی با بررسی یک سناریوی بالینی واقعی (تعامل یک فرد دارای افکار خودکشی با یک برنامه مشاوره مبتنی بر هوش مصنوعی)، تحلیل اسناد حقوقی ایران (قانون مجازات اسلامی و قانون جرائم رایانه‌ای)، استانداردهای اخلاقی روانشناسی (ایران، اروپا و آمریکا)و پژوهش‌های داخلی و بین المللی انجام شد.داده ها شامل مکالمات ثبت شده کاربر، پاسخ‌های الگوریتم و ارزیابی پیامدهای رفتاری بود. تحلیل داده ها با رویکرد بین‌رشته ای (روانپزشکی، حقوق و اخلاق پزشکی) و با استفاده از روش‌های تحلیل محتوای کیفی و تطبیقی صورت گرفت.
یافته‌ها: سیستم‌های مشاوره ای مبتنی بر هوش مصنوعی فاقد صلاحیت حرفه‌ای جهت جایگزینی قضاوت بالینی متخصصان می‌باشد و در درک ظرافت‌های عاطفی، فرهنگی و اجتماعی ناتوان هستند. همچنین پاسخ‌های غیرهمدلانه آن ممکن است خطر خودکشی را تشدید کند. چالش‌های کلیدی شامل نقض حریم خصوصی، و فقدان سازگاری فرهنگی، ابهام در مسئولیت-پذیری حقوقی و سوگیری الگوریتمی است.
نتیجه‌گیری: استفاده از هوش مصنوعی در مشاوره خودکشی نیازمند رویکردی محتاطانه، مسئولانه و مبتنی بر نظارت متخصصان انسانی است و می‌توان از آن به‌عنوان ابزاری مکمل برای غربالگری اولیه و ارجاع فوری به متخصصان انسانی مورد استفاده قرار گیرد.تدوین چارچوب‌های اخلاقی- حقوقی جامع،توسعه الگوریتم‌های مبتنی بر داده‌های بومی و حساس به فرهنگ،تقویت همکاری بین‌رشته‌ای (روانپزشکی، حقوق، فناوری) و ایجاد ساز وکارهای نظارتی برای تضمین حریم خصوصی و امنیت داده‌ها، تدوین استانداردهای مشخص و نظارت دقیق بر عملکرد این سیستم‌ها، امری ضروری است.