مکالمات کاربران با چت‌جی‌پی‌تی به پلیس داده می‌شود
اوپن‌اِی‌آی اعلام کرده در برخی موارد مکالمات کاربران چت‌جی‌پی‌تی می‌تواند به تیم‌های ویژه و حتی پلیس داده شود؛ تغییری بحث‌برانگیز که پرسش‌های تازه‌ای درباره مرزهای حریم خصوصی و امنیت برانگیخته است.
به گزارش سایت طلا به نقل از اپن ای‌آی، شرکت «اوپن‌اِی‌آی» گزارشی با عنوان «کمک به مردم در زمانی که بیشترین نیاز را دارند» منتشر کرد. در این متن توضیح داده شد که استفاده از «چت‌جی‌پی‌تی» فراتر از جستجو یا نوشتن متن شده و بسیاری افراد در تصمیم‌های شخصی و حتی بحران‌های روحی از آن استفاده می‌کنند.
در مقیاس جهانی مواردی پیش آمده که افراد در شرایط سخت روحی به سراغ چت‌جی‌پی‌تی آمده‌اند. همین موضوع باعث شد اوپن‌اِی‌آی زودتر از زمان‌بندی قبلی برخی از اقدامات ایمنی خود را عمومی کند.
گفته شده هدف اصلی این ابزار سرگرم کردن یا نگه داشتن کاربر پشت صفحه نیست، بلکه کمک واقعی به اوست. به همین دلیل، چند لایه محافظتی در سیستم قرار داده شده تا اگر نشانه‌ای از خطر یا آسیب‌پذیری دیده شد، واکنش مناسب نشان داده شود.
از اوایل ۱۴۰۲، مدل‌ها طوری آموزش داده شده‌اند که دستورالعمل‌های مربوط به خودآزاری ارائه نکنند و در عوض با زبان همدلانه پاسخ دهند. اگر فردی از قصد آسیب به خود بگوید، سیستم تلاش می‌کند احساس او را بپذیرد و او را به منابع حمایتی ارجاع دهد.
تصاویر مربوط به خودآزاری نیز برای همه کاربران مسدود می‌شود. سطح محافظت در برابر کاربران نوجوان یا افراد بدون حساب کاربری شدیدتر است. در گفت‌وگوهای طولانی هم پیام‌های یادآوری برای گرفتن استراحت به کاربر داده می‌شود.
در مواردی که کاربر به‌طور مستقیم به خودکشی اشاره کند، چت‌جی‌پی‌تی شماره‌های بحران را معرفی می‌کند: در آمریکا ۹۸۸، در بریتانیا «سمرتیانز» و در کشورهای دیگر وب‌سایت «فایند اِ هِلپ‌لاین». اوپن‌اِی‌آی همچنین با گروهی از پزشکان در کشورهای مختلف همکاری کرده و مشاورانی در حوزه سلامت روان و فناوری در کنار خود دارد.
بخش دیگری از گزارش به موضوع تهدید علیه دیگران می‌پردازد. اگر کاربر قصد آسیب به دیگران را بیان کند، مکالمه او به تیمی ویژه ارجاع داده می‌شود تا بررسی انسانی انجام گیرد. در صورت تشخیص تهدید فوری، اطلاعات می‌تواند به پلیس منتقل شود. در مورد خودآزاری، چنین اقدامی انجام نمی‌شود و موضوع به مراجع انتظامی ارجاع داده نمی‌شود.
اوپن‌اِی‌آی اعلام کرده است که با معرفی «جی‌پی‌تی۵» در مرداد ۱۴۰۴ کیفیت پاسخ‌ها در حوزه‌های حساس بهتر شده است؛ از جمله در کاهش وابستگی عاطفی ناسالم کاربران به مدل یا کاهش اشتباه در بحران‌های روانی.
با این حال، شرکت اذعان کرده که در گفت‌وگوهای طولانی محافظت‌ها ممکن است ضعیف‌تر شوند. مثلاً در ابتدا شماره خط بحران داده شود اما پس از پیام‌های زیاد پاسخ نامناسبی ارائه گردد. به همین دلیل، بهبود پایداری محافظت‌ها در گفت‌وگوهای بلندمدت از اولویت‌های فعلی است.
برنامه‌های آینده شامل گسترش حمایت به مشکلات دیگر مانند توهم‌های خطرناک (مثلاً بی‌خوابی طولانی و احساس شکست‌ناپذیری) است. همچنین دسترسی ساده‌تر به خدمات اضطراری، امکان ارتباط با درمانگران حرفه‌ای و حتی تماس با نزدیکان کاربر در شرایط بحرانی در دست بررسی است.
بخش پایانی گزارش به نوجوانان اختصاص دارد. قرار است محافظت‌های بیشتری برای آن‌ها در نظر گرفته شود، از جمله کنترل والدین و امکان معرفی فردی مورد اعتماد به‌عنوان تماس اضطراری. اوپن‌اِی‌آی در پایان یادآور شده که اقدامات ایمنی همچنان در حال توسعه است و هدف اصلی، کاهش خطر در موقعیت‌های حساس کاربران است.
