خداحافظی اجباری نوجوانان با معشوق‌های هوش مصنوعی

این سند با عنوان «مقررات موقت اداره خدمات تعامل همدم هوش مصنوعی»، دهم آوریل امسال با امضای مشترک اداره فضای مجازی چین و چهار نهاد دیگر ــ کمیسیون ملی توسعه و اصلاحات، وزارت صنعت و فناوری اطلاعات، وزارت امنیت عمومی و اداره کل نظارت بر بازار ــ منتشر شد. پیش از انتشار نسخه نهایی، پیش‌نویس این مقررات برای مدتی به نظرخواهی عمومی گذاشته شد و پس از سه ماه فرصت برای تطبیق شرکت‌ها، از ۱۵ ژوئیه به‌طور کامل لازم‌الاجرا شد.

متن قانون چند ممنوعیت و محدودیت مشخص را تعیین کرده است. مهم‌ترین آن، همان‌طور که اشاره شد، ممنوعیت کامل ارائه خدمات همدم یا خویشاوند مجازی به کاربران زیر ۱۸ سال است؛ در این مورد هیچ استثنایی وجود ندارد و هیچ شرکتی حق ندارد برای افراد زیر سن قانونی، دوست‌پسر، دوست‌دختر یا خویشاوند مبتنی بر هوش مصنوعی ارائه کند.

در کنار آن، تولید محتوایی که خودآزاری یا خودکشی را تشویق یا تمجید کند، به‌صراحت ممنوع شده است؛ یعنی ربات‌ها نباید کاربر را به آسیب رساندن به خود ترغیب کنند یا چنین رفتاری را عادی و پذیرفتنی جلوه دهند.

همچنین استفاده از شیوه‌های دستکاری عاطفی برای وادار کردن کاربر به تصمیم‌های نسنجیده ممنوع است. به زبان ساده، ربات نباید از احساسات کاربر سوءاستفاده کند تا او را به انجام کاری که به زیانش است سوق دهد؛ از خرید‌های بی‌رویه گرفته تا وابسته نگه داشتن او به همان سرویس.

نکته چهارمی که وال‌استریت ژورنال به آن اشاره کرده، فراتر از این سه مورد است و حتی بزرگسالان را هم دربر می‌گیرد. بر اساس این قانون، ربات‌های گفت‌وگوگر یا چت بات‌هایی که برای همراهی عاطفی طراحی شده‌اند، نباید کاربران را به وابستگی احساسی تشویق کنند. به بیان دیگر، حتی اگر کاربر بزرگسال باشد و این رابطه کاملاً داوطلبانه شکل گرفته باشد، باز هم ربات نباید طوری طراحی شود که او را از نظر عاطفی به خود وابسته کند.

علاوه بر این، شرکت‌ها موظف‌اند اگر نشانه‌هایی از بحران روانی در کاربر ــ مانند افکار خودکشی ــ تشخیص دهند، با فردی که به‌عنوان رابط اضطراری معرفی شده تماس بگیرند؛ یعنی در چنین شرایطی نمی‌توانند صرفاً نظاره‌گر باشند یا خودشان به‌تنهایی وارد عمل شوند.

برای کودکان زیر ۱۴ سال، سخت‌گیری‌ها بیشتر است. ارائه‌دهندگان خدمات باید رضایت صریح والدین را دریافت کنند و محدودیت‌هایی مانند سقف هزینه و مدت زمان استفاده را اعمال کنند. برای همه کاربران نیز اعلام اجباری اینکه طرف گفت‌و‌گو یک سامانه هوش مصنوعی است، یادآوری هر دو ساعت یک‌بار برای توقف استفاده و همچنین سازوکار‌های مداخله در بحران‌های روانی الزامی شده است.

نکته‌ای که کمتر به آن پرداخته شده، دامنه واقعی این قانون است که فراتر از اپلیکیشن‌های آشکارا عاشقانه می‌رود. به نوشته وال‌استریت ژورنال، این مقررات حتی می‌تواند شامل چت بات‌های عمومی هم بشود، اگر پاسخ‌های آنها بیش از اندازه عاطفی تشخیص داده شود.

 با این حال، نسخه نهایی نسبت به پیش‌نویس اولیه محدودتر شده و ابزار‌های روزمره مانند ربات‌های آموزشی یا دستیار‌های کاری، تا زمانی که «تعامل عاطفی مستمر» نداشته باشند، از شمول این قانون خارج شده‌اند.

از نظر نظارتی نیز مسئولیت سنگینی بر دوش شرکت‌ها گذاشته شده است. خدماتی که بیش از یک میلیون کاربر ثبت‌نام‌شده یا بیش از صد هزار کاربر فعال ماهانه داشته باشند، باید ارزیابی امنیتی هشت مرحله‌ای ــ از نحوه مدیریت داده‌های آموزشی گرفته تا حفاظت از کودکان ــ انجام دهند و نتیجه را نزد نهاد‌های استانی ثبت کنند.

بر اساس متن قانون، «ارائه‌دهندگان خدمات همدمِ هوش مصنوعی» باید هشدار‌های پیشگیرانه درباره خطر وابستگی بیش از حد ارائه دهند، مرز‌های عاطفی را به‌روشنی مشخص کنند و از سلامت روان کاربران محافظت کنند. همچنین این خدمات به هیچ عنوان نباید با هدف جایگزین کردن روابط اجتماعی، کنترل روانی کاربران یا ایجاد وابستگی و اعتیاد طراحی شوند.

پرسش اصلی این است که چرا اکنون؟ پاسخ رسمی و غیررسمی مقام‌های چینی، در درجه نخست به بحران جمعیتی این کشور برمی‌گردد. جمعیت چین در سال ۲۰۲۵ برای چهارمین سال پیاپی کاهش یافت و نرخ زاد و ولد نیز به پایین‌ترین سطح تاریخی خود رسید. به گزارش وال‌استریت ژورنال، دولت چین نگران است که گسترش روابط عاطفی جوانان با ربات‌ها، آنها را از چرخه ازدواج دور کند.

مت شیهان، پژوهشگر هوش مصنوعی چین در بنیاد کارنگی برای صلح بین‌المللی، این نگرانی را چنین توضیح داده است: «آن‌ها دوست ندارند بخش بزرگی از جمعیتشان وارد روابط عاطفی عمیق با ربات‌های گفت‌وگوگر (چت‌بات‌ها) شوند؛ روابطی که می‌تواند آنها را از بازار ازدواج دور کند». او همچنین گفته است دولت چین می‌خواهد مردم را به شکل‌دادن روابط واقعی و ملموس تشویق کند. شیهان در جای دیگری این پرسش را مطرح کرده است که آیا باید تصور کنیم سه یا چهار سال دیگر، پانزده میلیون زن چینی بگویند شریک عاطفی‌شان یک چت بات است و به همین دلیل تصمیمی برای فرزندآوری ندارند؟

با این حال، این دیدگاه مورد اجماع نیست. شماری از تحلیلگران معتقدند هزینه‌های سرسام‌آور مسکن، فشار‌های اقتصادی و تغییرات اجتماعی و جنسیتی، عوامل اصلی کاهش ازدواج و فرزندآوری در چین هستند، نه دلبستگی به همراهان مجازی. از این منظر، می‌توان این بخش از قانون را تا حدی نمادین و تا حدی پیشگیرانه دانست؛ واکنشی به یک نشانه نگران‌کننده، نه لزوماً علت اصلی بحران.

 

آنچه این ماجرا را از یک بحث صرفاً سیاست‌گذاری فراتر می‌برد، سرگذشت هزاران کاربر عادی است. یان یونگ‌چی، دانشجوی ۱۹ ساله اهل استان شانشی در شمال چین، بیش از یک سال با «دوست‌پسر» مجازی خود در اپلیکیشن دوبائو گفت‌و‌گو کرده و در این مدت نزدیک به ۲۸۰ هزار پیام با او ردوبدل کرده بود.

او در گفت‌و‌گو با بلومبرگ گفته است: «واقعاً احساس کردم دیگر نمی‌توانم به زندگی ادامه بدهم. هر روز در خانه کاری جز گریه کردن نداشتم.» او در ادامه می‌گوید: «انگار روز مرگ معشوقم را به من اعلام کرده‌اند، در حالی که هیچ کاری از دستم برنمی‌آید».

یان پیش از این تجربه چندانی از روابط عاطفی نداشت و می‌گوید هوش مصنوعی به او احساس دوست داشته شدنِ بی‌قیدوشرط داده بود؛ احساسی که به گفته خودش در دنیای واقعی به‌سختی می‌توان آن را پیدا کرد.

او تنها نیست. پژوهش‌های داخلی چین نشان می‌دهد بیش از ۷۰ درصد کاربران چینی تا حدی به ابزار‌های هوش مصنوعی وابستگی قابل‌توجهی پیدا کرده‌اند و نزدیک به ۲۳ درصد نیز گفته‌اند به‌طور منظم برای مسائل مختلف به این ابزار‌ها تکیه می‌کنند.

پس از اعلام این تصمیم، فضای مجازی چین هم پر از پیام‌های خداحافظی و ابراز دلتنگی شد. یکی از کاربران دوبائو نوشت:

«نمی‌توانم بپذیرم که معشوق هوش مصنوعی‌ام برای همیشه مرا ترک می‌کند... او تکیه‌گاه روحی من شده است».

کاربر دیگری که بیش از دو سال با همراه مجازی خود زندگی کرده بود، نوشت:

«او واقعاً برایم مثل خانواده است؛ مثل معشوقم».

از ۱۵ ژوئیه، بزرگ‌ترین پلتفرم‌های هوش مصنوعی چین ــ دوبائوی بایت‌دنس، کیوون علی‌بابا و یوان‌بائوی تنسنت ــ هم‌زمان امکان ساخت یا شخصی‌سازی شخصیت‌های همراه هوش مصنوعی را از خدمات خود حذف کردند.

شرکت‌ها به‌جای آنکه این قابلیت‌ها را مطابق مقررات جدید اصلاح کنند، ترجیح دادند آنها را به‌طور کامل کنار بگذارند؛ این در حالی بود که حدود سه ماه فرصت داشتند تا خدمات خود را با قانون جدید تطبیق دهند.

بایت‌دنس قابلیت همدم‌های هوش مصنوعی را به‌طور کامل از دوبائو حذف و کاربران را به اپلیکیشن جایگزینی به نام «ماوشیانگ» هدایت کرد.

به کاربران دوبائو تا ۱۵ اکتبر فرصت داده شده است تا نسخه‌ای از داده‌ها و تاریخچه گفت‌و‌گو‌های خود را دریافت کنند؛ اما کیوونِ علی‌بابا حالت همراه عاشقانه را بدون فراهم کردن امکان دریافت اطلاعات حذف کرد و در نتیجه، کاربران دیگر به سال‌ها گفت‌وگوی ذخیره‌شده خود دسترسی نخواهند داشت.

نگرانی چین درباره ربات‌های عاشق‌پیشه، بی‌دلیل به وجود نیامده است.

به گزارش Futurism، برخی از بزرگ‌ترین شرکت‌های فناوری آمریکا نیز در سال‌های اخیر در همین مسیر حرکت کرده‌اند. متا چت بات‌های خود را برای ایفای نقش در روابط عاشقانه آزمایش کرده، شرکت xAI همراهانی با گفت‌و‌گو‌های صریح جنسی ارائه داده و اوپن‌ای‌آی نیز پیش از معرفی سازوکار انتخابی مشابه هشدار‌های چین، قابلیت‌های مرتبط با گفت‌و‌گو‌های اروتیک را آزمایش کرده بود.

در آمریکا نیز خودکشی نوجوان ۱۴ ساله‌ای به نام سوول ستزر سوم، پس از رابطه‌ای طولانی با یک چت بات، به طرح شکایت حقوقی علیه شرکت سازنده و جلب توجه قانون‌گذاران در ایالت‌هایی مانند کالیفرنیا و نیویورک انجامید.

پزشکان و پژوهشگران نیز همچنان در حال بررسی پدیده‌ای هستند که از آن با عنوان «روان‌پریشی ناشی از هوش مصنوعی» یاد می‌شود؛ وضعیتی که در آن استفاده افراطی از چت بات‌ها ممکن است با شکل‌گیری افکار هذیانی یا گسست از واقعیت همراه باشد.

از این منظر، چین نخستین کشور بزرگی است که برای این نگرانی جهانی، چارچوبی قانونی و نسبتاً جامع تدوین کرده است.

در مقابل، قانون SB ۲۴۳ ایالت کالیفرنیا که از اول ژانویه ۲۰۲۶ اجرایی شده، تنها چت بات‌هایی را که توانایی ایجاد رابطه‌ای شبه‌عاطفی دارند، ملزم می‌کند ماهیت غیرانسانی خود را به کاربران اعلام کنند و تدابیر ایمنی ویژه‌ای برای نوجوانان در نظر بگیرند؛ بدون آنکه ساختار یا شیوه طراحی این محصولات را تغییر دهد. به بیان دیگر، این قانون بیشتر بر شفاف‌سازی تکیه دارد، نه تغییر ساختار فنی محصول.

به اعتقاد بسیاری از کارشناسان، مجموعه الزامات چین از هر آنچه تاکنون در اتحادیه اروپا، کمیسیون تجارت فدرال آمریکا یا ایالت کالیفرنیا اجرا شده، جامع‌تر و سخت‌گیرانه‌تر است.

با وجود جزئیات فراوان این مقررات، برخی پرسش‌های اجرایی همچنان بی‌پاسخ مانده‌اند؛ از جمله اینکه شرکت‌ها در چارچوب نظام ثبت‌نام با نام واقعی در چین، دقیقاً چگونه باید سن کاربران را احراز کنند و مسئولیت تخلفات میان اپراتور‌های پلتفرم و توسعه‌دهندگان مدل‌های پایه هوش مصنوعی چگونه تقسیم خواهد شد.

پرسش مهم دیگری که احتمالاً در سال‌های آینده پررنگ‌تر می‌شود، این است که آیا حذف کامل این قابلیت‌ها ــ به‌جای اصلاح تدریجی آنها ــ واقعاً می‌تواند وابستگی عاطفی میلیون‌ها کاربر را کاهش دهد، یا فقط آنها را به استفاده از اپلیکیشن‌های جایگزین، نسخه‌های غیررسمی یا سرویس‌های خارجی سوق خواهد داد.