تستعد شركتا ByteDance وAlibaba لسحب بعض وظائف مرافقة الذكاء الاصطناعي، خاصة الخدمات التي تتيح للمستخدمين إنشاء شخصيات ذكاء اصطناعي مخصصة والدردشة معها، استجابةً لأحدث المتطلبات التنظيمية الصادرة عن بكين.

وفقًا لتقرير صحيفة "ساوث تشاينا مورنينج بوست"، فإن تطبيق "Doubao" التابع لـByteDance، والذي يُعد أحد أكثر روبوتات الدردشة شيوعًا في الصين حاليًا، حيث يتجاوز عدد مستخدميه النشطين شهريًا 300 مليون، سيسحب وظيفة "الشخصية" رسميًا في 15 يوليو. أما تطبيق Qwen التابع لـAlibaba فبدأ في اتخاذ إجراءات مبكرة، حيث سيسحب بعض وظائف الوكلاء المجسمة في 10 يوليو، ويغلق المزيد من وظائف الوكلاء ذات الصلة في 15 يوليو. وقد قام تطبيق Tencent Yuanbao بالفعل بإجراء تعديلات مماثلة منذ يونيو.

ما دفع هذه التغييرات هو اللوائح الجديدة التي أصدرتها إدارة الفضاء الإلكتروني الصينية في أبريل، والتي ستدخل حيز التنفيذ في 15 يوليو. وتتطلب اللوائح من المنصات تحذير المستخدمين من الإفراط في استخدام منتجات مرافقة الذكاء الاصطناعي، والتدخل بنشاط عند اكتشاف سلوك إدماني. كما تحظر المحتوى الذي قد يثير مشاعر متطرفة، أو يعزز الاعتماد العاطفي، أو حتى يضغط على العلاقات الاجتماعية الواقعية، خاصةً بالنسبة للقُصّر. بالإضافة إلى ذلك، لا يُسمح للمنصات باستخدام بيانات المحادثات الحساسة لتدريب النماذج.

في الواقع، لا يقتصر تشديد الرقابة على منتجات مرافقة الذكاء الاصطناعي على الصين فقط. ففي ولاية كاليفورنيا الأمريكية، أصدر قانون SB 243 الذي يطلب من مزودي خدمات مرافقة الذكاء الاصطناعي حجب المحادثات المتعلقة بالانتحار وإيذاء النفس. وفي الولايات المتحدة، تواجه كل من OpenAI وCharacter AI دعاوى قضائية ذات صلة، حيث يتمحور الخلاف حول ما إذا كانت منتجات الذكاء الاصطناعي قد تسبب اعتمادًا عاطفيًا خطيرًا.