الصين تقول إن روبوتات المحادثة يجب أن تتبع خط الحزب
بعد خمسة أشهر من إطلاق ChatGPT موجة استثمارية حول الذكاء الاصطناعي ، تتحرك بكين لكبح جماح روبوتات الدردشة الصينية ، وهو إظهار لعزم الحكومة على الحفاظ على رقابة تنظيمية صارمة على التكنولوجيا التي يمكن أن تحدد حقبة ما.
كشفت إدارة الفضاء الإلكتروني الصينية هذا الشهر عن مسودة قواعد لما يسمى بالذكاء الاصطناعي التوليدي – أنظمة البرمجيات ، مثل تلك التي تقف وراء ChatGPT ، والتي يمكنها صياغة النصوص والصور ردًا على أسئلة المستخدم وطلباته.
وفقًا للوائح ، يجب أن تلتزم الشركات بقواعد الرقابة الصارمة للحزب الشيوعي الصيني ، تمامًا كما يتعين على المواقع والتطبيقات تجنب نشر المواد التي تلطخ زعماء الصين أو تعيد صياغة التاريخ المحظور. يجب أن يعكس محتوى أنظمة الذكاء الاصطناعي “القيم الأساسية الاشتراكية” وتجنب المعلومات التي تقوض “سلطة الدولة” أو الوحدة الوطنية.
سيتعين على الشركات أيضًا التأكد من أن روبوتات الدردشة الخاصة بهم تنشئ كلمات وصورًا صادقة وتحترم الملكية الفكرية ، وسيُطلب منها تسجيل خوارزمياتها ، أدمغة البرامج وراء روبوتات الدردشة ، مع المنظمين.
القواعد ليست نهائية ، وقد يستمر المنظمون في تعديلها ، لكن الخبراء قالوا إن المهندسين الذين يبنون خدمات الذكاء الاصطناعي في الصين كانوا بالفعل يكتشفون كيفية دمج المراسيم في منتجاتهم.
في جميع أنحاء العالم ، أُذهلت الحكومات بقوة روبوتات الدردشة المُنشأة بواسطة الذكاء الاصطناعي مع نتائج تتراوح بين التنبيه إلى الحميدة. تم استخدام الذكاء الاصطناعي لاجتياز امتحانات الكلية وإنشاء صورة مزيفة للبابا فرانسيس مرتديًا معطفًا منتفخًا.
دفعت ChatGPT ، التي طورتها شركة OpenAI الأمريكية ، المدعومة بنحو 13 مليار دولار من Microsoft ، وادي السيليكون لتطبيق التكنولوجيا الأساسية في مجالات جديدة مثل ألعاب الفيديو والإعلان. تقدر شركة رأس المال الاستثماري سيكويا كابيتال أن شركات الذكاء الاصطناعي يمكن أن تنتج في النهاية “تريليونات الدولارات” من حيث القيمة الاقتصادية.
في الصين ، يتسابق المستثمرون ورجال الأعمال للحاق بالركب. ارتفعت أسهم شركات الذكاء الاصطناعي الصينية. تم الإعلان عن إعلانات مبذرة من قبل بعض أكبر شركات التكنولوجيا في الصين ، بما في ذلك مؤخرًا شركة التجارة الإلكترونية العملاقة علي بابا. SenseTime ، الذي يصنع برنامج التعرف على الوجه ؛ ومحرك البحث بايدو. جمعت شركتان ناشئتان على الأقل تعملان على تطوير بدائل صينية لتكنولوجيا OpenAI ملايين الدولارات.
ChatGPT غير متوفر في الصين. ولكن في مواجهة عدد متزايد من البدائل المحلية ، كشفت الصين بسرعة عن خطوطها الحمراء للذكاء الاصطناعي ، متقدمة على البلدان الأخرى التي لا تزال تدرس كيفية تنظيم برامج الدردشة الآلية.
قالت كندرا شايفر ، رئيسة سياسة التكنولوجيا في Trivium China ، وهي شركة استشارية مقرها بكين ، إن القواعد تعرض نهج الصين “التحرك بسرعة وكسر الأشياء” للتنظيم.
وأضافت: “لأنه ليس لديك نظام من حزبين حيث يتجادل الطرفان ، يمكنهم فقط أن يقولوا ،” حسنًا ، نحن نعلم أننا بحاجة إلى القيام بذلك ، وسنقوم بمراجعته لاحقًا “.
يتم تدريب روبوتات الدردشة على مساحات كبيرة من الإنترنت ، ويتصارع المطورون مع عدم الدقة والمفاجآت فيما يبصقون به أحيانًا. في ظاهرها ، تتطلب قواعد الصين مستوى من التحكم الفني في روبوتات المحادثة لم تحققه شركات التكنولوجيا الصينية. حتى الشركات مثل Microsoft لا تزال تعمل على تحسين برامج الدردشة الخاصة بها للتخلص من الاستجابات الضارة. يوجد في الصين شريط أعلى بكثير ، وهذا هو سبب إغلاق بعض روبوتات الدردشة بالفعل والبعض الآخر متاح فقط لعدد محدود من المستخدمين.
ينقسم الخبراء حول مدى صعوبة تدريب أنظمة الذكاء الاصطناعي لتكون واقعية باستمرار. يشك البعض في أن الشركات يمكن أن تفسر سلسلة قواعد الرقابة الصينية ، والتي غالبًا ما تكون كاسحة ، ومتغيرة باستمرار ، بل وتتطلب رقابة على كلمات وتواريخ محددة مثل 4 يونيو 1989 ، يوم مذبحة ميدان تيانانمين. يعتقد البعض الآخر أنه بمرور الوقت ، ومع العمل الكافي ، يمكن أن تتوافق الآلات مع أنظمة الحقيقة والقيم المحددة ، حتى الأنظمة السياسية.
يتوقع المحللون أن تخضع القواعد لتغييرات بعد التشاور مع شركات التكنولوجيا الصينية. يمكن للهيئات التنظيمية أن تخفف من إنفاذها حتى لا تقوض القواعد بالكامل تطوير التكنولوجيا.
للصين تاريخ طويل في فرض الرقابة على الإنترنت. طوال العقد الأول من القرن الحادي والعشرين ، أنشأت الدولة أقوى شبكة معلومات في العالم عبر الويب. لقد أخافت الشركات الغربية غير الممتثلة مثل Google و Facebook. استأجر ملايين العمال لمراقبة نشاط الإنترنت.
طوال الوقت ، ازدهرت شركات التكنولوجيا في الصين ، التي كان عليها الامتثال للقواعد ، متحدية النقاد الغربيين الذين توقعوا أن السيطرة السياسية ستقوض النمو والابتكار. مع ظهور تقنيات مثل التعرف على الوجه والهواتف المحمولة ، ساعدت الشركات الدولة في تسخيرها لإنشاء دولة مراقبة.
قال مات شيهان ، الخبير في الذكاء الاصطناعي الصيني والزميل في مؤسسة كارنيغي للسلام الدولي ، إن الموجة الحالية للذكاء الاصطناعي تمثل مخاطر جديدة على الحزب الشيوعي.
قال السيد شيهان إن عدم القدرة على التنبؤ ببرامج الدردشة الآلية ، والتي ستصدر تصريحات غير منطقية أو خاطئة – ما يسميه باحثو الذكاء الاصطناعي هلوسة – يتعارض مع هوس الحزب بإدارة ما يقال عبر الإنترنت.
وأضاف: “أدى الذكاء الاصطناعي التوليدي إلى توتر اثنين من أهم أهداف الحزب: السيطرة على المعلومات والقيادة في مجال الذكاء الاصطناعي”.
قال الخبراء إن اللوائح الجديدة في الصين لا تتعلق بالكامل بالسياسة. على سبيل المثال ، تهدف إلى حماية الخصوصية والملكية الفكرية للأفراد ومنشئي البيانات التي يتم تدريب نماذج الذكاء الاصطناعي عليها ، وهو موضوع يثير قلق جميع أنحاء العالم.
في فبراير / شباط ، رفعت شركة Getty Images ، وهي شركة قاعدة بيانات الصور ، دعوى قضائية ضد شركة Stable Diffusion للذكاء الاصطناعي لتدريب نظامها الخاص بتوليد الصور على 12 مليون صورة تحمل علامة مائية ، والتي ادعت Getty أنها تضعف من قيمة صورها.
تبذل الصين دفعة أوسع لمعالجة الأسئلة القانونية حول استخدام شركات الذكاء الاصطناعي للبيانات والمحتوى الأساسي. في مارس ، كجزء من إصلاح مؤسسي كبير ، أنشأت بكين المكتب الوطني للبيانات ، في محاولة لتحديد ما يعنيه امتلاك البيانات وشرائها وبيعها بشكل أفضل. كما ستساعد الهيئة الحكومية الشركات في بناء مجموعات البيانات اللازمة لتدريب مثل هذه النماذج.
قالت السيدة شايفر ، التي كتبت على نطاق واسع عن لوائح الذكاء الاصطناعي في الصين ووصفت المبادرة بأنها “تحويلية”: “إنهم يقررون الآن نوع بيانات الملكية ومن لديه الحق في استخدامها والتحكم فيها”.
ومع ذلك ، قد يكون توقيت الحواجز الجديدة في الصين سيئًا. تواجه البلاد منافسة شديدة وعقوبات على أشباه الموصلات تهدد بتقويض قدرتها التنافسية في مجال التكنولوجيا ، بما في ذلك الذكاء الاصطناعي.
ارتفعت الآمال في مجال الذكاء الاصطناعي الصيني في أوائل فبراير عندما أصدر Xu Liang ، مهندس ذكاء اصطناعي ورجل أعمال ، واحدة من أوائل الإجابات الصينية على ChatGPT كتطبيق جوال. قال السيد شو إن التطبيق ChatYuan حصد أكثر من 10000 عملية تنزيل في الساعة الأولى.
سرعان ما ظهرت تقارير إعلامية عن وجود اختلافات ملحوظة بين الخط الحزبي وردود ChatYuan. قدمت الردود تشخيصًا قاتمًا للاقتصاد الصيني ووصفت الحرب الروسية في أوكرانيا بأنها “حرب عدوان” ، على خلاف موقف الحزب الأكثر تأييدًا لروسيا. بعد أيام ، أغلقت السلطات التطبيق.
قال السيد Xu إنه كان يضيف إجراءات لإنشاء روبوت “وطني” أكثر. وهي تشمل تصفية الكلمات الرئيسية الحساسة وتوظيف المزيد من المراجعين اليدويين الذين يمكنهم مساعدته في الإبلاغ عن الإجابات الإشكالية. بل إنه يقوم بتدريب نموذج منفصل يمكنه اكتشاف “وجهات النظر غير الصحيحة” ، والتي سيقوم بتصفيةها.
ومع ذلك ، ليس من الواضح متى سيرضي روبوت السيد شو للسلطات في أي وقت. تم تعيين التطبيق مبدئيًا لاستئنافه في 13 فبراير ، وفقًا للقطات الشاشة ، ولكن حتى يوم الجمعة كان لا يزال معطلاً.
“سيتم استئناف الخدمة بعد اكتمال استكشاف الأخطاء وإصلاحها”.