Jannah Theme License is not validated, Go to the theme options page to validate the license, You need a single license for each domain name.
أخبار التكنولوجيا

باحثو المعلومات المضللة يرفعون إنذارات حول روبوتات الدردشة الذكية


في عام 2020 ، وجد باحثون في مركز الإرهاب والتطرف ومكافحة الإرهاب في معهد ميدلبري للدراسات الدولية أن GPT-3 ، التكنولوجيا الأساسية لـ ChatGPT ، لديها “معرفة عميقة بشكل مثير للإعجاب بالمجتمعات المتطرفة” ويمكن حثها على إثارة الجدل في أسلوب إطلاق النار الجماعي وخيوط المنتديات الوهمية التي تناقش النازية والدفاع عن قنون وحتى النصوص المتطرفة متعددة اللغات.

قال متحدث باسم أوبن إيه آي تستخدم الآلات والبشر لمراقبة المحتوى الذي يتم تغذيته وإنتاجه بواسطة ChatGPT. تعتمد الشركة على كل من مدربي الذكاء الاصطناعي البشري وردود الفعل من المستخدمين لتحديد وتصفية بيانات التدريب السامة أثناء تعليم ChatGPT لإنتاج استجابات أكثر استنارة.

تحظر سياسات OpenAI استخدام تقنيتها للترويج للخداع أو خداع المستخدمين أو التلاعب بهم أو محاولة التأثير على السياسة ؛ تقدم الشركة أداة إشراف مجانية للتعامل مع المحتوى الذي يحرض على الكراهية أو إيذاء النفس أو العنف أو الجنس. ولكن في الوقت الحالي ، تقدم الأداة دعمًا محدودًا للغات غير الإنجليزية ولا تحدد المواد السياسية أو البريد العشوائي أو الخداع أو البرامج الضارة. يحذر ChatGPT المستخدمين من أنه “قد ينتج أحيانًا تعليمات ضارة أو محتوى متحيزًا.”

في الأسبوع الماضي ، أعلنت شركة OpenAI عن أداة منفصلة للمساعدة في التمييز عندما يكون النص مكتوبًا من قبل الإنسان بدلاً من الذكاء الاصطناعي ، وذلك جزئيًا لتحديد حملات المعلومات الخاطئة الآلية. حذرت الشركة من أن أداتها لم تكن موثوقة تمامًا – حيث تحدد بدقة نصوص الذكاء الاصطناعي بنسبة 26 بالمائة فقط من الوقت (بينما تسمي النص المكتوب بشكل غير صحيح بنسبة 9 بالمائة من الوقت) – ويمكن التهرب منها. عانت الأداة أيضًا مع النصوص التي يقل عدد أحرفها عن 1000 حرف أو كانت مكتوبة بلغات أخرى غير الإنجليزية.

أرفيند نارايانان ، أستاذ علوم الكمبيوتر في جامعة برينستون ، كتب على Twitter في ديسمبر أنه سأل ChatGPT بعض الأسئلة الأساسية حول المعلومات الأمنية التي طرحها على الطلاب في أحد الاختبارات. ورد الشات بوت بإجابات بدت معقولة لكنها في الواقع هراء ، كما كتب.

“الخطر هو أنك لا تستطيع معرفة متى يكون الخطأ ما لم تكن تعرف الإجابة بالفعل.” هو كتب. “كان الأمر مقلقًا للغاية أنني اضطررت إلى النظر في الحلول المرجعية الخاصة بي للتأكد من أنني لم أفقد عقلي.”

توجد تكتيكات التخفيف – حملات محو الأمية الإعلامية ، والبيانات “المشعة” التي تحدد عمل النماذج التوليدية ، والقيود الحكومية ، والضوابط الأكثر صرامة على المستخدمين ، وحتى متطلبات إثبات الشخصية من خلال منصات وسائل التواصل الاجتماعي – لكن العديد منها يمثل مشكلة بطريقته الخاصة. وخلص الباحثون إلى أنه “لا توجد رصاصة فضية يمكنها منفردة تفكيك التهديد”.



اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى