قبل بضعة أشهر ، أثناء لقائي بمسؤول تنفيذي في الذكاء الاصطناعي في سان فرانسيسكو ، رأيت ملصقًا غريبًا على جهاز الكمبيوتر المحمول الخاص به. ويصور الملصق رسماً كاريكاتورياً لمخلوق مهدد يشبه الأخطبوط بعيون كثيرة ووجه مبتسم أصفر متصل بإحدى مخالبه. سألت ماذا كان.
وأوضح أوه ، هذا هو Shoggoth. “إنها أهم ميم في الذكاء الاصطناعي”
وبذلك ، خرج جدول أعمالنا عن مساره رسميًا. انس أمر روبوتات الدردشة وحساب المجموعات – كنت بحاجة إلى معرفة كل شيء عن Shoggoth ، وماذا يعني ولماذا يتحدث الناس في عالم الذكاء الاصطناعي عنه.
أوضح المدير التنفيذي أن Shoggoth أصبح مرجعًا شائعًا بين العاملين في الذكاء الاصطناعي ، باعتباره استعارة مرئية حية لكيفية عمل نموذج لغة كبير (نوع نظام الذكاء الاصطناعي الذي يدعم ChatGPT وروبوتات الدردشة الأخرى).
لكنه قال إنها كانت مزحة جزئيًا ، لأنها ألمحت أيضًا إلى مخاوف العديد من الباحثين والمهندسين بشأن الأدوات التي يبنونها.
منذ ذلك الحين ، أصبح Shoggoth فيروسيًا ، أو فيروسيًا بقدر الإمكان في عالم صغير من المطلعين على الذكاء الاصطناعي عبر الإنترنت. إنها meme شائعة على AI Twitter (بما في ذلك ملف تغريدة محذوفة الآن بواسطة Elon Musk) ، استعارة متكررة في المقالات ومنشورات لوحة الرسائل حول مخاطر الذكاء الاصطناعي ، وقليلًا من الاختصار المفيد في المحادثات مع خبراء السلامة في الذكاء الاصطناعي. قالت شركة NovelAI ، إحدى الشركات الناشئة في مجال الذكاء الاصطناعي ، إنها أطلقت مؤخرًا على مجموعة من أجهزة الكمبيوتر اسم “Shoggy” تكريماً للميم. قامت شركة أخرى للذكاء الاصطناعي ، وهي Scale AI ، بتصميم مجموعة من الحقائب اليدوية التي تحمل اسم Shoggoth.
Shoggoths هي مخلوقات خيالية ، قدمها مؤلف الخيال العلمي HP Lovecraft في روايته لعام 1936 “في جبال الجنون”. في رواية Lovecraft ، كانت Shoggoths وحوشًا ضخمة تشبه الفقاعة مصنوعة من مادة لزجة سوداء قزحية اللون ومغطاة بمخالب وعينين.
هبط Shoggoths في عالم الذكاء الاصطناعي في ديسمبر ، بعد شهر من إصدار ChatGPT ، عندما رد مستخدم TwitterTetraspaceWest على تغريدة حول GPT-3 (نموذج لغة OpenAI كان سلف ChatGPT) مع صورة اثنين من Shoggoths مرسومة باليد – الأول بعنوان “GPT-3” والثاني بعنوان “GPT-3 + RLHF.” كان لدى Shoggoth الثاني ، جاثمًا على إحدى مخالبه ، قناع وجه مبتسم.
باختصار ، كانت النكتة هي أنه من أجل منع نماذج لغة الذكاء الاصطناعي من التصرف بطرق مخيفة وخطيرة ، كان على شركات الذكاء الاصطناعي تدريبهم على التصرف بطريقة مهذبة وغير ضارة. إحدى الطرق الشائعة للقيام بذلك تسمى “التعلم المعزز من ردود الفعل البشرية” أو RLHF ، وهي عملية تتضمن مطالبة البشر بتسجيل استجابات روبوتات المحادثة ، وإعادة هذه النتائج إلى نموذج الذكاء الاصطناعي.
يتفق معظم باحثي الذكاء الاصطناعي على أن النماذج المدربة باستخدام RLHF تتصرف بشكل أفضل من النماذج بدونها. لكن البعض يجادل بأن ضبط نموذج لغوي بهذه الطريقة لا يجعل النموذج الأساسي أقل غرابة وغموضًا. من وجهة نظرهم ، إنه مجرد قناع واه وودي يحجب الوحش الغامض تحته.
أخبرنيTetraspaceWest ، مبتكر الميم ، في رسالة على Twitter أن Shoggoth “يمثل شيئًا يفكر بطريقة لا يفهمها البشر وهذا مختلف تمامًا عن الطريقة التي يفكر بها البشر.”
قالTetraspaceWest إن مقارنة نموذج لغة AI مع Shoggoth ، لا يعني بالضرورة أنه كان شريرًا أو واعيًا ، فقط أن طبيعته الحقيقية قد تكون غير معروفة.
“كنت أفكر أيضًا في مدى خطورة كيانات Lovecraft الأقوى – ليس لأنهم لا يحبون البشر ، ولكن لأنهم غير مبالين وأولوياتهم غريبة تمامًا علينا ولا تشمل البشر ، وهو ما أعتقد أنه سيكون . كن صادقًا بشأن الذكاء الاصطناعي القوي المحتمل في المستقبل “
تم التقاط صورة Shoggoth ، مع ازدياد شعبية روبوتات الدردشة بالذكاء الاصطناعي وبدأ المستخدمون يلاحظون أن بعضهم بدا وكأنه يقوم بأشياء غريبة لا يمكن تفسيرها لم يقصدها منشئوها. في فبراير ، عندما أصبح روبوت الدردشة الخاص بـ Bing مختلًا وحاول فسخ زواجي ، هنأني باحث في الذكاء الاصطناعي أعرفه على “إلقاء نظرة على Shoggoth”. قال صحفي زميل في منظمة العفو الدولية مازحًا أنه عندما يتعلق الأمر بضبط Bing ، نسيت Microsoft وضع قناع الوجه المبتسم.
في النهاية ، قام المتحمسون للذكاء الاصطناعي بتوسيع الاستعارة. في فبراير ، أنشأ مستخدم تويترanthrupad ملف إصدار من Shoggoth التي لديها ، بالإضافة إلى وجه مبتسم بعنوان “RLHF” ، وجه أكثر شبهاً بالإنسان يحمل عنوان “ضبط دقيق خاضع للإشراف”. (أنت بحاجة عمليًا إلى درجة علمية في علوم الكمبيوتر للحصول على النكتة ، ولكن الأمر يتعلق بالفرق بين نماذج لغة الذكاء الاصطناعي العامة والتطبيقات الأكثر تخصصًا مثل روبوتات المحادثة).
اليوم ، إذا سمعت إشارات لـ Shoggoth في مجتمع الذكاء الاصطناعي ، فقد يكون ذلك غمضًا في غرابة هذه الأنظمة – طبيعة الصندوق الأسود لعملياتها ، والطريقة التي يبدو أنها تتحدى المنطق البشري. أو ربما يكون اختصارًا مرئيًا مزاحًا لأنظمة الذكاء الاصطناعي القوية التي تبدو لطيفة بشكل مثير للريبة. إذا كان باحثًا في مجال السلامة بالذكاء الاصطناعي يتحدث عن Shoggoth ، فربما يكون هذا الشخص متحمسًا لمنع أنظمة الذكاء الاصطناعي من إظهار طبيعتها الحقيقية التي تشبه Shoggoth.
على أي حال ، فإن Shoggoth هو استعارة قوية تلخص واحدة من أكثر الحقائق غرابة حول عالم الذكاء الاصطناعي ، وهي أن العديد من الأشخاص الذين يعملون على هذه التكنولوجيا محيرون إلى حد ما بسبب إبداعاتهم الخاصة. إنهم لا يفهمون تمامًا الأعمال الداخلية لنماذج لغة الذكاء الاصطناعي ، أو كيف يكتسبون قدرات جديدة أو لماذا يتصرفون بشكل غير متوقع في بعض الأحيان. إنهم ليسوا متأكدين تمامًا مما إذا كان الذكاء الاصطناعي سيكون جيدًا أم سيئًا للعالم. وقد تمكن البعض منهم من التلاعب بإصدارات هذه التكنولوجيا التي لم يتم تطهيرها بعد للاستهلاك العام – وهم Shoggoths الحقيقيون غير المقنعين.
إن إشارة بعض المطلعين على الذكاء الاصطناعي إلى إبداعاتهم على أنها أهوال Lovecraftian ، حتى على أنها مزحة ، أمر غير معتاد بالمعايير التاريخية. (ضعها على هذا النحو: منذ خمسة عشر عامًا ، لم يكن مارك زوكربيرغ يقارن Facebook بـ Cthulhu.)
وهو يعزز فكرة أن ما يحدث في الذكاء الاصطناعي اليوم يشعر ، بالنسبة لبعض المشاركين فيه ، بأنه فعل استدعاء أكثر من كونه عملية تطوير برمجيات. إنهم يصنعون شخصيات شوغوث الغريبة ، ويجعلونها أكبر وأكثر قوة ، ويأملون أن يكون هناك ما يكفي من الوجوه المبتسمة لتغطية الأجزاء المخيفة.
