10 أسئلة مخزية حول الشبكات العصبية: أجوبة اختصاصي التعلم الآلي إيغور كوتينكوف

في الجديد مسلسل تجيب مقالات الخبراء المشهورين على الأسئلة التي عادة ما يكون من المحرج طرحها: يبدو أن الجميع يعرف ذلك بالفعل ، وسيبدو السائل غبيًا.

تحدثنا هذه المرة مع أخصائي الذكاء الاصطناعي إيغور كوتينكوف. سوف تتعلم ما إذا كان بإمكانك حفظ نسختك الرقمية لأحفاد أحفادك ، ولماذا لا يمكن الوثوق بالخلايا العصبية بنسبة 100٪ ، وما إذا كان العالم في خطر حدوث انتفاضة آلية.

1. كيف تعمل الشبكات العصبية؟ إنه نوع من السحر. كيف يمكن عمل ChatGPT على الإطلاق؟ و Midjourney أو DALL-E؟

الشبكة العصبية هي نموذج رياضي تم اختراعه بهدف فهم كيفية عمل دماغ الكائن الحي. صحيح أن الأفكار الأساسية لبداية النصف الثاني من القرن العشرين تم اتخاذها كأساس ، والتي يمكن الآن وصفها بأنها غير ذات صلة أو مبسطة للغاية.

حتى اسم "الشبكة العصبية" يأتي من كلمة "الخلايا العصبية" - وهذا هو اسم إحدى الوحدات الوظيفية الرئيسية للدماغ. تتكون الشبكات العصبية نفسها من عقد - خلايا عصبية اصطناعية. لذلك يمكننا القول أن العديد من أفكار البنى الحديثة كانت "مختلسة" من الطبيعة نفسها.

لكن الأهم من ذلك أن الشبكة العصبية هي نموذج رياضي. وبما أن هذا شيء متعلق بالرياضيات ، فيمكننا استخدام القوة الكاملة للجهاز الرياضي من أجل اكتشاف أو تقييم خصائص مثل هذا النموذج. يمكنك اعتبار الشبكة العصبية كدالة ، والوظيفة هي أيضًا كائن رياضي. المثال الأبسط والأكثر قابلية للفهم: دالة تأخذ ، على سبيل المثال ، أي رقم كمدخل وتضيف 2 إليه: f (4) = 6 ، f (10) = 12.

ولكن من السهل جدًا برمجة مثل هذه الوظيفة ، حتى الطفل يمكنه التعامل معها بعد بضع ساعات من تعلم اللغات. برمجة. والسبب هو أن مثل هذه الوظيفة يسهل إضفاء الطابع الرسمي عليها ، ووصفها بالتفصيل بلغة بسيطة ومفهومة.

ومع ذلك ، هناك بعض المهام التي لا نعرف حتى كيفية التعامل معها. على سبيل المثال ، يمكنني أن أعطيك صورًا لقطط وكلاب مختلطة ، ويمكنك فرزها إلى كومة دون أي مشاكل. ولكن ما الذي تسترشد به بالضبط عند تحديد الإجابة؟ كلاهما رقيق. كلا النوعين لهما ذيل وآذان وعينان. ربما الحجم؟ ولكن هناك كلاب صغيرة جدًا ، وهناك قطط كبيرة.

لا يمكننا وصف العديد من مهام العالم الحقيقي ، ولا نعرف تبعية ملاحظتنا وبعض الإجابات "الصحيحة" المشروطة.

نحن نعرف فقط كيف نعطي هذه الإجابة - وهذا كل شيء ، دون التفكير في كيفية ظهورها.

هذا هو المكان الذي تأتي فيه الشبكات العصبية إلى الإنقاذ. يتم تدريب هذه الوظائف الرياضية من البيانات. لا تحتاج إلى وصف العلاقة بين المدخلات والمخرجات. أنت ببساطة تعد مجموعتين من الصور والقطارات النموذجية لإعطاء الإجابات الصحيحة. هي نفسها تتعلم العثور على هذا الاتصال ، تجده بنفسها ، وتعتمد عليه اخطاءمن يفعل. مرتبك قطة البنغال والروت وايلر؟ حسنًا ، سيكون الأمر أفضل في المرة القادمة!

إن عملية تعلم الشبكة العصبية عبارة عن تعديل "للخلايا العصبية" من أجل معرفة كيفية حل مشكلة وإعطاء الإجابة الصحيحة. والأمر الأكثر لفتًا للنظر هو أن هناك دليلًا نظريًا على أن الشبكة العصبية الكبيرة بما يكفي مع مجموعة بيانات كبيرة بما فيه الكفاية يمكن أن تتعلم أي وظيفة معقدة. لكن الشيء الأكثر أهمية هنا هو قوة الحوسبة (لأن الخلايا العصبية يمكن أن تكون كبيرة جدًا) وتوافر البيانات المصنفة. وهي علامة ، أي لديهم فئة "كلب" أو قطة أو أيا كان.

نحن لا نفهم تمامًا كيف تعمل النماذج - مثل النماذج الأكثر تعقيدًا والأكبر الدردشة يكاد يكون غير قابل للتحليل.

يعمل أفضل الباحثين على التحدي المتمثل في "فهم" الأعمال الداخلية لعملياتهم في الوقت الحالي.

لكننا نعرف المهمة التي تم تدريب النماذج من أجلها ، وما الخطأ الذي حاولوا تقليله أثناء التدريب. بالنسبة إلى ChatGPT ، تتكون المهمة من اثنين. الأول هو التنبؤ بالكلمة التالية حسب سياقها: "أمي غسلت ..." ماذا؟ هذا ما يجب أن يتنبأ به النموذج.

المهمة الثانية هي التأكد من أن الإجابات ليست مسيئة ، ولكن في نفس الوقت تظل مفيدة ومفهومة. لهذا السبب أصبح النموذج فيروسيًا - تم تدريبه بشكل مباشر على إنشاء نوع النص الذي يحبه الناس!

يمكنك قراءة المزيد حول كيفية عمل ChatGPT في ملفي شرط.

2. هل تستطيع الخلايا العصبية أن تفكر؟

لا يزال العلماء لا يفهمون معنى "التفكير" أو "العقل" وكيف يعمل العقل بشكل عام. لذلك ، من الصعب الحكم على ما إذا كان نموذج مثل ChatGPT له مثل هذه الخصائص.

لنتخيل موقفًا: تقترب من باب شقتك. هل لديك فكرة أنك بحاجة إلى الحصول على المفتاح من الجيب الأيسر لحقيبتك لفتح الباب؟ هل يمكننا القول أن وصف الإجراءات وعرضها هو عملية تفكير؟ من حيث الجوهر ، أقمنا علاقة بين الحالة الراهنة والهدف المنشود (باب مفتوح). إذا كنت تعتقد أن الإجابة على السؤال أعلاه هي نعم ، فستكون إجابتي هي نفسها. 🙂

شيء آخر هو عندما يتعلق الأمر بالأفكار المبتكرة التي لم يتم التعبير عنها من قبل أو ليست شائعة جدًا. بعد كل شيء ، على سبيل المثال ، يمكنك بسهولة العثور على خطأ في المثال أعلاه: "نعم ، لقد قرأت هذا النموذج 100500 مرة على الإنترنت وفي الكتب. بالطبع هي تعرف ذلك! لا شيء يثير الدهشة ". بالمناسبة كيف عرفت؟ هل هذا لأن والديك أطلقاك في طفولتك ، وأنت تتابع العملية لمئات الأيام على التوالي؟

في هذه الحالة ، لا توجد إجابة دقيقة. والنقطة هنا هي أننا لا نأخذ في الاعتبار مكونًا مهمًا واحدًا: الاحتمال.

ما مدى احتمالية أن يولد النموذج فكرة تناسب تعريفك المحدد "للفكر"؟

بعد كل شيء ، يمكن إنشاء خلية عصبية مثل ChatGPT لتوليد مليون استجابة مختلفة لنفس الطلب. على سبيل المثال ، "ابتكر فكرة لـ بحث علمي». إذا كان جيل واحد في المليون مثيرًا للاهتمام وجديدًا حقًا ، فهل يعتبر ذلك دليلًا على أن النموذج يمكن أن يولد فكرة؟ ولكن كيف ستختلف عن الببغاء الذي يصرخ بكلمات عشوائية لا "لا" وتضيف شيئًا مفهومًا؟

من ناحية أخرى ، لا يقدم الناس دائمًا أفكارًا صحيحة - فبعض العبارات تؤدي إلى طريق مسدود ولا تنتهي في شيء. لماذا لا يمكن للشبكات العصبية أن تغفر هذا؟ حسنًا ، فكرة جديدة واحدة من أصل مليون تم إنشاؤها هي فكرة سيئة حقًا... ولكن ماذا لو كانت 100 من أصل مليون؟ ألف؟ أين هذه الحدود؟

هذا ما لا نعرفه. الاتجاه السائد هو أننا نعتقد في البداية أنه سيكون من الصعب على الآلات حل المشكلة X. على سبيل المثال ، لاجتياز اختبار Turing ، حيث تحتاج فقط إلى الدردشة مع شخص لمدة نصف ساعة. بعد ذلك ، مع تطور التكنولوجيا ، يبتكر الناس طرقًا لحل ، أو بالأحرى تدريب النماذج لمهمة ما. ونقول: "حسنًا ، لقد كان في الواقع الاختبار الخاطئ ، إليك اختبارًا جديدًا لك ، لن تتمكن الخلايا العصبية بالتأكيد من اجتيازه!" والوضع يعيد نفسه.

تلك التقنيات الموجودة الآن ، قبل 80 عامًا ، كان من الممكن أن يُنظر إليها على أنها معجزة. والآن نحاول بكل قوتنا دفع حدود "المعقولية" حتى لا نعترف لأنفسنا بأن الآلات تعرف بالفعل كيف تفكر. في الواقع ، من الممكن أيضًا أن نبتكر شيئًا ما أولاً ، ثم بعد ذلك ، ونعرِّفه بأثر رجعي على أنه ذكاء اصطناعي.

3. إذا كانت الخلايا العصبية قادرة على رسم الشعر وكتابته ، فبإمكانها أن تكون مبدعة وتقريباً مثل الناس؟

تعتمد الإجابة في الواقع بشكل كبير على المعلومات الواردة أعلاه. ما هو الابداع؟ ما مقدار الإبداع في الشخص العادي؟ هل أنت متأكد من أن عامل نظافة من سيبيريا يعرف كيف يصنع؟ و لماذا؟

ماذا لو كان بإمكان النموذج إنتاج قصيدة أو لوحة تصل ، بشروط ، إلى نهائيات مسابقة المدينة للكتاب الهواة أو فناني الأطفال؟ وإذا لم يحدث هذا في كل مرة ، بل حدث واحد من بين مائة؟

معظم هذه الأسئلة قابلة للنقاش. إذا بدا لك أن الإجابة واضحة ، فحاول إجراء مقابلة مع أصدقائك وأقاربك. مع وجود احتمال كبير جدًا ، فإن وجهة نظرهم لن تتوافق مع وجهة نظرك. وهنا الشيء الرئيسي ليس كذلك قتال.

4. هل من الممكن أن تثق في إجابات الشبكات العصبية ولم تعد جوجل؟

كل هذا يتوقف على كيفية استخدام النماذج. إذا طرحت عليهم سؤالًا بدون سياق ، دون إرفاق المعلومات في الموجه ، وتوقعت إجابة حول الموضوعات التي تكون فيها الدقة الواقعية مهمة ، و ليس النغمة العامة للإجابة (على سبيل المثال ، تسلسل الأحداث خلال فترة معينة ، ولكن بدون ذكر دقيق للأماكن والتواريخ) ، فإن الإجابة هي لا.

من قبل المحلية مُقدَّر OpenAI ، في مثل هذه الحالات ، أفضل نموذج حتى الآن ، GPT-4 ، يجيب بشكل صحيح في حوالي 70-80٪ من الحالات ، اعتمادًا على موضوع الأسئلة.

قد يبدو أن هذه الأرقام بعيدة جدًا عن "الدقة" الفعلية المثالية بنسبة 100٪. ولكن في الواقع ، تعد هذه قفزة كبيرة مقارنة بالجيل السابق من النماذج (ChatGPT ، استنادًا إلى بنية GPT-3.5) - كانت دقة تلك النماذج 40-50٪. اتضح أن هذه القفزة تم إجراؤها في إطار 6-8 أشهر من البحث.

من الواضح أنه كلما اقتربنا من 100٪ ، زادت صعوبة إجراء بعض التصحيحات حتى لا "نكسر" أي شيء في فهم النموذج ومعرفته.

ومع ذلك ، يشير كل ما سبق إلى أسئلة بدون سياق. على سبيل المثال ، يمكنك أن تسأل: "متى كان اينشتاين؟ يجب أن يعتمد النموذج فقط على المعرفة الداخلية التي تم "ربطها" به في مرحلة التدريب طويل الأمد على البيانات من جميع أنحاء الإنترنت. لذلك لن يتمكن الشخص من الإجابة! لكن إذا أعطوني صفحة من ويكيبيديا ، فيمكنني قراءتها والإجابة وفقًا لمصدر المعلومات. عندها تكون صحة الإجابات قريبة من 100٪ (معدلة لصحة المصدر).

وفقًا لذلك ، إذا تم تزويد النموذج بسياق يتم فيه احتواء المعلومات ، فستكون الإجابة أكثر موثوقية.

ولكن ماذا لو تركنا النموذج google ووجدنا مصادر المعلومات على الإنترنت؟ حتى تجد المصدر بنفسها وتبني إجابة بناءً عليه؟ حسنًا ، لقد تم ذلك بالفعل! لذلك لا يمكنك البحث عن نفسك في google ، ولكن تفويض جزء من البحث على الإنترنت لـ GPT ‑ 4 نفسها. ومع ذلك ، يتطلب هذا اشتراكًا مدفوعًا.

فيما يتعلق بالتقدم الإضافي في تطوير موثوقية المعلومات الواقعية داخل النموذج ، الرئيس التنفيذي لشركة OpenAI Sam Altman يعطي تقدير من 1.5 إلى 2 سنة لحل هذه المشكلة من قبل فريق من الباحثين. سوف نتطلع إلى ذلك كثيرًا! لكن في الوقت الحالي ، ضع في اعتبارك أنك لست بحاجة إلى الوثوق بما تكتبه خلية عصبية بنسبة 100٪ ، وتحقق من المصادر على الأقل.

5. هل صحيح أن الشبكات العصبية تسرق رسومات الفنانين الحقيقيين؟

نعم ولا - كلا طرفي النزاع يتجادلان بنشاط حول هذا الأمر في المحاكم حول العالم. يمكن القول بالتأكيد أن الصور ليست مخزنة مباشرة في النماذج ، فقط تظهر كلمة "يقظة".

في هذه الخطة الخلايا العصبية مشابه جدًا للأشخاص الذين درسوا الفن أولاً ، والأساليب المختلفة ، والنظر إلى أعمال المؤلفين ، ثم محاولة التقليد.

ومع ذلك ، تتعلم النماذج ، كما اكتشفنا بالفعل ، وفقًا لمبدأ تقليل الخطأ. وإذا رأى النموذج أثناء التدريب الصورة نفسها (أو متشابهة جدًا) مئات المرات ، إذن ، من وجهة نظرها ، فإن أفضل استراتيجية هي تذكر الصورة.

لنأخذ مثالاً: اختار معلمك في مدرسة الفنون استراتيجية غريبة جدًا. ترسم صورتين كل يوم: الأولى فريدة دائمًا ، بأسلوب جديد ، والثانية هي الموناليزا. بعد عام ، تحاول تقييم ما تعلمته. نظرًا لأنك رسمت الموناليزا أكثر من 300 مرة ، فأنت تتذكر كل التفاصيل تقريبًا ويمكنك الآن إعادة إنتاجها. لن يكون هذا هو الأصل بالضبط ، وسوف تضيف بالتأكيد شيئًا خاصًا بك. الألوان سيكون مختلفًا قليلاً.

والآن يُطلب منك رسم شيء كان قبل 100 يوم (والذي رأيته مرة واحدة). سوف تقوم بإعادة إنتاج ما هو مطلوب بدقة أقل بكثير. فقط لأن اليد ليست محشوة.

نفس الشيء مع الخلايا العصبية: فهم يتعلمون في جميع الصور بنفس الطريقة ، وبعضها أكثر شيوعًا ، مما يعني أن النموذج يتم تغريمه أيضًا أثناء التدريب في كثير من الأحيان. هذا لا ينطبق فقط على لوحات الفنانين - على أي صورة (حتى الإعلان) في عينة التدريب. توجد الآن طرق لإزالة التكرارات (لأن التدريب عليها غير فعال على الأقل) ، لكنها ليست مثالية. تظهر الأبحاث أن هناك صورًا تحدث 400-500 مرة أثناء التمرين.

حكمي: الشبكات العصبية لا تسرق الصور ، لكن ببساطة تعتبر الرسومات كأمثلة. كلما كان المثال أكثر شيوعًا ، زادت دقة إعادة إنتاج النموذج له.

يفعل الناس الشيء نفسه أثناء التدريب: ينظرون إلى الجمال ، ويدرسون التفاصيل ، وأنماط مختلفة الفنانين. لكن بالنسبة للفنانين أو المصورين الذين أمضوا نصف حياتهم في تعلم حرفة ما ، غالبًا ما تختلف وجهة النظر اختلافًا جذريًا عن تلك الموضحة أعلاه.

6. هل صحيح أن "كل شيء ضاع" وأن الشبكات العصبية ستسلب العمل من الناس؟ من يهتم أكثر؟

من المهم فصل "الشبكات العصبية" التي تقوم بمهام معينة عن الشبكات العصبية ذات الأغراض العامة مثل ChatGPT. هذا الأخير جيد جدًا في اتباع التعليمات وقادر على التعلم من الأمثلة في السياق. صحيح أن حجم "ذاكرتهم" الآن يقتصر على 10-50 صفحة من النص ، وكذلك مهارات التفكير و تخطيط.

ولكن إذا كان عمل شخص ما يتعلق بالتنفيذ الروتيني للتعليمات ، فمن السهل تعلم ذلك في غضون يومين من خلال قراءة المقالات (أو إذا الإنترنت بالكامل مليء بهذه المعلومات) ، وتكلفة العمالة أعلى من المتوسط ​​- ثم قريبًا مثل هذا العمل أتمتة.

لكن الأتمتة في حد ذاتها لا تعني الاستبدال الكامل للأشخاص. يمكن تحسين جزء فقط من العمل الروتيني.

سيبدأ الشخص في الحصول على مهام أكثر إثارة وإبداعًا لا تستطيع الآلة (حتى الآن) التعامل معها.

إذا أعطينا أمثلة ، ثم لمجموعة قابلة للتغيير أو الاستبدال المهن أود أن أشمل ، على سبيل المثال ، مساعدي الضرائب - المستشارين الذين يساعدون في إعداد إقرار والتحقق من الأخطاء النموذجية ، وتحديد التناقضات. التغييرات ممكنة في تخصص مثل مدير بيانات التجارب السريرية - جوهر العمل هو ملء التقارير والتوفيق بينها وبين جدول المعايير.

لكن الطباخ أو سائق الحافلة سيكون مطلوبًا لفترة أطول لمجرد أنهما يستطيعان توصيل الشبكات العصبية والشبكات الحقيقية العالم المادي معقد للغاية ، خاصة فيما يتعلق بالتشريعات واللوائح - بفضل البيروقراطيين لابتعادهم أزمة AI!

من المتوقع حدوث تغييرات كبيرة في الصناعات المرتبطة بالمواد المطبوعة والمعلومات النصية: الصحافة ، تعليم. مع وجود احتمال كبير جدًا للأول ، ستكتب الخلايا العصبية قريبًا مسودات بمجموعة من الأطروحات ، حيث يقوم الناس بالفعل بإجراء تغييرات على النقاط.

أنا مسرور للغاية بالتغييرات في مجال التعليم. يأكل بحث، مما يدل على أن جودة التعليم تعتمد بشكل مباشر على "شخصية" النهج ومقدار الوقت الذي يخصصه المعلم لطالب معين. أبسط مثال: التدريس في مجموعات من 30 شخصًا باستخدام كتاب مدرسي أسوأ بكثير من التدريس الفردي مدرس خاص لاحتياجات محددة (وإن كان ذلك وفقًا لنفس البرنامج كما هو الحال في الكتاب المدرسي). مع تطور الذكاء الاصطناعي ، ستتاح للبشرية الفرصة لتقديم مساعد شخصي لكل طالب. إنه أمر لا يصدق! سيتحول دور المعلم ، كما أراه ، إلى دور استراتيجي وضابط: تحديد البرنامج العام وتسلسل الدراسة ، واختبار المعرفة ، وما إلى ذلك.

7. هل من الممكن تحميل وعيك على جهاز كمبيوتر ، وإنشاء توأم رقمي والعيش إلى الأبد؟

بالمعنى الذي يتم تخيله على أساس الخيال العلمي ، لا. يمكنك فقط تعليم النموذج لتقليد أسلوب الاتصال الخاص بك ، وتعلم النكات الخاصة بك. ربما ستتمكن نماذج مستوى GPT-4 من ابتكار نماذج جديدة مؤطرة بأسلوبك الفريد وطريقة عرضك ، ولكن من الواضح أن هذا لا يعني نقلًا كاملاً للوعي.

نحن كبشر ، مرة أخرى ، لا نعرف ما هو الوعي ، وأين يتم تخزينه ، وكيف يختلف عن الآخرين ، وما الذي يجعلني - أنا وأنت - أنت. إذا اتضح فجأة أن كل هذا مجرد مجموعة من الذكريات والتجارب ، مضروبة في الخصائص الفردية الإدراك ، إذن ، على الأرجح ، سيكون من الممكن بطريقة ما نقل المعرفة إلى الشبكات العصبية بحيث تحاكي الحياة المستقبلية على أساسهم.

8. هل من الخطر تحميل صوتك ومظهرك وأسلوبك النصي في الكلام في شبكة عصبية؟ يبدو أنه يمكن سرقة مثل هذه الهوية الرقمية.

لا يمكنك تنزيل أي شيء عليها حرفياً. يمكنك تدريبهم (أو إعادة تدريبهم) بطريقة تجعل النتائج أشبه بمظهرك أو صوتك أو نصك. ويمكن بالفعل سرقة مثل هذا النموذج المدرَّب ، أي ببساطة نسخ النص ومجموعة من المعلمات للتشغيل على كمبيوتر آخر.

يمكنك حتى إنشاء مقطع فيديو بطلب تحويل أموال على حساب شخص آخر ، وهو ما سيؤمن به قريبك: لقد وصلت أفضل خوارزميات التزييف العميق واستنساخ الصوت إلى هذا المستوى بالفعل. صحيح ، يلزم آلاف الدولارات وعشرات الساعات من التسجيل ، ولكن مع ذلك.

بشكل عام ، مع تطور التكنولوجيا ، تصبح مسألة تحديد الهوية وتأكيدها أكثر أهمية.

وهم يحاولون حلها بطريقة أو بأخرى. على سبيل المثال ، هناك شركة WorldCoin ناشئة (في الواقع ، تصنع عملة مشفرة) ، والتي استثمر فيها رئيس OpenAI ، Sam Altman. معنى بدء التشغيل هو أن كل معلومة عن شخص ما سيتم توقيعها بمفتاحه الخاص لتحديد هويته لاحقًا. وينطبق الشيء نفسه على وسائل الإعلام ، من أجل التأكد من صحة هذه الأخبار أم أنها مزيفة.

لكن ، للأسف ، كل هذا في مرحلة النماذج الأولية. وأنا لا أعتبر الإدخال العميق للأنظمة في جميع الصناعات ليتم تنفيذها في أفق العقد المقبل ، وذلك ببساطة لأنه معقد للغاية وواسع النطاق.

9. هل يمكن أن تبدأ الخلايا العصبية في إيذاء العالم والسيطرة عليه؟

الخطر ليس التطورات الحالية ، ولكن ما سيتبعها مع مزيد من التطوير. حاليًا ، لم يتم اختراع أي طرق للتحكم في تشغيل الشبكات العصبية. خذ ، على سبيل المثال ، مهمة بسيطة للغاية: التأكد من أن النموذج لا يقسم. ابدا. لا توجد طريقة تسمح لك باتباع مثل هذه القاعدة. حتى الآن ، يمكنك أن تجد طرقًا مختلفة لكيفية "تكاثر" كل ذلك بنفس الطريقة.

تخيل الآن أننا نتحدث عن GPT-8 بشروط ، والتي ستكون مهاراتها قابلة للمقارنة بمهارات الأشخاص الأكثر قدرة وذكاءً. يمكن للشبكة العصبية البرمجة ، واستخدام الإنترنت ، وتعلم علم النفس ويفهم كيف يفكر الناس. إذا أعطيته حرية التصرف ولم تحدد مهمة محددة ، فماذا ستفعل؟ ماذا لو اكتشفت أنه لا يمكن السيطرة عليها؟

وفقًا للتقديرات ، فإن احتمالية حدوث تحول سيء في الأحداث ليست كبيرة جدًا. بالمناسبة ، لا يوجد تقييم مقبول بشكل عام - على الرغم من أن الجميع يجادل حول التفاصيل والعواقب الضارة وما إلى ذلك. الآن يسمون الأرقام التقريبية من 0.01٪ إلى 10٪.

في رأيي ، هذه مخاطر كبيرة ، بافتراض أن السيناريو الأكثر سلبية هو تدمير البشرية.

ومن المثير للاهتمام أن ChatGPT و GPT-4 عبارة عن منتجات تم إنشاؤها بواسطة فرق تعمل على حل مشكلات "محاذاة" نوايا الأشخاص والخلايا العصبية (يمكن العثور على التفاصيل هنا). هذا هو السبب في أن النماذج تستمع إلى التعليمات جيدًا ، وتحاول ألا تكون وقحًا ، وتطرح أسئلة توضيحية ، لكن هذا لا يزال بعيدًا جدًا عن المثالية. مشكلة السيطرة لم تحل حتى نصف. وبينما لا نعرف ما إذا كان يتم حلها على الإطلاق ، وإذا كان الأمر كذلك ، فبأي طرق. هذا هو أهم موضوع بحث لهذا اليوم.

10. هل يمكن لشبكة عصبية أن تقع في حب شخص ما؟

مع المناهج والبنى الحالية للخلايا العصبية ، لا. هم فقط يولدون النص الأكثر قبولًا باعتباره استمرارًا للنص المدخل. إذا قمت بإلقاء الفصل الأول من قصة حب ، وأعدت كتابتها تحت شخصيتك ، وطلبت من العارضة أن تجيب على رسالة الحب الخاصة بك ، فسوف تتعامل معها. ولكن ليس لأنني وقعت في الحب ، ولكن لأنه يناسب السياق والطلب بدقة "اكتب لي رسالة!". تذكر أن النماذج تتعلم إنشاء نص يتبع التعليمات.

علاوة على ذلك ، لا تملك الشبكات العصبية في الإصدار الأساسي ذاكرة - بين عمليتي إطلاق مختلفتين ، ينسون كل شيء ويعودون إلى "إعدادات المصنع". يمكن إضافة الذاكرة بشكل مصطنع ، كما لو كانت من الجانب ، بحيث يتم ، على سبيل المثال ، إدخال 10 صفحات من "الذكريات" الأكثر صلة في النموذج. ولكن بعد ذلك اتضح أننا نقوم ببساطة بإدخال مجموعة من الأحداث في النموذج الأصلي ونقول: "كيف ستتصرف في ظل هذه الظروف؟" النموذج ليس لديه أي مشاعر.