مقالات عامة

ما هو الصندوق الأسود؟ يشرح عالم الكمبيوتر ما يعنيه عندما تكون الأعمال الداخلية للذكاء الاصطناعي مخفية

مجلة المذنب نت متابعات عالمية:

بالنسبة لبعض الناس ، فإن مصطلح “الصندوق الأسود” يعيد إلى الأذهان أجهزة التسجيل في الطائرات التي تعتبر ذات قيمة لتحليلات ما بعد الوفاة إذا حدث ما لا يمكن تصوره. بالنسبة للآخرين ، فإنه يستحضر المسارح الصغيرة المجهزة بأدنى حد من التجهيز. لكن الصندوق الأسود هو أيضًا مصطلح مهم في عالم الذكاء الاصطناعي.

تشير الصناديق السوداء للذكاء الاصطناعي إلى أنظمة الذكاء الاصطناعي ذات الأعمال الداخلية غير المرئية للمستخدم. يمكنك إطعامهم المدخلات والحصول على المخرجات ، لكن لا يمكنك فحص كود النظام أو المنطق الذي أنتج المخرجات.

التعلم الآلي هو المجموعة الفرعية المهيمنة للذكاء الاصطناعي. إنه أساس أنظمة الذكاء الاصطناعي التوليدية مثل ChatGPT و DALL-E 2. هناك ثلاثة مكونات للتعلم الآلي: خوارزمية أو مجموعة من الخوارزميات وبيانات التدريب ونموذج. الخوارزمية هي مجموعة من الإجراءات. في التعلم الآلي ، تتعلم الخوارزمية تحديد الأنماط بعد تدريبها على مجموعة كبيرة من الأمثلة – بيانات التدريب. بمجرد تدريب خوارزمية التعلم الآلي ، تكون النتيجة نموذجًا للتعلم الآلي. النموذج هو ما يستخدمه الناس.

على سبيل المثال ، يمكن تصميم خوارزمية التعلم الآلي لتحديد الأنماط في الصور ، ويمكن أن تكون بيانات التدريب صورًا للكلاب. سيكون نموذج التعلم الآلي الناتج هو نصاب الكلاب. يمكنك إطعامها صورة كمدخلات والحصول على مخرجات سواء كانت مجموعة من البكسلات تمثل كلبًا وأين في الصورة.

يمكن إخفاء أي من المكونات الثلاثة لنظام التعلم الآلي ، أو وضعه في صندوق أسود. كما هو الحال غالبًا ، فإن الخوارزمية معروفة للجمهور ، مما يجعل وضعها في الصندوق الأسود أقل فعالية. لذلك لحماية ملكيتهم الفكرية ، غالبًا ما يضع مطورو الذكاء الاصطناعي النموذج في صندوق أسود. نهج آخر يتبعه مطورو البرامج هو إخفاء البيانات المستخدمة لتدريب النموذج – بمعنى آخر ، وضع بيانات التدريب في صندوق أسود.

https://www.youtube.com/watch؟v=Q6JbmGQstDM

تجعل خوارزميات الصندوق الأسود من الصعب للغاية فهم كيفية عمل الذكاء الاصطناعي ، لكن الموقف ليس أبيض وأسود تمامًا.

يشار أحيانًا إلى عكس الصندوق الأسود باسم الصندوق الزجاجي. الصندوق الزجاجي بالذكاء الاصطناعي هو نظام تتوفر فيه جميع الخوارزميات وبيانات التدريب والنموذج ليراها أي شخص. لكن الباحثين في بعض الأحيان يصفون جوانب منها بأنها الصندوق الأسود.

هذا لأن الباحثين لا يفهمون تمامًا كيف تعمل خوارزميات التعلم الآلي ، وخاصة خوارزميات التعلم العميق. يعمل مجال الذكاء الاصطناعي القابل للتفسير على تطوير خوارزميات يمكن أن يفهمها البشر بشكل أفضل ، رغم أنها ليست بالضرورة علبة زجاجية.

لماذا الصناديق السوداء للذكاء الاصطناعي مهمة

في كثير من الحالات ، هناك سبب وجيه للقلق من خوارزميات ونماذج التعلم الآلي في الصندوق الأسود. افترض أن أحد نماذج التعلم الآلي قد قام بتشخيص صحتك. هل تريد أن يكون النموذج عبارة عن صندوق أسود أم صندوق زجاجي؟ ماذا عن الطبيب الذي يصف لك مسار العلاج؟ ربما تود أن تعرف كيف وصل النموذج إلى قراره.

ماذا لو رفض نموذج التعلم الآلي الذي يحدد ما إذا كنت مؤهلاً للحصول على قرض تجاري من أحد البنوك؟ ألا تريد أن تعرف لماذا؟ إذا فعلت ذلك ، يمكنك استئناف القرار بشكل أكثر فعالية ، أو تغيير وضعك لزيادة فرصك في الحصول على قرض في المرة القادمة.

الصناديق السوداء لها أيضًا آثار مهمة على أمان نظام البرامج. لسنوات ، اعتقد العديد من الأشخاص في مجال الحوسبة أن الاحتفاظ بالبرامج في صندوق أسود سيمنع المتسللين من فحصها وبالتالي سيكون آمنًا. لقد ثبت خطأ هذا الافتراض إلى حد كبير لأن المتسللين يمكنهم إجراء هندسة عكسية للبرامج – أي بناء نسخة طبق الأصل من خلال المراقبة الدقيقة لكيفية عمل جزء من البرنامج – واكتشاف نقاط الضعف لاستغلالها.

إذا كان البرنامج في صندوق زجاجي ، فيمكن لمختبري البرامج والمتسللين ذوي النوايا الحسنة فحصه وإبلاغ منشئي البرامج بنقاط الضعف ، وبالتالي تقليل الهجمات الإلكترونية.


نشكركم على قراءة المنشور عبر مجلة المذنب نت, المتخصصة في التداول والعملات الرقمية والمشفرة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى