اخبار اليوم جوجل تنشئ "دستورًا آليًا" للتحكم في الذكاء الاصطناعي: يذكرنا بأسيموف لدرجة أنه مخيف

last-one

طاقم الإدارة
رئيس مجلس الإدارة
إنضم
11/12/18
المشاركات
24,997
التفاعلات
59,390
52gIAbv.jpeg


تخيل عالماً حيث تشكل الروبوتات والمساعدين الشخصيين ذوي الذكاء الاصطناعي جزءاً لا يتجزأ من بيئة عملنا (حسناً، ربما نكون هناك بالفعل)، ولكن كيف نضمن أن هؤلاء المساعدين الرقميين والميكانيكيين لا يشكلون تهديدات؟

اتخذ مختبر Google DeepMind خطوة مثيرة إلى حد ما ولكنها ذات صلة أيضًا بتقديم دستور الروبوت الخاص به، وهو عبارة عن سلسلة من القواعد المستوحاة بوضوح من قوانين الروبوتات الشهيرة التي وضعها إسحاق أسيموف.

تهدف هذه المعايير إلى أن تكون بمثابة دليل أخلاقي لمطوري تطبيقات الذكاء الاصطناعي وإدراجها أيضًا ضمن قواعد بيانات هؤلاء المساعدين الافتراضيين بحيث يتم استيعابها بالكامل. وبهذه الطريقة، فإنهم لا يسعون إلى تحسين السلامة في التفاعل بين الإنسان والروبوت فحسب، بل يسعون أيضًا إلى فتح إمكانيات جديدة في تطوير الذكاء الاصطناعي.

إسحاق عظيموف وقوانين الروبوتات

دعونا نرى أصل كل هذا. في عام 1942، قدم إسحاق أسيموف للعالم كتابه "قوانين الروبوتات الثلاثة"، وهي مجموعة من المبادئ التوجيهية التي تهدف إلى ضمان عدم إيذاء الروبوتات البشر أبدًا. ويمكن تلخيص هذه القوانين التي ظلت باقية في الثقافة الشعبية والعلمية فيما يلي:

- لا يمكن للروبوت أن يؤذي إنسانًا، أو أن يسمح للإنسان، من خلال التقاعس عن العمل، بإيذاء الإنسان.
- يجب على الروبوت أن يطيع الأوامر التي يصدرها البشر، إلا عندما تتعارض هذه الأوامر مع القانون الأول.
- يجب على الروبوت أن يحمي وجوده بالقدر الذي لا تتعارض فيه هذه الحماية مع القانون الأول أو الثاني.

لقد أخذت DeepMind هذا الإرث وقامت بتحديثه بما يتناسب مع السياق، مما أدى إلى إنشاء إطار عمل يجمع بين أخلاقيات أسيموف والواقع الجديد للذكاء الاصطناعي.

"دستور الروبوت" الجديد

قامت شركة ديب مايند بتطوير "دستور الروبوت" الذي يعمل كمجموعة من مطالبات السلامة، المبرمجة لضمان عدم قيام الروبوتات باختيار المهام الخطرة. يستخدم هذا النظام نماذج اللغة المرئية (VLM) ونماذج اللغة واسعة النطاق (LLM) التي تتعاون لفهم البيئة والتكيف مع المواقف الجديدة وتحديد المهام المناسبة.

في اختبار حديث، أثبتت الروبوتات المجهزة بنظام AutoRT من DeepMind قدرتها على العمل في البيئات المكتبية دون وقوع حوادث. هذه الروبوتات ليست مستقلة فحسب؛ ويمكن التحكم بها عن بعد أو اتباع نصوص محددة مسبقًا، مما يضمن أنها تعمل دائمًا بأمان وكفاءة.

بالإضافة إلى "دستور الروبوت"، قدمت DeepMind تقنيات أخرى مثل SARA-RT وRT-Trajectory. يعمل SARA-RT على تحسين دقة وسرعة نموذج Robotic Transformer RT-2، بينما يسمح RT-Trajectory للروبوتات بأداء مهام بدنية محددة، مثل تنظيف الطاولة، بشكل أكثر فعالية.

أحد الجوانب الحاسمة لهذه التطورات هو إدراج عتبة القوة في مفاصل الروبوتات، والتي توقفها تلقائيًا في حالة تجاوز ضغط معين. تم أيضًا دمج مفتاح الإغلاق اليدوي حتى يتمكن المشغلون البشريون من إلغاء تنشيط الروبوتات في حالات الطوارئ.
تجارب في العالم الحقيقي

قامت Google بنشر 53 روبوت AutoRT في أربعة مباني مكتبية مختلفة على مدار سبعة أشهر، مما أدى إلى تجميع أكثر من 77000 تجربة. وأظهرت هذه التجارب أن الروبوتات يمكنها الاندماج في البيئات البشرية دون التسبب في مشاكل، وهو ما يدل على فعالية النظام الأمني الذي طبقته، بحسب النتائج التي توصلت إليها.

 
عودة
أعلى