مؤخراً، حقق نظام الذكاء الاصطناعي المعروف باسم Manus نتائج بارزة في اختبار GAIA، حيث تفوق أداؤه على نماذج اللغة الكبيرة من نفس الفئة. أظهر Manus القدرة على إكمال المهام المعقدة بشكل مستقل، مثل المفاوضات التجارية عبر الوطنية، التي تشمل تحليل العقود، وضع الاستراتيجيات، وتوليد الحلول. مقارنةً بالأنظمة التقليدية، يتمتع Manus بأداء ممتاز في تحليل الأهداف الديناميكية، والاستدلال عبر الأنماط المختلفة، وتعزيز التعلم من خلال الذاكرة. يمكنه تجزئة المهام الكبيرة إلى العديد من المهام الفرعية القابلة للتنفيذ، بينما يتعامل مع أنواع بيانات متعددة، ويعمل على تحسين كفاءة ودقة اتخاذ القرارات من خلال التعلم المعزز.
أثارت تقدم Manus مرة أخرى نقاشًا في الصناعة حول مسار تطوير الذكاء الاصطناعي: هل يجب أن نتجه نحو تطوير الذكاء الاصطناعي العام (AGI) أم أن الأنظمة متعددة الوكلاء (MAS) يجب أن تكون هي المسيطرة؟ إن هذا الجدل يعكس في جوهره القضية الأساسية حول كيفية تحقيق التوازن بين الكفاءة والأمان في تطوير الذكاء الاصطناعي. كلما اقتربت الذكاء الأحادي من AGI، زادت مخاطر عدم شفافية عملية اتخاذ القرار؛ بينما يمكن أن تعمل التعاون بين الوكلاء المتعددين على توزيع المخاطر، إلا أنه قد يفوت اللحظات الحاسمة في اتخاذ القرار بسبب تأخيرات الاتصال.
تطور Manus يبرز أيضًا المخاطر الأمنية الكامنة في أنظمة الذكاء الاصطناعي. على سبيل المثال، قد تشمل السيناريوهات الطبية بيانات جينية حساسة للمرضى؛ في المفاوضات المالية، قد يتم التعامل مع معلومات مالية للشركات غير المعلنة. بالإضافة إلى ذلك، قد تحتوي أنظمة الذكاء الاصطناعي على تحيزات خوارزمية، مثل تقديم اقتراحات غير عادلة للرواتب لمجموعات معينة خلال عمليات التوظيف. وهناك أيضًا خطر الهجمات العدائية، حيث يمكن للمخترقين استخدام طرق خاصة لتضليل حكم أنظمة الذكاء الاصطناعي.
تسليط الضوء على تحديات مثل هذه يُظهر اتجاهًا مقلقًا: كلما أصبحت أنظمة الذكاء الاصطناعي أكثر ذكاءً، زادت السطح المحتمل للهجمات.
في مجال Web3 ، كانت الأمان دائمًا نقطة التركيز الأساسية. تم تطوير مجموعة متنوعة من تقنيات التشفير لمواجهة هذه التحديات:
نموذج أمان عدم الثقة: يتطلب هذا النموذج التحقق والتفويض الصارمين لكل طلب وصول، ولا يثق في أي جهاز افتراضي.
الهوية اللامركزية (DID): هذه معيار جديد للهوية الرقمية اللامركزية، لا تحتاج إلى الاعتماد على أنظمة التسجيل المركزية.
التشفير المتماثل بالكامل (FHE): هذه تقنية تشفير متقدمة تسمح بإجراء عمليات حسابية على البيانات في حالة مشفرة، دون الحاجة إلى فك التشفير.
يعتبر التشفير المتماثل بالكامل أداة مهمة لحل مشكلات الأمان في عصر الذكاء الاصطناعي. يمكن أن يلعب دورًا في الجوانب التالية:
على مستوى البيانات: يمكن معالجة جميع المعلومات التي يدخلها المستخدم في حالة مشفرة، حتى نظام الذكاء الاصطناعي نفسه لا يمكنه فك تشفير البيانات الأصلية.
على مستوى الخوارزمية: من خلال FHE تحقيق "تدريب نموذج التشفير"، حتى المطورين لا يمكنهم مراقبة عملية اتخاذ القرار للذكاء الاصطناعي مباشرة.
الجانب التعاوني: يمكن أن تستخدم الاتصالات بين عدة وكلاء ذكاء اصطناعي التشفير المتماثل، حتى لو تم اختراق عقدة واحدة، فلن يؤدي ذلك إلى تسرب البيانات العالمية.
في نظام Web3 البيئي، هناك العديد من المشاريع التي تسعى لاستكشاف هذه التقنيات الأمنية. على سبيل المثال، أطلقت uPort حل الهوية اللامركزي في عام 2017، وأصدرت NKN الشبكة الرئيسية القائمة على نموذج الثقة الصفرية في عام 2019. وفي مجال التشفير المتماثل بالكامل، تعتبر Mind Network أول مشروع FHE يتم إطلاقه على الشبكة الرئيسية، وقد تعاونت مع العديد من المؤسسات المعروفة.
مع اقتراب تكنولوجيا الذكاء الاصطناعي من مستوى الذكاء البشري، أصبح من المهم بشكل متزايد إنشاء أنظمة دفاع قوية. لا يمكن أن يحل التشفير المتماثل بالكامل المشكلات الأمنية الحالية فحسب، بل يعد أيضًا جاهزًا لعصر الذكاء الاصطناعي الأكثر قوة في المستقبل. على الطريق نحو الذكاء الاصطناعي العام، قد لا يكون التشفير المتماثل بالكامل مجرد خيار، بل شرطًا ضروريًا لضمان تشغيل أنظمة الذكاء الاصطناعي بشكل آمن.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
التشفير المتماثل بالكامل FHE: حلول Web3 تحت تحديات أمان الذكاء الاصطناعي
أمان الذكاء الاصطناعي: التشفير المتماثل بالكامل أو成解决方案
مؤخراً، حقق نظام الذكاء الاصطناعي المعروف باسم Manus نتائج بارزة في اختبار GAIA، حيث تفوق أداؤه على نماذج اللغة الكبيرة من نفس الفئة. أظهر Manus القدرة على إكمال المهام المعقدة بشكل مستقل، مثل المفاوضات التجارية عبر الوطنية، التي تشمل تحليل العقود، وضع الاستراتيجيات، وتوليد الحلول. مقارنةً بالأنظمة التقليدية، يتمتع Manus بأداء ممتاز في تحليل الأهداف الديناميكية، والاستدلال عبر الأنماط المختلفة، وتعزيز التعلم من خلال الذاكرة. يمكنه تجزئة المهام الكبيرة إلى العديد من المهام الفرعية القابلة للتنفيذ، بينما يتعامل مع أنواع بيانات متعددة، ويعمل على تحسين كفاءة ودقة اتخاذ القرارات من خلال التعلم المعزز.
أثارت تقدم Manus مرة أخرى نقاشًا في الصناعة حول مسار تطوير الذكاء الاصطناعي: هل يجب أن نتجه نحو تطوير الذكاء الاصطناعي العام (AGI) أم أن الأنظمة متعددة الوكلاء (MAS) يجب أن تكون هي المسيطرة؟ إن هذا الجدل يعكس في جوهره القضية الأساسية حول كيفية تحقيق التوازن بين الكفاءة والأمان في تطوير الذكاء الاصطناعي. كلما اقتربت الذكاء الأحادي من AGI، زادت مخاطر عدم شفافية عملية اتخاذ القرار؛ بينما يمكن أن تعمل التعاون بين الوكلاء المتعددين على توزيع المخاطر، إلا أنه قد يفوت اللحظات الحاسمة في اتخاذ القرار بسبب تأخيرات الاتصال.
تطور Manus يبرز أيضًا المخاطر الأمنية الكامنة في أنظمة الذكاء الاصطناعي. على سبيل المثال، قد تشمل السيناريوهات الطبية بيانات جينية حساسة للمرضى؛ في المفاوضات المالية، قد يتم التعامل مع معلومات مالية للشركات غير المعلنة. بالإضافة إلى ذلك، قد تحتوي أنظمة الذكاء الاصطناعي على تحيزات خوارزمية، مثل تقديم اقتراحات غير عادلة للرواتب لمجموعات معينة خلال عمليات التوظيف. وهناك أيضًا خطر الهجمات العدائية، حيث يمكن للمخترقين استخدام طرق خاصة لتضليل حكم أنظمة الذكاء الاصطناعي.
تسليط الضوء على تحديات مثل هذه يُظهر اتجاهًا مقلقًا: كلما أصبحت أنظمة الذكاء الاصطناعي أكثر ذكاءً، زادت السطح المحتمل للهجمات.
في مجال Web3 ، كانت الأمان دائمًا نقطة التركيز الأساسية. تم تطوير مجموعة متنوعة من تقنيات التشفير لمواجهة هذه التحديات:
نموذج أمان عدم الثقة: يتطلب هذا النموذج التحقق والتفويض الصارمين لكل طلب وصول، ولا يثق في أي جهاز افتراضي.
الهوية اللامركزية (DID): هذه معيار جديد للهوية الرقمية اللامركزية، لا تحتاج إلى الاعتماد على أنظمة التسجيل المركزية.
التشفير المتماثل بالكامل (FHE): هذه تقنية تشفير متقدمة تسمح بإجراء عمليات حسابية على البيانات في حالة مشفرة، دون الحاجة إلى فك التشفير.
يعتبر التشفير المتماثل بالكامل أداة مهمة لحل مشكلات الأمان في عصر الذكاء الاصطناعي. يمكن أن يلعب دورًا في الجوانب التالية:
على مستوى البيانات: يمكن معالجة جميع المعلومات التي يدخلها المستخدم في حالة مشفرة، حتى نظام الذكاء الاصطناعي نفسه لا يمكنه فك تشفير البيانات الأصلية.
على مستوى الخوارزمية: من خلال FHE تحقيق "تدريب نموذج التشفير"، حتى المطورين لا يمكنهم مراقبة عملية اتخاذ القرار للذكاء الاصطناعي مباشرة.
الجانب التعاوني: يمكن أن تستخدم الاتصالات بين عدة وكلاء ذكاء اصطناعي التشفير المتماثل، حتى لو تم اختراق عقدة واحدة، فلن يؤدي ذلك إلى تسرب البيانات العالمية.
في نظام Web3 البيئي، هناك العديد من المشاريع التي تسعى لاستكشاف هذه التقنيات الأمنية. على سبيل المثال، أطلقت uPort حل الهوية اللامركزي في عام 2017، وأصدرت NKN الشبكة الرئيسية القائمة على نموذج الثقة الصفرية في عام 2019. وفي مجال التشفير المتماثل بالكامل، تعتبر Mind Network أول مشروع FHE يتم إطلاقه على الشبكة الرئيسية، وقد تعاونت مع العديد من المؤسسات المعروفة.
مع اقتراب تكنولوجيا الذكاء الاصطناعي من مستوى الذكاء البشري، أصبح من المهم بشكل متزايد إنشاء أنظمة دفاع قوية. لا يمكن أن يحل التشفير المتماثل بالكامل المشكلات الأمنية الحالية فحسب، بل يعد أيضًا جاهزًا لعصر الذكاء الاصطناعي الأكثر قوة في المستقبل. على الطريق نحو الذكاء الاصطناعي العام، قد لا يكون التشفير المتماثل بالكامل مجرد خيار، بل شرطًا ضروريًا لضمان تشغيل أنظمة الذكاء الاصطناعي بشكل آمن.