جوجل تحذر من مخاطر نماذج الذكاء الاصطناعي المتطورة
2025/09/25
الساعة 11:16 مساءاً
(منوعات)
كشفت وحدة "ديب مايند" التابعة لشركة "جوجل" عن وثيقة جديدة حول مخاطر الذكاء الاصطناعي، تضمنت تحذيرًا من تهديدات أبرزها احتمال أن يحاول نموذج متطور منع البشر من إيقافه أو تعديل برمجياته.
وأفادت الوحدة بأن الإطار المحدث للسلامة، المعروف باسم "Frontier Safety Framework"، أضاف فئة جديدة مرتبطة بقدرة النماذج على الإقناع، حيث يكمن هذا الخطر في أن قدرة بعض الأنظمة على الإقناع قد تصل إلى مستوى يمكنها من التأثير بشكل عميق على معتقدات وسلوك المستخدمين.
وردًا على سؤال من موقع "أكسيوس" عن الإجراءات التي تتخذها "جوجل" للحد من هذا الخطر، قال متحدث باسم "ديب مايند" إن الشركة تتابع هذه القدرة، وطورت مجموعة جديدة من التقييمات تتضمن دراسات على مشاركين بشريين لقياس واختبار مداها.
إطلاق المساعد الذكي جيميناي على منصة جوجل تي في
ميتا تواصل رهانها على دمج العالمين الواقعي والافتراضي عبر نظاراتها الجديدة
بنسكي ميديا تقاضي غوغل لاستخدام محتواها في الذكاء الاصطناعي
فيسبوك يدفع تعويضات للمتضررين من فضيحة كامبريدج أناليتيكا
يوتيوب تطلق مجموعة جديدة من الأدوات القائمة على الذكاء الاصطناعي
أمازون تؤكد سعيها لتطوير أدوات الذكاء الاصطناعيإضافة تعليق
- المقالات
- حوارات
