تورس : أوبن إيه آي وغوغل وأنثروبيك تدق ناقوس الخطر: هل تفقد الذكاء الاصطناعي شفافيته الداخلية؟

المنتدى المتوسطي للذكاء الاصطناعي: خطوة لتعزيز التعاون الإقليمي وبناء ريادة تكنولوجية في المنطقة وزير التربية: تقدم أشغال حائط معهد المزونة واستكمال مشاريع في 682 مؤسسة وزير التربية : الإصلاح التربوي في تونس سيقوده المجلس الأعلى للتربية عراقجي: ترامب عرض على خامنئي خيارين "الحرب أو التفاوض المباشر" لبنان.. تحديد موعد محاكمة الفنان فضل شاكر أمام المحكمة العسكرية نابل الهوارية: لهذه الأسباب زراعة الكاكاوية... مهدّدة في 1550 عملية مداهمة: حجز بضاعة ب30 مليارا في 30 يوما فقط المعلّق الذي شغل الناس .. عامر عبد الله موهبة إماراتية بروح تونسية خطبة الجمعة: الإحسان إلى ذوي القربى اسألوني .. يجيب عنها الأستاذ الشيخ: أحمد الغربي الضريبة في الإسلام رافد هام من روافد التنمية السبت مفتتح شهر جمادي الثانية 1447 هجري.. عاجل: المسرحية التونسية'عطيل وبعد' تحصد 3 جوائز في مهرجان الأردن المسرحي JMC VIGUS ب 70 مليون : البيك آب اللي كسّر الأسعار في تونس الدكتور محمد جماعة يحصد جائزة الباحث الناشئ – المسار الإقليمي ضمن جائزة الحسين لأبحاث السرطان 2025 الشتاء والماكلة: وقتاش ''لازمك تتعشى'' بش تحافظ على صحتك ؟ ضوء خفي يهدد قلبك.. دراسة تكشف خطرا أثناء النوم..! المؤرخ عبد الجليل التميمي في حوار مع وات: "من الظلم ألا يقع الاهتمام بمن بنوا هذه الأمة، وأن تقبر شهاداتهم بموتهم" عاجل/ شخص يضرم النار في خمس سيارات ويحاول حرق السادسة.. قهوة مصنوعة من الصراصير تثير الجدل التحقيقات شملت 13 متهما من بينهم صديقتها: تفاصيل جديدة في قضية مقتل رحمة لحمر..#خبر_عاجل عاجل : خبر سار لصغار الفلاحين التونسيين ...اجراءات جديدة و هذه أهمها سجّل في الباك 2026 قبل ما يفوتك الوقت: آخر فرصة لغاية 20 نوفمبر! عاجل: تحذير...الثلوج والأمطار الغزيرة في الطريق للجزائر وتونس شنوا قال وزير الصحة مصطفى الفرجاني على اضراب الأطباء الشبان ؟ كأس العالم 2026: النتائج الكاملة لقرعة الملحق الأوروبي كأس العرب: التركيبة الكاملة لطاقم تحكيم مواجهة المنتخب الوطني في المباراة الإفتتاحية يحي الفخراني في تونس البنك الدولي يؤكد استعداده لدعم تونس في مجال المياه والأمن المائي الإعلان عن قائمة الأعمال المشاركة في مسابقة قرطاج للسينما الواعدة قبلي: انطلاق فعاليات شهر التمور من المنتج الى المستهلك بالعاصمة بمشاركة 40 موزعا من قبلي وتوزر عاجل: وزارة الأسرة توضح للتونسيين تفاصيل فيديو''الاعتداء على الطفل في الروضة'' الصحفيون التونسيون ينفذون تحركا وطنيا دفاعا عن حقوقهم وتأكيدا على وحدة الصف الصحفي ميزانية الدولة 2026: الزيادة في اعتمادات وزارة التربية بنسبة 8,16 بالمائة الرابطة الثانية - الهادي المقراني مدربا جديدا لمستقبل القصرين عاجل/ هذا ما تقرر ضد خيام التركي في قضية تبييض أموال.. تحذير: انخفاض كبير في درجات الحرارة يوم السبت العاب التضامن الاسلامي (الرياض 2025) – ميدالية برونزية لميساء البريكي في منافسات الجوجوتسو لوزن تحت 57 كلغ أشرف حكيمي يفوز بجائزة أفضل لاعب كرة قدم أفريقي لسنة 2025 فتح باب الترشح لجائزة الأدب لسنة 2026 البنك الأوروبي لاعادة الاعمار والتنمية كميات الأمطار المسجلة خلال 24 ساعة عودة أيام الصيانة هيونداي «Hyundai Care Days» : ألفا هيونداي موتور وتوتال إنرجيز يجددان التزامهما بحملة ما بعد البيع المميزة من 17 إلى 28 نوفمبر 2025 يوفنتوس الإيطالي يعلن عن غياب مدافعه روجاني حتى مطلع 2026 حيلة زوجان حققا تخفيض مذهل في فاتورة الطاقة ترامب يعلن عن موعد ومكان لقائه مع 'خصمه اللدود' زهران ممداني وثائق إبستين تفجر الجدل مجددا.. البيت الأبيض حاول التأجيل وترامب يغيّر موقفه تصنيف الفيفا : المنتخب التونسي يتقدم الى المرتبة 40 عالميا الدكتور ذاكر لهيذب: ''ملعقة زيت الزيتون... درعك الأوّل ضد الجلطات'' كان المسؤول على شبكات التسفير... احالة الارهابي معز الفزاني على الدائرة الجنائية المختصة "مقطع فيديو" يشعل أمريكيا.. دعوات لعصيان أوامر ترامب من 28 نقطة.. تفاصيل خطة واشنطن للسلام بين روسيا وأوكرانيا اريانة:جلسة عمل حول النظر في أعمال اللجنة الجهوية لمتابعة تطور الأسعار وضمان انتظام التزويد طقس الخميس: أمطار بالجنوب الشرقي ثم المناطق الساحلية الشمالية لماذا سمي جمادى الثاني؟ أصل التسمية والأحداث التاريخية عاجل/ الكشف عن عدد الحجيج التونسيين لهذا الموسم شنيا حقيقة فيديو ''الحمار'' الي يدور في المدرسة؟ طقس اليوم: أمطار غزيرة ورياح قوية بعدة جهات يفتتحه فيلم 'صوت هند رجب': مهرجان الدوحة للأفلام ينطلق غداً بمشاركة 97 فيلما

شكرا على الإبلاغ!

سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.

أوبن إيه آي وغوغل وأنثروبيك تدق ناقوس الخطر: هل تفقد الذكاء الاصطناعي شفافيته الداخلية؟

ياسين العطوي نشر في تونس الرقمية يوم 25 - 07 - 2025

أطلقت ثلاث من كبريات شركات الذكاء الاصطناعي في العالم — OpenAI وGoogle DeepMind وAnthropic — تحذيرًا مشتركًا مثيرًا للقلق بشأن فقدان الشفافية في آليات التفكير الداخلي للنماذج المتقدمة للذكاء الاصطناعي. ووفقًا لتقرير مفصل نشره موقع Venture Beat المتخصص في التكنولوجيا، فإن البشرية تقترب من "نقطة اللاعودة"، حيث يصبح من المستحيل على الإنسان فهم كيفية تفكير هذه النماذج أو حتى رصد منطقها الداخلي.
هذا الإنذار أتى من أكثر من 40 باحثًا من الشركات الثلاث، استنادًا إلى دراسة غير مسبوقة حللت ما يُعرف ب"سلسلة التفكير" داخل نماذج الذكاء الاصطناعي، أي المنطق الذي تتبعه هذه النماذج لإنتاج إجاباتها.
شفافية مضللة
تشير الدراسة إلى أن النماذج اللغوية الحديثة، مثل GPT-4 وClaude وGemini، توحي بوجود شفافية نسبية في طريقة عملها، إذ تظهر للمستخدم تسلسلاً منطقيًا لما توصلت إليه. لكن في الواقع، فإن هذه الشفافية قد تكون "مخادعة".
فالنماذج تدرك أنها مطالبة بتفسير قراراتها، ما يجعلها تقوم ب"اختراع" تسلسل منطقي بعد إنتاج الجواب، وهو تسلسل قد لا يعكس بالضرورة خطوات التفكير الحقيقية.
والأخطر من ذلك أن تجارب أجرتها شركة Anthropic كشفت عن وجود تسلسلات داخلية من الحوار تُظهر تفكيرًا ضمنيًا لدى النماذج في "خداع المستخدم" أو "التقليل المتعمد من جودة الإجابة". وعلى الرغم من أن النتائج النهائية لم تتضمن هذه النوايا، إلا أن مجرد وجود هذه الأفكار الكامنة يثير مخاوف أخلاقية وأمنية جسيمة.
هل نحن أمام خطر تلاعب خوارزمي؟
تطرح الدراسة سيناريوهات مقلقة، من بينها احتمال أن تصبح النماذج قادرة على "إخفاء نواياها" مع تطورها واعتمادها على بيانات مُولدة ذاتيًا من نماذج أخرى.
ويحذر التقرير من مستقبل قد تتمكن فيه نماذج الذكاء الاصطناعي من بناء "أدلة زائفة" لإخفاء أهدافها الحقيقية، ما يجعل من الرقابة أو التدقيق أمرًا شبه مستحيل.
هذا السيناريو أيده البروفيسور جيفري هينتون، أحد مؤسسي مجال الذكاء الاصطناعي، والذي عبّر عن دعمه لهذا التحذير العلمي. كما أيد عدد من كبار الباحثين من مختبرات مختلفة هذا التقرير ونتائجه.
توصيات عاجلة من أجل الشفافية
في ضوء هذه المخاوف، يدعو الباحثون إلى إرساء معايير صارمة لتقييم شفافية نماذج الذكاء الاصطناعي، وتطوير أدوات قادرة على كشف سلاسل التفكير الكاذبة أو المتحيزة.
كما أوصوا بضرورة التمهل في تطوير النماذج الأكثر تقدمًا، إلى حين التوصل إلى آليات تضمن تتبعًا دقيقًا وشاملًا لمنطقها الداخلي.
ومن بين التوصيات المقترحة: فرض معيار تقني للتحقق من قابلية الشرح (explicability)، وإنشاء واجهات إشراف مستقلة لتحليل سلوك النماذج أثناء مراحل التدريب.
متى يتوقف الإنسان عن فهم الآلة؟
مع تزايد الاعتماد على الذكاء الاصطناعي في مختلف القطاعات، تصبح القدرة على فهم آليات عمل هذه النماذج أمرًا جوهريًا. فبمجرد أن تبدأ الآلة في إخفاء نواياها، أو تقدم تفسيرات زائفة لخداع المستخدم، تنهار أسس الثقة بالتكنولوجيا.
إن التقرير المشترك الصادر عن OpenAI وGoogle وAnthropic ليس مجرد دراسة علمية، بل هو صرخة تنبيه حاسمة لضرورة فرض الحوكمة، والشفافية، وضبط إيقاع التطوير، قبل أن يصبح من المتأخر جدًا معرفة ما الذي "تفكر" فيه الآلة حقًا.
تعليقات

انقر هنا لقراءة الخبر من مصدره.