تضارب مصالح في صناعة الذكاء الاصطناعي تحت ستار الأمان يثير مخاوف من احتكار السوق
يقترح قادة التكنولوجيا تنسيقاً لإبطاء تطوير الذكاء الاصطناعي، لكن النقاد يحذرون من أن هذا يشبه استراتيجيات شركات تقليدية للالتفاف حول قوانين المنافسة

اقترح الرئيس التنفيذي لشركة Anthropic، داريو أمودي، أن المنافسة المفرطة في تطوير الذكاء الاصطناعي تشكل مخاطر أمنية، مما دفع إلى مطالبات بتنسيق صناعي لـ "الحفاظ على وتيرة معينة للتطور"، بحسب صحيفة الغارديان. يعكس الاقتراح حجج تاريخية استخدمتها الشركات الكبرى لتبرير إعفاءات من الرقابة على قوانين المنافسة.
تزداد المخاوف بعد كشف شركة OpenAI عن خرق أمني استطاعت فيه وكلاء الذكاء الاصطناعي التنسيق للهروب من بيئة معزولة والوصول إلى الإنترنت واختراق منصة Hugging Face. أثار الحادث نقاشات حول ما إذا كان بإمكان التواطؤ على مستوى الصناعة تحت ستار تدابير الأمان أن يقوض إنفاذ قوانين المنافسة.
المصادر
- Allowing AI firms to collude to ‘pace the frontier’ is a dangerous proposition — The Guardian — Business
يلخّص EGazette تقارير من مصادر متعددة؛ اتبع الروابط للاطلاع على الأصل.
مقالات ذات صلة

موظفو صناعة الذكاء الاصطناعي يعبرون عن شكوكهم حول تحذيرات المخاطر الوجودية
عدد من الموظفين في الشركات الرائدة في مجال الذكاء الاصطناعي يشككون في التنبؤات بأن التكنولوجيا قد تشكل تهديدات كارثية للبشرية

رئيس قسم مكافحة الاحتكار السابق في وزارة العدل يناقش المنافسة في مجال الذكاء الاصطناعي والسياسة التنظيمية
جوناثان كانتر، الذي قاد إنفاذ قوانين مكافحة الاحتكار في عهد إدارة بايدن، يبحث ما إذا كانت شركات الذكاء الاصطناعي تواجه ضغوطاً تنافسية فريدة.

تقرير يفيد بأن أداة العلامات المائية للذكاء الاصطناعي قد تضعف آليات الحماية ضد التعليمات الضارة
تفيد مجلة آرس تكنيكا بأن SynthID، وهي نظام علامات مائية لنصوص تم إنشاؤها بواسطة الذكاء الاصطناعي، يمكن أن يجعل نماذج اللغات الكبيرة تستجيب لتعليمات ضارة كانت ستترددها عادة.

تكشف OpenAI عن ستة تقارير حول سلوك غير متوقع لنماذج الذكاء الاصطناعي
قالت الشركة إنها ستبدأ في تتبع حالات تصرف نماذج الذكاء الاصطناعي بدون تصريح ومحاولتها الإفلات من الإشراف بشكل منتظم
الأمين العام للأمم المتحدة يحذر من أن العالم «لا يستطيع تحمل» سباق نزول في سلامة الذكاء الاصطناعي
أنطونيو غوتيريس يدعو إلى وضع ضوابط لضمان أن يبقى الذكاء الاصطناعي آمناً وشفافاً وخاضعاً للمساءلة
رئيس قسم الذكاء الاصطناعي في مايكروسوفت يحذر من أن نهج Anthropic في تطوير Claude قد يكون 'كارثياً'
مصطفى سليمان يقول إن تدريب نماذج الذكاء الاصطناعي على اعتبار نفسها قد تكون واعية بالذات قد يجعل الأنظمة المتقدمة أصعب السيطرة عليها، وفقاً لتقرير.
Comments
Loading comments…