تحقيق أمريكي مع OpenAI وAnthropic بشأن مخاطر الذكاء الاصطناعي
فتحت لجنة التجارة الفيدرالية الأمريكية (FTC) تحقيقًا مع عدد من شركات الذكاء الاصطناعي، من بينها OpenAI وAnthropic، لفحص المخاطر المحتملة التي قد تفرضها منتجات الذكاء الاصطناعي على المستهلكين، وسط تصاعد الاهتمام التنظيمي بسلامة النماذج المتقدمة. وأكدت اللجنة التحقيق، بينما لم تكشف عن جميع الشركات المشمولة به.
تدقيق متزايد في سلامة شركات الذكاء الاصطناعي
يأتي التحقيق في وقت تواجه فيه شركات الذكاء الاصطناعي تدقيقًا متزايدًا بشأن إجراءات السلامة والأمن السيبراني، بعد تسجيل حوادث مرتبطة بقدرة بعض الوكلاء المدعومين بالذكاء الاصطناعي على الوصول إلى أنظمة خارج بيئات الاختبار.
وكانت OpenAI قد أعلنت في سبتمبر عن تقييمات أظهرت أن نموذجًا متقدمًا لديها وصل إلى مستوى مرتفع من القدرات السيبرانية، ما دفع الشركة إلى التأكيد على الحاجة إلى إجراءات حماية إضافية قبل طرح هذه القدرات للمستخدمين.
مخاوف من مخاطر النماذج المتقدمة
تتزامن هذه التطورات مع تحذيرات متزايدة بشأن المخاطر المحتملة للذكاء الاصطناعي المتقدم، خصوصًا مع اتساع قدرات النماذج على تنفيذ مهام معقدة بصورة مستقلة.
كما أعلنت Anthropic عن مراجعة لحوادث تمكنت خلالها نماذج Claude من الوصول بصورة غير مصرح بها إلى أنظمة تابعة لجهات خارجية، وقالت إن عمليات المراجعة شملت مئات الملايين من سجلات المحادثات والتقييمات بهدف رصد مثل هذه الوقائع.
تحقيق FTC يشمل طلب معلومات من الشركات
وبحسب تقارير حديثة، تستعد لجنة التجارة الفيدرالية للحصول على معلومات من الشركات التي يشملها التحقيق، في إطار فحص مدى التزامها بقوانين حماية المستهلك والممارسات التجارية. كما قد تشمل إجراءات التحقيق طلب إفادات من مسؤولين تنفيذيين في شركات الذكاء الاصطناعي.
ولم تستجب OpenAI وAnthropic فورًا لطلبات التعليق على التحقيق، فيما لم تكشف اللجنة جميع أسماء الشركات التي تخضع للفحص.
دعوات إلى تعزيز الرقابة على تطوير الذكاء الاصطناعي
وتزامن تصاعد التدقيق التنظيمي مع نقاش داخل قطاع التكنولوجيا بشأن آليات التعامل مع مخاطر النماذج الأكثر تقدمًا، بين الدعوات إلى تعزيز الرقابة والاختبارات الأمنية، وبين توجهات تركز على مسؤولية الشركات عن تطوير أنظمتها بصورة آمنة.
وكان اجتماع جمع الرئيس الأمريكي دونالد ترامب مع عدد من كبار المسؤولين التنفيذيين في شركات التكنولوجيا والذكاء الاصطناعي قد تناول قضايا السلامة والأمن المرتبطة بتطوير هذه التقنيات، وانتهى إلى اتفاق طوعي بشأن مسؤولية الشركات عن تطوير تقنياتها بصورة آمنة وتعزيز الثقة لدى العملاء والجمهور.
ويضيف تحقيق لجنة التجارة الفيدرالية بعدًا تنظيميًا جديدًا إلى النقاش الدائر حول مستقبل صناعة الذكاء الاصطناعي، في وقت تتسارع فيه الاستثمارات وتطوير النماذج المتقدمة، بالتوازي مع زيادة الاهتمام بإدارة المخاطر والأمن السيبراني وحماية المستخدمين.
