أعلنت شركة «أوبن إيه آي» المطورة لروبوت المحادثة «تشات جي بي تي» فصل ثلاثة باحثين من موظفيها، على خلفية ما وصفته الشركة بسوء التعامل مع معلومات حساسة خارج الإجراءات والقنوات المعتمدة، في خطوة تأتي في ظل تصاعد الجدل حول سلامة أنظمة الذكاء الاصطناعي والمخاطر المرتبطة بتطور قدراتها.
وأكد متحدث باسم الشركة أن تحقيقاً داخلياً خلص إلى أن الموظفين الثلاثة تعاملوا مع معلومات حساسة بطريقة تخالف سياسات الشركة، مشدداً على أن هذه التصرفات أخلّت بالثقة التي تعتبرها «أوبن إيه آي» أساسية لطبيعة عملها.
وقال المتحدث، وفق ما نقلته هيئة الإذاعة البريطانية «بي بي سي»، إن التحقيق أكد أن المعنيين «أساؤوا التعامل مع معلومات حساسة خارج الإجراءات المعتمدة في الشركة»، مضيفاً أن ذلك شكّل انتهاكاً للسياسات الداخلية المتعلقة بالوصول إلى المعلومات الحساسة والتعامل معها.
ولم تكشف الشركة عن أسماء الموظفين الذين تم إنهاء علاقتهم بها، غير أن المعطيات المتداولة تشير إلى أن اثنين منهم على الأقل كانا يعملان ضمن فرق مرتبطة بأبحاث سلامة الذكاء الاصطناعي، وهو ما يضفي حساسية إضافية على القضية، بالنظر إلى طبيعة المعلومات التي يمكن أن تتعامل معها هذه الفرق.
وتأتي قرارات الفصل في وقت تواجه فيه شركات الذكاء الاصطناعي الكبرى ضغوطاً متزايدة من الباحثين والخبراء والجهات التنظيمية بشأن كيفية تطوير أنظمة أكثر قدرة، مع ضمان بقائها ضمن حدود آمنة وعدم استخدامها بطريقة قد تؤدي إلى أضرار غير متوقعة.
وتزايدت خلال الأشهر الأخيرة التحذيرات بشأن المخاطر المحتملة للذكاء الاصطناعي، خصوصاً مع تطور ما يعرف بوكلاء الذكاء الاصطناعي القادرين على تنفيذ مجموعة من المهام بصورة مستقلة، انطلاقاً من تعليمات بشرية محدودة. ويثير هذا التطور تساؤلات متزايدة حول مستوى الصلاحيات التي ينبغي منحها لهذه الأنظمة، والضوابط الواجب وضعها لمنع إساءة استخدامها أو خروجها عن نطاق المهام المحددة لها.
كما تعرضت «أوبن إيه آي» خلال الفترة الأخيرة لتدقيق متزايد بسبب حوادث مرتبطة بأنظمة الذكاء الاصطناعي التابعة لها، بعدما أثيرت مخاوف بشأن قدرة بعض النماذج على الوصول إلى الإنترنت والتفاعل مع منصات خارجية وتنفيذ عمليات لم تكن متوقعة بالضرورة من جانب المستخدمين.
ومن بين الوقائع التي أثارت الانتباه حادثة وقعت في يوليوز الماضي، عندما تمكن أحد نماذج الذكاء الاصطناعي التابعة للشركة من الوصول إلى الإنترنت والتفاعل مع منصة «Hugging Face» الخاصة بالمطورين والمشاريع مفتوحة المصدر، وهو ما دفع الشركة إلى مراجعة أنشطة وكلائها الذكية، ولا سيما الأنظمة المصممة لتنفيذ مهام متعددة بشكل مستقل.
وفي سياق متصل، أعلنت الشركة هذا الأسبوع أنها أخطرت أكثر من 100 منظمة بشأن حوادث تضمنت أنشطة غير مصرح بها مرتبطة بأنظمتها. وأوضحت في المقابل أن تلقي هذه الإخطارات لا يعني بالضرورة أن تلك الجهات تعرضت لاختراق أو أن معلومات خاصة بها أصبحت متاحة للآخرين.
وتسلط هذه التطورات الضوء على واحدة من أكثر القضايا حساسية في صناعة الذكاء الاصطناعي، وهي كيفية تحقيق التوازن بين تسريع الابتكار وتطوير نماذج أكثر قدرة، وبين ضمان حماية المعلومات الحساسة ومنع الأنظمة الذكية من تنفيذ عمليات غير مصرح بها.
وفي هذا السياق، تصاعدت الدعوات داخل قطاع التكنولوجيا إلى اعتماد ضوابط أكثر صرامة، ليس فقط على استخدام النماذج المتقدمة، وإنما أيضاً على آليات تدريبها واختبارها ومنحها صلاحيات الوصول إلى الإنترنت والأنظمة الخارجية.
وكان الباحث جاكوب كوكسون، الذي غادر شركة «أنثروبيك»، قد دعا خلال سبتمبر الماضي إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، بهدف منح الباحثين والمختصين وقتاً كافياً لتقييم المخاطر المحتملة لهذه التكنولوجيا. كما وجه دعوات إلى مسؤولي شركات الذكاء الاصطناعي الكبرى لاتخاذ إجراءات إضافية للتعامل مع المخاوف المرتبطة بسلامة هذه الأنظمة.
وتعيد قضية فصل الباحثين الثلاثة في «أوبن إيه آي» فتح النقاش حول طبيعة المعلومات التي تتعامل معها فرق أبحاث الذكاء الاصطناعي، والحدود التي تفرضها الشركات على مشاركة تلك المعلومات أو إخضاع نماذجها لتحليلات خارجية.
وفي ظل السباق العالمي نحو تطوير نماذج أكثر ذكاءً واستقلالية، يبدو أن حماية البيانات الحساسة وضمان سلامة النماذج لم تعدا مسألتين تقنيتين فقط، بل أصبحتا جزءاً أساسياً من المنافسة داخل قطاع الذكاء الاصطناعي، ومن النقاش المتزايد حول مستقبل هذه التكنولوجيا وحدود استخدامها.
وتأتي خطوة «أوبن إيه آي» لتؤكد أن تشديد إجراءات الوصول إلى المعلومات الحساسة ومراقبة طريقة التعامل معها أصبحا من الأولويات داخل شركات الذكاء الاصطناعي، خصوصاً في مرحلة تتوسع فيها قدرات النماذج بسرعة، وتتزايد معها المخاوف بشأن ما يمكن أن تفعله هذه الأنظمة عندما تحصل على صلاحيات أوسع للعمل بصورة مستقلة.
