قامت Google و Openai و Roblox و Discord بإنشاء منظمة جديدة غير ربحية للمساعدة في تحسين سلامة الطفل. معدات السلامة القوية المفتوحة عبر الإنترنت (Roost)) الغرض من هذه المبادرة هو جعل تقنيات السلامة الأساسية أكثر سهولة للشركات وتوفير معدات AI مجانية ومفتوحة المصدر لتحديد ومراجعة وإبلاغ مواد الاعتداء الجنسي على الأطفال.
استلهمت هذه المبادرة جزئيًا من التغييرات التي أجراها AI Pragati التوليدي في البيئة عبر الإنترنت وهدفها هو معالجة “حاجة مهمة لتسريع الابتكار في سلامة الطفل عبر الإنترنت” ، ومؤسس شركة Rost Partner ووفقًا لمدير التنفيذي السابق في Google Eric Schmidt. تعد أداة اكتشاف CSAM أرق إلى ما هو أبعد من التفاصيل التي سيستخدمونها في نموذج AI اللغوي الأكبر و “دمج” الخيارات الحالية للتعامل مع المادة.
وقال شميد: “بدءًا من منصة تركز على حماية الطفل ، فإن زملاء Rost ، ونهج المصدر المفتوح سيعزز الابتكار ويجعل البنية التحتية المطلوبة أكثر شفافية ، يمكن الوصول إليها وشاملة ، بهدف إنشاء إنترنت آمن للجميع”.
يقدم بعض الأعضاء المؤسسين مثل Roast التمويل ، بينما يفتح آخرون معداتهم أو خبراتهم للمشروع. تنص ROST على أن هذه المادة تشارك في شراكة مع مطوري نموذج Foundation AI الذي يؤدي إلى إنشاء “مجتمع من الممارسة” لتدابير السلامة ، بما في ذلك توفير مجموعات بيانات تدريب الذكاء الاصطناعى المراقبة وتحديد الفجوات في أمان.
تقول المبادرة إنها تصنع “معدات موجودة مسبقًا” ، والتي يمكن الوصول إليها بشكل أكثر فعالية ، ستضيف بفعالية العديد من المنظمات الأعضاء وتضيف تقنيات التقارير إلى حل متكامل يسهل تنفيذه. نارين كونيرو ، نائب رئيس الهندسة والثقة والأمن ، روبوكس ، قال شركة سريعة يمكن أن يستضيف ذلك نظام الاعتدال AI المشوي الذي يمكن للشركات دمجه من خلال مكالمات API. ومع ذلك ، هناك بعض الغموض حول ما سيتم تضمينه في أداة Rost’s AI Aderation.
مع مشاركتها في الشواءأصدر Discord منشأة “غير مرئية” جديدة تتيح للمستخدمين إخفاء الرسائل والمعلومات التي يتلقونها دون إبلاغهم بما صامتهم. وقال كلينت سميث ، كبير المسؤولين القانونيين في Discord في إعلان ROST: “في الخلاف ، نعتقد أن الأمن مصلح عام”. “نحن ملتزمون بإنشاء الإنترنت بأكمله – ليس فقط الخلاف – مكانًا أفضل وآمنًا ، خاصة بالنسبة للشباب.”
جمعت Roast أكثر من 27 مليون دولار لدعم السنوات الأربع الأولى من التشغيل ، بدعم من المنظمات الخيرية ، بما في ذلك مؤسسة McGawn و Future of Trust and Safety Fund و Knight Foundation و AI Associate. سيتم دعم منظمة المشوي أيضًا من قبل خبراء سلامة الطفل والذكاء الاصطناعي وتكنولوجيا المصدر المفتوح و “التطرف العنيف” وفقًا لبيان صحفي لمنظمة الشواء.
