باختصار
- قام محققون فرنسيون بمداهمة مكاتب X في باريس كجزء من تحقيق واسع في المحتوى غير القانوني وممارسات الخوارزميات.
- توسع القضية بعد شكاوى من استخدام Grok في توليد صور جنسية غير consensual، بما في ذلك صور لأطفال.
- فتحت الجهات التنظيمية في المملكة المتحدة تحقيقات موازية بموجب قوانين حماية البيانات والسلامة عبر الإنترنت.
قامت السلطات الفرنسية بمداهمة مكاتب منصة التواصل الاجتماعي X في باريس يوم الثلاثاء كجزء من تحقيق جنائي موسع حول مزاعم تتعلق بالإباحية للأطفال مرتبطة بروبوت الدردشة الذكي الخاص بالمنصة، Grok.
ووفقًا لتقرير من Sky News، نفذت العملية وحدة الجرائم الإلكترونية المتخصصة في فرنسا بالتنسيق مع اليوروبول.
قال المدعون إن مالك X، إيلون ماسك، تم استدعاؤه للاستجواب، إلى جانب عدد من التنفيذيين الحاليين والسابقين، بمن فيهم الرئيس التنفيذي السابق ليندا ياكارينو.
قالت يوروبول في بيان: “تتعلق التحقيقات بمجموعة من الجرائم المشتبه بها المرتبطة بوظائف واستخدام المنصة، بما في ذلك نشر المحتوى غير القانوني وأشكال أخرى من النشاط الإجرامي عبر الإنترنت.” “تستعد يوروبول لمواصلة دعم السلطات الفرنسية مع تقدم التحقيق.”
يركز التحقيق في Grok، الذي أُطلق الشهر الماضي، على مزاعم أن X كان متواطئًا في توزيع مواد اعتداء جنسي على الأطفال ومحتوى غير قانوني آخر، مع ادعاءات من السلطات بأن Grok استُخدم لتوليد أكثر من 23,000 صورة جنسية للأطفال.
في أغسطس الماضي، أطلقت xAI “وضع التوابل” خصيصًا لتوليد محتوى غير لائق، بما في ذلك حالة بارزة تتعلق بفايكس لصور عميقة لتايلور سويفت.
في منشور على X، نفت إدارة الشؤون الحكومية العالمية للشركة الكبرى على وسائل التواصل الاجتماعي أي خطأ، ووصفت المداهمة بأنها “تحقيق جنائي مسيس حول مزاعم التلاعب بالخوارزميات واستخراج البيانات الاحتيالية المزعومة.”
كتبوا: “تعزز مداهمة اليوم الموقف الذي نؤمن به بأن هذا التحقيق يشوه القانون الفرنسي، ويتجاوز الإجراءات القانونية الواجبة، ويهدد حرية التعبير.” “تلتزم X بالدفاع عن حقوقها الأساسية وحقوق مستخدميها. لن نُرهب من قبل إجراءات السلطات القضائية الفرنسية اليوم.”
ت argue مجموعات الدفاع عن المستهلكين أنه عندما تحقق الجهات التنظيمية في مطوري الذكاء الاصطناعي الذين تُستخدم أدواتهم لإنشاء محتوى غير قانوني، يجب أن يفحصوا ما إذا كانت الشركة يمكن أن تتوقع بشكل معقول كيف سيتم إساءة استخدام تلك الأدوات.
قال J.B. Branch، المدافع عن مساءلة التكنولوجيا الكبرى في Public Citizen، لـ Decrypt: “يجب على الجهات التنظيمية فحص ما إذا كانت خيارات تصميم الشركة جعلت سوء الاستخدام غير القانوني متوقعًا، وما إذا كانت تقييمات المخاطر كافية، وما إذا كانت التدابير الوقائية قد تم اختبارها بشكل فعلي قبل الإطلاق.” “المنصات التي تربح من النشر السريع يجب أن تتحمل مسؤولية الأضرار التي يخلقها هذا النشر. هذا هو بالضبط ما يحدث في صناعات أخرى.”
بينما تظل القوانين الحالية ضد الصور الجنسية غير consensual ومواد الاعتداء الجنسي على الأطفال ضرورية، قال Branch إنها لم تُبنَ خصيصًا للذكاء الاصطناعي الذي يمكنه “إنتاج الضرر بكميات هائلة بسرعة قابلة للتوسع.”
وأضاف: “نحتاج إلى التزامات أوضح واستباقية تتطلب من الشركات منع الإساءة المدعومة بالذكاء الاصطناعي قبل حدوثها، بما في ذلك اختبار الجهات التنظيمية المستقل الذي يمكنه اختبار المشكلات قبل أن تصل منتجات الذكاء الاصطناعي إلى السوق.” “عندما يحدث شيء بهذا الخطورة، يجب إزالة الأداة على الفور.”
التحقيقات تتوسع
توسعت التحقيقات في روبوت الدردشة الآن عبر عدة سلطات قضائية، بما في ذلك المملكة المتحدة، والاتحاد الأوروبي، والهند، وأستراليا، والولايات المتحدة.
وفي اليوم نفسه الذي داهمت فيه السلطات الفرنسية مكتب X في باريس، أعلنت هيئة تنظيم المعلومات في المملكة المتحدة (ICO) أنها فتحت تحقيقًا أيضًا في Grok.
قال ويليام مالكولم، المدير التنفيذي للمخاطر التنظيمية والابتكار في ICO، في بيان: “اتخذنا هذه الخطوة بعد تقارير تفيد بأن Grok استُخدم لتوليد صور جنسية غير consensual للأفراد، بما في ذلك الأطفال.” “إن إنشاء وتداول مثل هذا المحتوى يثير مخاوف جدية بموجب قانون حماية البيانات في المملكة المتحدة ويعرض الجمهور لخطر ضرر كبير.”
ووفقًا لمالكولم، تتعلق هذه المخاوف بما إذا كانت البيانات الشخصية قد عُملت بشكل قانوني وعادل وشفاف، وما إذا كانت التدابير الوقائية المناسبة قد تم بناؤها في تصميم ونشر Grok لمنع توليد صور معدلة ضارة باستخدام البيانات الشخصية.
كتب: “حيث تفشل تلك التدابير، يفقد الأفراد السيطرة على بياناتهم الشخصية بطريقة تعرضهم لأضرار خطيرة.” “إن فحص هذه المخاطر هو جوهر دور ICO في حماية حقوق الناس ومحاسبة المؤسسات أثناء تصميمها ونشرها لتقنية الذكاء الاصطناعي.”
التحقيقات في أوروبا هي الأحدث التي تستهدف X وGrok، حيث فتحت هيئة تنظيم وسائل الإعلام البريطانية، Ofcom، الشهر الماضي، تحقيقًا حول ما إذا كانت X قد انتهكت التزاماتها بموجب قانون السلامة عبر الإنترنت.
وفي يناير، بعد رد الفعل الدولي السلبي ضد Grok، قالت xAI إنها قيدت قدرات تحرير الصور في روبوت الدردشة وحظرت بعض الطلبات المتعلقة بتوليد صور للأشخاص.
تأتي مداهمة باريس بعد يوم من إعلان ماسك أن SpaceX استحوذت على xAI، شركة الذكاء الاصطناعي التي كانت قد استحوذت سابقًا على X، مما يضع منصة التواصل الاجتماعي وأنظمة الذكاء الاصطناعي تحت مظلة شركة SpaceX مع تصاعد التدقيق التنظيمي.
قال المتحدث باسم المفوضية الأوروبية توماس ريجنييه خلال مؤتمر صحفي في بروكسل مؤخرًا: “نحن على علم بأن X أو Grok الآن تقدم ‘وضع التوابل’ الذي يعرض محتوى جنسي صريح مع بعض المخرجات التي تم إنشاؤها باستخدام صور طفولية.” “هذا ليس توابل. هذا غير قانوني. هذا مروع. هذا مقرف. لا مكان له في أوروبا.”
لم ترد SpaceX وxAI على الفور على طلبات التعليق من Decrypt.
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة من مصادر خارجية ولا تمثل آراء أو مواقف Gate. المحتوى المعروض في هذه الصفحة هو لأغراض مرجعية فقط ولا يشكّل أي نصيحة مالية أو استثمارية أو قانونية. لا تضمن Gate دقة أو اكتمال المعلومات، ولا تتحمّل أي مسؤولية عن أي خسائر ناتجة عن استخدام هذه المعلومات. تنطوي الاستثمارات في الأصول الافتراضية على مخاطر عالية وتخضع لتقلبات سعرية كبيرة. قد تخسر كامل رأس المال المستثمر. يرجى فهم المخاطر ذات الصلة فهمًا كاملًا واتخاذ قرارات مدروسة بناءً على وضعك المالي وقدرتك على تحمّل المخاطر. للتفاصيل، يرجى الرجوع إلى
إخلاء المسؤولية.
