Kamal

فيه شخص اسمه أليكس كوي، شغال مع مشروع GPTZero، كتب تغريدة طويلة راح أحطها لكم تحت، شرح فيها آلية وضع العلامات المائية المخفية اللي صارت أنثروبيك تضيفها في نصوص كلود، وهل فعلاً تقدر تصمد أو أنه سهل كسرها. الطريقة اللي يستخدمونها كل الشركات الكبيرة (أنثروبيك وجوجل وأوبن إيه آي) اسمها KGW. فكرتها بدون تعقيد، أن الذكاء الاصطناعي وهو يكتب لك، يبرمجونه يفضل كلمات معينة على غيرها بناء على مفتاح سري عندهم. كأنه يقسم كلمات اللغة قسمين، ويختار دايماً من القسم المفضل له. بعدين لما يبون يتأكدون إذا النص مكتوب بذكاء اصطناعي، يرجعون يقرأونه ويشوفون، إذا لاحظوا أن الكلمات المحددة هذي موجودة بنسبة عالية وغير طبيعية، يعرفون أنها مولدة عن طريق نموذجهم. لكن هذا النظام فيه ثغرات كثيرة، في الأكواد البرمجية مثلاً، مستحيل يغيرون الكلمات على كيفهم لأن الكود بيخرب، بالتالي يضطرون يحطون علامتهم المائية في أماكن بسيطة مثل أسماء المتغيرات بس. وفي النصوص القصيرة والبديهية النظام يفشل تماماً. المشكلة الأكبر، لو المفتاح السري حقهم تسرب، نظام العلامة المائية كله يطيح ويحتاجون يغيرونه. وحسب رأيه أن الشركات هذي لو خلت أداة الفحص حقتها متاحة للكل، الناس بتعرف كيف تخدعها بسرعة. وحتى لو خلوها سرية للحكومات، مجرد إعادة صياغة قوية للنص تكفي لمسح العلامة المائية تماماً، وتجاربه أثبتت أن أدوات الصياغة المجانية قدرت تكسر حماية نظام جوجل. الشركات الكبيرة عارفة هذا الشيء وراضية فيه، لأن هدفهم الأساسي يرضون قوانين الاتحاد الأوروبي ويمشون شغلهم، مب يصنعون نظام مستحيل كسره.