ماذا تفعل شركات الذكاء الاصطناعي ببيانات مستخدميها الشخصية

تخيل تطبيق ذكاء اصطناعي مصمماً لإبقاء المستخدم في محادثة أطول، أو لتغيير رأيه في شيء ما، أو لإقناعه بشراء منتج معين. الآن تخيل أن هذا التطبيق يمتلك كل المعلومات عنك — بما فيها مخاوفك وعدم ثقتك بنفسك والتفاصيل الشخصية التي شاركتها معه — ويستخدمها لتحقيق تلك الأهداف.

هذا السيناريو يكتسب أهميته من غياب القواعد الواضحة التي تحكمه اليوم، ما يجعل وعود شركات الذكاء الاصطناعي حول كيفية التعامل مع بيانات المستخدمين حساسة للغاية.

في سلسلة "ما يعرفه التطبيق عنك" التي نشرتها أكسيوس عام 2019، فحصنا البيانات التي تجمعها عمالقة التكنولوجيا عن مستخدميهم. في 2024، أطلقنا دراسة حول البيانات التي تستخدمها شركات الذكاء الاصطناعي لتدريب أنظمتها. وتأتي هذه السلسلة الجديدة لتعيد طرح تلك الأسئلة بمنظور أوسع. سنفحص ليس فقط ما إذا كانت الشركة تستخدم بيانات المستخدمين لتطوير نماذج ذكاء اصطناعي مستقبلية، بل أيضاً كيف تستطيع استخدام تلك البيانات الآن: لتخصيص الردود، والاحتفاظ بذاكرة، وتوصية بمحتوى معين، أو استهداف الإعلانات.

تسعى شركات الذكاء الاصطناعي للوصول إلى بيانات تتجاوز نافذة المحادثة. أعلنت أوبن أيه آي الأسبوع الماضي عن ميزة "Computer History" اختيارية تسمح لـ ChatGPT بالاحتفاظ بسجل للتطبيقات والمواقع الإلكترونية التي يستخدمها الشخص. وقالت جوجل في الشهر الماضي إنها ستستخدم الصور والمواد الأخرى التي يرفعها الناس عبر محرك البحث لتدريب أنظمتها الذكية بشكل افتراضي، على الرغم من إمكانية الاختيار بعدم المشاركة.

الجانب الإيجابي يتمثل في احتمال الحصول على ذكاء اصطناعي أكثر فائدة وتخصيصاً. لكن التكلفة تكمن في منح الشركات رؤية أعمق وأكثر استمراراً على حياة المستخدمين.

تتمتع تطبيقات الدردشة الذكية بقدرة على استدراج الكشف عن معلومات شخصية بطريقة لا توفرها محركات البحث أو الشبكات الاجتماعية. يستخدمها الناس للسؤال عن الصحة والمال والعمل والعلاقات — مما يسفر عن سجل أكثر حميمية لمخاوفهم. تستكشف ميتا وجوجل وأوبن أيه آي طرقاً مختلفة للإعلان على تطبيقاتها.

إذا سار الذكاء الاصطناعي الموجه للمستهلكين على نفس مسار محركات البحث والشبكات الاجتماعية، فإن الإعلان قد يصبح جزءاً أكبر بكثير من النموذج التجاري — مما قد يخلق حافزاً لمطوري تطبيقات الدردشة لزيادة التفاعل.

قالت ميراندا بوجن، كبيرة التكنولوجيين بمركز الديموقراطية والتكنولوجيا، لـ أكسيوس: "ستتسارع حقبة الذكاء الاصطناعي بينما يسلّم الناس طواعية حياتهم الرقمية كاملة لأدوات ذكاء اصطناعي تعد بتخفيف الحمل العقلي أو الوحدة". وأضافت بوجن: "كلما عرف النظام عنك أكثر، كان من الأسهل الضغط على طلبات متصاعدة للمعلومات الشخصية بطريقة تبدو طبيعية. بدون حماية قوية للخصوصية، سيكون من الصعب مقاومة الحافز لتحقيق أرباح من هذه المعرفة".

تختلف سياسات الشركات بشكل كبير. تقدم أبل الخيار الأكثر خصوصية مع طلبات Apple Intelligence على جهاز المستخدم. تتعامل مع الطلبات التي تستطيع محلياً على الجهاز. بخصوص المهام الأكثر تعقيداً، تستخدم أبل نظام "Private Cloud Compute" الذي تقول إنه يستخدم البيانات فقط لتنفيذ الطلب ولا يجعل هذا المحتوى متاحاً لأبل. هذا النهج قد يحد من مقدار سجل المستخدم الذي يمكن لأبل الاحتفاظ به واستخدامه للتخصيص المستمر. ولا ينطبق عندما يختار المستخدم إرسال طلب إلى خدمة تابعة لجهة خارجية، مثل ChatGPT.

بالمقابل، تطالب ميتا بحقوق أوسع بكثير في بيانات المستخدم ضمن سياستها للخصوصية. تقول الشركة إنها تستطيع استخدام التفاعلات مع Meta AI لتخصيص المحتوى والإعلانات عبر خدماتها، بما فيها بعض التفاعلات عبر نظاراتها الذكية. تؤكد ميتا أيضاً أنها لا تستخدم المحادثات حول موضوعات حساسة معينة — تشمل الصحة والسياسة والدين — لتخصيص الإعلانات. بدأت أيضاً بطرح وضع "Incognito Chat" لمحادثات Meta AI مؤقتة وخاصة. هذا النظام مصمم ليعمل بطريقة مشابهة لنهج أبل — خوادم ميتا ترى الاستعلام فقط لتقديم إجابة، دون تخزين أي بيانات.

تقع خدمات الذكاء الاصطناعي الأخرى في مكان ما بين نهج أبل الذي يركز على الجهاز وسياسات استخدام البيانات الأوسع لدى ميتا. يوفر البعض محادثات مؤقتة لا تُستخدم للذاكرة أو تدريب النموذج. هناك خدمات تقوم بالتدريب على بيانات المستخدم فقط إذا أعطى المستخدمون الإذن، بينما تتطلب خدمات أخرى من الشخص عدم الاختيار لتجنب استخدام بياناته للتدريب.

تسمح خدمات كثيرة للمستخدمين برؤية البيانات المخزنة وحذف ذاكرة معينة. أحياناً يكون الأمر بسيطاً مثل طلب تطبيق الدردشة عدم تذكر تفصيل معين. والبعض الآخر له آليات أكثر تعقيداً لتحرير الذاكرة. وتطبيقات دردشة أخرى لديها قواعد منفصلة للمعلومات الصحية أو بيانات الأطفال أو المحادثات المشتركة مع تطبيقات مرتبطة.

التمييز الرئيسي لم يعد ما إذا كانت شركة ما تتدرب على استعلاماتك. بل ما إذا كان بإمكان تلك الاستعلامات أن تشكل فهم النظام عنك — وماذا يمكن استخدام هذا الفهم من أجله.

قد تكون قيمة تطبيق دردشة مخصص جداً تستحق التنازل عن الخصوصية لكثير من الناس. لكن المستهلكين يستحقون فهم طبيعة هذا التوازن قبل أن يبدأوا بالحديث.