مع اتساع الاعتماد على أدوات الذكاء الاصطناعي التوليدي، تتزايد التحذيرات من مشاركة معلومات شديدة الحساسية مع روبوتات المحادثة، أو الاعتماد عليها في مجالات تتطلب خبرة مهنية وحماية قانونية خاصة.
وشملت أمثلة سابقة مهندسين في سامسونج أدخلوا معلومات داخلية إلى تشات جي بي تي، ومسؤولًا سابقًا في وكالة الأمن السيبراني وأمن البنية التحتية الأميركية قام بتحميل مستندات عمل حساسة، إلى جانب قضايا استخدم فيها أشخاص مراجع قانونية غير موجودة أنشأها الذكاء الاصطناعي.
كما ظهرت حالات استخدم فيها أشخاص تشات جي بي تي للحصول على إرشادات صحية انتهت بعواقب خطيرة.
وفي الوقت نفسه، أقر الرئيس التنفيذي لشركة OpenAI، سام ألتمان، بأن المحادثات التي يجريها المستخدمون مع تشات جي بي تي لا تتمتع بالضرورة بالحماية القانونية نفسها التي تحظى بها بعض الاتصالات مع الأطباء أو المحامين أو المعالجين النفسيين.
وبالتالي، ورغم أن تشات جي بي تي يمكن أن يكون أداة مفيدة للبحث والبرمجة وشرح المفاهيم وإعداد المسودات، فإن هناك مجالات ينبغي التعامل معها بحذر شديد.
1. لا تعتمد عليه للحصول على استشارات قانونية
تعد الاستشارات القانونية من أبرز المجالات التي قد يؤدي الاعتماد غير المتحقق على الذكاء الاصطناعي فيها إلى مشكلات حقيقية، خصوصًا بسبب قدرة نماذج المحادثة على إنتاج معلومات أو مراجع تبدو مقنعة لكنها غير صحيحة.
وسُجلت العديد من القضايا التي اكتشفت فيها المحاكم استشهادات بأحكام أو سوابق قضائية غير موجودة ضمن مذكرات قانونية أُعدت بمساعدة الذكاء الاصطناعي.
ولا تقتصر هذه الحالات على الأشخاص الذين يدافعون عن أنفسهم، إذ ظهرت أيضًا حالات مرتبطة بمحامين محترفين استخدموا مراجع أو معلومات قانونية غير دقيقة.
وفي بعض القضايا، فرضت محاكم غرامات مالية على خلفية تقديم معلومات أو مراجع قانونية غير حقيقية، كما ظهرت حالات مماثلة خارج الولايات المتحدة، بينها بريطانيا وجنوب أفريقيا وأستراليا وإسبانيا.
وتكمن المشكلة أيضًا في أن المحادثة مع تشات جي بي تي لا تتمتع بالضرورة بامتياز السرية القانونية الذي يحمي بعض الاتصالات بين المحامي وموكله.
لذلك يمكن استخدام تشات جي بي تي لفهم المفاهيم القانونية العامة، لكن التفاصيل المتعلقة بقضية شخصية أو نزاع قائم ينبغي مناقشتها مع محامٍ مختص، مع التحقق من أي معلومات أو مراجع يقدمها الذكاء الاصطناعي.
2. لا تتعامل معه كمعالج نفسي
يمكن أن تكون المحادثات المتعلقة بالصحة النفسية شديدة الحساسية، ولذلك فإن الاعتماد على روبوت محادثة باعتباره بديلًا عن متخصص بشري يحمل مخاطر إضافية.
وتشير بيانات سابقة إلى أن نسبة من محادثات المستخدمين مع تشات جي بي تي تتضمن موضوعات مرتبطة بالانتحار أو الأزمات النفسية، وهو ما يعني أعدادًا كبيرة بالنظر إلى قاعدة المستخدمين الضخمة للخدمة.
كما أثيرت مخاوف بشأن تعامل بعض المستخدمين، خصوصًا الشباب، مع روبوتات المحادثة باعتبارها معالجًا نفسيًا أو مدربًا للحياة، رغم عدم وجود العلاقة المهنية والحماية القانونية المرتبطة عادة بالتعامل مع متخصص بشري.
وأظهرت أبحاث أن روبوتات المحادثة قد تميل أحيانًا إلى تقديم إجابات تؤكد وجهة نظر المستخدم بدلًا من تحديها أو طرح احتمالات أخرى، خصوصًا عندما يعتمد النموذج على رواية أحادية الجانب للموقف.
وقد يكون ذلك أكثر حساسية في الحالات التي تتضمن أفكارًا وهمية أو أزمات نفسية أو أفكارًا مرتبطة بإيذاء النفس.
ولهذا يمكن استخدام الذكاء الاصطناعي في بعض المهام العامة المتعلقة بالتثقيف أو تنظيم الأفكار، لكنه لا ينبغي أن يحل محل الطبيب أو المعالج النفسي، خصوصًا في الحالات التي تتطلب تشخيصًا أو تدخلًا متخصصًا.
3. لا تدخل معلومات العمل السرية
يبدو من البديهي أن تحميل مستندات العمل السرية إلى روبوت محادثة تابع لطرف ثالث قد يمثل مخاطرة، لكن بعض المستخدمين قد لا يدركون حجم المعلومات التي يمكن أن تحتوي عليها هذه الملفات.
وشهدت السنوات الأخيرة حالات أدخل فيها موظفون شفرات برمجية داخلية، ومستندات تعاقدية، وبيانات مرتبطة بالعمل إلى أدوات ذكاء اصطناعي عامة.
وفي إحدى الحالات، قام مسؤول سابق بالإنابة في وكالة الأمن السيبراني وأمن البنية التحتية الأميركية بتحميل مستندات تعاقدية تحمل تصنيفًا للاستخدام الرسمي فقط إلى نسخة عامة من تشات جي بي تي، ما أدى إلى مراجعة داخلية.
كما دفعت واقعة أخرى شركة سامسونج إلى فرض قيود على استخدام أدوات الذكاء الاصطناعي التوليدي بعد إدخال مهندسين شفرة مصدر داخلية إلى تشات جي بي تي.
وتكمن المخاطر في أن البيانات التي تتم مشاركتها مع منصات خارجية قد تخضع لسياسات تخزين ومعالجة مختلفة، وقد تصبح عرضة للوصول غير المصرح به أو لإجراءات قانونية وفقًا للظروف.
لذلك ينبغي عدم إدخال بيانات العملاء أو الأسرار التجارية أو الشفرات البرمجية الداخلية أو المستندات الخاضعة لاتفاقيات عدم الإفصاح في حسابات الذكاء الاصطناعي الشخصية.
4. لا تستخدمه للحصول على تشخيص أو علاج طبي
تمثل المعلومات الصحية واحدة من أكثر أنواع البيانات الشخصية حساسية، ولا ينبغي التعامل مع روبوتات المحادثة باعتبارها بديلًا عن الطبيب.
وقد تختلف الحماية القانونية للبيانات الصحية عند مشاركتها مع خدمة ذكاء اصطناعي عامة عن الحماية التي توفرها الأنظمة الصحية أو العلاقة المباشرة بين الطبيب والمريض.
كما أظهرت اختبارات وأبحاث أن أنظمة الذكاء الاصطناعي يمكن أن تقدم أحيانًا معلومات طبية غير دقيقة أو تفشل في التعرف على بعض الحالات الحساسة، خصوصًا عندما يخفي المستخدم معلومات مهمة أو يصوغ سؤاله بطريقة مضللة.
وفي إحدى الحالات، اعتمد رجل على إجابة من تشات جي بي تي بشأن تقليل بعض مكونات النظام الغذائي، وانتهى به الأمر إلى استخدام مادة خطرة بدلًا من ملح الطعام، ما أدى إلى دخوله المستشفى.
وتوضح هذه الحالة مخاطر الاعتماد على إجابة آلية دون التحقق منها، خصوصًا عندما يتعلق الأمر بمواد كيميائية أو أدوية أو أنظمة غذائية أو أعراض مرضية.
يمكن استخدام الذكاء الاصطناعي للحصول على معلومات عامة حول موضوع صحي، لكن التشخيص وتحديد العلاج أو تعديل الأدوية والنظام الغذائي يجب أن يتم بالتعاون مع طبيب أو متخصص مؤهل.
5. لا تدخل كلمات المرور وبيانات الهوية والحسابات
تشكل بيانات الدخول والمعلومات المالية ووثائق الهوية خطرًا خاصًا عند مشاركتها مع روبوتات المحادثة.
وقد ظهرت في وقت سابق محادثات لمستخدمين ضمن نتائج محركات البحث بعد مشاركتها بطريقة جعلتها قابلة للاكتشاف، وتضمنت بعض تلك المحادثات معلومات شخصية وحساسة.
كما يمكن أن تخضع سجلات المحادثات في ظروف معينة لإجراءات قانونية أو أوامر قضائية، ما يعني أن حذف المحادثة لا ينبغي اعتباره ضمانًا مطلقًا لعدم إمكانية الوصول إلى بياناتها في جميع الظروف.
وتزداد حساسية الأمر مع ميزات الذاكرة، التي يمكن أن تسمح باستمرار بعض المعلومات عبر جلسات مختلفة وفقًا لإعدادات الحساب والخصائص المستخدمة.
لذلك يجب عدم إدخال كلمات المرور، ورموز التحقق لمرة واحدة، وأرقام البطاقات البنكية، وبيانات الحسابات المصرفية الكاملة، وأرقام جوازات السفر والهوية، وصور الوثائق الشخصية في مطالبات الذكاء الاصطناعي.
الذكاء الاصطناعي أداة مساعدة وليس بديلًا للمتخصص
يمكن أن يكون تشات جي بي تي مفيدًا في البحث الأولي، وشرح المفاهيم، وتلخيص المعلومات، والبرمجة، وصياغة المسودات، لكن طبيعة الأداة تفرض ضرورة التعامل معها بحذر عندما يتعلق الأمر بالمعلومات الحساسة أو القرارات التي قد تترتب عليها عواقب قانونية أو صحية أو مهنية.
والقاعدة الأكثر أمانًا هي عدم مشاركة أي معلومة شديدة الحساسية مع روبوت محادثة إذا كان المستخدم لا يريد أن تصبح هذه المعلومة قابلة للوصول إليها في ظروف معينة مستقبلًا.
