7 خطوات أساسية تضمن دقة البيانات وتفادي أخطاء النماذج اللغوية الكبيرة
نبأ الإخبارية: بات الذكاء الاصطناعي التوليدي وسيلة سريعة للحصول على المعلومات وتحليل البيانات. وبناءً على ذلك، يتساءل كثيرون حول كيف تتحقق من صحة معلومات الذكاء الاصطناعي لتفادي الوقوع في فخ الإجابات المضللة والواثقة، وهو ما يُعرف تقنياً بـ “الهلوسة”.
وفي السياق نفسه، يؤكد المعهد الوطني الأمريكي للمعايير والتكنولوجيا (NIST) أن النماذج اللغوية الكبيرة قد تختلق حقائق أو مراجع غير موجودة. وتوازياً مع تحذيرات الشركات الكبرى مثل Open AI وغوغل، فإن المراجعة البشرية تظل حلقة الوصل الأساسية لضمان سلامة القرارات المهمة.
📌 أبرز التوصيات التقنية: “التعامل الآمن مع الذكاء الاصطناعي لا يعني رفض مخرجاته أو تصديقها بالكامل، بل يرتكز على قاعدة: اسأل، افحص، قارن، ثم ارجع للمصدر الأصلي قبل اعتماد المعلومة أو نشرها.”
أقرأ أيضاً:
- النفخ في الشوفار وطقوس تلمودية في باب الرحمة شرقي المسجد الأقصى
- إعلام الأسرى يكشف قمعاً واعتداءات بوحشية في قسم راكيفيت بسجن الرملة
خطوات عملية للتحقق من مخرجات النماذج الذكية:
- 1. الرجوع إلى المصدر الأصلي: عدم التعامل مع الإجابة كمصدر نهائي، بل نقطة بداية للبحث. وإذا ذكر النموذج دراسة أو تقريراً، ينبغي الوصول للوثيقة الأصلية وقراءتها مباشرة.
- 2. مقارنة المعلومة بمصادر متعددة: البحث عن الادعاء في مصادر مستقلة ومقارنتها بالجهات الرسمية ووسائل الإعلام الموثوقة لتفادي الأخطاء التي تمر دون ملاحظة.
- 3. فحص الروابط والمراجع بدقة: فتح الروابط المرفقة والتأكد من وجودها وجهة النشر، حيث تشير غوغل إلى أن ظهور المصدر لا يعني بالضرورة أنه يدعم المعلومة أو أنه غير مختلق.
- 4. التحقق المستقل من الأرقام والتواريخ: التعامل مع الأسماء والقيم المالية والنسب المئوية كنقاط تحقق منفصلة، والبحث عنها في قواعد البيانات والمواقع الرسمية.
- 5. الانتباه لحداثة المعلومات: التأكد من تاريخ البيانات، إذ توضح أوبن إيه آي أن النماذج قد لا تتضمن الأحداث التي وقعت بعد فترة تدريبها ما لم تتصل بأدوات البحث الفوري.
- 6. إعادة صياغة السؤال واختبار الإجابات: طرح الأسئلة بصيغ مختلفة أو مطالبة النموذج بتحديد درجة عدم اليقين والتمييز بين الحقائق والاستنتاجات لكشف التناقضات.
- 7. استخدام أدوات التحقق المناسبة: استعانة بالحاسبات للأرقام، والأوراق العلمية للمعلومات التخصصية، وتقنيات إثبات المنشأ مثل (SynthID) و(Content Credentials) للصور والوسائط.
التحقق مسؤولية المستخدم في النهاية
وفضلاً عن ذلك، يجب التعامل مع الذكاء الاصطناعي كمساعد بحثي واقتراح أفكار وليس كمرجع نهائي للحقيقة. ونتيجة لارتفاع خطورة الأخطاء في المجالات الطبية والقانونية والمالية، تزداد أهمية التدقيق البشري للحد من مخاطر المخرجات المختلقة.
وفي المقابل، تواصل الشركات التقنية تطوير مؤشرات فحص المنشأ والأدوات المساعدة. وتوازياً مع هذه التطورات، تبقى المسؤولية الأولى على عاتق المستخدم لضمان سلامة المعلومات قبل الاعتماد عليها في العالم الحقيقي.