08أقسام

هندسةالذكاء الاصطناعي

AI EngineeringChip Huyen

قالها بثقة

01

لوحده مابيراجعش مصدر. بيكمّل، وبنفس النبرة وهو صح وهو غلط.

ده شرح أصلي لأفكار الكتاب، مش ترجمة ولا نسخة منه. لو عجبك، اشتري الكتاب الأصلي.

مثال مصري — مش من الكتاب

المشرف فتح قايمة المراجع في بحث تخرج نورهان، ودوّر على تلات مصادر، وما لقاش ولا واحد. نورهان في آخر سنة تجارة إسكندرية، ودفعت ٩٠٠ جنيه عشان تجلّد البحث تلات نسخ عند المكتبة. أسامي المجلات شكلها محترم، وأرقام الصفحات موجودة، والمقالات نفسها مش موجودة في أي حتة. الشات اللي ساعدها كتبهم بنفس الهدوء اللي كتب بيه باقي البحث، وما قالش «مش متأكد» ولا مرة. كانت فاكرة إن اللي مكتوب بالشكل ده أكيد اتراجع. دلوقتي هي اللي واقفة تشرح ليه اسمها جنب مراجع محدش كتبها، والمناقشة الأسبوع الجاي.

شرح من الآخر

بص، عشان تفهم مراجع نورهان الوهمية، ابدأ من طريقة الرد نفسها. الموديل لوحده مابيفتحش مرجع قبل ما يرد. بياخد كلامك حتت صغيرة، ويحسب إيه الحتة اللي أرجح تيجي بعدها، وبعدين اللي بعدها، لحد ما تطلع جملة. وساعات اللي يطلع حاجة مش موجودة أصلًا. السبب مش محسوم: الكاتبة بتعرض تفسيرين، وفي أي شغل قايم على الحقايق دي مش تفصيلة. ولأن الحساب احتمالات، نفس الطلب ممكن يطلّع ردين مختلفين. والرد نفسه اتعلمه بعدين: في الأول الموديل بيكمّل نص وخلاص، ومرحلة بعد التدريب هي اللي بتعلّمه يرد عليك. يعني الرد في الأصل تكميل لكلامك.

الأفكار المهمة

التوكن (token)
حرف أو حتة كلمة أو كلمة، ومتوسطه في GPT-4 ¾ كلمة تقريبًا.
ماكينة تكميل
شغلتها الأساسية تكمّل النص، مش تدوّر على إجابة.
ما بعد التدريب
مرحلة بعد التدريب الأساسي، بتعلّمه يرد بدل ما يكمّل.
الهلوسة (hallucination)
تفسيرين: غلطة أولى بيبني عليها، أو اتعلم من إجابات فوق معرفته.

من سؤالك لجملة واثقة

  1. 1سؤالكاللي كتبته بالظبط
  2. 2حتتبيتقطّع لتوكنز
  3. 3الحتة الجايةالأرجح بعد اللي فات
  4. 4جملة واثقةصح أو غلط، نفس النبرة

أمثلة من الكتاب

1

مكتب المحاماة. الغرامة بتنزل على اللي قدّم الورق، مش على الشات. ده اللي حصل لمكتب محاماة في يونيو ٢٠٢٣: ملف للمحكمة فيه بحث متألّف من ChatGPT، والمكتب مش عارف إنه بيألّف.

2

مقال واحد، درجتين. الرد الواحد مش شهادة: في تجربة الكاتبة، مقال واحد بنفس الطلب خد من ChatGPT ٣ من ٥ مرة، و٥ من ٥ مرة تانية.

الاسم اللي على الشغل اسمك، و«الشات قال» مش إجابة. وفي اللي يخص مصر، من قوانين وأسعار ومصادر محلية، شك أكتر، لأنها غالبًا مواضيع نادرة بالنسبة له. ده رأينا، مش قياس.

الغلط الشائع

إحنا متعودين نقرا النبرة: اللي بيتكلم بثقة غالبًا عارف. هنا النبرة مالهاش علاقة بالحقيقة. الصح والغلط طالعين من نفس الماكينة بنفس الصوت. الدليل إنك تفتح المصدر بإيدك.

اتغير إيه من وقت الكتاب؟

رأينا، مش من الكتاب

قضية مكتب المحاماة بقت جزء من ملف كبير. Damien Charlotin بيجمع في قاعدة بيانات عامة قرارات محاكم عن مادة ألّفها الذكاء الاصطناعي، وأغلبها مراجع وهمية. لحد أواخر أكتوبر ٢٠٢٦ العدد عدّى ٢٢٠٠ قرار، والعد شغال من ٢٠٢٣، وقضية الكتاب جواه. خد بالك: دي قرارات، مش محامين ولا غرامات، وأكتر من نصها أصحاب قضايا من غير محامي. والموقع نفسه بيقول إنه مش شامل، وفيه حالات الاستخدام فيها مش متأكد. التحذير زي ما هو، والجديد الحجم.

اسأل فريقك

مين بيراجع أي معلومة قبل ما توصل لزبون؟ عايز اسم. ولو اللي بيشتغل معاك فريلانسر، اسأله: لو البوت اخترع سياسة مش موجودة، مين هيشيلها؟ واكتب الرد في الاتفاق قبل ما تدفع.

الفخ

تطلب منه المصادر وتقف هنا. الطلب ده مفيد، بس المصدر نفسه ممكن يطلع وهمي، زي مراجع نورهان. اللي بيحميك إنك تفتحه وتقرا فيه السطر اللي اتنقل عنه.

من الآخر

1

الموديل لوحده بيحسب الكلمة الجاية، مش بيراجع مصدر.

2

الثقة في النبرة مش دليل صحة.

3

افتح أي مصدر بإيدك قبل ما تعتمد عليه.

جرّبها بكرة

اطلب من أي شات ٣ مراجع عن موضوع في شغلك أو دراستك، وافتح كل واحد بإيدك. عدّ كام واحد منهم موجود فعلًا.