هكذا تكلم شات جي بي تي
في كتاب غلس قريته مؤخراً عايز اغلس عليك بيه. اسمه Moral Responsibility and Artificial Intelligence المسؤلية الاخلاقية و الذكاء الاصطناعي (مش الذكاء السوبر و لا حاجة كما ادعي البرتقالي XD). كتبه راجل فيلسوف معاصر بيناقش حاجة بصراحة مهمة. مين يتحمل المسؤولية لما الذكاء الصناعي الشات جي بي تي دا يعمل حاجة غلط؟
هتقولي ببساطة اللي قال للذكاء الصناعي يعمل حاجة غلط هو المسؤول. لا .. الأمر ليس بهذه البساطة.
الجملة الشهيرة المتحذلقة “ممكن تستخدم السكينة في انك تقطع خيار و ممكن تستخدمها في إيذاء حد” الامر كله في ايدك. ماشي دي السكينة، بس الذكاء الصناعي اعقد من ذلك. مش بيشتغل بهذه الطريقة. الذكاء الصناعي المشكلة فيه انك ممكن تقوله يعمل حاجة صح يروح هو يعمل حاجة غلط. او تقوله يعمل شيء في ظاهره شيء كويس، يروح هو يعمله بأسلوب غلط.
الموضوع حقيقي مش هرش دماغ كدا لأن حالياً الذكاء الصناعي بيستخدم في الحروب خلي بالك.في كمان عربيات ذاتية القيادة Self Driving موجودة و شغالة فعلا. او حتي اللي بتركن لوحدها دي منتشرة اكتر. طيب لو العربية دي عملت حادثة، مين اللي يتحاسب؟ لو العربية ال Self Driving دي خبطت عربيتك، تنزل تتخانق مع مين؟ مفيش حد سايق.
هتقولي هنزل اتخانق مع اللي راكب و خلاص. مينعفش. هو لما سواق تاكسي من حبايبنا المتهورين يخبط عربيتك، بتنزل تتخانق مع السواق ولا مع الراكب اللي جنب السواق؟ مع السواق طبعا. يبقي مينفعش تنزل تتخانق مع اللي مكانش سايق العربية ذاتية القيادة. الراجل قاعد بيسكرول مش هو اللي خبطك XD و المهم هنا ان “هو مقالش للعربية تخبطك”. الراجل لم يكن ينتوي XD
و مثال تاني، و الامثلة كتير، لو انا دكتور، و تحققت من معلومة من شات جي بي تي، و نقلت المعلومة دي للمريض، المريض حالته ساءت، مين يتحاسب؟ الدكتور يتحاسب؟ ولا الشات جي بي تي؟ و هكذا بقا.
المشكلة ان الذكاء الصناعي متقدرش تحاكمه. متقدرش تلومه حتي. مش هتقدر تحط شات جي بي تي في السجن لو أذي حد. و الذكاء الصناعي بأشكاله و موديلزاته الكتير بقا شات جي بي تي و غيره خلاص بقوا امر واقع و مفيدين جدا في حاجات كتير .. و اكيد انا معنديش الاجابة و لا حتي الراجل ذو الكتاب الفلسفي الغلس عنده الاجابة. اصلاً التقنية لسة حديثة و لم تصل الي شكل مستقر بحيث يقدر الاخوة من اصحاب الفلسفة الاخلاقية او اصحاب الفقه و العلم يبنوا علي الشكل دا نموذج متكامل للمحاسبة يعني.
لكن كان في مقالة شركة Anthropic بتاعة الذكاء الصناعي نشرتها مؤخرا فيها كلام مفيد. المقالة تقنية يعني عن انهم ازاي باستخدام “Claude” موديل الذكاء الصناعي بتاعهم خلوا الموقع بتاعهم اسرع بكتير جدا. كلام ماشي تقني شيق يعني لو انت مبرمج هتستمتع بيه بس مش هو دا موضوعنا. الشيق انه في وصفهم لطريقة استخدامهم للذكاء الصناعي اللي هم بيعملوه اصلا مكانوش بيخلوه ينشر التعديلات اللي بيقترحها كدا للمستخدمين علي طول.
لازم في مهندس انسان عادي يراجع و يقول تمام انا موافق قبل ما ينشر التعديل. لييه بقا؟ في انثروبيك؟ قلعة الذكاء الصناعي اللي عندهم احسن موديلز؟ لازم انسان يراجع؟
طيب ما كدا بقا الشغل ابطأ .. مش مشكلة.
اظن، و هنا معنديش معلومة، دا تخمين، انه علشان الدقة، و المسؤولية. مين هيبقي مسؤول لو ال AI نشر تعديل و التعديل دا بوظ الموقع و الشركة خسرت ملايين؟ المهندس اللي راجع ورا ال AI. و لذلك، المهندس دا علشان عارف انه هيتسأل، هيراجع كويس و يدقق. و دا اللي احنا عايزينه خصوصا لو في مسألة حرجة زي الموقع اللي هو واجهة الشركة اصلا.
فالموضوع مهم. راجع كويس جدا كلام ال AI لان في الاخر انت المسؤول تماما عن كلامك و عن شغلك. لو الكلام دا عك و سبب اضرار لن يعفيك من المسؤولية اطلاقا انك ناقل الكلام دا من شات جي بي تي او غيره. مش فارقة. طالما نقلت الكلام او نفذته، يبقي كلامك بغض النظر جبته منين.
ثانيا، هي مسألة احترام بردو، لما انا اسألك انت، يعني عايز رأيك انت. اظن مينفعش تنقلي كلام شات جي بي تي من غير ما تقراه قبل ما تبعته حتي. ما انا كمان عندي شات جي بي تي اقدر اسأله مباشرة انا. استفدت ايه منك كدا لما جبتلي نصاً الكلام اللي شات جي بي تي قاله من غير ما تراجعه حتي؟ ولا حاجة.
فراجع ورا ال AI لان بمجرد نقلك للكلام، بقا كلامك. بالقياس علي مقولة “ما شتمك الا اللي بلغك” كدا.