«تحول الذكاء الاصطناعي إلى سلاح»
ذا ترميناتور
الشرير الحقيقي في سلسلة أفلام ذا ترميناتور ليس الروبوت القاتل الذي يلعب دوره أرنولد شوارتسنيغر، إنه «سكاينت» (Skynet)، نظام الذكاء الاصطناعي المصمم للدفاع عن البشر وحمايتهم. في يوم من الأيام، يخرج النظام عن الطريقة التي تمت برمجته بها ويقرر أن البشر هم الخطر الأعظم الذي يجب القضاء عليه – وهي فكرة شاع استخدامها في الأفلام السينمائية.
نحن بالطبع بعيدون كثيرا عن وجود نظام مثل سكاينت. لكن البعض يرى أننا سوف نقوم في نهاية المطاف بتصميم ذكاء اصطناعي عام سيكون بإمكانه فعل أي شيء يستطيع البشر أن يفعلوه ولكن بشكل أفضل، بل وربما سيصبح لديه وعي بالذات.
بالنسبة لنايثان بينايش، مؤسس شركة Air Street Capital (أير ستريت كابيتال) اللندنية المتخصصة في الاستثمار في مجال الذكاء الاصطناعي، يُعتبر ذلك احتمالا بعيدا.
يقول بينايش: «ما نتعلمه من قصص الخيال العلمي عن مؤلفيها وعن ثقافتنا أكثر بكثير مما نتعلمه منها عن التكنولوجيا»، مضيفا أنه نادرا ما تتحقق تنبؤاتنا بشأن المستقبل.
«في بدايات القرن العشرين، تخيل الناس عالما من السيارات الطائرة يتواصل فيه الناس مع بعضهم بعضا بالهواتف الأرضية – في حين أننا نتنقل ونسافر حاليا بنفس الطريقة تقريبا لكننا نتواصل بوسائل مختلفة تماما».
ما لدينا الآن في طريقه لأن يصبح أشبه بنظام الذكاء الاصطناعي المستخدم في مسلسل ستار ترك (Star Trek) أكثر من أن يصبح أشبه بنظام سكاينت. فقد تخاطبه قائلا: «اعرض علي قائمة لكافة أفراد الطاقم»، ونظم الذكاء الاصطناعي الموجودة حاليا بإمكانها إعطاؤك تلك القائمة، فضلا عن الإجابة على أي أسئلة حولها بلغة سهلة.
بيد أنها لا تستطيع أن تحل محل أفراد الطاقم، أو أن تطلق قذائف طوربيد.
القلق المثار حول تسليح الذكاء الاصطناعي يرتكز حول إدماجه في الأنظمة العسكرية – وهو شيء مطروح على الطاولة في الوقت الحالي – وحول ما إذا كان بإمكاننا الوثوق في تلك التقنية عندما يتعلق الأمر باتخاذ قرارات مصيرية.
كما أن المعترضين يشعرون بالقلق كذلك من احتمال أن يتحول نظام ذكاء اصطناعي مصمم لصنع الأدوية إلى أداة لصنع أسلحة كيميائية، أو ما شابه ذلك من المخاطر.
«أهداف مختلفة/خداع»
2001: أوديسا الفضاء
من بين الأفكار الأخرى الشائعة في أفلام الخيال العلمي هي أن الذكاء الاصطناعي ليس شريرا، ولكنه مضلَل.
في فيلم «2001: أدويسا الفضاء» (2001: Space Odyssey) الذي أخرجه ستنالي كوبريك، نتعرف على الحاسب الآلي الخارق هال-9000 الذي يتحكم في غالبية وظائف سفينة الفضاء ديسكفري، ما يسهل من مهمة رواد الفضاء – إلى أن يحدث به عطل.
يقرر رواد الفضاء إيقاف هال وتشغيل السفينة بأنفسهم. لكن هال – الذي يعلم أمورا لا يعلمها رواد الفضاء – يقرر أن ذلك سيعرض البعثة الفضائية إلى الخطر. يتمكن هال من خداع رواد الفضاء وقتل غالبيتهم.
على العكس من سكاينت الذي لديه وعي بالذات، يمكنك القول إن هال كان ينفذ التعليمات التي أعطيت له، ولكن ليس بالطريقة المتوقعة منه.
بلغة الذكاء الاصطناعي الحديثة، النظم التي تخطئ التصرف توصف بأنها «تعاني من اختلال في الأهداف»، أي أن أهدافها لا تبدو متسقة مع الأهداف التي وضعها لها البشر.
في بعض الأحيان، يحدث ذلك لأن التعليمات لم تكن واضحة بما يكفي، وفي بعض الأحيان يكون السبب هو أن مهارة الذكاء الاصطناعي مكنته من إيجاد طريق مختصر.
على سبيل المثال، إذا كانت مهمة الذكاء الاصطناعي هي «التأكد من اتساق الإجابة مع هذه الوثيقة النصية»، فإنه ربما يقرر أن الطريقة المثلى هي تغيير الوثيقة النصية إلى إجابة أسهل. وهذا بالطبع ليس ما أراده البشر منه، لكنه لا غبار عليه من الناحية الفنية.
ومن ثم فإنه رغم كون فيلم أوديسا الفضاء بعيدا عن الواقع، فإنه يعكس مشكلة فعلية موجودة في نظم الذكاء الاصطناعي الحالية.
«معلومات زائفة»
ذا مايتريكس (The Matrix)
«كيف يمكنك التفريق بين عالم الواقع وعالم الأحلام؟»، هكذا يسأل مورفيوس شخصية كيانو ريفز في فيلم ذا مايتريكس الذي أنتج عام 1999.
تدور القصة حول بشر يعيشون حياتهم بشكل طبيعي بدون أن يدركوا أن عالمهم هو عالم رقمي مزيف، وهي رمز جيد للانفجار الحالي للمعلومات الزائفة التي ينتجها الذكاء الاصطناعي.
تقول الدكتورة هير إن قصة الفيلم تعطيها نقطة بدء مفيدة عند إجراء «حوارات حول المعلومات الزائفة والمعلومات المضللة والتزييف العميق» مع عملائها.
«أستطيع أن أتحدث معهم عن ذلك متخذة فيلم ذا مايتريكس نموذجا.. ثم أناقش معهم ماذا سيعني ذلك للانتخابات؟ ماذا سيعني للتلاعب بأسواق المال؟ … ماذا سيعني للحقوق المدنية، للإنتاج الأدبي البشري أو الحريات المدنية وحقوق الإنسان؟»
«تشات جي بي تي» ونظم إنتاج الصور تقوم بالفعل في الوقت الراهن بإنتاج محتوى ثقافي غزير يبدو حقيقيا ولكنه قد يكون زائفا تماما.
كما أن هناك جانبا مظلما لذلك، مثل إنتاج أعمال إباحية باستخدام تقنية التزييف العميق والتي يكون من الصعب للغاية على ضحاياها إثبات أنها غير حقيقية.
