كتبت أميرة شحاتة

استقال باحث بارز في مجال السلامة التقنية في شركة أنثروبيك، عملاقة الذكاء الاصطناعي، من منصبه، موجهاً تحذيراً شديد اللهجة من أن العالم يواجه خطراً جسيماً جراء إساءة استخدام الحواسيب المتطورة، حيث نشر مرينانك شارما، الباحث المتخصص في سلامة الذكاء الاصطناعي في أنثروبيك، رسالة استقالته على وسائل التواصل الاجتماعي، مؤكداً أن "العالم في خطر" بسبب تطورات الذكاء الاصطناعي والمخاطر المرتبطة بها.

وفقا لما ذكرته صحيفة "ديلى ميل"  البريطانية، تُطور أنثروبيك أنظمة ذكاء اصطناعي متقدمة، مثل برامج الدردشة الآلية وأدوات توليد النصوص والأفكار، بما في ذلك برنامج كلود الشهير، ومع ذلك، ادعى شارما في رسالته أنه والشركة تعرضا لضغوط للتخلي عن قيمهما من أجل إعطاء الأولوية لنمو الذكاء الاصطناعي.

كانت وظيفته في أنثروبيك، التي يُقدر راتبه فيها بأكثر من 200 ألف دولار، تتلخص في قيادة فريق متخصص في "سلامة الذكاء الاصطناعي"، أي إيجاد سبل لضمان عدم تسبب الذكاء الاصطناعي في أي ضرر للبشر الذين يستخدمونه.

أشار شارما إلى أنه ساهم في تطوير آليات دفاعية تمنع استخدام الذكاء الاصطناعي من قبل جهات خبيثة في تصنيع مواد خطيرة كالأسلحة البيولوجية، كما درس مشكلات مثل "التملق المفرط للذكاء الاصطناعي"، حيث قد تُفرط برامج الدردشة الآلية في التملق أو الموافقة على آراء المستخدمين بطرق قد تُؤثر عليهم وتُشوه إدراكهم للواقع.

وكتب شارما في رسالته: "يبدو أننا نقترب من نقطة حرجة، حيث يجب أن تنمو حكمتنا بالتوازي مع قدرتنا على التأثير في العالم، وإلا سنواجه العواقب".

جاءت استقالة شارما فورية، إذ تنحى عن منصبه الرفيع في شركة أنثروبيك بعد ما يقرب من ثلاث سنوات، وكان درس المقيم في كاليفورنيا في كلٍ من جامعتي أكسفورد وكامبريدج، وحصل على درجة الماجستير في الهندسة والتعلم الآلي.

ومع ذلك، قال خبير سلامة الذكاء الاصطناعي إن مجموعة من المشكلات العالمية الكبرى المترابطة، بما في ذلك الحروب والأوبئة وتغير المناخ والنمو غير المنضبط للذكاء الاصطناعي، كلها عوامل أثرت في قراره بالاستقالة.

أعرب شارما عن مخاوفه من أن برامج الذكاء الاصطناعي القوية تُسهّل على العلماء ابتكار أسلحة بيولوجية قادرة على نشر الأمراض في جميع أنحاء العالم، وبدون ضوابط مناسبة لاستخدام الذكاء الاصطناعي، يمكن لهذه الأدوات المتقدمة الإجابة بسرعة على أسئلة بيولوجية معقدة، بل واقتراح تعديلات جينية لجعل الفيروسات أكثر عدوى أو فتكًا.

كما أشار شارما إلى قدرة الذكاء الاصطناعي على التلاعب بعقول الناس، وتزويد الجمهور بإجابات مُصممة خصيصًا لوجهات نظر كل فرد، مما يُشوه قراراتهم ويُقوض التفكير المستقل.

تعد أنثروبيك هي شركة ذكاء اصطناعي تأسست عام 2021 على يد سبعة موظفين سابقين في شركة أوبن إيه آي، الشركة التي ابتكرت برنامج ChatGPT، وضمّت هذه المجموعة الشقيقين داريو أمودي، الرئيس التنفيذي، ودانييلا أمودي، رئيسة أنثروبيك، اللذين صرّحا بأنهما غادرا الشركة بسبب مخاوفهما من عدم تركيز أوبن إيه آي على السلامة، ورغبتهما في إنشاء أنظمة ذكاء اصطناعي موثوقة وقابلة للتفسير تُعطي الأولوية لرفاهية الإنسان.

وتتمثل منتجات الشركة الرئيسية في عائلة نماذج الذكاء الاصطناعي "كلود"، والتي تشمل مساعدين آليين للبرمجة وغيرها من المهام الشخصية والمهنية، وتُشير التقارير إلى أن أنثروبيك تستحوذ على ما يقارب ٤٠٪ من سوق الذكاء الاصطناعي فيما يتعلق بالمساعدين الآليين، بإيرادات سنوية تُقدّر بنحو 9 مليارات دولار.