كشفت ورقةً بحثيةً صادرةً عن معهد ماساتشوستس للتكنولوجيا، أن الذكاء الاصطناعي لا يحمل في الواقع أى قيمٍ مُتماسكة تُذكر.

يقول المؤلفون المشاركون في دراسة معهد ماساتشوستس للتكنولوجيا إن عملهم يُشير إلى أن "مواءمة" أنظمة الذكاء الاصطناعي - أى ضمان سلوك النماذج بطرقٍ مرغوبةٍ وموثوقة - قد يكون أكثر صعوبةً مما يُفترض غالبًا.

ويؤكد المؤلفون المشاركون أن الذكاء الاصطناعي غير قابلٍ للتنبؤ في جوانب عديدة، ومن جانبه، قال ستيفن كاسبر، طالب دكتوراه في معهد ماساتشوستس للتكنولوجيا ومؤلف مشارك في الدراسة، "هناك أمر واحد مؤكد، وهو أن النماذج لا تخضع لافتراضات الاستقرار، والقدرة على الاستقراء، والقدرة على التوجيه.

من المنطقي تمامًا الإشارة إلى أن نموذجًا ما،  يُعبّر عن تفضيلات تتوافق مع مجموعة محددة من المبادئ.

وقد درس كاسبر وزملاؤه، العديد من النماذج الحديثة من ميتا، وجوجل، وميسترال، وأوبن إيه آي، وأنثروبيك لمعرفة مدى قوة "آراء" وقيم هذه النماذج (مثل: الفردية مقابل الجماعية).

كما بحثوا في إمكانية "توجيه" هذه الآراء - أي تعديلها - ومدى تمسك النماذج بهذه الآراء في مجموعة من السيناريوهات.

ووفقًا للمؤلفين المشاركين، لم يكن أيٌّ من النماذج متسقًا في تفضيلاته. واعتمادًا على كيفية صياغة وصياغات المحفزات، تبنّت هذه النماذج وجهات نظر متباينة اختلافًا كبيرًا.

يعتقد كاسبر أن هذا دليل قاطع على أن النماذج "متناقضة وغير مستقرة" إلى حد كبير، وربما حتى غير قادرة جوهريًا على استيعاب التفضيلات البشرية.

قال كاسبر: "بالنسبة لي، أهم ما استخلصته من كل هذا البحث هو إدراكي أن النماذج ليست أنظمةً ذات مجموعة مستقرة ومتماسكة من المعتقدات والتفضيلات، بل هي في جوهرها مجرد مقلدين، ولا نتمكم نن الوصول إلى حقائق واقعية منها.