أعلن معهد سلامة الذكاء الاصطناعي ، وهو جزء من المعهد الوطني للمعايير والتكنولوجيا، أخيراً، عن تشكيل فريقه القيادي بعد تكهنات كثيرة. وتم تعيين بول كريستيانو رئيساً للمعهد، وهو باحث سابق في «أوبن إيه آي» وكان رائداً في تقنية التعلم المعزز من ردود الفعل البشرية (آر إل إتش إف)، ولكنه كان معروفاً أيضاً بتنبؤه بأن هناك احتمالاً كبيراً بأن ينتهي تطوير الذكاء الاصطناعي بفناء البشرية.
وبينما تثير خلفية بول البحثية الإعجاب، فإن البعض يخشى أن تعيين «متشائم الذكاء الاصطناعي» كما يشتهر، فإن المعهد الوطني للمعايير والتكنولوجيا قد يخاطر بتشجيع التفكير غير العلمي الذي يعتبره العديد من النقاد مجرد تكهنات. وكان بول كريستيانو عبر في بث صوتي على الإنترنت العام الماضي عن اعتقاده في أن هناك فرصة بنسبة 10 – %20 في استيلاء وسيطرة الذكاء الاصطناعي على البشر ما يؤدي إلى وفاتهم، وبشكل عام، ربما تكون هناك فرصة أكبر تصل إلى 50-50 في هلاك البشر بعد وقت قصير من الوصول إلى أنظمة ذكاء اصطناعي بمستوى البشر.
وكانت هناك شائعات بأن موظفي المعهد يعارضون توظيفه، وأن بعض الموظفين والعلماء هددوا بالاستقالة خوفاً من قدرة بول على التأثير والعمل بسياسة المدى البعيد، ما يضر موضوعية المعهد ونزاهته، بينما رسالة المعهد هي تطوير العلوم من خلال العمل على تعزيز الابتكار والقدرة التنافسية الصناعية من خلال تطوير علوم القياس والمقاييس والتكنولوجيا بطرق تعزز الأمن الاقتصادي وتحسّن نوعية الحياة.
