پنتاگون هوش مصنوعی را اخلاق مدار می‌کند

کد خبر: ۹۳۴۴۶۸

تاریخ: ۱۲ آبان ۱۳۹۸ - ۱۵:۱۶

مقر فرماندهی وزارت دفاع ایالت متحده آمریکا (پنتاگون) در حال تهیه یک پیش‌نویس برای دستورالعمل اخلاق مداری هوش مصنوعی در مقابل تعصب و سرکشی این فناوری نوین است.

به گزارش ایسنا و به نقل از انگجت، شرکت‌های فناوری ممکن است در ایجاد زمینه اخلاقی برای هوش مصنوعی دچار مشکل باشند، اما به نظر می‌رسد وزارت دفاع آمریکا در حال تعیین چهارچوب و حل این مشکل است.

هیئت نوآوری دفاعی پنتاگون به تازگی پیش‌نویس دستورالعمل‌های مربوط به اخلاق مداری هوش مصنوعی را در وزارت دفاع آمریکا تهیه کرده است که هدف آن در کنترل داشتن این فناوری در حال ظهور و رشد است.

برخی از این راهبرد‌ها مانند نیاز به اعتماد بیشتر به هوش مصنوعی کاربردی‌تر هستند یا مانند رعایت مسئولیت انسانی ریشه در سیاست‌های چندین ساله دارند، اما برخی دیگر برای حوزه‌های عمومی و خصوصی نسبتاً جدید هستند.

این پیش‌نویس خواستار توسعه یک هوش مصنوعی عادلانه است که از "تعصب ناخواسته" مانند تبعیض نژادی یا تبعیض جنسیتی به دور باشد.

این هیئت می‌گوید هوش مصنوعی می‌تواند باعث شود که با افراد، ناعادلانه رفتار شود. همچنین از ارتش خواست که اطمینان حاصل کند نه فقط کد‌های هوش مصنوعی، بلکه منابع داده آن نیز بی‌طرفانه باشد. این کار می‌تواند برای هدف قرار دادن شبه‌نظامیان یا به حداقل رساندن تلفات غیرنظامیان مفید باشد.

این پیش‌نویس همچنین خواستار هوش مصنوعی "قابل کنترل" و رام است که اگر تشخیص داد در حال زدن آسیب‌های غیرضروری است، خود را متوقف کرده یا اختیار خود را به موقع به دست اپراتور انسانی دهد.

این دستور العمل یک چراغ سبز به توسعه اسلحه‌های کاملا خودکار تحت مدیریت هوش مصنوعی نیست، اما باعث می‌شود احتمال خطا و شیطنت هوش مصنوعی کاهش یابد.

براساس این پیش‌نویس، دستور العمل نهایی شامل فراخوان برای قابل ردیابی بودن خروجی‌های هوش مصنوعی است که به مردم اجازه دهد ببینند چگونه یک سیستم به نتایج خود رسیده است.

در حالی که این پیش‌نویس امیدوار کننده است، هنوز هم اجرای آن در عمل چالش برانگیز است. دادن وعده یک هوش مصنوعی پاسخگو و قابل اطمینان آسان است، اما اطمینان از اینکه هر شاخه نظامی روی هر پروژه‌ای این ایده آل‌ها را دنبال کند، چیز دیگری است.

چیزی که روشن است این است که استثناء برای پروژه‌های هوش مصنوعی نباید وجود داشته باشد و استراتژی‌های درست موجود در دستورالعمل‌ها باید از روز اول توسعه یک هوش مصنوعی حاضر باشند.

پنتاگون (Pentagon) مرکز و مقر فرماندهی وزارت دفاع ایالات متحده آمریکا است. این بنا نماد نیرو‌های مسلح ایالات متحده آمریکا است. کلمه پنتاگون معمولاً بیشتر به عنوان وزارت دفاع استفاده می‌شود. این ساختمان دارای بالاترین ظرفیت در بین ساختمان‌های اداری در دنیا است و یکی از بزرگ‌ترین ساختمان‌های دنیا از نظر مساحت طبقات است. پنتاگون تقریباً ۲۸ هزار نفر نظامی و کارمند و حدود ۳۰۰۰ نفر برای خدمات دارد. این ساختمان دارای پنج وجه است و شامل پنج طبقه بالای زمین و نیز دو طبقه زیرزمین می‌باشد. پنتاگون در هر طبقه پنج راهرو دارد و مجموعاً ۷۸ کیلومتر راهرو دارد. پنتاگون در زبان یونانی معنای پنج‌ضلعی می‌دهد. در واقع پنج ساختمان به هم چسبیده است و این ساختمان‌ها شامل ستاد نیروی زمینی، ستاد نیروی هوایی، ستاد نیروی دریایی، ستاد کل ارتش و وزارت دفاع می‌باشد.