درک ایمنی و اخلاق هوش مصنوعی

مقدمه 

گزارش «فهم ایمنی و اخلاق هوش مصنوعی» یک راهنمای جامع و گام به گام برای اِعمال اصول اخلاق و ایمنی هوش مصنوعی در طراحی سیستم‌های الگوریتمی  و پیاده‌سازی اخلاقی و مسئولانه سیستم‌های هوش مصنوعی در بخش عمومی به‌شمار می‏آید که توسط «برنامه سیاست عمومی موسسه آلن تورینگ» تهیه شده است. این راهنما به عنوان یک سند زنده و پویا در حال توسعه است و با بازخورد کاربران و افراد ذی‌نفع بهبود می‌یابد.

مفاهیم پایه

اخلاق هوش مصنوعی: مجموعه‌ای از ارزش‌ها، اصول و فنون که بر اساس استانداردهای پذیرفته شده درست و غلط برای هدایت رفتار اخلاقی در توسعه و استفاده از فناوری‌های هوش مصنوعی به کار می‌رود. این اصول برای ترویج رویه‌های مطلوب اخلاقی و تعیین وظایف و تکالیف لازم برای تولید برنامه‌های هوش مصنوعی اخلاقی، منصفانه و ایمن طراحی شده‌اند.

اهمیت اخلاق هوش مصنوعی: در عصر داده و پیشرفت سریع پلتفرم‌های محاسبات ابری و الگوریتم‌های یادگیری ماشین، فناوری‌های هوش مصنوعی نقش مهمی در بهبود خدمات اجتماعی مانند بهداشت، آموزش و مدیریت محیط زیست دارند. با این حال، نگرانی‌های مشروعی در مورد خطاها و تاثیرات منفی غیرمنتظره هوش مصنوعی وجود دارد. از این رو، در نظر گرفتن اخلاق و ایمنی هوش مصنوعی به عنوان اولویت اول ضروری است.

چالش‌های اخلاقی هوش مصنوعی: اخلاق هوش مصنوعی به عنوان پاسخی به مجموعه‌ای از آسیب‌های فردی و اجتماعی ناشی از سوء استفاده، طراحی ناکافی یا عواقب منفی ناخواسته سیستم‌های هوش مصنوعی شکل گرفته است. این آسیب‌ها شامل تبعیض و بی‌عدالتی، نقض حریم شخصی، انزوای اجتماعی و نتایج نامطمئن یا ناکیفیت می‌شوند.

پلتفرم اخلاقی برای تحویل مسئولانه پروژه هوش مصنوعی: ایجاد یک محیط تحویل پروژه که امکان طراحی و استقرار اخلاقی سیستم‌های هوش مصنوعی را فراهم می‌کند، نیازمند تلاش همه‌جانبه تیم و همکاری فعال برای اجرای یک معماری حکومتی است که در هر نقطه از چرخه نوآوری و اجرا، رویه‌های اخلاقی را به کار گیرد.

مؤلفه‎‌های اصلی ایجاد بستر توسعه مسئولانه سیستم‌های هوش مصنوعی

ارزش‌ها (SUM : حمایت، اعتماد و انگیزه) که شامل احترام به کرامت فردی، اتصالات انسانی، مراقبت از رفاه همگان و حفاظت از اولویت‌های اجتماعی و عدالت می‌شوند.

اصول (FAST Track : عدالت، پاسخگویی، پایداری، شفافیت) که برای اطمینان از اینکه پروژه‌های هوش مصنوع به طور عادلانه، قابل اعتماد و شفاف هستند طراحی شده‌اند.

چارچوب حکومتی مبتنی بر فرایند (PBG Framework) که ارزش‌های SUM و اصول FAST را در کل چرخه تحویل پروژه هوش مصنوعی عملیاتی می‌کند.

تحلیل اخلاقی و مسئولیت‌پذیری در تحویل پروژه هوش مصنوعی

این راهنما تاکید دارد که تیم‌های پروژه باید در هر مرحله از چرخه حیات پروژه هوش مصنوعی، از جمله طراحی، استفاده و نظارت، مسئولیت‌های اخلاقی خود را جدی بگیرند و اقدامات لازم برای حفظ عدالت، شفافیت و پاسخگویی را به کار ببرند.

نتیجه‌گیری

این گزارش راهنمایی‌های جامعی را برای اعمال اصول اخلاق و ایمنی پروژه هوش مصنوعی در توسعه و استقرار سیستم‌های الگوریتمی ارائه می‌دهد. تاکید بر این است که هر پروژه هوش مصنوعی باید با توجه به تاثیرات آن بر رفاه ذی‎‌نفعان و جوامع، عادلانه و غیر تبعیض‌آمیز، قابل اعتماد و شایسته اعتماد عمومی، و با شفافیت کامل در روند طراحی و پیاده‌سازی مدل و تصمیم‌گیری‌ها و رفتارهایش، توجیه‌پذیر باشد.

دیدگاه ها غیرفعال است