حکمرانی هوش مصنوعی کاربرد عمومی

مقدمه

گزارش «اهداف عمومی حکمرانی هوش مصنوعی»، یک بررسی جامع و عمیق را از چالش‌ها و فرصت‌های پیش روی مدل‌های «هوش مصنوعی کاربرد عمومی» (GPAI) ارائه می‌دهد. این گزارش به تفصیل به سه دسته اصلی ریسک‌های مرتبط با استفاده از این فناوری‌ها می‌پردازد: ریسک‌های ناشی از عدم قابلیت اطمینان، ریسک‌های سوء استفاده، و ریسک‌های سیستمی. مدل‌های هوش مصنوعی کاربرد عمومی به دلیل قابلیت‌های چشمگیر خود در درک و تولید متن، تصویر و سایر داده‌ها، توجه گسترده‌ای را به خود جلب کرده‌اند. اما همزمان، نگرانی‌های جدی در مورد ریسک‌های مرتبط با این فناوری‌ها نیز در حال افزایش است.

ریسک‌های ناشی از عدم قابلیت اطمینان

تبعیض و تکرار کلیشه‎ ها: این مدل‌ها ممکن است ناخواسته تبعیض نژادی یا جنسیتی را تقویت کنند.

اطلاعات نادرست و نقض حریم خصوصی: خطر انتشار اطلاعات غلط و نقض حریم خصوصی افراد.

حوادث: وقوع حوادث غیرمنتظره به دلیل خطاهای پیش‌بینی نشده در مدل‌ها.

ریسک‌های سوء استفاده

جرائم سایبری: استفاده از هوش مصنوعی در ارتکاب جرائم سایبری مانند کلاهبرداری.

 تهدیدات زیست‏ امنیتی: استفاده در تولید و توزیع سلاح‌های بیولوژیکی.

سوءاستفاده با انگیزه‌های سیاسی: استفاده در کارزارهای اطلاعاتی نادرست.

ریسک‌های سیستمی

تمرکز قدرت اقتصادی و نابرابری: متمرکز شدن قدرت در دست چند شرکت بزرگ.

همسان‌سازی ایدئولوژیک: ایجاد مدل‌هایی که ارزش‌های خاصی را منعکس می‌کنند.

اختلالات ناشی از عدم سازگاری جامعه: تأثیر سریع هوش مصنوعی بر بازار کار و گفتمان عمومی.

نتیجه‌گیری

گزارش «حکمرانی هوش مصنوعی کاربرد عمومی» با شرح جامع خطرات ناشی از این فناوری، بر ضرورت شناسایی و مدیریت پیش‌دستانه خطرات مرتبط با هوش مصنوعی کاربرد عمومی (GPAI) توسط سیاست‌گذاران و تصمیم‌سازان تأکید دارد. گزارش بر این باور است که اتحادیه اروپایی با تدوین مقرراتی مانند آیین‌نامه هوش مصنوعی اتحادیه اروپا و سایر اقدامات سیاستی، می‌تواند خود را به عنوان پیشگامی در زمینه هدایت توسعه و بکارگیری مسئولانه و امن این فناوری‌های نوین مطرح کند.

گزارش همچنین بر این نکته تأکید می‌کند که اتحادیه اروپا فرصت منحصر به فردی برای کاهش ریسک‌های مرتبط با هوش مصنوعی کاربردی عمومی دارد. این امر می‌تواند از طریق قانون‌گذاری‌های قوی و مؤثر، به ایفای نقش پیشرو در توسعه و استقرار مسئولانه و ایمن این فناوری‌ها کمک کند. علاوه بر این، گزارش بر نیاز به اقدامات سیاستی اضافی، آموزش تصمیم‌گیران و عموم مردم، اعمال سیاست‌های توزیعی، و تأمین مالی برای تحقیقات در زمینه اخلاق و ایمنی هوش مصنوعی تأکید دارد. همچنین، اهمیت توافق‌نامه‌های بین‌المللی در این زمینه نیز مورد توجه قرار گرفته است.

در کل، گزارش بر لزوم ایجاد یک چارچوب قانونی جامع و کارآمد برای مدیریت خطرات ناشی از استفاده از هوش مصنوعی کاربرد عمومی تأکید می‌کند و پیشنهاد می‌دهد که اتحادیه اروپا می‌تواند در این راستا نقش کلیدی و رهبری را ایفا کند. این چارچوب باید به گونه‌ای طراحی شود که هم توسعه و پیشرفت فناوری را تشویق کند و هم ایمنی و امنیت جامعه را در برابر خطرات احتمالی تضمین نماید.

نکته: مفهوم «هوش مصنوعی کاربرد عمومی» (General Purpose Artificial Intelligence) (یا هوش مصنوعی کُل‌نگر) از هوش مصنوعی عمومی (Artificial General Intelligence (AGI)) متمایز است.

هوش مصنوعی عمومی (AGI) به نوعی از هوش مصنوعی اشاره دارد که توانایی فهم، یادگیری و انجام هر نوع وظیفه‌ای که یک انسان می‌تواند انجام دهد را دارد. به عبارت دیگر، AGI به هوش مصنوعی اشاره دارد که می‌تواند در سطح یا بالاتر از هوش انسانی عمل کند و در زمینه‌های مختلف مانند حل مسئله، یادگیری، برنامه‌ریزی، و خلاقیت فعالیت نماید. AGI هنوز در حد نظریه و پژوهش و گسترش بوده و به واقعیت تبدیل نشده است.

هوش مصنوعی کاربرد عمومی (GPAI) به هوش مصنوعی اشاره دارد که برای انجام طیف وسیعی از کاربردها طراحی شده است. GPAI نمی‌تواند در همه زمینه‌ها مانند یک انسان عمل کند، اما می‌تواند وظایف متنوعی را در حوزه‌های گوناگون به انجام رساند. این نوع هوش مصنوعی عمدتاً بر اساس یادگیری ماشین و الگوریتم‌های یادگیری عمیق بنا شده است و در حوزه‌هایی مانند ترجمه زبان، تشخیص چهره و پردازش زبان طبیعی کاربرد دارد.

دیدگاه ها غیرفعال است