دولت استرالیا مشاوره ای را برای ارزیابی ممنوعیت هوش مصنوعی "پرخطر" - Cryptopolitan آغاز می کند

دولت استرالیا یک دوره مشاوره غیرمنتظره هشت هفته ای را با هدف تعیین اینکه آیا برخی از ابزارهای هوش مصنوعی (AI) پرخطر باید ممنوع شوند، آغاز کرده است. این اقدام به دنبال اقدامات مشابهی است که سایر مناطق از جمله ایالات متحده، اتحادیه اروپا و چین برای مقابله با خطرات مرتبط با توسعه سریع هوش مصنوعی انجام دادند.

در 1 ژوئن، وزیر صنعت و علم، اد هوسیک، دو مقاله را برای بررسی عمومی معرفی کرد: یکی در مورد "هوش مصنوعی ایمن و مسئولیت پذیر در استرالیا" و دیگری در مورد هوش مصنوعی مولد از شورای ملی علم و فناوری. این مقالات در کنار یک دوره مشاوره منتشر شد که تا 26 جولای باز خواهد بود.

دولت استرالیا به دنبال بازخورد در مورد استراتژی‌هایی برای ترویج «استفاده ایمن و مسئولانه از هوش مصنوعی» است و گزینه‌هایی مانند چارچوب‌های اخلاقی داوطلبانه، مقررات خاص یا ترکیبی از هر دو رویکرد را بررسی می‌کند. نکته قابل توجه، این مشاوره مستقیماً این سؤال را مطرح می‌کند که آیا برخی از برنامه‌ها یا فناوری‌های هوش مصنوعی پرخطر باید به طور کامل ممنوع شوند و به دنبال اطلاعاتی در مورد معیارهای شناسایی چنین ابزارهایی هستند.

مقاله بحث جامع شامل پیش‌نویس ماتریس خطر برای مدل‌های هوش مصنوعی، دسته‌بندی خودروهای خودران به عنوان «پرخطر» و ابزارهای هوش مصنوعی مولد برای ایجاد پرونده‌های بیماران پزشکی به عنوان «خطر متوسط» است. این سند بر کاربردهای مثبت هوش مصنوعی در بخش‌هایی مانند پزشکی، مهندسی، و قانون و همچنین بر آسیب‌های احتمالی مرتبط با ابزارهای جعلی، تولید اخبار جعلی و مواردی که ربات‌های هوش مصنوعی تشویق به خودآزاری می‌کنند، تأکید می‌کند.

دولت استرالیا در مقابل هوش مصنوعی

نگرانی‌های مربوط به سوگیری در مدل‌های هوش مصنوعی، و همچنین تولید اطلاعات غیرمعنا یا نادرست که به عنوان "توهمات" توسط سیستم‌های هوش مصنوعی شناخته می‌شوند، نیز در مقاله بحث مورد بررسی قرار گرفته‌اند. تصدیق می کند که پذیرش هوش مصنوعی در استرالیا در حال حاضر به دلیل سطح پایین اعتماد عمومی محدود است. این مقاله به مقررات هوش مصنوعی اجرا شده در سایر حوزه‌های قضایی و ممنوعیت موقت ChatGPT ایتالیا اشاره می‌کند.

علاوه بر این، گزارش شورای ملی علم و فناوری بر قابلیت‌های سودمند استرالیا در رباتیک و بینایی رایانه تاکید می‌کند، اما به نقاط ضعف نسبی در زمینه‌های اصلی مانند مدل‌های زبانی بزرگ اشاره می‌کند. این نگرانی‌ها را در مورد تمرکز منابع مولد هوش مصنوعی در تعداد کمی از شرکت‌های فناوری عمدتاً مستقر در ایالات متحده ایجاد می‌کند که خطرات بالقوه‌ای برای استرالیا به همراه دارد.

این گزارش بیشتر به بررسی مقررات جهانی هوش مصنوعی می‌پردازد، نمونه‌هایی از مدل‌های هوش مصنوعی مولد را ارائه می‌دهد و نشان می‌دهد که چنین مدل‌هایی احتمالاً تأثیرات گسترده‌ای بر بخش‌هایی از بانکداری و مالی تا خدمات عمومی، آموزش و صنایع خلاق خواهند داشت.